mapreduce性能優(yōu)化的方法是什么

這篇文章主要講解了“mapreduce性能優(yōu)化的方法是什么”，文中的講解內(nèi)容簡單清晰，易于學(xué)習(xí)與理解，下面請大家跟著小編的思路慢慢深入，一起來研究和學(xué)習(xí)“mapreduce性能優(yōu)化的方法是什么”吧！

網(wǎng)站建設(shè)哪家好，找創(chuàng)新互聯(lián)建站！專注于網(wǎng)頁設(shè)計(jì)、網(wǎng)站建設(shè)、微信開發(fā)、微信平臺(tái)小程序開發(fā)、集團(tuán)企業(yè)網(wǎng)站建設(shè)等服務(wù)項(xiàng)目。為回饋新老客戶創(chuàng)新互聯(lián)還提供了蘇仙免費(fèi)建站歡迎大家使用！

map task 個(gè)數(shù)嚴(yán)重影響mr的性能。網(wǎng)上很多資料，講解了原理和方法，我這里不再敖述。我總結(jié)了兩種修改方法，希望對大家有幫助。

方法1：修改 hdfs 的blocksize，這種方法很不可取，需要重新啟動(dòng)集群。關(guān)鍵是以前的數(shù)據(jù)依然保持者以前blocksize的大小，新數(shù)據(jù)才會(huì)是新的blocksize的大小。比如以前是128M，修改為512M。以前的數(shù)據(jù)沒變化，blocksize依然是128M。

方法二：推薦方法。代碼中設(shè)置，最靈活，根據(jù)不同需求，設(shè)置不一樣的值。設(shè)置 mapred.min.split.size 的大小代碼中添加FileInputFormat.setMinInputSplitSize，單位是字節(jié)，如我的代碼：

            job.setMapOutputValueClass(IntWritable.class);
           job.setNumReduceTasks(1);
           //設(shè)置最小分片為512M
           FileInputFormat.setMinInputSplitSize(job, 1024*1024*512);
           FileInputFormat.addInputPath(job, new Path("/usr/keyword/input"));

補(bǔ)充說明：

TextInputFormat.setMinInputSplitSize(job,1024L);//設(shè)置最小分片大小
TextInputFormat.setMaxInputSplitSize(job,1024×1024×10L);//設(shè)置最大分片大小

感謝各位的閱讀，以上就是“mapreduce性能優(yōu)化的方法是什么”的內(nèi)容了，經(jīng)過本文的學(xué)習(xí)后，相信大家對mapreduce性能優(yōu)化的方法是什么這一問題有了更深刻的體會(huì)，具體使用情況還需要大家實(shí)踐驗(yàn)證。這里是創(chuàng)新互聯(lián)，小編將為大家推送更多相關(guān)知識(shí)點(diǎn)的文章，歡迎關(guān)注！

本文題目：mapreduce性能優(yōu)化的方法是什么
瀏覽地址：http://muchs.cn/article24/piedce.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供定制網(wǎng)站、企業(yè)建站、關(guān)鍵詞優(yōu)化、Google、網(wǎng)頁設(shè)計(jì)公司、域名注冊

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源：創(chuàng)新互聯(lián)

猜你還喜歡下面的內(nèi)容