如何處理php+ajax導入大數(shù)據(jù)時產(chǎn)生的問題-創(chuàng)新互聯(lián)

小編給大家分享一下如何處理php+ajax導入大數(shù)據(jù)時產(chǎn)生的問題,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!

創(chuàng)新互聯(lián)建站成立以來不斷整合自身及行業(yè)資源、不斷突破觀念以使企業(yè)策略得到完善和成熟,建立了一套“以技術(shù)為基點,以客戶需求中心、市場為導向”的快速反應體系。對公司的主營項目,如中高端企業(yè)網(wǎng)站企劃 / 設計、行業(yè) / 企業(yè)門戶設計推廣、行業(yè)門戶平臺運營、成都app軟件開發(fā)公司手機網(wǎng)站制作設計、微信網(wǎng)站制作、軟件開發(fā)、成都西信服務器托管等實行標準化操作,讓客戶可以直觀的預知到從創(chuàng)新互聯(lián)建站可以獲得的服務效果。

遇到的問題就從先到后的一一說吧。

問題1 按照我最初的想法,先上傳文件再讀取文件。這里問題就來了,當文件較大的時候上傳較慢,導致客戶看到的操作一直處于等待狀態(tài),不人性化。

處理辦法:我是這樣做的,大神有更好的辦法,求介紹。我先把文件上傳上去,然后把文件存到一個特定的文件夾就叫 import吧   ,然后返回一個這個文件名字。這樣就確保了文件是上傳成功的。并且我可以在他返回名字的這一步用js  給客戶一個提示。然后就是ajax去請求php讀取文件,插入數(shù)據(jù)庫。可是問題來了。

問題2 當我用ajax去請求php讀取文件并插入數(shù)據(jù)庫的時候,遇到一個問題,就是ajax請求總是在1min的時候,斷掉。我一想 ,這應該是php的較大執(zhí)行時間max_execution_time的原因吧,結(jié)果我修改為300秒。還是這樣,那我就認為會不會是apache的 較大get時間max_input_time呢,我就在代碼加一個 ini_set  結(jié)果,用ini_get   查看max_input_time,用ini_set設置無效,還是60秒,在網(wǎng)上查了很多資料,還是不知道為啥。有大神知道的,請給我回復下。菜鳥先謝過了。那沒辦法,我只能去服務器把php.ini配置修改了。經(jīng)理說不讓修改的,為了測試,偷偷改了--最后修改回來了。修改之后,測試,還是不行。還是到一分鐘 就執(zhí)行超時。真的很納悶。不知道什么原因。求指教。那沒辦法。

這種辦法行不通了,對一個5m的文件只能分行讀取了。然后就是對代碼的一通修改,分行讀取是這樣操作的,先ajax請求,然后每次讀取2000條  然后對這2000條數(shù)據(jù)進行處理,插入數(shù)據(jù)庫(文章最后介紹一個好用的分行讀取函數(shù))。然后每次ajax執(zhí)行完,返回一個狀態(tài)符,和本次讀取到的行數(shù),然后下次接著讀。知道最后讀取完。這中間還遇到一個問題:就是當我對每一行數(shù)據(jù)進行查重的時候遇到的,是這樣的,我對得到的內(nèi)容進行循環(huán),然后查一下每行是否存在,當我判斷$count是否大于0 的時候,當已存在的時候,我用continue,執(zhí)行下一次循環(huán)。但是當我在導入10000條的時候,總是在8000條的時候報錯說 服務器內(nèi)部錯誤。很悶,不解問什么,結(jié)果只能用if  else代替了。納悶。一個小提醒:插入數(shù)據(jù)庫的時候 不要一條一條的插入,好這樣 inset  into  aaa(`xx`,`xxx`)values('111','111'),('222','222')。這樣 速度會快很多。

如何處理php+ajax導入大數(shù)據(jù)時產(chǎn)生的問題

行號讀取函數(shù),SplFileObject這個類庫真的很好用推薦。有知道我的問題的,求大神指教。

復制代碼 代碼如下:


function getFileLines($filename, $startLine, $endLine, $method = 'rb'){
      $content = array();
      $filename = DATA_PATH.DS.'import' . DS . $filename;
      $count = $endLine - $startLine;
      $fp = new SplFileObject($filename, $method);
      $fp->seek($startLine); // 轉(zhuǎn)到第N行, seek方法參數(shù)從0開始計數(shù)
      for ($ii = 0; $ii <= $count; ++$ii) {
            $content[] = $fp->current(); // current()獲取當前行內(nèi)容
            $fp->next(); // 下一行
      }
      return array_filter($content); // array_filter過濾:false,null,''
}


以上是“如何處理php+ajax導入大數(shù)據(jù)時產(chǎn)生的問題”這篇文章的所有內(nèi)容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內(nèi)容對大家有所幫助,如果還想學習更多知識,歡迎關注創(chuàng)新互聯(lián)行業(yè)資訊頻道!

當前標題:如何處理php+ajax導入大數(shù)據(jù)時產(chǎn)生的問題-創(chuàng)新互聯(lián)
本文網(wǎng)址:http://muchs.cn/article2/dpgcic.html

成都網(wǎng)站建設公司_創(chuàng)新互聯(lián),為您提供小程序開發(fā)微信小程序、網(wǎng)站設計、網(wǎng)站營銷、App開發(fā)、網(wǎng)站收錄

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

搜索引擎優(yōu)化