搜索引擎分詞算法

2022-06-10    分類: 網(wǎng)站建設(shè)

當(dāng)日益劇增的海量信息讓我們眼花繚亂時(shí),搜索引擎的出現(xiàn)可以讓我們快速找到自己想要的答案。因此多了解搜索引擎的分詞算法,可以讓網(wǎng)站在搜索引擎上獲得更好的展現(xiàn)機(jī)會(huì)。網(wǎng)站建設(shè)小編在講解中文分詞技術(shù)之前,先來了解下全文檢索技術(shù)。

 全文檢索技術(shù)

  全文檢索是指索引程序掃描文章中的每個(gè)詞并建立對(duì)應(yīng)索引,記錄該詞出現(xiàn)的位置和次數(shù)。當(dāng)通過搜索引擎查詢時(shí),檢索程序就在記錄的索引進(jìn)行查找并返回給用戶。全文檢索又分為基于字的全文索引和基于詞的全文索引?;谧值娜乃饕龝?huì)對(duì)內(nèi)容中的每個(gè)字建立索引并記錄,此方法查全率高但查準(zhǔn)率低,特別是對(duì)于中文,有時(shí)搜索馬克,會(huì)列出馬克思的結(jié)果。基于詞的全文索引是把一個(gè)詞語作為一個(gè)單位進(jìn)行索引記錄并能處理同義詞。搜索引擎有自己的詞庫,當(dāng)用戶搜索時(shí),搜索引擎會(huì)從詞庫中抽取關(guān)鍵詞作為索引項(xiàng),這樣可以大大提高檢索的準(zhǔn)確率。

  中文分詞技術(shù)

  一直以來大家都比較熟悉百度,百度有自己的中文分詞技術(shù)。一般采用的包括正向大匹配,反向大匹配,好匹配法,專家系統(tǒng)方法等。其中大正向匹配是最常用的分詞解決方案,它采用機(jī)械式算法,通過建立詞典并進(jìn)行正向大匹配對(duì)中文進(jìn)行分詞。舉個(gè)簡單的例子比如搜索“北京大學(xué)在哪里”則返回結(jié)果很多都是包含北京大學(xué),北大等詞語的網(wǎng)頁,搜索引擎就是采用正向大匹配去判斷,把北京大學(xué)當(dāng)做一個(gè)詞語來索引記錄并返回。當(dāng)然,正向大匹配也有不完整性,比如長度過長的詞語,搜索引擎有時(shí)無法準(zhǔn)確的分詞或者對(duì)前后都相互關(guān)聯(lián)的詞無法準(zhǔn)確分詞。例如“結(jié)合成分子時(shí)”會(huì)被返回結(jié)合、成分、子時(shí)而有時(shí)我們想要的關(guān)鍵詞是“分子”。

  很多時(shí)候百度都會(huì)根據(jù)自己詞庫中詞語的權(quán)重進(jìn)行拆分,權(quán)重的計(jì)算基于生活各個(gè)方面,比較復(fù)雜,搜索引擎要做的就是返回用戶最想要的結(jié)果,有時(shí)站長們做網(wǎng)站要站在用戶的角度去考慮問題,其實(shí)這也是站在搜索引擎的角度考慮問題,不論在確定目標(biāo)關(guān)鍵詞或者是長尾關(guān)鍵詞時(shí),都可以根據(jù)中文分詞的原理來選擇,這樣可以大化的減少無用功。

  分詞原理不斷在變化,不斷在更新,我們應(yīng)該繼續(xù)學(xué)習(xí),只有掌握了本質(zhì)才能抓住實(shí)質(zhì)。

標(biāo)題名稱:搜索引擎分詞算法
文章起源:http://www.muchs.cn/news47/165897.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供外貿(mào)網(wǎng)站建設(shè)、網(wǎng)頁設(shè)計(jì)公司、網(wǎng)站導(dǎo)航、虛擬主機(jī)、外貿(mào)建站Google

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來源: 創(chuàng)新互聯(lián)

微信小程序開發(fā)