分詞技術就是搜索引擎針對用戶提交查詢的關鍵串進行的查詢處理後根據用戶的關鍵詞串用各種匹配方法進行的一種技術。
首先大家看下我的標題、關鍵詞、描述:
圖片也發出來,讓大家更直觀的觀察:
我們大家可以從這裡面分出來很多詞語:SEO、網站優化、網站運營、網站推廣、博客、獨立,甚至如果你要細分的話,還可以分為單個字,單個詞,比如網站優化就可以分為優化、網站。這裡簡單的說下,肯定不止這麼多,只是讓大家了解一下罷了,不需要在這個地方糾結。
下面看下我隨便組合的關鍵詞排名,我們首先就組合下武漢網站優化:
然後在看一下其他朋友的:
我博客裡面並沒有武漢網站優化這個整體詞,但是排名是第一,下面這個網站title大家可以仔細看下,幾乎每個詞都帶上武漢,這樣關鍵詞做的也少,而且顯得啰嗦,排名也不咋地(這個也跟本身權重有關系)
這裡還給大家看幾個圖,我就不過多解釋了:
SEO博客排名第5
武漢網站推廣排名第2
武漢網站優化排名第1
武漢博客排名第3
這裡面還有非常多的,大家自己組合,不想影響整篇文文章的美觀,隨便切的幾個圖,大家自己去組合哈,比如武漢SEO啊,武漢SEO推廣,武漢SEO博客,這些大家自己去組合測試,下面我來說下我對百度分詞技術的一些理解:
簡單的一句話就是,百度分詞技術就是利用了關鍵詞匹配來進行給用戶提供信息的一個技術,大家都知道在百度裡面搜索某個東西,標題最多顯示32個漢字,其他的用省略號代替,這樣看起來不是很漂亮,所以我們要盡量把標題搞短一點,過多的浪費的詞語完全沒必要寫上去,浪費字,這裡提醒下各位,有的時候一些東西自己了解清楚就可以,沒必要過多的糾結,畢竟搜索引擎裡面包含的技術確實太多了,每個都去仔細分析,浪費你的表情!!!在7月7日寫的武漢SEO混小子對網站做了一個大手術裡面就寫了這個博客利用百度分詞技術,現在也算是得到了一些自己想要的東西咯
現有的分詞算法可分為三大類:基於字符串匹配的分詞方法、基於理解的分詞方法和基於統計的分詞方法。
1、基於字符串匹配的分詞方法
這種方法又叫做機械分詞方法,它是按照一定的策略將待分析的漢字串與一個“充分大的”機器詞典中的詞條進行配,若在詞典中找到某個字符串,則匹配成功(識別出一個詞)。按照掃描方向的不同,串匹配分詞方法可以分為正向匹配和逆向匹配;按照不同長度優先匹配的情況,可以分為最大(最長)匹配和最小(最短)匹配;按照是否與詞性標注過程相結合,又可以分為單純分詞方法和分詞與標注相結合的一體化方法。常用的幾種機械分詞方法如下:
1)正向最大匹配法(由左到右的方向);
2)逆向最大匹配法(由右到左的方向);
3)最少切分(使每一句中切出的詞數最小)。
還可以將上述各種方法相互組合,例如,可以將正向最大匹配方法和逆向最大匹配方法結合起來構成雙向匹配法。由於漢語單字成詞的特點,正向最小匹配和逆向最小匹配一般很少使用。一般說來,逆向匹配的切分精度略高於正向匹配,遇到的歧義現象也較少。統計結果表明,單純使用正向最大匹配的錯誤率為1/169,單純使用逆向最大匹配的錯誤率為1/245。但這種精度還遠遠不能滿足實際的需要。實際使用的分詞系統,都是把機械分詞作為一種初分手段,還需通過利用各種其它的語言信息來進一步提高切分的准確率。
一種方法是改進掃描方式,稱為特征掃描或標志切分,優先在待分析字符串中識別和切分出一些帶有明顯特征的詞,以這些詞作為斷點,可將原字符串分為較小的串再來進機械分詞,從而減少匹配的錯誤率。另一種方法是將分詞和詞類標注結合起來,利用豐富的詞類信息對分詞決策提供幫助,並且在標注過程中又反過來對分詞結果進行檢驗、調整,從而極大地提高切分的准確率。
對於機械分詞方法,可以建立一個一般的模型,在這方面有專業的學術論文,這裡不做詳細論述。
2、基於理解的分詞方法
這種分詞方法是通過讓計算機模擬人對句子的理解,達到識別詞的效果。其基本思想就是在分詞的同時進行句法、語義分析,利用句法信息和語義信息來處理歧義現象。它通常包括三個部分:分詞子系統、句法語義子系統、總控部分。在總控部分的協調下,分詞子系統可以獲得有關詞、句子等的句法和語義信息來對分詞歧義進行判斷,即它模擬了人對句子的理解過程。這種分詞方法需要使用大量的語言知識和信息。由於漢語語言知識的籠統、復雜性,難以將各種語言信息組織成機器可直接讀取的形式,因此目前基於理解的分詞系統還處在試驗階段。
3、基於統計的分詞方法
從形式上看,詞是穩定的字的組合,因此在上下文中,相鄰的字同時出現的次數越多,就越有可能構成一個詞。因此字與字相鄰共現的頻率或概率能夠較好的反映成詞的可信度。可以對語料中相鄰共現的各個字的組合的頻度進行統計,計算它們的互現信息。定義兩個字的互現信息,計算兩個漢字X、Y的相鄰共現概率。互現信息體現了漢字之間結合關系的緊密程度。當緊密程度高於某一個阈值時,便可認為此字組可能構成了一個詞。這種方法只需對語料中的字組頻度進行統計,不需要切分詞典,因而又叫做無詞典分詞法或統計取詞方法。但這種方法也有一定的局限性,會經常抽出一些共現頻度高、但並不是詞的常用字組,例如“這一”、“之一”、“有的”、“我的”、“許多的”等,並且對常用詞的識別精度差,時空開銷大。實際應用的統計分詞系統都要使用一部基本的分詞詞典(常用詞詞典)進行串匹配分詞,同時使用統計方法識別一些新的詞,即將串頻統計和串匹配結合起來,既發揮匹配分詞切分速度快、效率高的特點,又利用了無詞典分詞結合上下文識別生詞、自動消除歧義的優點。
到底哪種分詞算法的准確度更高,目前並無定論。對於任何一個成熟的分詞系統來說,不可能單獨依靠某一種算法來實現,都需要綜合不同的算法。筆者了解,海量科技的分詞算法就采用“復方分詞法”,所謂復方,相當於用中藥中的復方概念,即用不同的藥材綜合起來去醫治疾病,同樣,對於中文詞的識別,需要多種算法來處理不同的問題。
分詞中的難題
有了成熟的分詞算法,是否就能容易的解決中文分詞的問題呢?事實遠非如此。中文是一種十分復雜的語言,讓計算機理解中文語言更是困難。在中文分詞過程中,有兩大難題一直沒有完全突破。
1、歧義識別
歧義是指同樣的一句話,可能有兩種或者更多的切分方法。例如:表面的,因為“表面”和“面的”都是詞,那麼這個短語就可以分成“表面 的”和“表 面的”。這種稱為交叉歧義。像這種交叉歧義十分常見,前面舉的“和服”的例子,其實就是因為交叉歧義引起的錯誤。“化妝和服裝”可以分成“化妝 和 服裝”或者“化妝 和服 裝”。由於沒有人的知識去理解,計算機很難知道到底哪個方案正確。
交叉歧義相對組合歧義來說是還算比較容易處理,組合歧義就必需根據整個句子來判斷了。例如,在句子“這個門把手壞了”中,“把手”是個詞,但在句子“請把手拿開”中,“把手”就不是一個詞;在句子“將軍任命了一名中將”中,“中將”是個詞,但在句子“產量三年中將增長兩倍”中,“中將”就不再是詞。這些詞計算機又如何去識別?
如果交叉歧義和組合歧義計算機都能解決的話,在歧義中還有一個難題,是真歧義。真歧義意思是給出一句話,由人去判斷也不知道哪個應該是詞,哪個應該不是詞。例如:“乒乓球拍賣完了”,可以切分成“乒乓球拍 賣 完 了”、也可切分成“乒乓球 拍賣 完 了”,如果沒有上下文其他的句子,恐怕誰也不知道“拍賣”在這裡算不算一個詞。
2、新詞識別
新詞,專業術語稱為未登錄詞。也就是那些在字典中都沒有收錄過,但又確實能稱為詞的那些詞。最典型的是人名,人可以很容易理解句子“王軍虎去廣州了”中,“王軍虎”是個詞,因為是一個人的名字,但要是讓計算機去識別就困難了。如果把“王軍虎”做為一個詞收錄到字典中去,全世界有那麼多名字,而且每時每刻都有新增的人名,收錄這些人名本身就是一項巨大的工程。即使這項工作可以完成,還是會存在問題,例如:在句子“王軍虎頭虎腦的”中,“王軍虎”還能不能算詞?
新詞中除了人名以外,還有機構名、地名、產品名、商標名、簡稱、省略語等都是很難處理的問題,而且這些又正好是人們經常使用的詞,因此對於搜索引擎來說,分詞系統中的新詞識別十分重要。目前新詞識別准確率已經成為評價一個分詞系統好壞的重要標志之一。
中文分詞的應用
目前在自然語言處理技術中,中文處理技術比西文處理技術要落後很大一段距離,許多西文的處理方法中文不能直接采用,就是因為中文必需有分詞這道工序。中文分詞是其他中文信息處理的基礎,搜索引擎只是中文分詞的一個應用。其他的比如機器翻譯(MT)、語音合成、自動分類、自動摘要、自動校對等等,都需要用到分詞。因為中文需要分詞,可能會影響一些研究,但同時也為一些企業帶來機會,因為國外的計算機處理技術要想進入中國市場,首先也是要解決中文分詞問題。在中文研究方面,相比外國人來說,中國人有十分明顯的優勢。
分詞准確性對搜索引擎來說十分重要,但如果分詞速度太慢,即使准確性再高,對於搜索引擎來說也是不可用的,因為搜索引擎需要處理數以億計的網頁,如果分詞耗用的時間過長,會嚴重影響搜索引擎內容更新的速度。因此對於搜索引擎來說,分詞的准確性和速度,二者都需要達到很高的要求。目前研究中文分詞的大多是科研院校,清華、北大、哈工大、中科院、北京語言學院、東北大學、IBM研究院、微軟中國研究院等都有自己的研究隊伍,而真正專業研究中文分詞的商業公司除了海量科技以外,幾乎沒有了。科研院校研究的技術,大部分不能很快產品化,而一個專業公司的力量畢竟有限,看來中文分詞技術要想更好的服務於更多的產品,還有很長一段路。
實例解析搜索引擎優化SEO中的分詞技術:
前段時間發現好多人在研究中文搜索引擎的分詞,什麼意思呢?就是說一些比較長的詞搜索搜索引擎會分認為是一個?還是幾個詞呢?那麼,我也來探討一下搜索引擎優化SEO中的分詞吧。因為算法及關鍵字的變動,會有一定的出入。此篇僅僅是拋磚引玉!
此篇文章僅僅針對國內最大的中文搜索引擎——百度。Google的中文分詞技術也會舉幾個例子來說明一下!就在這裡不做特別深入的探討了。為什麼呢?因為Google的分詞,大家去看快照就可以了。Yahoo的快照經常打不開,且使用率不高,在這裡也不做探討。
那麼,搜索引擎在什麼情況下才會分詞呢?我的回答是:百度在抓取的網頁中沒有完全匹配的關鍵字,才會去分詞,而Google則不同,它會把一個長的關鍵字分為若干個小的詞語來對待。搜索引擎分詞會按詞的權重來分,並且會按中國人的習慣,去認為哪個詞是主要的,哪個詞是次要的。
其實如果探討搜索引擎什麼情況會分詞,建議你翻到十頁以後去看看。越往後,分詞越細。因為網頁已經不再極盡相關,所以越能明白搜索引擎組詞的規律。不過,對於搜索引擎而言,並沒有所謂的分詞推主詞一說(點石版主,SEO資料站站長語),那純粹是意淫!因為搜索引擎的定律是管死的,希望搞SEO的分享經驗能夠多有點專業精神!