昨日,百度搜索團隊工程師LEE發布文章表示,百度已經抽調大量人員組成原創項目組,致力構建原創環境,推動中文互聯網的前進。同時,百度披露了原創識別系統-“起源”算法的部分細節。
據百度工程師LEE稱,百度原創識別系統,在百度大數據的雲計算平台上開展,能夠快速實現對全部中文互聯網網頁的重復聚合和鏈接指向關系分析。首 先,通過內容相似程度來聚合采集和原創,將相似網頁聚合在一起作為原創識別的候選集合;其次,對原創候選集合,通過作者、發布時間、鏈接指向、用戶評論、 作者和站點的歷史原創情況、轉發軌跡等上百種因素來識別判斷出原創網頁;最後,通過價值分析系統判斷該原創內容的價值高低進而適當的指導最終排序。
同時LEE表示,通過實驗以及真實線上數據,百度原創識別“起源”算法已經取得了一定的進展,在新聞、資訊等領域解決了絕大部分問題。
百度站長平台LEE發布的全文內容如下:談談原創項目那點事
一、搜索引擎為什麼要重視原創
1.1 采集泛濫化
來自百度的一項調查顯示,超過80%的新聞和資訊等都在被人工轉載或機器采集,從傳統媒體的報紙到娛樂網站花邊消息、從游戲攻略到產品評測,甚至高 校圖書館發的催還通知都有站點在做機器采集。可以說,優質原創內容是被包圍在采集的汪洋大海中之一粟,搜索引擎在海中淘粟,是既艱難又具有挑戰性的事情。
1.2 提高搜索用戶體驗
數字化降低了傳播成本,工具化降低了采集成本,機器采集行為混淆內容來源降低內容質量。采集過程中,出於無意或有意,導致采集網頁內容殘缺不全,格 式錯亂或附加垃圾等問題層出不窮,這已經嚴重影響了搜索結果的質量和用戶體驗。搜索引擎重視原創的根本原因是為了提高用戶體驗,這裡講的原創為優質原創內 容。
1.3 鼓勵原創作者和文章
轉載和采集,分流了優質原創站點的流量,不再具屬原創作者的名稱,會直接影響到優質原創站長和作者的收益。長期看會影響原創者的積極性,不利於創 新,不利於新的優質內容產生。鼓勵優質原創,鼓勵創新,給予原創站點和作者合理的流量,從而促進互聯網內容的繁榮,理應是搜索引擎的一個重要任務。
二、采集很狡詐,識別原創很艱難
2.1 采集冒充原創,篡改關鍵信息
當前,大量的網站批量采集原創內容後,用人工或機器的方法,篡改作者、發布時間和來源等關鍵信息,冒充原創。此類冒充原創是需要搜索引擎識別出來予以適當調整的。
2.2 內容生成器,制造偽原創
利用自動文章生成器等工具,“獨創”一篇文章,然後安一個吸引眼球的title,現在的成本也低得很,而且一定具有獨創性。然而,原創是要具有社會 共識價值的,而不是胡亂制造一篇根本不通的垃圾就能算做有價值的優質原創內容。內容雖然獨特,但是不具社會共識價值,此類偽原創是搜索引擎需要重點識別出 來並予以打擊的。
2.3 網頁差異化,結構化信息提取困難
不同的站點結構化差異比較大,html標簽的含義和分布也不同,因此提取關鍵信息如標題、作者和時間的難易程度差別也比較大。做到既提得全,又提得 准,還要最及時,在當前的中文互聯網規模下實屬不易,這部分將需要搜索引擎與站長配合好才會更順暢的運行,站長們如果用更清晰的結構告知搜索引擎網頁的布 局,將使搜索引擎高效地提取原創相關的信息。
三、百度識別原創之路如何走?
3.1 成立原創項目組,打持久戰
面對挑戰,為了提高搜索引擎用戶體驗、為了使優質原創者原創網站得到應有的收益、為了推動中文互聯網的前進,我們抽調大量人員組成原創項目組:技術、產品、運營、法務等等,這不是臨時組織不是1個月2個月的項目,我們做好了打持久戰的准備。
3.2 原創識別“起源”算法
互聯網動辄上百億、上千億的網頁,從中挖掘原創內容,可以說是大海撈針,千頭萬緒。我們的原創識別系統,在百度大數據的雲計算平台上開展,能夠快速 實現對全部中文互聯網網頁的重復聚合和鏈接指向關系分析。首先,通過內容相似程度來聚合采集和原創,將相似網頁聚合在一起作為原創識別的候選集合;其次, 對原創候選集合,通過作者、發布時間、鏈接指向、用戶評論、作者和站點的歷史原創情況、轉發軌跡等上百種因素來識別判斷出原創網頁;最後,通過價值分析系 統判斷該原創內容的價值高低進而適當的指導最終排序。
目前,通過我們的實驗以及真實線上數據,“起源”算法已經取得了一定的進展,在新聞、資訊等領域解決了絕大部分問題。當然,其他領域還有更多的原創問題等待“起源”去解決,我們堅定的走著。
3.3 原創星火計劃
我 們一直致力於原創內容的識別和排序算法調整,但在當前互聯網環境下,快速識別原創解決原創問題確實面臨著很大的挑戰,計算數據規模龐大,面對的采集方式層 出不窮,不同站點的建站方式和模版差異巨大,內容提取復雜等等問題。這些因素都會影響原創算法識別,甚至導致判斷出錯。這時候就需要百度和站長共同努力來 維護互聯網的生態環境,站長推薦原創內容,搜索引擎通過一定的判斷後優待原創內容,共同推進生態的改善,鼓勵原創,這就是“原創星火計劃”,旨在快速解決 當前面臨的嚴重問題。另外,站長對原創內容的推薦,將應用於“起源”算法,進而幫助百度發現算法的不足,不斷改進,用更加智能的識別算法自動識別原創內 容。
目前,原創星火計劃也取得了初步的效果,一期對部分重點原創新聞站點的原創內容在百度搜索結果中給予了原創標記、作者展示等等,並且在排序及流量上也取得了合理的提升。
最後,原創是生態問題,需要長期的改善,我們將持續投入,與站長攜手推動互聯網生態的進步;原創是環境問題,需要大家來共同維護,站長們多做原創,多推薦原創,百度將持續努力改進排序算法,鼓勵原創內容,為原創作者、原創站點提供合理的排序和流量。