良好的網站結構更有利於搜索引擎抓取和更新,搜索引擎只是網站上一個普通的訪客,對網站的抓取方式、對網站/網頁的價值判斷,也都是從用戶的角度出發的,任何對用戶體驗的改進,都是對搜索引擎改進。面向搜索引擎的網站建設,主要分為三個部分:如何更好的讓搜索引擎收錄網站中的內容、如何在搜索引擎中獲得良好的排名、如何讓用戶從眾多的搜索結果中點擊你的網站。簡單來說,就是收錄、排序、展現。下面我們將從這三個方面分別介紹。
1)使用文字而不是flash、圖片、Javascript等來顯示重要的內容或鏈接;
如果必須使用flash請將flash加上title=””標簽;如果是圖片增加圖片alt=””標簽;如果是Javascript,請封裝成js文件調用,減少搜索引擎抓取;
2)另一種方式:如果必須使用Flash制作網頁,建議同時制作一個供搜索引擎收錄的文字版,並在首頁使用文本鏈接指向文字版;
3)Ajax等搜索引擎不能識別的技術,只用在需要用戶交互的地方,不把希望搜索引擎”看”到的導航及正文內容放到Ajax中;可以封裝調用文件;
4)不使用frame和iframe框架結構,通過iframe顯示的內容可能會被百度丟棄。如果必須使用框架,請增加title=””標簽
網站應該有清晰的結構和明晰的導航,這能幫助用戶快速從你的網站中找到自己需要的內容,也可以幫助搜索引擎快速理解網站中每一個網頁所處的結構層次。網站結構建議采用樹型結構,樹型結構通常分為以下三個層次:首頁——頻道——文章頁。像一棵大樹一樣,首先有一個樹干(首頁),然後再是樹枝(頻道),最後是樹葉(普通內容頁)。樹型結構的擴展性更強,網站內容變多時,可以通過細分樹枝(頻道)來輕松應對。注意:理想的網站結構應該是更扁平一些,從首頁到內容頁的層次盡量少,這樣搜索引擎處理起來,會更簡單。同時,網站也應該是一個網狀結構,網站上每個網頁都應該有指向上、下級網頁以及相關內容的鏈接:首頁有到頻道頁的鏈接,頻道頁有到首頁和普通內容頁的鏈接、普通內容頁有到上級頻道以及首頁的鏈接、內容相關的網頁間互相有鏈接。網站中每一個網頁,都應該是網站結構的一部分,都應該能通過其他網頁鏈接到。
1)確保每個頁面都可以通過至少一個文本鏈接到達;
2)重要的內容,應該能從首頁或者網站結構中比較淺的層次訪問到;
3)合理分類網站上的內容,不要過度細分。
4)為每個頁面都加上導航欄,讓用戶可以方便的返回頻道、網站首頁,也可以讓搜索引擎方便的定位網頁在網結構中的層次;
5)內容較多的網站,建議使用面包屑式的導航,這更容易讓用戶理解當前所處的位置:網站首頁 > 頻道 > 當前浏覽頁面 ;
6)導航中使用文字鏈接,不使用復雜的js或者flash;
7)使用圖片做導航時,可以使用Alt注釋,用Alt告訴搜索引擎所指向的網頁內容是什麼。
百度爬蟲在進行抓取和處理時,是根據http協議規范來設置相應的邏輯的,所以請站長們也盡量參考http協議中關於返回碼的含義的定義進行設置。Baiduspider 對常用的http返回碼的處理邏輯是這樣的:
1)404 返回碼的含義是“Not Found”,百度會認為網頁已經失效,那麼通常會從搜索結果中刪除,並且短期內 spider 再次發現這條URL也不會抓取。
2)503 返回碼的含義是“Service Unavailable”,百度會認為該網頁臨時不可訪問,通常網站臨時關閉,帶寬有限等會產生這種情況。對於網頁返回503,百度spider不會把這條URL直接刪除,短期內會再訪問。屆時如果網頁已恢復,則正常抓取;如果繼續返回503,短期內還會反復訪問幾次。但是如果網頁長期返回503,那麼這個URL仍會被百度認為是失效鏈接,從搜索結果中刪除。
3)403 返回碼的含義是“Forbidden”,百度會認為網頁當前禁止訪問。對於這種情況,如果是新發現的URL,百度 spider 暫不抓取,短期內會再次檢查;如果是百度已經收錄的URL,當前也不會直接刪除,短期內同樣會再訪問。屆時如果網頁允許訪問,則正常抓取;如果仍不允許訪問,短期內還會反復訪問幾次。但是如果網頁長期返回403,百度也會認為是失效鏈接,從搜索結果中刪除。
4)301 返回碼的含義是“Moved Permanently”,百度會認為網頁當前跳轉至新URL。當遇到站點遷移、域名更換和站點改版的情況時,推薦使用301返回碼,盡量減少改版帶來的流量損失。雖然百度spider 現在對301跳轉的響應周期較長,但是我還是推薦大家這麼做。
百度優化建議如下:
5)如果站點臨時關閉,當網頁不能打開時,不要立即返回404,建議使用503狀態。503可以告知百度spider該頁面臨時不可訪問,請過段時間再重試。
6)如果百度spider對您的站點抓取壓力過大,請盡量不要使用404,同樣建議返回503。這樣百度spider會過段時間再來嘗試抓取這個鏈接,如果那個時間站點空閒,那它就會被成功抓取了。
7)有一些網站希望百度只收錄部分內容,例如審核後的內容,累積一段時間的新用戶頁等等。在這種情況,建議新發內容暫時返回403,等審核或做好處理之後,再返回正常狀態的返回碼。
8)站點遷移,或域名更換時,請使用301返回碼。
子域名與目錄的選擇:選擇使用子域名還是目錄來合理的分配網站內容,對網站在搜索引擎中的表現會有較大的影響。
1)在某個頻道的內容沒有豐富到可以當做一個獨立站點存在之前,使用目錄形式;等頻道下積累了足夠的內容,再轉換成子域名的形式
2)一個網頁能否排到搜索結果的前面,”出身”很重要,如果出自一個站點權重較高的網站,那排到前面的可能性就越大,反之則越小。通常情況下主站點的權重是最高的,子站點會從主站點繼承一部分權重,繼承的多少,視子站點質量而定。
3)在內容沒有豐富到可以做為一個獨立站點之前,內容放到主站點下一個目錄中能在搜索引擎中獲得更好的表現。
4)內容差異度較大、關聯度不高的內容,使用子站點形式。
5)搜索引擎會識別站點的主題,如果站點中內容關聯度不高,可能導致搜索引擎錯誤的識別。關聯度不高的內容,放在不同的子域名下,可以幫助搜索引擎更好的理解站點的主題。
6)域名間內容做好權限,互相分開,a.example.com下的內容,不能通過b.example.com訪問
子域名間的內容可以互相訪問,可能會被搜索引擎當做重復內容而進行除重處理,保留的url不一定是正常域名下的。不要濫用子域名。
做好網站結構優化,不僅可以提升搜索引擎抓取、收錄以及排名,同時還可以進一步提升用戶體驗,促進網站向著健康可持續方向發展,進一步促使網站關鍵詞及長尾關鍵詞的優化排名。