一、網(wǎng)站層次結構
要利于蜘蛛爬行,首先得有一個清晰的層次結構。樹形結構是比較理想的網(wǎng)站結構,蜘蛛能夠很好的理解并爬行。采用首頁-索引頁-內(nèi)容頁的形式有利于用戶在最短的時間內(nèi)找到需求的信息。而且由于相關性極強的內(nèi)容在同一欄目下,提高了聚合度,這樣更有利于蜘蛛的爬行整合。同時,樹形結構應該遵循層數(shù)盡可能少的原則。
二、網(wǎng)站導航、次導航、面包屑
網(wǎng)站導航是網(wǎng)站不可或缺的重要組成部分。采用統(tǒng)一的導航欄不僅有助于用戶體驗,更有助于蜘蛛識別。由于蜘蛛能有效識別并爬行css。因此,對于導航欄字體屬性是有效的。但切勿因為追求效果而采用js、ajax、inframe、flash等蜘蛛無法有效爬行的技術。次導航同樣可以使用font-weight屬性表明重要性,而面包屑導航也是必不可少的,要注意盡量避免使用url鏈接,而更多采用錨文本鏈接。
三、內(nèi)容頁
新的內(nèi)容應盡量出現(xiàn)在蜘蛛頻繁更新的地方。因此,內(nèi)容頁應按ID或發(fā)布時間排序。而每篇內(nèi)容頁應和其他頁面有效鏈接。