目前防采集的方法有很多種,先介紹一下常見防采集策略方法和它的弊端及采集對(duì)策:
一、判斷一個(gè)IP在一定時(shí)間內(nèi)對(duì)本站頁(yè)面的訪問次數(shù),如果明顯超過了正常人瀏覽速度,就拒絕此IP訪問
弊端: 1、此方法只適用于動(dòng)態(tài)頁(yè)面,如:asp\jsp\php等...靜態(tài)頁(yè)面無法判斷某個(gè)IP一定時(shí)間訪問本站頁(yè)面的次數(shù)。 2、此方法會(huì)嚴(yán)重影響搜索引擎蜘蛛對(duì)其收錄,因?yàn)樗阉饕嬷┲胧珍洉r(shí),瀏覽速度都會(huì)比較快而且是多線程。此方法也會(huì)拒絕搜索引擎蜘蛛收錄站內(nèi)文件 采集對(duì)策:只能放慢采集速度,或者不采 建議:做個(gè)搜索引擎蜘蛛的IP庫(kù),只允許搜索引擎蜘蛛快速瀏覽站內(nèi)內(nèi)容。搜索引擎蜘蛛的IP庫(kù)的收集,也不太容易,一個(gè)搜索引擎蜘蛛,也不一定只有一個(gè)固定的IP地址。 評(píng)論:此方法對(duì)防采集比較有效,但卻會(huì)影響搜索引擎對(duì)其收錄。
二、用javascript加密內(nèi)容頁(yè)面
弊端:此方法適用于靜態(tài)頁(yè)面,但會(huì)嚴(yán)重影響搜索引擎對(duì)其收錄情況,搜索引擎收到到的內(nèi)容,也都是加密后的內(nèi)容 采集對(duì)策:建議不采,如非要采,就把解密碼的JS腳本也采下來。 建議:目前沒有好的改良建議 評(píng)論:建議指望搜索引擎帶流量的站長(zhǎng)不要使用此方法。
三、把內(nèi)容頁(yè)面里的特定標(biāo)記替換為[color=Red]”特定標(biāo)記+隱藏版權(quán)文字“[/color]
弊端:此方法弊端不大,僅僅會(huì)增加一點(diǎn)點(diǎn)的頁(yè)面文件大小,但容易反采集 采集對(duì)策:把采集來的含有隱藏版權(quán)文字內(nèi)容的版權(quán)文字替掉,或替換成自己的版權(quán)。 建議:目前沒有好的改良建議 評(píng)論:自己感覺實(shí)用價(jià)值不大,就算是加上隨機(jī)的隱藏文字,也等于畫蛇添足。
四、只允許用戶登陸后才可以瀏覽
弊端:此方法會(huì)嚴(yán)重影響搜索引擎蜘蛛對(duì)其收錄 采集對(duì)策:目前落伍已經(jīng)有人發(fā)了對(duì)策文章 ,具體對(duì)策就看這個(gè)吧《ASP小偷程序如何利用XMLHTTP實(shí)現(xiàn)表單的提交以及cookies或session的發(fā)送》 建議:目前沒有好的改良建議 評(píng)論:建議指望搜索引擎帶流量的站長(zhǎng)不要使用此方法。不過此方法防一般的采集程序,還是有點(diǎn)效果的。
五、用javascript、vbscript腳本做分頁(yè)
弊端:影響搜索引擎對(duì)其收錄 采集對(duì)策:分析javascript、vbscript腳本,找出其分頁(yè)規(guī)則,自己做個(gè)對(duì)應(yīng)此站的分頁(yè)集合頁(yè)即可。 建議:目前沒有好的改良建議 評(píng)論:感覺懂點(diǎn)腳本語言的人都能找出其分頁(yè)規(guī)則
六、只允許通過本站頁(yè)面連接查看,如:Request.ServerVariables("HTTP_REFERER")
弊端:影響搜索引擎對(duì)其收錄 采集對(duì)策:不知道能不能模擬網(wǎng)頁(yè)來源。。。。目前我沒有對(duì)應(yīng)此方法的采集對(duì)策 建議:目前沒有好的改良建議 評(píng)論:建議指望搜索引擎帶流量的站長(zhǎng)不要使用此方法。不過此方法防一般的采集程序,還是有點(diǎn)效果的。
從以上可以看出,目前常用的防采集方法,要么會(huì)對(duì)搜索引擎收錄有較大影響,要么防采集效果不好,起不到防采集的效果。那么,還有沒有一種有效防采集,而又不影響搜索引擎收錄的方法呢?那就請(qǐng)繼續(xù)往下看吧!
出處:藍(lán)色理想
責(zé)任編輯:moby
上一頁(yè) 數(shù)據(jù)采集 下一頁(yè) 防采集而不防搜索引擎策略
◎進(jìn)入論壇網(wǎng)絡(luò)編程版塊參加討論
|