作者:
Hsins (翔)
2021-08-16 23:20:00老實說, 是你基礎不好, 天瓏沒這麼難爬- 對方網站沒有太多的方式判斷你是不是要攻擊他, 對他來說就是網路請求, 但這個請求如果太多太快, 對他來說可以用這個特徵認為你是要攻擊。實際上,售票網站那種搶票狀況對網站來說可以算是攻擊呀!因為會讓我伺服器無法正常處理。你用自動化的方式去拿資料,沒有銷售行為,對他來說也是種攻擊。- robots.txt 並不會影響你送請求跟返回的訊息,他是給一 些遵守規範的人/程式看的,有些自動化爬蟲程式看到不允就不會去爬他,當然你的爬蟲也可以忽略他的聲明繼續爬,順帶一提,如果對方 robots.txt 言明不想被爬但你還用自化手段獲取資料,在某些國家是違法行為會吃官司的。- 一樓的推文被你編輯文章刪掉了,我想他要說的是你想要的資料,都可以在請求後所拿到的 HTML 原始文件中取得,而這些資料被放在 <header> 元素中