V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
haoliang

为啥有的网站同时设置 cloudflare 的 IUAM 跟 robots.txt,这两者不冲突吗?

  •  
  •   haoliang · Feb 3, 2022 · 2885 views
    This topic created in 1544 days ago, the information mentioned may be changed or developed.

    在我看来 iuamPlease stand by, while we are checking your browser... 是对 client 做一些技术上的门槛限制以减轻 ddos, 我更觉得是其 webmaster 期望访问者必须是使用一般意义上的 browser 。

    我的疑问是开启了 iuam 的网站期望被搜索引擎收录吗?搜索引擎在未拿到 robots.txt 之前怎样对待开启了 iuam 的网站?

    2 replies    2022-02-03 12:59:30 +08:00
    villivateur
        1
    villivateur  
       Feb 3, 2022 via Android   ❤️ 1
    可以单独对 robot.txt 关闭五秒盾,而且也可以主动向搜索引擎提交各个页面,还可以单独对搜索引擎的 IP 开放访问
    westoy
        2
    westoy  
       Feb 3, 2022
    有快照页是 IUAM 的么?

    百度、谷歌、巨硬都是 CF 的投资人, 爬虫段没白名单才怪了......
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3169 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 40ms · UTC 14:31 · PVG 22:31 · LAX 07:31 · JFK 10:31
    ♥ Do have faith in what you're doing.