GitHub实施更严格的风控规则阻止中文用户访问 疑似是为了反爬虫和反抓取
早前 GitHub 因为失误部署了屏蔽所有中国 IP 地址的规则,中国 IP 地址访问时会出现禁止访问提示,随后 GitHub 更新规则并解释是部署错误,更新规则后中国 IP 地址可以重新访问。
如果之前是失误那现在肯定就是故意的了,GitHub 部署的新规则会对用户语言进行检查,如果用户使用的是中文 (仅限 zh_CN) 则可能会触发限制而被限制访问,不过从情况来看 GitHub 应该是为了反爬虫的 (例如某 SDN 无差别拉取 GitHub 上的项目搬到自家平台)。
从测试情况来看 GitHub 将多个条件整合用来触发限制,例如首先检查 GitHub 的常规规则 (包括黑名单 IP 和 UA),然后检测 IP 地址质量,以上两个条件全部通过后再检查第三个条件,也就是浏览器请求头的语言部分是否包含 zh_CN,如果检测到用户使用的中文则会返回错误。
也就是说 GitHub 并没有针对特定区域的 IP 进行封禁,如果用户 IP 质量没问题的话则不会触发语言检测,因此如果用户使用企业代理软件访问 GitHub 的话就可能因为 IP 地址质量差 (脏 IP) 而触发语言检测。
从这些情况来看 GitHub 大概率是为了反爬虫和反抓取,目前大量 AI 爬虫对 GitHub 疯狂抓取用来训练模型,这种抓取行为不仅会给 GitHub 服务器造成负担,也会浪费大量流量造成 GitHub 成本增加。
如果用户并非爬虫并且访问受到影响,那也可以进行针对性的解决:
1. 简单方法就是直接修改请求头将语言修改为 en_US 等其他未被限制的语言
2. 更换质量更好的 IP 地址避免触发风控,当然更换 IP 地址可能会增加潜在使用成本
不过针对语言的检测很容易被绕过,接下来 GitHub 很有可能会观察情况并对修改语言的行为进行检测,毕竟反爬虫是个长期工作,GitHub 也只能根据爬虫的情况进行针对性的策略调整实现封禁。
-
OpenAI将修复ChatGPT过于谄媚的问题 虽然部分用户认为这似乎不是问题
如果你最近使用 ChatGPT 可能会发现该应用似乎有些过于谄媚和奉承用户,这种情况并非只有部分用户碰到,而是 GPT-4o 模型的最近更新导致其过于迎合大众。Sam Altman 表示最近几次 GP
-
Perplexity AI将推出Comet浏览器 全方位追踪用户数据并提供精准广告
人工智能初创公司 Perplexity AI 日前透露他们正在开发自己的浏览器,开发浏览器的原因是可以借助浏览器全方位收集用户信息,而不是现在这样只能利用 Perplexity AI 收集的用户信息。
-
维基百科向AI公司推出免费数据集 只求不要再无止境抓取
此前维基百科关联站点维基媒体发布消息称由于被 AI 爬虫轰炸,导致大量昂贵的服务器资源被 AI 爬虫消耗,一方面维基媒体工程师疲于使用技术手段应对这些爬虫,另一方面也给维基媒体造成运营成本上的损失。维
关注公众号:拾黑(shiheibook)了解更多
友情链接:
关注数据与安全,洞悉企业级服务市场:https://www.ijiandao.com/
安全、绿色软件下载就上极速下载站:https://www.yaorank.com/

随时掌握互联网精彩