Cloudflare推出工具帮助网站所有者通过AI机器人爬虫访问获利
2026-05-24 22:46

Cloudflare推出工具帮助网站所有者通过AI机器人爬虫访问获利

  

  纽约:软件公司Cloudflare周二表示,已推出一款工具,可阻止网络爬虫未经许可或未支付报酬就抓取内容,帮助网站从试图访问并以其内容训练AI的公司那里获得收益。

  Cloudflare称,该工具允许网站所有者选择是否允许人工智能爬虫访问其内容,并通过”按次付费爬取”模式设定访问价格,这将帮助他们控制作品的使用方式和报酬。

  随着AI爬虫越来越多地收集内容却不将访问量引向原始来源,网站所有者正寻求开发额外收入来源,因为曾经带来广告收入的搜索流量推荐正在下降。

  该计划获得了包括康泰纳仕和美联社在内的主要出版商,以及Reddit和Pinterest等社交媒体公司的支持。

  Cloudflare首席战略官斯蒂芬妮·科恩表示,此类工具的目标是让出版商控制其内容,并为在线内容创作者和AI公司确保一个可持续的生态系统。

  “流量模式的变化非常迅速,必须做出改变,”科恩在接受采访时说。”这只是互联网新模式的开端。”

  根据Cloudflare的数据,例如谷歌的爬取量与推荐回网站的访问量比例已从六个月前的6:1降至18:1,这表明这家搜索巨头在保持爬取量的同时减少了推荐量。

  这种下降可能是由于用户直接在谷歌的搜索结果中找到答案,比如AI概览。尽管如此,谷歌的比例仍远高于其他AI公司,例如OpenAI的1500:1。

  几十年来,搜索引擎通过索引互联网内容将用户引导回网站,这种方式奖励创作者生产优质内容。然而,AI公司的爬虫破坏了这一模式,因为它们抓取内容却不将访问量引向原始来源,并通过ChatGPT等聊天机器人聚合信息,剥夺了创作者的收益和认可。

  许多AI公司正在规避出版商用来阻止其内容被爬取用于AI系统的通用网络标准,并辩称他们免费访问内容并未违反法律。

  作为回应,包括《纽约时报》在内的一些出版商已起诉AI公司侵犯版权,而其他出版商则达成了内容授权协议。

  例如,Reddit已起诉AI初创公司Anthropic涉嫌爬取Reddit用户评论来训练其AI聊天机器人,同时与谷歌签订了内容授权协议。

  本文由路知网原创发布,未经许可,不得转载!

  本文链接:https://m.yrowe.com/td/6203.html

本内容为作者翻译自英文材料或转自网络,不代表本站立场,未经允许不得转载
如对本稿件有异议或投诉,请联系本站
想要了解世界的人,都在 阿赫网

相关推荐