在互联网生态中,引用其他网站内容时附上原始信息来源,是长期以来形成的隐性契约,既方便读者溯源,也为原创平台带来流量。然而,AI时代的到来正让这一机制面临挑战。当下,各大AI机器人根据用户需求直接爬取网站数据,导致用户访问原始网站的意愿显著下降,同时AI工具却大量消耗着网站的流量资源。
据追踪数据显示,自2025年起,部分科技公司的爬虫抓取行为与对网站的访问回流比例严重失衡。以Anthropic为例,其网站抓取量远超为网站带来的实际访问量,抓取与回流比极不理想。OpenAI的情况也类似,两家公司均被指从互联网获取大量价值,但回馈甚少。这种“抓取多、回流少”的现象,意味着AI公司正在无偿享用互联网内容资源,却未对内容生产方形成有效反哺。
此前外媒调查也印证了这一趋势。2024年末的报道指出,Anthropic和OpenAI的爬虫对部分网站的抓取频率“高到惊人”,直接导致这些网站的流量和云计算成本大幅上升。有开发者透露,仅数月时间,其客户的云服务账单就因AI爬虫暴增而翻倍。AI公司不仅减少了内容回流,还无形中将更高的运营成本转嫁给了网站所有者,引发行业对AI内容引用伦理的广泛讨论。 |