
这两天看到一条挺有意思的新闻:《时代》杂志居然专门给 AI 爬虫做了个 Markdown 版本的页面,还在里面塞了广告。你没看错,是给机器人看的页面,带广告的那种。
事情是这样的
有个开发者 Vincent Schmalbach 做了个测试:用普通浏览器访问《时代》的文章,服务器返回的是 303KB 的常规 HTML;把 User-Agent 换成 ClaudeBot、PerplexityBot 这些 AI 爬虫的标识,返回的变成了一份只有 13KB 的 Markdown 文件,响应头里 content-type 直接写着 text/markdown。
更骚的是,这份给 AI 看的 Markdown 里还整合了定向广告,服务商是一家叫 Mobian 的 AI 广告技术公司,还专门用问答格式写赞助信息,方便大模型直接读懂。这些广告在人类访问时完全不会出现。
这意味着什么?内容创作者该醒醒了
说白了,《时代》这是在干嘛?把 AI 爬虫当成了一类正经的「读者」在运营。以前网站给爬虫做页面,是为了 SEO、为了被搜索引擎收录;现在不一样了,AI 大模型开始成为新的流量入口,谁家的内容被 AI 引用得多,谁就在这个新世界里占住了位置。
对我们做内容的人来说,这事至少有三个启示:
第一,你的内容正在被 AI 读。不管你想不想,GPT、Claude 这些模型的爬虫每天都在抓取全网内容,你的文章、你的产品介绍,可能都被喂进去当训练数据了。与其抱怨,不如想想怎么让 AI 更好地理解你的内容——结构化、清晰的表达,比花里胡哨的排版更值钱。
第二,流量入口变了,变现方式也得跟着变。《时代》的做法很直接:既然 AI 要读我的内容,那我就让广告也跟着被 AI 读。对独立创作者来说,这其实是个思路——AI 引用你的内容时,能不能顺便带上你的品牌、你的产品?
第三,别光盯着平台算法了。这两年大家做自媒体,天天研究小红书、抖音的推荐机制,但 AI 搜索、AI 助手正在成为新的分发渠道。我认识一个做教程的博主,已经开始专门优化内容结构,让 AI 更容易摘录他的段落,效果还真不错,好几个 AI 助手回答问题时都开始引用他了。
说点实在的
当然,AI 爬虫也不是什么善茬,它不点广告、不注册、不给网站贡献任何 UV,纯粹是白嫖内容。所以现在很多网站开始用 robots.txt 屏蔽 AI 爬虫,或者像《时代》这样干脆把 AI 流量也做成生意。
我觉得这事最值得琢磨的是:当 AI 成为读者,内容创作者和平台之间的关系又要重新洗牌了。你准备好迎接这批「机器人读者」了吗?
评论 (0)
暂无评论,来写第一条吧 ✍️