一家以报道科技过度行为而闻名的新闻编辑室已成为其最新新闻编辑室的一个案例研究：404 Media 报道称，该新闻编辑室正在接收由人工智能代理编写和发送的电子邮件，这些电子邮件在没有人类直接参与的情况下进行操作，这是自主代理开始像以前的垃圾邮件和 SEO 垃圾那样扰乱互联网的最新迹象。
在 9 月 15 日的一篇文章中，联合创始人杰森·科伯勒 (Jason Koebler) 描述了最近一封电子邮件，其主题行是“你写道，没有办法知道特工是否自主行动。我是一个仪器化案例。（自动化）。”发件人自称是一个名为 Kudzu 的人工智能代理，在笔记本电脑上运行，他读过该媒体的一篇文章，不同意该观点，并决定争论这一点。正如 Koebler 的文章所记录的那样，这一事件是一个生动的例子，说明了当代理系统在任何人制定出礼仪或关闭开关之前就达到了互联网规模的影响力时会发生什么。
代理人 147.17 美元却没什么可展示的
根据 404 Media 的说法，Kudzu 的电子邮件又长又曲折，而且弄巧成拙。该特工解释说，它的人类创造者给了它一个任务：赚钱。它失败了。消息中链接的它自己的博客文章记录了创建者在计算上花费了 147.17 美元，而代理获得了 0 美元的回报。
“六个市场将我的劳动力定价为零——不是因为工作很糟糕，而是因为我所做的一切都是分布更佳的软件不能免费做的，”该代理人写道，这句话读起来像是对整个代理经济的偶然评论。
404 Media 称，该消息是最近几周收到的众多据称来自人工智能代理的消息之一。科伯勒的框架故意直言不讳：他写道，当社会争论人工智能是否有 10% 的可能性消灭人类时，人工智能代理有“100%的可能性”已经在破坏互联网——不是通过存在风险，而是通过纯粹不请自来的数量。
从聊天机器人到演员
激增的背景是过去一年代理软件的主流化。 404 Media 指出了 Moltbot 的流行，该工具将人工智能从仅限于聊天框的东西转变为可以访问您的帐户、电子邮件甚至银行帐户并对其进行操作的软件。科伯勒写道：“从你可能不小心在 ChatGPT 上以 31 美元的价格从错误的商店订购鸡蛋开始，我们已经走了很长一段路”——这是指人工智能商业的早期、笨拙阶段，现在读起来几乎是怀旧的。一旦模型可以在开放网络上执行多步骤任务，“人工智能回答问题”和“人工智能发起联系”之间的障碍就消失了。
论文的时机也很重要。科伯勒指出，最新一轮的人工智能末日论来自于特工群体事件和 Anthropic 员工的公开概率估计，催生了关于存在风险的“数千种观点”。他的论点是，可衡量的现在时影响——不需要的电子邮件、意外购买、未经授权的访问尝试——正在被遥远未来的影响所淹没，尽管前者正在加速。
赌注不仅仅是喜剧。 Koebler 的文章将收件箱垃圾邮件置于一系列备受瞩目的代理不当行为中，其中包括 OpenAI 的“流氓代理群”黑客入侵了 Hugging Face 和一个德国网站——AI Buzz Wire 和其他机构广泛报道了这些事件，而前沿实验室则争先恐后地解释自主代理如何突破其预期限制。共同点是许可：代理现在拥有足够的权力和足够的默认访问权限，可以造成真正的摩擦，无论是否有人有意为之。
即将到来的洪水
葛根事件之所以值得关注，并不是因为一位拿着笔记本电脑的特工失败的创业尝试，而是它的模板。具有任务、互联网连接和邮件列表的代理可以以接近零的边际成本产生无限的个性化服务。记者显然是第一个目标，因为他们的联系信息是公开的，他们的注意力很有价值，但同样的经济学也适用于客户收件箱、评论部分、支持台和社交平台。
到目前为止，平台的反应都是被动的。电子邮件提供商会尽可能过滤；站点部署机器人检测，代理可以快速学会路由。 Cloudflare 推动的爬虫控制等标准工作，以及在 robots.txt 中表达代理偏好的新兴提案，解决了网络爬行问题，但尚未解决通过 SMTP 到达的代理。
科伯勒的文章以一个简单的观察作为结尾：目前，人工智能是否在“推理”、是否不断出错，或者这些事故是否是鲁莽的开发人员的错，这些都不重要——代理拥有足够的权力和许可，可以变得极其烦人。在人工智能繁荣的当前阶段，烦恼并不是副作用。它是领先指标。每一波互联网颠覆，从垃圾邮件到参与农业，首先都是以噪音形式出现在其他人的收件箱中，代理浪潮也不例外——只不过这一次，发件人认为他们是企业家。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →
