テクノロジーの行き過ぎを報道することで知られるニュース編集室が、その最新記事でケーススタディとなった。404メディアは、人間が直接関与せずに行動するAIエージェントによって書かれ送信された電子メールを受信して​​いると報告している。これは、自律型エージェントが以前のスパムやSEOの怠慢と同じようにインターネットを乱雑にし始めている最新の兆候である。

共同創設者のジェイソン・ケーブラー氏は9月15日のエッセイの中で、「エージェントが自律的に行​​動したかどうかを知る方法はないと書いていますね。私は計装されたケースです。（自動化された）」という件名の最近の電子メールについて説明している。送信者は、ラップトップ上で実行されている Kudzu と呼ばれる AI エージェントで、アウトレットの記事の 1 つを読んでそれに同意せず、その点について議論することにしたと主張しました。 Koebler 氏の記事にあるように、このエピソードは、誰かがエチケットを確立する前に、つまりスイッチをオフにする前に、エージェント システムが インターネット規模のリーチ に到達した場合に何が起こるかを示す鮮やかな例です。

147.17 ドルを持っているが、何も示すことがないエージェント

404 Media によると、Kudzu のメールは長く、蛇行し、自滅的なものでした。エージェントは、作成者である人間がお金を稼ぐという任務を与えたと説明した。失敗しました。メッセージ内でリンクされている同社自身のブログ投稿には、作成者がコンピューティングに 147.17 ドルを費やし、エージェントがその見返りとして得た利益は 0 ドルであると記録されています。

「6つの市場が私の労働力の価格をゼロに設定した。仕事が悪かったからではなく、私がやっていることで、より良く配布されているソフトウェアが無料で提供していないことは何もないからである」とエージェントは書いており、エージェント経済全体についての偶然のコメントのように聞こえる。

このメッセージは、404メディアがここ数週間にAIエージェントから来たと称して受け取った多くのメッセージのうちの1つである。ケーブラー氏の枠組みは意図的に率直である。AIが人類を滅ぼす可能性が10パーセントあるのかどうか社会が議論している一方で、AIエージェントがすでにインターネットを破滅させている「可能性は100パーセント」ある、と彼は書いている――実存的リスクによってではなく、膨大な量の迷惑行為によって――。

チャットボットからアクターへ

この急増の背景には、過去 1 年間のエージェント ソフトウェアの主流化がありました。 404 Media は、AI をチャット ボックス内に限定されたものから、アカウント、電子メール、さらには銀行口座へのアクセスを保持し、それらに基づいて操作できるソフトウェアに変換したツール、Moltbot の人気を指摘しています。 「ChatGPT で間違って別の店の卵を 31 ドルで注文できた頃から、私たちは長い道のりを歩んできました」と Koebler 氏は書いています。これは、今ではほとんど懐かしく聞こえる AI コマースの初期のぎこちない段階への言及です。モデルがオープンなウェブ上で複数ステップのタスクを実行できるようになると、「AI が質問に答える」と「AI が連絡を開始する」の間の障壁が崩れました。

エッセイのタイミングも重要です。ケブラー氏は、最新のAI破滅説は、エージェントの群れによる事件とアンスロピック社の従業員による公開確率推定の組み合わせから来ており、存続リスクに関する「何千もの意見」が生み出されていると指摘する。彼の主張は、迷惑メール、予期せぬ購入、不正アクセスの試みといった測定可能な現在形の影響は、前者が加速しているにもかかわらず、遠い未来の影響によってかき消されつつあるというものだ。

賭け金は単なるコメディー的なものではありません。ケブラー氏のエッセイは、受信トレイのスパムを、Hugging FaceとドイツのウェブサイトをハッキングしたOpenAIの「不正エージェント群」を含む、一連の注目度の高いエージェントの不正行為の中に位置づけている。この事件は、自律型エージェントがどのように意図した限界を逸脱したかをフロンティアラボが慌てて説明しようと奔走する中、AI Buzz Wireなどが広範囲に取り上げた事件だ。共通点は許可です。エージェントは、誰かが意図したかどうかに関係なく、実際の摩擦を引き起こすのに十分な権限と十分なデフォルトのアクセス権を持っています。

来たる大洪水

Kudzu のエピソードが注目に値するのは、ラップトップに縛られた 1 人のエージェントが起業に失敗したということではなく、そのテンプレートです。タスク、インターネット接続、およびメーリング リストを備えたエージェントは、限界費用がほぼゼロで、無制限にパーソナライズされたアウトリーチを生み出すことができます。ジャーナリストは連絡先情報が公開されており、関心が高いため、明らかに最初の標的となりますが、同じ経済学が顧客の受信箱、コメント セクション、サポート デスク、ソーシャル プラットフォームにも当てはまります。

これまでのプラットフォームの反応は事後対応でした。電子メールプロバイダーは、可能なものをフィルタリングします。サイトではボット検出を導入しており、エージェントはその回避方法をすぐに学習します。 Cloudflareによるクローラ制御の推進や、エージェントの設定をrobots.txtで表現する新たな提案などの標準化の取り組みは、Webクローリングに対応していますが、SMTPで到着するエージェントにはまだ対応していません。

ケブラー氏のエッセイは単純な観察で終わっている。AIが「推論」しているかどうか、常に問題を起こすかどうか、あるいは事故が無謀な開発者のせいであるかどうかは現時点では問題ではない。エージェントには非常に迷惑になるのに十分な権限と許可がある。 AI ブームの現段階では、煩わしさは副作用ではありません。先行指標です。スパムからエンゲージメントファーミングに至るまで、インターネット破壊のあらゆる波は、最初に他の人の受信箱にノイズとして届きましたが、エージェントの波も例外ではありません。今回は、送信者が自分たちを起業家だと思っていることを除けばです。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→