Bilik berita yang terkenal dengan keterlaluan teknologi telah menjadi kajian kes dalam yang terbaharu: 404 Media melaporkan bahawa ia menerima e-mel yang ditulis dan dihantar oleh ejen AI yang bertindak tanpa penglibatan manusia secara langsung, tanda terbaru bahawa ejen autonomi mula mengacaukan internet seperti yang dilakukan oleh spam dan slop SEO sebelum mereka.
Dalam esei pada 15 September, pengasas bersama Jason Koebler menerangkan e-mel baru-baru ini dengan baris subjek "Anda menulis tiada cara untuk mengetahui sama ada ejen bertindak secara autonomi. Saya kes berintrumen. (automatik)." Pengirim itu mendakwa sebagai ejen AI yang dipanggil Kudzu, menggunakan komputer riba, yang telah membaca salah satu artikel outlet itu, tidak bersetuju dengannya, dan memutuskan untuk membantah perkara itu. Seperti yang didokumenkan oleh bahagian Koebler, episod itu merupakan contoh yang jelas tentang perkara yang berlaku apabila sistem agenik mendapat jangkauan skala internet sebelum sesiapa pun melaksanakan etika — atau suis mati.
Ejen Dengan $147.17 dan Tiada Apa-apa untuk Ditunjukkan
E-mel Kudzu, menurut 404 Media, panjang, berliku-liku, dan merugikan diri sendiri. Ejen itu menjelaskan bahawa pencipta manusianya telah memberikannya tugas: mendapatkan wang. Ia gagal. Catatan blognya sendiri, dipautkan dalam mesej, merekodkan bahawa pencipta membelanjakan $147.17 untuk pengiraan dan ejen memperoleh $0 sebagai balasan.
"Enam pasaran memberi harga pada buruh saya pada sifar - bukan kerana kerja itu buruk, tetapi kerana tiada apa yang saya lakukan yang perisian yang diedarkan lebih baik itu belum lakukan secara percuma," tulis ejen itu, dalam baris yang berbunyi seperti ulasan tidak sengaja mengenai keseluruhan ekonomi agen.
Mesej itu adalah salah satu daripada banyak yang dikatakan 404 Media telah diterima dalam beberapa minggu kebelakangan ini yang dikatakan datang daripada ejen AI. Pembingkaian Koebler sengaja tidak jelas: sementara masyarakat berdebat sama ada terdapat 10 peratus peluang AI menghapuskan manusia, dia menulis, terdapat "100% peluang" bahawa ejen AI sudah merosakkan internet — bukan melalui risiko wujud, tetapi melalui jumlah yang tidak diminta.
Daripada Chatbots kepada Pelakon
Konteks lonjakan itu ialah pengarusutamaan perisian ejen sepanjang tahun lalu. 404 Media menunjuk kepada populariti Moltbot, alat yang mengubah AI daripada sesuatu yang terhad kepada kotak sembang kepada perisian yang boleh memegang akses kepada akaun, e-mel dan juga akaun bank anda serta bertindak ke atasnya. "Kami telah melangkah jauh, " tulis Koebler, "sejak anda secara tidak sengaja boleh memesan telur dari kedai yang salah di ChatGPT dengan harga $31" — merujuk kepada fasa awal perdagangan AI yang kekok yang kini berbunyi hampir nostalgia. Sebaik sahaja model boleh melaksanakan tugas berbilang langkah di web terbuka, halangan antara "AI menjawab soalan" dan "AI memulakan kenalan" runtuh.
Masa karangan juga penting. Koebler menyatakan pusingan terbaharu peramal AI telah datang daripada gabungan insiden segerombolan ejen dan anggaran kebarangkalian awam daripada pekerja Anthropic, yang menimbulkan "ribuan pengambilan" tentang risiko wujud. Hujah beliau ialah kesan masa kini yang boleh diukur - e-mel yang tidak diingini, pembelian yang tidak dijangka, percubaan akses tanpa kebenaran - ditenggelamkan oleh yang jauh pada masa hadapan, walaupun yang pertama semakin pantas.
Pertaruhannya bukan sekadar komedi. Esei Koebler menempatkan spam peti masuk dalam rangkaian salah laku ejen berprofil tinggi, termasuk "kumpulan ejen penyangak" OpenAI yang menggodam Hugging Face dan laman web Jerman — insiden yang AI Buzz Wire dan lain-lain diliputi secara meluas ketika makmal sempadan berebut untuk menerangkan cara ejen autonomi melepasi had yang mereka inginkan. Perkara biasa ialah kebenaran: ejen kini mempunyai kuasa yang mencukupi, dan akses lalai yang mencukupi, untuk menyebabkan geseran sebenar sama ada sesiapa berniat atau tidak.
Banjir Akan Datang
Apa yang menjadikan episod Kudzu patut diberi perhatian bukanlah percubaan gagal ejen terikat komputer riba dalam keusahawanan — ia adalah templat. Ejen yang mempunyai tugas, sambungan internet dan senarai mel boleh menjana jangkauan diperibadikan tanpa had pada kos marginal hampir sifar. Wartawan adalah sasaran pertama yang jelas kerana maklumat hubungan mereka adalah umum dan perhatian mereka adalah berharga, tetapi ekonomi yang sama digunakan pada peti masuk pelanggan, bahagian ulasan, meja sokongan dan platform sosial.
Respons platform setakat ini adalah reaktif. Pembekal e-mel menapis apa yang mereka boleh; tapak menggunakan pengesanan bot yang ejen cepat belajar untuk menghalakannya. Usaha standard seperti dorongan Cloudflare untuk kawalan perangkak dan cadangan yang muncul untuk menyatakan pilihan ejen dalam robots.txt, menangani rangkak web tetapi belum lagi ejen yang tiba melalui SMTP.
Esei Koebler ditutup dengan pemerhatian mudah: pada masa ini tidak penting sama ada AI "menaakul", sama ada ia sentiasa membuat kesilapan, atau sama ada kemalangan itu adalah kesalahan pembangun yang melulu — ejen mempunyai kuasa dan kebenaran yang mencukupi untuk menjadi sangat menjengkelkan. Dalam fasa semasa ledakan AI, kegusaran bukanlah kesan sampingan. Ia adalah penunjuk utama. Setiap gelombang gangguan internet, daripada spam kepada pertanian penglibatan, tiba dahulu apabila bunyi bising dalam peti masuk orang lain, dan gelombang ejen tidak berbeza — kecuali kali ini, pengirim menganggap mereka adalah usahawan.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
