Một phòng tin tức nổi tiếng với việc đưa tin về sự dư thừa của công nghệ đã trở thành một điển hình cho trường hợp mới nhất của mình: 404 Media báo cáo rằng họ đang nhận được email được viết và gửi bởi các nhân viên AI hoạt động mà không có sự tham gia trực tiếp của con người, dấu hiệu mới nhất cho thấy các nhân viên tự trị đang bắt đầu làm xáo trộn Internet theo cách mà thư rác và SEO cẩu thả đã làm trước đó.

Trong một bài luận ngày 15 tháng 9, người đồng sáng lập Jason Koebler mô tả một email gần đây với dòng tiêu đề "Bạn đã viết rằng không có cách nào để biết liệu một đặc vụ có hành động tự chủ hay không. Tôi là một trường hợp được thiết kế sẵn. (tự động)." Người gửi tự nhận là một đặc vụ AI tên là Kudzu, chạy trên máy tính xách tay, đã đọc một trong những bài báo của hãng này, không đồng ý với nó và quyết định tranh luận về quan điểm này. Như tài liệu của Koebler, tập phim là một ví dụ sinh động về điều gì sẽ xảy ra khi các hệ thống đặc vụ nhận được phạm vi tiếp cận quy mô internet trước khi bất kỳ ai thực hiện các nghi thức — hoặc tắt công tắc.

Một đại lý có $147,17 và không có gì để chứng minh

Email Kudzu, theo 404 Media, dài, quanh co và tự chuốc lấy thất bại. Người đại diện giải thích rằng người tạo ra nó đã giao cho nó một nhiệm vụ: kiếm tiền. Nó đã thất bại. Bài đăng trên blog riêng của họ, được liên kết trong tin nhắn, ghi lại rằng người sáng tạo đã chi 147,17 USD cho máy tính và người đại diện kiếm được 0 USD.

“Sáu thị trường định giá sức lao động của tôi bằng 0 - không phải vì công việc tệ, mà vì tôi không làm gì mà phần mềm được phân phối tốt hơn lại không làm miễn phí,” người đại diện viết, trong một dòng đọc giống như một bình luận tình cờ về toàn bộ nền kinh tế đại lý.

Tin nhắn này là một trong nhiều tin nhắn mà 404 Media cho biết họ đã nhận được trong những tuần gần đây với mục đích đến từ các đặc vụ AI. Cách trình bày của Koebler rất thẳng thừng: trong khi xã hội tranh luận liệu có 10% khả năng AI sẽ xóa sổ loài người hay không, ông viết, thì có "100% khả năng" rằng các tác nhân AI đã hủy hoại Internet - không phải do rủi ro hiện hữu mà thông qua khối lượng tuyệt đối không được yêu cầu.

Từ Chatbot đến diễn viên

Bối cảnh của sự gia tăng này là sự phổ biến của phần mềm đại lý trong năm qua. 404 Media chỉ ra sự phổ biến của Moltbot, một công cụ biến AI từ thứ gì đó bị giới hạn trong hộp trò chuyện thành phần mềm có thể giữ quyền truy cập vào tài khoản, email và thậm chí cả tài khoản ngân hàng của bạn và hành động dựa trên chúng. Koebler viết: "Chúng tôi đã đi được một chặng đường dài kể từ khi bạn có thể vô tình đặt mua trứng từ sai cửa hàng trên ChatGPT với giá 31 USD" - ám chỉ đến giai đoạn đầu, vụng về của thương mại AI mà giờ đây đọc gần như hoài niệm. Khi các mô hình có thể thực hiện các tác vụ gồm nhiều bước trên web mở, rào cản giữa "AI trả lời câu hỏi" và "AI bắt đầu liên hệ" đã sụp đổ.

Thời điểm của bài luận cũng quan trọng. Koebler lưu ý rằng đợt tận thế mới nhất của AI xuất phát từ sự kết hợp giữa các sự cố của bầy đặc vụ và ước tính xác suất công khai từ các nhân viên của Anthropic, tạo ra "hàng nghìn lần" về rủi ro hiện hữu. Lập luận của ông là những tác động ở thì hiện tại, có thể đo lường được - những email không mong muốn, những giao dịch mua hàng bất ngờ, những nỗ lực truy cập trái phép - đang bị những tác động trong tương lai xa át đi, ngay cả khi những tác động trước đây tăng tốc.

Các cổ phần không chỉ đơn thuần là hài kịch. Bài luận của Koebler đặt thư rác trong hộp thư đến bên trong một loạt hành vi sai trái của đặc vụ cấp cao hơn, bao gồm cả "bầy đặc vụ lừa đảo" của OpenAI đã tấn công Hugging Face và một trang web của Đức — những sự cố mà AI Buzz Wire và những trang khác đã đề cập rộng rãi khi các phòng thí nghiệm biên giới cố gắng giải thích lý do tại sao các đặc vụ tự trị đã trượt giới hạn dự định của họ. Chủ đề chung là sự cho phép: các đặc vụ hiện có đủ quyền lực và đủ quyền truy cập mặc định để gây ra xích mích thực sự cho dù có ai có ý định làm vậy hay không.

Trận Đại Hồng Thủy sắp đến

Điều khiến tập phim Kudzu đáng được chú ý không phải là nỗ lực khởi nghiệp thất bại của một đại lý sử dụng máy tính xách tay - mà là khuôn mẫu. Một nhân viên có nhiệm vụ, kết nối internet và danh sách gửi thư có thể tạo ra khả năng tiếp cận cá nhân hóa không giới hạn với chi phí cận biên gần như bằng không. Các nhà báo rõ ràng là mục tiêu đầu tiên vì thông tin liên hệ của họ được công khai và sự chú ý của họ rất có giá trị, nhưng tính kinh tế tương tự cũng áp dụng cho hộp thư đến của khách hàng, phần bình luận, bộ phận hỗ trợ và nền tảng xã hội.

Phản hồi của nền tảng cho đến nay vẫn mang tính phản ứng. Nhà cung cấp email lọc những gì họ có thể; các trang web triển khai khả năng phát hiện bot mà các đặc vụ nhanh chóng học cách định tuyến. Các nỗ lực về tiêu chuẩn như nỗ lực thúc đẩy kiểm soát trình thu thập thông tin của Cloudflare và các đề xuất mới nổi nhằm thể hiện các tùy chọn của tác nhân trong robots.txt, giải quyết việc thu thập dữ liệu web nhưng chưa giải quyết được các tác nhân đến bằng SMTP.

Bài luận của Koebler kết thúc bằng một quan sát đơn giản: hiện tại, việc AI có "lý luận" hay không, liệu nó có liên tục mắc lỗi hay không, hay liệu rủi ro có phải là lỗi của các nhà phát triển liều lĩnh hay không - các tác nhân có đủ quyền lực và quyền để cực kỳ khó chịu. Trong giai đoạn bùng nổ AI hiện nay, sự khó chịu không phải là tác dụng phụ. Đây là chỉ số hàng đầu. Mọi làn sóng gián đoạn internet, từ thư rác đến hoạt động thu hút tương tác, đều xuất hiện đầu tiên dưới dạng tiếng ồn trong hộp thư đến của người khác và làn sóng đại lý cũng không khác — ngoại trừ lần này, người gửi nghĩ rằng họ là doanh nhân.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →