Ketua eksekutif Anthropic Dario Amodei telah memberi amaran kepada penggubal undang-undang bahawa trend yang semakin pantas ke arah kecerdasan buatan sumber terbuka boleh membawa masyarakat ke jalan yang berbahaya jika model berkuasa dikeluarkan tanpa perlindungan berhati-hati, menghidupkan semula salah satu perdebatan paling kontroversi dalam dasar AI.
Amodei, yang mengasas dan mengetuai syarikat di belakang keluarga model Claude, berpendapat bahawa sifat unik AI sumber terbuka, yang menjadikan sistem termaju tersedia secara bebas untuk sesiapa sahaja untuk memuat turun, mengubah suai dan menggunakan, mewujudkan risiko yang tidak pernah ditimbulkan oleh perisian sumber terbuka konvensional. Kenyataannya, yang dilaporkan oleh Tekedia, berpusat pada kesukaran mengawal AI berkebolehan sebaik sahaja ia diedarkan secara terbuka. Untuk lebih banyak konteks tentang cerita ini, lihat [lagi cerita AI] kami yang berterusan (https://aibuzzwire.news).
Tidak seperti perisian tradisional, sistem AI yang canggih boleh menjana teks yang meyakinkan, menghasilkan imej realistik, menulis kod komputer dan membantu dengan tugas keselamatan siber. Amodei berpendapat bahawa di tangan yang salah, keupayaan tersebut boleh dieksploitasi untuk mengautomasikan serangan siber, melancarkan kempen disinformasi yang canggih, atau memajukan penyelidikan biologi yang berbahaya.
Masalah Kekal
Salah satu risiko utama yang diketengahkan oleh Amodei ialah apabila model berkuasa dikeluarkan secara terbuka, ia menjadi mustahil untuk ditarik balik. Sistem tertutup yang dikendalikan oleh syarikat boleh dipantau, ditampal dan dihadkan apabila kelemahan baharu muncul. Model sumber terbuka, sebaliknya, boleh disalin selama-lamanya dan diedarkan semula di seluruh internet, menjadikan pembangun tidak mempunyai mekanisme untuk mengehadkan penggunaannya selepas keluaran.
Kekekalan itu, Amodei memberi amaran, amat membimbangkan apabila model mendekati prestasi peringkat manusia pada tugas yang semakin kompleks. Beliau berhujah bahawa AI lanjutan harus tertakluk kepada ujian keselamatan yang teguh, penggunaan terkawal, dan pengawasan kawal selia yang sesuai sebelum ia boleh diakses secara meluas, dan bukannya dilayan seperti perisian biasa yang boleh diperbaiki secara kolaboratif di tempat terbuka.
Kedudukannya mencerminkan garis kerosakan yang semakin meningkat dalam industri. Penyokong AI sumber terbuka berpendapat bahawa akses awam mendorong persaingan, mendemokrasikan kemajuan teknologi dan menghalang segelintir syarikat daripada memonopoli kecerdasan buatan. Pembangun di seluruh dunia boleh memeriksa seni bina model, kecacatan keselamatan permukaan dan menambah baik sistem secara kolaboratif, manakala syarikat pemula, penyelidik dan institusi pendidikan boleh membina tanpa bergantung pada platform proprietari yang mahal.
Risiko Khusus pada Jadual
Kebimbangan Amodei bukan abstrak. Model yang dikeluarkan secara terbuka telah pun dilucutkan daripada pagar keselamatan mereka oleh penyelidik menggunakan teknik penalaan halus yang mudah, satu amalan yang menunjukkan betapa cepatnya langkah perlindungan boleh dialihkan apabila pemberat asasnya diketahui umum. Memandangkan model semakin berkebolehan dalam tugas seperti kimia, biologi dan eksploitasi perisian, kebimbangannya ialah keluaran terbuka boleh memberikan keupayaan hebat kepada pelakon yang tidak akan melepasi saringan yang dikenakan oleh makmal yang bertanggungjawab terhadap pelanggan mereka.
Dimensi salah maklumat juga telah mendapat perhatian. Model yang boleh menjana teks, imej dan audio yang realistik pada skala boleh dialihkan ke arah gangguan pilihan raya, penipuan kewangan atau pengeluaran besar-besaran propaganda. Oleh kerana model terbuka beroperasi sepenuhnya pada perkakasan penyerang sendiri, Amodei menyatakan, tiada API untuk pendikit, tiada akaun untuk digantung dan tiada pembekal yang akan bertanggungjawab sebaik sahaja kerosakan dilakukan.
Latar Belakang Berdaya Saing
Amaran Amodei tiba di tengah-tengah lonjakan model terbuka yang berkebolehan daripada pemaju China. GLM-5.2 Zhipu, bersama-sama dengan sistem Cina kos rendah yang lain, telah menarik perhatian baru tentang betapa pantas model terbuka dan tersedia secara terbuka menutup jurang dengan sistem proprietari sempadan daripada Anthropic dan OpenAI. Tekanan persaingan itu telah memperhebatkan perbahasan dasar sama ada sekatan pada keluaran terbuka akan menguntungkan firma dominan atau membiarkan masyarakat terdedah kepada penyalahgunaan.
Pengkritik pendirian Amodei berpendapat bahawa mengehadkan AI sumber terbuka secara tidak sengaja boleh mengukuhkan syarikat teknologi besar dengan mengehadkan inovasi bebas. Mereka juga ambil perhatian bahawa ketelusan kerap membolehkan penyelidik mengenal pasti kelemahan lebih cepat daripada pembangunan tertutup. Malah ramai penyokong pembangunan terbuka mengakui, bagaimanapun, bahawa sistem yang semakin berkuasa mungkin memerlukan rangka kerja tadbir urus yang lebih kukuh daripada perisian generasi sebelumnya.
Tali Ketat Peraturan
Perbincangan telah mendapat perhatian segera apabila kerajaan di seluruh dunia menimbang peraturan AI baharu. Penggubal dasar menghadapi keseimbangan yang sukar: sekatan yang berlebihan boleh memperlahankan pertumbuhan ekonomi dan penemuan saintifik, manakala pengawasan yang tidak mencukupi boleh mendedahkan masyarakat kepada risiko yang sukar dijangka. Untuk mencapai keseimbangan itu, Amodei mencadangkan, memerlukan kerjasama antara kerajaan, syarikat teknologi, penyelidik akademik dan masyarakat sivil.
Kesaksiannya menggariskan salah satu perbahasan dasar teknologi yang menentukan dalam dekad ini. Apabila kecerdasan buatan semakin berkebolehan, masyarakat mesti memutuskan cara menggalakkan inovasi sambil meminimumkan bahaya yang berkaitan dengan akses meluas kepada sistem transformatif. Sama ada melalui peraturan, piawaian industri atau kerjasama antarabangsa, pilihan yang dibuat dalam beberapa bulan akan datang ke atas AI sumber terbuka boleh membentuk siapa yang mengawal teknologi, dan sejauh mana ia digunakan dengan selamat, untuk tahun-tahun akan datang.
Bagi Anthropic, pendirian itu konsisten dengan penekanan jangka panjang syarikat terhadap keselamatan AI dan keluaran terkawal. Tetapi dengan model terbuka berkembang pesat dan pengawal selia masih berebut untuk mengejar, jurang antara amaran Amodei dan kadar pergerakan sumber terbuka mungkin mengecil lebih cepat daripada penggubal dasar boleh menutupnya.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
