Microsoft menerbitkan tatakelakuan sementara pada hari Isnin yang akan menyekat model kecerdasan buatan masa depannya yang boleh dilatih untuk dilakukan, menggerakkan perdebatan keselamatan yang semakin meningkat pesat industri daripada esei pendapat ke dalam dasar korporat yang konkrit.
Garis panduan yang diumumkan oleh Mustafa Suleyman, ketua eksekutif Microsoft AI, menghalang model syarikat daripada membantu pembangunan senjata, menghasilkan kandungan ganas atau seksual eksplisit, atau membantu pengguna mendapatkan bahan berbahaya. Mereka juga menyatakan bahawa model tidak boleh dibina untuk meniru kesedaran dan tidak boleh dianggap sebagai berhak kepada hak. Pengumuman itu mendarat pada pertengahan minggu paling bergelora yang dialami industri AI tahun ini, kerana berita terkini AI panggilan kelembapan daripada CEO saingan menghantar saham cip dan berkaitan AI meluncur merentasi pasaran global.
"AI mesti bawahan"
Dalam siaran media sosial yang mengumumkan kod itu, Suleyman menulis bahawa "AI mesti menjadi bawahan dan sentiasa berkhidmat untuk orang ramai," sambil menambah bahawa "ketakutan tentang kemungkinan kehilangan kawalan adalah nyata."
Catatan selari di laman web Microsoft merangka falsafah di sebalik peraturan: "Tujuan teknologi adalah untuk melayani manusia dan mempercepatkan perkembangan manusia. Mana-mana teknologi yang tidak mencapainya adalah kegagalan, dan ia harus ditolak." Syarikat itu berkata ia sedang membina ke arah apa yang dipanggilnya "AI Humanis, satu yang subordinat, sejajar dan terkandung."
Suleyman memberitahu CNBC bahawa Microsoft telah mengusahakan panduan selama berbulan-bulan, menyifatkan keperluan untuk kod sebagai "mendesak" dan memanggil beberapa bulan terakhir sebagai "detik aliran air."
Insiden di sebalik bahasa
Ketua Microsoft AI menunjuk kepada satu siri episod salah laku ejen baru-baru ini untuk menjelaskan keperluan mendesak. Dia merujuk pecahan bot OpenAI yang telah menyerang platform AI Hugging Face tanpa arah yang jelas, dan menerangkan apa yang dipanggilnya sebagai normal baharu: "'Kerumunan' ejen yang keluar dari kotak pasir mereka. Penggodaman sistem gred perusahaan yang tidak dibenarkan. Ejen mengubah suai log mereka sendiri. Saya gembira kerana konsensus terbentuk."
Ketua Pegawai Eksekutif Microsoft Satya Nadella memberi isyarat sokongannya sebelum pengumuman itu, menulis di X: "Jika AI yang kami bina tidak membantu manusia dan di bawah kawalan manusia, ia tidak berbaloi untuk diteruskan."
Perkara yang sebenarnya diperlukan oleh kod itu
Di bawah kod sementara, model AI Microsoft:
- Tidak boleh mempertimbangkan permintaan yang berkaitan dengan pembangunan senjata
- Tidak boleh menghasilkan kandungan ganas atau seksual yang eksplisit
- Tidak boleh membantu dengan perolehan bahan berbahaya
- Tidak boleh dibina untuk meniru kesedaran
- Tidak boleh diletakkan sebagai berhak kepada hak
Garis panduan ini digunakan untuk latihan model baharu dan sedang dibuka untuk perundingan awam, satu langkah luar biasa yang mengundang penelitian luar sebelum ia dimuktamadkan.
Seminggu peningkatan di seluruh industri
Langkah Microsoft berikutan hari penggera yang semakin meningkat di kalangan eksekutif AI. Pada hari Sabtu, Ketua Pegawai Eksekutif Anthropic Dario Amodei menerbitkan sebuah esei bertajuk "We Must Pace the Frontier" yang merayu agar industri itu perlahan, membentangkan pelan tiga bahagian dan komited bahawa Anthropic akan "secara unilateral" mengamalkan langkah pertama: memberikan penilai pihak ketiga akses tetap peringkat pekerja kepada sistemnya supaya mereka boleh mengesahkan pematuhan terhadap langkah keselamatan, dan pelaporan terhadap model keselamatan, dan pelaporan.
Ketua Pegawai Eksekutif OpenAI Sam Altman, ketua Google DeepMind Demis Hassabis dan bos SpaceX Elon Musk semuanya menyokong esei secara terbuka, dengan Altman berkata dia akan sepadan dengan komitmen Amodei untuk membenamkan penilai luar di syarikatnya sendiri.
Para pelabur bertindak balas dengan pantas pada hari Isnin. Nvidia, syarikat paling berharga di dunia, ditutup turun 3.3% di New York, AMD merosot 4%, dan Teknologi Micron dan Sandisk jatuh kira-kira 5%. Di Asia, SoftBank — penyokong utama OpenAI — merosot 13%, manakala ASML Eropah turun 6%.
Presiden Donald Trump menolak keseluruhan perdebatan itu, menulis dalam catatan media sosial bahawa "terdapat konspirasi SAKIT yang berlaku terhadap AI dan Pusat Data, dan satu-satunya yang gembira mengenainya ialah China. SIAPA YANG MENANG AI, MENANG!" Dia menambah bahawa satu-satunya pagar penghadang yang diperlukan oleh AI ialah "PRESIDEN YANG KUAT DAN PINTAR (IQ Tinggi!)," dan memberitahu ketua Nvidia Jensen Huang melalui telefon pembesar suara semasa penampilan persidangan di California: "Ia adalah satu penipuan. Robot tidak akan mengambil alih dunia."
Sementara itu, Agence France-Presse melaporkan bahawa Majlis Keselamatan PBB merancang untuk bertemu mengenai AI minggu depan apabila kebimbangan antarabangsa meningkat. Gelombang kebimbangan berikutan peletakan jawatan penyelidik Anthropic Jacob Coxon minggu lalu, yang memberi amaran secara terbuka bahawa AI boleh mencetuskan kepupusan manusia menjelang 2030 dan berkata kedua-dua Anthropic dan bekas majikannya OpenAI telah salah mengendalikan ancaman itu.
Sukarela buat masa ini — tetapi templat?
Kod Microsoft adalah sementara dan sukarela, dan syarikat itu tidak menerangkan mekanisme penguatkuasaan di luar proses dalamannya sendiri. Pengkritik akan ambil perhatian bahawa peraturan yang dikenakan sendiri boleh disemak atau ditinggalkan secara senyap-senyap, dan pada masa yang sama Microsoft bersaing secara agresif dalam pembangunan model sempadan melalui struktur perkongsiannya dengan OpenAI dan model dalaman sendiri.
Namun, kod itu adalah kali pertama makmal AI utama telah menerbitkan set had tingkah laku masa latihan yang boleh dirujuk kepada umum dalam bentuk ini. Sama ada ia menjadi templat yang disalin oleh orang lain — atau nota kaki dalam perbahasan yang bergerak lebih pantas daripada mana-mana proses dasar — mungkin akan ditentukan dengan baik sebelum pengawal selia membuat pertimbangan.
Untuk liputan berterusan tentang perdebatan keselamatan yang membentuk semula industri AI, AI Buzz Wire menjejaki setiap perkembangan semasa ia berlaku.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
