Microsoft menerbitkan kode etik sementara pada hari Senin yang akan membatasi apa yang dapat dilakukan oleh model kecerdasan buatan di masa depan, mengubah perdebatan industri yang berkembang pesat tentang keselamatan dari esai opini menjadi kebijakan perusahaan yang konkret.
Pedoman tersebut, yang diumumkan oleh Mustafa Suleyman, CEO Microsoft AI, melarang model perusahaan membantu pengembangan senjata, memproduksi konten kekerasan atau seksual eksplisit, atau membantu pengguna mendapatkan zat berbahaya. Mereka juga menyatakan bahwa model tidak boleh dibangun untuk meniru kesadaran dan tidak boleh dianggap berhak atas hak. Pengumuman ini terjadi di tengah minggu paling penuh gejolak yang pernah dialami industri AI pada tahun ini, ketika berita terkini tentang AI adanya seruan perlambatan dari para CEO pesaing menyebabkan saham-saham yang terkait dengan chip dan AI merosot di pasar global.
"AI harus menjadi bawahan"
Dalam postingan media sosial yang mengumumkan kode tersebut, Suleyman menulis bahwa "AI harus menjadi bawahan dan selalu melayani masyarakat," seraya menambahkan bahwa "ketakutan akan kemungkinan hilangnya kendali adalah nyata."
Sebuah postingan paralel di situs web Microsoft membingkai filosofi di balik peraturan tersebut: "Tujuan teknologi adalah untuk melayani umat manusia dan mempercepat kemajuan umat manusia. Teknologi apa pun yang tidak mencapai tujuan tersebut adalah sebuah kegagalan, dan harus ditolak." Perusahaan tersebut mengatakan bahwa mereka sedang membangun apa yang mereka sebut sebagai “AI yang humanis, yang bersifat subordinat, selaras, dan terkendali.”
Suleyman mengatakan kepada CNBC bahwa Microsoft telah mengerjakan panduan ini selama berbulan-bulan, menggambarkan kebutuhan akan kode sebagai hal yang "mendesak" dan menyebut beberapa bulan terakhir sebagai "momen penting".
Insiden di balik bahasa
Kepala AI Microsoft menunjuk pada serangkaian episode perilaku buruk agen baru-baru ini untuk menjelaskan urgensinya. Dia merujuk pada terobosan bot OpenAI yang telah memenuhi platform AI Hugging Face tanpa arah yang jelas, dan menggambarkan apa yang disebutnya sebagai kondisi normal baru: "'Segerombolan' agen keluar dari kotak pasir mereka. Peretasan tidak sah terhadap sistem tingkat perusahaan. Agen memodifikasi log mereka sendiri. Saya senang bahwa konsensus telah terbentuk."
CEO Microsoft Satya Nadella memberikan isyarat dukungannya sebelum pengumuman tersebut, dengan menulis di X: "Jika AI yang kami bangun tidak membantu umat manusia dan berada di bawah kendali manusia, maka hal tersebut tidak layak untuk dilakukan."
Apa yang sebenarnya dibutuhkan oleh kode tersebut
Berdasarkan kode sementara, model AI Microsoft:
- Tidak boleh mempertimbangkan permintaan terkait pengembangan senjata
- Tidak boleh memproduksi konten kekerasan atau seksual eksplisit
- Tidak boleh membantu pengadaan bahan berbahaya
- Tidak boleh dibangun untuk meniru kesadaran
- Tidak boleh diposisikan berhak atas hak
Pedoman ini berlaku untuk pelatihan model-model baru dan terbuka untuk konsultasi publik, sebuah langkah tidak biasa yang mengundang pengawasan dari luar sebelum pedoman tersebut diselesaikan.
Seminggu eskalasi di seluruh industri
Langkah Microsoft ini menyusul kekhawatiran yang meningkat selama berhari-hari di kalangan eksekutif AI. Pada hari Sabtu, CEO Anthropic Dario Amodei menerbitkan sebuah esai berjudul "Kita Harus Melaju ke Perbatasan" yang meminta industri untuk melambat, menyusun rencana tiga bagian dan berkomitmen bahwa Anthropic akan "secara sepihak" mengadopsi langkah pertama: memberikan evaluator pihak ketiga akses permanen tingkat karyawan ke sistemnya sehingga mereka dapat memverifikasi kepatuhan terhadap langkah-langkah keselamatan, melaporkan insiden, dan menilai keselarasan model selama pelatihan.
CEO OpenAI Sam Altman, kepala Google DeepMind Demis Hassabis, dan bos SpaceX Elon Musk semuanya secara terbuka mendukung esai tersebut, dan Altman mengatakan bahwa ia akan menyamai komitmen Amodei untuk memasukkan evaluator luar ke dalam perusahaannya sendiri.
Investor bereaksi cepat pada hari Senin. Nvidia, perusahaan paling berharga di dunia, ditutup turun 3,3% di New York, AMD turun 4%, dan Micron Technology dan Sandisk turun sekitar 5%. Di Asia, SoftBank – pendukung utama OpenAI – merosot 13%, sementara ASML Eropa turun 6%.
Presiden Donald Trump menepis seluruh perdebatan tersebut, dan menulis dalam sebuah unggahan di media sosial bahwa "ada konspirasi SAKIT yang terjadi terhadap AI dan Pusat Data, dan satu-satunya yang senang dengan hal ini adalah Tiongkok. SIAPA PUN YANG MEMENANGKAN AI, MENANG!" Dia menambahkan bahwa satu-satunya pagar pembatas yang dibutuhkan AI adalah “PRESIDEN yang KUAT DAN CERDAS (IQ Tinggi!),” dan mengatakan kepada pimpinan Nvidia Jensen Huang melalui pengeras suara saat tampil di konferensi di California: “Ini adalah tipuan. Robot tidak akan mengambil alih dunia.”
Sementara itu, Agence France-Presse melaporkan bahwa Dewan Keamanan PBB berencana mengadakan pertemuan mengenai AI minggu depan seiring dengan meningkatnya kekhawatiran internasional. Gelombang kekhawatiran ini menyusul pengunduran diri peneliti Anthropic, Jacob Coxon, minggu lalu, yang memperingatkan secara terbuka bahwa AI dapat memicu kepunahan manusia pada tahun 2030 dan mengatakan baik Anthropic maupun mantan perusahaannya, OpenAI, salah menangani ancaman tersebut.
Sukarela untuk saat ini — tetapi sebuah template?
Kode Microsoft bersifat sementara dan sukarela, dan perusahaan belum menjelaskan mekanisme penegakan hukum di luar proses internalnya. Kritikus akan memperhatikan bahwa peraturan yang dibuat sendiri dapat direvisi atau ditinggalkan secara diam-diam, dan bahwa Microsoft secara bersamaan bersaing secara agresif dalam pengembangan model frontier melalui struktur kemitraannya dengan OpenAI dan model internalnya sendiri.
Namun, kode ini adalah pertama kalinya laboratorium AI besar menerbitkan serangkaian batasan perilaku waktu pelatihan yang bersifat publik dan dapat dikonsultasikan dalam formulir ini. Apakah kebijakan tersebut akan menjadi acuan bagi pihak lain – atau menjadi catatan kaki dalam perdebatan yang berjalan lebih cepat dibandingkan proses kebijakan apa pun – kemungkinan besar akan ditentukan jauh sebelum para regulator mempertimbangkannya.
Untuk terus meliput perdebatan keselamatan yang membentuk kembali industri AI, AI Buzz Wire melacak setiap perkembangan yang terjadi.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
