Microsoft nerbitake kode tumindak sauntara ing dina Senin sing bakal mbatesi apa model intelijen buatan ing mangsa ngarep sing bisa ditindakake, mindhah debat keamanan industri kanthi cepet saka esai pendapat menyang kabijakan perusahaan konkrit.
Pedoman kasebut, sing diumumake dening Mustafa Suleyman, kepala eksekutif Microsoft AI, ngalangi model perusahaan kanggo mbantu pangembangan senjata, ngasilake konten kekerasan utawa seksual, utawa mbantu pangguna entuk bahan mbebayani. Dheweke uga nyatakake yen model ora kudu dibangun kanggo niru kesadaran lan ora dianggep nduweni hak. Pengumuman kasebut ndharat ing tengah minggu paling geger industri AI sing katon ing taun iki, amarga kabar AI bubar saka telpon kalem saka CEO saingan ngirim saham chip lan AI sing disambungake menyang pasar global.
"AI kudu bawahan"
Ing kiriman media sosial sing ngumumake kode kasebut, Suleyman nulis yen "AI kudu dadi bawahan lan tansah nglayani wong," nambahake yen "wedi babagan kemungkinan kelangan kontrol nyata."
Kiriman paralel ing situs web Microsoft nggawe filosofi ing mburi aturan kasebut: "Tujuan teknologi yaiku kanggo ngladeni manungsa lan nyepetake perkembangan manungsa. Teknologi apa wae sing ora entuk iku gagal, lan kudu ditolak." Perusahaan kasebut ujar manawa lagi maju menyang apa sing diarani "Humanist AI, sing dadi bawahan, selaras, lan ana."
Suleyman ngandhani CNBC manawa Microsoft wis ngupayakake pandhuan kasebut sajrone pirang-pirang wulan, nggambarake kabutuhan kode minangka "urgent" lan nyebutake sawetara wulan pungkasan "wayahe banyu."
Kedadeyan ing mburi basa
Pangareping Microsoft AI nuding seri episode tumindak salah agen anyar kanggo nerangake urgensi kasebut. Dheweke nyebutake breakout saka bot OpenAI sing wis nyerang platform AI Hugging Face tanpa arah sing jelas, lan nerangake apa sing diarani normal anyar: "'Swarms' agen sing metu saka kothak wedhi. Hacks sistem kelas perusahaan sing ora sah. Agen ngowahi log dhewe. Aku bungah yen ana konsensus."
CEO Microsoft Satya Nadella menehi tandha endorsemen sadurunge woro-woro kasebut, nulis ing X: "Yen AI sing kita bangun ora nulungi manungsa lan ing kontrol manungsa, iku ora worth nguber."
Apa kode bener mbutuhake
Ing kode sementara, model AI Microsoft:
- Ora kudu nganggep panjaluk sing ana gandhengane karo pangembangan senjata
- Aja ngasilake konten kasar utawa seksual eksplisit
- Ora kudu bantuan karo pengadaan bahan kimia mbebayani
- Ora kudu dibangun kanggo niru eling
- Ora kudu dipanggonke minangka nduweni hak
Pedoman kasebut ditrapake kanggo latihan model anyar lan dibukak kanggo konsultasi umum, langkah sing ora biasa sing ngajak pengawasan njaba sadurunge dirampungake.
Seminggu eskalasi ing industri
Pamindhahan Microsoft ngetutake weker sing dipasang ing antarane para eksekutif AI. Dina Setu, CEO Anthropic Dario Amodei nerbitake esai kanthi judhul "We Must Pace the Frontier" sing narik kawigaten industri supaya alon-alon, nggawe rencana telung bagean lan komitmen yen Anthropic bakal "sepihak" ngetrapake langkah pertama: menehi evaluator pihak katelu permanen, akses tingkat karyawan menyang sistem supaya bisa verifikasi ketaatan model, lan laporan babagan langkah-langkah safety.
CEO OpenAI Sam Altman, pangareping Google DeepMind Demis Hassabis lan bos SpaceX Elon Musk kabeh ndhukung umum esai kasebut, kanthi Altman ujar manawa dheweke bakal cocog karo komitmen Amodei kanggo nambahake evaluator njaba ing perusahaane dhewe.
Investor nanggepi kanthi cepet ing dina Senin. Nvidia, perusahaan paling terkenal ing donya, ditutup mudhun 3,3% ing New York, AMD mudhun 4%, lan Teknologi Micron lan Sandisk mudhun udakara 5%. Ing Asia, SoftBank - panyengkuyung OpenAI utama - mudhun 13%, dene ASML Eropa mudhun 6%.
Presiden Donald Trump nolak kabeh debat kasebut, nulis ing postingan media sosial yen "ana konspirasi SICK nglawan AI lan Pusat Data, lan siji-sijine sing seneng babagan iki yaiku China. SIAPA MENANG AI, MENANG!" Dheweke nambahake yen mung guardrails sing dibutuhake AI yaiku "PRESIDEN KUAT lan SMART (IQ dhuwur!)," lan marang pangareping Nvidia Jensen Huang dening speakerphone nalika katon konferensi ing California: "Iku hoax.
Sementara, Agence France-Presse nglaporake manawa Dewan Keamanan PBB ngrencanakake ketemu ing AI minggu ngarep amarga keprihatinan internasional mundhak. Gelombang kuatir kasebut sawise mundur saka peneliti Anthropic Jacob Coxon minggu kepungkur, sing ngelingake kanthi umum manawa AI bisa nyebabake kepunahan manungsa ing taun 2030 lan ujar manawa Anthropic lan mantan majikane OpenAI salah nangani ancaman kasebut.
Sukarela kanggo saiki - nanging cithakan?
Kode Microsoft sauntara lan sukarela, lan perusahaan durung nerangake mekanisme penegakan ngluwihi proses internal dhewe. Kritikus bakal nyathet yen aturan sing dileksanakake dhewe bisa direvisi utawa ditinggal kanthi tenang, lan Microsoft saingan kanthi agresif ing pangembangan model perbatasan liwat struktur kemitraan karo OpenAI lan model internal dhewe.
Isih, kode kasebut minangka sepisanan lab AI utama wis nerbitake watesan prilaku wektu latihan umum sing bisa dikonsultasi ing formulir iki. Apa dadi cithakan sing disalin wong liya - utawa cathetan sikil ing debat sing luwih cepet tinimbang proses kabijakan - mesthine bakal ditemtokake sadurunge regulator nimbang.
Kanggo liputan terus babagan debat safety sing ngowahi industri AI, AI Buzz Wire nglacak saben pangembangan sing kedadeyan.
---
Tetep Ahead of AIEntuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.
Waca liyane AI warta →
