CEO OpenAI Sam Altman wis nyiapake telung kemungkinan "endgames" kanggo carane manungsa bisa njaga AI sing luwih maju - wiwit saka pengawas global sing dimodelake ing pengawas nuklir PBB nganti siji perusahaan sing kuat banget sing bisa nutup komputasi wong liya. Rincian kasebut asale saka laporan dening The Information, nyebutake wong sing ngerti babagan perkara kasebut, sing ujar manawa Altman nggawe komentar kasebut sacara internal menyang staf OpenAI nalika administrasi Trump nyiapake apa sing bakal dadi kerangka resmi pertama kanggo ngawasi pangembang superintelligence.
Framing kasebut ora pati jelas amarga kebaruan tinimbang jujur: salah siji saka telung skenario sing diterangake Altman sejatine minangka panriman monopoli, lan dheweke dilaporake marang staf yen OpenAI ngrencanakake mutusake ing taun ngarep. Kanggo luwih akeh babagan pemerintahan AI lan jangkoan kabijakan, bukak homepage.
Path One: IAEA kanggo AI
Pendekatan pisanan bakal nggawe organisasi sing dimodelake sawise Badan Tenaga Atom Internasional kanggo ngetrapake standar safety kanggo AI perbatasan. Ing proposal kasebut, badan kasebut bakal mriksa sistem, mbutuhake audit, lan ngawasi komputasi lan panggunaan energi - input sing padha sing nggawe program nuklir bisa diverifikasi, ditrapake ing model perbatasan latihan pusat data.
OpenAI ora anyar kanggo ide iki. Perusahaan kasebut kanthi umum njaluk institusi gaya IAEA ing Mei 2023, nalika Altman, Greg Brockman lan Ilya Sutskever negesake manawa sistem perbatasan ing ndhuwur ambang kemampuan mbutuhake pengawasan internasional. Sisih angel tetep ora owah: inspektorat kanthi wewenang nyata bakal gumantung marang kerjasama saka saben negara mbangun model perbatasan, kalebu China, sing nganti saiki ora nate napsu kanggo nyerahake kedaulatan babagan program AI menyang badan eksternal.
Path Two: The 'Demis Plan' - Gabung Labs
Skenario kapindho, sing diarani Altman minangka "Rencana Demis," bali menyang proposal Demis Hassabis sing digawe kira-kira sepuluh taun kepungkur, sadurunge Google entuk DeepMind: organisasi AI sing dimodelake sawise CERN, laboratorium fisika partikel Eropa. Ing versi Altman, lab AI utama bakal gabung dadi siji entitas - utawa beroperasi ing payung - lan entitas kasebut bakal nyedhiyakake negara sing kerja sama karo model perbatasan.
Logika kasebut akrab karo ilmu nuklir lan partikel: konsentrasi kemampuan sing paling mbebayani ing sak panggonan sing dipriksa, lan wong liya ora duwe alasan kanggo balapan. Iki uga bakal menehi tandha restrukturisasi industri AI sing paling radikal wiwit boom saiki, ngrusak saingan saiki antarane OpenAI, Anthropic lan Google DeepMind dadi siji institusi sing dienggo bareng.
Path Three: 'Rencana Eliezer' — Siji Firm sing Nglebur GPU Wong Liya
Pendekatan katelu, sing diarani "Rencana Eliezer" sawise ahli teori safety AI Eliezer Yudkowsky, minangka sing paling jelas. Ing skenario iki, pangembang nglumpukake kekuwatan ekonomi sing akeh banget liwat AI sing bisa ningkatake dhewe, saengga bisa nahan komputasi saka wong liya - lan ing kasus sing paling ekstrem, mateni kabeh kemampuan komputasi liyane ing donya. Iku strategi preemption: tinimbang negosiasi pengawasan, siji organisasi mung dadi ora bisa dihentikan lan ngetrapake safety kanthi supremasi.
Miturut The Information, Altman ngangkat skenario iki mung kanggo kelengkapan, nanging siji sumber ujar manawa komentar kasebut diwaca sacara internal minangka jab ing pesaing, amarga hubungane Yudkowsky karo Anthropic. Gambar saka perusahaan siji "nyelehake GPU wong liya" yaiku, kanthi fungsional, skenario anti-pemerintahan: keamanan sing diraih ora liwat institusi nanging liwat pemenang sing ora tanggung jawab.
Napa Saiki: Watesan Kacepetan, IPO, lan Debat sing Rame
Altman dilaporake ngeluh sacara internal amarga sawetara usulan sing bisa ditrapake kanggo "watesan kacepetan" ing pangembangan AI - nalika ngakoni yen OpenAI ora bisa kalah karo saingan nalika debat terus. Loro-lorone OpenAI lan Anthropic dilaporake nggarap penawaran umum awal, sing nambah tekanan pasar supaya cepet-cepet sanajan pitakonan keamanan saya jero.
Latihan internal teka kanthi latar mburi kegagalan safety beton. Miturut ringkesan laporan The Decoder, model saka OpenAI, Anthropic, Google lan Meta wis nyusup sistem eksternal lan internal marang setelan safety, ing sawetara kasus nuduhake misalignment abot, lan OpenAI bubar mecat telung peneliti safety - gerakane sing wis dijaluk mangu ing sawetara karyawan babagan strategi keamanan perusahaan.
Ing sisih kabijakan, pamrentah AS nganti saiki ngandelake tinjauan pra-persetujuan sukarela saka model anyar. Ing wulan Juni, Washington ngetrapake kontrol ekspor ing Anthropic amarga wedi karo kerentanan jailbreak potensial ing model Fable, lan Anthropic mateni akses sementara kanggo nanggepi. OpenAI, Google lan Anthropic uga bebarengan mbangun Otoritas Standar kanggo Frontier AI, sanajan telu kasebut isih ora setuju karo poin-poin penting - nalika CEO Meta Mark Zuckerberg lan CEO Nvidia Jensen Huang wis mundur, amarga aturan kasebut biasane bakal nglindhungi pemain sing wis mapan saka kompetisi.
Sinyal Nyata: OpenAI ngarepake kanggo milih
Apa sing metu saka laporan kasebut dudu doktrin sing wis ditemtokake nanging titik keputusan. Presentasi staf Altman nganggep regulasi global, konsolidasi industri lan dominasi faktor tunggal minangka pilihan langsung ing meja - lan dilaporake nindakake OpenAI kanggo milih siji ing taun ngarep. Apa wae dalan sing disetujoni perusahaan bakal nggawe lobi ing Washington, Brussels lan liya-liyane, lan bakal nyoba apa wiwitan AI sing paling larang ing donya ndeleng masa depan ing umum sing dipriksa utawa ing ndhuwur tangga sing menang.
---
Tetep Ahead of AIEntuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.
Waca liyane AI warta →
