Sawetara jam sawise CEO Anthropic Dario Amodei nerbitake esai "We Must Pace the Frontier" sing njaluk pamrentah supaya alon-alon balapan AI, tanggapan sing cetha wiwit munggah ing Hacker News, pungkasane dadi salah sawijining crita sing paling disenengi ing dina iki. Argumentasi kasebut, sing dilebokake ing surat terbuka dening panulis lan pangembang Jacob Gold, gampang banget: yen Amodei tulus babagan alon-alon AI, ana siji undang-undang sing bisa ditindakake - lan ora ana eksekutif lab liyane sing bisa ngusulake. Mbutuhake saben model AI sing ditawakake perusahaan marang publik supaya dirilis minangka bobot mbukak.
"Aku yakin sampeyan tulus," layang kasebut mbukak, ngarahake langsung marang Amodei, "dadi aku njaluk sampeyan njaluk undang-undang sing beda, sing bener-bener bakal alon-alon, sanajan sampeyan mbutuhake pengorbanan nyata." Huruf kasebut pancen nesu amarga ana gandhengane karo versi argumen Amodei sing paling kuat tinimbang nolak - lan amarga ana ing tengah-tengah debat kabijakan sing paling penting ing AI saiki, debat sing kita tindakake saben dina ing [liputan kebijakan AI] (https://aibuzzwire.news).
Apa Amodei ngajokaken, lan apa Gold ngandika iku ora bisa
Esai Amodei setya Anthropic kanggo ngevaluasi pihak katelu lan njaluk pamrentah supaya saben perusahaan perbatasan liyane cocog karo komitmen kasebut. Sam Altman sarujuk ing sawetara jam - "Aku setuju karo Dario yen kita kudu nyepetake wates," ujare, miturut Politico, kanthi OpenAI uga cocog karo komitmen evaluator. Ing pasuryane, iki minangka keselarasan sing durung tau ana sadurunge: kepala loro laboratorium AI sing paling larang ing donya kanthi umum njaluk supaya alon-alon.
Layang emas ujar manawa konsensus iki sing kudu nggawe pengamat curiga. "Saben angger-angger sing dijaluk bakal rampung," ujare. Evaluators semat, ambang ngitung, koordinasi industri karo waivers antitrust - "Kabeh bakal ditulis kanthi bantuan labs wates saiki, amarga ora ana wong liya sing ngerti rincian teknis sing cukup kanggo nulis." Sawise aturan kasebut dadi undang-undang, saben kedadeyan nambah aturan lan ora ana sing bisa dicopot, lan para raksasa bisa mbayar tim kepatuhan sing nyegah para penantang sing luwih cilik. "Tinimbang alon-alon sampeyan," layang kasebut ngandhani Amodei, "iku nglindhungi posisi lan bathi sampeyan."
The open-weights counterproposal
Sketsa Emas alternatif sengaja kethul. Model AI apa wae sing ditawakake perusahaan menyang publik kudu dikirim kanthi bobote sing diterbitake. Model internal lan riset bakal ora kena, lan pamrentah bakal nahan akses menyang sistem sing durung dirilis - nanging Anthropic kudu nerbitake bobot model perbatasan sabanjure nalika dirilis, lan OpenAI kudu nindakake perkara sing padha. "Ora ana apa-apa kanggo game utawa ngindari," layang kasebut rampung, "malah kanggo sampeyan."
Mekanisme kasebut minangka finansial tinimbang birokrasi. Minangka Gold nerangake, pendanaan kanggo pangembangan model wates gumantung ing valuasi sing nganggep bobote tetep kepemilikan. A mandat flips asumsi sing: yen saben release umum mbukak, kauntungan competitive mili kanggo sapa sing nglatih model paling apik tinimbang sapa sing ngedol akses menyang, premium ditempelake ing valuasi pribadi deflates, lan dhuwit kasedhiya kanggo latihan sabanjuré mlaku nyusut - "ing saben lab bebarengan, tanpa regulator mutusaké apa-apa." Iku, ing efek, bantahan sing pangarepan pasar model tertutup punika engine saka lomba, lan njabut pangarepan mbusak engine.
Apa Amodei, khusus
Kasus layang kanggo ngapa Amodei minangka wong sing bisa nggawe proposal iki dibangun ing cathetane, lan iki penting banget. Emas menehi kredit marang dheweke ninggalake OpenAI ing pungkasan taun 2020 kanggo nemokake Anthropic "nalika pamindhahan karir sing aman kudu tetep," kanthi nyengkuyung peraturan industri dhewe sajrone pirang-pirang taun, lan kanthi nyurung kontrol ekspor sing nyuda pasar dhewe. Dheweke nyathet yen Anthropic nggawe dhewe minangka Perusahaan Manfaat Umum kanthi misi hukum - "pangembangan lan pangopènan AI sing tanggung jawab kanggo mupangat jangka panjang manungsa" - sing bakal ngidini pimpinane nyerep hit finansial sing bakal ditindakake. Esai Amodei dhewe, Gold mirsani, ngandika Anthropic panyengkuyung kanggo angger-angger "sanajan iki njaluk kita dipuntudhuh saka hype, 'doomerism', utawa panangkepan peraturan."
Skeptis bakal nyathet argumentasi sing jelas, lan surat kasebut ora mangsuli kanthi lengkap: bobot mbukak nggawe nyalahi panggunaan lan kemajuan luwih angel, mandat bobot mbukak bakal ngadhepi oposisi sengit saka saben investor lab, lan kritikus posisi Amodei ing model mbukak Cina bakal krungu gema saka gelut lawas ing proposal kasebut. Nanging tantangan inti surat kasebut ora gumantung marang kabijakan sing diadopsi. Iku gumantung saka tension sing dijenengi kanthi jelas: laboratorium sing njaluk pamrentah supaya alon-alon, dene regane dhewe gumantung kanggo tetep maju, durung njaluk apa-apa sing larang regane.
Debat sing saiki ora bisa diendhani
Apa Amodei nanggapi meh ora ana. Ing sawijining dina, laboratorium perbatasan pindhah saka saingan babagan kemampuan kanggo setuju babagan kabutuhan pacing, lan tanggapan umum wis pindhah saka takon apa AI mbebayani kanggo takon apa wong sing menehi peringatan babagan iki bisa dipercaya. Surat emas - sawetara atus tembung saka rincian kabijakan sing dibungkus ing pitakonan sing ora nyenengake - wis dadi ekspresi sing paling cetha saka skeptisisme kasebut, lan viralitas kasebut nuduhake debat pacing bakal dilawan ora mung ing Washington nanging ing umum, ing platform kaya Hacker News, ing ngendi komunitas mbukak-bobot wis nggawe variasi saka argumentasi iki sajrone pirang-pirang taun.
Tetep Ahead of AI
Regulasi, bobot mbukak, lan perang nglawan kecepatan AI - dijamin tanpa hype.
Waca liyane warta AI →
