Un co-fondator al Anthropic spune că guvernele ar putea fi nevoite să forțeze companiile de inteligență artificială să instaleze un „interruptor de oprire” – un mecanism pentru închiderea completă a sistemelor de inteligență artificială – și că inspectorii externi ar trebui să poată verifica dacă funcționează cu adevărat.
Jack Clark, unul dintre cei șapte fondatori ai laboratorului de inteligență artificială de 965 de miliarde de dolari, a declarat pentru BBC că, în timp ce majoritatea laboratoarelor de top au deja modalități interne de a „traga priza” sistemelor periculoase, societatea „s-ar putea dori în cele din urmă să adopte reguli”, făcând astfel de comutatoare obligatorii și auditabile independent. Pentru cititorii care urmăresc dezbaterea privind siguranța AI, intervenția sa marchează cea mai concretă propunere de politică de până acum din interiorul unui laborator de frontieră în timpul unei săptămâni de avertismente în creștere.
„Ar trebui să ordonați companiilor să aibă cu siguranță un comutator de oprire? Este acel comutator de ucidere verificabil de o terță parte?” Clark a spus în interviul cu reporterul de tehnologie Kali Hays și editorul de economie Faisal Islam. „Cred că acesta este genul de lucru pe care societatea va dori să știe și ar putea dori în cele din urmă să adopte reguli.”
„Trim zaruri cu riscuri imense”
Cel mai izbitor comentariu al lui Clark a fost o respingere generală a status quo-ului. Întrebat despre traiectoria industriei, el a spus că a permite AI să continue ca o „industrie total nereglementată” este o idee proastă.
„Trim zaruri cu riscuri imense”, a spus el. „Și ideea este că trebuie să schimbăm cursul acestei industrii”.
Spre deosebire de unii dintre colegii săi, Clark a refuzat să pună un număr cu privire la riscul de dispariție umană. „Nu cred că aceste statistici sunt atât de utile”, a spus el – un contrast notabil cu cercetătorul antropic Evan Hubinger, care a spus săptămâna trecută că crede personal că există o șansă mai mare de 10% de dispariție umană din cauza inteligenței artificiale în următorul deceniu, și cu pionierul inteligenței artificiale Geoffrey Hinton, care a declarat vineri pentru BBC că o estimare de 10% „nu este nerezonabilă”.
Ceea ce Clark nu a contestat este direcția de mers. AI este, așa cum a spus el în același interviu, „mai puternică pe zi ce trece” – și a susținut că specificul oricărei cerințe de închidere, inclusiv cine ar verifica-o și cum, aparțin „conversației mai ample de politică” care are loc acum în jurul AI.
O propunere cu impuls legislativ
Propunerea lui Clark nu ajunge într-un vid. Legislatorii americani au înaintat deja o legislație numită Kill Switch Act, care ar impune dezvoltatorilor de frontieră AI să creeze mecanisme de oprire în sistemele lor - un proiect de lege acoperit de AI Buzz Wire luna trecută, pe măsură ce urgența sa a crescut în urma incidentelor de agenți necinstiți.
Ideea se confruntă și cu un scepticism deschis. În Marea Britanie, secretarul de afaceri Jonathan Reynolds a declarat pentru BBC că nu i-a găsit conceptul de ajutor, spunând că „nu este cu adevărat sigur ce ar însemna asta în practică” și a avertizat că suprareglementarea ar putea lăsa țara tăiată de modelele dezvoltate în străinătate.
Fundalul: un război civil de siguranță – și o IPO
Comentariile lui Clark limitează o săptămână în care siguranța AI a trecut de la subiectul seminarului la știrile de pe prima pagină. CEO-ul Antropic, Dario Amodei, a cerut în weekend ca ritmul dezvoltării de frontieră să încetinească și să fie monitorizat mai atent, insistând în același timp că orice pauză ar trebui să vină „fără a sacrifica avantajul comercial”. Apoi a dus acel caz unui public american de masă într-un interviu cu Anderson Cooper de la CNN, însuși Coxon apărând pe rețea pentru a reacționa la el. Remarcile au urmat unei postări virale de demisie din partea fostului cercetător antropic Jacob Coxon, care avertizează cu privire la soarta umanității, ceea ce a determinat, la rândul său, estimarea dispariției lui Hubinger. The Guardian, la rândul său, a examinat de ce acest avertisment special de apocalipsa a spart acolo unde cele anterioare dispăruseră.
Alarmele au fost întâmpinate cu derizoriu deschis din partea unor părți ale industriei tehnologice. CEO-ul Hugging Face, Clement Delangue, a batjocorit decizia de a face din Coxon un purtător de cuvânt al riscului de extincție, scriind: „Îmi pare rău, dar a-l întreba pe Jacob despre riscul de extincție a AI este ca și cum ai întreba tipul tău AC despre schimbările climatice”. CEO-ul Grindr, George Arison, a mers mai departe, argumentând că apariția fricii este motivată comercial. „Singura modalitate de a justifica aceste evaluări este să susțin de fapt: „Voi prelua fiecare industrie și voi prelua fiecare loc de muncă, iar AI-ul meu va face toată această muncă”, a spus el.
Există, de asemenea, o sumă enormă de bani care se bazează pe rezultatul acestei dezbateri. Anthropic se pregătește pentru o ofertă publică inițială la o evaluare de 965 de miliarde de dolari, în timp ce OpenAI – cel mai recent evaluat la 852 de miliarde de dolari – era de așteptat să iasă la bursă înainte ca CEO-ul Sam Altman să afirme vineri că o IPO nu va avea loc anul acesta din cauza controversei privind siguranța. Critici precum Arison susțin că retorica doom și argumentul de strângere de fonduri sunt două fețe ale aceleiași monede; Răspunsul lui Clark este că industria trebuie să-și schimbe cursul indiferent.
Dacă un kill switch obligatoriu și verificabil va deveni vreodată lege, va depinde de legislatorii care până acum au arătat puțin apetit pentru constrângerea unei industrii care alimentează economia SUA. Dar pentru prima dată, unul dintre cei mai puternici cunoscători ai tehnologiei îi invită în mod explicit să încerce.
---
Rămâneți înaintea AIObțineți cele mai recente știri, analize și descoperiri despre AI - toate într-un singur loc.
Citește mai multe știri AI →
