Un val de avertismente publice din interiorul Anthropic s-a intensificat săptămâna aceasta, deoarece mai mulți cercetători de la compania de inteligență artificială au reluat evaluarea apocaliptică a inteligenței artificiale a unui fost coleg – atragând un răspuns disprețuitor din partea lui Elon Musk, care a sugerat că strigătul a fost un „psyop” coordonat.
Potrivit The Guardian, escaladarea a survenit la o zi după ce cercetătorul Anthropic Jacob Coxon și-a anunțat demisia într-o postare virală, scriind că nici Anthropic, nici OpenAI – fostul său angajator – nu construiau modele AI în mod responsabil și „jucau cu viețile noastre”. În loc să se estompeze, controversa a crescut pe măsură ce actualul personal Anthropic și-a postat propriile evaluări îngrozitoare în sprijin. For more context on this story, see our ongoing artificial intelligence updates.
Avertismentele se îngrămădesc
Anna Wang, care lucrează la securitatea inteligenței generale artificiale la Anthropic și a lucrat anterior la DeepMind de la Google, a declarat joi că mulți oameni din companie doresc să încetinească dezvoltarea pentru a planifica riscurile prezentate de modelele din ce în ce mai capabile.
„Nu există încă un plan științific viabil pentru a rezolva riscurile din IA care se auto-îmbunătățește recursiv”, a scris Wang pe X.
Un alt angajat Anthropic, Drake Thomas, a spus că respectă decizia lui Coxon de a renunța la construirea tehnologiei. „Lucrurile se mișcă mult prea repede, nu avem nici pe departe gradul de asigurare pe care ne-l dorim pentru ASI [superinteligență artificială]”, a scris Thomas.
Samuel Marks, care lucrează la cercetarea siguranței la companie, a susținut că preocupările sunt împărtășite pe scară largă în industrie - și că vechimea este corelată cu alarma. „Dezvoltatorii AI cred că tehnologia lor ar putea provoca dispariția umană (sau rezultate similare proaste)”, a scris Marks. "Acest lucru s-ar putea întâmpla în următorii câțiva ani. În general, cu cât angajatul este mai în vârstă, cu atât este mai preocupat."
Evan Hubinger, care se descrie ca lider în divizia de aliniere a lui Anthropic, a mers cel mai departe. „Credem cu adevărat că AI ar putea ucide toți oamenii!” Hubinger a scris, adăugând că el personal pune probabilitatea peste 10% în următorul deceniu.
The Insider notează după raportarea CBS News conform căreia un cercetător antropic a atribuit o șansă mai mare de 10% ca IA să provoace dispariția umană și acoperirea The Japan Times că avertismentele au reînnoit cererile pentru noi reguli AI în Statele Unite.
Musk: „Pare ca o configurație”
Elon Musk a avut o viziune puternic contradictorie. „Pare o configurație”, a scris cel mai bogat om din lume pe X, propria sa platformă socială.
Coxon a răspuns cu un selfie: "Sunt real și acestea sunt convingerile mele adevărate. Ai putea să-i întrebi pe cercetătorii tăi xAI despre mine dacă nu i-ai fi concediat."
Musk și alte voci simpatice au amplificat o teorie susținută de Parker Thayer, un cercetător la think tank-ul conservator Capital Research, care a sugerat – cu puține dovezi, notează The Guardian – că postarea lui Coxon a fost mișcarea de deschidere a unei „operațiuni de PR FOARTE sofisticate și bine finanțate pentru a obține sprijin pentru democrați pentru a reglementa AI în uitare”.
Administratorul miliardarului de fonduri speculative Bill Ackman a citat postarea lui Thayer cu un răspuns dintr-un singur cuvânt: „Interesant”.
Musk a elaborat ulterior. „Cred că bazele pentru această operațiune psihică (din lipsa unui termen mai bun) au fost pregătite de mult timp”, a postat el. „Acesta a fost doar chibritul care a aprins focul”.
Antropicul își apără abordarea
Prins între avertismentele propriilor angajați și atacurile din exterior, Anthropic a oferit un răspuns măsurat publicului.
„Am fost întotdeauna transparenți că AI va aduce atât beneficii enorme, cât și riscuri fără precedent”, a declarat un purtător de cuvânt al companiei The Guardian. „Pentru a aborda aceste riscuri, continuăm să construim modele cu unele dintre cele mai puternice garanții din industrie”.
Compania a menționat istoricul său de documentare și întreruperea utilizării abuzive. În aceeași zi în care avertismentele au devenit virale, Anthropic a lansat raportul său de informații despre amenințări din septembrie, care detaliază modul în care compania a demontat o operațiune care încerca să construiască o armă biologică folosind modelele sale de inteligență artificială - alături de campanii perturbate care acoperă atacurile cibernetice și operațiunile de influență. Al Jazeera și BBC s-au numărat printre canalele care au subliniat vineri descoperirile privind armele biologice.
Scepticii văd un alt risc
Nu toată lumea acceptă încadrarea extincției. Gary Marcus, om de știință și critic de lungă durată în domeniul inteligenței artificiale, a susținut că tehnologia provoacă deja un prejudiciu care justifică acțiunea indiferent de scenariile de superintelligence - solicitând boicotarea inteligenței artificiale asupra daunelor actuale.
Mai mult decât extincție, Marcus a declarat pentru The Guardian că este îngrijorat de „riscul de catastrofă” de la „patogenii generați de AI, de la războaiele începute sau escalade de dezinformarea generată de AI, de la hack-uri care distrug infrastructura critică și așa mai departe. Nimic din ceea ce am văzut nu dă vreo indicație că oricare dintre acestea este sub control”.
Poziția sa subliniază o divizare în cadrul dezbaterii despre siguranța AI în sine: între cei concentrați pe riscul pe termen lung, la scară de civilizație, din sistemele viitoare și cei concentrați pe daune concrete din modelele actuale.
O dezbatere care refuză să rămână internă
Ceea ce a început ca scrisoarea de demisie a unui cercetător a devenit un referendum foarte public despre modul în care industria AI își construiește cele mai puternice sisteme. În cadrul Anthropic, angajații dezbat în mod deschis dacă propriile lor termene de dezvoltare în siguranță au alunecat. În afara ei, avertismentele sunt transformate într-o luptă politică din ce în ce mai polarizată pentru a stabili dacă și cum ar trebui să intervină guvernele.
Raportarea The Guardian sugerează că mulți antropici împărtășesc aceste preocupări în mod privat, dar nu au vorbit public. Dacă mai mulți dintre ei îi urmează pe Coxon, Wang, Thomas, Marks și Hubinger, presiunea asupra ca laboratoarele de inteligență artificială să încetinească – și asupra autorităților de reglementare să acționeze – va crește doar.
_Acest articol se bazează pe reportajele The Guardian, cu context suplimentar de la CBS News, The Japan Times, Al Jazeera și BBC._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
