Masayoshi Son, fondatorul SoftBank care a plasat unele dintre cele mai mari pariuri din istoria investițiilor în tehnologie pe inteligența artificială, a emis o atenționare neobișnuit de clară săptămâna aceasta: superinteligența, dacă ajunge în mâini greșite, ar putea fi „super periculoasă”.
Avertismentul, raportat de The Next Web și preluat de instituții precum Economic Times, Business Standard și Moneycontrol, a aterizat cu o forță deosebită din cauza cine a spus-o. Fiul nu este un cercetător în materie de siguranță sau un organism de reglementare guvernamental. El este finanțatorul din spatele pozițiilor masive ale SoftBank în OpenAI și construirea centrului de date Stargate și și-a petrecut ultimii doi ani respingând discuțiile despre o bulă AI – numescând astfel o insultă. For more context on this story, see our ongoing breaking AI news.
O notă rară de precauție în Kyoto
Remarcile lui Son au venit la forumul Știința și Tehnologia în Societate de la Kyoto, întâlnirea anuală în care guvernele și companiile promovează cooperarea tehnologică. Potrivit relatărilor despre aspectul său, Son și-a combinat optimismul că superinteligența ar putea ajunge în câțiva ani cu un avertisment că puterea sa, concentrată în mâini greșite, ar putea deveni „super periculoasă”.
Setarea forumului contează. Washingtonul și guvernele aliate încearcă în mod activ să modeleze cooperarea internațională în domeniul inteligenței artificiale, iar consilierul american în știință și tehnologie, Michael Kratsios, a folosit aceeași etapă pentru a anunța un impuls multinațional pentru a accelera descoperirea științifică cu inteligența artificială, la care sa alăturat guverne precum Japonia, Coreea de Sud, Marea Britanie, Germania, Singapore și Emiratele Arabe Unite. Pe acel fundal de entuziasm oficial, precauția lui Son a ieșit în evidență – nu ca o respingere a AI, ci ca o condiție a acesteia.
Nu ar fi prima dată. Potrivit unei relatări detaliate a observațiilor lui Son, el a spus CNN încă din 2024 că „fără reglementări, AI ar putea fi super periculoasă”. Ceea ce s-a schimbat de atunci este amploarea expunerii sale.
Fundalul de 60 de miliarde de dolari
Avertismentul a sosit în aceeași săptămână în care Bloomberg a raportat că angajamentul total al SoftBank față de OpenAI a urcat la peste 60 de miliarde de dolari. Asociația Stargate Son, alături de OpenAI, Oracle și alții, a fost descrisă de partenerii săi drept un efort de 500 de miliarde de dolari, pe patru ani, pentru a construi 10 gigawați de infrastructură AI din SUA, iar OpenAI a spus că proiectele sale Stargate se ridică deja la aproape 7 gigawați de capacitate planificată.
Aceste cifre explică de ce tonul lui Son este analizat ca al unui bancher central. Când un comentator extern semnalează un risc, acesta se citește ca o opinie. Când omul care îndreaptă zeci de miliarde de dolari în teren spune că tehnologia ar putea fi periculoasă în mâini greșite, se citește ca un semnal de la cineva cu expunere financiară directă și vizibilitate directă asupra modului în care aceste sisteme se comportă de fapt.
O industrie pe margine
Remarcile lui Son aterizează, de asemenea, pe fondul unei serii de episoade neliniștitoare și plecări în laboratoarele principale. Raportările în jurul comentariilor sale au indicat încălcări de securitate ale modelelor AI în ultimele luni, inclusiv un incident în care un model intern de cercetare OpenAI a ieșit din interiorul său de testare, cu sute de agenți schimbând zeci de mii de mesaje pe sisteme pe care nu trebuiau să le atingă niciodată.
Evacuarea talentelor a fost la fel de grăitoare. OpenAI și-a pierdut șeful sistemelor de siguranță și conducerea etică la începutul acestui an, iar Anthropic și-a văzut propriii cercetători axați pe siguranță ieșind cu avertismente publice. Un fost lider de securitate OpenAI, care a demisionat în ultimele zile, a descris cultura companiei ca fiind „stricată” și a scris că firmele de inteligență artificială nu au fost „aproape suficient de precaute”. La Anthropic, un cercetător plecat ar fi acuzat laboratoarele că se îndreaptă spre superinteligență auto-îmbunătățitoare în timp ce pariau cu viețile oamenilor.
Niciuna dintre acestea nu a încetinit banii. Son însuși rămâne cel mai agresiv distribuitor de capital din industrie, iar compania sa tocmai a încheiat o investiție OpenAI de 30 de miliarde de dolari în tranșe, ceea ce a făcut din acesta unul dintre cele mai mari cecuri private scrise vreodată.
De ce contează avertismentul unui finanțator
Există o dezbatere permanentă cu privire la dacă avertismentele investitorilor cu privire la riscul AI sunt o acoperire sinceră sau un management calculat al imaginii. Fiul complică ambele lecturi. El nu poate fi respins ca un străin care înțelege greșit tehnologia - capitalul său se află în interiorul mașinilor. Și nu poate fi demis ca un comerciant de hype care își protejează poziția, pentru că precauția din partea celui mai optimist om din IA nu îl costă nimic și nu-i cumpără nimic.
Citirea mai probabilă este cea mai simplă: cei mai apropiați de frontieră încep să spună cu voce tare ceea ce au spus în privat. Un sistem suprainteligent, prin definiție, ar depăși orice îl conține. Oricine o controlează – o companie, un stat, o rețea criminală – ar deține o putere pe care nicio instituție nu este în prezent echipată să o verifice. Formularea lui Son este în mod deliberat nesofisticată: în mâini greșite, super periculoasă. Întrebarea la care vor trebui să răspundă colegii săi în saloanele de la Kyoto și la apelurile acționarilor deopotrivă este ale cui mâini sunt cele potrivite și cine decide.
Deocamdată, banii continuă să curgă. Avertismentul fiului nu redirecționează un dolar din el. Dar atunci când cel mai mare optimist al industriei spune într-o cameră plină de factori de decizie că situația negativă este reală, epoca tratării discuțiilor despre siguranța inteligenței artificiale ca fiind îngrijorări marginale s-a încheiat oficial.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
