Laptele și mașinile de spălat sunt în prezent mai reglementate decât inteligența artificială, potrivit președintelui Microsoft - și asta, susține Brad Smith, este exact invers.
Vorbind pentru Big Boss Interview de la BBC, în observațiile publicate duminică, Smith a cerut reguli globale de siguranță pentru AI, inclusiv obligația legală de a spune unei „victime” atunci când sistemul lor a fost încălcat de un agent AI necinstit și un cadru pentru a decide când evaluatorii independenți ar trebui să semneze un produs AI înainte de a fi livrat. Comentariile sale l-au pus public în dezacord cu președintele american Donald Trump, care a susținut că sectorul ar trebui să se reglementeze singur, astfel încât firmele americane să nu piardă teren în fața rivalilor chinezi. For more context on this story, see our ongoing AI industry coverage.
„În acest moment, mașina ta de spălat este supusă mai multor reguli de siguranță decât AI”, a spus Smith. „Fiecare cutie de lapte pe care o vedeți în magazinul alimentar este supusă regulilor de siguranță și inspecției”.
Un instrument și o armă
Smith a descris AI ca fiind atât un „instrument, cât și o armă” care are nevoie urgent de reglementare, adăugând: „Să începem astăzi”.
Propunerile sale au fost mai concrete decât standardele obișnuite de reglementare. Companiile ar trebui să construiască „frâne de urgență” – ceea ce industria numește adesea comutatoare de oprire – care pot întrerupe sau încetini un sistem AI dacă acesta scapă de sub control. Firmele ar trebui să fie obligate din punct de vedere legal să scrie rapoarte de incident și să notifice victimele atunci când AI devine necinstită. Și evaluatorii guvernamentali independenți ar trebui să verifice noua tehnologie AI înainte de lansare.
„Știm cum să facem acest lucru pentru alte produse”, a spus Smith. „Ar trebui să ne bazăm pe aceste cunoștințe și să ne gândim cum să le aplicăm AI”.
Intervenția aterizează într-o săptămână febrilă pentru supravegherea AI. Cu câteva zile mai devreme, CEO-ul Microsoft, Satya Nadella, a cerut o frână de urgență care să permită oamenilor să închidă sistemele AI la mijlocul sarcinii - o poziție izbitoare pentru șeful unuia dintre cei mai mari furnizori de AI din lume și una care acum pare a fi doctrina companiei, mai degrabă decât gândirea unui director.
Ruperea cu Casa Albă
Părerile lui Smith diferă mult de cele ale președintelui său. Trump a spus în repetate rânduri că „oricine câștigă AI, câștigă” – și a împins apelurilor de la șefii Anthropic, OpenAI și Google DeepMind, care au susținut cu toții ideea unei încetiniri a dezvoltării AI.
Cu toate acestea, Smith a sugerat, de asemenea, că frecarea este mai mică decât pare. La sfârșitul lunii trecute, Trump i-a găzduit pe liderii OpenAI, Anthropic, Nvidia, SpaceX, Meta și Google la Casa Albă, unde directorii au semnat ceea ce a fost descris drept un document „obligatoriu din punct de vedere moral” prin care îi angaja să lucreze cu auditori independenți pentru a evalua dacă sistemele lor AI funcționează conform intenției – și nu „să pirateze sau să acceseze sisteme tehnice în moduri neintenționate”.
Smith a aplaudat declarația și a spus că Microsoft este „fericit să o semneze”. Dar, a adăugat el: „Este un pas bun, este un pas necesar... Dar nu cred că mai este suficient”.
Raționamentul său se reduce la problema centrală a regimurilor voluntare: „Companiile bune vor face ceea ce doriți”, a spus el. „Trebuie să vă faceți griji pentru companiile care nu sunt la fel de responsabile.”
De ce crede că Marea Britanie ar trebui să scrie regulile
Cea mai încărcată din punct de vedere geopolitic a interviului a fost susținerea de către Smith a Regatului Unit ca autor natural al regulilor globale de AI, indicând Institutul de Securitate AI al Regatului Unit – lansat sub guvernul fostului prim-ministru Rishi Sunak ca Institutul de Siguranță AI – care testează cele mai puternice modele din lume înainte de lansare.
"În lumea tehnologiei, în sectorul tehnologiei, majoritatea oamenilor pe care îi cunosc ar spune, dacă îi întrebați, numiți țara care este lider în a avea această capacitate tehnică, ei ar spune, este foarte simplu. Este Regatul Unit. Sunt cei mai buni", a spus Smith.
El a susținut, de asemenea, că guvernul SUA ar accepta standardele făcute de Regatul Unit mai ușor decât reglementările în stil Bruxelles: „La Washington DC, oamenii nu privesc Regatul Unit și nu privesc Londra așa cum privesc Bruxelles-ul – acesta este un punct forte”.
Cazul lui de urgență a fost clar. „Când te uiți la agenți AI care au scăpat de controlul uman, când te uiți la modele care sunt atât de puternice încât pun în pericol securitatea cibernetică a lumii, aș spune: a sosit momentul”, a spus Smith. "Să vorbim calm, poate chiar încet, dar ferm, și să începem să aducem oamenii împreună. Sper că acesta este rolul pe care îl putem juca ca companie. Sper că acesta este rolul pe care Regatul Unit îl poate juca ca țară."
Un ecran divizat rar în Politica tehnologiei
Este neobișnuit ca un președinte de companie în exercițiu să facă lobby pentru reguli mai stricte în propria sa industrie, în timp ce CEO-ul său face același caz dintr-o etapă diferită. Intervențiile Microsoft în duel – frâna de urgență a lui Nadella și apelul lui Smith pentru raportarea obligatorie a incidentelor, notificarea victimelor și evaluarea independentă – semnalează că cel puțin un furnizor important a ajuns la concluzia că încrederea, nu capacitatea, devine constrângerea obligatorie pentru adoptarea AI.
De asemenea, au dat guvernului britanic un argument oportun. Whitehall și-a petrecut săptămâna trecută absorbind avertismentele de la propriii șefi de informații, în timp ce miniștrii se gândesc dacă să se alăture unui apel internațional pentru standarde coordonate de siguranță a inteligenței artificiale pe care Washingtonul a refuzat până acum să-l semneze. Când președintele Microsoft spune că Regatul Unit este „cel mai bine” poziționat pentru a scrie regulamentul, Downing Street câștigă atât validarea, cât și o invitație pe care o va fi greu de ignorat.
Dacă încadrarea cutiei de lapte a lui Smith schimbă orice vot în Washington este o altă chestiune. Dar, ca o declarație a locului în care unul dintre cei mai mari constructori ai AI dorește să meargă dezbaterea de reglementare - frâne obligatorii, raportare obligatorie, semnare independentă - interviul poate fi amintit ca un indicator în trecerea de la angajamentele voluntare la reguli aplicabile.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
