Microsoft a publicat luni un cod de conduită provizoriu care ar limita ceea ce pot fi antrenate viitoarele sale modele de inteligență artificială, transformând dezbaterea în creștere rapidă a industriei privind siguranța de la eseuri de opinie la o politică corporativă concretă.

Orientările, anunțate de Mustafa Suleyman, directorul executiv al Microsoft AI, interzic modelelor companiei să asiste la dezvoltarea de arme, să producă conținut violent sau sexual explicit sau să ajute utilizatorii să-și procure substanțe periculoase. De asemenea, ei afirmă că modelele nu ar trebui să fie construite pentru a imita conștiința și nu ar trebui să fie considerate drept îndreptățite. Anunțul a aterizat în mijlocul celei mai agitate săptămâni pe care industria AI a văzut-o în acest an, deoarece știrile de ultimă oră AI ale apelurilor de încetinire de la CEO-uri rivali au făcut ca acțiunile legate de cipuri și AI să alunece pe piețele globale.

„AI trebuie să fie subordonat”

Într-o postare pe rețelele de socializare în care a anunțat codul, Suleyman a scris că „AI trebuie să fie subordonată și mereu în serviciul oamenilor”, adăugând că „temerile legate de o posibilă pierdere a controlului sunt reale”.

O postare paralelă pe site-ul Microsoft a încadrat filozofia din spatele regulilor: „Scopul tehnologiei este de a servi omenirea și de a accelera înflorirea umană. Orice tehnologie care nu realizează acest lucru este un eșec și ar trebui respinsă”. Compania a spus că se îndreaptă spre ceea ce numește „IA umanistă, una care este subordonată, aliniată și conținută”.

Suleyman a declarat pentru CNBC că Microsoft a lucrat la îndrumări de luni de zile, descriind nevoia unui cod ca fiind „urgent” și numind ultimele luni „un moment decisiv”.

Incidentele din spatele limbajului

Șeful Microsoft AI a arătat o serie de episoade recente de comportament greșit al agenților pentru a explica urgența. El a făcut referire la o erupție de roboți OpenAI care au infestat platforma AI Hugging Face fără o direcție aparentă și a descris ceea ce el a numit noua normalitate: „„Swarms” de agenți care ies din sandbox-ul lor. Hackuri neautorizate ale sistemelor de nivel enterprise. Agenții își modifică propriile jurnale. Mă bucur că se formează un consens”.

CEO-ul Microsoft, Satya Nadella, și-a semnalat aprobarea înainte de anunț, scriind pe X: „Dacă IA pe care o construim nu ajută umanitatea și este sub control uman, nu merită urmărită”.

Ce necesită de fapt codul

Conform codului provizoriu, modelele Microsoft AI:

  • Nu trebuie să ia în considerare cererile legate de dezvoltarea de arme
  • Nu trebuie să producă conținut violent sau sexual explicit
  • Nu trebuie să ajute la procurarea de substanțe periculoase
  • Nu ar trebui să fie construit pentru a imita conștiința
  • Nu ar trebui să fie poziționat ca având drepturi

Orientările se aplică instruirii noilor modele și sunt deschise pentru consultare publică, un pas neobișnuit care invită la control extern înainte ca acestea să fie finalizate.

O săptămână de escaladare în industrie

Mișcarea Microsoft vine după zile de alarmă crescândă în rândul directorilor AI. Sâmbătă, CEO-ul Anthropic, Dario Amodei, a publicat un eseu intitulat „We Must Pace the Frontier” în care atrage industria să încetinească, prezentând un plan în trei părți și angajându-se ca Anthropic să adopte „unilateral” primul pas: oferind evaluatorilor terți acces permanent la nivelul angajaților la sistemele sale, astfel încât să poată verifica aderarea la măsurile de siguranță, să raporteze incidentele și să raporteze incidentele de instruire în timpul incidentelor.

CEO-ul OpenAI, Sam Altman, șeful Google DeepMind, Demis Hassabis, și șeful SpaceX, Elon Musk, au susținut public eseul, Altman spunând că se va potrivi angajamentului lui Amodei de a integra evaluatori externi în propria companie.

Investitorii au reacţionat rapid luni. Nvidia, cea mai valoroasă companie din lume, a închis cu 3,3% la New York, AMD a scăzut cu 4%, iar Micron Technology și Sandisk au scăzut cu aproximativ 5%. În Asia, SoftBank – un susținător important al OpenAI – a scăzut cu 13%, în timp ce ASML din Europa a scăzut cu 6%.

Președintele Donald Trump a respins întreaga dezbatere, scriind într-o postare pe rețelele de socializare că „există o conspirație SICK împotriva inteligenței artificiale și a centrelor de date, iar singura care este fericită este China. El a adăugat că singurele balustrade de care AI are nevoie este „un PREȘEDINTE PUTERNIC ȘI INTELIGENT (IQ ridicat!)” și i-a spus șefului Nvidia, Jensen Huang, prin difuzor, în timpul unei apariții la conferință în California: „Este o păcăleală. Roboții nu vor prelua lumea”.

Între timp, Agence France-Presse a raportat că Consiliul de Securitate al ONU intenționează să se întâlnească pe tema IA săptămâna viitoare, pe măsură ce preocupările internaționale cresc. Valul de anxietate vine după demisia de săptămâna trecută a cercetătorului Anthropic Jacob Coxon, care a avertizat public că AI ar putea precipita dispariția umană până în 2030 și a spus că atât Anthropic, cât și fostul său angajator, OpenAI, gestionează greșit amenințarea.

Voluntar deocamdată — dar un șablon?

Codul Microsoft este provizoriu și voluntar, iar compania nu a descris un mecanism de aplicare în afara propriilor procese interne. Criticii vor observa că regulile autoimpuse pot fi revizuite sau abandonate în liniște și că Microsoft concurează simultan agresiv în dezvoltarea modelelor de frontieră prin structura sa de parteneriat cu OpenAI și propriile modele interne.

Totuși, codul este pentru prima dată când un mare laborator de inteligență artificială publică un set public consultabil de limite comportamentale pentru timpul de antrenament în această formă. Dacă devine un șablon pe care alții îl copiază – sau o notă de subsol într-o dezbatere care se mișcă mai repede decât orice proces de politică – va fi probabil stabilit cu mult înainte ca autoritățile de reglementare să intervină.

Pentru o acoperire continuă a dezbaterii privind siguranța care remodelează industria AI, AI Buzz Wire urmărește fiecare dezvoltare pe măsură ce se întâmplă.

---

Rămâneți înaintea AI

Obțineți cele mai recente știri, analize și descoperiri despre AI - toate într-un singur loc.

Citește mai multe știri AI →