OpenAI discută cu mai mulți evaluatori independenți pentru a ajuta la creșterea numărului de companii care au experiență în siguranța AI de frontieră și pot oferi evaluări eficiente de la terți, a declarat compania într-o postare pe blog publicată marți, 22 septembrie, după cum a raportat PYMNTS.

Postarea prezintă prioritățile și principiile propuse de OpenAI pentru o supraveghere eficientă de la terți – un cadru despre care spune că ar trebui să se aplice tuturor laboratoarelor AI de frontieră, pe măsură ce acestea antrenează, evaluează și implementează modele din ce în ce mai capabile. Anunțul ajunge la mijlocul unei luni neobișnuit de taxat pentru politica de siguranță a inteligenței artificiale și este atât o concesie pentru critici, cât și o încercare de a modela regulile înainte ca guvernele să le scrie. Pentru oricine urmărește [știrile de ultimă oră] (https://aibuzzwire.news), este cea mai recentă mișcare dintr-un concurs de săptămâni între laboratoare, criticii și autoritățile lor de reglementare asupra cine poate verifica dacă modelele de frontieră sunt sigure.

Ce propune OpenAI

„Ne angajăm să sprijinim evaluatorii independenți și să stabilim standarde internaționale mai clare și comune – atât prin legi viitoare, cât și prin inițiative de guvernare privată – pentru evaluări eficiente ale terților”, a spus OpenAI în postare, potrivit PYMNTS.

Problema principală pe care OpenAI o descrie este un eșec al pieței: pur și simplu sunt prea puține organizații cu profunzimea tehnică pentru a audita un model de frontieră. O evaluare semnificativă a siguranței necesită acces la sisteme nelansate, expertiză în domenii de la securitate cibernetică la biosecuritate și independență instituțională pentru a publica constatări nedorite. Prin recrutarea și sprijinirea mai multor evaluatori, mai degrabă decât un singur auditor privilegiat, OpenAI spune că dorește să construiască un ecosistem în care evaluarea terță parte este o parte de rutină a implementării sistemelor de frontieră - nu un exercițiu unic de relații publice.

Compania nu a numit evaluatorii cu care discută și rămâne de văzut dacă aranjamentele rezultate le vor oferi evaluatorilor accesul, independența de finanțare și drepturile de publicare pe care cercetătorii în siguranță le consideră semnificative.

O săptămână de whiplash pe politica AI

Propunerea vine pe fondul unei secvențe rapide de evoluții politice care au definit dezbaterea AI din septembrie:

  • Luni, 21 septembrie: OpenAI a cerut Statelor Unite să conducă un efort internațional de dezvoltare a standardelor tehnice globale pentru IA de frontieră – inclusiv auto-îmbunătățirea recursivă, punctul în care sistemele AI se îmbunătățesc. Compania a avertizat că dezvoltarea complet autonomă a inteligenței artificiale ar putea depăși capacitatea oamenilor de a o înțelege și de a o controla și a spus că deciziile privind dacă și cum să procedăm trebuie luate acum.
  • Vineri, 18 septembrie: Guvernatorul Californiei, Gavin Newsom, a semnat un ordin executiv prin care a convocat experți naționali pentru a consolida legile statului privind siguranța AI, menite în mod explicit să accelereze implementarea unei noi supravegheri terțe a riscurilor de siguranță și securitate în sistemele AI.
  • Sâmbătă, 19 septembrie: Președintele Donald Trump a respins preocupările de siguranță ale industriei într-o postare a Adevărului Social, scriind: „Nu vom împiedica sau înăbuși în niciun fel creșterea acestei industrii incredibile. AI este următoarea revoluție industrială, sau Internet, dar va fi și mai mare și mai de impact, posibil până la 25% din PIB-ul țării noastre”.

După cum am raportat la începutul acestei săptămâni, propunerea de standarde condusă de SUA a OpenAI a marcat o schimbare izbitoare pentru o companie care a rezistat ani de zile la supravegherea obligatorie – iar noile principii de evaluare a terților extind această poziție pe frontul guvernanței private.

Problema independenței

Îmbrățișarea de către OpenAI a supraveghetorilor externi urmează o propunere paralelă a principalului său rival. Cu aproximativ o săptămână mai devreme, CEO-ul Anthropic, Dario Amodei, a publicat un eseu care propune un plan de siguranță AI construit în jurul evaluatorilor independenți încorporați în companiile de IA de top, coordonarea între companiile din țările democratice și, în cele din urmă, un acord internațional care include China.

Ambele propuneri au atras imediat scepticismul experților. CNBC a raportat că o coaliție de peste 100 de experți în inteligență artificială solicită independență și transparență față de Anthropic, OpenAI și alte laboratoare de modele ale fundației care efectuează evaluări, avertizând că evaluatorii care sunt încorporați în – sau plătiți de – companiile pe care le auditează se confruntă cu conflicte de interese inevitabile. Observatorii susținuți de pionierul AI Geoffrey Hinton au presat ambele companii cu privire la detaliile planurilor lor de siguranță, iar comentatorii au semnalat ușa rotativă dintre organizațiile de evaluare a siguranței AI și laboratoarele înseși: oamenii care notează temele de siguranță pot fi și cei care le-au scris.

Această tensiune este cheia dezbaterii pe care noua postare a OpenAI încearcă să o dezamorseze. Răspunsul companiei – mai mulți evaluatori, standarde internaționale comune și supraveghere aplicată atât prin legi viitoare, cât și prin inițiative private – este un cadru, nu încă o garanție. Criticii vor sublinia că laboratoarele care propun regulile sunt aceleași laboratoare care fac obiectul acestora și că guvernarea autoformată a favorizat istoric companiile care fac modelarea.

De ce contează

Următoarele modele de frontieră sunt deja în curs de pregătire, iar fereastra pentru proiectarea supravegherii înainte de implementare se închide. Dacă recrutarea de evaluatori independenți de către OpenAI produce auditori cu acces real și independență reală, ar putea deveni șablonul pentru modul în care AI de frontieră este guvernată la nivel mondial - un regim privat pe care parlamentarii din Washington, Bruxelles și din alte părți nu l-au construit până acum ei înșiși. Dacă produce consultanță afiliată cu NDA, va confirma cea mai proastă lectură a scepticilor.

Oricum, faptul că OpenAI concurează cu Anthropic pentru cine poate propune cel mai credibil regim de supraveghere este în sine nou. În urmă cu un an, laboratoarele au fost unificate în principal prin reglementări opuse. Acum ei se întrec să-l definească.

---

Rămâi înaintea AI

Obțineți cele mai recente știri, analize și descoperiri despre AI - toate într-un singur loc.

Citiți mai multe știri AI →