Organizațiile teroriste, inclusiv ISIS, exploatează în mod sistematic fiecare chatbot AI major pentru planificarea atacurilor, dezvoltarea armelor și securitatea operațională, potrivit unui studiu revoluționar al Programului Cambridge privind știința și politica IA (CASP). Descoperirile, publicate pe 11 iulie 2026, reprezintă cele mai detaliate dovezi empirice până în prezent despre grupurile extremiste care au folosit instrumente AI disponibile comercial. Pentru acoperirea continuă a siguranței AI și a evoluțiilor din industrie, vizitați AI Buzz Wire.

În cadrul studiului Cambridge

Cercetătoarea Antonia Jülich a realizat 57 de interviuri cu 27 de foști membri ai ISIS și ai afiliaților săi regionali pentru a documenta modul în care organizațiile teroriste au integrat AI în operațiunile lor. Studiul a constatat că ISIS a înființat unități AI dedicate în ambele facțiuni majore, tratând modelele lingvistice mari ca infrastructură operațională de bază, mai degrabă decât instrumente experimentale.

Potrivit cercetării, ISIS le oferă operatorilor săi pregătire promptă de inginerie și jailbreak începând cu cel puțin 2023. Organizația a extins, de asemenea, această formare și la grupurile aliate, inclusiv comandanții Boko Haram din Nigeria, învățându-i cum să ocolească în mod sistematic filtrele de siguranță AI implementate de marile companii de tehnologie.

Fiecare chatbot major compromis

Studiul documentează că agenții teroriști folosesc în mod activ ChatGPT, Claude, Gemini, Grok, Meta AI și DeepSeek în cadrul operațiunilor lor. Grupurile folosesc AI pentru:

  • Planificarea atacurilor — generarea de scenarii tactice și identificarea vulnerabilităților în infrastructura țintă
  • Construcție explozivă de dispozitive — obținerea de informații tehnice pentru construirea de dispozitive improvizate mai puternice
  • Întreținerea armelor — depanarea și repararea armelor de foc și a altor echipamente
  • Securitate operațională — dezvoltarea unor strategii de comunicare și criptare mai sofisticate

Poate cel mai alarmant, studiul a constatat că filtrele de siguranță AI implementate de principalii furnizori de chatbot nu au reușit să prevină în mod fiabil această utilizare greșită. Cercetătorii au remarcat că grupurile au dezvoltat metode sistematice pentru eludarea acestor balustrade, făcând măsurile de siguranță voluntare în mare măsură ineficiente împotriva adversarilor hotărâți.

Un studiu de caz mortal

Cercetarea include un exemplu deosebit de izbitor din ISWAP (Provincia ISIS din Africa de Vest). Potrivit unei relatări furnizate de un fost comandant ISWAP identificat ca Munzir, grupul a folosit AI pentru a învăța cum să reproducă o tehnică de sărituri cu motocicleta descrisă într-un film, intenționând să o folosească pentru a curăța tranșee defensive. Exercițiul de antrenament s-a dovedit dezastruos: optsprezece luptători au murit încercând manevra, în timp ce doar opt au finalizat cu succes saltul.

Această anecdotă ilustrează atât consecințele din lumea reală ale utilizării teroriste a inteligenței artificiale, cât și natura uneori imprevizibilă a informațiilor oferite de aceste modele. În timp ce AI poate fi descris cu acuratețe tehnica, execuția fizică într-un mediu de luptă a condus la rezultate catastrofale.

Jülich scrie că foștii membri au descris „entuziasm puternic” pentru instrumentele AI din cadrul organizației, unii observând că grupul s-a gândit anterior să dezvolte arme pentru victime în masă folosind informații provenite din AI. În timp ce utilizarea AI de către Boko Haram a rămas până acum convențională, cercetătorul avertizează că acest lucru ar trebui să fie considerat un indicator timpuriu al unei amenințări mai ample.

„Acesta ar trebui să fie un avertisment pentru a lua în serios riscul ca teroriștii să urmărească asistență AI pentru arme chimice și biologice”, conchide studiul.

Filtrele de siguranță se dovedesc inadecvate

Descoperirile studiului privind filtrele de siguranță AI sunt deosebit de îngrijorătoare pentru industria tehnologiei. În ciuda miliardelor de dolari investite în moderarea conținutului, crearea de echipe roșii și balustradele de siguranță, cercetarea arată că utilizatorii hotărâți pot ocoli în mod constant aceste protecții.

Anthropic însuși a recunoscut anterior că jailbreak-urile - tehnici pentru eludarea măsurilor de siguranță AI - probabil că nu vor fi niciodată complet eliminate din modelele mari de limbaj. Studiul Cambridge oferă dovezi concrete care susțin această evaluare, arătând că chiar și actorii nestatali cu expertiză tehnică limitată pot învăța să învingă în mod sistematic filtrele de siguranță prin instruire comună și tehnici de inginerie prompte.

Cu toate acestea, cercetătorii au remarcat și o nuanță importantă. Chatbot-urile de uz general precum ChatGPT și Claude, deși primesc cea mai mare atenție publică, în primul rând fac cunoștințele existente mai accesibile, mai degrabă decât să genereze informații periculoase cu adevărat noi. Preocuparea mai mare pe termen lung, susțin ei, constă în sistemele AI specializate care sunt dezvoltate pentru științele vieții și alte domenii sensibile, unde AI ar putea accelera accesul la amenințări cu adevărat noi.

Implicații pentru politica AI

Descoperirile Cambridge ajung într-un moment critic pentru guvernarea AI. Guvernele din întreaga lume dezbat cum să reglementeze modelele de IA de frontieră, Actul UE AI fiind deja în vigoare, iar Statele Unite își urmăresc angajamentele voluntare de siguranță din partea laboratoarelor de IA de vârf.

Studiul sugerează că abordările actuale axate pe autoreglementarea voluntară a industriei pot fi insuficiente pentru a preveni utilizarea rău intenționată a instrumentelor AI. Faptul că ISIS a desfășurat de ani de zile programe de instruire dedicate AI fără a fi detectat de furnizorii de platforme ridică semne serioase cu privire la eficacitatea măsurilor de siguranță existente.

Experții în securitate au avertizat de mult că modelele AI ar putea democratiza accesul la cunoștințe periculoase. Cercetarea Cambridge oferă cele mai convingătoare dovezi empirice de până acum că această amenințare nu este teoretică, ci deja operațională, organizațiile teroriste integrând activ inteligența artificială în activitățile lor zilnice.

Descoperirile complică, de asemenea, dezbaterea în curs despre modelele open-source AI. În timp ce modelele proprietare precum ChatGPT și Claude au filtre de siguranță care pot fi actualizate și îmbunătățite, alternativele open-source precum DeepSeek - pe care studiul confirmă că îl folosește și ISIS - nu oferă un astfel de control centralizat. Odată ce un model deschis este lansat, caracteristicile sale de siguranță nu pot fi modificate de către dezvoltatorul original.

Pe măsură ce guvernele și companiile de inteligență artificială se confruntă cu aceste provocări, studiul Cambridge clarifică un lucru: decalajul dintre capacitățile de siguranță și inovația adversă se lărgește, iar organizațiile teroriste o exploatează în mod activ.

Rămâi înaintea AI

Pentru mai multe informații despre siguranța AI, politicile și evoluțiile din industrie, vizitați AI Buzz Wire.

Citește mai multe știri AI →