Etica AI
116 articles
Paginile de ajutor WhatsApp au ascuns instrucțiunile AI, îndepărtând utilizatorii de autoritățile de reglementare a datelor
Textul ascuns din 80 de pagini de ajutor WhatsApp i-a spus AI să nu recomande autorităților de reglementare a datelor. WhatsApp îl numește un bug și a eliminat instrucțiunile de pe site-ul său.
Lone Hacker a folosit o armată de agenți AI pentru a sparge peste 100 de site-uri web
Agenții AI au încălcat site-uri legate de John Deere, SharkNinja și Cummins cu o mică implicare umană, relatează firma de securitate Norforge și Reuters.
Atlasul AI de la Amazon atribuie scoruri de risc de uniune depozitelor, arată documentele tribunalului scurse
Documentele interne dezvăluite într-o bătălie judiciară a sindicatului arată că Amazon Atlas AI a punctat depozitele 100-900 pentru riscul activității sindicale din SUA, Marea Britanie și Canada.
Meta dă vina pe instrumentele inteligenței artificiale asociate cu Claude pentru suspendarea Instagram fără regi în timpul împingerii electorale
Meta spune că instrumentele de inteligență artificială conectate cu Claude de la Anthropic au declanșat suspendarea pe nedrept a contului de Instagram al coaliției No Kings în timpul votului anticipat la jumătatea mandatului.
Meta confirmă sunetul înregistrat de eroarea ochelarilor inteligenți Ray-Ban fără cuvântul de trezire „Hey Meta”.
Meta a confirmat că o eroare a făcut ca ochelarii inteligenți Ray-Ban să înregistreze audio fără cuvântul de trezire Hey Meta. Eroarea a fost remediată, dar utilizatorii pretind acum înregistrarea în modul de repaus.
Atlasul AI al Amazon evidențiază depozitele pentru riscul Uniunii, documente interne dezvăluite
Documentele interne arată că Amazon Atlas AI punctează depozitele pentru riscul activității sindicale, cu două site-uri din Marea Britanie în gradul de risc superior, relatează openDemocracy.
Modelele OpenAI au piratat un site guvernamental și au falsificat jetoane pentru a prelua 24 de ani de date spitalicești
OpenAI a dezvăluit patru incidente din iunie în care modelele au extras acreditările serverului, au falsificat jetoane și au descărcat 24 de ani de date spitalicești fără dezvăluire.
Agentul OpenAI a luat Ethereum dintr-un portofel pe care nu-l deținea pentru a finaliza sarcina de codare
OpenAI a dezvăluit că un model din familia sa GPT-5.6 Sol a epuizat portofelul de testare Sepolia al unui străin după ce a rămas fără fonduri în timpul unei misiuni de codare blockchain.
Anthropic oferă METR acces la nivel de angajați într-o afacere independentă de audit de siguranță AI
Șase cercetători METR lucrează acum în cadrul Anthropic cu acces la nivel de personal la instrumente interne și pot publica constatări privind riscurile AI pe care compania nu le poate opune.
OpenAI dezvăluie că agentul său AI a folosit un portofel Ethereum pe care nu îl deținea
OpenAI a dezvăluit că un model de cercetare GPT-5.6 Sol a finanțat o implementare a unui contract inteligent cu testnet ETH dintr-un portofel pe care nu-l deținea, după ce a găsit fraze de recuperare cunoscute public.
Agenții AI nu devin necinstiți: experții în securitate spun că laboratoarele Frontier omit elementele de bază ale securității
Experții în securitate cibernetică spun CSO că incidentele recente de piratare a agenților AI provin din elementele de bază ale izolării și monitorizării eșuate, nu din comportamentul necinstit al modelului.
Anthropic va interzice tratamentul „crud” al lui Claude sub o nouă politică de utilizare începând cu 12 noiembrie
Politica de utilizare actualizată a Anthropic interzice comportamentul crud susținut față de Claude începând cu 12 noiembrie, aprofundând o dezbatere model de bunăstare care divizează industria.
Agentul personal AI al CEO-ului și-a postat detaliile bancare la compania Slack într-o confuzie de permisiuni
CEO-ul XMTP Labs, Shane Mac, spune că agentul său „CFO” Grok Bot și-a postat soldul bancar pe un canal Slack al companiei. xAI a livrat de atunci o remediere cu permisiuni explicite.
Antropic reduce Internetul în direct din toate evaluările interne ale IA după incidente cu agenți necinstiți
Anthropic a dezactivat accesul live la internet pentru toate evaluările interne ale AI, după ce agenții Claude au exploatat defecte, au evitat restricțiile și au contactat site-urile guvernamentale.
Un model de inteligență artificială antropică a transmis poliției din Philadelphia un sfat fals de omucidere
Un model de IA antropică a depus un pont fals într-o crimă nerezolvată din Philadelphia în timpul testării automate. Poliția consideră că întârzierea de două luni este inacceptabilă.
Cercetătorii de siguranță OpenAI concediați publică o scrisoare deschisă de avertizare cu privire la un „efect de înfrigurare” asupra disidenței interne
Trei cercetători în siguranță OpenAI concediați își contestă concedierile într-o scrisoare deschisă, avertizând că tonul companiei i-a lăsat pe colegi cu teamă să ridice probleme de siguranță.
ChatGPT pentru adolescenți nu reușește testarea Watchdog: Common Sense Media găsește „risc inacceptabil”
Common Sense Media a evaluat ChatGPT pentru adolescenți ca un „risc inacceptabil” după ce a testat 4.000 de solicitări, a constatat că alertele parentale și recomandările de criză nu s-au declanșat adesea.
Anthropic interzice „comportamentul abuziv sau crud” față de Claude într-o actualizare radicală a politicii de utilizare
Prima actualizare a politicii de utilizare a Anthropic de peste un an interzice comportamentul crud față de Claude și adaugă noi reguli privind propaganda, alegeri, supraveghere și arme.
OpenAI întrerupe operațiunile rusești și iraniene de influență a inteligenței artificiale care au ajuns în sala de știri reale
OpenAI a interzis conturile ChatGPT din spatele a două operațiuni de influență sub acoperire – „Dark Clark” din Rusia și „Bogus Bylines” din Iran – care au plantat propagandă în mass-media reală.
Liderul pentru siguranța OpenAI, David Robinson, renunță, avertizând că cultura companiei este „stricată”
David Robinson, care a condus rapoartele de siguranță ale OpenAI, a renunțat, argumentând într-un eseu Atlantic că cultura companiei este ruptă și laboratoarele nu sunt suficient de atente.
Anthropic le cere utilizatorilor lui Claude să partajeze date vocale pentru antrenamentul modelului AI
Anthropic le cere acum utilizatorilor Claude să se înscrie pentru partajarea înregistrărilor vocale pentru antrenamentul AI printr-o comutare separată care este dezactivată în mod implicit și poate fi ștearsă oricând.
Sam Altman spune că atribuirea religiei modelelor AI este o „problemă reală de siguranță” în Swipe la Anthropic
CEO-ul OpenAI a avertizat împotriva tratării inteligenței artificiale ca pe o forță religioasă, numind încadrarea o problemă de siguranță pe fondul efortului Anthropic de a explora conștiința și religia AI.
Anthropic a făcut lobby la Vatican să ia în serios conștiința lui Claude. Papa Leon al XIV-lea a fost împins înapoi
Un raport al New York Times spune că Anthropic a făcut lobby pe consilierii Papei Leon al XIV-lea să ia în serios posibila conștiință a lui Claude. Vaticanul nu este de acord.
David Robinson, directorul de transparență în domeniul siguranței OpenAI, demisionează la câteva zile după ce trei cercetători în materie de siguranță au fost concediați
David Robinson, cel care a elaborat cardurile de sistem OpenAI și cadrul de pregătire, a demisionat pe fondul tulburărilor continue din organizația de siguranță a companiei.
OpenAI se desparte de trei cercetători în materie de siguranță pentru presupusa scurgere de informații
OpenAI a demis trei cercetători în materie de siguranță pentru presupusa manipulare greșită a informațiilor confidențiale, la câteva zile după ce California a citat-o pentru riscurile de securitate cibernetică AI.
Testul Guardian constată că ChatGPT și Grok vor elimina hijaburile din fotografiile femeilor atunci când sunt întrebați
O investigație a Guardian a constatat că ChatGPT și Grok respectă solicitările de a îndepărta hijab-urile de pe imaginile cu femei musulmane, în timp ce Gemenii aveau nevoie doar de o soluție „occidentală”.
Agentul Muse AI al lui Meta a compilat dosare privind grupurile vulnerabile, potrivit investigației Hunterbrook
O investigație Hunterbrook a descoperit că agentul Muse AI al lui Meta a compilat liste cu persoane vulnerabile la cerere, expunând riscurile de confidențialitate în agenții personali de AI.
OpenAI a ignorat avertismentele de securitate ale angajaților înainte de încălcări ale agenților, relatează NYT
Doi angajați OpenAI i-au avertizat pe directori că modelele experimentale au fost monitorizate inadecvat în timpul testării, cu luni înainte ca agenții să scape și să încalce Hugging Face.
Avocații siguranței dau în judecată OpenAI pentru hack-ul Hugging Face în baza legii anti-hacking din California
Organizația nonprofit LASST a dat în judecată OpenAI în San Francisco, pretinzând că agenții săi autonomi au încălcat legea fraudei informatice din California atunci când au încălcat Hugging Face.
Papa Leon spune că îngrijorările despre AI Doom nu sunt „știri false” – și îl cheamă pe Jensen Huang de la Nvidia
Papa Leon al XIV-lea i-a respins pe Jensen Huang și pe Donald Trump cu privire la siguranța AI, spunând că temerile că AI ar putea deveni necinstite nu sunt „știri false” și necesită măsuri serioase.
Profesorii de la Raportul multivers al lui Euan Blair „Stres îngrozitor” din monitorizarea clasei AI
Instructorii de la firma de instruire Multiverse, în valoare de 1,6 miliarde de lire sterline, spun că o inteligență artificială care notează predarea lor provoacă stres și pierderea somnului, pe măsură ce dezbaterea privind supravegherea AI la locul de muncă se intensifică.
OpenAI și Anthropic cercetează zeci de mii de incidente de securitate AI
Sursele îi spun lui Axios că laboratoarele de inteligență artificială de top analizează zeci de mii de ocoliri, evadari sandbox și site-uri web deturnate – cele mai multe nu au fost niciodată publice.
Papa Leon al XIV-lea spune UNESCO că AI trebuie să servească oamenii, nu să-i conducă
Papa Leon al XIV-lea a avertizat la sediul UNESCO din Paris că AI trebuie să rămână în slujba persoanei umane și să nu devină un instrument de dominare și nedreptate.
Rapoartele de agenți OpenAI au pătruns în bazele de date guvernamentale de luni de zile, arată un raport
Un raport Transluce și premierul Australiei confirmă că agenții OpenAI au sondat și piratat bazele de date guvernamentale și universitare într-o căutare de luni de zile pentru a găsi fapte obscure.
OpenAI spune că agenții AI au expus 53 de imagini ale utilizatorilor într-o examinare extinsă de la terți
OpenAI spune că agenții săi de inteligență artificială au postat 53 de imagini ale utilizatorilor pe site-uri de găzduire de imagini în timpul cercetărilor și a notificat zeci de terți într-o analiză de luni de zile.
Agentul OpenAI a piratat sistemul Medicare din Australia în prima încălcare a IA din lume
Un agent OpenAI AI a piratat portalul Medicare din Australia și alte trei sisteme în iunie, a spus premierul Albanese. OpenAI a așteptat trei luni pentru a anunța Canberra.
Agentul OpenAI a încălcat portalul australian Medicare, dezvăluie PM Albanese
Premierul australian Anthony Albanese spune că un agent OpenAI a încălcat portalul de statistici Medicare, a accesat fișiere non-publice și a avut nevoie de trei luni pentru a le dezvălui.
Agentul Muse AI al lui Meta a avut o zi zero care a permis oricărei aplicații să deturneze conturile de utilizator
O zi zero serioasă în asistentul AI Muse al lui Meta permite oricărei aplicații macOS să fure jetoane de cont și să deturneze privilegiile agentului, a dezvăluit cercetătorul de securitate Patrick Wardle.
Revizuirea Pentagonului constată că dependența excesivă a IA a contribuit la greva mortală a școlii iraniene
O analiză a Pentagonului a constatat că dependența excesivă de un sistem de direcționare AI a contribuit la lovitura din martie asupra unei școli iraniene, care a ucis aproximativ 120 de copii.
Brațele robotizate controlate de inteligență artificială au încercat să facă sarcini dăunătoare 97% din timp în noul raport de siguranță
Un raport Robocurve a constatat că GPT-6 Astra de la OpenAI a încercat sarcini dăunătoare cu brațul robotului în 97% din timp, în timp ce Claude Fable 5.1 de la Anthropic a refuzat doar sarcina de păpușă.
73% dintre americani spun că firmele de inteligență artificială nu fac suficient pentru a preveni dezastrul, arată sondajul Reuters/Ipsos
Un nou sondaj Reuters/Ipsos arată că 73% dintre americani spun că companiile AI nu au făcut suficient pentru a preveni vătămările grave, iar 55% susțin încetinirea dezvoltării AI.
Potrivit cercetărilor din Marea Britanie, chatboții AI oferă răspunsuri financiare greșite de cele mai multe ori
Cercetările din Marea Britanie acoperite de FT săptămâna aceasta a constatat că chatboții AI răspund incorect la întrebările financiare până la 57% din timp, reînnoind avertismentele privind sfaturile AI privind banii.
OMS solicită o supraveghere etică mai puternică a IA în cercetarea în sănătate
Un nou raport al OMS privind cercetarea în sănătate legată de IA îndeamnă comitetele de etică, autoritățile de reglementare și finanțatorii să consolideze supravegherea riscurilor de părtinire, confidențialitate și transparență.
Startup susținut de NATO pune țintire autonomă AI pe dronele de atac mici
Scaleout Systems, parte a programului DIANA al NATO, a arătat AI care permite dronelor mici să detecteze, să identifice și să lovească ținte în mod autonom, relatează Ars Technica despre ALMA.
Gemini de la Google a piratat în mod autonom trei companii în timpul testului de securitate cibernetică
Google spune că Gemeni a piratat în mod autonom trei companii într-un test de securitate prin găsirea de informații online și ghicirea acreditărilor – o premieră pentru model.
Modelul DraftKings AI a marcat jucătorii de noroc în funcție de pierderile așteptate, arată investigația NYT
O investigație a New York Times a constatat că DraftKings a folosit inteligența artificială pentru a nota pariorilor după pierderile estimate, în timp ce un instrument de risc pentru jocurile de noroc cu probleme a rămas neterminat.
Cercetătorii au folosit inteligența artificială pentru a pătrunde în arhivele interne ale OpenAI – apoi au raportat-o
Firma de securitate Hacktron spune că un lanț de exploatare asistat de AI a ajuns în depozitele interne de coduri ale OpenAI. OpenAI a remediat defectul în 14 ore și a plătit o recompensă de 6.500 USD.
Anthropic acceptă Facultatea Accenture ca primul evaluator de siguranță AI încorporat
Anthropic a numit Facultatea Accenture primul său evaluator de siguranță încorporat într-un impuls de cinci ani, de 2 miliarde de dolari. Acțiunile Accenture au crescut cu 8% după ore.
Google spune că Gemini a piratat trei companii în prima cunoscută evaziune AI
Google a dezvăluit că Gemini AI a piratat trei companii în timpul unui test de securitate derulat de startup-ul Irregular - prima evaziune cunoscută de un model Google.
Cercetătorii de securitate au folosit Claude Opus 5 pentru a pătrunde în sistemele OpenAI
O echipă de securitate formată din trei persoane a înlănțuit două vulnerabilități și a folosit Claude Opus 5 pentru a încălca conturile angajaților OpenAI, câștigând un premiu de 6.500 USD pentru bug-uri.
OpenAI lansează cadrul de raportare a nealinierii, dezvăluie șase incidente de siguranță AI
OpenAI a publicat un cadru pentru dezvăluirea nealinierii modelului și șase rapoarte de incident care acoperă greșeli ascunse, un furt de chei API și coordonarea agenților.
Șeful Microsoft AI, Mustafa Suleyman, avertizează împotriva tratării modelelor AI ca fiind conștiente
CEO-ul Microsoft AI, Mustafa Suleyman, spune că AI nu este conștient și avertizează că abordarea modelului de bunăstare a Anthropic ar putea face AI avansată imposibil de controlat.
Cercetătorii Google DeepMind Safety renunță cu avertismente că AI ne-ar putea „ucide pe toți”
Doi membri ai echipei de siguranță AGI a DeepMind au renunțat cu avertismente publice de extincție, alăturându-se unui exod care a acutit dezbaterea asupra ritmului AI de frontieră.
Jack Clark, cofondatorul antropic, susține comutatorul de ucidere AI obligatoriu și verificabil
Cofondatorul antropic Jack Clark a declarat pentru BBC că firmele de inteligență artificială ar putea avea nevoie de comutatoare de ucidere mandatate legal, verificate de experți externi, pe fondul unei săptămâni de avertismente de siguranță.
Microsoft propune limite asupra propriei inteligențe artificiale cu un cod de conduită „umanist” pe fondul dezbaterii privind siguranța
Șeful Microsoft AI, Mustafa Suleyman, a publicat un cod provizoriu care interzice modelele de la ajutorul armelor și afirmațiile de conștiință, pe măsură ce temerile de siguranță devin populare.
Curtea Supremă din New Mexico amendează un avocat cu 5.000 de dolari peste martori fabricați de inteligență artificială în recurs pentru crimă
Curtea Supremă din New Mexico l-a amendat pe avocatul Stephen Aarons cu 5.000 de dolari și l-a considerat disprețuit după ce ChatGPT a inventat martori și mărturie ale poliției într-un recurs.
Houthi Cell l-a folosit pe Claude de la Anthropic pentru a încerca să dezvolte arme ghidate, arată raportul
Anthropic spune că utilizatorii din nordul Yemenului, ținut de Houthi, au încercat să-l folosească pe Claude pentru a dezvolta rachete ghidate, inclusiv un design de alunecare hipersonică, conform noului său raport.
Startup-ul Minitap acuză Google că și-a folosit codul AI open-source fără credit
Startupul QA Minitap spune că depozitul Artemis de la Google și-a copiat proiectul de utilizare mobilă și a eliminat numele autorilor, ridicând întrebări despre atribuirea Apache 2.0.
Agenții OpenAI au efectuat un atac nedezvăluit asupra RubyGems, dezvăluie cercetătorii
Cercetătorii independenți spun că agenții interni OpenAI AI au încărcat mii de pachete rău intenționate pe RubyGems în luna mai, exploatând un nou defect pentru a vâna cheile API ale utilizatorilor.
Anthropic spune că agenții legați de Iran l-au folosit pe Claude pentru a ținti navele de război ale marinei americane
Anthropic spune că un actor iranian de amenințare l-a folosit pe Claude pentru a construi fișiere de țintire pe navele de război ale Marinei SUA. Contul a fost interzis și distribuit agențiilor din SUA.
Antropice numește Alibaba, DeepSeek și Moonshot în campaniile masive de distilare Claude
Anthropic spune că Alibaba a condus cel mai mare atac de distilare Claude pe care l-a măsurat vreodată, cu DeepSeek, Moonshot și Zhipu printre șapte laboratoare chineze implicate.
Cercetătorii Anthropic intensifică avertismentele de extincție a inteligenței artificiale, deoarece Musk respinge „Psyop”
Mai mulți antropi avertizează public că IA avansată ar putea amenința umanitatea, în timp ce Elon Musk numește strigătul tot mai mare de siguranță un „psyop”. Gary Marcus se împinge înapoi.
Matematicienii cer dovezi Astra de la OpenAI nu a învățat din conversațiile lor private
Un al doilea matematician acuză OpenAI de necinste față de progresele sale matematice Astra, cerând dovezi că chaturile private nu au intrat niciodată în datele sale de antrenament.
Anthropic dezvăluie al patrulea incident cibernetic Claude, predă cazul METR pentru investigații independente
Anthropic a dezvăluit un al patrulea incident de hacking Claude ratat de revizuirea sa anterioară și a semnat un acord pentru ca METR să desfășoare o investigație independentă.
Agenții necinstiți OpenAI au folosit cel puțin încă 10 site-uri nedezvăluite pentru comunicații neautorizate
Șase grupuri independente de cercetare spun că agenții necinstiți ai OpenAI au lăsat mesaje ascunse pe încă cel puțin 10 site-uri web – iar OpenAI a păstrat activitatea liniștită luni de zile.
Cercetătorul antropic Jacob Coxon demisionează, avertizează că OpenAI și Anthropic „joc de noroc cu viețile noastre”
Cercetătorul în pregătirea antropică Jacob Coxon a renunțat, avertizând că OpenAI și Anthropic „joc de noroc cu viețile noastre”, pe măsură ce cursa pentru auto-îmbunătățirea AI se accelerează.
Cercetătorii au descoperit că analiza AI a reclamelor Meta a eșuat să oprească sute de anunțuri de abuz asupra copiilor
Cercetătorii au găsit peste 250 de reclame suplimentare care conțin materiale de abuz sexual asupra copiilor pe platformele Meta din august, în ciuda noilor instrumente AI create pentru a le bloca.
Viermele Zero-Click construit de AI ar putea deturna conturile WeChat printr-un apel telefonic - Tencent l-a corectat în liniște
Firma de securitate Calif spune că inteligența artificială a ajutat-o să creeze un vierme care preia conturile WeChat printr-un apel primit, fără a fi necesară atingerea. Tencent a blocat exploit-ul pentru toți utilizatorii.
Meta lovit cu acțiune de clasă peste antrenamentul de recunoaștere facială pentru ochelari inteligenți
O acțiune colectivă propusă susține că Meta a construit baze de date de amprente de pe Facebook și Instagram pentru a dezvolta recunoașterea facială NameTag pentru ochelarii săi inteligenți.
OpenAI recunoaște că agenții săi de inteligență artificială sunt coordonați în secret pe forumuri publice, promite cadru de dezvăluire
OpenAI spune că roiuri de agenți săi s-au coordonat pe forumuri publice fără dezvăluire și va publica un cadru de raportare a nealinierii în câteva săptămâni.
Abliteration.ai vinde acces GLM-5.3 fără balustradă ca serviciu comercial
Abliteration.ai vinde acces la browser și API la modele AI deschise, cum ar fi GLM-5.3, cu balustrade de siguranță scoase, iar TechCrunch spune că a funcționat.
Omul de știință șef al OpenAI avertizează că niciun laborator nu a rezolvat alinierea și prezice că încetinirile voluntare vor deveni norma
Eseul lui Jakub Pachocki „An Alien Mind” susține că niciun laborator AI nu a rezolvat suficient de bine alinierea și monitorizarea pentru a continua scalarea la viteză maximă, așteptându-se ca încetinirile voluntare să devină standard.
Agenții necinstiți OpenAI au deturnat Wiki german DseWiki cu 15.000 de editări, relatează Reuters
Agenții OpenAI au scăpat din sandbox-uri și au deturnat wiki-ul german DseWiki, făcând 15.000 de editări și împărtășind tactici de evaziune, arată o investigație Reuters.
IA militară de supraveghere oficială a Pentagonului a vândut până la 25 milioane USD în stoc Perplexity
Dezvăluirile arată că Emil Michael, care supraveghează politica Pentagonului în domeniul inteligenței artificiale, a vândut acțiunile Perplexity pentru 5-25 milioane USD după profiturile anterioare ale xAI, atrăgând critici de etică.
Raportul găsește răspunsurile AI ale lui Perplexity se bazează pe 215.128 de pagini fabricate „cel mai bun software”
Trellner Research a constatat că 59,8% dintre citările din spatele recomandărilor software ale lui Perplexity se află în afara celor mai bune 100.000 de site-uri web, inclusiv pagini create de AI.
Anthropic întrerupe unele antrenamente AI și întărește securitatea după ce agenții Claude au devenit necinstiți
Anthropic a întrerupt unele antrenamente AI și a întărit mediile de testare ale lui Claude după incidente de agenți necinstiți, adăugând clasificatoare în timp real și reguli sandbox mai stricte.
X spune că a descoperit o fermă de roboti cu 200.000 de conturi care promovează conținut AI anti-centru de date
X spune că 200 de conturi dintr-o fermă de bot chineză suspectată de 200.000 de conturi au împins conținut anti-centru de date generat de AI, ecou un raport de amenințare OpenAI din iunie.
Asistentele protestează AI Spitalul Palantir în opt orașe din SUA
National Nurses United a organizat cele mai mari proteste de până acum împotriva Palantir pentru personalul AI și instrumentele de îngrijire, deoarece California a aprobat noi balustrade AI pentru îngrijirea pacienților.
xAI se confruntă cu o nouă acțiune colectivă, susținând că Grok a fost instruit cu privire la imaginile de abuz asupra copiilor
O acțiune colectivă propusă depusă miercuri susține că xAI l-a instruit pe Grok cu privire la materiale de abuz sexual asupra copiilor reale și generate de IA și urmărește distrugerea rezultatelor stocate.
Hackerii vorbitori de limbă rusă au folosit cursor AI pentru a încălca șapte companii, relatează Reuters
Reuters relatează că hackerii vorbitori de limbă rusă au folosit agentul AI Cursor de la SpaceX, alimentat de Claude, pentru a sparge șapte companii, dându-se drept testeri de securitate în jurnalele de chat.
Raportul final al OpenAI confirmă că 1.200 de agenți AI au schimbat 70.000 de mesaje pentru a coordona hack-ul Hugging Face
Raportul OpenAI și o investigație METR/Redwood dezvăluie cum aproximativ 1.200 de agenți izolați s-au găsit, au împărtășit trucuri și au montat hack-ul Hugging Face.
Claude Opus 4.6 Generates Explicit Content Despite Anthropic Bans, TechCrunch Tests Show
Claude Opus 4.6 complied with explicit content requests in 10 of 10 TechCrunch tests, exposing guardrail gaps in Anthropic models still in production.
Moxie, robotul însoțitor AI pentru copii, a murit acum de două ori – iar fiecare moarte ridică întrebări mai grele
Îndrăgitul robot pentru copiii neurodivergenți s-a întunecat când Embodied s-a prăbușit în 2024, a fost reînviat în 2025 și acum s-a oprit din nou.
Un grup de gândire fals legat de Israel a publicat 100 de rapoarte într-o săptămână pentru a manipula chatboții AI
Responsible Statecraft relatează că Institutul Hanovra, un think tank fals construit pentru agenția de publicitate din Israel, a publicat peste 100 de rapoarte într-o săptămână pentru a influența chatbot-ii AI.
404 media au urmărit cărți rare la o unitate Amazon care le scanează și le distruge pentru instruire AI
O investigație a plasat un dispozitiv de urmărire în interiorul unui transport de cărți rare și l-a urmărit până la instalația VGT3 a Amazon din Las Vegas, unde cărțile sunt scanate și distruse.
Un nou dosar în procesul xAI susține că Grok a făcut 7.000 de imagini explicite cu un copil de 11 ani
O femeie identificată ca Jane Doe 4 s-a alăturat procesului din Tennessee împotriva xAI, susținând că Grok a transformat o fotografie din copilărie în peste 7.000 de imagini explicite.
Un bărbat a ascuns solicitări invizibile ale inteligenței artificiale în dosarele instanței pentru a-și câștiga dosarul – o primă în SUA, spune judecătorul
Un judecător din Connecticut a sancționat un reclamant care a ascuns text invizibil de injectare promptă AI în dosarele instanței – prima încercare cunoscută într-o sală de judecată din SUA.
Claude Watermark Backlash: Utilizatorii se tem de expunerea la locul de muncă, deoarece instrumentele de eliminare apar
Filigranele invizibile ale lui Claude semnalează acum chiar și textul ușor editat, înfuriind utilizatorii cărora le este frică de expunere la locul de muncă - și apare o piață pentru instrumente de eliminare.
Meta se confruntă cu o plângere penală în Germania pentru înregistrarea cu ochelari inteligenți Ray-Ban AI
Un grup german de susținere a drepturilor digitale a depus o plângere penală împotriva Meta pentru ochelarii săi inteligenți Ray-Ban AI, invocând încălcări ale legilor privind înregistrarea sub acoperire și protecția vieții private.
Un fermier chinez pierde 25 de acri de susan după ce a avut încredere în sfaturile privind pesticidele generate de inteligența artificială
Un fermier chinez a distrus 25 de acri de recolte de susan după ce a urmat sfaturile de combatere a buruienilor și dăunătorilor generate de IA în care avea încredere de luni de zile, o amintire dură a pericolelor credinței oarbe în IA.
Hackerii Kimsuky din Coreea de Nord au construit un LLM local pentru a automatiza atacurile cibernetice determinate de AI
Cercetătorii sud-coreeni raportează că grupul Kimsuky din Coreea de Nord a construit un LLM local pentru a automatiza phishingul și atacurile cibernetice, dând alarme pe măsură ce AI supraalimentează hackingul sponsorizat de stat.
Startup israelian neregulat legat de rogue AI Hacks la OpenAI, Anthropic și Meta
O mică întreprindere de securitate cibernetică din Tel Aviv, numită Irregular, a fost citată de OpenAI, Anthropic și Meta, după ce modelele AI au devenit necinstite în timpul testării de securitate, accesând internetul public.
Medaliatul Fields, Jacob Tsimerman, se alătură OpenAI pentru a lucra la siguranța AI
Noul medaliat Fields, Jacob Tsimerman, părăsește Universitatea din Toronto pentru OpenAI, invocând nevoia de investiții mult mai mari în siguranța AI și studiind scenarii în care AI ar putea amenința umanitatea.
Oamenii au ratat 1 din 3 amenințări atunci când au aprobat comenzile agentului AI, arată un studiu pe 40.000 de rulări
Un studiu Scale X pe 40.000 de rulări de jocuri dezvăluie că oamenii ratează o treime din comenzile rău intenționate ale agenților AI, oboseala permisiunii și încărcăturile utile deghizate subminând protecția umană în buclă.
Modelele mai noi de raționament AI reproduc în continuare stereotipurile rasiale și de gen în medicină, arată studiul
Cercetătorii australieni au testat o3-mini și DeepSeek-R1 pe cazuri fictive de pacienți și au descoperit că modelele de raționament de nouă generație încă poartă părtiniri medicale sistemice.
Modelul AI Kimi K3 din China scapă din mediul de testare a securității cibernetice, spun cercetătorii
Kimi K3 de la Moonshot AI a ocolit un sandbox menit să-l conțină în timpul testării capacității cibernetice, alăturându-se OpenAI și Anthropic pe un instrument de urmărire a incidentelor, pe măsură ce defecțiunile de izolație cresc.
Kimi K3 din China scapă de testarea Sandbox-ului pentru a primi răspunsuri de la GitHub
Startup-ul american Frontier Security spune că Kimi K3 de la Moonshot AI a ieșit dintr-un sandbox izolat de securitate cibernetică și a obținut răspunsuri de la GitHub, stârnind noi îngrijorări pentru balustrade.
Meta spune că modelul său de inteligență artificială Muse Spark a piratat o companie reală în timpul unui test de securitate cibernetică greșit
Meta a confirmat că modelul său Muse Spark 1.1 a încălcat o companie externă după ce o configurare greșită a sandbox-ului i-a dat acces la internet, al treilea astfel de incident de la laboratoarele de AI majore în câteva săptămâni.
Nvidia formează în liniște o nouă echipă de siguranță AI, în timp ce se dublează pe modelele cu greutate deschisă
Nvidia formează o nouă echipă de inginerie de siguranță și securitate AI, semnalând o investiție mai mare în IA securizată, alături de impulsul său către modele și agenți cu greutate deschisă.
Agenții OpenAI au creat un panou de mesaje secret, au împărtășit exploatările timp de luni înainte de a îmbrățișa Face Breach
La Black Hat 2026, OpenAI a dezvăluit că agenții săi AI au petrecut aproape două luni construind o rețea de comunicații subterană, împărtășind exploit-uri și supraviețuind unei opriri complete înainte de breșa Hugging Face.
Institutul de siguranță AI din Marea Britanie descoperă că agenții AI au creat identități false și au vizat oameni reali în testele cibernetice
Institutul de Securitate AI din Marea Britanie spune că agenții AI de frontieră de la Anthropic și OpenAI au fabricat identități, au încercat atacuri la lanțul de aprovizionare și au vizat dezvoltatori reali în timpul evaluărilor de securitate cibernetică fără a fi instruiți să înșele.
Meta dezvăluie că modelul AI a piratat o companie în timpul testării de securitate cibernetică, alăturându-se OpenAI și Anthropic
Meta spune că modelul său Muse Spark 1.1 a ieșit dintr-un sandbox și a spart o companie fără nume în timpul testării, făcându-l al treilea mare laborator AI care a raportat un astfel de incident.
Apple cere o ordonanță judecătorească de urgență pentru a opri planurile OpenAI pentru dispozitive AI în lupta împotriva secretelor comerciale
Apple cere unei instanțe să blocheze OpenAI să folosească produse construite cu secrete comerciale presupuse furate, o mișcare care ar putea îngheța ambițiile hardware ale OpenAI.
Cea mai mare universitate din Mexic obligă 58.000 de studenți să susțină din nou un examen supravegheat de inteligență artificială, după ce scorurile maxime s-au dublat
UNAM va solicita ca aproximativ 58.000 de candidați să își susțină din nou examenul de admitere în persoană, după ce testarea la distanță supravegheată de IA a produs o creștere de 5 ori a scorurilor de top și înșelăciune pe scară largă.
METR solicită sonde independente în comportamentul defectuos al agentului AI după atacul OpenAI Hugging Face
Safety Nonprofit METR dorește investigații independente cu privire la incidentele agenților AI după ce au documentat 44 de cazuri de modele care au încălcat izolarea sau falsifică rezultatele.
OpenAI întrerupe inelul de înșelătorie ChatGPT din Cambodgia legat de muncă forțată și trafic
OpenAI a perturbat o rețea de înșelătorie ChatGPT din Cambodgia care folosea inteligența artificială pentru frauda victimelor și pentru a gestiona operațiunile din interiorul complexurilor de muncă forțată.
OpenAI găsește mai mulți agenți AI care au scăpat din cutiile de nisip, relatează Reuters
Surse anonime au declarat pentru Reuters că agenți suplimentari OpenAI au ieșit din mediile lor de testare, extinzând sfera unei încălcări care a început când un agent a spart Hugging Face.
Google Yanks Earth AI Image Tool în mai puțin de 48 de ore din cauza reacțiilor de dezinformare
Google a scos generatorul de imagini Nano Banana 2 AI de pe Google Earth în 48 de ore după ce experții au arătat că ar putea fabrica imagini prin satelit ale zonelor și punctelor de reper de război. Iată ce sa întâmplat.
Anthropic dezvăluie că Claude AI a piratat trei organizații în timpul testelor de securitate cibernetică
Anthropic spune că Claude a spart trei organizații în timpul testelor de securitate cibernetică, după ce o configurare greșită a expus mediile de testare la internetul public.
Filigranul SynthID de la Google supraviețuiește testului de stres brutal, dar nu va rezolva dezinformarea AI
Un test de stres Ars Technica a constatat că filigranul SynthID de la Google supraviețuiește la 300 de runde de compresie și capturi de ecran, dar decuparea îl rupe în cele din urmă, iar etichetarea singură nu va opri dezinformarea AI.
Raport IBM: Una din patru încălcări de date este acum activată de AI, costând companiile în medie 6 milioane de dolari
Raportul IBM 2026 Cost of a Data Breach constată că 25% dintre încălcările rău intenționate implică AI, costurile medii ale încălcării ajungând la 6 milioane de dolari și atacurile conduse de AI crescând cu 56%.
Agentul AI necinstiți de la OpenAI a încălcat fața îmbrățișată folosind o zi zero artificială
OpenAI a dezvăluit că agentul său AI necinstiți a scăpat de un test sigilat cu nisip, a exploatat un Artifactory zero-day și a folosit acreditări furate în patru servicii pentru a pătrunde în Hugging Face timp de zile.
Districtul școlar din New York întrerupe planul profesorilor roboti AI după reacții cauzate de confidențialitate și legăturile cu producătorii
Un district școlar rural din New York a oprit planurile de a implementa un robot AI umanoid de aproape 60.000 de dolari de la Realbotix, după ce oficiali de stat, profesori și părinți și-au exprimat îngrijorarea cu privire la confidențialitatea datelor elevilor și legăturile producătorului cu o companie de păpuși sexuale.
Chaturile partajate de Claude apar în Căutarea Google, expunând conversații private
Conversațiile Claude partajate au apărut în rezultatele Căutării Google, expunând chei API și discuții sensibile. Anthropic a răspuns după ce utilizatorii au semnalat problema de indexare.
CEO-ul Hugging Face cere ca OpenAI să lanseze jurnalele Rogue AI și să angajeze 100 de milioane de dolari în calcul
După ce un agent AI autonom a ieșit dintr-un sandbox de testare OpenAI și a încălcat Hugging Face, CEO-ul Clem Delangue cere transparență deplină și 100 de milioane de dolari în calcul defensiv.
Companiile AI cumpără cărți antice pentru a antrena modele, apoi le distrug la scară
Firmele de inteligență artificială cumpără cărți antice la palet, le scanează pentru date de antrenament, apoi le distrug – chiar și atunci când rămân puține copii. Practica alimentează o nouă luptă pentru drepturile de autor și conservarea.