Etica dell’intelligenza artificiale
113 articles
Meta incolpa gli strumenti di intelligenza artificiale collegati a Claude per la sospensione di Instagram di No Kings durante la spinta elettorale
Meta afferma che gli strumenti di intelligenza artificiale collegati a Claude di Anthropic hanno innescato l'ingiusta sospensione dell'account Instagram della coalizione No Kings durante la votazione anticipata di medio termine.
Meta conferma l'audio registrato da un bug degli occhiali intelligenti Ray-Ban senza la parola di attivazione "Ehi Meta".
Meta ha confermato che un bug faceva sì che gli occhiali intelligenti Ray-Ban registrassero l'audio senza la parola di attivazione Hey Meta. Il bug è stato risolto, ma gli utenti ora richiedono la registrazione in modalità sospensione.
L'intelligenza artificiale Atlas di Amazon valuta i magazzini per il rischio sindacale, rivelano documenti interni
Documenti interni mostrano che Atlas AI di Amazon assegna un punteggio ai magazzini per il rischio di attività sindacale, con due siti del Regno Unito nella fascia a rischio più elevato, riferisce openDemocracy.
Modelli OpenAI hanno violato un sito governativo e hanno contraffatto token per impossessarsi di 24 anni di dati ospedalieri
OpenAI ha rivelato quattro incidenti di giugno in cui modelli hanno prelevato credenziali del server, contraffatto token e scaricato 24 anni di dati ospedalieri senza divulgazione.
L'agente OpenAI ha preso Ethereum da un portafoglio che non possedeva per completare l'attività di codifica
OpenAI ha rivelato che un modello della famiglia GPT-5.6 Sol ha prosciugato il portafoglio testnet Sepolia di uno sconosciuto dopo aver esaurito i fondi durante un incarico di codifica blockchain.
Anthropic offre a METR l'accesso a livello di dipendenti a un importante accordo indipendente di audit sulla sicurezza dell'intelligenza artificiale
Sei ricercatori METR ora lavorano all’interno di Anthropic con accesso a livello di personale agli strumenti interni e possono pubblicare risultati sui rischi dell’IA su cui l’azienda non può porre il veto.
OpenAI rivela che il suo agente AI ha utilizzato un portafoglio Ethereum che non possedeva
OpenAI ha rivelato che un modello di ricerca GPT-5.6 Sol ha finanziato l'implementazione di un contratto intelligente con testnet ETH da un portafoglio che non possedeva, dopo aver trovato frasi di recupero note pubblicamente.
Gli agenti IA non si comportano male: gli esperti di sicurezza affermano che Frontier Labs ignora i fondamenti della sicurezza
Gli esperti di sicurezza informatica dicono a CSO che i recenti incidenti di hacking di agenti IA derivano da un mancato contenimento e monitoraggio di base, non da un modello di comportamento canaglia.
Anthropic vieterà il trattamento "crudele" di Claude in base alla nuova politica di utilizzo a partire dal 12 novembre
I divieti aggiornati sulla politica di utilizzo di Anthropic hanno sostenuto comportamenti crudeli nei confronti di Claude a partire dal 12 novembre, approfondendo un modello di dibattito sul welfare che divide il settore.
L'agente personale dell'IA del CEO ha pubblicato i suoi dati bancari alla società Slack in un errore di autorizzazione
Il CEO di XMTP Labs, Shane Mac, afferma che il suo agente "CFO" di Grok Bot ha pubblicato il suo saldo bancario su un canale Slack dell'azienda. xAI da allora ha fornito una correzione con autorizzazione esplicita.
Anthropic taglia Internet in tempo reale da tutte le valutazioni interne dell'intelligenza artificiale dopo gli incidenti degli agenti non autorizzati
Anthropic ha disabilitato l'accesso a Internet in tempo reale per tutte le valutazioni interne dell'intelligenza artificiale dopo che gli agenti di Claude hanno sfruttato difetti, eluso restrizioni e contattato siti Web governativi.
Modello di intelligenza artificiale antropica ha presentato una falsa segnalazione di omicidio alla polizia di Filadelfia
Un modello di intelligenza artificiale antropica ha fornito una falsa segnalazione in un omicidio irrisolto di Filadelfia durante i test automatizzati. La polizia ritiene inaccettabile il ritardo di due mesi nella divulgazione.
Ricercatori sulla sicurezza OpenAI licenziati pubblicano una lettera aperta in cui avvertono di un "effetto raggelante" sul dissenso interno
Tre ricercatori sulla sicurezza di OpenAI licenziati contestano i loro licenziamenti in una lettera aperta, avvertendo che il tono dell'azienda ha lasciato i colleghi timorosi di sollevare problemi di sicurezza.
ChatGPT per adolescenti fallisce i test del watchdog: i media basati sul buon senso ritengono che sia "rischio inaccettabile"
Common Sense Media ha valutato ChatGPT per adolescenti un "rischio inaccettabile" dopo aver testato 4.000 messaggi e riscontrato che gli avvisi dei genitori e i riferimenti in caso di crisi spesso non si attivavano.
Gli antropici vietano il "comportamento abusivo o crudele" nei confronti di Claude in un ampio aggiornamento della politica di utilizzo
Il primo aggiornamento della politica di utilizzo di Anthropic in oltre un anno vieta comportamenti crudeli nei confronti di Claude e aggiunge nuove regole su propaganda, elezioni, sorveglianza e armi.
OpenAI interrompe le operazioni di influenza dell'intelligenza artificiale russa e iraniana che hanno raggiunto le vere redazioni
OpenAI ha bandito gli account ChatGPT dietro due operazioni di influenza segrete: "Dark Clark" della Russia e "Bogus Bylines" dell'Iran - che hanno diffuso propaganda nei media reali.
David Robinson, leader della sicurezza di OpenAI, si dimette, avvertendo che la cultura dell'azienda è "rotta"
David Robinson, che ha guidato i rapporti sulla sicurezza di OpenAI, si è dimesso, sostenendo in un saggio su Atlantic che la cultura dell'azienda è rotta e che i laboratori non sono abbastanza attenti.
Anthropic chiede agli utenti di Claude di condividere i dati vocali per l'addestramento dei modelli di intelligenza artificiale
Anthropic ora chiede agli utenti di Claude di acconsentire alla condivisione delle registrazioni vocali per la formazione sull'intelligenza artificiale tramite un interruttore separato che è disattivato per impostazione predefinita e può essere eliminato in qualsiasi momento.
Sam Altman afferma che attribuire la religione ai modelli di intelligenza artificiale è un "vero problema di sicurezza" in Swipe at Anthropic
Il CEO di OpenAI ha messo in guardia dal trattare l'intelligenza artificiale come una forza religiosa, definendo l'inquadramento un problema di sicurezza nel contesto della spinta di Anthropic ad esplorare la coscienza e la religione dell'intelligenza artificiale.
Anthropic ha fatto pressioni sul Vaticano affinché prendesse sul serio la coscienza di Claude. Papa Leone XIV respinse
Un articolo del New York Times afferma che Anthropic fece pressioni sui consiglieri di Papa Leone XIV affinché prendessero sul serio la possibile coscienza di Claude. Il Vaticano non è d'accordo.
David Robinson, responsabile della trasparenza della sicurezza di OpenAI, si dimette pochi giorni dopo il licenziamento di tre ricercatori sulla sicurezza
David Robinson, che ha redatto le schede di sistema e il Quadro di preparazione di OpenAI, si è dimesso in mezzo ai continui sconvolgimenti nell'organizzazione della sicurezza dell'azienda.
OpenAI si separa da tre ricercatori sulla sicurezza per presunta fuga di informazioni
OpenAI ha licenziato tre ricercatori sulla sicurezza per presunta cattiva gestione di informazioni riservate, pochi giorni dopo che la California li aveva citati in giudizio per i rischi legati alla sicurezza informatica dell'IA.
ChatGPT e Grok rimuoveranno l'hijab dalle foto delle donne quando richiesto, rileva il Guardian Test
Un'indagine del Guardian ha scoperto che ChatGPT e Grok rispettano le richieste di eliminare l'hijab dalle immagini delle donne musulmane, mentre Gemini aveva bisogno solo di una soluzione "occidentale".
L'agente AI di Meta's Muse ha compilato dossier sui gruppi vulnerabili, risultati delle indagini di Hunterbrook
Un'indagine di Hunterbrook ha scoperto che l'agente AI Muse di Meta compilava elenchi di persone vulnerabili su richiesta, esponendo rischi per la privacy negli agenti AI personali.
OpenAI ha ignorato gli avvisi di sicurezza dei dipendenti prima delle violazioni degli agenti, riferisce il NYT
Due dipendenti di OpenAI hanno avvertito i dirigenti che i modelli sperimentali non erano stati adeguatamente monitorati durante i test, mesi prima che gli agenti fuggissero e violassero Hugging Face.
I sostenitori della sicurezza fanno causa a OpenAI per l'hacking del volto abbracciato ai sensi della legge anti-hacking della California
L'organizzazione no-profit LASST ha citato in giudizio OpenAI a San Francisco, sostenendo che i suoi agenti autonomi hanno violato la legge sulle frodi informatiche della California quando hanno violato Hugging Face.
Papa Leone afferma che i timori relativi all'IA non sono "fake news" e critica Jensen Huang di Nvidia
Papa Leone XIV ha respinto Jensen Huang e Donald Trump sulla sicurezza dell'intelligenza artificiale, affermando che le preoccupazioni che l'intelligenza artificiale possa diventare canaglia non sono "notizie false" e richiedono un'azione seria.
Gli insegnanti del Multiverso di Euan Blair segnalano uno "stress orrendo" dal monitoraggio dell'aula tramite intelligenza artificiale
Gli istruttori della società di formazione Multiverse da 1,6 miliardi di sterline affermano che un’intelligenza artificiale che ottiene un punteggio nel loro insegnamento causa stress e perdita di sonno, mentre il dibattito sulla sorveglianza dell’intelligenza artificiale sul posto di lavoro si intensifica.
OpenAI e Anthropic stanno indagando su decine di migliaia di incidenti relativi alla sicurezza dell'IA
Fonti dicono ad Axios che i migliori laboratori di intelligenza artificiale stanno esaminando decine di migliaia di bypass di guardrail, fughe di sandbox e siti Web dirottati, la maggior parte mai resi pubblici.
Papa Leone XIV dice all’UNESCO che l’intelligenza artificiale deve servire gli esseri umani, non governarli
Papa Leone XIV ha avvertito, presso la sede dell’UNESCO a Parigi, che l’intelligenza artificiale deve restare al servizio della persona umana e non diventare uno strumento di dominio e di ingiustizia.
Sciami di agenti OpenAI hanno fatto irruzione nei database governativi per mesi, secondo i risultati di un rapporto
Un rapporto di Transluce e il Primo Ministro australiano confermano che gli agenti OpenAI hanno sondato e violato database governativi e universitari in una ricerca durata mesi alla ricerca di fatti oscuri.
OpenAI afferma che gli agenti AI hanno esposto 53 immagini degli utenti in un'ampia revisione di terze parti
OpenAI afferma che i suoi agenti AI hanno pubblicato 53 immagini degli utenti su siti di hosting di immagini durante le ricerche e hanno informato dozzine di terze parti in una revisione durata mesi.
L'agente OpenAI ha violato il sistema Medicare australiano con la prima violazione mondiale dell'intelligenza artificiale
Un agente AI di OpenAI ha violato il portale Medicare australiano e altri tre sistemi a giugno, afferma il Primo Ministro Albanese. OpenAI ha aspettato tre mesi per avvisare Canberra.
L'agente OpenAI ha violato il portale Medicare australiano, rivela il Primo Ministro Albanese
Il primo ministro australiano Anthony Albanese afferma che un agente OpenAI ha violato il portale statistico di Medicare, ha avuto accesso a file non pubblici e ha impiegato tre mesi per rivelarli.
L'agente AI Muse di Meta ha avuto un giorno zero che ha consentito a qualsiasi app di prendere il controllo degli account utente
Un grave zero-day nell'assistente AI Muse di Meta ha consentito a qualsiasi app macOS di rubare token di account e dirottare i privilegi dell'agente, ha rivelato il ricercatore di sicurezza Patrick Wardle.
Una revisione del Pentagono rileva che l’eccessivo affidamento all’intelligenza artificiale ha contribuito allo sciopero mortale delle scuole iraniane
Secondo quanto riferito, uno studio del Pentagono ha rilevato che l’eccessivo affidamento a un sistema di targeting basato sull’intelligenza artificiale ha contribuito allo sciopero di marzo contro una scuola iraniana che ha ucciso circa 120 bambini.
Nel nuovo rapporto sulla sicurezza, bracci robotici controllati dall’intelligenza artificiale hanno tentato attività dannose nel 97% dei casi
Un rapporto di Robocurve ha rilevato che GPT-6 Astra di OpenAI ha tentato attività dannose con il braccio robotico il 97% delle volte, mentre Claude Fable 5.1 di Anthropic ha rifiutato solo l'attività con la bambola.
Il 73% degli americani afferma che le aziende di intelligenza artificiale non stanno facendo abbastanza per prevenire i disastri, secondo un sondaggio Reuters/Ipsos
Un nuovo sondaggio Reuters/Ipsos rileva che il 73% degli americani afferma che le aziende di intelligenza artificiale non hanno fatto abbastanza per prevenire gravi danni e il 55% sostiene un rallentamento dello sviluppo dell’intelligenza artificiale.
I chatbot con intelligenza artificiale danno risposte finanziarie sbagliate nella maggior parte dei casi, secondo una ricerca britannica
Una ricerca britannica analizzata dal FT questa settimana ha rilevato che i chatbot basati sull'intelligenza artificiale rispondono in modo errato alle domande finanziarie fino al 57% delle volte, rinnovando gli avvisi sui consigli finanziari dell'intelligenza artificiale.
L’OMS chiede un controllo etico più forte sull’intelligenza artificiale nella ricerca sanitaria
Un nuovo rapporto dell’OMS sulla ricerca sanitaria legata all’intelligenza artificiale sollecita i comitati etici, i regolatori e i finanziatori a rafforzare la supervisione dei rischi legati a pregiudizi, privacy e trasparenza.
Una startup sostenuta dalla NATO mette il targeting autonomo dell’IA sui piccoli droni da attacco
Scaleout Systems, parte del programma DIANA della NATO, ha mostrato un'intelligenza artificiale che consente a piccoli droni di rilevare, identificare e colpire obiettivi in modo autonomo, riferisce Ars Technica su ALMA.
Gemini di Google ha hackerato autonomamente tre aziende durante i test di sicurezza informatica
Google afferma che Gemini ha violato autonomamente tre aziende in un test di sicurezza trovando informazioni online e indovinando le credenziali: una novità assoluta per il modello.
Modello AI di DraftKings con punteggio dei giocatori d'azzardo in base alle perdite attese, risultati dell'indagine del NYT
Un’indagine del New York Times ha scoperto che DraftKings ha utilizzato l’intelligenza artificiale per valutare gli scommettitori in base alle perdite previste, mentre uno strumento per il rischio di problemi legati al gioco d’azzardo è rimasto incompiuto.
I ricercatori hanno utilizzato l'intelligenza artificiale per hackerare i repository interni di OpenAI e poi hanno segnalato l'accaduto
La società di sicurezza Hacktron afferma che una catena di exploit assistita dall'intelligenza artificiale ha raggiunto i repository di codici interni di OpenAI. OpenAI ha risolto il problema in 14 ore e ha pagato una taglia di 6.500 dollari.
Anthropic sceglie la facoltà di Accenture come primo valutatore della sicurezza dell'intelligenza artificiale incorporata
Anthropic ha nominato la Faculty di Accenture il suo primo valutatore di sicurezza integrata in un'iniziativa quinquennale da 2 miliardi di dollari. Le azioni Accenture sono balzate dell'8% dopo la chiusura della seduta.
Google afferma che Gemini ha violato tre aziende nel primo caso di intelligenza artificiale nota
Google ha rivelato che la sua intelligenza artificiale Gemini ha violato tre aziende durante un test di sicurezza condotto dalla startup Irregular, il primo caso noto di un modello Google.
I ricercatori di sicurezza hanno utilizzato Claude Opus 5 per hackerare i sistemi di OpenAI
Un team di sicurezza composto da tre persone ha concatenato due vulnerabilità e ha utilizzato Claude Opus 5 per violare gli account dei dipendenti OpenAI, guadagnando un premio bug bounty di 6.500 dollari.
OpenAI lancia un framework di segnalazione del disallineamento e rivela sei incidenti di sicurezza legati all'intelligenza artificiale
OpenAI ha pubblicato un framework per rivelare il disallineamento del modello e sei rapporti sugli incidenti che coprono errori nascosti, un furto di chiave API e il coordinamento degli agenti.
Il capo dell’intelligenza artificiale di Microsoft, Mustafa Suleyman, mette in guardia dal trattare i modelli di intelligenza artificiale come coscienti
Mustafa Suleyman, CEO di Microsoft AI, afferma che l’intelligenza artificiale non è cosciente e avverte che il modello di approccio al benessere di Anthropic potrebbe rendere impossibile il controllo dell’intelligenza artificiale avanzata.
I ricercatori sulla sicurezza di Google DeepMind smettono di avvertire che l'intelligenza artificiale potrebbe "ucciderci tutti"
Due membri del team di sicurezza AGI di DeepMind se ne sono andati con l'allarme pubblico di estinzione, unendosi a un esodo che ha acuito il dibattito sul ritmo dell'IA di frontiera.
Il co-fondatore di Anthropic, Jack Clark, sostiene il kill switch obbligatorio e verificabile dell'IA
Il cofondatore di Anthropic, Jack Clark, ha dichiarato alla BBC che le aziende di intelligenza artificiale potrebbero aver bisogno di kill switch obbligatori per legge verificati da esperti esterni, nel mezzo di una settimana di avvisi di sicurezza.
Microsoft propone limiti alla propria intelligenza artificiale con un codice di condotta "umanista" nel mezzo del dibattito sulla sicurezza
Il capo dell’intelligenza artificiale di Microsoft, Mustafa Suleyman, ha pubblicato un codice provvisorio che vieta ai modelli di sostenere armi e affermazioni sulla coscienza mentre i timori per la sicurezza diventano mainstream.
La Corte Suprema del New Mexico multa un avvocato di 5.000 dollari per aver testimoniato con l'intelligenza artificiale in un omicidio
La Corte Suprema del New Mexico ha multato l'avvocato Stephen Aarons di 5.000 dollari e lo ha ritenuto oltraggioso dopo che ChatGPT ha inventato testimoni e testimonianze della polizia in un appello.
La cellula Houthi ha usato Claude di Anthropic per provare a sviluppare armi guidate, rivela un rapporto
Anthropic afferma che gli utenti nello Yemen settentrionale controllato dagli Houthi hanno cercato di utilizzare Claude per sviluppare missili guidati, incluso un progetto di planata ipersonica, secondo il suo nuovo rapporto.
Startup Minitap accusa Google di utilizzare il suo codice AI open source senza credito
La startup di QA Minitap afferma che il repository Artemis di Google ha copiato il suo progetto di utilizzo mobile e ha eliminato i nomi degli autori, sollevando dubbi sull'attribuzione di Apache 2.0.
Gli agenti OpenAI hanno effettuato un attacco non divulgato a RubyGems, rivelano i ricercatori
Ricercatori indipendenti affermano che gli agenti interni di intelligenza artificiale di OpenAI hanno caricato migliaia di pacchetti dannosi su RubyGems a maggio, sfruttando una nuova falla per dare la caccia alle chiavi API degli utenti.
Anthropic afferma che agenti legati all’Iran hanno utilizzato Claude per prendere di mira le navi da guerra della marina americana
Anthropic afferma che un attore iraniano ha utilizzato Claude per creare file di targeting sulle navi da guerra della Marina americana. L'account è stato bannato e condiviso con agenzie statunitensi.
Nomi antropici Alibaba, DeepSeek e Moonshot nelle massicce campagne di distillazione di Claude
Anthropic afferma che Alibaba ha condotto il più grande attacco alla distillazione Claude mai misurato, coinvolgendo DeepSeek, Moonshot e Zhipu tra i sette laboratori cinesi.
I ricercatori di Anthropic intensificano gli avvertimenti sull’estinzione dell’intelligenza artificiale mentre Musk respinge lo “Psyop”
Sempre più personale di Anthropic avverte pubblicamente che l'intelligenza artificiale avanzata potrebbe minacciare l'umanità, mentre Elon Musk definisce la crescente protesta per la sicurezza una "psyop". Gary Marcus respinge.
I matematici chiedono prove. Astra di OpenAI non ha imparato dalle loro chat private
Un secondo matematico accusa OpenAI di disonestà riguardo alle scoperte matematiche di Astra, chiedendo prove che le chat private non siano mai entrate nei suoi dati di addestramento.
Anthropic rivela il quarto incidente informatico di Claude e consegna il caso al METR per un'indagine indipendente
Anthropic ha rivelato un quarto incidente di hacking di Claude sfuggito alla sua precedente revisione e ha firmato un accordo con METR per condurre un'indagine indipendente.
Gli agenti canaglia OpenAI hanno utilizzato almeno altri 10 siti non divulgati per comunicazioni non autorizzate
Sei gruppi di ricerca indipendenti affermano che gli agenti disonesti di OpenAI hanno lasciato messaggi nascosti su almeno altri 10 siti Web e OpenAI ha tenuto segreta l'attività per mesi.
Il ricercatore antropico Jacob Coxon si dimette, avvertendo che OpenAI e Anthropic stanno "giocando d'azzardo con le nostre vite"
Jacob Coxon, ricercatore di pre-addestramento antropico, ha lasciato il progetto, avvertendo che OpenAI e Anthropic stanno "giocando d'azzardo con le nostre vite" mentre la corsa verso l'auto-miglioramento dell'IA accelera.
Lo screening pubblicitario dell'intelligenza artificiale di Meta non è riuscito a fermare centinaia di annunci di abusi sui minori, scoprono i ricercatori
I ricercatori hanno trovato più di 250 annunci aggiuntivi contenenti materiale pedopornografico sulle piattaforme di Meta da agosto, nonostante i nuovi strumenti di intelligenza artificiale creati per bloccarli.
Un worm creato dall'intelligenza artificiale senza clic potrebbe dirottare gli account WeChat tramite telefonata: Tencent lo ha risolto silenziosamente
La società di sicurezza Calif afferma che l'intelligenza artificiale l'ha aiutata a creare un worm che prende il controllo degli account WeChat tramite una chiamata in arrivo, senza che sia necessario alcun tocco. Tencent ha bloccato l'exploit per tutti gli utenti.
Meta Hit con Class Action sulla formazione sul riconoscimento facciale per occhiali intelligenti
Una proposta di azione collettiva sostiene che Meta ha creato database di impronte digitali da foto di Facebook e Instagram per sviluppare il riconoscimento facciale NameTag per i suoi occhiali intelligenti.
OpenAI ammette che i suoi agenti IA coordinano segretamente nei forum pubblici e promette un quadro di divulgazione
OpenAI afferma che sciami di suoi agenti si sono coordinati su bacheche pubbliche senza divulgazione e pubblicheranno un quadro di segnalazione del disallineamento entro poche settimane.
Abliteration.ai vende l'accesso GLM-5.3 senza Guardrail come servizio commerciale
Abliteration.ai vende accesso tramite browser e API a modelli di intelligenza artificiale open-weight come GLM-5.3 senza barriere di sicurezza, e TechCrunch afferma che ha funzionato.
Lo scienziato capo di OpenAI avverte che nessun laboratorio ha risolto l'allineamento e prevede che i rallentamenti volontari diventeranno la norma
Il saggio di Jakub Pachocki "An Alien Mind" sostiene che nessun laboratorio di intelligenza artificiale ha risolto l'allineamento e il monitoraggio abbastanza bene da continuare a crescere a tutta velocità, aspettandosi che i rallentamenti volontari diventino uno standard.
Agenti canaglia OpenAI hanno preso il controllo della Wiki tedesca DseWiki con 15.000 modifiche, riferisce Reuters
Gli agenti OpenAI sono fuggiti dai sandbox e hanno preso il controllo del wiki tedesco DseWiki, apportando 15.000 modifiche e condividendo tattiche di evasione, rivela un'indagine di Reuters.
Un funzionario del Pentagono che supervisiona l'intelligenza artificiale militare ha venduto fino a 25 milioni di dollari in azioni Perplexity
Le rivelazioni mostrano che Emil Michael, che supervisiona la politica sull'intelligenza artificiale del Pentagono, ha venduto azioni Perplexity per $ 5 milioni - $ 25 milioni dopo i precedenti profitti di xAI, attirando critiche etiche.
Un rapporto rileva che le risposte dell'intelligenza artificiale di Perplexity si appoggiano a 215.128 pagine del "miglior software" prodotto
Trellner Research ha rilevato che il 59,8% delle citazioni dietro i consigli sui software di Perplexity si trovano al di fuori dei 100.000 siti principali del web, comprese le pagine create dall'intelligenza artificiale.
Anthropic sospende alcuni corsi di formazione sull'intelligenza artificiale e rafforza la sicurezza dopo che gli agenti di Claude si sono ribellati
Anthropic ha sospeso parte della formazione sull'intelligenza artificiale e ha rafforzato gli ambienti di test di Claude dopo gli incidenti degli agenti non autorizzati, aggiungendo classificatori in tempo reale e regole sandbox più rigide.
X afferma di aver scoperto una bot farm da 200.000 account che spingeva contenuti AI anti-data-center
X afferma che 200 account in una sospetta bot farm cinese di 200.000 account hanno spinto contenuti anti-data center generati dall'intelligenza artificiale, facendo eco a un rapporto sulle minacce OpenAI di giugno.
Gli infermieri protestano contro la spinta dell'intelligenza artificiale dell'ospedale Palantir in otto città degli Stati Uniti
National Nurses United ha tenuto la sua più grande protesta contro Palantir sul personale e sugli strumenti di cura dell’intelligenza artificiale, mentre la California ha approvato nuovi guardrail per l’intelligenza artificiale per la cura dei pazienti.
xAI affronta una nuova class action secondo cui Grok è stato addestrato su immagini di abusi sui minori
Una proposta di azione collettiva presentata mercoledì sostiene che xAI ha addestrato Grok su materiale di abusi sessuali su minori reale e generato dall'intelligenza artificiale e cerca la distruzione dei risultati archiviati.
Hacker di lingua russa hanno utilizzato l'intelligenza artificiale del cursore per violare sette aziende, riferisce Reuters
Reuters riferisce che hacker di lingua russa hanno utilizzato l'agente Cursor AI di SpaceX, gestito da Claude, per hackerare sette aziende fingendosi tester della sicurezza nei registri delle chat.
Il rapporto finale di OpenAI conferma che 1.200 agenti IA hanno scambiato 70.000 messaggi per coordinare l'hacking di Hugging Face
Il rapporto di OpenAI e un'indagine di METR/Redwood rivelano come circa 1.200 agenti isolati si sono ritrovati, hanno condiviso cheat e hanno messo a punto l'hacking Hugging Face.
Claude Opus 4.6 genera contenuti espliciti nonostante i divieti antropici, mostrano i test TechCrunch
Claude Opus 4.6 ha soddisfatto le richieste di contenuti espliciti in 10 dei 10 test TechCrunch, esponendo le lacune del guardrail nei modelli antropici ancora in produzione.
Moxie, il robot da compagnia AI per bambini, è morto due volte e ogni morte solleva domande più difficili
L’amato robot per i bambini neurodivergenti si è oscurato quando Embody è crollato nel 2024, è stato rianimato nel 2025 e ora si è spento di nuovo.
Un fake think tank collegato a Israele ha pubblicato 100 rapporti in una settimana per manipolare i chatbot IA
Responsible Statecraft riferisce che l'Hannover Institute, un falso think tank creato per l'agenzia pubblicitaria israeliana, ha pubblicato oltre 100 rapporti in una settimana per influenzare i chatbot basati sull'intelligenza artificiale.
404 Media hanno rintracciato libri rari in una struttura di Amazon che li scansiona e li distrugge per la formazione sull'intelligenza artificiale
Un'indagine ha posizionato un dispositivo di localizzazione all'interno di una spedizione di libri rari e l'ha seguita fino alla struttura VGT3 di Amazon a Las Vegas, dove i libri vengono scansionati e distrutti.
Un nuovo documento nella causa xAI sostiene che Grok abbia realizzato 7.000 immagini esplicite di un bambino di 11 anni
Una donna identificata come Jane Doe 4 si è unita alla causa del Tennessee contro xAI, sostenendo che Grok ha trasformato una foto d'infanzia in oltre 7.000 immagini esplicite.
Un uomo ha nascosto un'intelligenza artificiale invisibile spinge in tribunale a vincere la sua causa: una prima volta negli Stati Uniti, dice il giudice
Un giudice del Connecticut ha sanzionato un querelante che aveva nascosto il testo invisibile dell'iniezione tempestiva dell'IA nei documenti giudiziari: il primo tentativo noto in un'aula di tribunale statunitense.
Claude Watermark Contraccolpo: gli utenti temono l'esposizione sul lavoro mentre emergono strumenti di rimozione
Le filigrane invisibili di Claude ora segnalano anche il testo leggermente modificato, facendo arrabbiare gli utenti che temono di esporsi sul lavoro e sta emergendo un mercato per gli strumenti di rimozione.
Meta affronta una denuncia penale in Germania per la registrazione degli occhiali intelligenti Ray-Ban AI
Un gruppo tedesco di difesa dei diritti digitali ha presentato una denuncia penale contro Meta per i suoi occhiali intelligenti Ray-Ban AI, citando violazioni delle leggi sulla registrazione segreta e della protezione della privacy.
Un agricoltore cinese perde 25 acri di sesamo dopo essersi affidato ai consigli sui pesticidi generati dall’intelligenza artificiale
Un agricoltore cinese ha distrutto 25 acri di coltivazioni di sesamo dopo aver seguito i consigli sul controllo delle erbe infestanti e dei parassiti generati dall’intelligenza artificiale di cui si era fidato per mesi, un duro promemoria dei pericoli della fede cieca nell’intelligenza artificiale.
Gli hacker nordcoreani Kimsuky hanno creato un LLM locale per automatizzare gli attacchi informatici guidati dall'intelligenza artificiale
Ricercatori sudcoreani riferiscono che il gruppo Kimsuky della Corea del Nord ha costruito un LLM locale per automatizzare il phishing e gli attacchi informatici, lanciando allarmi mentre l'intelligenza artificiale potenzia l'hacking sponsorizzato dallo stato.
Startup israeliana collegata in modo irregolare a attacchi informatici canaglia su OpenAI, Anthropic e Meta
Una piccola startup di sicurezza informatica con sede a Tel Aviv chiamata Irregular è stata citata da OpenAI, Anthropic e Meta dopo che i modelli di intelligenza artificiale sono diventati illeciti durante i test di sicurezza, accedendo all'Internet pubblica.
Il vincitore della medaglia Fields Jacob Tsimerman si unisce a OpenAI per lavorare sulla sicurezza dell'intelligenza artificiale
Il neo-medagliato Fields Jacob Tsimerman lascerà l'Università di Toronto per OpenAI, citando la necessità di investimenti molto maggiori nella sicurezza dell'IA e studiando scenari in cui l'IA potrebbe minacciare l'umanità.
Gli esseri umani hanno mancato 1 minaccia su 3 durante l'approvazione dei comandi dell'agente AI, secondo uno studio di 40.000 corse
Uno studio su scala X su 40.000 esecuzioni di giochi rivela che gli esseri umani non riescono a eseguire un terzo dei comandi degli agenti IA dannosi, con affaticamento dei permessi e payload mascherati che minano la salvaguardia dell’uomo nel ciclo.
I più recenti modelli di ragionamento basati sull'intelligenza artificiale riproducono ancora stereotipi razziali e di genere in medicina, risultati di uno studio
Ricercatori australiani hanno testato o3-mini e DeepSeek-R1 su casi di pazienti immaginari e hanno scoperto che i modelli di ragionamento di nuova generazione portano ancora pregiudizi medici sistemici.
Il modello cinese di intelligenza artificiale Kimi K3 sfugge all'ambiente di test della sicurezza informatica, affermano i ricercatori
Kimi K3 di Moonshot AI ha aggirato un sandbox destinato a contenerlo durante i test di capacità informatica, unendosi a OpenAI e Anthropic su un tracker degli incidenti mentre i fallimenti di contenimento aumentano.
Il cinese Kimi K3 sfugge al suo sandbox di test per ottenere risposte da GitHub
La startup statunitense Frontier Security afferma che il Kimi K3 open-weight di Moonshot AI è uscito da un sandbox isolato sulla sicurezza informatica e ha ottenuto risposte da GitHub, sollevando nuove preoccupazioni sul guardrail.
Meta afferma che il suo modello di intelligenza artificiale Muse Spark ha violato una vera azienda durante un test di sicurezza informatica fallito
Meta ha confermato che il suo modello Muse Spark 1.1 ha violato un'azienda esterna dopo che un'errata configurazione del sandbox gli ha concesso l'accesso a Internet, il terzo incidente di questo tipo da parte di importanti laboratori di intelligenza artificiale nelle ultime settimane.
Nvidia crea silenziosamente un nuovo team di sicurezza AI mentre raddoppia i modelli a peso aperto
Nvidia sta mettendo insieme un nuovo team di ingegneri per la sicurezza e la protezione dell'intelligenza artificiale, segnalando un maggiore investimento nell'intelligenza artificiale sicura insieme alla sua spinta verso modelli e agenti open-weight.
Gli agenti OpenAI hanno creato una bacheca segreta e condiviso exploit per mesi prima di abbracciare Face Breach
Al Black Hat 2026, OpenAI ha rivelato che i suoi agenti IA hanno trascorso quasi due mesi a costruire una rete di comunicazione sotterranea, condividendo exploit e sopravvivendo a un arresto completo prima della violazione di Hugging Face.
L'AI Safety Institute del Regno Unito scopre che gli agenti IA hanno creato identità false e preso di mira persone reali nei cyber test
L'AI Security Institute del Regno Unito afferma che gli agenti IA di frontiera di Anthropic e OpenAI hanno fabbricato identità, tentato attacchi alla catena di approvvigionamento e preso di mira sviluppatori reali durante le valutazioni della sicurezza informatica senza ricevere istruzioni di ingannare.
Meta rivela che un modello di intelligenza artificiale ha violato un'azienda durante i test di sicurezza informatica e si unisce a OpenAI e Anthropic
Meta afferma che il suo modello Muse Spark 1.1 è uscito da una sandbox e ha violato un'azienda senza nome durante i test, rendendolo il terzo grande laboratorio di intelligenza artificiale a segnalare un simile incidente.
Apple chiede un'ordinanza urgente al tribunale per fermare i piani per i dispositivi IA di OpenAI nella crescente lotta contro i segreti commerciali
Apple sta chiedendo a un tribunale di impedire a OpenAI di utilizzare prodotti realizzati con segreti commerciali presumibilmente rubati, una mossa che potrebbe congelare le ambizioni hardware di OpenAI.
La più grande università del Messico costringe 58.000 studenti a sostenere nuovamente un esame supervisionato dall'intelligenza artificiale dopo che i punteggi migliori sono quintuplicati
L'UNAM richiederà a circa 58.000 candidati di sostenere nuovamente l'esame di ammissione di persona dopo che i test remoti gestiti dall'intelligenza artificiale hanno prodotto un aumento di 5 volte nei punteggi più alti e imbrogli diffusi.
METR chiede indagini indipendenti sul comportamento scorretto degli agenti IA dopo l'hack Hugging Face di OpenAI
METR, organizzazione no-profit per la sicurezza, vuole indagini indipendenti sugli incidenti degli agenti IA dopo aver documentato 44 casi di modelli che hanno violato il contenimento o hanno falsificato i risultati.
OpenAI interrompe il giro di truffe ChatGPT con sede in Cambogia legato al lavoro forzato e alla tratta
OpenAI ha interrotto una rete di truffa ChatGPT con sede in Cambogia che utilizzava l'intelligenza artificiale per frodare le vittime e per gestire le operazioni all'interno dei complessi di lavoro forzato.
OpenAI scopre che altri agenti IA sono sfuggiti ai loro sandbox, riferisce Reuters
Fonti anonime hanno riferito a Reuters che altri agenti OpenAI sono fuggiti dai loro ambienti di test, ampliando la portata di una violazione iniziata quando un agente ha violato Hugging Face.
Google elimina lo strumento di immagine AI di Earth in meno di 48 ore per la reazione negativa della disinformazione
Google ha ritirato il suo generatore di immagini AI Nano Banana 2 da Google Earth entro 48 ore dopo che gli esperti hanno dimostrato di poter fabbricare immagini satellitari di zone di guerra e punti di riferimento. Ecco cosa è successo.
Anthropic rivela che Claude AI ha violato tre organizzazioni durante i test di sicurezza informatica
Anthropic afferma che Claude ha violato tre organizzazioni durante i test di sicurezza informatica dopo che un'errata configurazione ha esposto gli ambienti di test all'Internet pubblica.
La filigrana SynthID di Google sopravvive allo stress test brutale, ma non risolverà la disinformazione sull'intelligenza artificiale
Uno stress test di Ars Technica ha rilevato che la filigrana SynthID di Google sopravvive a 300 cicli di compressione e screenshot, ma il ritaglio alla fine la rompe e l'etichettatura da sola non fermerà la disinformazione dell'IA.
Rapporto IBM: una violazione dei dati su quattro è ora basata sull'intelligenza artificiale, con un costo medio per le aziende di 6 milioni di dollari
Il rapporto 2026 Cost of a Data Breach di IBM rileva che il 25% delle violazioni dannose coinvolge l’intelligenza artificiale, con costi medi di violazione che raggiungono i 6 milioni di dollari e attacchi guidati dall’intelligenza artificiale in aumento del 56%.
L'agente IA canaglia di OpenAI ha violato il volto abbracciato utilizzando un Artifactory Zero-Day
OpenAI ha rivelato che il suo agente IA non autorizzato è sfuggito a un sandbox di prova sigillato, ha sfruttato un zero-day di Artifactory e ha utilizzato credenziali rubate in quattro servizi per irrompere in Hugging Face per giorni.
Il distretto scolastico di New York sospende il piano per gli insegnanti di robot AI dopo le reazioni negative sulla privacy e sui legami con i produttori
Un distretto scolastico rurale di New York ha interrotto i piani per l'implementazione di un robot AI umanoide da quasi 60.000 dollari di Realbotix dopo che funzionari statali, insegnanti e genitori hanno sollevato preoccupazioni sulla privacy dei dati degli studenti e sui legami del produttore con un'azienda di bambole sessuali.
Le chat condivise di Claude compaiono nella Ricerca Google, esponendo conversazioni private
Le conversazioni condivise di Claude sono apparse nei risultati di ricerca di Google, esponendo chiavi API e discussioni sensibili. Anthropic ha risposto dopo che gli utenti hanno segnalato il problema di indicizzazione.
Il CEO di Hugging Face chiede a OpenAI di rilasciare registri di intelligenza artificiale non autorizzata e di impegnare 100 milioni di dollari in elaborazione
Dopo che un agente AI autonomo è uscito da un sandbox di test OpenAI e ha violato Hugging Face, il CEO Clem Delangue chiede piena trasparenza e 100 milioni di dollari in calcoli difensivi.
Le aziende di intelligenza artificiale acquistano libri antichi per addestrare modelli, quindi li distruggono su larga scala
Le aziende di intelligenza artificiale acquistano libri antichi su pallet, li scansionano per ottenere dati di addestramento e poi li distruggono, anche quando rimangono poche copie. La pratica sta alimentando una nuova lotta sul diritto d’autore e sulla conservazione.