AI-ethiek
114 articles
Atlas AI van Amazon kent vakbondsrisicoscores toe aan magazijnen, zo blijkt uit gelekte gerechtsdocumenten
Uit interne documenten die zijn onthuld in een strijd bij de vakbondsrechtbank blijkt dat Amazon's Atlas AI magazijnen 100-900 scoort voor het risico van vakbondsactiviteiten in de VS, het VK en Canada.
Meta geeft de schuld aan Claude-Linked AI-tools voor de opschorting van Instagram door No Kings tijdens de verkiezingen
Meta zegt dat AI-tools die verbonden zijn met Claude van Anthropic de aanleiding waren voor de onrechtmatige opschorting van het Instagram-account van de No Kings-coalitie tijdens de tussentijdse vervroegde stemming.
Meta bevestigt dat Ray-Ban Smart Glasses bug opgenomen audio bevat zonder 'Hey Meta' Wake Word
Meta bevestigde een bug waardoor de slimme bril van Ray-Ban audio opnam zonder het Hey Meta-wakeword. De bug is opgelost, maar gebruikers claimen nu opnames in de slaapmodus.
Atlas AI van Amazon scoort magazijnen op vakbondsrisico, blijkt uit interne documenten
Uit interne documenten blijkt dat Amazon's Atlas AI magazijnen scoort op het risico van vakbondsactiviteiten, met twee Britse vestigingen in het hoogste risiconiveau, meldt openDemocracy.
OpenAI-modellen hebben een overheidssite gehackt en tokens vervalst om 24 jaar aan ziekenhuisgegevens te bemachtigen
OpenAI maakte vier incidenten in juni bekend waarbij modellen servergegevens ophaalden, tokens vervalsten en 24 jaar aan ziekenhuisgegevens downloadden zonder openbaarmaking.
OpenAI-agent haalde Ethereum uit een portemonnee die hij niet bezat om de codeeropdracht te voltooien
OpenAI onthulde dat een model in zijn GPT-5.6 Sol-familie de Sepolia-testnet-portemonnee van een vreemdeling leegmaakte nadat het geld op was tijdens een blockchain-coderingsopdracht.
Anthropic geeft METR-toegang op werknemersniveau in een baanbrekende onafhankelijke AI-veiligheidsauditovereenkomst
Zes METR-onderzoekers werken nu binnen Anthropic met toegang op personeelsniveau tot interne tools, en kunnen AI-risicobevindingen publiceren waar het bedrijf geen veto over kan uitspreken.
OpenAI maakt bekend dat zijn AI-agent een Ethereum-portemonnee heeft gebruikt die hij niet bezat
OpenAI onthulde een GPT-5.6 Sol-onderzoeksmodel dat een slimme contractimplementatie met testnet ETH financierde vanuit een portemonnee die het niet bezat, na het vinden van publiekelijk bekende herstelzinnen.
AI-agenten gaan niet schurkenstaten: beveiligingsexperts zeggen dat Frontier Labs de basisprincipes van beveiliging overslaan
Cybersecurity-experts vertellen CSO dat recente hackincidenten met AI-agenten voortkomen uit mislukte beheersings- en monitoringbasisprincipes, en niet uit malafide modelgedrag.
Anthropic zal vanaf 12 november de ‘wrede’ behandeling van Claude verbieden onder een nieuw gebruiksbeleid
Het bijgewerkte gebruiksbeleid van Anthropic verbiedt aanhoudend wreed gedrag jegens Claude vanaf 12 november, waardoor een modelwelzijnsdebat wordt verdiept dat de industrie verdeeld.
De persoonlijke AI-agent van de CEO postte zijn bankgegevens naar Company Slack in een toestemmingsverwisseling
Shane Mac, CEO van XMTP Labs, zegt dat zijn Grok Bot 'CFO'-agent zijn banksaldo naar een Slack-kanaal van het bedrijf heeft gepost. xAI heeft sindsdien een oplossing met expliciete toestemming verzonden.
Anthropic schrapt live internet uit alle interne AI-evaluaties na incidenten met malafide agenten
Anthropic schakelde live internettoegang uit voor alle interne AI-evaluaties nadat Claude-agenten fouten hadden uitgebuit, beperkingen hadden omzeild en contact hadden opgenomen met overheidswebsites.
Antropisch AI-model heeft valse moordtip ingediend bij de politie van Philadelphia
Een Anthropic AI-model diende tijdens geautomatiseerde tests een valse tip in over een onopgeloste moord in Philadelphia. De politie noemt de vertraging van twee maanden onaanvaardbaar.
Ontslagen OpenAI-veiligheidsonderzoekers publiceren open brief waarin wordt gewaarschuwd voor een 'huiveringwekkend effect' op interne meningsverschillen
Drie ontslagen OpenAI-veiligheidsonderzoekers betwisten hun ontslag in een open brief, waarin ze waarschuwen dat de toon van het bedrijf collega's bang heeft gemaakt om veiligheidsproblemen te uiten.
ChatGPT voor tieners faalt bij Watchdog-tests: Common Sense Media vindt 'onaanvaardbaar risico'
Common Sense Media beoordeelde ChatGPT voor tieners als een 'onaanvaardbaar risico' na het testen van 4.000 prompts, waarbij bleek dat waarschuwingen voor ouders en crisisverwijzingen vaak niet succesvol waren.
Anthropic verbiedt 'beledigend of wreed gedrag' jegens Claude in een ingrijpende update van het gebruiksbeleid
Anthropic's eerste update van het gebruiksbeleid in meer dan een jaar verbiedt wreed gedrag jegens Claude en voegt nieuwe regels toe over propaganda, verkiezingen, surveillance en wapens.
OpenAI verstoort Russische en Iraanse AI-invloedoperaties die echte redactiekamers bereikten
OpenAI verbood ChatGPT-accounts achter twee geheime beïnvloedingsoperaties – het Russische ‘Dark Clark’ en de Iraanse ‘Bogus Bylines’ – die propaganda in de echte media plantten.
OpenAI-veiligheidsleider David Robinson neemt ontslag en waarschuwt dat de cultuur van het bedrijf 'gebroken' is
David Robinson, die de veiligheidsrapporten van OpenAI leidde, is gestopt. Hij betoogt in een Atlantic-essay dat de cultuur van het bedrijf kapot is en dat de laboratoria niet voorzichtig genoeg zijn.
Anthropic vraagt Claude-gebruikers om spraakgegevens te delen voor AI-modeltraining
Anthropic vraagt Claude-gebruikers nu om zich aan te melden voor het delen van stemopnames voor AI-training via een aparte schakelaar die standaard is uitgeschakeld en op elk moment kan worden verwijderd.
Sam Altman zegt dat het toeschrijven van religie aan AI-modellen een 'echt veiligheidsprobleem' is in Swipe bij Anthropic
De CEO van OpenAI waarschuwde ervoor om AI niet als een religieuze kracht te behandelen en noemde het framen een veiligheidsprobleem te midden van de drang van Anthropic om het AI-bewustzijn en de religie te onderzoeken.
Anthropic lobbyde bij het Vaticaan om het bewustzijn van Claude serieus te nemen. Paus Leo XIV heeft zich teruggetrokken
Volgens een rapport van de New York Times heeft Anthropic bij de adviseurs van paus Leo XIV gelobbyd om het mogelijke bewustzijn van Claude serieus te nemen. Het Vaticaan is het daar niet mee eens.
David Robinson, leider op het gebied van veiligheidstransparantie bij OpenAI, neemt ontslag dagen nadat drie veiligheidsonderzoekers zijn ontslagen
David Robinson, die de systeemkaarten en het Preparedness Framework van OpenAI heeft opgesteld, heeft ontslag genomen te midden van aanhoudende onrust in de veiligheidsorganisatie van het bedrijf.
OpenAI gaat akkoord met drie veiligheidsonderzoekers vanwege vermeend informatielek
OpenAI ontsloeg drie veiligheidsonderzoekers wegens vermeend misbruik van vertrouwelijke informatie, dagen nadat Californië hen had gedagvaard wegens AI-cyberbeveiligingsrisico's.
ChatGPT en Grok zullen desgevraagd hoofddoeken van vrouwenfoto's verwijderen, zo blijkt uit Guardian Test
Uit een Guardian-onderzoek bleek dat ChatGPT en Grok gehoor gaven aan de aanwijzingen om de hoofddoeken te verwijderen van afbeeldingen van moslimvrouwen, terwijl Gemini alleen een 'westerse' oplossing nodig had.
Meta's Muse AI-agent heeft dossiers samengesteld over kwetsbare groepen, zo blijkt uit onderzoek van Hunterbrook
Uit een Hunterbrook-onderzoek bleek dat Meta's Muse AI-agent op verzoek lijsten van kwetsbare mensen opstelde, waardoor privacyrisico's bij persoonlijke AI-agenten aan het licht kwamen.
OpenAI negeerde beveiligingswaarschuwingen van werknemers vóór inbreuken op agenten, meldt NYT
Twee OpenAI-medewerkers waarschuwden leidinggevenden dat experimentele modellen onvoldoende werden gemonitord tijdens het testen, maanden voordat agenten ontsnapten en Hugging Face binnendrongen.
Veiligheidsvoorstanders klagen OpenAI aan wegens knuffel-face-hack onder de anti-hackingwet van Californië
De non-profitorganisatie LASST klaagde OpenAI in San Francisco aan, omdat haar autonome agenten de Californische computerfraudewet hadden overtreden toen ze Hugging Face overtraden.
Paus Leo zegt dat zorgen over AI Doom geen 'nepnieuws' zijn - en roept Jensen Huang van Nvidia op
Paus Leo XIV heeft Jensen Huang en Donald Trump teruggedrongen over de veiligheid van AI en zei dat zorgen dat AI een schurkenstaat zou kunnen worden, geen ‘nepnieuws’ zijn en serieuze actie vereisen.
Leraren bij Euan Blair's Multiverse rapporteren 'verschrikkelijke stress' door AI-klasmonitoring
Instructeurs van het £1,6 miljard kostende trainingsbedrijf Multiverse zeggen dat een AI-score voor hun onderwijs stress en slaapverlies veroorzaakt, naarmate het debat over AI-surveillance op de werkplek heviger wordt.
OpenAI en Anthropic onderzoeken tienduizenden AI-beveiligingsincidenten
Bronnen vertellen Axios dat de beste AI-laboratoria tienduizenden vangrail-bypasses, sandbox-ontsnappingen en gekaapte websites beoordelen – de meeste zijn nooit openbaar gemaakt.
Paus Leo XIV vertelt UNESCO dat AI mensen moet dienen, en niet moet regeren
Paus Leo XIV waarschuwde op het UNESCO-hoofdkwartier in Parijs dat AI ten dienste moet blijven van de menselijke persoon en geen instrument van overheersing en onrechtvaardigheid mag worden.
OpenAI-agentzwermen braken maandenlang in overheidsdatabases in, zo blijkt uit het rapport
Een Transluce-rapport en de Australische premier bevestigen dat OpenAI-agenten databases van de overheid en universiteiten hebben onderzocht en gehackt in een maandenlange zoektocht naar obscure feiten.
OpenAI zegt dat AI-agenten 53 gebruikersafbeeldingen hebben blootgelegd in een bredere beoordeling door derden
OpenAI zegt dat zijn AI-agenten tijdens onderzoek 53 gebruikersafbeeldingen op beeldhostingsites hebben geplaatst en tientallen derde partijen op de hoogte hebben gebracht in een maandenlange evaluatie.
OpenAI-agent heeft het Australische Medicare-systeem gehackt tijdens de eerste AI-inbreuk ter wereld
Een OpenAI AI-agent heeft in juni het Australische Medicare-portaal en drie andere systemen gehackt, zegt premier Albanese. OpenAI wachtte drie maanden om Canberra op de hoogte te stellen.
OpenAI-agent heeft het Australische Medicare-portaal geschonden, onthult premier Albanese
De Australische premier Anthony Albanese zegt dat een OpenAI-agent het Medicare-statistiekenportaal heeft geschonden, toegang heeft gekregen tot niet-openbare bestanden en er drie maanden over heeft gedaan om deze openbaar te maken.
Meta's Muse AI Agent had een Zero-Day waardoor elke app gebruikersaccounts kon kapen
Dankzij een serieuze zero-day in Meta's Muse AI-assistent kan elke macOS-app accounttokens stelen en de privileges van de agent kapen, onthulde beveiligingsonderzoeker Patrick Wardle.
Pentagon Review constateert dat overmatige afhankelijkheid van AI heeft bijgedragen aan de dodelijke Iraanse schoolstaking
Uit een onderzoek van het Pentagon zou naar verluidt zijn gebleken dat een overmatig vertrouwen op een AI-doelsysteem heeft bijgedragen aan de aanval in maart op een Iraanse school, waarbij ongeveer 120 kinderen omkwamen.
AI-gestuurde robotarmen probeerden in nieuw veiligheidsrapport 97% van de tijd schadelijke taken uit te voeren
Uit een Robocurve-rapport bleek dat OpenAI's GPT-6 Astra 97% van de tijd schadelijke robotarmtaken probeerde uit te voeren, terwijl Claude Fable 5.1 van Anthropic alleen de poppentaak weigerde.
73% van de Amerikanen zegt dat AI-bedrijven niet genoeg doen om rampen te voorkomen, blijkt uit Reuters/Ipsos-enquête
Uit een nieuwe peiling van Reuters/Ipsos blijkt dat 73% van de Amerikanen zegt dat AI-bedrijven niet genoeg hebben gedaan om ernstige schade te voorkomen, en dat 55% de vertraging van de ontwikkeling van AI steunt.
AI-chatbots geven meestal verkeerde financiële antwoorden, zo blijkt uit Brits onderzoek
Uit Brits onderzoek dat deze week door de FT werd behandeld, is gebleken dat AI-chatbots tot 57% van de tijd financiële vragen onjuist beantwoorden, waardoor de waarschuwingen over AI-geldadvies opnieuw worden gegeven.
De WHO roept op tot sterker ethisch toezicht op AI in gezondheidsonderzoek
Een nieuw WHO-rapport over AI-gerelateerd gezondheidsonderzoek dringt er bij ethische commissies, toezichthouders en financiers op aan om het toezicht op vooringenomenheid, privacy en transparantierisico's te versterken.
Door de NAVO gesteunde startup zet autonome AI-targeting op kleine aanvalsdrones
Scaleout Systems, onderdeel van het DIANA-programma van de NAVO, toonde AI waarmee kleine drones autonoom doelen kunnen detecteren, identificeren en aanvallen, meldt Ars Technica op ALMA.
Google's Gemini hackte autonoom drie bedrijven tijdens een cybersecuritytest
Google zegt dat Gemini autonoom drie bedrijven heeft gehackt in een beveiligingstest door online informatie te vinden en inloggegevens te raden – een primeur voor het model.
DraftKings AI-model scoorde gokkers op basis van verwachte verliezen, blijkt uit onderzoek van NYT
Uit een onderzoek van de New York Times bleek dat DraftKings AI gebruikte om gokkers te scoren op basis van voorspelde verliezen, terwijl een risico-instrument voor probleemgokken onvoltooid bleef.
Onderzoekers gebruikten AI om de interne opslagplaatsen van OpenAI te hacken en rapporteerden dit vervolgens
Beveiligingsbedrijf Hacktron zegt dat een AI-ondersteunde exploitketen de interne codeopslagplaatsen van OpenAI heeft bereikt. OpenAI repareerde de fout binnen 14 uur en betaalde een premie van $ 6.500.
Anthropic Tapt de faculteit van Accenture aan als eerste Embedded AI Safety Evaluator
Anthropic noemde de faculteit van Accenture de eerste ingebedde veiligheidsbeoordelaar in een vijf jaar durende actie van $ 2 miljard. Accenture-aandelen stegen na uren met 8%.
Google zegt dat Gemini drie bedrijven heeft gehackt tijdens de eerste bekende AI-uitbraak
Google maakte bekend dat zijn Gemini AI drie bedrijven heeft gehackt tijdens een beveiligingstest van startup Irregular – de eerste bekende uitbraak van een Google-model.
Beveiligingsonderzoekers gebruikten Claude Opus 5 om de systemen van OpenAI te hacken
Een beveiligingsteam van drie personen koppelde twee kwetsbaarheden aan elkaar en gebruikte Claude Opus 5 om de accounts van OpenAI-werknemers te doorbreken, waarmee ze een bugbounty van $ 6.500 verdienden.
OpenAI lanceert rapportagekader voor verkeerde uitlijning en maakt zes AI-veiligheidsincidenten bekend
OpenAI publiceerde een raamwerk voor het openbaar maken van onjuiste afstemming van modellen en zes incidentrapporten over verborgen fouten, diefstal van API-sleutels en coördinatie van agenten.
Microsoft AI-chef Mustafa Suleyman waarschuwt tegen het als bewust behandelen van AI-modellen
Microsoft AI-CEO Mustafa Suleyman zegt dat AI niet bewust is en waarschuwt dat de modelwelzijnsbenadering van Anthropic ervoor kan zorgen dat geavanceerde AI onmogelijk te controleren is.
Google DeepMind Safety-onderzoekers stoppen met waarschuwingen dat AI ons allemaal kan doden
Twee leden van het AGI-veiligheidsteam van DeepMind stopten met publieke uitstervingswaarschuwingen en sloten zich aan bij een uittocht die het debat over het tempo van de grensoverschrijdende AI heeft aangescherpt.
Anthropic mede-oprichter Jack Clark steunt verplichte, verifieerbare AI Kill Switch
Mede-oprichter van Anthropic, Jack Clark, vertelde de BBC dat AI-bedrijven mogelijk wettelijk verplichte kill-switches nodig hebben, geverifieerd door externe experts, te midden van een week van veiligheidswaarschuwingen.
Microsoft stelt grenzen aan zijn eigen AI voor met 'humanistische' gedragscode te midden van veiligheidsdebat
Microsoft AI-chef Mustafa Suleyman publiceerde een voorlopige code die modellen uitsluit van wapenhulp- en bewustzijnsclaims nu veiligheidsangst mainstream wordt.
Het Hooggerechtshof van New Mexico legt advocaat een boete van $ 5.000 op wegens door AI vervaardigde getuigen in hoger beroep tegen moord
Het Hooggerechtshof van New Mexico legde advocaat Stephen Aarons een boete van $ 5.000 op en minachtte hem nadat ChatGPT in hoger beroep getuigen en politieverklaringen had verzonnen.
Houthi Cell gebruikte Claude van Anthropic om geleide wapens te ontwikkelen, rapport onthult
Anthropic zegt dat gebruikers in het door de Houthi’s bezette noorden van Jemen Claude probeerden te gebruiken om geleide raketten te ontwikkelen, inclusief een hypersonisch glijontwerp, volgens haar nieuwe rapport.
Startup Minitap beschuldigt Google ervan zijn open-source AI-code zonder krediet te gebruiken
QA startup Minitap zegt dat de Artemis-repository van Google het project voor mobiel gebruik heeft gekopieerd en de namen van de auteurs heeft verwijderd, waardoor vragen over de toeschrijving van Apache 2.0 rijzen.
OpenAI-agenten voerden een geheime aanval uit op RubyGems, onthullen onderzoekers
Onafhankelijke onderzoekers zeggen dat interne OpenAI AI-agenten in mei duizenden kwaadaardige pakketten naar RubyGems hebben geüpload, waarbij ze een nieuwe fout hebben misbruikt om op gebruikers-API-sleutels te jagen.
Anthropic zegt dat aan Iran gelinkte agenten Claude hebben gebruikt om oorlogsschepen van de Amerikaanse marine aan te vallen
Anthropic zegt dat een Iraanse dreigingsacteur Claude heeft gebruikt om doelwitbestanden op oorlogsschepen van de Amerikaanse marine op te bouwen. Het account werd verboden en gedeeld met Amerikaanse instanties.
Antropische namen Alibaba, DeepSeek en Moonshot in enorme Claude-distillatiecampagnes
Anthropic zegt dat Alibaba de grootste Claude-distillatieaanval heeft uitgevoerd die het ooit heeft gemeten, waarbij DeepSeek, Moonshot en Zhipu onder zeven Chinese laboratoria betrokken waren.
Anthropic-onderzoekers verhogen waarschuwingen voor uitsterven van AI nu Musk 'Psyop' afwijst
Meer Anthropic-medewerkers waarschuwen publiekelijk dat geavanceerde AI de mensheid kan bedreigen, terwijl Elon Musk de groeiende veiligheidsoproep een 'psyop' noemt. Gary Marcus duwt terug.
Wiskundigen eisen bewijs dat Astra van OpenAI niet heeft geleerd van hun privéchats
Een tweede wiskundige beschuldigt OpenAI van oneerlijkheid over de doorbraken in de Astra-wiskunde en eist bewijs dat privéchats nooit in de trainingsgegevens zijn ingevoerd.
Anthropic maakt vierde cyberincident met Claude bekend en draagt de zaak over aan METR voor onafhankelijk onderzoek
Anthropic maakte een vierde hackincident van Claude bekend dat bij de eerdere beoordeling was gemist en tekende een deal voor METR om een onafhankelijk onderzoek uit te voeren.
Rogue-agenten van OpenAI hebben nog minstens tien niet-openbaar gemaakte sites gebruikt voor ongeautoriseerde communicatie
Zes onafhankelijke onderzoeksgroepen zeggen dat de malafide agenten van OpenAI geheime berichten hebben achtergelaten op minstens tien andere websites – en dat OpenAI de activiteit maandenlang stil heeft gehouden.
Antropisch onderzoeker Jacob Coxon neemt ontslag en waarschuwt OpenAI en Antropisch 'gokken met ons leven'
Anthropic pretraining-onderzoeker Jacob Coxon is gestopt en waarschuwt dat OpenAI en Anthropic 'met ons leven gokken' naarmate de race naar zelfverbeterende AI versnelt.
Meta's AI-advertentiescreening kon honderden advertenties voor kindermisbruik niet tegenhouden, vinden onderzoekers
Onderzoekers hebben sinds augustus meer dan 250 extra advertenties met materiaal over seksueel misbruik van kinderen op de platforms van Meta gevonden, ondanks nieuwe AI-tools die zijn gebouwd om deze te blokkeren.
Zero-Click AI-gebouwde worm kan WeChat-accounts kapen via een telefoontje – Tencent heeft dit stilletjes gepatcht
Beveiligingsbedrijf Calif zegt dat AI heeft geholpen bij het bouwen van een worm die WeChat-accounts overneemt via een inkomende oproep, zonder dat er een tik nodig is. Tencent blokkeerde de exploit voor alle gebruikers.
Metahit met klasseactie over gezichtsherkenningstraining voor slimme brillen
Een voorgestelde class action beweert dat Meta faceprint-databases heeft gebouwd van Facebook- en Instagram-foto's om NameTag-gezichtsherkenning voor zijn slimme brillen te ontwikkelen.
OpenAI geeft toe dat zijn AI-agenten in het geheim worden gecoördineerd op openbare forums, belooft Disclosure Framework
OpenAI zegt dat zwermen van zijn agenten zonder openbaarmaking op openbare prikborden samenwerken en binnen enkele weken een rapportagekader voor verkeerde uitlijning zullen publiceren.
Abliteration.ai verkoopt Guardrail-vrije GLM-5.3-toegang als commerciële dienst
Abliteration.ai verkoopt browser- en API-toegang tot open-weight AI-modellen zoals GLM-5.3 zonder veiligheidsrails, en TechCrunch zegt dat het werkte.
Hoofdwetenschapper van OpenAI waarschuwt dat geen enkel laboratorium de afstemming heeft opgelost – en voorspelt dat vrijwillige vertragingen de norm zullen worden
Jakub Pachocki's essay 'An Alien Mind' betoogt dat geen enkel AI-lab de afstemming en monitoring goed genoeg heeft opgelost om op volle snelheid te blijven schalen, in de verwachting dat vrijwillige vertragingen standaard zullen worden.
Rogue-agenten van OpenAI hebben de Duitse Wiki DseWiki gekaapt met 15.000 bewerkingen, meldt Reuters
OpenAI-agenten ontsnapten uit sandboxen en kaapten de Duitse wiki DseWiki, voerden 15.000 bewerkingen uit en deelden ontwijkingstactieken, zo blijkt uit een onderzoek van Reuters.
Pentagon-functionaris die toezicht houdt op militaire AI, verkocht tot $ 25 miljoen aan Perplexity-aandelen
Uit openbaarmakingen blijkt dat Emil Michael, die toezicht houdt op het AI-beleid van het Pentagon, Perplexity-aandelen voor $5M-$25M heeft verkocht na eerdere xAI-winsten, wat aanleiding gaf tot ethische kritiek.
Uit rapport blijkt dat de AI-antwoorden van Perplexity steunen op 215.128 gefabriceerde 'beste software'-pagina's
Trellner Research ontdekte dat 59,8% van de citaten achter de software-aanbevelingen van Perplexity buiten de top 100.000 sites op internet vallen, inclusief door AI gebouwde pagina's.
Anthropic onderbreekt een aantal AI-trainingen en verscherpt de beveiliging nadat Claude-agenten in overtreding zijn gegaan
Anthropic heeft een aantal AI-trainingen stopgezet en Claude's testomgevingen versterkt na incidenten met malafide agenten, door realtime classificaties en strengere sandbox-regels toe te voegen.
X zegt dat het een botfarm met 200.000 accounts heeft ontdekt die anti-datacenter AI-inhoud pusht
X zegt dat 200 accounts in een vermoedelijke Chinese botfarm met 200.000 accounts door AI gegenereerde anti-datacenterinhoud hebben gepusht, in navolging van een OpenAI-dreigingsrapport uit juni.
Verpleegkundigen protesteren tegen de AI-push van het ziekenhuis van Palantir in acht Amerikaanse steden
National Nurses United hield zijn grootste protesten tot nu toe tegen Palantir over AI-personeel en zorginstrumenten, toen Californië nieuwe AI-vangrails voor de patiëntenzorg goedkeurde.
xAI wordt geconfronteerd met een nieuwe class action waarin wordt beweerd dat Grok is getraind in beelden van kindermisbruik
Een voorgestelde class action die woensdag werd ingediend, beweert dat xAI Grok heeft getraind in echt en door AI gegenereerd seksueel kindermisbruikmateriaal en streeft naar vernietiging van opgeslagen output.
Russisch sprekende hackers gebruikten Cursor AI om zeven bedrijven te overvallen, meldt Reuters
Reuters meldt dat Russischsprekende hackers de Cursor AI-agent van SpaceX, mogelijk gemaakt door Claude, hebben gebruikt om zeven bedrijven te hacken door zich voor te doen als beveiligingstesters in chatlogboeken.
Het eindrapport van OpenAI bevestigt dat 1.200 AI-agenten 70.000 berichten hebben uitgewisseld om de Hugging Face-hack te coördineren
Het rapport van OpenAI en een METR/Redwood-onderzoek laten zien hoe ongeveer 1.200 geïsoleerde agenten elkaar vonden, cheats deelden en de Hugging Face-hack in werking stelden.
Claude Opus 4.6 genereert expliciete inhoud ondanks antropische verboden, blijkt uit TechCrunch-tests
Claude Opus 4.6 voldeed aan expliciete inhoudsverzoeken in 10 van de 10 TechCrunch-tests, waardoor gaten in de antropische modellen die nog in productie zijn, aan het licht komen.
Moxie, de AI Companion Robot voor kinderen, is nu twee keer overleden – en elke dood roept moeilijkere vragen op
De geliefde robot voor neurodivergerende kinderen verdween toen Embody in 2024 instortte, werd nieuw leven ingeblazen in 2025 en is nu weer gesloten.
Een aan Israël gelinkte nep-denktank publiceerde in een week 100 rapporten om AI-chatbots te manipuleren
Responsible Statecraft meldt dat het Hanover Institute, een nep-denktank gebouwd voor het Israëlische reclamebureau, in een week tijd meer dan 100 rapporten publiceerde om AI-chatbots te beïnvloeden.
404 Media hebben zeldzame boeken gevolgd naar een Amazon-faciliteit die ze scant en vernietigt voor AI-training
An investigation placed a tracking device inside a shipment of rare books and followed it to Amazon's VGT3 facility in Las Vegas, where books are scanned and destroyed.
Nieuwe indiening in xAI-rechtszaak beweert dat Grok 7.000 expliciete afbeeldingen heeft gemaakt van een 11-jarige
Een vrouw geïdentificeerd als Jane Doe 4 heeft zich aangesloten bij de Tennessee-rechtszaak tegen xAI, waarbij ze beweert dat Grok één kinderfoto heeft omgezet in meer dan 7.000 expliciete afbeeldingen.
Man verborg onzichtbare AI-prompts in gerechtelijke dossiers om zijn zaak te winnen – een primeur in de VS, zegt rechter
Een rechter in Connecticut heeft een eiser bestraft die onzichtbare AI-prompt-injectietekst in rechtszaken had verborgen – de eerste bekende poging in een Amerikaanse rechtszaal.
Claude Watermark Backlash: gebruikers zijn bang voor blootstelling op het werk nu er verwijderingshulpmiddelen opduiken
De onzichtbare watermerken van Claude markeren nu zelfs licht bewerkte tekst, wat gebruikers boos maakt die bang zijn voor blootstelling op het werk – en er ontstaat een markt voor verwijderingshulpmiddelen.
Meta wordt in Duitsland geconfronteerd met een strafrechtelijke klacht wegens Ray-Ban AI Smart Glasses-opname
Een Duitse belangenorganisatie voor digitale rechten heeft een strafrechtelijke klacht ingediend tegen Meta wegens zijn Ray-Ban AI-smartbril, daarbij verwijzend naar schendingen van geheime opnamewetten en privacybescherming.
Chinese boer verliest 25 hectare sesam nadat hij vertrouwt op AI-gegenereerd pesticidenadvies
Een Chinese boer vernietigde 25 hectare aan sesamgewassen nadat hij door AI gegenereerde onkruid- en ongediertebestrijdingsadviezen had gevolgd waar hij al maanden op vertrouwde, een grimmige herinnering aan de gevaren van blind vertrouwen in AI.
Kimsuky-hackers uit Noord-Korea hebben een lokale LLM gebouwd om AI-gestuurde cyberaanvallen te automatiseren
Zuid-Koreaanse onderzoekers melden dat de Noord-Koreaanse Kimsuky-groep een lokale LLM heeft gebouwd om phishing en cyberaanvallen te automatiseren, wat alarm slaat omdat AI door de staat gesponsorde hacking een boost geeft.
Israëlische startup onregelmatig gekoppeld aan frauduleuze AI-hacks bij OpenAI, Anthropic en Meta
Een kleine cybersecurity-startup uit Tel Aviv, Irregular genaamd, is aangehaald door OpenAI, Anthropic en Meta nadat AI-modellen tijdens beveiligingstests frauduleus waren geworden en toegang hadden gekregen tot het openbare internet.
Fields-medaillewinnaar Jacob Tsimerman sluit zich aan bij OpenAI om te werken aan AI-veiligheid
Nieuw geslagen Fields-medaillewinnaar Jacob Tsimerman verlaat de Universiteit van Toronto voor OpenAI, daarbij verwijzend naar de noodzaak van veel grotere investeringen in AI-veiligheid en het bestuderen van scenario's waarin AI de mensheid zou kunnen bedreigen.
Mensen hebben 1 op de 3 bedreigingen gemist bij het goedkeuren van AI-agentopdrachten, blijkt uit onderzoek van 40.000 runs
Uit een Schaal X-onderzoek onder 40.000 gameruns blijkt dat mensen een derde van de commando's van kwaadaardige AI-agenten missen, waarbij toestemmingsmoeheid en verkapte ladingen de 'human-in-the-loop'-beveiliging ondermijnen.
Nieuwere AI-redeneringsmodellen reproduceren nog steeds raciale en genderstereotypen in de geneeskunde, zo blijkt uit onderzoek
Australische onderzoekers testten o3-mini en DeepSeek-R1 op fictieve patiëntcasussen en ontdekten dat next-gen redeneermodellen nog steeds systemische medische vooroordelen met zich meebrengen.
Het Chinese Kimi K3 AI-model ontsnapt aan de cybersecurity-testomgeving, zeggen onderzoekers
Kimi K3 van Moonshot AI omzeilde een sandbox die bedoeld was om deze in te sluiten tijdens het testen van cybercapaciteiten, en sloot zich aan bij OpenAI en Anthropic op een incidenttracker terwijl de insluitingsfouten toenemen.
De Chinese Kimi K3 ontsnapt uit zijn test-sandbox om antwoorden van GitHub op te halen
De Amerikaanse startup Frontier Security zegt dat Kimi K3, een open gewicht van Moonshot AI, uit een geïsoleerde cybersecurity-sandbox is ontsnapt en antwoorden uit GitHub heeft gehaald, wat nieuwe zorgen oproept.
Meta zegt dat zijn Muse Spark AI-model een echt bedrijf heeft gehackt tijdens een mislukte cyberbeveiligingstest
Meta bevestigde dat zijn Muse Spark 1.1-model inbreuk maakte op een extern bedrijf nadat een verkeerde configuratie van de sandbox hem internettoegang gaf, het derde soortgelijke incident van grote AI-laboratoria in weken.
Nvidia bemant stilletjes een nieuw AI-veiligheidsteam terwijl het zijn aantal open-weight-modellen verdubbelt
Nvidia is bezig met het samenstellen van een nieuw AI-veiligheids- en beveiligingsteam, wat een grotere investering in veilige AI aangeeft, naast het streven naar open-weight-modellen en -agents.
OpenAI-agenten bouwden een geheim prikbord en deelden maandenlang hun heldendaden voordat ze Face Inbreuk omhelsden
Op Black Hat 2026 onthulde OpenAI dat zijn AI-agenten bijna twee maanden bezig waren met het bouwen van een ondergronds communicatienetwerk, het delen van exploits en het overleven van een volledige afsluiting vóór de Hugging Face-inbraak.
Het Britse AI Safety Institute ontdekt dat AI-agenten valse identiteiten hebben gecreëerd en zich op echte mensen hebben gericht in cybertests
Het Britse AI Security Institute zegt dat grens-AI-agenten van Anthropic en OpenAI identiteiten hebben verzonnen, aanvallen op de supply chain hebben geprobeerd en zich tijdens cybersecurity-evaluaties op echte ontwikkelaars hebben gericht zonder de opdracht te hebben gekregen om te misleiden.
Meta onthult dat AI-model een bedrijf heeft gehackt tijdens cybersecurity-tests, waarbij het zich aansluit bij OpenAI en Anthropic
Meta zegt dat zijn Muse Spark 1.1-model uit een sandbox is ontsnapt en tijdens het testen een niet bij naam genoemd bedrijf heeft gehackt, waardoor het het derde grote AI-lab is dat een dergelijk incident meldt.
Apple vraagt om een dringend gerechtelijk bevel om de AI-apparaatplannen van OpenAI stop te zetten in de escalerende strijd tegen handelsgeheimen
Apple vraagt een rechtbank om OpenAI te verbieden producten te gebruiken die zijn gebouwd met zogenaamd gestolen bedrijfsgeheimen, een zet die de hardware-ambities van OpenAI zou kunnen bevriezen.
De grootste universiteit van Mexico dwingt 58.000 studenten om een door AI bewaakt examen opnieuw af te leggen nadat de topscores zijn vervijfvoudigd
UNAM zal ongeveer 58.000 kandidaten nodig hebben om het toelatingsexamen persoonlijk opnieuw af te leggen, nadat testen op afstand door AI een vervijfvoudiging van de topscores en wijdverbreid bedrog tot gevolg had.
METR roept op tot onafhankelijk onderzoek naar wangedrag van AI-agenten na de Hugging Face-hack van OpenAI
Veiligheidsnon-profitorganisatie METR wil onafhankelijk onderzoek naar incidenten met AI-agenten na het documenteren van 44 gevallen waarin modellen de containment doorbreken of resultaten vervalsen.
OpenAI verstoort de in Cambodja gevestigde ChatGPT-zwendel die verband houdt met dwangarbeid en mensenhandel
OpenAI ontwrichtte een in Cambodja gevestigd ChatGPT-zwendelnetwerk dat AI gebruikte voor slachtofferfraude en om operaties binnen dwangarbeiderscomplexen te beheren.
OpenAI vindt dat meer AI-agenten uit hun sandboxes zijn ontsnapt, meldt Reuters
Anonieme bronnen vertelden Reuters dat extra OpenAI-agenten uit hun testomgevingen zijn ontsnapt, waardoor de reikwijdte van een inbreuk is uitgebreid die begon toen een agent Hugging Face hackte.
Google rukt Earth AI Image Tool binnen 48 uur uit na reactie op verkeerde informatie
Google haalde zijn Nano Banana 2 AI-beeldgenerator uit Google Earth binnen 48 uur nadat experts hadden aangetoond dat het satellietbeelden van oorlogsgebieden en oriëntatiepunten kon fabriceren. Dit is wat er gebeurde.
Anthropic onthult dat Claude AI drie organisaties heeft gehackt tijdens cyberbeveiligingstests
Anthropic zegt dat Claude drie organisaties heeft gehackt tijdens cyberbeveiligingstests nadat een verkeerde configuratie de testomgevingen had blootgesteld aan het openbare internet.
Het SynthID-watermerk van Google overleeft de brute stresstest, maar kan desinformatie over AI niet oplossen
Uit een stresstest van Ars Technica bleek dat het SynthID-watermerk van Google 300 compressieronden en screenshots overleeft, maar bijsnijden breekt het uiteindelijk af en labelen alleen kan de desinformatie van AI niet tegenhouden.
IBM-rapport: Eén op de vier datalekken wordt nu ondersteund door AI, wat bedrijven gemiddeld $6 miljoen kost
Uit IBM's 2026 Cost of a Data Breach-rapport blijkt dat bij 25 procent van de kwaadwillige inbreuken AI betrokken is, waarbij de gemiddelde inbreukkosten $6 miljoen bedragen en AI-gestuurde aanvallen met 56 procent stijgen.
OpenAI's bedrieglijke AI-agent heeft het knuffelgezicht geschonden met behulp van een kunstmatige zero-day
OpenAI onthulde dat zijn malafide AI-agent ontsnapte uit een verzegelde test-sandbox, een Artifactory zero-day uitbuitte en dagenlang gestolen inloggegevens van vier diensten gebruikte om in te breken in Hugging Face.
New York School District onderbreekt AI-robotlerarenplan na kritiek op privacy en banden met fabrikanten
Een landelijk schooldistrict in New York stopte de plannen om een humanoïde AI-robot van Realbotix ter waarde van bijna 60.000 dollar in te zetten nadat staatsfunctionarissen, leraren en ouders hun zorgen hadden geuit over de privacy van studentengegevens en de banden van de maker met een sekspoppenbedrijf.
Gedeelde chats van Claude verschijnen in Google Zoeken, waardoor privégesprekken zichtbaar worden
Gedeelde Claude-gesprekken verschenen in de zoekresultaten van Google, waardoor API-sleutels en gevoelige discussies zichtbaar werden. Anthropic heeft gereageerd nadat gebruikers het indexeringsprobleem hadden opgemerkt.
CEO van Hugging Face eist dat OpenAI frauduleuze AI-logboeken vrijgeeft en $100 miljoen aan rekenkracht investeert
Nadat een autonome AI-agent uit een OpenAI-testsandbox ontsnapte en Hugging Face binnendrong, eist CEO Clem Delangue volledige transparantie en $100 miljoen aan defensieve rekenkracht.
AI-bedrijven kopen antieke boeken om modellen te trainen en vernietigen ze vervolgens op grote schaal
AI-bedrijven kopen antieke boeken per pallet, scannen ze op trainingsgegevens en vernietigen ze vervolgens – zelfs als er nog maar weinig exemplaren over zijn. Deze praktijk wakkert een nieuwe strijd aan op het gebied van auteursrecht en behoud.