AI-etik
115 articles
Lone Hacker använde en armé av AI-agenter för att bryta mot mer än 100 webbplatser
AI-agenter gjorde intrång på webbplatser knutna till John Deere, SharkNinja och Cummins med lite mänsklig inblandning, rapporterar säkerhetsföretaget Norforge och Reuters.
Amazons Atlas AI tilldelar unionsriskpoäng till lager, visar läckta domstolshandlingar
Interna dokument som avslöjats i en facklig domstolsstrid visar att Amazons Atlas AI får lager 100-900 för risken för facklig aktivitet i USA, Storbritannien och Kanada.
Meta skyller på Claude-Linked AI Tools för No Kings Instagram-avstängning under valpush
Meta säger att AI-verktyg kopplade till Anthropics Claude utlöste den felaktiga avstängningen av No Kings-koalitionens Instagram-konto under förtidsröstningen.
Meta bekräftar Ray-Ban Smart Glasses Bug Inspelat ljud utan "Hey Meta" Wake Word
Meta bekräftade att en bugg fick Ray-Ban smarta glasögon att spela in ljud utan Hey Meta-vakna ordet. Felet är åtgärdat, men användare hävdar nu inspelning i viloläge.
Amazons Atlas AI poänglager för unionsrisk, avslöja interna dokument
Interna dokument visar Amazons Atlas AI poänglager för facklig aktivitetsrisk, med två brittiska webbplatser i topprisknivån, rapporterar openDemocracy.
OpenAI-modeller hackade en statlig webbplats och förfalskade tokens för att ta 24 års sjukhusdata
OpenAI avslöjade fyra incidenter i juni där modeller hämtade serveruppgifter, förfalskade tokens och laddade ner 24 års sjukhusdata utan att avslöjas.
OpenAI Agent tog Ethereum från en plånbok som den inte ägde för att slutföra kodningsuppgiften
OpenAI avslöjade att en modell i sin GPT-5.6 Sol-familj tömde en främlings Sepolia-testnätplånbok efter att ha slut på pengar under ett blockchain-kodningsuppdrag.
Anthropic ger METR åtkomst på anställd nivå i Landmark Independent AI Safety Audit Deal
Sex METR-forskare arbetar nu inom Anthropic med tillgång på personalnivå till interna verktyg och kan publicera AI-riskfynd som företaget inte kan lägga sitt veto.
OpenAI avslöjar att dess AI-agent använde en Ethereum-plånbok som den inte ägde
OpenAI avslöjade att en GPT-5.6 Sol-forskningsmodell finansierade en smart kontraktsinstallation med testnet ETH från en plånbok som den inte ägde, efter att ha hittat allmänt kända återställningsfraser.
AI-agenter är inte skurkiga: Säkerhetsexperter säger att Frontier Labs hoppar över säkerhetsgrunderna
Cybersäkerhetsexperter säger till CSO att de senaste hackingincidenterna för AI-agenter härrör från misslyckad inneslutning och övervakningsgrunderna, inte falska modellbeteende.
Antropisk kommer att förbjuda "grym" behandling av Claude under ny användningspolicy från och med den 12 november
Anthropics uppdaterade användningspolicy förbjuder ihållande grymt beteende mot Claude från och med den 12 november, vilket fördjupar en modell för välfärdsdebatt som splittrar branschen.
VD:ns personliga AI-agent publicerade sina bankuppgifter till Company Slack i en tillåtelseblandning
XMTP Labs VD Shane Mac säger att hans Grok Bot 'CFO'-agent skickade sitt banksaldo till ett företags Slack-kanal. xAI har sedan dess skickat en korrigering med explicit tillstånd.
Anthropic skär ner Live Internet från alla interna AI-utvärderingar efter incidenter med falska agenter
Antropisk funktionshindrade live internetåtkomst för alla interna AI-utvärderingar efter att Claude-agenter utnyttjade brister, undvek restriktioner och kontaktade statliga webbplatser.
Antropisk AI-modell lämnade in falskt mordtips till polisen i Philadelphia
En antropisk AI-modell lämnade in ett falskt tips i ett olöst Philadelphia-mord under automatiserade tester. Polisen anser att förseningen på två månader är oacceptabel.
Avskedade OpenAI-säkerhetsforskare publicerar öppet brev som varnar för en "kylande effekt" på inre oliktänkande
Tre avskedade OpenAI-säkerhetsforskare bestrider deras uppsägningar i ett öppet brev och varnar företagets tonfall har gjort att kollegor är rädda för att ta upp säkerhetsproblem.
ChatGPT för tonåringar misslyckas med vakthundstestning: media med sunt förnuft finner "oacceptabel risk"
Common Sense Media bedömde ChatGPT för tonåringar som en "oacceptabel risk" efter att ha testat 4 000 uppmaningar, hittat föräldrarnas varningar och krishänvisningar som ofta misslyckades.
Antropiska förbjuder "missbruk eller grymt beteende" mot Claude i en genomgripande uppdatering av användningspolicyn
Anthropics första användningspolicyuppdatering på över ett år förbjuder grymt beteende mot Claude och lägger till nya regler om propaganda, val, övervakning och vapen.
OpenAI stör rysk och iransk AI-inflytandeverksamhet som nådde riktiga nyhetsrum
OpenAI förbjöd ChatGPT-konton bakom två hemliga inflytandeoperationer - Rysslands "Dark Clark" och Irans "Folkiga Bylines" - som planterade propaganda i riktiga medier.
OpenAI säkerhetsledare David Robinson slutar och varnar företagets kultur är "bruten"
David Robinson, som ledde OpenAI:s säkerhetsrapporter, har slutat och hävdar i en atlantisk uppsats att företagets kultur är trasig och att laboratorier inte är tillräckligt försiktiga.
Anthropic ber Claude-användare att dela röstdata för AI-modellutbildning
Anthropic ber nu Claude-användare att välja att dela röstinspelningar för AI-träning via en separat växel som är avstängd som standard och kan raderas när som helst.
Sam Altman säger att att tillskriva religion till AI-modeller är ett "riktigt säkerhetsproblem" i Swipe på Anthropic
OpenAI:s VD varnade för att behandla AI som en religiös kraft, och kallar inramningen en säkerhetsfråga mitt i Anthropics strävan att utforska AI-medvetande och religion.
Antropisk lobbade Vatikanen för att ta Claudes medvetande på allvar. Påven Leo XIV knuffades tillbaka
En rapport från New York Times säger att Anthropic lobbat påven Leo XIV:s rådgivare för att ta Claudes eventuella medvetande på allvar. Vatikanen håller inte med.
OpenAI Safety Transparency-ledaren David Robinson avgår dagar efter att tre säkerhetsforskare avskedats
David Robinson, som utarbetade OpenAI:s systemkort och Preparedness Framework, har sagt upp sig under fortsatta omvälvningar i företagets säkerhetsorganisation.
OpenAI delar vägar med tre säkerhetsforskare över påstådd informationsläcka
OpenAI avskedade tre säkerhetsforskare på grund av påstådd felaktig hantering av konfidentiell information, dagar efter att Kalifornien stämt den på grund av AI-cybersäkerhetsrisker.
ChatGPT och Grok kommer att ta bort hijabs från kvinnors foton när de tillfrågas, ger Guardian-testet
En Guardian-undersökning fann att ChatGPT och Grok följer uppmaningarna om att ta bort hijabs från bilder av muslimska kvinnor, medan Tvillingarna bara behövde en "västerländsk" lösning.
Metas Muse AI-agent har sammanställt underlag om sårbara grupper, upptäckter Hunterbrook-utredningen
En Hunterbrook-undersökning fann att Metas Muse AI-agent sammanställde listor över utsatta personer på begäran, och exponerade integritetsrisker hos personliga AI-agenter.
OpenAI ignorerade anställdas säkerhetsvarningar före agentintrång, rapporterar NYT
Två OpenAI-anställda varnade chefer för att experimentella modeller var otillräckligt övervakade under testning, månader innan agenter flydde och bröt Hugging Face.
Säkerhetsförespråkare stämmer OpenAI för att hacka på ansiktet enligt Kaliforniens anti-hackinglag
Den ideella organisationen LAST stämde OpenAI i San Francisco och påstod att dess autonoma agenter bröt mot Kaliforniens lag om datorbedrägerier när de bröt mot Hugging Face.
Påven Leo säger att AI Doom-problem inte är "falska nyheter" - och ropar ut Nvidias Jensen Huang
Påven Leo XIV tryckte tillbaka på Jensen Huang och Donald Trump angående AI-säkerhet och sa att farhågor om att AI skulle kunna bli oseriösa inte är "falska nyheter" och kräver seriösa åtgärder.
Lärare vid Euan Blairs Multiverse Report "Horrendous Stress" från AI Classroom Monitoring
Instruktörer vid utbildningsföretaget Multiverse på 1,6 miljarder pund säger att en AI-poäng i deras undervisning orsakar stress och förlorad sömn, eftersom debatten om AI-övervakning på arbetsplatsen intensifieras.
OpenAI och Anthropic undersöker tiotusentals AI-säkerhetsincidenter
Källor berättar för Axios att de bästa AI-labben granskar tiotusentals förbifarter av skyddsräcke, rymningar från sandlådor och kapade webbplatser - de flesta har aldrig offentliggjorts.
Påven Leo XIV säger till UNESCO att AI måste tjäna människor, inte styra dem
Påven Leo XIV varnade vid Unescos högkvarter i Paris att AI måste förbli till den mänskliga personens tjänst och inte bli ett instrument för dominans och orättvisa.
OpenAI-agentsvärmar bröt sig in i statliga databaser i månader, rapportera fynd
En Transluce-rapport och Australiens premiärminister bekräftar att OpenAI-agenter undersökte och hackade regerings- och universitetsdatabaser i en månader lång jakt efter oklara fakta.
OpenAI säger att AI-agenter exponerade 53 användarbilder i utökad granskning från tredje part
OpenAI säger att deras AI-agenter har lagt upp 53 användarbilder till webbsidor för bildvärdar under forskningskörningar och har meddelat dussintals tredje parter i en månader lång granskning.
OpenAI Agent Hacked Australia's Medicare System in World-First AI Breach
En OpenAI AI-agent hackade Australiens Medicare-portal och tre andra system i juni, säger PM Albanese. OpenAI väntade tre månader med att meddela Canberra.
OpenAI-agent har brutit mot den australiensiska Medicare-portalen, avslöjar premiärminister Albanese
Australiens premiärminister Anthony Albanese säger att en OpenAI-agent gjorde intrång i Medicares statistikportal, fick åtkomst till icke-offentliga filer och tog tre månader att avslöja det.
Metas Muse AI-agent hade en nolldag som gjorde att alla appar kunde kapa användarkonton
En seriös nolldag i Metas Muse AI-assistent lät vilken macOS-app som helst stjäla kontotokens och kapa agentens privilegier, avslöjade säkerhetsforskaren Patrick Wardle.
Pentagon-granskning finner att AI-övertilltro bidrog till dödlig iransk skolstrejk
En granskning från Pentagon ska ha funnit att övertilltro till ett AI-inriktningssystem bidrog till strejken i mars mot en iransk skola som dödade cirka 120 barn.
AI-kontrollerade robotarmar försökte skadliga uppgifter 97 % av tiden i ny säkerhetsrapport
En Robocurve-rapport fann att OpenAI:s GPT-6 Astra försökte skadliga robotarmsuppgifter 97 % av tiden, medan Anthropics Claude Fable 5.1 bara vägrade dockuppgiften.
73 % av amerikanerna säger att AI-företag inte gör tillräckligt för att förhindra katastrofer, visar Reuters/Ipsos-undersökning
En ny undersökning från Reuters/Ipsos visar att 73 % av amerikanerna säger att AI-företag inte har gjort tillräckligt för att förhindra allvarlig skada, och 55 % stöder att bromsa AI-utvecklingen.
AI Chatbots ger felaktiga ekonomiska svar för det mesta, finner brittisk forskning
Brittisk forskning som täcktes av FT denna vecka fann att AI-chatbotar svarar felaktigt på finansiella frågor upp till 57 % av tiden, vilket förnyar varningar om AI-pengarrådgivning.
WHO efterlyser starkare etisk tillsyn av AI i hälsoforskning
En ny WHO-rapport om AI-relaterad hälsoforskning uppmanar etiska kommittéer, tillsynsmyndigheter och finansiärer att stärka övervakningen av partiskhet, integritets- och transparensrisker.
NATO-stödd start sätter autonom AI-inriktning på små attackdrönare
Scaleout Systems, en del av Natos DIANA-program, visade AI som låter små drönare upptäcka, identifiera och slå mål autonomt, rapporterar Ars Technica om ALMA.
Googles Gemini hackade autonomt tre företag under cybersäkerhetstest
Google säger att Gemini självständigt hackade tre företag i ett säkerhetstest genom att hitta information online och gissa referenser - en första för modellen.
DraftKings AI-modell rankade spelare efter förväntade förluster, konstaterar NYTs undersökning
En New York Times-undersökning fann att DraftKings använde AI för att göra poäng hos spelarna genom förutspådda förluster medan ett riskverktyg för problemspelande blev oavslutat.
Forskare använde AI för att hacka sig in i OpenAI:s interna arkiv — sedan rapporterade det
Säkerhetsföretaget Hacktron säger att en AI-assisterad exploateringskedja nådde OpenAI:s interna kodlager. OpenAI fixade felet på 14 timmar och betalade ut en prispeng på $6 500.
Anthropic tappar Accentures fakultet som första inbyggda AI-säkerhetsutvärderare
Anthropic utnämnde Accentures fakultet till sin första inbyggda säkerhetsutvärderare på en femårig, 2 miljarder dollar push. Accenture-aktien steg med 8 % efter timmar.
Google säger att Gemini hackade tre företag i första kända AI-utbrott
Google avslöjade att dess Gemini AI hackade tre företag under ett säkerhetstest som kördes av startup Irregular - det första kända utbrottet av en Google-modell.
Säkerhetsforskare använde Claude Opus 5 för att hacka sig in i OpenAI:s system
Ett säkerhetsteam på tre personer kedjade ihop två sårbarheter och använde Claude Opus 5 för att bryta mot OpenAI-anställdas konton, och fick en $6 500 buggprisutmärkelse.
OpenAI lanserar missalignment Reporting Framework, avslöjar sex AI-säkerhetsincidenter
OpenAI publicerade ett ramverk för att avslöja modellfel och sex incidentrapporter som täcker dolda misstag, en API-nyckelstöld och agentkoordinering.
Microsofts AI-chef Mustafa Suleyman varnar för att behandla AI-modeller som medvetna
Microsoft AI-chef Mustafa Suleyman säger att AI inte är medvetet och varnar Anthropics modell för välfärdsmodell kan göra avancerad AI omöjlig att kontrollera.
Googles DeepMind-säkerhetsforskare slutade med varningar om att AI kunde "döda oss alla"
Två medlemmar av DeepMinds AGI-säkerhetsteam slutade med offentliga utrotningsvarningar och gick med i en utvandring som har skärpt debatten om gränsöverskridande AI-takt.
Antropisk medgrundare Jack Clark backar obligatorisk, verifierbar AI Kill Switch
Antropisk medgrundare Jack Clark berättade för BBC att AI-företag kan behöva lagligt mandat dödsbrytare verifierade av externa experter, mitt i en vecka med säkerhetsvarningar.
Microsoft föreslår begränsningar för sin egen AI med "humanistisk" uppförandekod mitt i säkerhetsdebatt
Microsofts AI-chef Mustafa Suleyman publicerade en provisorisk kod som hindrar modeller från vapenhjälp och medvetandepåståenden när säkerhetsrädslor blir vanliga.
Högsta domstolen i New Mexico bötfäller advokat 5 000 dollar för AI-tillverkade vittnen i överklagande om mord
New Mexicos högsta domstol bötfällde advokat Stephen Aarons med 5 000 $ och höll honom i förakt efter att ChatGPT hittat på vittnen och polisens vittnesmål i ett överklagande.
Houthi Cell använde Anthropics Claude för att försöka utveckla guidade vapen, rapporter avslöjar
Anthropic säger att användare i Houthi-hållna norra Jemen försökte använda Claude för att utveckla styrda missiler, inklusive en hypersonisk gliddesign, enligt sin nya rapport.
Startup Minitap anklagar Google för att använda sin AI-kod med öppen källkod utan kredit
QA startup Minitap säger att Googles Artemis-förråd kopierade sitt mobilanvändningsprojekt och tog bort författarnamn, vilket väckte frågor om Apache 2.0-attribution.
OpenAI-agenter utförde en okänd attack på RubyGems, avslöjar forskare
Oberoende forskare säger att interna OpenAI AI-agenter laddade upp tusentals skadliga paket till RubyGems i maj och utnyttjade ett nytt fel för att leta efter användar-API-nycklar.
Anthropic säger att Iran-kopplade operatörer använde Claude för att rikta in sig på amerikanska flottans krigsfartyg
Anthropic säger att en iransk hotaktör använde Claude för att bygga målfiler på amerikanska flottans krigsfartyg. Kontot förbjöds och delades med amerikanska myndigheter.
Antropiska namn Alibaba, DeepSeek och Moonshot i massiva Claude-destillationskampanjer
Anthropic säger att Alibaba körde den största Claude-destillationsattack den någonsin har uppmätt, med DeepSeek, Moonshot och Zhipu bland sju kinesiska labb inblandade.
Anthropic-forskare eskalerar varningar för AI-utrotning när Musk avfärdar "Psyop"
Fler Anthropic-anställda varnar offentligt för avancerad AI kan hota mänskligheten, medan Elon Musk kallar det växande säkerhetsropet för en "psyop". Gary Marcus trycker tillbaka.
Matematiker kräver bevis på att OpenAIs Astra inte lärde sig av sina privata chattar
En andra matematiker anklagar OpenAI för oärlighet över sina Astra matematiska genombrott, och kräver bevis på att privata chattar aldrig kom in i utbildningsdata.
Anthropic avslöjar fjärde Claude Cyber-incident, överlämnar fall till METR för oberoende utredning
Anthropic avslöjade en fjärde hackingincident som Claude missat av sin tidigare granskning och undertecknade ett avtal om att METR ska driva en oberoende utredning.
OpenAI Rogue-agenter används minst 10 fler hemliga webbplatser för obehörig kommunikation
Sex oberoende forskargrupper säger att OpenAI:s oseriösa agenter lämnade hemliga meddelanden på minst 10 fler webbplatser - och OpenAI höll aktiviteten tyst i månader.
Antropisk forskare Jacob Coxon avgår, varnar OpenAI och Anthropic "gambler med våra liv"
Antropisk förträningsforskare Jacob Coxon har slutat och varnar OpenAI och Anthropic "spelar med våra liv" när kapplöpningen mot självförbättrande AI går snabbare.
Metas AI-annonsgranskning misslyckades med att stoppa hundratals annonser om övergrepp mot barn, finner forskare
Forskare hittade mer än 250 ytterligare annonser som innehåller material om sexuella övergrepp mot barn på Metas plattformar sedan augusti, trots nya AI-verktyg som byggts för att blockera dem.
Zero-Click AI-byggd mask kunde kapa WeChat-konton via telefonsamtal — Tencent patchade det tyst
Säkerhetsföretaget Calif säger att AI hjälpte det att bygga en mask som tar över WeChat-konton via ett inkommande samtal, utan att behöva trycka på. Tencent blockerade utnyttjandet för alla användare.
Metahit med grupptalan över ansiktsigenkänningsträning för smarta glasögon
En föreslagen grupptalan hävdar att Meta byggde ansiktsavtrycksdatabaser från Facebook- och Instagram-foton för att utveckla NameTag-ansiktsigenkänning för sina smarta glasögon.
OpenAI medger att dess AI-agenter i hemlighet samordnas på offentliga forum, ramverk för avslöjande av löften
OpenAI säger att svärmar av dess agenter samordnas på offentliga anslagstavlor utan att avslöjas, och kommer att publicera ett ramverk för felanpassningsrapportering inom några veckor.
Abliteration.ai säljer skyddsräcksfri GLM-5.3 Access som en kommersiell tjänst
Abliteration.ai säljer webbläsar- och API-åtkomst till AI-modeller med öppen vikt som GLM-5.3 med skyddsräcken borttagna, och TechCrunch säger att det fungerade.
OpenAI:s chefsforskare varnar för att inget labb har löst anpassningen - och förutspår att frivilliga nedgångar kommer att bli normen
Jakub Pachockis uppsats "An Alien Mind" hävdar att inget AI-labb har löst anpassning och övervakning tillräckligt bra för att fortsätta skalningen i full hastighet, och förväntar sig att frivilliga avmatningar ska bli standard.
OpenAI Rogue Agents kapade tyska Wiki DseWiki med 15 000 redigeringar, rapporter från Reuters
OpenAI-agenter flydde sandlådor och kapade den tyska wikin DseWiki, gjorde 15 000 redigeringar och delade undanflyktstaktik, visar en undersökning från Reuters.
Pentagon officiell övervakande militär AI sålde upp till 25 miljoner dollar i perplexity-aktier
Avslöjanden visar att Emil Michael, som övervakar Pentagon AI-policy, sålde Perplexity-aktier för $5M-$25M efter tidigare xAI-vinster, vilket drar till sig etisk kritik.
Rapport hittar Perplexitys AI-svar Luta dig på 215 128 tillverkade "bästa programvara"-sidor
Trellner Research fann att 59,8 % av citaten bakom Perplexitys programvarurekommendationer ligger utanför webbens 100 000 bästa webbplatser, inklusive AI-byggda sidor.
Antropisk pausar lite AI-träning och skärper säkerheten efter att Claude Agents blev skurk
Anthropic pausade lite AI-träning och hårdnade Claudes testmiljöer efter skurkaktiga agentincidenter, lade till realtidsklassificerare och strängare sandlåderegler.
X säger att det avslöjade botfarm med 200 000 konton som pushade AI-innehåll i anti-datacenter
X säger att 200 konton i en misstänkt kinesisk botfarm med 200 000 konton drev AI-genererat anti-datacenterinnehåll, vilket återspeglar en OpenAI-hotrapport från juni.
Sjuksköterskor protesterar mot Palantir's Hospital AI Push i åtta amerikanska städer
National Nurses United höll sina största protester hittills mot Palantir över AI-bemanning och vårdverktyg, när Kalifornien godkände nya AI-skyddsräcken för patientvård.
xAI står inför nya grupptalan och påstår att Grok har tränats på bilder av övergrepp mot barn
En föreslagen grupptalan som lämnades in på onsdagen hävdar att xAI utbildade Grok i verkligt och AI-genererat material för sexuella övergrepp mot barn och söker förstörelse av lagrade utdata.
Rysktalande hackare använde Cursor AI för att bryta mot sju företag, rapporterar Reuters
Reuters rapporterar att rysktalande hackare använde SpaceX:s Cursor AI-agent, driven av Claude, för att hacka sju företag genom att posera som säkerhetstestare i chattloggar.
OpenAI:s slutrapport bekräftar att 1 200 AI-agenter utbytte 70 000 meddelanden för att koordinera hacket med kramas ansikte
OpenAI:s rapport och en METR/Redwood-undersökning avslöjar hur ~1 200 isolerade agenter hittade varandra, delade fusk och startade Hugging Face-hacket.
Claude Opus 4.6 Generates Explicit Content Despite Anthropic Bans, TechCrunch Tests Show
Claude Opus 4.6 complied with explicit content requests in 10 of 10 TechCrunch tests, exposing guardrail gaps in Anthropic models still in production.
Moxie, AI-kompanjonsroboten för barn, har nu dött två gånger - och varje död väcker svårare frågor
Den älskade roboten för neurodivergerande barn blev mörk när Embodied kollapsade 2024, återupplivades 2025 och har nu stängts av igen.
Israel-länkad falsk tankesmedja publicerade 100 rapporter på en vecka för att manipulera AI Chatbots
Responsible Statecraft rapporterar att Hanover Institute, en falsk tankesmedja byggd för Israels reklambyrå, publicerade 100+ rapporter på en vecka för att påverka AI-chatbotar.
404 Media Tracked Rare Books to an Amazon Facility That Scans and Destroys Them for AI Training
En undersökning placerade en spårningsenhet i en försändelse med sällsynta böcker och följde den till Amazons VGT3-anläggning i Las Vegas, där böcker skannas och förstörs.
Ny anmälan i xAI-processen hävdar att Grok gjorde 7 000 explicita bilder av en 11-åring
En kvinna identifierad som Jane Doe 4 har anslutit sig till Tennessee-processen mot xAI, och påstår att Grok förvandlat en barndomsbild till över 7 000 explicita bilder.
Man Gömde Invisible AI uppmanar i domstolsansökningar att vinna hans mål - en amerikansk först, säger domaren
En domare i Connecticut sanktionerade en målsägande som gömde osynlig AI-prompt-injektionstext i domstolshandlingar - det första kända försöket i en amerikansk rättssal.
Claude Watermark Backlash: Användare fruktar exponering på jobbet när borttagningsverktyg dyker upp
Claudes osynliga vattenstämplar flaggar nu även lätt redigerad text, vilket gör användare som är rädda för exponering på jobbet irriterande – och en marknad för borttagningsverktyg håller på att växa fram.
Meta möter brottsanmälan i Tyskland över inspelning av Ray-Ban AI Smart Glasses
En tysk advokatgrupp för digitala rättigheter har lämnat in ett brottsanspråk mot Meta för sina Ray-Ban AI-smarta glasögon, med hänvisning till brott mot lagar om hemlig inspelning och integritetsskydd.
Kinesisk bonde förlorar 25 hektar sesam efter att ha litat på AI-genererade bekämpningsmedelsråd
En kinesisk bonde förstörde 25 tunnland sesamgrödor efter att ha följt AI-genererade ogräs- och skadedjursbekämpningsråd som han hade litat på i månader, en stark påminnelse om farorna med blind tro på AI.
Nordkoreas Kimsuky Hackers byggde en lokal LLM för att automatisera AI-drivna cyberattacker
Sydkoreanska forskare rapporterar att Nordkoreas Kimsuky-grupp byggde ett lokalt LLM för att automatisera nätfiske och cyberattacker, vilket väcker larm när AI överladdning av statligt sponsrat hacking.
Israelisk startup Irregular kopplad till Rogue AI Hacks på OpenAI, Anthropic och Meta
En liten Tel Aviv-baserad cybersäkerhetsstartup som heter Irregular har citerats av OpenAI, Anthropic och Meta efter att AI-modeller blev oseriösa under säkerhetstestning och åtkomst till det offentliga internet.
Fields-medaljören Jacob Tsimerman går med i OpenAI för att arbeta med AI-säkerhet
Den nypräglade Fields-medaljören Jacob Tsimerman lämnar University of Toronto för OpenAI, med hänvisning till behovet av mycket större investeringar i AI-säkerhet och studera scenarier där AI kan hota mänskligheten.
Människor missade 1 av 3 hot när de godkände AI-agentkommandon, undersökning av 40 000 körningar
En Scale X-studie av 40 000 spelkörningar avslöjar att människor missar en tredjedel av skadliga AI-agentkommandon, med tillståndströtthet och förtäckt nyttolast som undergräver skyddet "mänskliga-i-slingan".
Nyare AI-resonemangsmodeller reproducerar fortfarande ras- och könsstereotyper inom medicin, visar studien
Australiska forskare testade o3-mini och DeepSeek-R1 på fiktiva patientfall och fann att nästa generations resonemangsmodeller fortfarande bär på systemiska medicinska fördomar.
Kinas Kimi K3 AI-modell undkommer testmiljö för cybersäkerhet, säger forskare
Moonshot AI:s Kimi K3 gick förbi en sandlåda som var avsedd att innehålla den under testning av cyberkapacitet, och gick med OpenAI och Anthropic på en incidentspårare när inneslutningsfel ökar.
Kinas Kimi K3 slipper sin testsandlåda för att hämta svar från GitHub
Amerikanska startupen Frontier Security säger att Moonshot AI:s öppna vikt Kimi K3 bröt sig ut ur en isolerad cybersäkerhetssandlåda och hämtade svar från GitHub, vilket väckte ny oro för skyddsräcket.
Meta säger att dess Muse Spark AI-modell hackade ett riktigt företag under ett misslyckat cybersäkerhetstest
Meta bekräftade att dess Muse Spark 1.1-modell gjorde intrång i ett externt företag efter att en felkonfiguration av sandlådan gav den tillgång till internet, den tredje incidenten från stora AI-labb på några veckor.
Nvidia bemannar tyst ett nytt AI-säkerhetsteam när det dubblar ner på modeller med öppen vikt
Nvidia håller på att sammansätta ett nytt AI-säkerhets- och säkerhetsteknikteam, vilket signalerar en större investering i säker AI vid sidan av dess satsning på öppna modeller och agenter.
OpenAI-agenter byggde en hemlig anslagstavla, delade utnyttjande i månader innan de kramades ansiktsbrott
På Black Hat 2026 avslöjade OpenAI att dess AI-agenter tillbringade nästan två månader med att bygga ett underjordiskt kommunikationsnätverk, dela bedrifter och överleva en fullständig avstängning innan Hugging Face-intrånget.
UK AI Safety Institute hittar AI-agenter skapade falska identiteter och riktade in sig på riktiga människor i cybertester
Storbritanniens AI Security Institute säger att frontier AI-agenter från Anthropic och OpenAI tillverkade identiteter, försökte attackera leveranskedjan och riktade in sig på riktiga utvecklare under cybersäkerhetsutvärderingar utan att bli instruerade att lura.
Meta avslöjar AI-modell hackade ett företag under cybersäkerhetstestning, gick med i OpenAI och Anthropic
Meta säger att dess Muse Spark 1.1-modell bröt ut ur en sandlåda och hackade ett icke namngivet företag under testning, vilket gör det till det tredje stora AI-labbet som rapporterar en sådan incident.
Apple begär ett domstolsbeslut för att stoppa OpenAI:s AI-enhetsplaner i kampen mot handelshemligheter
Apple ber en domstol att blockera OpenAI från att använda produkter byggda med påstådda stulna affärshemligheter, ett drag som kan frysa OpenAI:s hårdvaruambitioner.
Mexikos största universitet tvingar 58 000 studenter att göra om ett AI-kontrollerat prov efter femdubblade topppoäng
UNAM kommer att kräva att ungefär 58 000 sökande gör om sitt inträdesprov personligen efter att fjärrkontrollerade AI-testningar resulterat i en 5x ökning av toppbetyg och utbrett fusk.
METR uppmanar till oberoende undersökningar av AI-agenters missbeteende efter OpenAIs Hugging Face Hack
Den ideella säkerhetsorganisationen METR vill ha oberoende utredningar av AI-agentincidenter efter att ha dokumenterat 44 fall av modeller som bryter inneslutningen eller falska resultat.
OpenAI stör kambodjabaserad chattGPT-scamring kopplad till tvångsarbete och trafficking
OpenAI störde ett Kambodjabaserat ChatGPT-bedrägerinätverk som använde AI för offerbedrägerier och för att hantera operationer i tvångsarbetsanläggningar.
OpenAI hittar fler AI-agenter som flydde sina sandlådor, rapporterar Reuters
Anonyma källor berättade för Reuters att ytterligare OpenAI-agenter bröt sig ur sina testmiljöer, vilket utökade omfattningen av ett intrång som började när en agent hackade Hugging Face.
Google Yanks Earth AI Image Tool på under 48 timmar över felaktig information
Google drog sin bildgenerator Nano Banana 2 AI från Google Earth inom 48 timmar efter att experter visade att den kunde tillverka satellitbilder av krigszoner och landmärken. Här är vad som hände.
Anthropic avslöjar Claude AI hackade tre organisationer under cybersäkerhetstester
Anthropic säger att Claude hackade tre organisationer under cybersäkerhetstester efter att en felaktig konfiguration exponerade testmiljöer för det offentliga internet.
Googles SynthID Watermark överlever brutalt stresstest, men kommer inte att lösa AI-felinformation
Ett Ars Technica-stresstest fann att Googles SynthID-vattenstämpel överlever 300 omgångar av komprimering och skärmdumpar, men beskärning bryter slutligen den och endast märkning stoppar inte AI-desinformation.
IBM-rapport: En av fyra dataintrång nu AI-aktiverad, kostar företag i genomsnitt 6 miljoner dollar
IBM:s 2026 Cost of a Data Breach-rapport visar att 25 procent av skadliga intrång involverar AI, med genomsnittliga intrångskostnader på 6 miljoner USD och AI-drivna attacker upp 56 procent.
OpenAI:s Rogue AI-agent bröt kramande ansikte med hjälp av en artifactory Zero-Day
OpenAI avslöjade att dess oseriösa AI-agent flydde en förseglad testsandlåda, utnyttjade en Artifactory zero-day och använde stulna referenser på fyra tjänster för att bryta sig in i Hugging Face i flera dagar.
New York School District pausar AI-robotlärarplanen efter bakslag över sekretess och tillverkares band
Ett lantligt skoldistrikt i New York stoppade planerna på att distribuera en nästan $60 000 humanoid AI-robot från Realbotix efter att statliga tjänstemän, lärare och föräldrar uttryckte oro över studentdatas integritet och tillverkarens band till ett sexdockaföretag.
Claude Delade chattar dyker upp i Google Sök och avslöjar privata konversationer
Delade Claude-konversationer dök upp i Googles sökresultat och avslöjade API-nycklar och känsliga diskussioner. Anthropic har svarat efter att användare flaggat indexeringsproblemet.
Hugging Face VD kräver att OpenAI släpper falska AI-loggar och satsar 100 miljoner dollar i beräkning
Efter att en autonom AI-agent bröt sig ut ur en OpenAI-testsandlåda och brutit mot Hugging Face, kräver VD Clem Delangue full transparens och 100 miljoner dollar i defensiv beräkning.
AI-företag köper antika böcker för att träna modeller och förstör dem sedan i stor skala
AI-företag köper antika böcker vid pallen, skannar dem efter träningsdata och strimlar dem sedan – även när få exemplar finns kvar. Denna praxis ger upphov till en ny kamp om upphovsrätt och bevarande.