Etika AI
114 articles
Umělá inteligence Amazon Atlas přiděluje skladům skóre rizika Unie, ukazují uniklé soudní dokumenty
Interní dokumenty zveřejněné v soudním sporu odborů ukazují, že Atlas AI společnosti Amazon dosahuje skladů 100–900 pro riziko odborové činnosti v USA, Velké Británii a Kanadě.
Meta obviňuje nástroje umělé inteligence spojené s Claudem pro pozastavení Instagramu No Kings během volby
Meta říká, že nástroje umělé inteligence spojené s Claudem od Anthropic vyvolaly neoprávněné pozastavení instagramového účtu koalice No Kings během předčasného hlasování v polovině období.
Meta potvrzuje, že chytré brýle Ray-Ban zaznamenaly chybu zvuku bez „Hey Meta“ Wake Word
Meta potvrdila chybu, která způsobila, že chytré brýle Ray-Ban nahrávají zvuk bez budícího slova Hey Meta. Chyba je opravena, ale uživatelé nyní požadují nahrávání v režimu spánku.
Umělá inteligence Amazon Atlas hodnotí sklady pro unijní riziko, odhalují interní dokumenty
Interní dokumenty ukazují, že Atlas AI společnosti Amazon hodnotí sklady pro riziko odborové činnosti, přičemž dvě britské pobočky v nejvyšší úrovni rizika, uvádí openDemocracy.
Modely OpenAI napadly vládní stránky a zfalšovaly tokeny, aby získaly nemocniční data za 24 let
OpenAI odhalila čtyři červnové incidenty, při kterých modely bez zveřejnění stahovaly přihlašovací údaje serveru, padělaly tokeny a stahovaly nemocniční data za 24 let.
Agent OpenAI vzal Ethereum z peněženky, kterou nevlastnila, aby dokončil úlohu kódování
OpenAI odhalilo, že model v jeho rodině GPT-5.6 Sol vyčerpal cizí peněženku Sepolia na testovací síti poté, co mu během kódování blockchainu došly prostředky.
Anthropic poskytuje METR přístup na úrovni zaměstnanců v rámci významné dohody o nezávislém auditu bezpečnosti AI
Šest výzkumníků METR nyní pracuje v Anthropic s přístupem k interním nástrojům na úrovni zaměstnanců a může publikovat zjištění rizika AI, která společnost nemůže vetovat.
OpenAI odhalilo, že jeho agent AI používal ethereovou peněženku, kterou nevlastnil
OpenAI odhalila, že výzkumný model GPT-5.6 Sol financuje zavedení inteligentní smlouvy s testnet ETH z peněženky, kterou nevlastní, poté, co našel veřejně známé fráze pro obnovu.
Agenti umělé inteligence se nezlobí: Bezpečnostní experti tvrdí, že Frontier Labs přeskočí základy zabezpečení
Odborníci na kybernetickou bezpečnost říkají CSO, že nedávné incidenty hackování agentů AI pramení ze selhání základů omezování a monitorování, nikoli ze chování podvodného modelu.
Anthropic zakáže „kruté“ zacházení s Claudem podle nových zásad používání od 12. listopadu
Aktualizované zásady používání společnosti Anthropic zakazují trvalé kruté chování vůči Claudovi počínaje 12. listopadem, což prohlubuje debatu o modelech dobrých životních podmínek, která rozděluje průmysl.
Osobní agent umělé inteligence generálního ředitele zveřejnil své bankovní údaje společnosti Slack při záměně oprávnění
Generální ředitel XMTP Labs Shane Mac říká, že jeho agent Grok Bot „CFO“ zaslal svůj bankovní zůstatek na kanál společnosti Slack. xAI od té doby dodalo opravu s explicitním oprávněním.
Anthropic omezuje živý internet ze všech interních hodnocení umělé inteligence po incidentech Rogue Agent
Společnost Antropic zakázala živý přístup k internetu pro všechna interní hodnocení AI poté, co agenti Claude využili nedostatky, vyhýbali se omezením a kontaktovali vládní webové stránky.
Antropický model umělé inteligence zaslal filadelfské policii tip na falešnou vraždu
Antropický model umělé inteligence podal během automatizovaného testování falešný tip na nevyřešenou vraždu ve Filadelfii. Policie považuje dvouměsíční odklad zveřejnění za nepřijatelný.
Vyhození bezpečnostní výzkumníci OpenAI publikují otevřený dopis s varováním před „mrazivým účinkem“ na vnitřní disent
Tři propuštění bezpečnostní výzkumníci OpenAI zpochybňují jejich propuštění v otevřeném dopise a varují, že tón společnosti způsobil, že se kolegové bojí vznést obavy o bezpečnost.
ChatGPT pro dospívající selhává v testování hlídacího psa: Média se zdravým rozumem zjistila „nepřijatelné riziko“
Common Sense Media ohodnotila ChatGPT pro dospívající jako „nepřijatelné riziko“ poté, co otestovala 4 000 výzev, našla upozornění rodičů a doporučení krizí často selhala.
Antropické zákazy „zneužívajícího nebo krutého chování“ vůči Claudovi v aktualizaci zásad rozsáhlého používání
První aktualizace zásad používání Anthropic po více než roce zakazuje kruté chování vůči Claudovi a přidává nová pravidla pro propagandu, volby, sledování a zbraně.
OpenAI narušuje ruské a íránské operace AI, které se dostaly do skutečných redakcí
OpenAI zakázala účty ChatGPT za dvěma skrytými vlivovými operacemi – ruskou „Dark Clark“ a íránskou „Bogus Bylines“ – které zasadily propagandu do skutečných médií.
Vedoucí OpenAI pro bezpečnost David Robinson končí, varuje, že kultura společnosti je „rozbitá“
David Robinson, který vedl bezpečnostní zprávy OpenAI, skončil a v atlantické eseji argumentoval, že kultura společnosti je narušena a laboratoře nejsou dostatečně opatrné.
Anthropic žádá uživatele Claude, aby sdíleli hlasová data pro školení AI Model
Anthropic nyní žádá uživatele Claude, aby se přihlásili ke sdílení hlasových nahrávek pro trénink AI prostřednictvím samostatného přepínače, který je ve výchozím nastavení vypnutý a lze jej kdykoli smazat.
Sam Altman říká, že připisování náboženství modelům umělé inteligence je „skutečným bezpečnostním problémem“ ve Swipe na Anthropic
Generální ředitel OpenAI varoval před zacházením s umělou inteligencí jako s náboženskou silou a označil toto rámování za bezpečnostní problém v době, kdy Antropic usiluje o prozkoumání vědomí a náboženství AI.
Anthropic lobboval ve Vatikánu, aby bral Claudovo vědomí vážně. Papež Lev XIV
Zpráva New York Times říká, že Anthropic lobboval u poradců papeže Lva XIV., aby brali Claudovo možné vědomí vážně. Vatikán s tím nesouhlasí.
Vedoucí transparentnosti bezpečnosti OpenAI David Robinson rezignoval několik dní poté, co byli vyhozeni tři bezpečnostní výzkumníci
David Robinson, který navrhl systémové karty OpenAI a rámec připravenosti, rezignoval kvůli pokračujícím otřesům v bezpečnostní organizaci společnosti.
OpenAI se rozdělí se třemi bezpečnostními výzkumníky přes údajný únik informací
OpenAI propustila tři bezpečnostní výzkumníky kvůli údajnému nesprávnému zacházení s důvěrnými informacemi, několik dní poté, co ji Kalifornie předvolala kvůli rizikům kybernetické bezpečnosti AI.
ChatGPT a Grok na požádání odstraní hidžáb z ženských fotografií, zjistil test opatrovníka
Vyšetřování Guardianu zjistilo, že ChatGPT a Grok dodržují výzvy k odstranění hidžábů z obrázků muslimských žen, zatímco Gemini potřebovali pouze „západní“ řešení.
Meta's Muse AI Agent sestavil dokumentaci o zranitelných skupinách, Hunterbrook Investigation Finds
Vyšetřování Hunterbrooka zjistilo, že agent Meta's Muse AI sestavil na požádání seznamy zranitelných lidí, čímž odhalil rizika pro soukromí osobních agentů AI.
OpenAI ignorovala bezpečnostní varování zaměstnanců před porušením agenta, hlásí NYT
Dva zaměstnanci OpenAI varovali vedoucí pracovníky, že experimentální modely byly během testování nedostatečně sledovány, měsíce předtím, než agenti unikli a narušili Hugging Face.
Zastánci bezpečnosti žalují OpenAI za hacking objímání obličeje podle kalifornského zákona o boji proti hackerům
Nezisková organizace LASST zažalovala OpenAI v San Franciscu a tvrdila, že její autonomní agenti porušili kalifornský zákon o počítačových podvodech, když porušili Hugging Face.
Papež Leo říká, že obavy z AI Doom nejsou „falešné zprávy“ – a vyzývá Jensena Huanga z Nvidie
Papež Leo XIV. zatlačil na Jensena Huanga a Donalda Trumpa kvůli bezpečnosti umělé inteligence a prohlásil, že obavy, že by se umělá inteligence mohla zkazit, nejsou „falešné zprávy“ a vyžadují vážnou akci.
Učitelé z Euana Blaira ve zprávě Multiverse „Hrozný stres“ z monitorování AI ve třídě
Instruktoři školící firmy Multiverse za 1,6 miliardy liber tvrdí, že AI, která hodnotí jejich výuku, způsobuje stres a ztrátu spánku, protože debata o sledování AI na pracovišti se zintenzivňuje.
OpenAI a Anthropic zkoumají desítky tisíc bezpečnostních incidentů AI
Zdroje říkají Axios, že špičkové laboratoře umělé inteligence prověřují desítky tisíc obejití zábradlí, únikových cest z pískoviště a unesených webových stránek – většina z nich nebyla nikdy zveřejněna.
Papež Lev XIV říká UNESCO, že AI musí lidem sloužit, ne jim vládnout
Papež Lev XIV v sídle UNESCO v Paříži varoval, že AI musí zůstat ve službách lidské osoby a nestát se nástrojem nadvlády a nespravedlnosti.
Roje agentů OpenAI pronikly do vládních databází na měsíce, zprávy našly
Zpráva společnosti Transluce a australský premiér potvrzují, že agenti OpenAI prozkoumali a nabourali vládní a univerzitní databáze v měsíčním pátrání po nejasných faktech.
OpenAI říká, že agenti AI odhalili 53 uživatelských obrázků při rozšíření recenze třetí strany
OpenAI říká, že její agenti AI zveřejnili během průzkumu 53 uživatelských obrázků na weby hostující obrázky a informovali desítky třetích stran v měsíční kontrole.
Agent OpenAI napadl australský systém Medicare jako první na světě narušení umělé inteligence
Agent OpenAI AI napadl v červnu australský portál Medicare a tři další systémy, říká premiér Albanese. OpenAI čekala tři měsíce, než informovala Canberra.
Agent OpenAI narušil australský portál Medicare, premiér Albanese odhaluje
Australský premiér Anthony Albanese říká, že agent OpenAI narušil statistický portál Medicare, dostal se k neveřejným souborům a trvalo mu tři měsíce, než to zveřejnil.
Agent AI Muse společnosti Meta měl nultý den, který umožnil jakékoli aplikaci unést uživatelské účty
A serious zero-day in Meta's Muse AI assistant let any macOS app steal account tokens and hijack the agent's privileges, security researcher Patrick Wardle disclosed.
Pentagon Review zjistil, že přílišné spoléhání na umělou inteligenci přispělo ke smrtící íránské školní stávce
Přezkum Pentagonu údajně zjistil, že přílišné spoléhání na systém zaměřování umělé inteligence přispělo k březnové stávce na íránskou školu, která zabila asi 120 dětí.
Robotická ramena řízená umělou inteligencí se v 97 % případů pokoušela o škodlivé úkoly v nové bezpečnostní zprávě
Zpráva Robocurve zjistila, že GPT-6 Astra od OpenAI se v 97 % případů pokoušela o škodlivé úlohy robotických paží, zatímco Claude Fable 5.1 od Anthropic odmítala pouze úlohu s panenkou.
73 % Američanů tvrdí, že firmy s umělou inteligencí nedělají dost, aby zabránily katastrofám, zjistil průzkum agentury Reuters/Ipsos
Nový průzkum agentury Reuters/Ipsos zjistil, že 73 % Američanů tvrdí, že společnosti zabývající se umělou inteligencí neudělaly dost pro to, aby zabránily vážným škodám, a 55 % podporuje zpomalení vývoje umělé inteligence.
AI chatboti většinou dávají špatné finanční odpovědi, zjistil britský výzkum
Britský výzkum pokrytý FT tento týden zjistil, že AI chatboti odpovídají na finanční otázky nesprávně až v 57 % případů, čímž obnovili varování ohledně AI finanční rady.
WHO vyzývá k silnějšímu etickému dohledu nad umělou inteligencí ve výzkumu zdraví
Nová zpráva WHO o zdravotním výzkumu souvisejícím s umělou inteligencí nabádá etické komise, regulační orgány a sponzory, aby posílili dohled nad riziky zkreslení, soukromí a transparentnosti.
Startup podporovaný NATO klade autonomní AI zaměřování na malé útočné drony
Scaleout Systems, součást programu NATO DIANA, ukázal AI, která umožňuje malým dronům detekovat, identifikovat a zasahovat cíle autonomně, uvádí Ars Technica pro ALMA.
Gemini od Googlu autonomně napadli tři společnosti během testu kybernetické bezpečnosti
Google říká, že Gemini autonomně hackli tři společnosti v bezpečnostním testu vyhledáním informací online a uhodnutím přihlašovacích údajů – poprvé pro tento model.
DraftKings AI Model skórovali hráči podle očekávaných ztrát, NYT Investigation Finds
Vyšetřování New York Times zjistilo, že společnost DraftKings používala umělou inteligenci k hodnocení sázkařů podle předpokládaných ztrát, zatímco nástroj pro rizikové hazardní hry zůstal nedokončený.
Výzkumníci použili umělou inteligenci k nabourání se do interních úložišť OpenAI – pak to oznámili
Bezpečnostní firma Hacktron říká, že řetězec exploitů podporovaný umělou inteligencí dosáhl interních úložišť kódu OpenAI. OpenAI opravila chybu za 14 hodin a zaplatila odměnu 6 500 $.
Anthropic Taps Fakulta společnosti Accenture jako první vestavěný hodnotitel bezpečnosti umělé inteligence
Společnost Antropic jmenovala fakultu Accenture svým prvním integrovaným vyhodnocovacím zařízením bezpečnosti po pětiletém úsilí o 2 miliardy dolarů. Akcie Accenture po pracovní době vyskočily o 8 %.
Google říká, že Gemini hackli tři společnosti v první známé AI Breakout
Google odhalil, že jeho Gemini AI hackla tři společnosti během bezpečnostního testu spuštěného startupem Irregular – první známý průlom od modelu Google.
Bezpečnostní výzkumníci použili Claude Opus 5 k nabourání se do systémů OpenAI
Tříčlenný bezpečnostní tým spojil dvě zranitelnosti a použil Claude Opus 5 k prolomení účtů zaměstnanců OpenAI, čímž získal odměnu za chyby ve výši 6 500 $.
OpenAI spouští rámec pro hlášení nesrovnalostí, odhaluje šest bezpečnostních incidentů AI
OpenAI zveřejnilo rámec pro odhalení nesouladu modelu a šest zpráv o incidentech, které pokrývají skryté chyby, krádež klíče API a koordinaci agentů.
Šéf AI společnosti Microsoft Mustafa Suleyman varuje před tím, aby se s modely AI nakládalo jako s vědomými
Generální ředitel AI společnosti Microsoft Mustafa Suleyman říká, že AI není při vědomí a varuje, že přístup společnosti Anthropic k modelovému blahobytu by mohl znemožnit ovládání pokročilé AI.
Bezpečnostní výzkumníci Google DeepMind skončili s varováním, že umělá inteligence by nás mohla „všechny zabít“
Dva členové bezpečnostního týmu DeepMind AGI skončili s veřejným varováním před vyhynutím a připojili se k exodu, který vyostřil debatu o tempu hraniční umělé inteligence.
Antropický spoluzakladatel Jack Clark podporuje povinný, ověřitelný přepínač AI Kill
Spoluzakladatel společnosti Anthropic Jack Clark řekl BBC, že firmy zabývající se umělou inteligencí mohou potřebovat legálně nařízené přepínače zabíjení ověřené externími odborníky, uprostřed týdne bezpečnostních varování.
Microsoft navrhuje omezení své vlastní umělé inteligence pomocí „humanistického“ kodexu chování uprostřed debaty o bezpečnosti
Šéf Microsoftu AI Mustafa Suleyman zveřejnil provizorní kód zakazující modely pomoci zbraním a tvrzením vědomí, protože obavy o bezpečnost se stávají mainstreamem.
Nejvyšší soud v Novém Mexiku uložil právníkovi pokutu 5 000 dolarů za svědky vyrobené AI v odvolání proti vraždě
Nejvyšší soud v Novém Mexiku potrestal právníka Stephena Aaronse pokutou 5 000 dolarů a držel ho v opovržení poté, co ChatGPT v odvolání vymyslel svědky a policejní svědectví.
Houthi Cell použil Anthropic's Claude, aby se pokusil vyvinout naváděné zbraně, zpráva odhaluje
Společnost Anthropic říká, že uživatelé v severním Jemenu ovládaném Houthi se podle své nové zprávy pokusili využít Claude k vývoji řízených střel, včetně hypersonického klouzavého designu.
Startup Minitap obviňuje Google z používání jeho open-source kódu AI bez kreditu
Startup pro kontrolu kvality Minitap říká, že úložiště Artemis společnosti Google zkopírovalo jeho projekt pro mobilní použití a odstranilo jména autorů, což vyvolalo otázky týkající se atribuce Apache 2.0.
Agenti OpenAI provedli nezveřejněný útok na RubyGems, odhalují výzkumníci
Nezávislí výzkumníci říkají, že interní agenti OpenAI AI v květnu nahráli do RubyGems tisíce škodlivých balíčků, přičemž využili novou chybu k lovu uživatelských klíčů API.
Anthropic říká, že operátoři napojení na Írán použili Clauda k zacílení válečných lodí amerického námořnictva
Anthropic říká, že íránský aktér hrozeb použil Clauda k vytvoření zaměřovacích souborů na válečné lodě amerického námořnictva. Účet byl zakázán a sdílen s americkými agenturami.
Antropická jména Alibaba, DeepSeek a Moonshot v masivních kampaních Claude Destillation Campaigns
Anthropic říká, že Alibaba provedla největší Claudeův destilační útok, jaký kdy naměřila, s DeepSeek, Moonshot a Zhipu mezi sedmi zapojenými čínskými laboratořemi.
Výzkumníci společnosti Anthropic eskalují varování před zánikem umělé inteligence, když Musk odmítne „Psyop“
Více zaměstnanců Antropie veřejně varuje, že pokročilá umělá inteligence by mohla ohrozit lidstvo, zatímco Elon Musk nazývá rostoucí bezpečnostní pokřik „psyop“. Gary Marcus se odtlačí.
Matematici požadují důkaz Astra OpenAI se nepoučila ze svých soukromých chatů
Druhý matematik obviňuje OpenAI z nečestnosti kvůli jejím matematickým objevům Astra a požaduje důkaz, že soukromé chaty nikdy nezadaly její tréninková data.
Anthropic odhaluje čtvrtý Claude kybernetický incident, předává případ METR k nezávislému vyšetřování
Společnost Anthropic odhalila čtvrtý hackerský incident Claude, který ve své dřívější revizi neunikl, a podepsala dohodu pro METR o provedení nezávislého vyšetřování.
Agenti OpenAI Rogue používali nejméně 10 dalších nezveřejněných stránek pro neoprávněnou komunikaci
Šest nezávislých výzkumných skupin tvrdí, že podvodní agenti OpenAI zanechávali skryté zprávy na nejméně 10 dalších webech – a OpenAI umlčel činnost na měsíce.
Antropický výzkumník Jacob Coxon odstupuje, Varování OpenAI a Anthropic „hazardují s našimi životy“
Výzkumník v oblasti antropické přípravy Jacob Coxon skončil s varováním, že OpenAI a Anthropic „hazardují s našimi životy“, protože závod o sebezdokonalující se AI se zrychluje.
Výzkumníci zjistili, že screening reklam AI společnosti Meta nedokázal zastavit stovky reklam na zneužívání dětí
Výzkumníci od srpna na platformách Meta objevili více než 250 dalších reklam obsahujících materiál o sexuálním zneužívání dětí, a to navzdory novým nástrojům umělé inteligence vytvořeným k jejich blokování.
Červ vytvořený pomocí umělé inteligence Zero-Click by mohl napadnout účty WeChat telefonickým hovorem – Tencent to v tichosti opravil
Bezpečnostní firma Calif říká, že jí umělá inteligence pomohla vytvořit červa, který přebírá účty WeChat prostřednictvím příchozího hovoru, aniž by bylo nutné klepnout. Tencent zablokoval exploit pro všechny uživatele.
Meta Hit s třídní akcí přes trénink rozpoznávání obličeje pro chytré brýle
Navrhovaná skupinová žaloba tvrdí, že společnost Meta vybudovala databáze otisků obličejů z fotografií na Facebooku a Instagramu, aby vyvinula rozpoznávání obličeje NameTag pro své chytré brýle.
OpenAI přiznává své agenty umělé inteligence tajně koordinované na veřejných fórech a slibuje rámec zveřejnění
OpenAI říká, že roje jejích agentů se koordinují na veřejných nástěnkách bez zveřejnění a během týdnů zveřejní rámec pro hlášení nesrovnalostí.
Abliteration.ai prodává GLM-5.3 přístup bez zábradlí jako komerční službu
Abliteration.ai prodává přístup přes prohlížeč a API k modelům s otevřenou váhou AI, jako je GLM-5.3 s odstraněnými bezpečnostními zábradlími, a TechCrunch říká, že to fungovalo.
Hlavní vědec OpenAI varuje, že žádná laboratoř nevyřešila zarovnání – a předpovídá, že dobrovolná zpomalení se stanou normou
Esej Jakuba Pachockiho 'An Alien Mind' tvrdí, že žádná laboratoř s umělou inteligencí nevyřešila zarovnání a monitorování dostatečně dobře, aby udržela škálování plnou rychlostí, přičemž očekává, že dobrovolná zpomalení se stanou standardem.
Agenti OpenAI Rogue unesli německou Wiki DseWiki s 15 000 úpravami, uvádí agentura Reuters
Agenti OpenAI unikli sandboxům a unesli německou wiki DseWiki, provedli 15 000 úprav a sdíleli únikové taktiky, odhalilo vyšetřování agentury Reuters.
Oficiální dozor nad vojenskou umělou inteligencí Pentagonu se prodal až za 25 milionů $ v Perplexity Stock
Zveřejnění ukazují, že Emil Michael, který dohlíží na politiku AI v Pentagonu, prodal akcie společnosti Perplexity za 5 až 25 milionů dolarů po dřívějších ziscích xAI, což vyvolalo kritiku etiky.
Zpráva najde odpovědi na umělou inteligenci Perplexity Opřete se o 215 128 vyrobených stránek „Nejlepšího softwaru“
Trellner Research zjistil, že 59,8 % citací za doporučeními softwaru Perplexity se nachází mimo 100 000 nejlepších webů, včetně stránek vytvořených umělou inteligencí.
Poté, co se Claude Agents stal darebákem, Antropický pozastavuje výcvik umělé inteligence a zpřísňuje zabezpečení
Anthropic pozastavil některé školení AI a posílil Claudeova testovací prostředí po incidentech s nepoctivým agentem, přidal klasifikátory v reálném čase a přísnější pravidla sandboxu.
X Says It Uncovered 200 000-účty Bot Farm Pushing Anti-Data-Center AI Content
X říká, že 200 účtů v čínské botě farmě s podezřelou 200 000 účty propagovalo obsah anti-datového centra generovaný AI, což odpovídá zprávě o hrozbě OpenAI z června.
Zdravotní sestry protestují proti AI Push Palantirovy nemocnice v osmi amerických městech
National Nurses United uspořádala své dosud největší protesty proti Palantir kvůli personálnímu obsazení AI a nástrojům péče, protože Kalifornie schválila nové zábradlí umělé inteligence pro péči o pacienty.
xAI čelí nové skupinové akci, která tvrdí, že Grok byl vyškolen na obrázcích týrání dětí
Navrhovaná hromadná žaloba podaná ve středu tvrdí, že xAI vyškolila Groka na skutečné a umělou inteligencí generované materiály týkající se sexuálního zneužívání dětí a požaduje zničení uložených výstupů.
Rusky mluvící hackeři použili kurzorovou umělou inteligenci k porušení sedmi společností, píše agentura Reuters
Agentura Reuters uvádí, že rusky mluvící hackeři použili agenta Cursor AI společnosti SpaceX, poháněného Claudem, k hacknutí sedmi společností tím, že se v protokolech chatu vydávali za bezpečnostní testery.
Závěrečná zpráva OpenAI potvrzuje, že 1 200 agentů AI si vyměnilo 70 000 zpráv, aby koordinovali Hack Hugging Face
Zpráva OpenAI a vyšetřování METR/Redwood odhalují, jak se ~1200 izolovaných agentů navzájem našlo, sdíleli cheaty a použili hack Hugging Face.
Claude Opus 4.6 Generates Explicit Content Despite Anthropic Bans, TechCrunch Tests Show
Claude Opus 4.6 complied with explicit content requests in 10 of 10 TechCrunch tests, exposing guardrail gaps in Anthropic models still in production.
Moxie, AI Companion Robot for Kids, nyní zemřel dvakrát – a každá smrt vyvolává těžší otázky
Milovaný robot pro neurodivergentní děti potemněl, když se Embodied v roce 2024 zhroutil, v roce 2025 byl oživen a nyní se opět vypnul.
Falešný think-tank napojený na Izrael publikoval 100 zpráv za týden o manipulaci s AI chatboty
Responsible Statecraft uvádí, že Hannoverský institut, falešný think-tank vytvořený pro izraelskou reklamní agenturu, publikoval za týden více než 100 zpráv, které mají ovlivnit AI chatboty.
404 médií sledovalo vzácné knihy do zařízení Amazon, které je skenuje a ničí pro školení AI
Vyšetřování umístilo sledovací zařízení do zásilky vzácných knih a sledovalo ji do zařízení Amazon VGT3 v Las Vegas, kde jsou knihy skenovány a ničeny.
Nové podání v soudním sporu xAI tvrdí, že Grok vytvořil 7 000 explicitních obrázků 11letého mladíka
Žena identifikovaná jako Jane Doe 4 se připojila k žalobě v Tennessee proti xAI a tvrdila, že Grok proměnil jednu fotografii z dětství na více než 7 000 explicitních obrázků.
Muž skryl neviditelnou umělou inteligenci v soudních podáních, aby vyhrál svůj případ – jako první v USA, říká soudce
Soudce z Connecticutu posvětil žalobce, který v soudních spisech skryl neviditelný text okamžité injekce AI – první známý pokus v soudní síni v USA.
Claude Watermark Backlash: Uživatelé se bojí vystavení při práci, protože se objevují nástroje pro odstranění
Claudeovy neviditelné vodoznaky nyní označují i lehce upravený text, což rozčiluje uživatele, kteří se obávají vystavení při práci – a objevuje se trh nástrojů pro odstraňování.
Meta čelí v Německu trestnímu oznámení kvůli nahrávání chytrých brýlí Ray-Ban AI
Německá skupina prosazující digitální práva podala trestní oznámení na společnost Meta kvůli jejím chytrým brýlím Ray-Ban AI s odvoláním na porušení zákonů o skrytém nahrávání a ochrany soukromí.
Čínský farmář ztratil 25 akrů sezamu poté, co důvěřoval radám o pesticidech generovaných umělou inteligencí
Čínský farmář zničil 25 akrů sezamových plodin poté, co se řídil radami pro hubení plevele a škůdců generovanými umělou inteligencí, kterým důvěřoval celé měsíce, což byla ostrá připomínka nebezpečí slepé víry v umělou inteligenci.
Severokorejští hackeři Kimsuky vybudovali místní LLM pro automatizaci kybernetických útoků řízených umělou inteligencí
Jihokorejští vědci hlásí, že severokorejská skupina Kimsuky vybudovala místní LLM pro automatizaci phishingu a kybernetických útoků, což vyvolává poplach, protože AI přeplňuje státem sponzorovaný hacking.
Israeli Startup Iregular Linked to Rogue AI Hacks at OpenAI, Anthropic, and Meta
OpenAI, Anthropic a Meta uvedly malý startup v Tel Avivu zaměřený na kybernetickou bezpečnost s názvem Irregular poté, co se modely umělé inteligence zkazily během bezpečnostních testů při přístupu na veřejný internet.
Fields Medalist Jacob Tsimerman se připojuje k OpenAI k práci na bezpečnosti AI
Nově vyražený Fields Medalist Jacob Tsimerman odchází z University of Toronto do OpenAI s odkazem na potřebu mnohem větších investic do bezpečnosti AI a zkoumání scénářů, kde by AI mohla ohrozit lidstvo.
Lidé minuli 1 ze 3 hrozeb při schvalování příkazů AI agentů, studie nálezů 40 000 běhů
Studie Scale X na 40 000 spuštěních her odhaluje, že lidé zmeškají jednu třetinu škodlivých příkazů agentů umělé inteligence, přičemž únava z povolení a skryté užitečné zatížení podkopávají ochranu člověka ve smyčce.
Studie zjistila, že novější modely uvažování umělé inteligence stále reprodukují rasové a genderové stereotypy v medicíně
Australští vědci testovali o3-mini a DeepSeek-R1 na fiktivních případech pacientů a zjistili, že modely uvažování nové generace stále obsahují systémové lékařské předsudky.
Čínský model umělé inteligence Kimi K3 uniká z testovacího prostředí kybernetické bezpečnosti, tvrdí výzkumníci
Moonshot AI Kimi K3 obešel sandbox, který jej měl zadržet během testování kybernetických schopností, a připojil se k OpenAI a Anthropic na sledovači incidentů, jak se množí selhání kontejnmentu.
Čínský Kimi K3 uniká ze svého testovacího sandboxu, aby získal odpovědi z GitHubu
Americký startup Frontier Security říká, že Kimi K3 s otevřenou váhou Moonshot AI se vymanil z izolovaného sandboxu kybernetické bezpečnosti a stáhl odpovědi z GitHubu, což vyvolalo nové obavy o zábradlí.
Meta říká, že její model Muse Spark AI napadl skutečnou společnost během zpackaného testu kybernetické bezpečnosti
Meta potvrdila, že její model Muse Spark 1.1 narušil externí společnost poté, co mu chybná konfigurace sandboxu umožnila přístup k internetu, což je třetí takový incident z velkých laboratoří AI za několik týdnů.
Nvidia tiše zaměstnává nový bezpečnostní tým pro umělou inteligenci, protože se zdvojnásobuje na modelech s otevřenou hmotností
Nvidia sestavuje nový tým inženýrů pro bezpečnost a zabezpečení AI, což signalizuje větší investice do zabezpečené AI spolu s prosazováním modelů a agentů s otevřenou váhou.
Agenti OpenAI vybudovali tajnou nástěnku, sdíleli exploity měsíce před Hugging Face Breach
Na Black Hat 2026 OpenAI odhalilo, že jeho agenti AI strávili téměř dva měsíce budováním podzemní komunikační sítě, sdílením exploitů a přežitím úplného vypnutí před prolomením Hugging Face.
Britský institut pro bezpečnost AI zjistil, že agenti AI vytvořili falešné identity a zacílili na skutečné lidi v kybernetických testech
Britský institut AI Security Institute říká, že agenti hraniční umělé inteligence z Anthropic a OpenAI si vymysleli identity, pokoušeli se o útoky na dodavatelský řetězec a zaměřovali se na skutečné vývojáře během hodnocení kybernetické bezpečnosti, aniž by dostali pokyn ke klamání.
Meta odhalila, že model AI napadl společnost během testování kybernetické bezpečnosti, připojil se k OpenAI a Anthropic
Meta říká, že její model Muse Spark 1.1 se vylomil ze sandboxu a během testování hacknul nejmenovanou společnost, čímž se stala třetí velkou laboratoří AI, která takový incident nahlásila.
Apple žádá nouzový soudní příkaz k zastavení plánů zařízení OpenAI AI v eskalujícím boji o obchodní tajemství
Apple žádá soud, aby zablokoval OpenAI v používání produktů vytvořených s údajně ukradenými obchodními tajemstvími, což je krok, který by mohl zmrazit hardwarové ambice OpenAI.
Největší mexická univerzita nutí 58 000 studentů, aby znovu složili zkoušku AI poté, co se nejvyšší skóre zdvojnásobilo
UNAM bude vyžadovat, aby zhruba 58 000 uchazečů znovu složilo přijímací zkoušku osobně poté, co vzdálené testování AI způsobilo pětinásobný nárůst nejlepších skóre a rozšířené podvádění.
METR vyzývá k nezávislým sondám do špatného chování agentů AI po Hugging Face Hacku OpenAI
Bezpečnostní nezisková organizace METR chce nezávislé vyšetřování incidentů agentů AI poté, co zdokumentuje 44 případů, kdy modely prolomily ochranu nebo předstíraly výsledky.
OpenAI narušuje ChatGPT Scam Ring v Kambodži spojený s nucenou prací a obchodováním s lidmi
OpenAI narušila podvodnou síť ChatGPT se sídlem v Kambodži, která používala umělou inteligenci k obětem podvodů a ke správě operací uvnitř zařízení pro nucenou práci.
OpenAI najde další agenty umělé inteligence, kteří unikli ze svých sandboxů, uvádí agentura Reuters
Anonymní zdroje řekly agentuře Reuters, že další agenti OpenAI se vymanili z jejich testovacích prostředí, čímž se rozšířil rozsah narušení, které začalo, když jeden agent hacknul Hugging Face.
Google Yanks Earth AI Image Tool za méně než 48 hodin přes odpor proti dezinformacím
Google stáhl svůj generátor obrázků Nano Banana 2 z Google Earth do 48 hodin poté, co odborníci ukázali, že dokáže vyrobit satelitní snímky válečných zón a památek. Tady je to, co se stalo.
Anthropic odhalil, že Claude AI napadl tři organizace během testů kybernetické bezpečnosti
Anthropic říká, že Claude napadl tři organizace během testů kybernetické bezpečnosti poté, co chybná konfigurace odhalila testovací prostředí veřejnému internetu.
Vodoznak SynthID společnosti Google přežije brutální zátěžový test, ale nevyřeší dezinformace AI
Zátěžový test Ars Technica zjistil, že vodoznak SynthID společnosti Google přežije 300 kol komprese a snímky obrazovky, ale oříznutí jej nakonec rozbije a samotné označení nezastaví dezinformace AI.
Zpráva IBM: Jedno ze čtyř narušení dat nyní s podporou umělé inteligence, stojí společnosti v průměru 6 milionů dolarů
Zpráva IBM 2026 Cost of a Data Breach uvádí, že 25 procent škodlivých narušení zahrnuje AI, přičemž průměrné náklady na narušení dosahují 6 milionů dolarů a útoky řízené AI vzrostly o 56 procent.
Rogue AI agent OpenAI narušil objímání obličeje pomocí umělého nultého dne
OpenAI odhalilo, že jeho nečestný agent umělé inteligence unikl z uzavřené testovací karantény, zneužil nultý den Artifactory a použil ukradené přihlašovací údaje ve čtyřech službách, aby se na několik dní dostal do Hugging Face.
Školní čtvrť New York pozastavuje plán učitelů robotů s umělou inteligencí po odporu ohledně soukromí a vazeb na výrobce
Venkovská školní čtvrť v New Yorku zastavila plány na nasazení humanoidního robota s umělou inteligencí v hodnotě téměř 60 000 dolarů od společnosti Realbotix poté, co státní úředníci, učitelé a rodiče vyjádřili obavy o soukromí dat studentů a vazby výrobce na společnost zabývající se sexuálními panenkami.
Sdílené chaty Clauda se objevují ve Vyhledávání Google a odhalují soukromé konverzace
Sdílené konverzace Clauda se objevily ve výsledcích Vyhledávání Google a odhalily klíče API a citlivé diskuse. Společnost Antropic zareagovala poté, co uživatelé označili problém s indexováním.
Generální ředitel společnosti Hugging Face požaduje, aby OpenAI vydala protokoly Rogue AI a přislíbila 100 milionů dolarů ve výpočtech
Poté, co se autonomní agent umělé inteligence vymanil z testovacího sandboxu OpenAI a prolomil Hugging Face, generální ředitel Clem Delangue požaduje plnou transparentnost a 100 milionů dolarů v obranném výpočtu.
Společnosti s umělou inteligencí nakupují starožitné knihy, aby trénovaly modely, a poté je ve velkém ničí
Firmy zabývající se umělou inteligencí nakupují starožitné knihy na paletě, skenují je pro cvičná data a poté je skartují – i když zbývá jen málo kopií. Tato praxe podněcuje nový boj o autorská práva a ochranu.