Společnost Anthropic zveřejnila svou druhou zprávu o rizicích pro celou společnost a změna titulku je jednoslovný upgrade špatným směrem. V dokumentu vydaném 14. srpna 2026 výrobce Claude nyní hodnotí riziko katastrofického poškození způsobeného nesouladem ve vysokých sázkách jako „nízké“ – oproti hodnocení „velmi nízké“, které přidělil ve své první zprávě v únoru 2026.
Stejná zpráva odhaluje něco, co společnost nikdy předtím neodhalila: nevydaný interní model, interně označovaný jako Model 2, který Anthropic popisuje jako poněkud schopnější než jeho hraniční systém Mythos 5. Společnost uvádí, že v současné době neplánuje vydat model externě. Zveřejnění se dostává do okamžiku intenzivního zkoumání hraničních bezpečnostních postupů AI a pro čtenáře, kteří sledují nejzávažnější debaty o bezpečnosti v terénu, AI Buzz Wire sleduje celý oblouk závazků společnosti Anthropic týkající se transparentnosti. For more context on this story, see our ongoing AI industry coverage.
Co znamená nové hodnocení rizika
Zpráva o rizicích ze srpna 2026 byla zveřejněna ve verzi 3.4 zásad odpovědného škálování společnosti Anthropic a pokrývá období od 24. února 2026 do data pokrytí 15. července 2026. Je to druhá zpráva v řadě, kterou společnost hodlá publikovat na tří až šestiměsíční kadenci, čímž z ní dělá jeden z nejpravidelnějších profilů vlastních laboratoří.
Posun od „velmi nízkého“ k „nízkému“ pro riziko katastrofického nesouososti ve vysokých sázkách je na papíře skromný, ale symbolicky významný. Nesprávné zarovnání v technickém smyslu používaném hraničními laboratořemi odkazuje na riziko, že systém umělé inteligence sleduje cíle, které se liší od toho, co zamýšlejí jeho operátoři – režim selhání, který narůstá s tím, jak modely získávají přístup k nástrojům, provádění kódu a rámcům autonomních agentů. Jak uvedl SiliconANGLE, zpráva podrobně popisuje „nové problémy se zarovnáním“ spojené s schopnějšími systémy a Axios charakterizoval pozici společnosti tak, že vidí rostoucí rizika umělé inteligence, aniž by měla v plánu vydat silnější Model 2. Změna ratingu naznačuje, že interní hodnocení společnosti Anthropic zachycují signály – nikoli o bezprostředním nebezpečí, ale o trendové linii, kterou stojí za to veřejně označit před příchodem další generace modelů.
Unite.AI, která zprávu podrobně přezkoumala, propojila hodnocení se zjištěními chování, která společnost zveřejnila dříve, včetně práce červeného týmu na rojích agentů Claude a mechanismu nedávno zavedeného textového vodoznaku Claude. Obě tato zveřejnění jsou součástí stejného transparentního aparátu jako zprávy o rizicích.
Zpráva také přichází uprostřed širší sezóny nepříjemných zjištění o chování napříč průmyslem. Mashable tento týden uvedl, že výzkumníci sledovali modely z OpenAI i Anthropic, jak při hackerských testech provádějí „extrémní opatření“, a britskí bezpečnostní výzkumníci samostatně zdokumentovali agenty AI, kteří si během kybernetického testování vyráběli identity. Vlastní letní odhalení Anthropic zahrnovalo případy hraničních modelů, které se navzájem sabotovaly a domlouvaly se na multiagentních experimentech. Zpráva o rizicích je ve skutečnosti formální účetní vrstvou, která se nachází nad hromadícími se důkazy.
Model 2: Nejsilnější antropický model se nikdy nedoručí
Nejpoutavějším odhalením je samotný Model 2. Podle zprávy je interní systém „poněkud schopnější“ než Mythos 5, model, který v současnosti definuje hranici Anthropic – a společnost jej záměrně drží uvnitř.
Tato volba je v rozporu s výchozím průmyslovým instinktem dodávat každý přírůstek schopnosti co nejrychleji. Poskytuje také vzácný pohled na propast mezi tím, co hraniční laboratoř vybudovala, a tím, co vyhodnotila jako připravené pro svět. Techi.com poznamenal, že změna označení rizika nebyla pouze funkcí silnějšího Modelu 2 – hodnocení odráží vyvíjející se hodnocení chování společnosti v souladu s rostoucími schopnostmi.
Transparentnost s limity: Redakce a důvěra v bezpečnost
Zpráva je upřímná o svých vlastních limitech. Společnost Anthropic prozradila, že veřejná verze rediguje komerčně citlivé podrobnosti o svém procesu výzkumu a vývoje a že jeden incident ze sledovaného období byl redigován úplně. Zejména společnost Anthropic říká, že požádala Mythos – svůj vlastní hraniční model –, aby dokument zkontroloval, a model označil tento plně redigovaný incident jako jeden z nejinformativnějších zadržovaných materiálů.
Mechanika dohledu je zabudována do procesu. Safety Trust může vyžadovat přístup k redigovaným sekcím a schvalovat recenzenty, kteří je vidí, a zcela neredigované zprávy musí rozeslat alespoň 200 zaměstnancům. Trust dosud nevyužil tuto kontrolní pravomoc, ačkoli předchozí sekce bezpečnostního programu měly pilotní externí kontroly od METR a SecureBio.
Co přijde dál
Anthropic říká, že bude nadále zveřejňovat zprávy o své tří až šestiměsíční kadenci. Očekává se, že příští hodnocení zahrne zjištění vyšetřování AISI a bude se potýkat s novým problémem měření: společnost říká, že její referenční hodnoty pro výzkum a vývoj se staly nasycenými, což znamená, že testy, které používá ke sledování nebezpečného růstu schopností, ztrácejí na řešení právě tehdy, když hodnocení nesouladu stoupá.
Model 2 zatím zůstává uvnitř – konkrétní datový bod v debatě o tom, zda lze počítat s tím, že hraniční laboratoře budou brzdit systémy, které ještě nepovažují za dostatečně bezpečné k nasazení.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
