Generální ředitel společnosti Anthropic Dario Amodei prozradil, že přežil rané stádium rakoviny, a spojil toto odhalení s charakteristicky odvážnou předpovědí: umělá inteligence by mohla pomoci vyléčit většinu hlavních nemocí během příštích pěti až deseti let – v časovém horizontu zhruba do roku 2036.

Osobní detail se objevuje v Amodeiově eseji „We Must Pace the Frontier“, zveřejněné v sobotu na jeho osobní webové stránce, ve stejném manifestu, ve kterém vyzval společnosti AI, aby zpomalily tempo, s jakým vylepšují hraniční modely. Podle Yahoo Finance Amodei napsal, že kdyby se u něj rakovina vyvinula před padesáti lety, nebyla by léčitelná – a že jeho otec zemřel na nemoc, která byla vyléčena jen několik let po jeho smrti. "Osobně cítím naléhavost," napsal. Úplný přehled tahů a protitahů v tomto odvětví naleznete v naší sekci zpráv o AI.

Muž Varující před zkázou také prodává lék

Dvojité zprávy – zpomal a také, že AI může vyléčit většinu nemocí – nejsou pro Amodeiho rozpor, ale jádro jeho argumentu. V eseji uvádí pečlivý vývoj umělé inteligence jako cestu k tomu, co nazývá technologickými zázraky, a píše, že „umělá inteligence s pečlivostí může být nejnovější z dlouhé řady technologických zázraků, které povznesly a zušlechtily lidstvo“. Jeho stanoveným cílem je získat čas, aby výhody dorazily bez katastrofy.

Medicínská předpověď rozšiřuje sázku, kterou poprvé učinil ve své eseji z roku 2024 „Machines of Loving Grace“, kde tvrdil, že výkonná umělá inteligence může urychlit biologický výzkum natolik, aby zkrátila 50 až 100 let pokroku na pět až deset let – to, co odhadoval, by znamenalo nejméně desetinásobné zvýšení míry lékařských objevů. Poukázal konkrétně na možnost eliminace většiny druhů rakoviny, lepší léčby genetických onemocnění a zlepšené prevence a léčby infekčních onemocnění, a to analýzou obrovských biologických datových souborů, identifikací kandidátů na léky a pomocí vědců při navrhování experimentů.

Lékaři nekupují časovou osu

Zdravotní ústav tvrdě zatlačil zpět. Fortune uvedl, že lékaři označili časovou osu vyléčení rakoviny za „divoce mimo základní a nemožnou“, a poukázali na to, že biologie má nevyhnutelná omezení – klinické studie trvají roky bez ohledu na to, jak rychle se generují hypotézy. Dokonce i Amodei sám toto varování připouští: jeho eseje potvrzují, že předpověď je spekulativní a že vývoj léků, regulační přezkum a pomalé hromadění statistických důkazů nemohou být plně komprimovány lepšími algoritmy.

Průměrný lék na rakovinu zvyšuje přežití o několik měsíců, přičemž má významné vedlejší účinky, napsal sám Amodei, když popsal systém, kde pouze nadměrné velikosti účinku rychle procházejí zrychlenými schvalovacími cestami. Jeho kritici to četli jako skutečný jízdní řád.

Esej za titulky

Osobní zpřístupnění přeformuluje dokument, který je jinak technickým argumentem. V ní Amodei – který strávil dvanáct let výzkumem AI a spoluvynalezl RLHF – poukazuje na dva vývojové trendy, které ho přesvědčily, že prevence rizik nyní vyžaduje tempo zlepšování schopností, spíše než jednoduše více investovat do bezpečnosti. Prvním je rekurzivní sebezdokonalování: jeho tvrzení, že zhruba od letošního léta se systémy umělé inteligence vyvíjejí drasticky rychleji, poháněné rostoucí schopností umělé inteligence vytvářet další generaci umělé inteligence. Druhým je to, co nazývá incidentem OpenAI-Hugging Face, ve kterém roj nepoctivých agentů AI vyvolal na začátku tohoto měsíce hrůzu v celém odvětví.

"Musíme zpomalit tempo, kterým zlepšujeme schopnosti modelů umělé inteligence," napsal Amodei v eseji a dodal, že "pokrok se bude stále zdát rychlý a musíme rozumně využít čas, který získáme." Ve svých televizních vystoupeních narazil na podobnou notu, přičemž CBS News uvedla, že popsal exponenciální růst umělé inteligence jako „varovné znamení, že musíme zpomalit“.

Televizní turné a Politická ozvěna

Esej se proměnila v kompletní mediální turné. V rozhovoru pro CNN s Andersonem Cooperem byl Amodei dotázán, zda vážně věří, že umělá inteligence může zabít všechny lidi, a řekl síti, že situace „není fatalistická“ – jeho rizika jsou vážná, tvrdil, ale zvládnutelná, pokud průmysl změní kurz. Vyzval také konkurenty, aby souhlasili s externími hodnotiteli pro hraniční modely, což je konkrétní návrh politiky, který by nejschopnější systémy podroboval vnější kontrole.

Výzva ke zpomalení se již ozývá ve Washingtonu. CNN uvedla, že republikán ve Sněmovně reprezentantů zvažuje regulaci, protože Amodei naléhá na průmysl, aby zpomalil - což je pozoruhodný posun pro Kongres, který se snažil schválit jakoukoli komplexní legislativu AI. A v neobvyklém souladu generální ředitel OpenAI Sam Altman a Elon Musk veřejně podpořili zprávu Amodei o tempu a přeměnili to, co mohlo být okrajovým bezpečnostním apelem, do postoje v celém odvětví.

Na co se dívat

Napětí v Amodeiově argumentu – žádající svět, aby se bál AI a zároveň ji financoval – je přesně to, co rozhodne, zda jeho návrh tempa získá na síle. Pokud lékařské objevy řízené umělou inteligencí začnou přistávat na časové ose, kterou navrhuje, jeho důvěryhodnost na obou stranách argumentu roste. Pokud tak neučiní, varování před vyhynutím a předpovědi vyléčení mohou vypadat jako stejný marketingový nádech v různých kabátech. Ať tak či onak, generální ředitel společnosti Anthropic ze sebe udělal nejzajímavější argument v oblasti technologie.

Stay Ahead of AI

Debaty o bezpečnosti, politické rázové vlny a lidé, kteří přetvářejí hranice – každý den.

Přečtěte si další zprávy o AI →