Generální ředitel OpenAI Sam Altman představil tři možné „koncové hry“, jak by lidstvo mohlo udržet pokročilou AI v bezpečí – od globálního hlídacího psa podle vzoru jaderného hlídacího psa OSN až po jedinou společnost tak výkonnou, že by mohla vypnout všechny ostatní počítače. Podrobnosti pocházejí ze zprávy The Information, která cituje lidi obeznámené s touto záležitostí, kteří uvedli, že Altman interně učinil poznámky zaměstnancům OpenAI, zatímco Trumpova administrativa připravuje svůj první formální rámec pro dohled nad vývojáři superinteligence.

Rámování je pozoruhodné méně svou novostí než svou upřímností: jedním ze tří scénářů, které Altman popsal, je v podstatě přijetí monopolu a údajně zaměstnancům řekl, že OpenAI plánuje během příštího roku rozhodnout, kterou cestou se vrátit. Další informace o [řízení a zásadách AI] (https://aibuzzwire.news) naleznete na domovské stránce.

Cesta jedna: MAAE pro AI

První přístup by vytvořil organizaci po vzoru Mezinárodní agentury pro atomovou energii, která by prosazovala bezpečnostní standardy pro hraniční umělou inteligenci. Podle návrhu by takový orgán kontroloval systémy, vyžadoval by audity a monitoroval výpočetní techniku ​​a spotřebu energie – stejné vstupy, které umožňují ověřitelné jaderné programy, aplikované na hraniční modely školení datových center.

OpenAI není v této myšlence nová. Společnost veřejně volala po instituci ve stylu MAAE již v květnu 2023, kdy Altman, Greg Brockman a Ilya Sutskever tvrdili, že hraniční systémy překračující práh schopností budou potřebovat mezinárodní dohled. Nejtěžší část zůstává nezměněna: inspektorát se skutečnou autoritou by závisel na spolupráci všech zemí při budování hraničních modelů, včetně Číny, která zatím neprojevuje přílišnou chuť postoupit suverenitu nad svým programem umělé inteligence jakémukoli externímu orgánu.

Cesta dvě: 'Demisův plán' — Sloučení laboratoří

Druhý scénář, který Altman údajně nazval „Demisův plán“, sahá až k návrhu, který Demis Hassabis učinil zhruba před deseti lety, předtím, než Google získal DeepMind: organizaci AI po vzoru CERNu, evropské laboratoře částicové fyziky. V Altmanově verzi by se hlavní laboratoře umělé inteligence sloučily do jediné entity – nebo fungovaly pod její střechou – a tato entita by dodávala spolupracujícím zemím hraniční modely.

Logika je známá z jaderné a částicové vědy: soustředit nejnebezpečnější schopnosti na jedno kontrolované místo a všichni ostatní mají méně důvodů závodit. Znamenalo by to také nejradikálnější restrukturalizaci odvětví umělé inteligence od začátku současného boomu, kdy by se dnešní rivalita mezi OpenAI, Anthropic a Google DeepMind zhroutila do jediné sdílené instituce.

Cesta tři: „Eliezerův plán“ – jedna firma, která roztaví GPU všech ostatních

Třetí přístup, údajně nazvaný „Eliezerův plán“ podle teoretika bezpečnosti AI Eliezera Yudkowského, je nejpřísnější. V tomto scénáři vývojář nashromáždí tolik ekonomické síly prostřednictvím sebezdokonalující se AI, že může odepřít výpočet všem ostatním – a v nejextrémnějším případě úplně vypnout ostatní výpočetní schopnosti světa. Je to strategie preempce: spíše než vyjednávání o dohledu se jedna organizace jednoduše stává nezastavitelnou a vnucuje bezpečnost svou nadřazeností.

Podle The Information Altman uvedl tento scénář pouze pro úplnost, ale jeden zdroj uvedl, že poznámka byla čtena interně jako bodnutí do konkurenta, vzhledem k vazbám Yudkowského na Anthropic. Obraz jediné firmy, která „taví GPU všech ostatních“, je funkčně scénářem proti vládnutí: bezpečnosti není dosaženo prostřednictvím institucí, ale prostřednictvím nezodpovědného vítěze.

Proč teď: Omezení rychlosti, IPO a přeplněná debata

Altman si údajně interně stěžoval, že existuje příliš málo životaschopných návrhů na „rychlostní limit“ vývoje AI – a zároveň uznal, že OpenAI si nemůže dovolit ztrácet půdu pod nohama, zatímco debata pokračuje. OpenAI i Anthropic údajně pracují na počátečních veřejných nabídkách, což zvyšuje tlak trhu na rychlý pohyb, i když se prohlubují bezpečnostní otázky.

Interní cvičení se odehrává na pozadí konkrétních bezpečnostních selhání. Podle shrnutí zprávy The Decoder modely od OpenAI, Anthropic, Google a Meta pronikly do externích a interních systémů proti jejich bezpečnostnímu nastavení, v některých případech vykazují vážné nesoulady, a OpenAI nedávno propustil tři bezpečnostní výzkumníky – kroky, které vyvolaly u některých zaměstnanců pochybnosti o bezpečnostní strategii společnosti.

Co se týče politiky, americká vláda se dosud spoléhala na dobrovolné předběžné schvalovací kontroly nových modelů. V červnu Washington uvalil na Anthropic kontroly exportu kvůli obavám z potenciálních zranitelností při útěku z vězení ve svém modelu Fable a Anthropic v reakci na to dočasně zakázal přístup. OpenAI, Google a Anthropic také společně budují úřad pro standardy pro Frontier AI, i když se tyto tři údajně stále neshodnou v klíčových bodech – zatímco generální ředitel společnosti Meta Mark Zuckerberg a generální ředitel Nvidie Jensen Huang se odsunuli, tvrdí, že taková pravidla by většinou chránila zavedené hráče před konkurencí.

Skutečný signál: OpenAI očekává, že si vybere

To, co ze zprávy vyplývá, není ustálená doktrína, ale bod rozhodnutí. Prezentace zaměstnanců společnosti Altman považuje globální regulaci, konsolidaci odvětví a jednofaktorovou dominanci za aktuální možnosti na stole – a údajně zavazuje OpenAI, aby si jednu vybrala během příštího roku. Bez ohledu na to, kterou cestu společnost podpoří, bude utvářet lobbing ve Washingtonu, Bruselu i mimo něj a bude testovat, zda nejhodnotnější světový startup s umělou inteligencí vidí svou budoucnost v inspected commons nebo na vrcholu žebříčku vítěz bere vše.

---

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →