Bill Gates vyzval federální zákonodárce a donucovací orgány Spojených států, aby regulovali vývoj umělé inteligence, a v televizním rozhovoru odvysílaném v neděli řekl, že technologie, která zůstane bez kontroly, může způsobit „miliardu úmrtí“ – a trvá na tom, že „nikdo si nemyslí, že samoregulace je dostatečná“.

Spoluzakladatel Microsoftu to řekl v rozhovoru s Kristen Welker, hostitelkou Meet the Press NBC. "Potřebujete donucovací orgány a politiky, aby se dostali do diskuse o tom, jak vypadají ochranná opatření a monitorování," řekl Gates podle The Guardian. "A to musí být povinná věc." For more context on this story, see our ongoing artificial intelligence updates.

Varování před vyzbrojenou AI

Nejostřejší jazyk miliardářského filantropa zazněl, když popsal, co se může stát, pokud pokročilé nástroje umělé inteligence skončí ve špatných rukou. Umělá inteligence ovládaná zlomyslně, řekl, bude „určitě dost silná na to, aby vyvolala události, které, víte, způsobí miliardu úmrtí“.

„Nikdy neexistovala tak silná zbraň, jako je kombinace lidí se zlými úmysly pomocí nejnovějších nástrojů umělé inteligence,“ dodal Gates. Jeho komentáře odrážejí varování od rozšiřujícího se okruhu technologických a politických osobností, kteří se obávají, že pokročilé systémy by mohly urychlit katastrofické výsledky, včetně biologických zbraní a jaderného konfliktu.

Gates označil regulaci spíše za zvládnutelné náklady než jako brzdu pokroku. "Pro průmysl to bude trochu režijní náklady - ale ne dramatické zpomalení toho, co dělají," řekl.

Součást trvalé kampaně

Rozhovor není ojedinělým varováním. Vyplývá to z eseje o zhruba 6 000 slovech, kterou Gates publikoval na konci srpna a vysvětloval své obavy z umělé inteligence a potenciálně smrtelných rizik, která podle něj představuje pro lidstvo ve velkém měřítku. Mnoho pozorovatelů poznamenalo, že konverzace Meet the Press představuje pokračování tohoto argumentu, tentokrát předneseného běžnému publiku v neděli ráno.

Gates není sám mezi technologickými lídry, kteří volají po zpomalení vývoje AI. Sam Altman z OpenAI a Elon Musk se k němu přidali a vyzvali průmysl, aby postupoval opatrněji, i když se jejich společnosti předhánějí v dodání schopnějších modelů.

Tlak na Microsoft zevnitř

Gatesův zásah přichází, když jeho bývalá společnost čelí vlastním sporům o AI. Zaměstnanci a aktivisté Microsoftu zorganizovali kampaň, jejímž cílem je přimět společnost, aby přerušila vztahy s izraelskou armádou, která údajně používala nástroje AI v konfliktu v Gaze, podle eseje Guardianu, kterou v pátek zveřejnili Mohamed Hussein a Granate Kim ze skupiny No Azure for Apartheid.

Autoři eseje také varovali, že systémy podporované umělou inteligencí jsou nasazovány uvnitř samotných Spojených států, a poukázali na to, že ministerstvo pro vnitřní bezpečnost využívá cloud Azure od Microsoftu k podpoře sledování, zatýkání a masových deportací imigrantů.

Mezera v regulaci

Gatesovo volání přistane v politickém vakuu. Spojené státy stále nemají žádný komplexní federální rámec, který by řídil vývoj nebo zavádění pokročilých systémů umělé inteligence, i když pohraniční laboratoře dodávají stále autonomnější agenty a vlády po celém světě se snaží udržet krok. Konkurenční návrhy se v Kongresu zastavily v otázkách inovací, odpovědnosti a vymáhání a ponechávají agenturám, aby uplatňovaly patchworkové autority na technologii, která se vyvíjí rychleji než proces tvorby pravidel.

To, co odlišuje Gatesův argument, je jeho trvání na tom, že dohled je spíše povinný než dobrovolný. Argumentem, že „samoregulace nestačí“, přímo zpochybňuje převládající postoj samotných laboratoří, z nichž většina upřednostňuje interní bezpečnostní závazky, dobrovolná hodnocení a průmyslové orgány před závaznou legislativou.

Jeho rámování – že shoda by se rovnala „trochu režii“ – je také pozoruhodné, že pochází od někoho, jehož bohatství bylo vybudováno v softwarovém průmyslu. Podkopává to běžné tvrzení odvětví, že smysluplná regulace by nutně zmrazila ten druh rychlého pokroku, který definoval poslední čtyři roky vývoje AI.

Lehčí poznámka o osobním používání AI

Rozhovor nebyl jednotně ponurý. Když se Welker zeptal, zda se Gates ve svém životě vyhýbá umělé inteligenci, odpověděl se smíchem: "No, nepoužívám ji pro své osobní vztahy. Nejsem jako: 'Hej, máš mě rád? Hej, jsem hodný kluk?'"

"Takže jsem nikdy nešel touto cestou, protože mám štěstí, pokud jde o rodinu, přátele a všechno," řekl. "Nestýkám se s AI. Ví, že jsem velmi vážný člověk."

Co se stane dál

Zda Gatesovo varování posune legislativu, je otevřenou otázkou. Ale skutečnost, že jeden z nejprominentnějších světových technologů veřejně požaduje, aby politici a orgány činné v trestním řízení převzali formální roli v dohledu nad umělou inteligencí, dodává váhu debatě, která se stále více odehrává ve volebních kampaních, soudních síních a mezinárodních jednáních.

S průzkumy veřejného mínění z nárůstu umělé inteligence a s titulky incidentů zahrnujících autonomní agenty roste tlak na zákonodárce, aby přeměnili široké obavy na vymahatelná pravidla. Gatesův vzkaz jim byl jednoduchý: průmysl se nebude hlídat a náklady na jednání jsou mnohem nižší než riziko selhání.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →