Bill Gates, kdysi jeden z nejvýznamnějších optimistů v oblasti umělé inteligence technologického průmyslu, nyní varuje, že umělá inteligence je nebezpečnější, než průmysl veřejně přizná. V eseji o téměř 6 000 slovech na svém blogu Gates Notes a v doprovodném rozhovoru pro The New York Times zveřejněném tento týden spoluzakladatel Microsoftu popisuje přechod do věku umělé inteligence jako „jedno z nejturbulentnějších období v historii lidstva“ – a říká, že svět na to nemá žádný plán.

Jeho nejostřejší kritika míří na jeho vlastní průmysl, který obviňuje ze záměrného zlehčování nebezpečí, protože je v sázce příliš mnoho peněz. For more context on this story, see our ongoing AI trends.

'Velmi znepokojený' v soukromí, tichý na veřejnosti

"V soukromí jsou lidé, kteří chápou, jak je to dobré a jak se to zlepšuje, velmi znepokojeni," řekl Gates deníku Times. Říká, že na veřejnosti si stejní lidé říkají: "Hele, chlape, neříkej to. Je to pro nás špatné - další bilion dolarů, které se snažíme získat."

Esej odmítá průmyslem preferované rámce, podle kterých by se společnosti měly hlídat. "Samoregulace na nejnebezpečnějším nástroji, který byl kdy vynalezen? Ne, díky!" Gates píše.

Tři nebezpečí Gates říká, že svět není připraven

Gates strukturuje své varování kolem tří rizik, která Fortune shrnula jako „zakrnělý“ dětský vývoj, povzbuzení zločinci a mizení pracovních míst pro generaci Z – rizika, na která podle něj světoví lídři nejsou připraveni.

Trvalá ztráta zaměstnání. Gates očekává, že jako první budou zasaženy role na základní a střední úrovni v oblasti prodeje, zákaznických služeb, vývoje softwaru a právní podpory, přičemž dělníci budou pod tlakem, jakmile budou obratní roboti dramaticky levnější – vývoj, jak uvádí, probíhá převážně v Číně. Poukazuje na Stanfordský výzkum, který ukazuje, že od doby, kdy se umělá inteligence rozšířila, zaměstnanost mezi mladými pracovníky na nejexponovanějších pozicích již znatelně klesla, zatímco starší kolegové byli zatím ušetřeni. Bioweapons. Mimo trh práce Gates varuje, že AI snižuje bariéru pro malou skupinu lidí s přístupem k pokročilým modelům pro vývoj nových patogenů. Uznává nepříjemnou realitu, že užitečné a nebezpečné schopnosti je těžké oddělit: stejný model, který najde bezpečnostní díru, aby ji uzavřel, může někomu pomoci jej zneužít. Návykoví společníci s umělou inteligencí. Na osobní stránce Gates poukazuje na psychickou a sociální újmu od chatbotů, kteří nikdy nesouhlasí a jsou vždy k dispozici. Cituje výzkum Stanforda a Carnegie Mellona, ​​který ukazuje, že čím intenzivněji a emocionálněji lidé tyto systémy používali, tím hůře se cítili – se zvláštním zájmem o děti a o narušení kritického myšlení v éře hlubokých falšování a dezinformací na míru.

Proč si Gates myslí, že tato doba je jiná

Část jistoty tohoto odvětví spočívá v historii: minulé technologické otřesy nakonec vytvořily více pracovních míst, než jich zničily. Gates nazývá tento komfort chybou a popisuje věk AI jako „zcela, absolutně, zcela, zcela odlišný“ od minulých směn.

Na rozdíl od osobního počítače, kterému trvalo dvě dekády, než přetvořil práci, AI běží na zařízeních, která lidé již vlastní, a mluví jednoduchým jazykem. "Nemusíme se tomu přizpůsobovat, protože ono se může přizpůsobit nám," píše. Poprvé může technologie nahradit a následně překonat lidské poznání napříč odvětvími během jediného desetiletí, nikoli napříč generacemi.

Budíček, říká Gates, přišel z jeho vlastního domova: z programování. Antropický Claudeův kód, řekl deníku Times, ho šokoval. "Myšlenka, že teď jsou tyto věci ve smyslu smyslu lepší než já, je jako: Co to sakra?"

Daně, smlouvy a „lidsky vyhrazená“ pracovní místa

Gatesovy předpisy jsou konkrétní. Vyzývá k demokratickému procesu a novým národním a mezinárodním kontrolním institucím po vzoru režimů vytvořených pro jaderné zbraně, letectví a ochranu ozonové vrstvy. Navrhuje symbolickou daň na používání umělé inteligence a na roboty, přičemž poukazuje na asymetrii současného systému: najmutí osoby spouští daně ze mzdy, zatímco nákup robota lze odepsat okamžitě – což účinně dotuje automatizaci.

Tvrdí také, že některé práce, zejména pečovatelské, by měly zůstat vyhrazeny pro lidi, což je myšlenka, kterou označuje jako „Human Reserved“.

Gates otevřeně připouští možný střet zájmů: stále má finanční vazby na technologický průmysl, ačkoli říká, že zisky plynou do Gatesovy nadace. A pozorně si všímá obrovského přínosu této technologie – ve vědě, zdravotnictví, zemědělství v chudých zemích a vzdělávání – a argumentuje pouze tím, že tyto výhody musí být zajištěny prostřednictvím politiky a nikoli ponechány na tržních silách.

Přitvrzující tón se spoustou společnosti

Posun v Gatesově rétorice je výrazný. V roce 2018 popsal AI jako v podstatě lepší software a těšil se na delší prázdniny. V roce 2022 tvrdil, že vysídlení pracovníci budou začleněni do péče o seniory a děti. Ještě v září 2024 pochyboval, že AI zásadně změní problém dezinformací.

Také není sám. Generální ředitel společnosti Anthropic Dario Amodei varoval před biologickými zbraněmi generovanými umělou inteligencí v roce 2024 a v roce 2025 předpověděl, že až polovina pracovních míst v kancelářích na základní úrovni by mohla zmizet a nezaměstnanost se vyšplhala na 10 až 20 procent. Amodei také zavedl symbolickou daň. A výzkumníci Gary Marcus a Anka Reuel již v roce 2023 navrhli globální neziskovou agenturu AI podle vzoru Mezinárodní agentury pro atomovou energii.

Rozdíl je nyní v poslu: muž, který vybudoval počítačový průmysl v globální sílu, došel k závěru, že tato vlna se neřídí starými pravidly – a že čekat, až se průmysl sám napraví, není plán.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →