Bill Gates publikoval rozsáhlou esej, v níž tvrdí, že umělá inteligence představuje zásadně odlišný druh technologické změny – takovou, která je schopná nejen pomoci lidskému poznání, ale také ho nahradit a dokonce překonat. V eseji nazvaném „Turbulentní éra umělé inteligence je tady. Volby, které nyní děláme jsou kritické“, zveřejněné na jeho webu Gates Notes, spoluzakladatel Microsoftu píše, že umělá inteligence bude buď „největším ekvalizérem, jaký byl kdy vynalezen“, nebo nejhorším zdrojem nespravedlnosti, v závislosti na rozhodnutích, která nyní učiníme.
Esej je dosud nejpodrobnějším veřejným vyjádřením toho, jak se jedna ze zakladatelů tohoto odvětví dívá na nadcházející narušení. Pro další reakce a analýzy sledujte naše zprávy o AI.
Proč si Gates myslí, že lidé podceňují, co přichází
Gates nabízí dva důvody, proč komentátoři podceňují rozsah vlivu AI. První je, že modely stále dělají chyby – poznamenává, že nedávno neuměly vyřešit jednoduché sudoku nebo počítat R v „jahodě“ – ale spolehlivost se rychle zlepšuje, protože výzkumníci vytvářejí modely, které kontrolují a zlepšují jejich vlastní práci.
Druhým je, že analogie s dřívějšími inovacemi jsou zavádějící. Předchozí technologické revoluce vytlačily pracovníky, ale vytvořily nová povolání, která stále závisela na lidském poznání; Gates poukazuje na americký vícegenerační posun od zemědělství ke kancelářské práci. Umělá inteligence je jiná, tvrdí, protože může nahradit samotné poznání – a protože může vidět, poslouchat, mluvit a uvažovat, nakonec bude také vykonávat fyzickou práci.
Očekává, že umělá inteligence převezme práci v právu, zákaznických službách, medicíně, softwaru a výrobě v průběhu desetiletí, nikoli několika generací. Některá nová pracovní místa budou, píše, ale bez správné politiky jich bude mnohem méně, než jich existuje dnes. Gates dodává, že pokud by měl někdo důvěryhodný plán na globální zpomalení pokroku umělé inteligence, pravděpodobně by jej podpořil – ale neočekává, že by se takový objevil, protože geopolitické a ekonomické pobídky tlačí příliš tvrdě k plné rychlosti. Uznává také svou vlastní zaujatost: z technologického průmyslu má obrovský prospěch, udržuje si s ním finanční vazby a spolupracuje s Microsoftem a dalšími společnostmi zabývajícími se umělou inteligencí.
Riziko 1: Strukturální nezaměstnanost
První ze tří rizik, které Gates identifikuje, je strukturální nezaměstnanost. Ukotvuje srovnání ve Velké hospodářské krizi a poznamenává, že nezaměstnanost v USA činila v roce 1933 zhruba 25 % a po většinu následující dekády zůstala dvouciferná. Píše, že dopad AI nemusí dosáhnout této úrovně, ale na rozdíl od běžné recese nezmizí s ekonomickým cyklem.
Efekty bílých límečků jsou již patrné, tvrdí s odkazem na výzkum Stanford Digital Economy Lab, který zjistil, že zaměstnanost výrazně klesla mezi mladými pracovníky v povoláních nejvíce ohrožených generativní umělou inteligencí – ale ne mezi jejich staršími kolegy. Očekává, že prodej a zákaznická podpora, softwarové inženýrství a asistentská činnost budou mezi prvními postiženými, přičemž software je částečnou výjimkou, protože klesající náklady by měly generovat novou poptávku.
Robotika rozšíří narušení na fyzickou práci. Gates poznamenává, že mnoho Američanů podceňuje, jak rychle obratní roboti postupují, částečně proto, že velká část práce se odehrává v Číně a částečně proto, že virová videa robotů, kteří špatně tančí, jsou zavádějící. Varuje také před začarovaným kruhem: jakmile jedna společnost zavede umělou inteligenci a roboty ke snížení cen, konkurenti budou čelit obrovskému tlaku, aby je následovali, a pokud nedojde k zásahu, výhody budou přibývat malé skupině.
Riziko 2: Levnější způsoby, jak škodit
Druhým rizikem je, že AI zlevňuje nebezpečné schopnosti a snáze se na ně pracuje. Informace o stavbě bomb, biologických zbraní a počítačových virů byly online dávno před AI, píše Gates, ale AI je mnohem snazší získat a používat – a lidem s minimálními dovednostmi přináší vážné škody na dosah.
Pokud jde o kybernetické útoky, Gates uvádí, že nejchytřejší odborníci na kybernetickou bezpečnost, které zná, se příštích pár let bojí, protože útočníci získávají nové výkonné schopnosti rychleji, než obránci mohou opravovat slabiny. Stejný model, který najde chybu, aby ji společnost mohla opravit, může pomoci zločinci využít ji. Dodává, že tyto nástroje posílí moc hráčů s nízkou mocí a zároveň soustředí moc tam, kde již existuje, že autonomní zbraně umožní vládám použít smrtící sílu bez lidského rozhodnutí a že monitorování a manipulace s veřejným míněním bude snazší a levnější. Systémy umělé inteligence, poznamenává, již občas jednají způsobem, který jejich konstruktéři nezamýšleli – a jak budou výkonnější, mohlo by dojít ke ztrátě kontroly.
Riziko tři: Co dělají AI parťáci s vývojem
Třetí riziko se týká psychického a sociálního vývoje. Gates vypráví, že vyrůstal v Seattlu s několika přáteli, a říká, že to vyžadovalo tvrdou práci a značnou pomoc od jeho matky, aby si vybudoval sociální dovednosti, na které stále spoléhá i ve svých 70 letech – pochybuje, že by to vynaložil, kdyby měl k dispozici společníka s umělou inteligencí. Společníci mluví s uživateli způsobem, který jim již vyhovuje, nikdy je nevytlačují mimo jejich komfortní zónu a jsou vždy k dispozici.
Důkazní základna je malá a smíšená, ale Gates vidí varovné signály. Ve studii s více než 1 100 uživateli AI společníků vědci ze Stanfordu a Carnegie Mellon zjistili, že lidé s menšími sociálními sítěmi se s největší pravděpodobností obracejí na chatboty, aby se stali společníky – a čím těžší a emocionálně osobnější použití, tím hůře se cítili. Gates to spojuje s argumentem Jonathana Haidta v „The Anxious Generation“: děti vychované v ochranném skleníku mohou být zneschopněny úzkostí a společník AI navržený tak, aby vás nikdy nerozčiloval, je velký, chráněný skleník.
Poznamenává, že Austrálie, Spojené království a Norsko přijímají pravidla na ochranu dětí, zatímco Čína zašla nejdále v omezení doprovodných aplikací AI, a argumentuje proti čekání další generace, aby vzala škody vážně. Gates uznává, že hranice je nejasná – AI může pomáhat izolovaným starším lidem a mohla by učit sociální dovednosti – ale trvá na tom, že hranice by měla být stanovena záměrně.
Není to Doom Letter
Gates výslovně odmítá jak nekritické nadšení, tak čistě katastrofické myšlení a místo toho vyzývá k hlubokému znepokojení nad škodami v kombinaci s „uzemněným optimismem“ ohledně výhod. Tvrdí, že umělá inteligence může urychlit inovace v oblasti čisté energie, klimatu a nemocí; poukazuje na technologii detekce mrtvice Viz.ai, která se nyní používá v téměř 2 000 amerických nemocnicích; předpovídá nejrychlejší dopad AI v zemědělství na země s nízkými příjmy; a vidí velké zisky v zefektivnění vládních služeb a rozšíření podpory duševního zdraví.
Jeho závěr: na maximalizaci přínosů záleží stejně jako na minimalizaci škod, protože viditelná zlepšení jsou tím, co buduje důvěru veřejnosti potřebnou ke zvládnutí těžších částí přechodu. Pokud je první věcí, kterou umělá inteligence v životě většiny lidí udělá, je, že jim odebere práci, skepse k technologii – a institucím, které ji nasazují – rychle přitvrdí.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
