Spoluzakladatel společnosti Anthropic říká, že vlády možná budou muset donutit společnosti s umělou inteligencí, aby instalovaly „kill switch“ – mechanismus pro úplné vypnutí systémů umělé inteligence – a že externí inspektoři by měli být schopni ověřit, že skutečně funguje.
Jack Clark, jeden ze sedmi zakladatelů laboratoře pro umělou inteligenci v hodnotě 965 miliard dolarů, řekl BBC, že zatímco většina předních laboratoří již má interní způsoby, jak „vytáhnout zástrčku“ z nebezpečných systémů, společnost „možná bude chtít nakonec přijmout pravidla“, aby takové přepínače byly povinné a nezávisle kontrolovatelné. Pro čtenáře, kteří sledují širší debatu o bezpečnosti AI, jeho zásah představuje zatím nejkonkrétnější návrh politiky z hraniční laboratoře během týdne eskalujících varování.
"Měli byste nařídit společnostem, aby rozhodně měly přepínač zabíjení? Je ten přepínač zabíjení ověřitelný třetí stranou?" Clark řekl v rozhovoru s technologickou reportérkou Kali Hays a ekonomickým redaktorem Faisalem Islamem. "Myslím, že to je věc, kterou společnost bude chtít vědět a možná bude chtít nakonec přijmout pravidla."
„Házíme kostkami s nesmírnými riziky“
Nejvýraznějším Clarkovým komentářem bylo plošné odmítnutí status quo. Na otázku o trajektorii tohoto odvětví řekl, že umožnit AI pokračovat jako „zcela neregulované odvětví“ byl špatný nápad.
"Házíme kostkami s nesmírným rizikem," řekl. "A jde o to, že musíme změnit směr tohoto odvětví."
Na rozdíl od některých svých kolegů se Clark odmítl vyjádřit k riziku lidského vyhynutí. "Nemyslím si, že tyto statistiky jsou tak užitečné," řekl - což je pozoruhodný kontrast s antropickým výzkumníkem Evanem Hubingerem, který minulý týden řekl, že osobně věřil, že v příštím desetiletí existuje více než 10% šance na vyhynutí člověka z umělé inteligence, a s průkopníkem umělé inteligence Geoffrey Hintonem, který v pátek BBC řekl, že 10% odhad není "nepřiměřený."
Co Clark nezpochybnil, je směr cesty. Umělá inteligence je, jak uvedl ve stejném rozhovoru, „ze dne na den silnější“ – a tvrdil, že specifika jakéhokoli požadavku na vypnutí, včetně toho, kdo by to ověřil a jak, patří do „rozsáhlejší politické konverzace“, která se nyní kolem AI odehrává.
Návrh s legislativním impulsem
Clarkův návrh nepřistává ve vzduchoprázdnu. Američtí zákonodárci již předložili legislativu nazvanou Kill Switch Act, která by vyžadovala, aby hraniční vývojáři AI zabudovali do svých systémů mechanismy pro vypnutí – návrh zákona AI Buzz Wire pokrýval minulý měsíc, protože jeho naléhavost rostla po incidentech s nepoctivými agenty.
Nápad také čelí otevřené skepsi. Ve Spojeném království, obchodní ministr Jonathan Reynolds řekl BBC, že tento koncept nepovažuje za užitečný, řekl, že si „není opravdu jistý, co by to znamenalo v praxi“, a varoval, že přílišná regulace by mohla zemi odříznout od modelů vyvinutých v zahraničí.
Pozadí: Bezpečnostní občanská válka – a IPO
Clarkovy komentáře omezují týden, kdy se bezpečnost AI přesunula z tématu semináře na zprávy na titulní stránce. Generální ředitel společnosti Anthropic Dario Amodei o víkendu vyzval ke zpomalení tempa hraničního rozvoje a jeho bedlivějšímu sledování, přičemž trval na tom, že jakákoli pauza by měla přijít „bez obětování komerční výhody“. Poté tento případ předal mainstreamovému americkému publiku v rozhovoru s Andersonem Cooperem ze CNN, přičemž sám Coxon se objevil v síti, aby na něj reagoval. Tyto poznámky následovaly po virálním rezignačním příspěvku od bývalého antropického výzkumníka Jacoba Coxona, který varoval před osudem lidstva, což vedlo k Hubingerově odhadu vyhynutí. Guardian zase zkoumal, proč toto konkrétní varování o soudném dni prorazilo tam, kde předchozí vybledly.
Alarmy se setkaly s otevřeným výsměchem ze strany částí technologického průmyslu. Generální ředitel Hugging Face Clement Delangue zesměšnil rozhodnutí udělat z Coxona hlásnou troubu pro riziko vyhynutí a napsal: "Promiň, ale ptát se Jacoba na riziko vyhynutí AI je jako ptát se svého AC chlapa na změnu klimatu." Generální ředitel společnosti Grindr George Arison šel ještě dále a tvrdil, že šíření strachu je komerčně motivované. „Jediný způsob, jak ospravedlnit tato ocenění, je skutečně tvrdit: ‚Převezmu každé odvětví a převezmu každou práci a moje umělá inteligence bude dělat všechnu tu práci‘,“ řekl.
Na výsledku této debaty také závisí obrovské množství peněz. Společnost Anthropic se připravuje na první veřejnou nabídku v hodnotě 965 miliard dolarů, zatímco OpenAI – naposledy v hodnotě 852 miliard dolarů – se očekávalo, že vstoupí na burzu, než generální ředitel Sam Altman v pátek řekl, že IPO se letos kvůli bezpečnostní kontroverzi neuskuteční. Kritici jako Arison tvrdí, že doomová rétorika a fundraisingové hřiště jsou dvě strany téže mince; Clarkova odpověď je, že průmysl musí bez ohledu na to změnit kurz.
Zda se povinný a ověřitelný přepínač zabíjení někdy stane zákonem, bude záležet na zákonodárcích, kteří dosud projevili malou chuť omezovat průmysl, který pohání americkou ekonomiku. Ale poprvé je jeden z nejmocnějších zasvěcenců této technologie výslovně zve, aby to zkusili.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
