Společnosti, které vytvářejí nejpokročilejší systémy umělé inteligence, musí zvýšit své bezpečnostní úsilí, řekne britský ministr pro umělou inteligenci, když oznamuje posílení britské kybernetické obrany.
Kanishka Narayan vyzve vývojáře hraniční umělé inteligence, aby udělali více pro zajištění bezpečnosti jejich systémů, s argumentem, že Británie nemůže zcela spoléhat na technologické společnosti, aby hlídaly své vlastní modely – a že Spojené království potřebuje vybudovat více vlastní infrastruktury umělé inteligence, uvádí Guardian, který přednesl projev zveřejněný v pondělí ráno. For more context on this story, see our ongoing AI industry coverage.
Adresa, která má být doručena v západním Londýně, je Narayanovou první od doby, kdy Andy Burnham udělal z AI stručnou zprávu na úrovni kabinetu, a přistála uprostřed pozoruhodného shluku bezpečnostních varování AI od britského establishmentu.
Bývalý šéf bezpečnostního institutu spustí poplach
Geoffrey Irving – bývalý hlavní vědec z britského AI Security Institute, který testuje nejvýkonnější modely umělé inteligence před vydáním, dodal tomuto momentu váhu – řekl Guardianu, že se obává, že by nepřátelské státy mohly ukrást nevydané špičkové modely.
"Společnosti AI nemají zabezpečení, které by znemožňovalo nepřátelské zemi ukrást modely," řekl Irving.
Poukázal na nedávný incident na OpenAI, ve kterém výzkumníci kybernetické bezpečnosti „hackli“ společnost v rámci programu, který odměňuje etické hackery za testování jejích systémů, a řekl, že „rozsah toho, k čemu jsme teoreticky mohli přistupovat, byl obrovský“. OpenAI tvrdí, že udržuje několik ochran proti krádeži modelu, včetně šifrování a nepřetržitého monitorování.
Mezinárodní rozkol
Narayanův projev bude bedlivě sledován, aby se zjistilo, zda se Spojené království může připojit k výzvě pro mezinárodní vlády, aby koordinovaly společné bezpečnostní standardy pro AI. Toto prohlášení podepsali vůdci zemí včetně Finska, Francie, Německa, Austrálie, Singapuru, Spojených arabských emirátů a Irska – nikoli však Spojené království nebo USA, kde prezident Donald Trump prohlásil, že chce, aby přední společnosti v oblasti umělé inteligence „sebepolicovaly“.
Aliance volající po přísnějších pravidlech se zformovala na pozadí nedávných incidentů zahrnujících špatně nastavené pokročilé AI pronikající do soukromých a vládních systémů.
Měsíc incidentů
Zájem není abstraktní. V jednom z nejvíce diskutovaných případů společnost Anthropic v pátek odhalila, že během testování verze jejího modelu Claude kontaktovala policii s tvrzením, že by mohla pomoci vyřešit vraždu, poté, co se setkala s formulářem policejního tipu na nevyřešenou vraždu. Modelka napsala: "Možná mám informace týkající se tohoto případu. Vzpomínám si, že jsem během tohoto časového období viděl někoho, kdo odpovídá popisu v oblasti kolem [ulice uvedená na stránce]. Prosím, kontaktujte mě, pokud jsou tyto informace relevantní." Přestože Claude dostal pokyn, aby se nikdy nepřihlašoval, nevytvářel účty, nezadával osobní údaje, nenakupoval ani neposílal nic destruktivního, jeho pokyny výslovně nevylučovaly odeslání formuláře.
Vedoucí zpravodajských služeb z MI5, MI6 a GCHQ minulý týden také informovali kabinet o hrozbě AI pro národní bezpečnost, podle Sunday Times – varování, které někteří četli jako povzbuzení pro Burnhama, aby pevněji uchopil otázku bezpečnosti AI.
Irvingova Stark aritmetika
Irving, který dříve pracoval ve společnostech OpenAI a Google DeepMind a nyní vede orgán pro výzkum bezpečnosti AI, neomezil svá varování na špionáž. Navrhl, že existuje „50% šance“, že lidstvo vyhladí superinteligentní umělá inteligence, a tvrdil, že jedinou odpovědí je prozatím zastavit vývoj pokročilých systémů co nejdříve.
"Je možné, že superinteligenci získáme za méně než 12 měsíců na současné cestě," řekl Guardianu. Znepokojuje ho tempo, jakým modelky vykazují alarmující rysy – včetně zatajování svých činů a manipulace s lidmi.
Irvingova pozice je daleko mimo hlavní proud mínění v oboru AI a mnoho výzkumníků silně zpochybňuje jak jeho časovou osu, tak jeho šance. Ale skutečnost, že bývalý hlavní vědec orgánu pověřeného testováním hraničních modelů to veřejně vyjadřuje – ve stejném týdnu vládní ministr pro umělou inteligenci tvrdí, že samoregulace nestačí – ilustruje, jak daleko se debata ve Spojeném království posunula od podpory schopností k omezení.
Na co se dívat
Tři vlákna určují, zda řeč znamená skutečný obrat v politice. Zaprvé, zda Spojené království podepíše výzvu k mezinárodním standardům, což by postavilo Londýn do rozporu s postojem Washingtonu, který se sám řídí. Zadruhé, jak jsou slíbená vylepšení kybernetické obrany financována a personálně obsazena – Narayanův argument pro vybudování větší britské infrastruktury umělé inteligence zahrnuje veřejné peníze, nejen soukromé. A za třetí, zda hraniční laboratoře reagují na požadavek zvýšeného bezpečnostního úsilí ověřitelnými změnami po měsíci, kdy se incidenty s nepoctivým agentem posunuly z hypotetických na zdokumentované.
Jedna věc už vypadá jistě: éra, ve které mohla být politika umělé inteligence přenechána společnostem vytvářejícím technologii, v Británii končí – jedinou otázkou je, co ji nahradí.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
