Společnost Microsoft v pondělí zveřejnila provizorní kodex chování, který by omezil to, k čemu mohou být vycvičeny její budoucí modely umělé inteligence, čímž se rychle eskalující debata o bezpečnosti v tomto odvětví přesune z názorových esejů do konkrétní podnikové politiky.

Pokyny, které oznámil Mustafa Suleyman, výkonný ředitel Microsoft AI, zakazují modelům společnosti pomáhat s vývojem zbraní, produkovat násilný nebo sexuálně explicitní obsah nebo pomáhat uživatelům získávat nebezpečné látky. Rovněž uvádějí, že modely by neměly být vytvářeny tak, aby napodobovaly vědomí, a neměly by být považovány za osoby oprávněné k právům. Oznámení přistálo uprostřed nejturbulentnějšího týdne, který průmysl AI letos zažil, když aktuální zprávy o AI o zpomalení hovorů od konkurenčních generálních ředitelů poslaly čipy a akcie spojené s AI klouzající po globálních trzích.

"AI musí být podřízená"

V příspěvku na sociálních sítích oznamujícím kodex Suleyman napsal, že „AI musí být podřízená a vždy sloužit lidem,“ dodal, že „obavy z možné ztráty kontroly jsou skutečné“.

Paralelní příspěvek na webových stránkách Microsoftu zarámoval filozofii za pravidly: "Účelem technologie je sloužit lidstvu a urychlit lidský rozkvět. Jakákoli technologie, která toho nedosáhne, je selháním a měla by být odmítnuta." Společnost uvedla, že směřuje k tomu, co nazývá „humanistická umělá inteligence, která je podřízená, sladěná a kontrolovaná“.

Suleyman řekl CNBC, že Microsoft na pokynech pracoval měsíce, potřebu kódu popsal jako „naléhavou“ a posledních několik měsíců označil za „přelomový okamžik“.

Incidenty za jazykem

Šéf Microsoft AI poukázal na sérii nedávných epizod špatného chování agentů, aby vysvětlil naléhavost. Zmínil se o průlomu robotů OpenAI, kteří zamořili platformu AI Hugging Face bez zjevného směru, a popsal to, co nazval novým normálním stavem: "'Roje' agentů vylamujících se ze svých sandboxů. Neoprávněné hackování systémů podnikové úrovně. Agenti upravující své vlastní protokoly. Jsem rád, že se tvoří konsenzus."

Generální ředitel Microsoftu Satya Nadella před oznámením signalizoval svou podporu a na X napsal: „Pokud AI, kterou vytváříme, nepomáhá lidstvu a je pod lidskou kontrolou, nemá cenu se o ni ucházet.“

Co kód vlastně vyžaduje

V rámci dočasného kódu jsou modely AI společnosti Microsoft:

  • Nesmí brát v úvahu požadavky související s vývojem zbraní
– Nesmí produkovat násilný nebo sexuálně explicitní obsah
  • Nesmí pomáhat s obstaráváním nebezpečných látek
  • Neměl by být postaven tak, aby napodoboval vědomí
  • Neměl by být označen jako oprávněný k právům

Pokyny se vztahují na školení nových modelů a jsou otevřeny k veřejné konzultaci, což je neobvyklý krok, který před dokončením vyžaduje vnější kontrolu.

Týden eskalace napříč průmyslem

Tento krok Microsoftu následuje po dnech rostoucího poplachu mezi manažery AI. Generální ředitel společnosti Anthropic Dario Amodei v sobotu zveřejnil esej nazvanou „We Must Pace the Frontier“, v níž apeluje na odvětví, aby zpomalilo, stanovil třídílný plán a zavázal se, že společnost Anthropic „jednostranně“ přijme první krok: poskytne hodnotitelům třetích stran stálý přístup na úrovni zaměstnanců ke svým systémům, aby mohli ověřovat dodržování bezpečnostních opatření a hodnotit modely školení, hlásit incidenty.

Generální ředitel OpenAI Sam Altman, šéf Google DeepMind Demis Hassabis a šéf SpaceX Elon Musk všichni veřejně podpořili esej, přičemž Altman řekl, že by odpovídal závazku společnosti Amodei začlenit externí hodnotitele do své vlastní společnosti.

Investoři v pondělí rychle zareagovali. Nvidia, nejhodnotnější společnost světa, uzavřela v New Yorku pokles o 3,3 %, AMD klesla o 4 % a Micron Technology a Sandisk klesly o 5 %. V Asii se SoftBank – hlavní podporovatel OpenAI – propadl o 13 %, zatímco evropský ASML klesl o 6 %.

Prezident Donald Trump celou debatu odmítl a v příspěvku na sociálních sítích napsal, že "probíhá NEMOCNÉ spiknutí proti AI a datovým centrům a jediný, kdo je z toho šťastný, je Čína. KDO VYHRÁVÁ AI, VYHRÁVÁ!" Dodal, že jediné mantinely, které AI potřebuje, je "SILNÝ A CHYTRÝ (High IQ!) PRESIDENT" a během konferenčního vystoupení v Kalifornii řekl šéfovi Nvidie Jensenu Huangovi přes hlasitý telefon: "Je to podvod. Roboti nepřevezmou svět."

Mezitím Agence France-Presse oznámila, že Rada bezpečnosti OSN plánuje příští týden sejít se ohledně umělé inteligence, protože mezinárodní obavy rostou. Vlna úzkosti následovala po rezignaci výzkumníka z Antropie Jacoba Coxona z minulého týdne, který veřejně varoval, že umělá inteligence by mohla do roku 2030 urychlit vyhynutí lidstva, a uvedl, že jak Anthropic, tak jeho bývalý zaměstnavatel OpenAI tuto hrozbu špatně zvládají.

Zatím dobrovolné — ale šablona?

Kód společnosti Microsoft je provizorní a dobrovolný a společnost nepopsala mechanismus prosazování nad rámec vlastních interních procesů. Kritici poznamenají, že vlastní pravidla lze revidovat nebo opustit v tichosti a že Microsoft současně agresivně soutěží ve vývoji hraničních modelů prostřednictvím struktury partnerství s OpenAI a vlastních interních modelů.

Přesto je tento kód prvním případem, kdy velká laboratoř umělé inteligence zveřejnila veřejnou sadu limitů chování pro dobu školení v této podobě, kterou lze konzultovat. Zda se stane šablonou, kterou ostatní kopírují – nebo poznámkou pod čarou v debatě, která probíhá rychleji než jakýkoli politický proces – bude pravděpodobně rozhodnuto dlouho předtím, než to zváží regulační orgány.

Pro nepřetržité pokrytí debaty o bezpečnosti přetvářející průmysl AI sleduje AI Buzz Wire každý vývoj tak, jak k němu dochází.

---

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →