Firma Microsoft opublikowała w poniedziałek tymczasowy kodeks postępowania, który ograniczałby możliwości szkolenia przyszłych modeli sztucznej inteligencji, przenosząc szybko narastającą w branży debatę na temat bezpieczeństwa z esejów opiniotwórczych do konkretnej polityki korporacyjnej.

Wytyczne ogłoszone przez Mustafę Suleymana, dyrektora naczelnego Microsoft AI, zabraniają modelkom firmy pomagania w opracowywaniu broni, tworzeniu treści zawierających przemoc lub o charakterze jednoznacznie seksualnym lub pomaganiu użytkownikom w zdobywaniu niebezpiecznych substancji. Twierdzą również, że nie należy budować modeli imitujących świadomość i nie należy ich uważać za przysługujące im prawa. Ogłoszenie ogłoszono w środku najbardziej burzliwego tygodnia w branży sztucznej inteligencji w tym roku, gdy najnowsze wiadomości o sztucznej inteligencji wezwania dotyczące spowolnienia ze strony konkurencyjnych dyrektorów generalnych spowodowały spadki na rynkach światowych w przypadku chipów i akcji powiązanych z sztuczną inteligencją.

„AI musi być podporządkowana”

W poście w mediach społecznościowych ogłaszającym wprowadzenie kodeksu Sulejman napisał, że „sztuczna inteligencja musi być podporządkowana i zawsze służyć ludziom”, dodając, że „obawy przed możliwą utratą kontroli są realne”.

W równoległym poście na stronie internetowej Microsoftu przedstawiono filozofię zasad: „Celem technologii jest służenie ludzkości i przyspieszenie jej rozwoju. Każda technologia, która tego nie osiąga, jest porażką i należy ją odrzucić”. Firma stwierdziła, że ​​zmierza w kierunku tak zwanej „humanistycznej sztucznej inteligencji, która jest podporządkowana, dostosowana i ograniczona”.

Suleyman powiedział CNBC, że Microsoft pracował nad wytycznymi od miesięcy, opisując potrzebę opracowania kodu jako „pilną”, a ostatnie kilka miesięcy nazywając „przełomowym momentem”.

Wydarzenia związane z językiem

Aby wyjaśnić pilność sprawy, szef sztucznej inteligencji Microsoftu wskazał na serię niedawnych epizodów niewłaściwego zachowania agentów. Odniósł się do ucieczki botów OpenAI, które bez wyraźnego kierunku zaatakowały platformę sztucznej inteligencji Hugging Face i opisał to, co nazwał nową normalnością: „Roje” agentów wydostające się ze swoich piaskownic. Nieautoryzowane włamania do systemów klasy korporacyjnej. Agenci modyfikujący własne logi. Cieszę się, że kształtuje się konsensus”.

Dyrektor generalny Microsoftu, Satya Nadella, zasygnalizował swoje poparcie przed ogłoszeniem, pisząc w X: „Jeśli sztuczna inteligencja, którą budujemy, nie pomaga ludzkości i nie znajduje się pod jej kontrolą, nie warto po nią sięgać”.

Czego faktycznie wymaga kod

Zgodnie z tymczasowym kodem modele sztucznej inteligencji Microsoftu:

  • Nie wolno uwzględniać próśb związanych z rozwojem broni
  • Nie może generować treści zawierających przemoc lub o charakterze jednoznacznie seksualnym
  • Nie może pomagać w pozyskiwaniu substancji niebezpiecznych
  • Nie należy go budować tak, aby imitował świadomość
  • Nie należy go postrzegać jako osoby uprawnionej do praw

Wytyczne mają zastosowanie do szkolenia nowych modeli i są udostępniane do konsultacji społecznych, co jest niezwykłym krokiem, który wymaga zewnętrznej kontroli przed ich sfinalizowaniem.

Tydzień eskalacji w całej branży

Posunięcie Microsoftu następuje po dniach narastającego niepokoju wśród dyrektorów AI. W sobotę dyrektor generalny Anthropic, Dario Amodei, opublikował esej zatytułowany „We Must Pace the Frontier”, w którym apeluje do branży o spowolnienie, przedstawiając trzyczęściowy plan i zobowiązując się, że Anthropic „jednostronnie” wykona pierwszy krok: zapewni zewnętrznym oceniającym stały dostęp na poziomie pracowników do jej systemów, aby mogli zweryfikować przestrzeganie środków bezpieczeństwa, zgłosić incydenty i ocenić dopasowanie modeli podczas szkolenia.

Dyrektor generalny OpenAI Sam Altman, szef Google DeepMind Demis Hassabis i szef SpaceX Elon Musk publicznie poparli esej, a Altman powiedział, że dorówna zobowiązaniu Amodei do zaangażowania zewnętrznych oceniających we własnej firmie.

Inwestorzy zareagowali w poniedziałek szybko. Nvidia, najcenniejsza firma świata, zamknęła działalność w Nowym Jorku o 3,3%, AMD spadło o 4%, a Micron Technology i Sandisk o około 5%. W Azji SoftBank — główny sponsor OpenAI — spadł o 13%, podczas gdy w Europie ASML spadł o 6%.

Prezydent Donald Trump odrzucił całą debatę, pisząc w poście w mediach społecznościowych, że „toczy się CHORY spisek przeciwko sztucznej inteligencji i centrom danych, a jedyne, które się z tego cieszą, to Chiny. KTO WYGRA AI, WYGRYWA!” Dodał, że jedyną barierą, jakiej potrzebuje sztuczna inteligencja, jest „SILNY I INTELIGENTNY (wysoki IQ!) PREZYDENT” i powiedział szefowi Nvidii Jensenowi Huangowi przez zestaw głośnomówiący podczas wystąpienia na konferencji w Kalifornii: „To mistyfikacja. Roboty nie przejmą władzy nad światem”.

Tymczasem Agence France-Presse poinformowała, że ​​Rada Bezpieczeństwa ONZ planuje spotkanie w sprawie sztucznej inteligencji w przyszłym tygodniu w związku ze wzrostem obaw na arenie międzynarodowej. Fala niepokoju nastąpiła po zeszłotygodniowej rezygnacji badacza Anthropic Jacoba Coxona, który publicznie ostrzegł, że sztuczna inteligencja może przyspieszyć wyginięcie ludzkości do 2030 r. i stwierdził, że zarówno Anthropic, jak i jego były pracodawca OpenAI źle radzą sobie z zagrożeniem.

Na razie dobrowolne — ale szablon?

Kod Microsoftu jest tymczasowy i dobrowolny, a firma nie opisała mechanizmu egzekwowania wykraczającego poza własne procesy wewnętrzne. Krytycy zauważą, że narzucone przez siebie zasady można zmienić lub po cichu porzucić, a Microsoft jednocześnie agresywnie konkuruje w rozwoju modeli pionierskich poprzez swoją strukturę partnerstwa z OpenAI i własne modele wewnętrzne.

Mimo to po raz pierwszy duże laboratorium sztucznej inteligencji opublikowało w tej formie publiczny, możliwy do konsultacji zestaw limitów zachowań w czasie szkolenia. To, czy stanie się to szablonem, który inni będą kopiować, czy też przypisem w debacie, która toczy się szybciej niż jakikolwiek proces polityczny, zostanie prawdopodobnie ustalone na długo przed włączeniem się organów regulacyjnych.

Aby móc stale relacjonować debatę na temat bezpieczeństwa zmieniającą branżę sztucznej inteligencji, AI Buzz Wire śledzi na bieżąco każdy rozwój sytuacji.

---

Wyprzedź sztuczną inteligencję

Otrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.

Przeczytaj więcej aktualności o sztucznej inteligencji →