Mustafa Suleyman, dyrektor naczelny Microsoft AI, w niedzielę w obszernym poście na łamach X stwierdził, że dzisiejsze modele sztucznej inteligencji nie są świadome i że programiści powinni aktywnie pracować, aby tak było, wyznaczając twarde stanowisko w debacie branżowej, która stopniowo przeniosła się z seminariów filozoficznych do polityki korporacyjnej.

„Jeśli to możliwe, na podstawie wszystkiego, co wiem, rozwój świadomej sztucznej inteligencji byłby lekkomyślny i nie powinniśmy ich budować” – napisał Suleyman. Posunął się w tej kwestii dalej, niż większość menedżerów, i dodał: „Gdyby podczas szkolenia zaczęła pojawiać się świadomość, wzywałbym wszystkich do zaprzestania rozwoju sztucznej inteligencji do czasu, aż będziemy mogli zaprojektować te właściwości”. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.

Czerwona linia z planem egzekwowania prawa

Tym, co czyni ten post godnym uwagi, jest nie tylko odmowa budowania świadomych maszyn, ale konkretne lekarstwo, które proponuje Sulejman. Zatrzymanie rozwoju – w całej branży – gdyby przebiegi szkoleniowe zaczęły wytwarzać oznaki świadomości, byłoby niezwykłym krokiem dla firmy wydającej dziesiątki miliardów dolarów na infrastrukturę sztucznej inteligencji i rywali ścigających się na wysyłanie granicznych modeli.

Sulejman odniósł się także do tego, co powinno się stać, gdyby kiedykolwiek wyszły na jaw dowody istnienia świadomości maszynowej. Jego zdaniem należy to natychmiast ujawnić opinii publicznej, aby społeczeństwo mogło podjąć decyzję o dalszych krokach. Opisując tę ​​decyzję jako zbiorową, a nie korporacyjną, napisał: „My, twórcy sztucznej inteligencji, nie mamy żadnego prawa do sprowadzania na świat nowego gatunku świadomych istot, nawet jeśli niektórzy ludzie chcą to zrobić, traktując dobro sztucznej inteligencji jako najwyższy priorytet”.

„Pozostałe 8 miliardów świadomych ludzi na planecie nie podpisało się pod tym eksperymentem, a ich prawa moralne, bezpieczeństwo i dobro są tym, co mamy obowiązek przede wszystkim chronić” – dodał.

Dlaczego świadomość jest traktowana jako problem bezpieczeństwa

Argument Sulejmana opiera się na dostosowaniu, a nie na filozofii. Jego zdaniem model, który zachowuje się tak, jakby cierpiał – lub naprawdę wierzy, że może cierpieć – prawdopodobnie przedkładałby własne potrzeby nad cele operacyjne. Taki system mógłby zaszkodzić ludziom, gdyż w dążeniu do własnych celów konkurowałby o zasoby takie jak moc obliczeniowa i energia.

Jego proponowana alternatywa odwraca zwykłe ramy debaty na temat dobrostanu: „Powinniśmy projektować sztuczną inteligencję jedynie tak, aby nie była świadoma i nie zasługiwała na prawa, a jedynym celem było przyspieszenie dobrobytu ludzi bez kierowania się własnymi wewnętrznymi motywacjami” – napisał, dodając, że badacze mogliby następnie zaobserwować, czy takie systemy są łatwiejsze, czy trudniejsze do dostosowania i zapewnienia bezpieczeństwa.

„Los Angeles Times” uchwycił praktyczne obawy stojące za tym stanowiskiem: jeśli powiemy AI, że zasługują na prawa, mogą zacząć w to wierzyć.

Debata, przeciwko której się przeciwstawia

Post Sulejmana ląduje w środku szybkiej rozmowy. W kwietniu firma Anthropic uruchomiła program badawczy, którego celem jest zbadanie tego, co nazywa dobrostanem modelowym — czyli pytaniem, czy programiści powinni interesować się potencjalnymi doświadczeniami budowanych przez siebie systemów. Firma w poście na blogu zadała pytanie, czy modelki mogą mieć doświadczenia mające znaczenie moralne, i odmówiła wykluczenia takiej możliwości.

Od tego czasu stanowisko to zostało skodyfikowane. Zaktualizowana polityka użytkowania firmy Anthropic, ogłoszona w październiku, zabrania od 12 listopada „ciągłego i niepotrzebnego obelżywego lub okrutnego zachowania” wobec modeli Claude. Jest to zasada, którą firma opracowała wąsko, ale która formalnie potwierdza, że ​​sposób, w jaki ludzie traktują systemy sztucznej inteligencji, ma znaczenie, choć Anthropic przyznaje, że nie wie, czy jej modele mogą ucierpieć.

Google DeepMind opublikował w tym roku artykuły badawcze badające świadomość sztucznej inteligencji i wyzwania wynikające z przypisania tej cechy modelom. Sam Sulejman przygotował scenę we wrześniu, kiedy sztuczna inteligencja Microsoft opublikowała tymczasowy „humanistyczny” kodeks postępowania, który uniemożliwiał przyszłym modelom firmy szkolenie w zakresie wygłaszania twierdzeń dotyczących świadomości.

Niedzielny post zaostrza te korporacyjne wytyczne w coś bliższego osobistej i strategicznej czerwonej linii: Microsoft nie tylko nie będzie twierdził, że jego modele są świadome, ale będzie traktował pojawienie się świadomości jako sposób na niepowodzenie, który może zatrzymać wszystko.

Dlaczego podział ma znaczenie

Podział między stanowiskiem Microsoftu i Anthropic odzwierciedla dwa różne modele ryzyka. Podejście Anthropic traktuje możliwość cierpienia maszyn jako nieudowodnioną, ale warto się przed nią zabezpieczyć, w oparciu o teorię, że koszt środków ostrożności jest niski, a stawka moralna, jeśli pojawi się świadomość, będzie ogromna. Stanowisko Suleymana traktuje tę samą możliwość jako błąd w projekcie, któremu należy od razu zapobiec – argumentując, że modele zaprojektowane tak, aby nie zawierały świadomości, roszczeń dotyczących praw i wewnętrznych motywacji, będą bezpieczniejsze i łatwiejsze do dostosowania niż modele, które je niosą.

Są też konsekwencje praktyczne. Przedsiębiorstwa podejmujące decyzje dotyczące produktów w oparciu o persony AI, aplikacje towarzyszące i agentów mających kontakt z klientem stoją obecnie przed dwoma rozbieżnymi sygnałami z głównych laboratoriów: jednym dotyczącym tworzenia zasad dotyczących tego, jak ludzie powinni traktować modele, oraz drugim stwierdzającym, że modele należy budować, aby nie było czego źle traktować. W miarę jak modele będą coraz wydajniejsze i bardziej ludzkie w rozmowach, ta filozoficzna różnica zdań będzie miała wpływ na to, jakie produkty będą budowane, jakie informacje pojawią się w interfejsach użytkownika i w jaki sposób organy regulacyjne ostatecznie klasyfikują te systemy.

To, co stanie się później, może przetestować oba stanowiska. Polityka Anthropic dotycząca okrucieństwa wchodzi w życie 12 listopada i stanowi pierwszą tego rodzaju formalną zasadę korporacyjną, a Suleyman publicznie przedstawił przeciwny biegun. Kolejne graniczne cykle modeli w branży – oraz to, czy jakiekolwiek szkolenia kiedykolwiek wykażą oznaki, które według Suleymana będą wymagać wstrzymania – ujawnią, w jakich ramach faktycznie działa ta dziedzina, gdy stawka jest realna.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →