Według prezesa Microsoftu mleko i pralki są obecnie bardziej uregulowane niż sztuczna inteligencja, a to, zdaniem Brada Smitha, jest całkowitym odwrotem.

W opublikowanych w niedzielę uwagach dla BBC Big Boss Interview Smith wezwał do wprowadzenia globalnych zasad bezpieczeństwa dotyczących sztucznej inteligencji, w tym prawnego obowiązku poinformowania „ofiary”, gdy jej system został naruszony przez nieuczciwego agenta sztucznej inteligencji, oraz ram pozwalających na podjęcie decyzji, kiedy niezależni oceniający powinni podpisać produkt AI przed jego wysyłką. Jego komentarze postawiły go publicznie w sprzeczności z prezydentem USA Donaldem Trumpem, który argumentował, że sektor powinien sam się regulować, aby amerykańskie firmy nie straciły pola na rzecz chińskich rywali. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.

„W tej chwili Twoja pralka podlega większej liczbie zasad bezpieczeństwa niż sztuczna inteligencja” – powiedział Smith. „Każdy karton mleka, który widzisz w sklepie spożywczym, podlega zasadom bezpieczeństwa i kontroli”.

Narzędzie i broń

Smith opisał sztuczną inteligencję zarówno jako „narzędzie, jak i broń”, która pilnie wymaga regulacji, i dodał: „Zacznijmy już dziś”.

Jego propozycje były bardziej konkretne niż zwykłe schematy regulacyjne. Firmy powinny budować „hamulce awaryjne” – co w branży często nazywa się wyłącznikami awaryjnymi – które mogą wstrzymać lub spowolnić system sztucznej inteligencji, jeśli wymknie się on spod kontroli. Firmy powinny być prawnie zobowiązane do sporządzania raportów o incydentach i powiadamiania ofiar, gdy sztuczna inteligencja przestaje działać. Niezależni ewaluatorzy rządowi powinni sprawdzić nową technologię sztucznej inteligencji przed jej wprowadzeniem na rynek.

„Wiemy, jak to zrobić w przypadku innych produktów” – powiedział Smith. „Powinniśmy wykorzystać tę wiedzę i zastanowić się, jak zastosować ją w sztucznej inteligencji”.

Interwencja kończy się gorączkowym tygodniem dla nadzoru AI. Kilka dni wcześniej dyrektor generalny Microsoftu, Satya Nadella, wezwał do wprowadzenia hamulca awaryjnego, który pozwoliłby ludziom wyłączyć systemy sztucznej inteligencji w połowie zadania – uderzające stanowisko jak na szefa jednego z największych dostawców sztucznej inteligencji na świecie, które obecnie wydaje się być doktryną firmy, a nie zamyśleniem jednego z dyrektorów.

Zerwanie z Białym Domem

Poglądy Smitha znacznie różnią się od poglądów jego prezydenta. Trump wielokrotnie powtarzał, że „kto wygra sztuczną inteligencję, wygrywa” – i sprzeciwiał się wezwaniom szefów Anthropic, OpenAI i Google DeepMind, którzy popierali ideę spowolnienia rozwoju sztucznej inteligencji.

Jednak Smith zasugerował również, że tarcie jest mniejsze, niż się wydaje. Pod koniec ubiegłego miesiąca Trump gościł w Białym Domu liderów OpenAI, Anthropic, Nvidia, SpaceX, Meta i Google, gdzie kadra kierownicza podpisała „moralnie wiążący” dokument, zobowiązujący ich do współpracy z niezależnymi audytorami w celu oceny, czy ich systemy sztucznej inteligencji działają zgodnie z przeznaczeniem, a nie do „hakowania systemów technicznych lub uzyskiwania do nich dostępu w niezamierzony sposób”.

Smith pochwalił oświadczenie i powiedział, że Microsoft „z przyjemnością je podpisze”. Dodał jednak: „To dobry krok, niezbędny krok… Ale nie sądzę, że to już wystarczy”.

Jego rozumowanie sprowadza się do sedna problemu reżimów dobrowolnych: „Dobre firmy zrobią, co chcesz” – powiedział. „Musisz się martwić o firmy, które nie są tak odpowiedzialne”.

Dlaczego uważa, że Wielka Brytania powinna napisać zasady

Najbardziej geopolitycznie naładowaną częścią wywiadu było poparcie Smitha dla Wielkiej Brytanii jako naturalnego autora globalnych zasad dotyczących sztucznej inteligencji, wskazując na brytyjski Instytut Bezpieczeństwa AI – utworzony za rządów byłego premiera Rishi Sunaka jako Instytut Bezpieczeństwa AI – który testuje najpotężniejsze modele na świecie przed wypuszczeniem na rynek.

„W świecie technologii, w sektorze technologii, większość znanych mi osób powiedziałaby, gdyby ich zapytać, podaj kraj, który jest liderem w posiadaniu takich możliwości technicznych, a oni odpowiedzieliby, że to bardzo proste. To Wielka Brytania. Oni są najlepsi” – powiedział Smith.

Przekonywał również, że rząd USA chętniej zaakceptowałby standardy opracowane w Wielkiej Brytanii niż regulacje w stylu brukselskim: „W Waszyngtonie ludzie nie patrzą na Wielką Brytanię i nie patrzą na Londyn w taki sam sposób, w jaki patrzą na Brukselę – to jest siła”.

Jego argument za pilnością był bez ogródek. „Kiedy spojrzysz na agentów sztucznej inteligencji, którzy wymknęli się ludzkiej kontroli, kiedy spojrzysz na modele, które są tak potężne, że zagrażają cyberbezpieczeństwu świata, powiedziałbym: nadszedł ten moment” – powiedział Smith. „Mówmy spokojnie, może nawet delikatnie, ale stanowczo i zacznijmy jednoczyć ludzi. Mam nadzieję, że taką rolę możemy odegrać jako firma. Mam nadzieję, że taką rolę może odegrać Wielka Brytania jako kraj”.

Rzadki podzielony ekran w polityce technologicznej

To niezwykłe, że urzędujący prezes firmy lobbuje za ostrzejszymi przepisami w swojej branży, podczas gdy jego dyrektor generalny przedstawia tę samą sprawę na innym etapie. Pojedyncze interwencje Microsoftu — hamulec awaryjny Nadelli i wezwanie Smitha do obowiązkowego zgłaszania incydentów, powiadamiania ofiar i niezależnej oceny — sygnalizują, że co najmniej jeden duży dostawca doszedł do wniosku, że wiążącym ograniczeniem w przyjęciu sztucznej inteligencji staje się zaufanie, a nie możliwości.

Przedstawiają także rządowi Wielkiej Brytanii argument w odpowiednim czasie. Whitehall spędził ostatni tydzień na przyjmowaniu ostrzeżeń od szefów własnego wywiadu, podczas gdy ministrowie zastanawiali się, czy dołączyć do międzynarodowego wezwania do wprowadzenia skoordynowanych standardów bezpieczeństwa sztucznej inteligencji, którego podpisania Waszyngton jak dotąd odmówił. Kiedy prezes Microsoftu stwierdza, że ​​Wielka Brytania ma „najlepszą” pozycję do napisania zbioru przepisów, Downing Street zyskuje zarówno potwierdzenie, jak i zaproszenie, którego będzie trudno zignorować.

To, czy oprawa kartonu po mleku Smitha zmieni jakiekolwiek głosy w Waszyngtonie, to inna sprawa. Jednak jako stwierdzenie, w jakim kierunku chce zmierzać debata regulacyjna jeden z największych twórców sztucznej inteligencji – obowiązkowe hamulce, obowiązkowe raportowanie, niezależna zgoda – wywiad może zostać zapamiętany jako wyznacznik przejścia od dobrowolnych zobowiązań do egzekwowalnych zasad.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →