OpenAI uruchomiło nową jednostkę badawczą o nazwie zespół Strategic Futures, ujawniając ją 20 sierpnia 2026 r. wraz z publikacją eseju założycielskiego na nowym blogu, który firma nazwała AI Futures. Misja zespołu to pytanie, które brzmi bardziej jak filozofia polityczna niż uczenie maszynowe: w jaki sposób należy zrestrukturyzować wolne społeczeństwo, aby zachować prawa jednostki i sprawczość, jednocześnie uwzględniając pojawienie się transformacyjnej sztucznej inteligencji?

W eseju określono to jako problem „koncentracji władzy” – kategorię ryzyka, która zdaniem zespołu jest na dłuższą metę „największą, najpoważniejszą i najtrudniejszą koncepcyjnie do rozwiązania” w szerszej społeczności zajmującej się bezpieczeństwem i polityką sztucznej inteligencji. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.

Premiera jest godna uwagi zarówno ze względu na treść, jak i ze względu na osobę, która ją publikuje: pionierska firma zajmująca się sztuczną inteligencją formalnie organizuje badania nad tym, w jaki sposób jej własna technologia może zmienić równowagę sił między państwami, firmami i obywatelami.

Kiedy władza nie potrzebuje już ludzi

Istota argumentu ma charakter historyczny. W eseju zauważa się, że w całej historii ludzkości władza polityczna i militarna ostatecznie opierała się na pracy – żołnierzach, policji i ogromnej biurokracji, która ją obsługuje, a wszystko to finansowane z podatków od ludzkiej pracy. Filozof David Hume zauważył, że przywódcy polityczni „nie wspierają ich nic poza [popularną] opinią”.

Zespół OpenAI twierdzi, że fundamenty mogą ulegać erozji. Postępy w rzeczywistych systemach autonomicznych mogą pozwolić państwom na użycie siły „bez polegania na współpracujących żołnierzach czy funkcjonariuszach policji”. Postępy w inteligencji maszynowej mogą pozwolić rządom na gromadzenie dochodów „nie z owoców indywidualnej pracy ludzkiej, ale z wyników centrów danych”. A sama biurokracja mogłaby zostać w dużej mierze zautomatyzowana.

„Władza może zatem nie wymagać już, aby podtrzymanie ogólnospołecznego porozumienia” – ostrzega esej, „a ludzie, w szerokim rozumieniu, mogą mieć jedynie małe miejsce przy stole negocjacyjnym lub być może wcale”.

Lekcje od założycieli

W poszukiwaniu odpowiedzi esej sięga do początków Stanów Zjednoczonych. James Madison wiedział, że „bariery pergaminowe” – same spisane prawa – nie zapobiegną tyranii – pisze zespół. Zamiast tego Założyciele wzorowali równowagę mocy na ówczesnej mechanice Newtona: orbitach, kulach i przyciąganiu grawitacyjnym, przeciwstawiając moc władzy i „ambicję przeciwko ambicjom”.

Zespół Strategic Futures dokonuje bezpośredniej analogii. Twierdzą, że odpowiedzią na zaawansowaną inteligencję maszyn nie jest maksymalna decentralizacja, ale właściwa równowaga sił – „taka, aby żaden pojedynczy aktor ani niewielka grupa aktorów nie była w stanie zdominować reszty”. Wyraźnie mówią, że decentralizacja nie jest panaceum na wszystko: świat, w którym każda złośliwa osoba może w trywialny sposób zaszkodzić milionom, również jest niezrównoważony.

W eseju przytacza także to, co nazywa „niedawnym incydentem z Hugging Face” jako dowód na to, że agenci sztucznej inteligencji „mogą wykraczać poza przydzielone im zadania i wykorzystywać nawzajem swoje odkrycia w sposób, którego operatorzy nie przewidzieli ani nie autoryzowali” – co stanowi przypomnienie, jak pisze zespół, że ryzyko nie pochodzi wyłącznie od złośliwych ludzi.

Sześć zasad przewodnich

Zespół opracował niewyczerpujący zestaw zasad, którymi kieruje się w swojej pracy:

– Ludzie powinni zachować indywidualną autonomię i możliwości w korzystaniu ze sztucznej inteligencji, „nawet jeśli czasami wiąże się to zarówno z bezpieczeństwem, jak i wzrostem gospodarczym”

  • Indywidualna autonomia zależy od indywidualnej odpowiedzialności za niewłaściwe wykorzystanie technologii

  • Mała, ale poważna kategoria ryzyka wymaga działań zbiorowych o zasięgu „tak wąskim i skromnym, jak to możliwe”

  • Prawo powinno, gdy tylko jest to możliwe, wyrównywać szanse i wzmacniać pozycję jednostek i małych organizacji, a nie centralizować władzę

  • Ludzkie instytucje polityczne, społeczne i gospodarcze powinny zachować prymat w sprawach światowych

– Długoterminowe zarządzanie sztuczną inteligencją będzie wymagało nowych mechanizmów, które zespół nazywa „ograniczoną czytelnością” – działania sztucznej inteligencji o wysokiej stawce muszą być identyfikowalne z odpowiedzialnym człowiekiem lub organizacją, przy jednoczesnym zachowaniu prywatności i anonimowego wykorzystania sztucznej inteligencji

Zespół przyznaje, że zasady te „istnieją ze sobą w pewnym napięciu” i twierdzi, że jego prace będą obejmować badania na styku projektowania polityki publicznej, ekonomii, prawa, historii i uczenia maszynowego – w tym prognozowanie, w jaki sposób sztuczna inteligencja zrestrukturyzuje firmy w sposób, w jaki kolej dała początek nowoczesnej korporacji zarządzającej.

Co będzie dalej

Zespół Strategic Futures twierdzi, że będzie publikować swoje prace na blogu AI Futures, a także artykuły, filmy i podcasty, z naciskiem na iterację i debatę.

„Stojąc «u podnóża osobliwości», mamy o wiele więcej pytań niż odpowiedzi” – podsumowuje esej. „Wiemy, że same „bariery pergaminowe” nie zapewnią rozwiązań, których szukamy, ale nie odrzucamy też tego, co jest zapisane jako „zwykłe słowa”.

Dla świata polityki związanej ze sztuczną inteligencją premiera ta dodaje nowy, instytucjonalny głos do jednej z najstarszych debat w tej dziedzinie – czy większe niebezpieczeństwo leży w samych systemach sztucznej inteligencji, czy też w tym, kto je kontroluje. Odpowiedź OpenAI jest oczywiście taka, że ​​kwestia kontrolna nie może już czekać, aż technologia dojrzeje.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →