Společnost OpenAI spustila novou výzkumnou jednotku nazvanou tým Strategic Futures a představila ji 20. srpna 2026 zveřejněním zakládající eseje na novém blogu, který společnost pojmenovala AI Futures. Posláním týmu je otázka, která zní spíše jako politická filozofie než jako strojové učení: jak by měla být restrukturalizována svobodná společnost, aby byla zachována individuální práva a svoboda jednání a zároveň se přizpůsobila nástupu transformativní umělé inteligence?

Esej to rámuje jako problém „koncentrace moci“ – kategorie rizika, o kterém tým tvrdí, že je z dlouhodobého hlediska „největší, nejzávažnější a koncepčně nejnáročnější na řešení“ v rámci širší komunity bezpečnosti a politiky AI. For more context on this story, see our ongoing more AI stories.

Uvedení na trh je pozoruhodné jak svou podstatou, tak tím, kdo jej vydává: hraniční společnost AI, která formálně organizuje výzkum toho, jak by její vlastní technologie mohla přetvořit rovnováhu moci mezi státy, společnostmi a občany.

Když moc už nepotřebuje lidi

Jádro argumentu je historické. Esej poznamenává, že po celou lidskou historii se politická a vojenská moc nakonec opírala o práci – vojáky, policii a rozsáhlou byrokracii, která je provozuje, vše financované z daní z lidské práce. Filozof David Hume poznamenal, že političtí vůdci nemají „nic, co by je podpořilo, než [populární] názor“.

Tým OpenAI tvrdí, že základy mohou erodovat. Pokroky v autonomních systémech v reálném světě by mohly státům umožnit projektovat sílu „bez spoléhání se na kooperativní vojáky nebo policisty“. Pokroky ve strojové inteligenci by mohly vládám umožnit vybírat příjmy „ne z plodů individuální lidské práce, ale z výstupů datových center“. A samotná byrokracie by se dala do značné míry zautomatizovat.

"Moc proto již nemusí vyžadovat celospolečenské vyjednávání," varuje esej, "a lid, široce pojatý, může mít u jednacího stolu jen malé místo, nebo možná vůbec žádné."

Poučení od zakladatelů

Esej sahá až k založení Spojených států pro odpověď. James Madison věděl, že „pergamenové bariéry“ – samotné psané zákony – tyranii nezabrání, píše tým. Zakladatelé místo toho modelovali rovnováhu sil na newtonovské mechanice své doby: oběžné dráhy, koule a gravitační přitažlivost, postavili sílu proti síle a „ambici proti ambicím“.

Tým Strategic Futures kreslí přímou analogii. Tvrdí, že odpovědí na pokročilou strojovou inteligenci není maximální decentralizace, ale správná rovnováha moci – „taková, že žádný jediný herec nebo malá skupina herců nemůže ovládnout zbytek“. Jasně říkají, že decentralizace není všelékem: svět, kde může jakýkoli zlomyslný jedinec triviálně ublížit milionům lidí, také není v rovnováze.

Esej také cituje to, co nazývá „nedávný incident Hugging Face“, jako důkaz toho, že agenti AI „mohou jednat nad rámec svých přidělených úkolů a stavět na objevech toho druhého způsobem, který operátoři nepředpokládali ani nepovolili“ – připomíná tým, že rizika nepocházejí pouze ze zlomyslných lidí.

Šest hlavních zásad

Tým stanovil nevyčerpávající soubor zásad, kterými se bude řídit jeho práce:

– Lidé by si měli při používání AI zachovat individuální autonomii a příležitosti, „i když to někdy jde na úkor bezpečnosti a ekonomického růstu“

  • Individuální autonomie závisí na individuální odpovědnosti za zneužití technologie

– Malá, ale závažná kategorie rizik vyžaduje kolektivní akci, jejíž rozsah musí být „co nejužší a nejskromnější“
  • Právo by mělo, kdykoli je to možné, vyrovnat podmínky a posílit postavení jednotlivců a malých organizací spíše než centralizovat moc

  • Lidské politické, sociální a ekonomické instituce by si měly udržet primát ve světových záležitostech

  • Dlouhodobé řízení umělé inteligence bude vyžadovat nové mechanismy pro to, co tým nazývá „omezená čitelnost“ – vysoce sázkové akce umělé inteligence musí být vysledovatelné k odpovědnému člověku nebo organizaci při zachování soukromí a anonymního používání umělé inteligence.

Tým uznává, že tyto principy „existují ve vzájemném napětí“ a říká, že jeho práce bude zahrnovat výzkum na průsečíku designu veřejné politiky, ekonomie, práva, historie a strojového učení – včetně předpovědí, jak umělá inteligence restrukturalizuje firmy tak, jak železnice dala vzniknout moderní manažerské korporaci.

Co přijde dál

Tým Strategic Futures říká, že bude publikovat svou práci prostřednictvím blogu AI Futures, stejně jako článků, videí a podcastů, s důrazem na opakování a debatu.

„Stojíme-li ‚na úpatí singularity‘, máme mnohem více otázek, než máme odpovědí,“ uzavírá esej. "Víme, že 'pergamenové bariéry' samy o sobě neposkytnou řešení, která hledáme, ale ani neodkládáme to, co je napsáno jako 'pouhá slova'."

Pro svět politiky AI přidává uvedení nový institucionální hlas do jedné z nejstarších diskusí v oboru – zda větší nebezpečí spočívá v samotných systémech AI nebo v tom, kdo je ovládá. Odpověď OpenAI je evidentně taková, že kontrolní otázka již nemůže čekat, až technologie uzraje.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →