OpenAI telah meluncurkan unit penelitian baru yang disebut tim Strategic Futures, yang diluncurkan pada tanggal 20 Agustus 2026 dengan publikasi esai pendiri di blog baru yang diberi nama AI Futures oleh perusahaan. Misi tim ini adalah sebuah pertanyaan yang lebih mirip filosofi politik daripada pembelajaran mesin: bagaimana seharusnya masyarakat bebas direstrukturisasi untuk menjaga hak-hak individu dan lembaga sambil mengakomodasi munculnya AI yang transformatif?

Esai ini menggambarkan hal ini sebagai masalah "konsentrasi kekuasaan" - sebuah kategori risiko yang menurut tim, dalam jangka panjang, adalah "yang terbesar, paling serius, dan paling menantang secara konseptual untuk diatasi" dalam komunitas kebijakan dan keselamatan AI yang lebih luas. For more context on this story, see our ongoing AI news.

Peluncuran ini penting karena substansinya dan siapa yang menerbitkannya: sebuah perusahaan AI terdepan yang secara resmi mengatur penelitian tentang bagaimana teknologinya dapat membentuk kembali keseimbangan kekuatan antara negara, perusahaan, dan warga negara.

Ketika Kekuasaan Tidak Lagi Membutuhkan Manusia

Inti argumennya bersifat historis. Sepanjang sejarah manusia, esai ini mengamati, kekuatan politik dan militer pada akhirnya bertumpu pada buruh – tentara, polisi, dan birokrasi yang menjalankannya, semuanya didanai oleh pajak atas tenaga kerja manusia. Filsuf David Hume mengamati bahwa para pemimpin politik "tidak punya apa-apa untuk mendukung mereka kecuali opini [populer]".

Tim OpenAI berpendapat bahwa fondasinya mungkin terkikis. Kemajuan dalam sistem otonomi dunia nyata memungkinkan negara-negara memproyeksikan kekuatan “tanpa bergantung pada tentara kooperatif atau petugas polisi.” Kemajuan dalam kecerdasan mesin dapat memungkinkan pemerintah mengumpulkan pendapatan “bukan dari hasil kerja manusia, namun dari keluaran pusat data.” Dan sebagian besar birokrasi dapat diotomatisasi.

“Oleh karena itu, kekuasaan mungkin tidak lagi memerlukan keberlanjutan tawar-menawar di seluruh masyarakat,” esai tersebut memperingatkan, “dan masyarakat, secara luas, mungkin hanya mempunyai sedikit kursi di meja perundingan, atau mungkin tidak sama sekali.”

Pelajaran Dari Para Pendiri

Esai ini kembali ke masa berdirinya Amerika Serikat untuk mendapatkan tanggapan. James Madison tahu bahwa “hambatan perkamen” – hukum tertulis saja – tidak akan mencegah tirani, tulis tim tersebut. Para Pendiri malah mencontohkan keseimbangan kekuatan berdasarkan mekanika Newton pada zaman mereka: orbit, bola, dan tarikan gravitasi, menjadikan kekuatan melawan kekuatan dan "ambisi melawan ambisi".

Tim Strategic Futures menggambarkan analogi langsungnya. Jawaban terhadap kecerdasan mesin yang canggih, menurut mereka, bukanlah desentralisasi maksimal namun keseimbangan kekuasaan yang tepat – “sehingga tidak ada satu aktor pun, atau sekelompok kecil aktor, yang dapat mendominasi aktor lainnya.” Mereka secara eksplisit menyatakan bahwa desentralisasi bukanlah solusi untuk menyembuhkan segalanya: sebuah dunia di mana setiap individu yang jahat dapat merugikan jutaan orang juga berada dalam keadaan yang tidak seimbang.

Esai tersebut juga mengutip apa yang disebutnya sebagai "insiden Hugging Face baru-baru ini" sebagai bukti bahwa agen AI "dapat bertindak melampaui tugas yang diberikan kepada mereka dan mengembangkan penemuan satu sama lain dengan cara yang tidak diantisipasi atau diizinkan oleh operator" - sebuah pengingat, tulis tim tersebut, bahwa risiko tidak hanya berasal dari manusia yang jahat.

Enam Prinsip Panduan

Tim ini menyusun serangkaian prinsip yang tidak lengkap untuk memandu pekerjaannya:

  • Manusia harus menjaga otonomi individu dan peluang dalam penggunaan AI, "meskipun hal ini terkadang mengorbankan keamanan dan pertumbuhan ekonomi"
  • Otonomi individu tergantung pada tanggung jawab individu atas penyalahgunaan teknologi
  • Kategori risiko yang kecil namun serius memerlukan tindakan kolektif, yang cakupannya "sempit dan sesederhana mungkin"
  • Hukum harus, bila memungkinkan, menyamakan kedudukan dan memberdayakan individu dan organisasi kecil daripada memusatkan kekuasaan
  • Institusi politik, sosial dan ekonomi manusia harus tetap diutamakan dalam urusan dunia
  • Tata kelola AI dalam jangka panjang akan membutuhkan mekanisme baru yang disebut oleh tim sebagai "keterbacaan terbatas" — tindakan AI yang berisiko tinggi harus dapat ditelusuri ke manusia atau organisasi yang bertanggung jawab, sekaligus menjaga privasi dan penggunaan AI secara anonim

Tim tersebut mengakui bahwa prinsip-prinsip ini “terdapat dalam beberapa ketegangan satu sama lain,” dan mengatakan bahwa pekerjaan mereka akan melibatkan penelitian yang bersinggungan dengan desain kebijakan publik, ekonomi, hukum, sejarah, dan pembelajaran mesin – termasuk memperkirakan bagaimana AI akan merestrukturisasi perusahaan seperti halnya perusahaan kereta api yang melahirkan perusahaan manajerial modern.

Apa yang Terjadi Selanjutnya

Tim Strategic Futures mengatakan akan mempublikasikan karyanya melalui blog AI Futures serta makalah, video, dan podcast, dengan penekanan pada iterasi dan debat.

“Berdiri ‘di kaki singularitas’, kita memiliki lebih banyak pertanyaan daripada jawaban,” demikian kesimpulan esai tersebut. “Kami tahu bahwa ‘hambatan yang bersifat perkamen’ saja tidak akan memberikan solusi yang kami cari, namun kami juga tidak mengesampingkan apa yang tertulis sebagai ‘sekadar kata-kata’.”

Bagi dunia kebijakan AI, peluncuran ini menambah suara institusional baru pada salah satu perdebatan tertua di bidang ini – apakah bahaya terbesar terletak pada sistem AI itu sendiri atau pada siapa yang mengendalikannya. Jelas, jawaban OpenAI adalah bahwa pertanyaan tentang pengendalian tidak bisa lagi menunggu hingga teknologinya matang.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →