OpenAI telah melancarkan unit penyelidikan baharu yang dipanggil pasukan Niaga Hadapan Strategik, melancarkannya pada 20 Ogos 2026 dengan penerbitan esei pengasas pada blog baharu yang dinamakan oleh syarikat itu sebagai AI Futures. Misi pasukan ialah soalan yang lebih mirip falsafah politik daripada pembelajaran mesin: bagaimanakah masyarakat bebas harus disusun semula untuk memelihara hak dan agensi individu sambil menampung kemunculan AI transformatif?

Esei membingkai ini sebagai masalah "penumpuan kuasa" — kategori risiko yang dipertikaikan oleh pasukan itu, dalam jangka panjang, "yang terbesar, paling serius dan paling mencabar dari segi konsep untuk ditangani" dalam komuniti keselamatan dan dasar AI yang lebih luas. For more context on this story, see our ongoing AI news.

Pelancaran ini terkenal kerana kandungannya dan untuk siapa yang menerbitkannya: sebuah syarikat AI sempadan secara rasmi menganjurkan penyelidikan tentang cara teknologinya sendiri boleh membentuk semula keseimbangan kuasa antara negeri, syarikat dan rakyat.

Apabila Kuasa Tidak Lagi Memerlukan Orang

Inti hujah adalah sejarah. Untuk semua sejarah manusia, esei memerhatikan, kuasa politik dan ketenteraan akhirnya bergantung pada buruh - tentera, polis dan birokrasi besar yang mengendalikan mereka, semuanya dibiayai oleh cukai ke atas kerja manusia. Ahli falsafah David Hume memerhatikan bahawa pemimpin politik "tidak mempunyai apa-apa untuk menyokong mereka melainkan pendapat [popular]."

Pasukan OpenAI berhujah bahawa asas mungkin terhakis. Kemajuan dalam sistem autonomi dunia sebenar boleh membenarkan negara memproyeksikan kekuatan "tanpa bergantung pada tentera koperasi atau pegawai polis." Kemajuan dalam perisikan mesin boleh membenarkan kerajaan mengumpul hasil "bukan daripada hasil kerja manusia individu, tetapi daripada output pusat data." Dan birokrasi itu sendiri sebahagian besarnya boleh diautomasikan.

"Oleh itu kuasa mungkin tidak lagi memerlukan tawar-menawar seluruh masyarakat untuk dikekalkan," esei itu memberi amaran, "dan rakyat, secara umum, mungkin hanya mempunyai kerusi kecil di meja rundingan, atau mungkin tiada langsung."

Pengajaran Daripada Pengasas

Esei itu sampai semula kepada penubuhan Amerika Syarikat untuk mendapatkan respons. James Madison tahu bahawa "sekatan perkamen" - undang-undang bertulis sahaja - tidak akan menghalang kezaliman, tulis pasukan itu. Pengasas sebaliknya memodelkan keseimbangan kuasa pada mekanik Newton pada zaman mereka: orbit, sfera dan tarikan graviti, menetapkan kuasa terhadap kuasa dan "cita-cita menentang cita-cita."

Pasukan Niaga Hadapan Strategik membuat analogi langsung. Jawapan kepada kecerdasan mesin canggih, mereka berpendapat, bukanlah desentralisasi maksimum tetapi keseimbangan kuasa yang betul — "sehingga tiada pelakon tunggal, atau kumpulan kecil pelakon, boleh menguasai yang lain." Mereka jelas bahawa desentralisasi bukanlah ubat-ubat: dunia di mana mana-mana individu yang berniat jahat secara remeh boleh membahayakan berjuta-juta juga tidak seimbang.

Esei itu juga memetik apa yang dipanggil "insiden Hugging Face baru-baru ini" sebagai bukti bahawa ejen AI "boleh bertindak melebihi tugas yang diberikan mereka dan membina penemuan satu sama lain dengan cara yang tidak dijangka atau dibenarkan oleh pengendali" - satu peringatan, tulis pasukan itu, bahawa risiko bukan sahaja berpunca daripada manusia yang berniat jahat.

Enam Prinsip Panduan

Pasukan itu membentangkan set prinsip yang tidak menyeluruh untuk membimbing kerjanya:

  • Manusia harus mengekalkan autonomi dan peluang individu dalam penggunaan AI mereka, "walaupun ini kadang-kadang ditukar dengan kedua-dua keselamatan dan pertumbuhan ekonomi"
  • Autonomi individu bergantung kepada tanggungjawab individu untuk penyalahgunaan teknologi
  • Kategori risiko yang kecil tetapi serius memerlukan tindakan kolektif, berskop "sempit dan sederhana yang mungkin"
  • Undang-undang harus, apabila boleh, meratakan padang permainan dan memperkasakan individu dan organisasi kecil daripada memusatkan kuasa
  • Institusi politik, sosial dan ekonomi manusia harus mengekalkan keutamaan dalam hal ehwal dunia
  • Tadbir urus AI jangka panjang akan memerlukan mekanisme baharu untuk apa yang pasukan itu panggil "keterbacaan terhad" — tindakan AI berkepentingan tinggi mesti dapat dikesan kepada manusia atau organisasi yang bertanggungjawab, sambil mengekalkan privasi dan penggunaan AI tanpa nama

Pasukan itu mengakui prinsip ini "wujud dalam beberapa ketegangan antara satu sama lain," dan berkata kerjanya akan melibatkan penyelidikan di persimpangan reka bentuk dasar awam, ekonomi, undang-undang, sejarah dan pembelajaran mesin - termasuk meramalkan bagaimana AI akan menyusun semula firma seperti cara kereta api melahirkan perbadanan pengurusan moden.

Apa Yang Akan Datang

Pasukan Niaga Hadapan Strategik berkata ia akan menerbitkan karyanya melalui blog AI Futures serta kertas kerja, video dan podcast, dengan penekanan pada lelaran dan perbahasan.

"Berdiri 'di kaki bukit ketunggalan,' kita mempunyai lebih banyak soalan daripada jawapan kita," esei itu menyimpulkan. "Kami tahu bahawa 'penghalang kulit' sahaja tidak akan memberikan penyelesaian yang kami cari, tetapi kami juga tidak mengenepikan apa yang ditulis sebagai 'perkataan semata-mata.'"

Untuk dunia dasar AI, pelancaran itu menambah suara institusi baharu kepada salah satu perbahasan tertua bidang itu — sama ada bahaya yang lebih besar terletak pada sistem AI itu sendiri atau siapa yang mengawalnya. Jawapan OpenAI, jelas sekali, ialah soalan kawalan tidak lagi boleh menunggu teknologi matang.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →