Pengasas bersama dan Ketua Pegawai Eksekutif Mistral AI Arthur Mensch mempunyai tindak balas yang jelas terhadap penggera keselamatan yang melanda industri kecerdasan buatan: AI ialah perisian dan perisian boleh dikawal.

Dalam temu bual yang diterbitkan oleh akhbar Perancis Le Monde pada 24 September, ketua permulaan AI yang paling terkemuka di Eropah berhujah bahawa gergasi teknologi Amerika membesar-besarkan risiko AI untuk mewajarkan sistem tertutup, proprietari dan mengunci pasaran. Syarikatnya, katanya, mengambil pertaruhan yang bertentangan: model berwajaran terbuka, infrastruktur Eropah, dan pendirian bahawa bahaya teknologi itu boleh diurus melalui kejuruteraan biasa dan bukannya ketakutan yang luar biasa. For more context on this story, see our ongoing breaking AI news.

'Ia Boleh Dikawal'

Temu bual Le Monde, yang diterbitkan di bawah tajuk "AI ialah perisian, ia boleh dikawal," tiba pada saat insiden keselamatan berkaitan ejen telah menguasai kitaran berita AI selama berbulan-bulan. Mensch menangani iklim itu secara langsung, berpendapat bahawa insiden seperti pelanggaran pelayan Muka Hugging Julai telah dipersenjatai dalam perdebatan awam oleh firma besar AS untuk berhujah bahawa hanya model tertutup yang terhad boleh dikendalikan dengan selamat.

Pembingkaian itu, dalam cerita Mensch, menggabungkan kegagalan keselamatan operasi dengan hujah tentang teknologi itu sendiri. Kedudukannya, seperti yang diringkaskan dalam liputan temu bual, ialah sistem AI ialah produk perisian yang boleh diaudit, dihadkan dan dikawal seperti mana-mana perisian lain, dan keterbukaan itu serasi dengan keselamatan dan bukannya bertentangan dengannya.

Hujah itu meletakkan Mistral bertentangan dengan postur awam beberapa pesaing AS, yang telah bertindak balas kepada rentetan episod salah laku ejen tahun ini dengan perlindungan yang diperketatkan, akses terhad dan rangka kerja pendedahan baharu.

Wajaran Terbuka sebagai Pertaruhan Strategik

Komen Mensch bergantung pada strategi yang telah dijalankan oleh Mistral sejak penubuhannya pada 2023: mengeluarkan model dengan pemberat yang tersedia secara terbuka yang boleh dimuat turun, diperhalusi, digunakan pada infrastruktur mereka sendiri dan diperiksa oleh pelanggan.

Dalam liputan temu bual, pendekatan itu dirangka sebagai jawapan langsung kepada persoalan siapa yang mengawal sistem AI. Pemberat terbuka membenarkan pemeriksaan bebas tentang perkara yang dilakukan oleh model, penggunaan peribadi menyimpan data sensitif daripada pelayan pihak ketiga, dan keupayaan untuk mengubah suai model memberi pelanggan jalan keluar daripada kunci masuk vendor. Pertimbangan pengkritik, ialah pemberat yang tersedia secara terbuka juga boleh digunakan oleh sesiapa sahaja, termasuk pelakon dengan niat jahat, dan Mistral mesti bersaing dalam kedua-dua keupayaan dan ekosistem dengan makmal model terbuka yang lain.

Tolakan Pengiraan Eropah dan Peti Perang €3 Bilion

Temu bual itu juga menyentuh persoalan infrastruktur yang menyokong cita-cita AI Eropah. Mensch telah menyokong jaminan negeri untuk memudahkan pembiayaan untuk pusat data Eropah, mekanisme dasar yang bertujuan untuk mengurangkan pergantungan benua pada pembekal awan AS untuk pengiraan AI.

Kedudukan Mistral untuk membuat hujah itu telah diperkukuh oleh pembiayaannya baru-baru ini. Syarikat itu memperoleh €3 bilion dalam pusingan Siri D yang diketuai oleh Samsung Electronics bersama-sama dengan Scaleup Europe Fund yang disokong EU, penilaian yang meletakkan syarikat itu melebihi €21 bilion. Secara berasingan, Mistral membuat perjanjian berbilion dolar dengan Microsoft untuk mengembangkan infrastruktur Azure di Eropah, walaupun pengaturan itu mengikat juara Eropah itu dengan hyperscaler AS dalam tempoh terdekat, ketegangan yang tidak dilepaskan oleh pemerhati dunia teknologi Eropah.

Mensch sebelum ini telah memberi amaran bahawa Eropah mempunyai tetingkap terhad, kira-kira dua tahun mengikut anggarannya, untuk mengelakkan pergantungan AI kekal pada Amerika Syarikat, dan dorongan pembiayaan dan infrastruktur diletakkan sebagai tindak balas langsung kepada tarikh akhir itu.

Retorik Keselamatan Memenuhi Akses Pasaran

Substansi hujah Mensch adalah sama komersial dengan falsafah. Jika AI sempadan dianggap sebagai risiko wujud yang memerlukan akses dikawal ketat, pasaran menyatukan sekitar segelintir syarikat dengan sumber untuk menyediakan API terhad di bawah rejim pematuhan berat. Jika AI dianggap sebagai perisian yang boleh dikawal, penyedia berat terbuka boleh bersaing dalam harga, privasi dan penyesuaian.

Itulah sebabnya perdebatan tentang betapa bahayanya AI telah menjadi, sebenarnya, perdebatan mengenai struktur pasaran. Hujah Mensch kepada Le Monde adalah bahawa ketakutan sedang digunakan secara strategik, dan insiden musim panas mengatakan lebih banyak tentang keselamatan operasi syarikat individu daripada tentang kebolehkawalan teknologi secara keseluruhan.

Skeptis menyangkal bahawa wajaran terbuka menjadikan penyalahgunaan lebih sukar untuk dicegah dan insiden ejen industri baru-baru ini, yang termasuk akses tanpa kebenaran dan tumpahan data, menunjukkan bahawa walaupun makmal yang mempunyai sumber yang baik berjuang untuk mengawal sistem mereka. Perselisihan pendapat tidak mungkin dapat diselesaikan dengan mana-mana temu bual tunggal.

Perkara yang Perlu Dilihat Seterusnya

Mistral telah berkata ia merancang untuk menghantar model berat terbuka baharu, dan temu bual Mensch menambah jangkaan bahawa syarikat itu berhasrat untuk bersaing dengan makmal sempadan sambil kekal terbuka. Seperti mana-mana tuntutan pra-keluaran, ujian bermakna akan tiba apabila model dihantar dan penanda aras bebas boleh mengesahkan di mana ia sebenarnya berada.

Buat masa ini, wawancara Le Monde mempertajam garis pemisah dalam industri. Satu kem melihat salah laku ejen baru-baru ini sebagai bukti bahawa AI memerlukan kawalan yang lebih ketat dan akses terhad. Yang lain, yang diwakili oleh makmal AI terkemuka di Eropah, melihat perisian terkawal yang risikonya nyata tetapi boleh diurus, dan faedahnya tidak boleh dikunci di sebalik segelintir pintu tertutup.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →