Salah satu pendiri dan CEO Mistral AI, Arthur Mensch, memberikan tanggapan yang blak-blakan terhadap peringatan keselamatan yang melanda industri kecerdasan buatan: AI adalah perangkat lunak, dan perangkat lunak dapat dikontrol.
Dalam sebuah wawancara yang diterbitkan oleh surat kabar Perancis Le Monde pada tanggal 24 September, pimpinan perusahaan rintisan AI paling terkemuka di Eropa berpendapat bahwa raksasa teknologi Amerika membesar-besarkan risiko AI untuk membenarkan sistem tertutup dan eksklusif serta mengunci pasar. Perusahaannya, katanya, mengambil risiko sebaliknya: model open-weight, infrastruktur Eropa, dan pendirian bahwa bahaya teknologi dapat dikelola melalui rekayasa biasa, bukan melalui ketakutan yang luar biasa. For more context on this story, see our ongoing AI news.
'Bisa Dikendalikan'
Wawancara Le Monde, yang diterbitkan dengan judul "AI adalah perangkat lunak, dapat dikontrol," muncul pada saat insiden keamanan terkait agen mendominasi siklus berita AI selama berbulan-bulan. Mensch membahas iklim tersebut secara langsung, dengan berpendapat bahwa insiden seperti pelanggaran server Hugging Face pada bulan Juli telah dijadikan senjata dalam debat publik oleh perusahaan-perusahaan besar AS untuk berargumentasi bahwa hanya model yang dibatasi secara ketat dan tertutup yang dapat dioperasikan dengan aman.
Pembingkaian tersebut, menurut Mensch, menyamakan kegagalan keamanan operasional dengan argumen tentang teknologi itu sendiri. Posisinya, sebagaimana dirangkum dalam liputan wawancara, adalah bahwa sistem AI adalah produk perangkat lunak yang dapat diaudit, dibatasi, dan dikendalikan seperti perangkat lunak lainnya, dan bahwa keterbukaan sejalan dengan keselamatan, bukan bertentangan dengan keselamatan.
Argumen tersebut menempatkan Mistral bertentangan dengan sikap publik beberapa pesaingnya di AS, yang telah menanggapi serangkaian episode perilaku buruk agen tahun ini dengan memperketat pengamanan, membatasi akses, dan kerangka pengungkapan baru.
Buka Bobot sebagai Taruhan Strategis
Komentar Mensch bertumpu pada strategi yang dilakukan Mistral sejak didirikan pada tahun 2023: merilis model dengan bobot yang tersedia secara terbuka yang dapat diunduh, disempurnakan, diterapkan pada infrastruktur mereka sendiri, dan diperiksa oleh pelanggan.
Dalam liputan wawancara, pendekatan tersebut dibingkai sebagai jawaban langsung atas pertanyaan siapa yang mengendalikan sistem AI. Bobot terbuka memungkinkan pemeriksaan independen terhadap fungsi model, penerapan pribadi menjaga data sensitif tetap berada di luar server pihak ketiga, dan kemampuan untuk memodifikasi model memberi pelanggan jalan keluar dari penguncian vendor. Para kritikus mencatat, kelemahannya adalah bahwa bobot yang tersedia secara terbuka juga dapat digunakan oleh siapa saja, termasuk pelaku dengan niat jahat, dan Mistral harus bersaing dalam hal kemampuan dan ekosistem dengan laboratorium model terbuka lainnya.
Dorongan Komputasi Eropa dan Peti Perang senilai €3 Miliar
Wawancara tersebut juga membahas pertanyaan tentang infrastruktur yang mendasari ambisi AI di Eropa. Mensch telah menganjurkan jaminan negara untuk menyederhanakan pembiayaan bagi pusat data Eropa, sebuah mekanisme kebijakan yang bertujuan mengurangi ketergantungan benua ini pada penyedia cloud AS untuk komputasi AI.
Posisi Mistral yang mengemukakan argumen tersebut diperkuat dengan pendanaan yang baru-baru ini dilakukannya. Perusahaan ini mengumpulkan €3 miliar dalam putaran Seri D yang dipimpin oleh Samsung Electronics bersama dengan Scaleup Europe Fund yang didukung Uni Eropa, sebuah penilaian yang menempatkan perusahaan di atas €21 miliar. Secara terpisah, Mistral mencapai kesepakatan bernilai miliaran dolar dengan Microsoft untuk memperluas infrastruktur Azure di Eropa, meskipun perjanjian tersebut akan mengikat perusahaan terkemuka di Eropa tersebut dengan perusahaan hyperscaler asal AS dalam waktu dekat, sebuah ketegangan yang tidak boleh dilewatkan oleh para pengamat teknologi Eropa.
Mensch sebelumnya telah memperingatkan bahwa Eropa mempunyai waktu terbatas, sekitar dua tahun menurut perkiraannya, untuk menghindari ketergantungan permanen pada AI pada Amerika Serikat, dan dorongan pendanaan serta infrastruktur diposisikan sebagai respons langsung terhadap tenggat waktu tersebut.
Retorika Keamanan Memenuhi Akses Pasar
Substansi argumen Mensch bersifat komersial dan filosofis. Jika AI frontier diperlakukan sebagai risiko eksistensial yang memerlukan akses yang dikontrol dengan ketat, pasar akan berkonsolidasi di sekitar segelintir perusahaan yang memiliki sumber daya untuk menyediakan API terbatas di bawah rezim kepatuhan yang ketat. Jika AI diperlakukan sebagai perangkat lunak yang dapat dikontrol, penyedia open-weight dapat bersaing dalam hal harga, privasi, dan penyesuaian.
Itulah sebabnya perdebatan mengenai betapa berbahayanya AI telah menjadi perdebatan mengenai struktur pasar. Argumen Mensch kepada Le Monde adalah bahwa rasa takut disebarkan secara strategis, dan bahwa insiden musim panas ini lebih mencerminkan keamanan operasional masing-masing perusahaan dibandingkan kemampuan pengendalian teknologi secara keseluruhan.
Mereka yang skeptis membantah bahwa bobot terbuka membuat penyalahgunaan lebih sulit dicegah dan bahwa insiden agen baru-baru ini di industri, termasuk akses tidak sah dan tumpahan data, menunjukkan bahwa laboratorium yang memiliki sumber daya yang baik pun kesulitan mengendalikan sistem mereka. Ketidaksepakatan ini tidak mungkin diselesaikan melalui satu wawancara saja.
Untuk Ditonton Selanjutnya
Mistral mengatakan pihaknya berencana untuk mengirimkan model open-weight baru, dan wawancara Mensch menambah harapan bahwa perusahaan bermaksud untuk mengimbangi laboratorium terdepan namun tetap terbuka. Seperti halnya klaim pra-rilis lainnya, pengujian yang berarti akan tiba ketika model dikirimkan dan tolok ukur independen dapat memverifikasi posisi sebenarnya model tersebut.
Untuk saat ini, wawancara Le Monde mempertajam garis pemisah dalam industri ini. Salah satu kubu melihat perilaku buruk agen baru-baru ini sebagai bukti bahwa AI memerlukan kontrol yang lebih ketat dan akses yang dibatasi. Kelompok lainnya, yang diwakili oleh laboratorium AI terkemuka di Eropa, memandang perangkat lunak yang dapat dikontrol memiliki risiko yang nyata namun dapat dikelola, dan manfaatnya tidak boleh disembunyikan di balik pintu tertutup.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
