Sekumpulan 25 Pemenang Pingat Bidang — setiap penandatangan awal pemenang penghormatan tertinggi matematik — telah menerbitkan satu pengisytiharan rasmi amaran bahawa perlumbaan untuk mempamerkan kecerdasan buatan pada penanda aras matematik merosakkan kedua-dua sains matematik dan komuniti yang mengekalkannya. Kenyataan itu, bertajuk "A Severe Misalignment of AI in Mathematics," disiarkan secara langsung pada hari Jumaat, dan antara penandatangan awalnya ialah Terence Tao, salah seorang ahli matematik paling berpengaruh pada generasinya.
Pengisytiharan itu diterbitkan di mathandai.org, dan dalam masa sehari ia telah mengumpulkan lebih daripada 1,300 penyokong tambahan daripada universiti dan institut penyelidikan di seluruh dunia, menurut senarai penandatangan awam tapak itu. Tao mengesahkan penyertaannya dalam catatan di blog peribadinya, menulis bahawa dia "berbangga menjadi antara senarai 25 penandatangan awal — semua Pemenang Pingat Fields." Bagi sesiapa yang menjejaki perkembangan AI terbaharu, campur tangan itu menandakan salah satu kritikan paling tajam dari kalangan matematik elit tentang cara makmal AI mengukur — dan menghebahkan — keupayaan model mereka. Ia mendominasi perbincangan mengenai Berita Hacker pada hari Jumaat, menarik beratus-ratus komen.
Apa yang Dikatakan oleh Deklarasi
Penandatangan tidak mempertikaikan bahawa sistem AI telah menjadi sangat berkemampuan. "Sejak beberapa bulan kebelakangan ini, keupayaan matematik LLM telah meningkat secara mendadak, sehingga mereka boleh menyelesaikan masalah tertunggak utama dalam banyak bidang matematik," kata deklarasi itu. Bantahannya adalah terhadap apa yang berlaku seterusnya: syarikat AI menggunakan penyelesaian tersebut sebagai penanda aras yang kompetitif, yang penulis pertikaikan adalah "memudaratkan sains matematik dan komuniti matematik."
Tuntutan teras adalah jelas: "Matlamat syarikat AI dan matlamat komuniti matematik sangat tidak sejajar."
Pengisytiharan itu berhujah bahawa menyelesaikan masalah terkenal secara tradisinya berfungsi sebagai tanda wawasan baharu — permulaan proses komunal ceramah, perbincangan, penyederhanaan, dan penulisan buku teks akhirnya — bukannya pengakhiran itu sendiri. "Menyelesaikan masalah hanyalah alat dan proksi untuk mencapai matlamat utama pemahaman konsep dan wawasan," tulis penulis. "Melupakan perkara ini dalam dunia AI boleh menjadikan alat itu menentang matlamat utama."
Baris yang paling banyak dipetik menggambarkan kebimbangan: "pengeluaran besar-besaran pada kadar kenyataan 'benar/palsu' yang lebih pantas dan pantas boleh memusnahkan tanah yang subur dan bukannya menghidupkan idea baharu."
Atribusi, Plagiarisme dan Pengumuman Tergesa-gesa
Para penandatangan juga membangkitkan rungutan praktikal. "Selalunya penyelesaian ini diumumkan secara tergesa-gesa, tidak meninggalkan masa untuk penulisan yang betul, pengasingan kaedah dan idea baharu, dan memetik karya terdahulu yang berkaitan orang lain," kata deklarasi itu. "Seperti dalam semua profesion kreatif, ini menimbulkan persoalan atribusi dan plagiarisme yang teruk."
Penulis memberi amaran tentang kesan tertib kedua: tanpa "ahli matematik yang sanggup menjaga perkembangan dan penyepaduan mereka ke dalam kanun matematik," idea yang diilhamkan oleh AI tidak akan berkembang sepenuhnya, dan "rantai penghantaran manusia yang penting antara ahli matematik akan hilang."
Pertunjukan Kegersangan Luar Biasa
Proses itu sendiri adalah luar biasa. Tao mengakui di blognya bahawa kenyataan itu berkembang daripada perbincangan di kalangan penandatangan "sepanjang minggu lalu," dan memohon maaf kerana tidak menjalankan proses perundingan yang lebih. "Kami memutuskan bahawa keadaan mendesak adalah sedemikian rupa sehingga kami perlu mengeluarkan kenyataan lebih awal daripada kemudian," tulisnya.
Pengisytiharan itu mengikut model pengisytiharan Leiden yang terdahulu, dan penganjur secara eksplisit menjemput tandatangan selanjutnya. Tao juga menunjukkan pembaca kepada liputan terbaru mengenai kenyataan The Economist. 25 penandatangan awal adalah semua Pemenang Pingat Fields, isyarat yang disengajakan — penyelidik matematik yang paling dihias bercakap dengan satu suara. Senarai sokongan yang lebih luas sudah termasuk ahli matematik dari MIT, ETH Zurich, Institut Max Planck, Northwestern, NYU dan berpuluh-puluh institusi lain.
Amaran Melangkaui Matematik
Walaupun pernyataan itu berakar umbi dalam matematik, penulis membingkainya sebagai templat untuk masalah yang lebih luas. "Kami menyaksikan ancaman umum terhadap kerja intelektual, dengan salah jajaran antara hasil penggunaan AI dan tujuan awalnya," deklarasi itu berbunyi.
Hujah itu akan bergema jauh di luar jabatan matematik. Dalam banyak profesion, penulis mencatat, latihan selama bertahun-tahun secara tradisinya bukan sahaja untuk menghasilkan jawapan akhir tetapi untuk membangunkan pemahaman dan keupayaan untuk merumuskan soalan baru. Apabila sistem AI menjadi mampu menghasilkan hasil kerja sedemikian secara langsung, "matlamat ini tidak lagi sejajar." Pengisytiharan itu menerangkan isu yang dihadapi ahli matematik sebagai "serupa dengan isu yang dihadapi oleh profesion saintifik dan kreatif lain, dan menunjukkan isu yang mungkin dihadapi oleh semua manusia."
Bukan Penolakan AI
Terutama, kenyataan itu bukan panggilan untuk menghentikan pembangunan AI. "AI menawarkan potensi untuk meningkatkan dan mempercepatkan kajian dan pemahaman matematik tulen," tulis penulis, sambil mengakui bahawa "matematik sebagai profesion perlu menyesuaikan diri."
Campur tangan mendarat dalam masa yang dikenakan. Dakwaan bahawa sistem AI telah menyelesaikan atau membuat kemajuan besar dalam masalah terbuka yang diraikan telah berulang kali menjadi tajuk utama, dan pada awal tahun ini pertikaian berasingan mengenai tuntutan OpenAI yang berkaitan dengan masalah Navier–Stokes menunjukkan betapa perbalahan pengumuman sedemikian boleh menjadi. Pengisytiharan Fields Medallists secara berkesan adalah tindak balas paling kanan komuniti matematik terhadap dinamik itu: permintaan agar makmal AI berhenti merawat masalah terbuka berabad-abad sebagai entri papan pendahulu.
Sama ada syarikat AI bertindak balas — dengan berunding dengan ahli matematik sebelum pengumuman, mengkreditkan kerja terdahulu, atau memikirkan semula penanda aras — masih belum dapat dilihat. Apa yang sudah jelas ialah orang yang paling mengetahui masalah ini tidak lagi melihat dari tepi.
