گروهی متشکل از 25 مدالآور فیلدز - هر امضاکننده اولیه برنده بالاترین افتخار ریاضیات است - اعلامیهای رسمی منتشر کردهاند که هشدار میدهد رقابت برای نمایش هوش مصنوعی در معیارهای ریاضی هم به علم ریاضیات و هم به جامعه حامی آن آسیب میزند. این بیانیه، با عنوان «عدم همسویی شدید هوش مصنوعی در ریاضیات»، روز جمعه منتشر شد و یکی از امضاکنندگان اولیه آن، ترنس تائو، یکی از تأثیرگذارترین ریاضیدانان نسل خود است.
این بیانیه در mathandai.org منتشر شده است و طبق فهرست امضاکنندگان عمومی این سایت، طی یک روز بیش از 1300 تأیید کننده دیگر از دانشگاه ها و مؤسسات تحقیقاتی در سراسر جهان جمع آوری شده است. تائو مشارکت خود را در پستی در وبلاگ شخصی خود تأیید کرد و نوشت که "مفتخر است که در فهرست 25 امضاکننده اولیه - همه مدالآوران فیلدز" قرار دارد. برای هر کسی که [آخرین پیشرفتهای هوش مصنوعی] (https://aibuzzwire.news) را ردیابی میکند، این مداخله یکی از برجستهترین انتقادات را در ریاضیات نخبه در مورد اینکه چگونه آزمایشگاههای هوش مصنوعی تواناییهای مدلهای خود را اندازهگیری میکنند - و عمومی میکنند، نشان میدهد. این موضوع بر بحث های روز جمعه در هکر نیوز غالب شد و صدها نظر را به خود جلب کرد.
آنچه اعلامیه می گوید
امضاکنندگان مناقشه نمی کنند که سیستم های هوش مصنوعی به طور قابل توجهی توانایی پیدا کرده اند. در این بیانیه آمده است: «طی چند ماه گذشته، قابلیتهای ریاضی LLM بهطور چشمگیری بهبود یافته است، تا جایی که میتوانند مسائل مهم برجسته را در بسیاری از زمینههای ریاضی حل کنند». اعتراض به اتفاق بعدی است: شرکتهای هوش مصنوعی از این راهحلها بهعنوان معیارهای رقابتی استفاده میکنند، که نویسندگان استدلال میکنند «برای علم ریاضیات و جامعه ریاضی مضر است».
ادعای اصلی واضح است: "اهداف شرکت های هوش مصنوعی و اهداف جامعه ریاضی به شدت ناهمسو هستند."
این بیانیه استدلال میکند که حل مشکلات معروف بهطور سنتی بهعنوان نشانهای از بینش جدید - آغاز یک فرآیند طولانی مشترک از گفتگوها، بحثها، سادهسازی، و در نهایت نوشتن کتابهای درسی - به جای اینکه به خودی خود هدف باشد، عمل میکند. نویسندگان می نویسند: «حل مسائل تنها ابزار و نماینده ای برای دستیابی به هدف اولیه درک و بینش مفهومی است. فراموش کردن این موضوع در دنیای هوش مصنوعی ممکن است ابزار را در مقابل هدف اصلی قرار دهد.
بیشترین نقل قول این نگرانی را نشان می دهد: "تولید انبوه با سرعت و سرعت بیشتر اظهارات "درست/نادرست" می تواند به جای دمیدن زندگی در ایده های جدید، زمین حاصلخیز را از بین ببرد."
اسناد، سرقت ادبی، و اعلامیه های عجولانه
امضاکنندگان همچنین یک شکایت عملی را مطرح می کنند. در این بیانیه آمده است: «اغلب این راهحلها با عجله اعلام میشوند و زمانی برای نگارش مناسب، جداسازی روشها و ایدههای جدید و استناد به کارهای قبلی مرتبط با دیگران باقی نمیمانند». مانند تمام حرفههای خلاق، این موضوع باعث ایجاد سؤالات شدید اسناد و سرقت ادبی میشود.»
نویسندگان درباره یک اثر مرتبه دوم هشدار می دهند: بدون "ریاضی دانانی که می خواهند از توسعه و ادغام آنها با قانون ریاضی مراقبت کنند"، ایده های AI هرگز به طور کامل توسعه نخواهند یافت و "زنجیره مهم انتقال انسانی بین ریاضیدانان از بین خواهد رفت."
نمایش غیرمعمول فوریت
خود این فرآیند غیرعادی بود. تائو در وبلاگ خود اذعان کرد که این بیانیه ناشی از بحثهای میان امضاکنندگان «طی هفته گذشته» بوده است و به دلیل عدم اجرای یک روند مشورتی بیشتر عذرخواهی کرد. او نوشت: «ما تصمیم گرفتیم که فوریت وضعیت به گونهای است که باید زودتر بیانیهای منتشر کنیم.
این بیانیه از مدل اعلامیه قبلی لیدن پیروی می کند و سازمان دهندگان به صراحت از امضاهای بیشتر دعوت می کنند. تائو همچنین به خوانندگان به پوشش اخیر بیانیه اکونومیست اشاره کرد. 25 امضاکننده اولیه همگی مدالآوران فیلدز بودند، یک علامت عمدی - برجستهترین محققان ریاضیات که یک صدا صحبت میکنند. فهرست حمایت گستردهتر از قبل شامل ریاضیدانانی از MIT، ETH زوریخ، موسسه Max Planck، Northwestern، NYU و دهها موسسه دیگر میشود.
هشداری فراتر از ریاضیات
در حالی که این بیانیه ریشه در ریاضیات دارد، نویسندگان آن را به عنوان الگویی برای یک مسئله بسیار گسترده تر در نظر می گیرند. در این بیانیه آمده است: «ما شاهد یک تهدید کلی برای کار فکری هستیم، با عدم همسویی بین نتیجه استفاده از هوش مصنوعی و هدف اولیه آن.
این استدلال بسیار فراتر از گروه های ریاضی طنین انداز خواهد شد. نویسندگان خاطرنشان میکنند که در بسیاری از حرفهها، سالها آموزش به طور سنتی نه تنها برای تولید پاسخهای نهایی، بلکه برای توسعه درک و توانایی برای فرمولبندی سؤالات جدید مفید بوده است. زمانی که سیستمهای هوش مصنوعی قادر به تولید مستقیم نتایج چنین کاری میشوند، «این اهداف دیگر همسو نمیشوند». این اعلامیه مسائلی را که ریاضیدانان با آن مواجه هستند، توصیف می کند: «مشابه مسائلی است که سایر حرفه های علمی و خلاق با آن مواجه هستند و نشان دهنده مسائلی است که ممکن است تمام بشریت با آن مواجه شود».
رد هوش مصنوعی نیست
قابل ذکر است که این بیانیه فراخوانی برای توقف توسعه هوش مصنوعی نیست. نویسندگان می نویسند: «هوش مصنوعی پتانسیل افزایش و تسریع مطالعه و درک واقعی ریاضی را ارائه می دهد، در حالی که اذعان دارند که «ریاضیات به عنوان یک حرفه نیاز به تطبیق دارد».
مداخله در یک لحظه شارژ فرود می آید. ادعاها مبنی بر اینکه سیستمهای هوش مصنوعی مشکلات باز مشهور را حل کردهاند یا پیشرفتهای عمدهای داشتهاند، بارها به تیتر خبرها تبدیل شدهاند، و اوایل سال جاری یک اختلاف جداگانه بر سر ادعای OpenAI مرتبط با مشکل Navier-Stokes نشان داد که چنین اعلامیههایی تا چه حد میتوانند بحثبرانگیز شوند. اعلامیه مدال آوران فیلدز در واقع ارشدترین پاسخ جامعه ریاضیات به این پویایی است: درخواستی مبنی بر اینکه آزمایشگاههای هوش مصنوعی از برخورد با مشکلات باز قرنها به عنوان ورودیهای تابلوی امتیازات خودداری کنند.
اینکه آیا شرکتهای هوش مصنوعی پاسخ میدهند - با مشورت با ریاضیدانان قبل از اعلام، اعتبار دادن به کارهای قبلی یا بازنگری در معیارها - باید دید. آنچه در حال حاضر مشخص است این است که افرادی که این مشکلات را بهتر می دانند، دیگر از حاشیه نظاره گر نیستند.
