Retraction Watch در 8 اکتبر گزارش داد که OpenAI سه پیش‌چاپ از 722 پیش‌چاپ پژوهشی را که در GitHub در 6 اکتبر منتشر کرده بود، پس از یک خطای علامتی که یک آرگومان مرکزی را باطل کرد و به همراه آن، دو نتیجه را که به آن ساختار بستگی داشت، پس گرفت. این عقب نشینی کمتر از 24 ساعت پس از انتشار انبوه صورت گرفت، که OpenAI آن را تلاشی برای "پیشبردن مرز دانش بشری و امکان پیشرفت بیشتر در ریاضیات" عنوان کرده بود.

پیش‌چاپ‌ها پیشرفت ادعایی یک مدل هوش مصنوعی داخلی را بر روی 372 مسئله حل‌نشده در هندسه، علوم کامپیوتر، جبر و سایر زمینه‌ها توصیف کردند. این اقدام بلافاصله مورد بررسی دقیق جوامع تحقیقاتی قرار گرفت - و همانطور که در اوایل این هفته در گزارش خود در مورد [انتشار اولیه 722 نسخه خطی ریاضی] (https://aibuzzwire.news) پوشش دادیم، این شرکت این کاهش را به عنوان نمایشی بی سابقه از آنچه مدل مرزی منتشر نشده خود می تواند تولید کند، توصیف کرد. آخرین اخبار مربوط به این داستان را در پوشش [آخرین پیشرفت های هوش مصنوعی] (https://aibuzzwire.news) ما دنبال کنید.

یک خطای علامت از طریق اثبات های وابسته آبشار می شود

در 7 اکتبر، OpenAI اعلام کرد که سه نسخه خطی را به دلیل یک خطای علامت پس گرفته است. بر اساس این اعلامیه، این خطا یک استدلال در یک نسخه خطی و ساختار استفاده شده توسط دو مقاله وابسته را باطل کرد. اکنون هر مقاله خارج شده حاوی یک اعلان است که "شکاف" را توضیح می دهد.

این شرکت همچنین گفت که 14 نسخه خطی دیگر را با تعمیرات اثباتی، اظهارات تصحیح شده، فرضیه‌ها و وابستگی‌های واضح‌تر و یک تصحیح به استناد منسوخ اصلاح کرده است. دن رابرتز، سرپرست تحقیقاتی در OpenAI، برداشت‌ها را در X اعلام کرد و نوشت که این شرکت "به‌روزرسانی مخزن را با رسمی‌سازی‌های جدید و با هر اشتباهی که متوجه شویم ادامه خواهد داد."

یکی از سخنگویان OpenAI به Retraction Watch گفت که این شرکت اشتباهات را در طول ممیزی شناسایی کرد و این فرآیند را تکراری توصیف کرد "مانند نسخه های خطی تحقیقاتی دیگر". این سخنگوی اضافه کرد که OpenAI از بررسی دقیق استقبال می کند و "برای تصحیح [اشتباهات] به سرعت تلاش می کند و در صورت یافتن هیچ راه حلی، اوراق را پس می گیرد."

نکته قابل توجه، سخنگوی OpenAI گفت که همکاران شرکت در گروه مشاوره در ریاضیات و هوش مصنوعی (AGMAI) توصیه می‌کنند نتایج را بدون انتظار برای «رسمی‌سازی کامل» منتشر کنند - و تقریباً 50 درصد از نتایج تأیید نشده منتشر شد.

ریاضیدانان: رفع سریع، اعتماد از دست رفته

واکنش‌های ریاضیدانان محقق اندازه‌گیری شد، اما اشاره کرد. الکس تاونسند، دانشیار ریاضیات در دانشگاه کرنل، به دیده بان Retraction گفت که یک خطای آبشاری در سه نسخه تعجب آور نیست و او مشکوک است که خطاهای بیشتری پیدا شود. او با اشاره به زبان برنامه نویسی متن باز که به طور مکانیکی اثبات های ریاضی را بررسی می کند، گفت: «با توجه به شک و تردید نسبت به هوش مصنوعی در جامعه ریاضیات، من فکر می کنم که OpenAI باید ابتدا دست نوشته هایی را اعلام می کرد که Lean تأیید شده بودند. او استدلال کرد که پس از آن یک اعلامیه جداگانه می تواند از جامعه برای تأیید بقیه کمک کند.

اندرو ساترلند، یک دانشمند تحقیقاتی ارشد در بخش ریاضیات MIT، گفت که او از عملکرد سریع OpenAI پس از یافتن خطاها قدردانی می کند و آن را "کاری مسئول" می نامد. اما او تاکید کرد که بسیاری از ریاضیدانان از نحوه رفتار OpenAI تا این لحظه ناراضی هستند، به ویژه به اعلامیه شرکت در 8 سپتامبر مبنی بر اینکه یک سیستم هوش مصنوعی مشکل ناویر-استوکس را حل کرده است - ادعایی که گروهی از محققان برجسته از آن انتقاد کردند و آن را عجولانه دانستند، "هیچ زمانی را برای نوشتن مناسب، جداسازی روش‌های جدید و ایده‌های مرتبط قبلی باقی نگذاشتند." بیش از 8000 محقق این نگرانی ها را تایید کرده اند.

انجمن ریاضیات انسانی در بیانیه ای که در 7 اکتبر منتشر شد، فراتر رفت: "ریاضیدانان درخواستی برای انجام این کار نکردند. انتشار بیش از 700 پرونده به یکباره نشان دادن دانش علمی نیست، بلکه نمایش قدرت است. ما از ریاضیدانان می خواهیم که کار خود را با OpenAI متوقف کنند و به چشم اندازی از علم برگردند که درک انسان را متمرکز می کند."

این برای علم تولید شده توسط هوش مصنوعی به چه معناست

این قسمت به عنوان یک مورد آزمایش اولیه برای اینکه چگونه آزمایشگاه‌های هوش مصنوعی باید تحقیقات تولید شده توسط ماشین را در مقیاس انجام دهند، شکل می‌گیرد. رویکرد OpenAI - انتشار سریع، ممیزی در ملاء عام، پس گرفتن موارد ناموفق - با رویکردی که بسیاری از ریاضیدانان ترجیح می دهند، در تضاد است، که در آن نتایج در دستیار اثباتی مانند Lean قبل از هر اعلامیه بررسی می شود.

استدلال های منطقی از هر دو طرف وجود دارد. انتظار برای رسمی‌سازی کامل می‌تواند نتایج مفید را ماه‌ها به تاخیر بیندازد و OpenAI می‌گوید که با برکت AGMAI منتشر شد. اما اثر آبشاری - یک خطای علامت که دو مقاله وابسته را حذف می‌کند - نشان می‌دهد که چرا تأیید قبل از انتشار در ریاضیات عادی بوده است، و چرا احتمالاً با کار کردن جامعه از طریق حدود 700 نسخه خطی باقی‌مانده، خطاهای بیشتری ظاهر می‌شود.

در حال حاضر، OpenAI می‌گوید که می‌خواهد از بازخوردها درس بگیرد و از پروتکل AGMAI «تا جایی که می‌توانیم» پیروی می‌کند. اینکه آیا این برای بازسازی اعتبار در جامعه ریاضی کافی است یا خیر، سوال دیگری است. همانطور که ساترلند می گوید: "من فکر می کنم که برداشت ها و اصلاحات توسط جامعه ریاضیات مثبت دیده می شود، اما برای بازگرداندن اعتمادی که از دست داده اند، بسیار بیشتر از آن زمان لازم است."

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →