طبق یک مطالعه بررسی شده که این هفته در کنفرانس مدل سازی زبان (COLM) ارائه شد، صرف تنها ده دقیقه با تکیه بر یک ابزار هوش مصنوعی به طور قابل توجهی توانایی فرد را برای تمرکز روی کارهای دشوار و تداوم در انجام کارهای دشوار مختل می کند.

این مقاله با عنوان «کمک هوش مصنوعی پایداری را کاهش می‌دهد و به عملکرد مستقل آسیب می‌رساند» توسط نویسنده و محقق برایان کریستین، پژوهشگر مرکز هوش مصنوعی برکلی دانشگاه کالیفرنیا برای هوش مصنوعی سازگار با انسان، همراه با محققان دانشگاه کارنگی ملون، مؤسسه فناوری ماساچوست، دانشگاه آکسفورد و UCLA نوشته شده است. پیش نویس قبلی این کار در بهار منتشر شد، اما نسخه به روز شده و مورد بازبینی آن در کنفرانس این هفته ارائه شد و دفتر تحقیقات دانشگاه برکلی خلاصه ای مفصل را در 9 اکتبر منتشر کرد. For more context on this story, see our ongoing AI industry coverage.

آنچه محققان پیدا کردند

برای اندازه‌گیری سرعت کاهش تمرکز و پشتکار افراد، این تیم یک سری کارآزمایی تصادفی‌سازی و کنترل‌شده را با ۱۲۲۲ شرکت‌کننده که به‌صورت آنلاین استخدام شده بودند، انجام داد.

در آزمایش اول از 354 شرکت کننده خواسته شد 15 مسئله کسری اساسی را حل کنند. یک گروه بدون کمک کار می‌کردند، در حالی که گروه دوم ChatGPT را در کنار خود باز می‌کردند و می‌توانستند از آن برای کمک استفاده کنند - یا حتی به طور کامل پاسخ بخواهند. گروهی که به هوش مصنوعی دسترسی داشتند کار خود را دقیق تر شروع کردند. سپس، پس از 12 مشکل، محققان ابزار را برداشتند. تقریباً بلافاصله، دقت در آن گروه از بین رفت.

این الگو با گروه دوم و بزرگتر 667 شرکت کننده تکرار شد. هنگامی که کمک هوش مصنوعی برداشته شد، کاربران هوش مصنوعی پاسخ‌ها را اشتباه دریافت کردند یا به طور کامل منصرف شدند، در حالی که گروهی که بدون کمک کار می‌کردند به کار خود ادامه دادند و با موفقیت بیشتری به پایان رساندند.

آزمایش سوم با 201 شرکت‌کننده، مسائل ریاضی را با یک دستور درک مطلب SAT جایگزین کرد. نتیجه آزمایش‌های قبلی را تکرار کرد: وقتی ابزار ناپدید شد، پشتکار و دقت نیز ناپدید شد.

کریستین در اظهاراتی که توسط UC Berkeley منتشر شد، گفت: «تقریباً نمی‌توانستید داستان واضح‌تری بخواهید.

"هزینه انسانی" پاسخ های فوری

محققان استدلال می کنند که مشکل خود هوش مصنوعی نیست، بلکه نوع کمکی است که به طور پیش فرض انجام می دهد. هنگامی که یک سیستم در عرض چند ثانیه پاسخ‌ها را تولید می‌کند، کاربران به آن سرعت عادت می‌کنند و هر چیزی که کندتر باشد احساس ناکارآمدی می‌کند. اتکا به این ابزار همچنین چیزی را که تیم «مبارزه مولد» می‌نامد حذف می‌کند - مشارکت پرتلاشی که به افراد کمک می‌کند نقاط قوت و علایق خود را کشف کنند.

ما این سیستم‌ها را ساخته‌ایم تا مفید باشند، اما آیا آنها به گونه‌ای برای ما مفید هستند که واقعاً به ما کمک کنند؟» مسیحی گفت. از قضا نشان دادیم که آنها اغلب به روش‌هایی به ما کمک می‌کنند که مفید نیستند.»

کریستین، که کتاب 2020 او "مشکل هم ترازی" به طور گسترده به عنوان یکی از آثار قابل دسترس پیشرو در مورد ایمنی هوش مصنوعی در نظر گرفته می شود، گفت که این یافته شواهدی را برای شهودی که بسیاری از مردم دارند ارائه می دهد. او گفت: "این یک یافته قابل توجه است، اما به نوعی مهمات را برای داستانی فراهم می کند که بسیاری از ما آن را در دل خود احساس می کنیم." "من هم تجربه اش می کنم."

چرا فراتر از کسری مهم است

این مطالعه در بحبوحه نگرانی فزاینده در مورد بارگذاری شناختی در آموزش و پرورش است. بر اساس گزارش برکلی، خود شرکت‌های هوش مصنوعی مرزی اذعان کرده‌اند که بارگذاری وظایف به ربات‌های گفتگو می‌تواند درک اولیه کاربر از یک موضوع را کاهش دهد. کریستین راه‌حلی را پیشنهاد می‌کند: پاسخ‌های هوش مصنوعی می‌توانند به‌طور پیش‌فرض آموزنده‌تر باشند - مانند معلمی که راهنمایی می‌کند به جای یک دستگاه پاسخگویی که جایگزین می‌کند.

او گفت: «ما باید برای آینده‌ای تلاش کنیم که در آن توانایی‌های انسانی تا حد امکان تقویت شوند و نه جایگزین شوند».

نگرانی او به تحقیقات حرفه ای گسترش می یابد. کریستین نگران است که اتکای بیش از حد به ابزارهای هوش مصنوعی در علم می تواند دقیقاً عاداتی را که یک دانشمند خوب می سازد از بین ببرد: نزدیک ماندن به داده ها، غوطه ور شدن در مطالب و کار نزدیک با یک تیم. او خاطرنشان کرد که یک گروه تحقیقاتی ده نفره که ایده های پشت سر یک پیشرفت را ایجاد می کند، ممکن است به دو یا سه محقق و یک چت بات کاهش یابد.

کریستین گفت: «این داستانی درباره کسری ها و مشکلات SAT نیست. این چیزی است که برای دانش بشری و تخصص انسانی از بالا تا پایین و از دانش‌آموزان کلاس‌های ابتدایی تا کارشناسان برجسته در جهان اتفاق می‌افتد.»

مطالعه ای که وارد جریان اصلی شد

به گفته دانشگاه کالیفرنیا برکلی، یافته‌های اولیه از WIRED و Psychology Today زمانی که پیش‌نویس اولیه در بهار منتشر شد، پوشش داده شد و نیویورک تایمز هفته گذشته داستانی درباره این مقاله و تحقیقات مشابه منتشر کرد. ارائه بررسی شده در COLM - یکی از مکان‌های اصلی این حوزه برای تحقیقات مدل‌سازی زبان - اکنون به نتیجه یک مهر رسمی می‌دهد.

برای مربیان و کارفرمایان، این پیام ناخوشایند اما مشخص است: حتی قرار گرفتن کوتاه مدت در معرض پاسخ های فوری هوش مصنوعی به طور قابل اندازه گیری نحوه رفتار افراد را در زمانی که پاسخ ها دیگر در دسترس نیستند تغییر می دهد. و برای شرکت‌های هوش مصنوعی، این مطالعه به فشار فزاینده‌ای برای طراحی سیستم‌هایی می‌افزاید که هر چند وقت یک‌بار که حل می‌کنند، آموزش می‌دهند.

کریستین به نوبه خود دفتری را روی میزش نگه می دارد و هر روز در آن می نویسد. او به برکلی گفت این تمرین او را ثابت نگه می‌دارد - و از کسل‌کردن استعداد علمی او جلوگیری می‌کند.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →