Bu hafta Dil Modelleme Konferansı'nda (COLM) sunulan hakemli bir araştırmaya göre, bir yapay zeka aracına güvenerek yalnızca on dakika harcamak, kişinin zor görevlere odaklanma ve bu görevlerde ısrar etme becerisini önemli ölçüde zayıflatıyor.

"Yapay Zeka Yardımı Kalıcılığı Azaltır ve Bağımsız Performansa Zarar Verir" başlıklı makale, UC Berkeley İnsanla Uyumlu Yapay Zeka Merkezi'nde araştırma görevlisi olan yazar ve araştırmacı Brian Christian ile Carnegie Mellon Üniversitesi, Massachusetts Teknoloji Enstitüsü, Oxford Üniversitesi ve UCLA'dan akademisyenler tarafından ortak yazılmıştır. Çalışmanın daha önceki bir taslağı baharda dağıtıldı, ancak güncellenmiş, hakemli versiyonu bu hafta konferansta sunuldu ve UC Berkeley'in araştırma ofisi 9 Ekim'de ayrıntılı bir özet yayınladı. For more context on this story, see our ongoing more AI stories.

Araştırmacılar Ne Buldu?

Ekip, insanların odaklanma ve kararlılığının ne kadar hızlı azaldığını ölçmek için çevrimiçi olarak seçilen 1.222 katılımcıyla bir dizi rastgele kontrollü deneme gerçekleştirdi.

İlk deneyde 354 katılımcıdan 15 temel kesir problemini çözmeleri istendi. Bir grup yardım almadan çalışırken, ikinci bir grubun yan tarafında ChatGPT açıktı ve bunu yardım için kullanmakta, hatta doğrudan yanıt istemekte özgürdü. Yapay zeka erişimi olan grup daha doğru bir başlangıç ​​yaptı. Daha sonra 12 problemin ardından araştırmacılar aracı elinden aldı. Neredeyse anında bu gruptaki doğruluk çöktü.

Bu model, 667 katılımcıdan oluşan daha büyük ikinci bir grupla tekrarlandı. Yapay zeka yardımı geri çekildiğinde, yapay zeka kullanıcıları yanlış yanıtlar verdi veya tamamen vazgeçti; yardım almadan çalışan grup ise göreve devam etti ve daha başarılı bir şekilde tamamladı.

201 katılımcıyla yapılan üçüncü deneyde matematik problemleri SAT okuduğunu anlama istemiyle değiştirildi. Sonuç daha önceki denemeleri yansıtıyordu: Araç ortadan kaybolduğunda dayanıklılık ve doğruluk da ortadan kalktı.

UC Berkeley tarafından yayınlanan yorumunda Christian, "Neredeyse daha net bir hikaye isteyemezdiniz" dedi.

Anında Yanıtların 'İnsan Maliyeti'

Araştırmacılar sorunun yapay zekanın kendisi değil, varsayılan olarak sağladığı yardım türü olduğunu öne sürüyor. Bir sistem saniyeler içinde yanıtlar ürettiğinde, kullanıcılar bu hıza alışır ve daha yavaş olan her şey verimsiz gelmeye başlar. Bu araca güvenmek aynı zamanda ekibin "üretken mücadele" olarak adlandırdığı şeyi, yani insanların kendi güçlü yönlerini ve ilgi alanlarını keşfetmelerine yardımcı olan çaba gerektiren katılımı da ortadan kaldırır.

"Bu sistemleri yardımcı olmak için kurduk, ancak bize gerçekten yardımcı olacak şekilde yardımcı oluyorlar mı?" dedi Christian. "İronik bir şekilde bize çoğu zaman faydasız şekillerde yardım ettiklerini gösterdik."

2020 tarihli "Hizalama Sorunu" adlı kitabı, yapay zeka güvenliği konusunda önde gelen erişilebilir çalışmalardan biri olarak kabul edilen Christian, bulgunun birçok insanın sahip olduğu bir sezgiye kanıt sağladığını söyledi. "Bu çarpıcı bir bulgu ama bir bakıma çoğumuzun içgüdüsel olarak hissettiği bir hikaye için cephane sağlıyor" dedi. "Ben de bunu yaşıyorum."

Kesirlerin Ötesinde Neden Önemlidir

Çalışma, eğitimde bilişsel yük aktarımına ilişkin endişelerin arttığı bir dönemde ortaya çıkıyor. Berkeley'in raporuna göre Frontier AI şirketleri, görevlerin chatbot'lara aktarılmasının kullanıcının bir konu hakkındaki temel anlayışını azaltabileceğini kabul etti. Christian olası bir çözüm öneriyor: Yapay zeka yanıtları varsayılan olarak daha öğretici olabilir; yerini alan bir telesekreterden ziyade rehberlik eden bir öğretmen gibi davranabilir.

"İnsan yeteneklerinin yerini almak yerine mümkün olduğu kadar artırıldığı bir gelecek için çalışmalıyız" dedi.

İlgisi profesyonel araştırmalara kadar uzanıyor. Christian, bilimde yapay zeka araçlarına aşırı güvenmenin, iyi bir bilim insanı yapan alışkanlıkları tam anlamıyla aşındırabileceğinden endişe ediyor: verilere yakın kalmak, kendini materyale kaptırmak ve bir ekiple yakın çalışma. Bir atılımın ardındaki fikirleri üreten on kişilik bir araştırma grubunun iki veya üç araştırmacıya ve bir sohbet robotuna küçültülebileceğini belirtti.

Christian, "Bu, kesirler ve SAT sorunlarıyla ilgili bir hikaye değil" dedi. "Bu, yukarıdan aşağıya, ilkokul öğrencilerinden dünyanın önde gelen uzmanlarına kadar insan bilgisi ve insan uzmanlığının başına gelen bir şey."

Ana Akıma Giren Bir Çalışma

İlk bulgular, ön taslağın baharda ortaya çıktığı WIRED ve Psychology Today'de yer aldı ve UC Berkeley'e göre The New York Times, makale ve benzer araştırmalar hakkında geçen hafta bir hikaye yayınladı. Alanın dil modelleme araştırmaları için ana mekanlarından biri olan COLM'deki hakemli sunum artık sonuca resmi bir damga veriyor.

Eğitimciler ve işverenler için mesaj rahatsız edici ama somut: Anında yapay zeka yanıtlarına kısa süreli maruz kalmak bile, yanıtlar artık mevcut olmadığında insanların davranışlarını ölçülebilir şekilde değiştiriyor. Yapay zeka şirketleri için bu çalışma, çözdüğü kadar öğreten sistemlerin tasarlanması üzerindeki baskıyı da artırıyor.

Christian ise masasının üzerinde bir not defteri tutuyor ve her gün oraya yazıyor. Berkeley'e bu uygulamanın kendisini ayakları yere sağlam basmasını sağladığını ve kendi akademik üstünlüğünü körelmekten koruduğunu söyledi.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →