Retraction Watch'un 8 Ekim'de bildirdiğine göre OpenAI, 6 Ekim'de GitHub'da yayınladığı 722 araştırma ön baskısından üçünü, bir işaret hatasının merkezi bir argümanı ve bununla birlikte bu yapıya bağlı olan iki sonucu geçersiz kılmasının ardından geri çekti. Geri çekilme, OpenAI'nin "insan bilgisinin sınırlarını zorlama ve matematikte daha fazla ilerleme sağlama" çabası olarak ilan ettiği toplu sürümden 24 saatten kısa bir süre sonra gerçekleşti.
Ön baskılar, geometri, bilgisayar bilimi, cebir ve diğer alanlardaki 372 çözülmemiş problem üzerinde dahili bir yapay zeka modelinin kaydettiği ilerlemeyi tanımlıyordu. Hareket, araştırma topluluklarının hemen incelemesine maruz kaldı - ve bu haftanın başında 722 matematik metninin ilk sürümü hakkındaki raporumuzda ele aldığımız gibi, şirket bu düşüşü, yayınlanmamış sınır modelinin neler üretebileceğinin benzeri görülmemiş bir göstergesi olarak çerçeveledi. Bu hikayeyle ilgili en son gelişmeleri en son yapay zeka gelişmeleri kapsamımızdan takip edin.
Bir İşaret Hatası Bağımlı Kanıtlar Yoluyla Basamaklanıyor
7 Ekim'de OpenAI, imza hatası nedeniyle üç taslağın geri çekildiğini duyurdu. Duyuruya göre, hata, bir metindeki bir argümanı ve iki bağımlı makalenin kullandığı yapıyı geçersiz kıldı. Geri çekilen her makale artık "boşluğu" açıklayan bir bildirim taşıyor.
Şirket ayrıca diğer 14 taslağı da düzeltmelerle, düzeltilmiş ifadelerle, daha net hipotezler ve bağımlılıklarla ve eski bir alıntıya yönelik bir düzeltmeyle revize ettiğini söyledi. OpenAI araştırma lideri Dan Roberts, X'teki para çekme işlemlerini duyurdu ve şirketin "repo'yu yeni resmileştirmeler ve fark ettiğimiz hatalar ile güncellemeye devam edeceğini" yazdı.
Bir OpenAI sözcüsü, Retraction Watch'a şirketin hataları bir denetim sırasında tespit ettiğini ve sürecin "diğer araştırma metinlerinde olduğu gibi" tekrarlanan bir süreç olduğunu tanımladığını söyledi. Sözcü, OpenAI'nin incelemeyi memnuniyetle karşıladığını ve "[hataları] derhal düzeltmek için çalışacağını ve herhangi bir düzeltme bulunamazsa belgeleri geri çekeceğini" ekledi.
Bir OpenAI sözcüsü, şirketin Matematik ve Yapay Zeka Danışma Grubu'ndaki (AGMAI) işbirlikçilerinin sonuçların "tam resmileştirmeyi" beklemeden yayınlanmasını tavsiye ettiğini ve sonuçların yaklaşık %50'sinin onaylanmadan yayınlandığını söyledi.
Matematikçiler: Hızlı Çözümler, Kaybolan Güven
Araştırma matematikçilerinin tepkileri ölçüldü ancak dikkat çekiciydi. Cornell Üniversitesi'nde matematik alanında doçent olan Alex Townsend, Retraction Watch'a, üç taslağı kapsayan bir hatanın şaşırtıcı olmadığını ve daha fazla hata bulunacağından şüphelendiğini söyledi. Matematik kanıtlarını mekanik olarak kontrol eden açık kaynaklı programlama diline atıfta bulunarak, "Matematik camiasındaki yapay zekaya yönelik şüpheler göz önüne alındığında, OpenAI'nin önce Yalın doğrulanmış taslakları duyurması gerektiğini düşünüyorum" dedi. Kendisi, ayrı bir duyurunun geri kalanını doğrulamak için topluluk yardımını davet edebileceğini savundu.
MIT matematik bölümünde kıdemli araştırma bilimcisi Andrew Sutherland, OpenAI'nin hataları bulduktan sonra hızlı hareket etmesini takdir ettiğini ve bunu "yapılacak sorumlu şey" olarak nitelendirdiğini söyledi. Ancak pek çok matematikçinin "OpenAI'nin bu noktaya kadar nasıl davrandığından memnun olmadığını" vurguladı ve özellikle şirketin 8 Eylül'de bir yapay zeka sisteminin Navier-Stokes sorununu çözdüğünü duyurmasına dikkat çekti. Bu iddia, bir grup önde gelen araştırmacının aceleyle eleştirdiği, "düzgün bir yazı için zaman bırakmadığı, yeni yöntem ve fikirleri izole ettiği ve başkalarının ilgili önceki çalışmalarından alıntı yaptığı" iddiasıydı. 8.000'den fazla araştırmacı bu endişeleri onayladı.
İnsan Matematiği Derneği 7 Ekim'de yayınlanan bir bildiride daha da ileri gitti: "Matematikçiler bu çalışmanın yapılmasını istemedi. Aynı anda 700'den fazla dosya yayınlamak bir bilgi gösterisi değil, bir güç gösterisidir. Matematikçileri OpenAI ile çalışmalarını bırakmaya ve insan anlayışını merkeze alan bir bilim vizyonuna geri dönmeye çağırıyoruz."
Yapay Zeka Tarafından Üretilen Bilim Açısından Bu Ne Anlama Geliyor?
Bölüm, yapay zeka laboratuvarlarının makine tarafından üretilen araştırmaları geniş ölçekte nasıl ele alması gerektiğine dair erken bir test senaryosu olarak şekilleniyor. OpenAI'nin yaklaşımı - hızlı yayınlama, kamuya açık denetim, başarısız olanı geri çekme - birçok matematikçinin tercih ettiği, sonuçların herhangi bir duyurudan önce Lean gibi bir kanıt asistanında kontrol edildiği resmi-önce doğrulama yaklaşımıyla çelişir.
Her iki tarafın da makul argümanları var. Tam resmileşmeyi beklemek, yararlı sonuçların aylarca gecikmesine neden olabilir ve OpenAI, bunun AGMAI'nin onayıyla yayınlandığını söylüyor. Ancak ardışık etki (iki bağımlı makalenin bir işaret hatasıyla silinmesi) neden yayınlanmadan önce doğrulamanın matematikte bir norm olduğunu ve topluluk geri kalan yaklaşık 700 el yazması üzerinde çalışırken neden daha fazla hatanın ortaya çıkacağını gösteriyor.
Şimdilik OpenAI, geri bildirimlerden bir şeyler öğrenmek istediğini ve ileriye dönük olarak AGMAI protokolünü "elimden geldiğince" izleyeceğini söylüyor. Bunun matematik camiasında güvenilirliği yeniden inşa etmek için yeterli olup olmadığı başka bir sorudur. Sutherland'in belirttiği gibi: "Sanırım çekilmeler ve düzeltmeler matematik camiası tarafından olumlu karşılanacak, ancak kaybettikleri güveni geri kazanmak bundan çok daha fazlasını gerektirecek."
---
Yapay Zekanın Önünde OlunEn son AI haberlerini, analizlerini ve buluşlarını tek bir yerden alın.
Daha fazla AI haberini okuyun →
