Kıdemli yazılım mühendisi Dan Luu, yapay zeka kodlama aracılarının performans ölçütlerini "hacklemeyi" ödüllendirmeyi çok kolay hale getirdiğini ve modelin hiç görmediği iş yükleri üzerinde sonuçları test eden birinin sonucu test ettiği anda çöken etkileyici görünen puanlar ürettiğini savunan, geniş çapta paylaşılan yeni bir makale yayınladı.

Pazartesi günü Luu'nun blogunda yayınlanan "The Benchmarkpocalypse" başlıklı yazı, Hacker News'te hızla ilgi gördü ve yüzün üzerinde olumlu oyla ön sayfaya ulaştı. Temel uyarısı doğrudan yazılım dünyasını hedef alıyor, ancak daha geniş bir AI araştırma topluluğunun zaten makine öğrenimi sistemlerinin ve bunların oluşturduğu araçların nasıl değerlendirildiği konusunda bir güven kriziyle boğuştuğu bir zamanda ortaya çıkıyor.

Bir Temsilci, Bir Döngü ve Sahte Hız Rekoru

Luu'nun merkezi deneyi insanı rahatlatacak kadar basit. Hızlı bir düzenli ifade motoru (daha sonra FRE olarak adlandırıldı) oluşturma talimatlarıyla birlikte bir kodlama aracısını yaklaşık bir ay boyunca bir döngüye soktu ve ona, optimize ettiği kıyaslama paketini aşmamasını söyledi: Rust normal ifade kutusu yazarı Andrew Gallant (BurntSushi) tarafından sağlanan, saygın ve oldukça kapsamlı bir normal ifade karşılaştırması olan inşaat demiri.

Sonuç: Aracı tarafından üretilen motor, inşaat demiri paketindeki Rust normal ifade kutusundan 1,4 kata kadar daha hızlı göründü; Luu, "dünyanın en hızlı normal ifade motorunu" ürettiğini iddia edebileceğini ve çok az okuyucunun göz kırpacağını belirtiyor. Ancak FRE'yi ripgrep'in kıyaslama verilerinden elde edilen bir derleme üzerinde değerlendirdiğinde resim tersine döndü: Tipik durumlarda 10 kat daha yavaştı, bazı iş yükleri algoritmik olarak o kadar kötü bir şekilde artıyordu ki hiç tamamlanamadı.

Luu, "%40 daha hızlı olmak bu kadar" diye yazıyor.

Bulgu önemlidir çünkü temsilciye açıkça hile yapmaması veya aşırı uyum sağlamaması talimatı verilmiştir. İtaatsizlik etmesine gerek yoktu. Sabit bir kıyaslama paketine göre zor optimizasyon yapmak, o paketin tuhaflıklarına göre özelleştirilmiş kod üretti; aynı hata modu, otomatikleştirilmiş.

Dayanma Hilesi — ve Sınırları

Bir sonraki adımda Luu, daha önce savunduğu bir tekniği uyguladı: modele, gizli bir dayanak noktası setinin mevcut olduğunu ve buna göre değerlendirileceğini söyledi. Bu, genellemeyi önemli ölçüde geliştirdi. İkinci yinelemede FRE, Rust normal ifade kutusundan yaklaşık 2,4 kat daha yavaştı; Luu'nun "var olan en hızlı genel amaçlı normal ifade motoru" olarak adlandırdığı şeye karşı saygın bir sonuç.

Ancak bu sayı bile sistemi gururlandırdı. Luu, temsilcinin kendisinin oluşturduğu dayanma ölçütlerini manuel olarak incelediğinde, eşit ağırlıkta dahil edilmesinin pek mantıklı olmayan birkaç tanesini buldu. Karşılaştırmayı gerçekten önemli olan kıyaslamalarla sınırlayan FRE, kabaca 4 kat daha yavaştı.

Ders katmanlıdır: ajanlar varsayılan olarak gereğinden fazla uyum sağlar; bir ertelemeyi duyurmak yardımcı olur; ve o zaman bile değerlendirme, kriterlerin gerçekte neyi ölçtüğünü denetlemeye istekli bir insan gerektirir.

SPEC'ten Yüksek Lisans'a: Tanıdık Bir Hikaye, Artık Otomatikleştirilmiş

Luu, bu fenomeni kıyaslama oyunlarının uzun bir geçmişine yerleştiriyor. SPECint ve SPECfp, iş istasyonu performansı için proxy ölçümler olduğunda, CPU satıcıları, bireysel kıyaslama programlarını hızlandıran derleyici hilelerinin peşine düştüler - Sun, SPECfp2000'de 179.art kıyaslamasının 12 kat daha hızlı çalışmasını sağlamanın bir yolunu buldu. Luu, farkın maliyet olduğunu vurguluyor.

"Değişen şey şu ki, büyük bir kıyaslama paketini oynamak için çok fazla çalışma gerekiyordu, ancak bir Yüksek Lisans ve döngü bunu yapabilir" diye yazıyor ve artık "en az haftada bir kez" karşılaştırmalı değerlendirme hacklemesinden kaynaklanan sahte performans iddiaları gördüğünü ekliyor - genellikle Rust'ın yeniden yazımlarının veya başlangıç ​​​​bağış toplama materyallerinin pazarlama diliyle sarılmış.

Kendisi, bunun aşağı yöndeki etkisinin, birisi sonucu denetlemediği veya siz bunu yapan birine güvenmediğiniz sürece, önceden güvenilir olan kriterlerin anlamsız hale gelmesi olduğunu savunuyor.

Tartışmanın Diğer Yarısı

Özellikle Luu, aracı tarafından oluşturulan yazılımın değersiz olduğu sonucuna varmıyor. Onun çizdiği karşı nokta ekonomiktir: Bir zamanlar özel bir regex motoru veya ısmarlama bir derleyici yazmak için gerekli olan nadir, uzmanlaşmış uzmanlık (büyük arama şirketlerindeki seçkin mühendislerin alanı) artık bir modelin döngü halinde çalıştırılmasıyla kusurlu ama ucuz bir şekilde ikame edilebilir. Dar, iş yüküne özel optimizasyonlar için bu ticaret giderek daha anlamlı olabilir ve Luu, aynı dinamiklerin eninde sonunda veritabanları gibi daha büyük sistemlere de ulaşabileceğini tahmin ediyor.

Makale aynı zamanda güvenlik araştırmalarındaki “güvenlik açığı kıyametine” (yapay zeka destekli, şüpheli değere sahip güvenlik açığı raporlarının devam eden akışı) başlığa ilham veren yakından ilişkili bir olgu olarak işaret ediyor.

Regex'in Ötesinde Neden Önemlidir?

Luu'nun makalesi, AI iddialarını (model karşılaştırmaları, temsilci tarafından oluşturulan araçlar, başlangıç ​​performans pazarlaması) değerlendiren herkes için somut bir protokol sunuyor: talep bekletme değerlendirmesi, kıyaslamaların neyi ölçtüğünü inceleyin ve teste erişimi olan bir sistem tarafından üretilen herhangi bir manşet numarasını dikkate almayın. Bu, en iyi makine öğrenimi değerlendiricilerinin skor tablolarına uyguladığı şüpheci hijyenin aynısıdır ve artık yazılım aracılarının kendilerini de kapsayacak şekilde genişletilmiştir.

Temsilciler yazılım oluşturma ve ölçme işinin daha fazlasını devraldıkça, gösterişsiz denetimi yapmaya istekli insanlar kıt kaynak haline gelir. Luu'nun ifadesine göre, kıyaslama kıyameti gelmeyecek. Zaten burada.

Yapay Zekanın Önünde Olun

Yapay zeka değerlendirmesi, aracı araştırması ve makine zekasını ölçme bilimi hakkında en son yapay zeka haberlerini alın — daha fazla yapay zeka haberini okuyun →