OpenAI ve Anthropic'in üst düzey yöneticileri Çarşamba günü Birleşmiş Milletler Güvenlik Konseyi'ne, Başkan Donald Trump'ın uluslararası yapay zeka gözetimini "küreselci bir plan" olarak reddetmesine rağmen, yapay zeka yönetiminin geleceğini dünyanın en güçlü diplomatik organının önüne koyan nadir bir brifingde seslendi.

Konseyin at nalı şeklindeki masasında bizzat konuşan Sam Altman ve video görüşmesiyle katılan Dario Amodei, The Guardian, Reuters ve diğer yayın organlarının haberine göre, BM Genel Kurulu üst düzey haftasında ayrı ayrı brifinglerini kullanarak yapay zekanın herhangi bir hükümetin yönetebileceğinden daha hızlı ilerlediğini savundu. For more context on this story, see our ongoing latest AI developments.

Bir rönesans veya sanayi devrimi

Yaklaşık on dakika boyunca konuşan Altman, bu anı, şirketinin inşa etmeye çalıştığı teknoloji için bir yol ayrımı olarak değerlendirdi.

Altman konseye "Önümüzde bir seçim var" dedi. "Yapay zeka ya daha çok yaratıcılık ve keşifte yeni bir rönesans gibi olabilir, ya da daha çok ayaklanma ve kargaşanın yeni bir sanayi devrimi gibi olabilir."

Bu uyarıyı bir satış konuşmasıyla eşleştirdi: The Guardian'a göre OpenAI şefi yapay zekanın üretkenliğe faydalarını överken kötüye kullanım potansiyelini de kabul etti. Ve eğer yapay zeka demokratik bir şekilde gelişecekse, en önemli kararların yalnızca San Francisco'daki laboratuvarlar tarafından alınamayacağını, demokratik süreçler ve hizmet ettikleri insanlara karşı sorumlu hükümetler tarafından şekillendirilmesi gerektiğini savundu; insanların teknolojinin "kendilerine yapılan bir şey" olduğunu hissetmek yerine yapay zekanın demokratik kurumlar tarafından yönlendirildiği bir gelecek.

Altman ayrıca konseyi kendi kıyametçilik olarak adlandırdığı duruma saplanmaması konusunda uyardı ve bunun yerine kendi tanımladığı üç prensip üzerine kurulu bir orta yolu savundu: Yapay zeka sistemleri insan kontrolü altında kalmalı, yapay zeka insanlara fayda sağlamalı (doktorların hastaları tedavi etmesine yardımcı olmaktan girişimcileri desteklemeye kadar) ve teknoloji insanları bireysel olarak güçlendirmelidir.

Katil robotlardan süper zekaya

Brifingler, BM'nin yapay zeka gündeminin teknolojinin yarattığı neredeyse her korkuyu kapsadığı bir haftayı kapsıyordu. Associated Press'in toplantılara ilişkin haberleri, liderlerin kendilerini "katil robotlar"dan (insan müdahalesi olmadan hedefleri seçebilen özerk silahlar) herkesin kontrolünün dışına çıkabilen süper akıllı sistemler olasılığına kadar her şeyi tartışırken bulduklarını kaydetti.

Bu aralık tam olarak Güvenlik Konseyi oturumunun katılımcılar için önemli olmasının nedenidir. Yapay zeka, ticaret bakanlıkları tarafından ele alınan niş bir düzenleme meselesinden, nükleer silahların yayılması ve silahlı çatışmalarla ilgilenen aynı kurum tarafından tartışılan bir konuya dönüştü; ABD, Çin ve Avrupalı ​​güçlerin tümü, kuralları kimin koyması gerektiğine dair tamamen farklı vizyonlar ileri sürüyor.

Amodei'nin video bağlantısından uyarısı

Amodei'nin konuşması daha uyarıcı bir tondaydı. Yapay zeka konusunda küresel işbirliğinin artırılması çağrısında bulunan 12 Eylül tarihli bir blog gönderisindeki temaları tekrarlayan Anthropic CEO'su, biyolojik silahlar geliştirmek için yapay zekanın kullanılmasının yasaklanması ve yeni yapay zeka modellerinin konuşlandırılmadan önce test edilmesine yönelik küresel standartlar da dahil olmak üzere belirli uluslararası anlaşmaları savundu.

The Guardian'a göre Amodei, "Kötü yönetilirse yapay zekanın bir bütün olarak insanlık için risk oluşturabileceğine bile inanıyorum" dedi. Ayrıca "Anthropic olarak bu riskleri önleme konusunda sektördeki en iyi performansa sahip olduğumuza inanıyoruz" dedi.

Anadolu Ajansı'nın haberine göre her iki yönetici de konseye, teknolojiyi tek başına hiçbir ulusun veya şirketin kontrol etmemesi gerektiğini söyledi.

Washington'un soğukkanlılığı

Brifingler belirgin bir arka plana karşı ortaya çıktı: Trump bu hafta uluslararası yapay zeka gözetimi fikrini açıkça reddetti ve CNBC ve diğer yayın organlarının bildirdiği gibi bunu "küreselci bir plan" olarak nitelendirdi. ABD, bağlayıcı uluslararası yapay zeka anlaşmalarına karşı çıktı ve yönetimin tutumu, yapay zeka ve uluslararası güvenlikle ilgili BM toplantılarında ABD'li diplomatlar tarafından da tekrarlandı.

Altman'ın diplomatik söylemi ile şirketinin ülke içindeki siyasi faaliyetleri arasında da bir uçurum var. The Guardian, OpenAI'nin başkanı Greg Brockman'ın, Yapay Zeka endüstrisinin daha güçlü düzenlenmesini destekleyen adayları hedef alarak 100 milyon dolardan fazla para toplayan ve milyonlar harcayan Geleceğe Liderlik eden siyasi eylem komitesine bağlı olduğunu belirtti.

Ön izlemeden podyuma

Çarşamba günkü brifingler, yapay zeka riski etrafında bir haftadan fazla süren artan diplomasiyi kapsıyor. Reuters ilk olarak 18 Eylül'de Altman'ın Genel Kurul haftasında konseye brifing vereceğini bildirdi. Toplantılar, bu ayın başlarında Antropik araştırmacıların gelişmiş yapay zekanın on yıl içinde insanlığın hayatta kalması da dahil olmak üzere felaket riskleri oluşturabileceği yönündeki uyarılarının ardından geldi; The Guardian'a göre Amodei, OpenAI, Google ve Elon Musk tarafından desteklenen bir konum olan yapay zeka gelişiminde bir yavaşlama çağrısında bulundu.

AI Buzz Wire'ın Salı günü bildirdiği gibi, Çinli yapay zeka firması DeepSeek'in de bu hafta konseye brifing vermesi planlanıyordu; bu, Güvenlik Konseyi'nin rakip Amerikan ve Çinli yapay zeka şirketlerinin liderlerinden birkaç gün içinde haber aldığı alışılmadık bir konu.

Sembolizme karşı madde

Güvenlik Konseyi'nin yapay zeka gelişimi konusunda herhangi bir düzenleyici yetkisi yok ve Çarşamba günkü oturumda hiçbir bağlayıcı taahhüt ortaya konmadı. Ancak sembolizmin abartılması zordur: Dünyadaki en değerli iki yapay zeka şirketinin başkanları, ulusların savaş ve yaptırımları tartıştığı ve uluslararası düzenleme talebinde bulunduğu aynı masada gönüllü olarak sorguya çekildiler.

Zamanlama, zeminin ne kadar hızlı değiştiğinin altını çizdi. Brifinglerle aynı gün, Avustralya Başbakanı Anthony Albanese, bir OpenAI ajanının bu yılın başlarında Avustralya hükümetinin Medicare portalını ihlal ettiğini açıkladı; eleştirmenler, endüstrinin davranışının aynı anda birden fazla yönden inceleme altında olduğunu hatırlattı.

Brifinglerin neyi harekete geçireceğini tahmin etmek daha zordur. Uluslararası yapay zeka güvenlik kurumları, model test rejimleri ve biyolojik silahların yasaklanmasına ilişkin teklifler artık endüstri liderlerinin kamuoyunun desteğini alıyor. Jeopolitik olarak bölünmüş bir Güvenlik Konseyi ve tüm önermeye düşman olan bir ABD yönetimi ile temasta hayatta kalıp kalamayacakları, yapay zeka yönetişiminin bir sonraki aşamasını tanımlayacak sorudur.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →