Reuters'in Cuma günü bir OpenAI sözcüsüne dayandırdığı haberine göre, OpenAI İcra Kurulu Başkanı Sam Altman, gelecek hafta dünya liderlerinin BM Genel Kurulu için New York'ta yapacağı yıllık toplantı sırasında Birleşmiş Milletler Güvenlik Konseyi'ne şahsen bilgi verecek.

Brifing, 15 üyeli organın Genel Kurul'un üst düzey haftasında toplanacağı Çarşamba günü yapılması planlanan yapay zeka ve uluslararası güvenlik konulu açık Güvenlik Konseyi toplantısında gerçekleşecek. Oturum, konseyin Eylül ayı başkanlığını yürüten Fransa tarafından düzenlendi ve oturuma Fransa'nın Avrupa ve Dışişleri Bakanı Jean-Noël Barrot başkanlık edecek. For more context on this story, see our ongoing artificial intelligence updates.

OpenAI sözcüsü Reuters'e "Sam Altman önümüzdeki hafta açık bir BM Güvenlik Konseyi toplantısına bizzat bilgi verecek" dedi.

Altman'ın Ne Söylemesi Bekleniyor?

Reuters'e göre Altman'ın sözlerinin, uluslararası koordinasyon ihtiyacı ve ortak güvenlik standartlarının yanı sıra OpenAI'nin dünya çapındaki insanların yapay zekadan faydalanmasını sağlamak için attığı adımlara odaklanması bekleniyor.

Hükümetlerin gelişmiş yapay zekayı yalnızca ekonomik bir fırsat olarak değil, aynı zamanda ulusal ve uluslararası güvenliğe doğrudan etkileri olan bir teknoloji olarak giderek daha fazla çerçevelediği bir dönemde, bu görünüm, dünyanın en önde gelen yapay zeka yöneticisini, uluslararası barış ve güvenliği korumakla görevli organın önüne koyuyor.

Antropik de Odada Olabilir

Diplomatlar Reuters'e, katılımın doğrulanmamasına rağmen Anthropic'ten de toplantıya üst düzey bir katılım beklediklerini söyledi. Antropik yorum talebine hemen yanıt vermedi.

Anthropic'in herhangi bir görünümü, şirketin son aylarda yapay zeka sınırındaki riskler konusundaki yüksek profilli duruşu ve giderek daha yetenekli sistemlerin geliştirilmesinde koordineli bir yavaşlama çağrıları da dahil olmak üzere özel bir yankı uyandıracaktır. Güvenlik Konseyi toplantısı, birkaç yapay zeka endüstrisi liderinin, yapay zekanın yakında kendi kendine gelişebileceği ve insan kontrolünün ötesine geçebileceği konusunda uyararak koordineli bir yavaşlama çağrısında bulunmasından sadece birkaç hafta sonra gerçekleşti.

Fransa'nın Acil Durum Durumu

Konsey üyelerine dağıtılan ve Reuters tarafından görülen bir konsept notunda Fransa, "bir bütün olarak uluslararası toplumun yararına yapay zekanın güvenli ve sorumlu bir şekilde geliştirilmesini teşvik etmek için harekete geçmenin aciliyetinin" altını çizdi.

Notta, yapay zekanın kötü amaçlarla kötüye kullanılması riskine değinildi ve toplantının, katılımcıların kontrol kaybıyla bağlantılı risk analizlerini veya uluslararası barış ve güvenliği etkileyecek eylemleri geliştirmek, kolaylaştırmak ve yürütmek için en son yapay zeka modellerinin kullanılmasına olanak sağlamayı amaçladığı belirtildi.

Tanıdık Bir Temaya Dönen Bir Konsey

Güvenlik Konseyi daha önce yapay zeka konusunu ele almıştı. Yapay zekanın riskleri konusunda ilk kez 2023 yılında, Çin'in teknolojinin "kaçak bir at" haline gelmemesi gerektiği konusunda uyarıda bulunduğu ve ABD'nin yapay zekanın insanları sansürlemek veya baskı altına almak için kullanılmasına karşı uyarıda bulunduğu bir toplantı yapıldı. Çarşamba günkü oturum bu etkileşimde önemli bir artışı temsil ediyor: Daha önceki toplantılarda genel uyarılar duyulurken, gelecek haftaki oturumda ürünleri yapay zeka patlamasının merkezinde yer alan şirketin CEO'sundan canlı bir brifing yer alacak.

Altman ise mevcut ticari başarı dalgasının çok öncesinden beri gelişmiş yapay zeka riskleri konusunda uyarılarda bulunuyor. 2015 yılında yazdığı "Makine Zekası, Bölüm 1" başlıklı makalesinde, "insanüstü makine zekasının gelişmesi muhtemelen insanlığın varlığının devamına yönelik en büyük tehdittir" diye yazmıştı; bu, OpenAI'nin yükselişinden önce gelen ve konseye hitap ederken kaçınılmaz olarak yeniden su yüzüne çıkacak bir çizgidir.

Neden Önemlidir

Brifingin sembolizmini abartmak zordur. Güvenlik Konseyi'ne hitap eden bir teknoloji şirketi yöneticisi, nükleer silahların yayılması ve siber savaşın yanı sıra yapay zekanın uluslararası güvenlik gündeminde ne kadar yukarılara çıktığını gösteriyor. Bu aynı zamanda tartışmanın kendisindeki bir değişimi de yansıtıyor: Telif hakları, istihdam ve yanlış bilgilendirme konusundaki tartışmaların hakim olduğu iki yıldan sonra, BM'nin bir araya getiren gücü doğrudan kontrol kaybı, kötü niyetli kullanım ve ortak uluslararası standartların yokluğu gibi sınır risklerine odaklanıyor.

Bunun ne olacağı başka bir sorudur. Güvenlik Konseyi'nin yapay zeka geliştirme konusunda herhangi bir düzenleme yetkisi yoktur ve gelişen teknolojiye ilişkin kararları tarihsel olarak bağlayıcı değildir. Ancak toplantı, hükümetlere pozisyonları belirlemeleri için bir sahne sağlıyor ve yapay zeka şirketlerine, hiçbir ürün lansmanının kıyaslayamayacağı dışişleri bakanları ve devlet başkanlarından oluşan bir izleyici kitlesi sağlıyor. Fransa'nın aciliyet konusunda baskı yapması ve her iki önde gelen ABD yapay zeka laboratuvarının da temsil edilmesinin beklenmesiyle, Çarşamba günkü oturum, yapay zeka yönetiminin küresel güvenlik diplomasisinin gündeminde sabit bir madde haline geldiği anın işareti olabilir.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →