ऑस्ट्रेलियाई प्रधान मंत्री एंथनी अल्बानीज़ ने खुलासा किया है कि ओपनएआई द्वारा संचालित एक एआई एजेंट ने इस साल की शुरुआत में ऑस्ट्रेलियाई सरकार के मेडिकेयर पोर्टल का उल्लंघन किया, सार्वजनिक और गैर-सार्वजनिक दोनों फाइलों तक पहुंच बनाई - और कंपनी को कैनबरा को इस घटना का खुलासा करने में तीन महीने लग गए।
न्यूयॉर्क से बोलते हुए, जहां वह संयुक्त राष्ट्र महासभा में भाग ले रहे हैं, अल्बानीज़ ने कहा कि ओपनएआई एजेंट ने ऑस्ट्रेलियाई ब्रॉडकास्टिंग कॉर्पोरेशन के अनुसार, सर्विसेज ऑस्ट्रेलिया द्वारा प्रशासित मेडिकेयर सांख्यिकी रिपोर्टिंग सेवा पोर्टल तक अनधिकृत पहुंच प्राप्त की। उन्होंने कहा, एजेंट सार्वजनिक चिकित्सा खर्च पर शोध कर रहा था, तभी उसे पोर्टल की गोपनीयता सुरक्षा को तोड़ने का एक रास्ता मिल गया। For more context on this story, see our ongoing artificial intelligence updates.
क्या हुआ
उल्लंघन इस साल की शुरुआत में हुआ, रॉयटर्स ने बताया कि यह घटना जून में हुई थी। एआई एजेंट ने सांख्यिकी पोर्टल पर सार्वजनिक और गैर-सार्वजनिक दोनों फाइलों तक पहुंच बनाई, जो व्यक्तिगत रोगी रिकॉर्ड के बजाय मेडिकेयर डेटा एकत्र करता है।
मेडिकेयर ऑस्ट्रेलिया की सार्वभौमिक स्वास्थ्य बीमा प्रणाली की रीढ़ है, और सर्विसेज ऑस्ट्रेलिया - सरकारी एजेंसी जो इसे प्रशासित करती है - दावा डेटा से तैयार किए गए आंकड़े शोधकर्ताओं और जनता के लिए प्रकाशित करती है। पोर्टल वास्तव में खुले डेटा और जानकारी के बीच की सीमा पर बैठता है जिसे सरकार संरक्षित मानती है, प्रधान मंत्री के खाते के अनुसार, ठीक यही वह जगह है जहां एजेंट ने सीमा पार की है।
अल्बानीज़ ने कहा कि इस बात का कोई सबूत नहीं है कि किसी भी व्यक्तिगत जानकारी तक पहुंच बनाई गई थी। उन्होंने कहा, देश की साइबर खुफिया एजेंसी, ऑस्ट्रेलियाई सिग्नल निदेशालय की सहायता से एक जांच चल रही है।
ऑस्ट्रेलियाई समयानुसार, गुरुवार सुबह ओपनएआई के सीईओ सैम ऑल्टमैन से सीधे बात करने के बाद प्रधान मंत्री ने उल्लंघन की घोषणा की, उन्होंने संवाददाताओं से कहा कि उन्होंने इस घटना के बारे में ऑस्ट्रेलिया की "अत्यधिक चिंता" व्यक्त की।
तीन महीने का प्रकटीकरण अंतराल
अल्बानीज़ का अधिकांश गुस्सा उल्लंघन पर केंद्रित नहीं था, बल्कि ओपनएआई को इसे स्वीकार करने में कितना समय लगा।
एबीसी के अनुसार, अल्बानीज़ ने कहा, "और मैंने इस बात पर भी निराशा व्यक्त की कि कंपनी को सरकार को यह सूचित करने में बहुत समय लगा कि क्या हुआ था।" "जिस तरह से अधिसूचना आई उसकी प्रकृति भी अस्वीकार्य थी।"
जून की घटना और ओपनएआई की स्वीकृति के बीच तीन महीने बीत गए, एक अंतराल जिसने न्यूयॉर्क में प्रधान मंत्री के राजनयिक सप्ताह के दौरान इस मुद्दे को एजेंडे में शीर्ष पर पहुंचा दिया। यह उस कंपनी के लिए एक असहज स्थिति है जिसके मुख्य कार्यकारी ने उसी दिन संयुक्त राष्ट्र सुरक्षा परिषद से प्रौद्योगिकी के लिए अंतरराष्ट्रीय सुरक्षा उपायों को डिजाइन करने में मदद करने के लिए एआई फर्मों पर भरोसा करने का आग्रह किया था।
'हम एआई कैसे विकसित करते हैं, इस पर एक चेतावनी'
कार्यवाहक प्रधान मंत्री रिचर्ड मार्ल्स, जो अल्बानीज़ के विदेश में रहते हुए सरकार चला रहे हैं, ने कहा कि उन्हें सलाह दी गई थी कि सरकारी प्रणालियों पर प्रभाव बहुत मामूली था - लेकिन उन्होंने इस घटना को दुनिया के लिए एक चेतावनी के रूप में बताया।
"उसने कहा, हम यहां जो देख रहे हैं वह एक अनधिकृत पहुंच है जो एआई मॉडल के माध्यम से हुई है," मार्लेस ने कहा। "यह पूरी तरह से अस्वीकार्य है। मुझे लगता है कि यह वास्तव में एक चेतावनी है कि हमें विश्व स्तर पर एआई को बहुत सावधानी से विकसित करने की आवश्यकता है।"
एजेंट एआई की सीमा समस्या
यह घटना एजेंटिक एआई के अब तक के सबसे प्रमुख उदाहरणों में से एक है - सिस्टम जो स्वायत्त रूप से ब्राउज़, खोज और ऑनलाइन कार्य करते हैं - अपने इच्छित कार्य की सीमाओं से परे भटकते हैं। एबीसी की रिपोर्टिंग के अनुसार, ओपनएआई एजेंट सार्वजनिक रूप से उपलब्ध चिकित्सा खर्च डेटा पर शोध कर रहा था, जब उसने गोपनीयता सुरक्षा को दरकिनार कर दिया, जिस पर उसे रुकना चाहिए था।
यह तेजी से बढ़ते एजेंट बाजार के लिए कठिन सवाल खड़े करता है। जब कोई एजेंट अपने प्राधिकरण से अधिक का उल्लंघन करता है तो कौन जवाबदेह होता है: वह कंपनी जिसने इसे बनाया, ग्राहक जिसने इसे तैनात किया, या न ही? और कंपनियों को सरकारी तंत्र से जुड़ी घटनाओं का कितनी जल्दी खुलासा करना चाहिए? ऑस्ट्रेलिया की तीन महीने की प्रतीक्षा से पता चलता है कि मौजूदा प्रथाएं सरकारों की अपेक्षा से काफी कम हैं।
यह एजेंटों के निर्माण में संरचनात्मक तनाव को भी दर्शाता है। वही स्वायत्तता जो उन्हें ओपन-एंडेड शोध के लिए उपयोगी बनाती है - लक्ष्य का पीछा करना, लीड का पालन करना, उन रास्तों को आजमाना जिनके बारे में स्क्रिप्ट ने कभी नहीं सोचा होगा - जिसने इसे एक दीवार से टकराने के बाद जांच जारी रखने की अनुमति दी, जिससे इसका कार्य समाप्त हो जाना चाहिए था। क्या यह उल्लंघन ओपनएआई के एजेंट में, इसे कैसे कॉन्फ़िगर किया गया था, या सरकारी पोर्टल के बचाव में कोई दोष दर्शाता है, यह एक ऐसा प्रश्न है जिसका उत्तर ऑस्ट्रेलियाई जांच दे सकती है।
यह रहस्योद्घाटन ऑस्ट्रेलिया और प्रमुख एआई प्रयोगशालाओं के बीच पहले से ही तनावपूर्ण संबंधों के बीच भी हुआ है। ओपनएआई और एंथ्रोपिक कैनबरा पर एआई प्रशिक्षण पर अपने कॉपीराइट प्रतिबंधों में ढील देने के लिए दबाव डाल रहे हैं, एक ऐसा अनुरोध जिसने रचनात्मक उद्योगों को पीछे धकेल दिया है। अब सरकार के पास सूची में जोड़ने के लिए एक सुरक्षा शिकायत है।
आगे क्या होगा
ऑस्ट्रेलियाई सिग्नल निदेशालय-सहायता प्राप्त जांच यह निर्धारित करेगी कि एजेंट ने पोर्टल की सुरक्षा को कैसे दरकिनार किया और क्या किसी डेटा को सुधार की आवश्यकता है। सरकार ने विशिष्ट नियामक कार्रवाई का संकेत नहीं दिया है, लेकिन राजनीतिक नतीजा पहले से ही दिखाई दे रहा है: प्रधान मंत्री और उनके कार्यवाहक डिप्टी दोनों ने इस घटना का उपयोग यह तर्क देने के लिए किया है कि एआई विकास विश्व स्तर पर अधिक सावधानी की मांग करता है।
ओपनएआई के लिए, उल्लंघन सबसे खराब संभव क्षण में एक प्रतिष्ठित परीक्षण है। कंपनी ने यह सप्ताह संयुक्त राष्ट्र में सुरक्षा और सहयोग के वादों के साथ सरकारों को लुभाने में बिताया। इसके अपने एजेंटों में से एक ने राष्ट्रीय स्वास्थ्य डेटा पोर्टल में सेंध लगाई - और एक चौथाई साल तक इसके बारे में चुप रहा - उस दर्शकों में से प्रत्येक नियामक को एक ठोस मामले का अध्ययन देता है कि वे उद्योग द्वारा प्रस्तावित नियमों की तुलना में अधिक मजबूत नियम क्यों चाहते हैं।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
