گوگل ابزار هوش مصنوعی را که به کاربران اجازه می‌دهد صحنه‌های ساختگی را در بالای تصاویر ماهواره‌ای واقعی در Google Earth ترسیم کنند، پس از گذشت کمتر از ۴۸ ساعت از راه‌اندازی، در میان هشدارهایی مبنی بر اینکه این ویژگی می‌تواند اطلاعات نادرست را افزایش دهد، لغو کرده است.

این ویژگی که توسط تولیدکننده تصویر «Nano Banana 2» گوگل پشتیبانی می‌شود، در روز پنج‌شنبه، 30 ژوئیه 2026 معرفی شد و به هر کسی اجازه می‌دهد تا یک پیام متنی را تایپ کند و سناریوهای نادرست را روی تصاویر ماهواره‌ای، هوایی و سه بعدی واقعی ایجاد کند. برای آخرین پیشرفت‌ها در مورد ابزارهای هوش مصنوعی که صنعت را شکل می‌دهند، [پوشش اخبار فوری هوش مصنوعی در AI Buzz Wire] (https://aibuzzwire.news) را دنبال کنید.

تا روز جمعه، گوگل با استناد به اسکرین‌شات‌هایی از تصاویر تولید شده که به نظر می‌رسد خط‌مشی‌های آن را نقض می‌کنند، تأیید کرد که این قابلیت را متوقف می‌کند «در حالی که ما روی اجرای نرده‌های محافظ قوی‌تر کار می‌کنیم. این تغییر ناگهانی مستقیماً پس از یک تحقیق [BBC Verify] (https://www.bbc.com/news/articles/c9349yx2ydvo) رخ داد که در آن محققان نشان دادند که این ابزار چگونه به راحتی می تواند جعلی های قانع کننده و دقیق مکان تولید کند.

چگونه ابزار کار می کرد

Nano Banana 2 مستقیماً در Google Earth یکپارچه شده است، پلتفرم نقشه برداری پرکاربردی که دولت ها، روزنامه نگاران و مردم برای دید دقیق از سیاره به آن تکیه می کنند. ویژگی هوش مصنوعی تصاویری را در صورت درخواست تولید می‌کند و آن را روی یک لایه پایه از مختصات واقعی قرار می‌دهد. مهم این است که تصاویر به دست آمده را می‌توان دانلود کرد و در رسانه‌های اجتماعی و دیگر پلتفرم‌ها بدون هیچ نشانه واضحی از مصنوعی بودن آن‌ها به اشتراک گذاشت.

این ترکیب - تصاویر اختراع شده با داده های جغرافیایی واقعی - چیزی است که محققان را بیشتر نگران کرده است.

تظاهرات هشدار دهنده

در طول آزمایش، BBC Verify توانست تصاویری از برج ایفل فروریخته، یک فروچاله که هرم بزرگ جیزه را می بلعد و تانک های روسی مستقر در پایتخت اوکراین، کیف، تولید کند.

هنک ون اس، محقق هوش مصنوعی و اطلاعات نادرست، پیش از تعلیق این ابزار، صحنه‌های ساختگی از یک نیروگاه هسته‌ای موجود در ایران، یک کمپ آوارگان در مرز آمریکا و مکزیک، و یک بیمارستان جعلی در غزه با دهانه بمب در کنار آن را تولید کرد.

ون اس با توضیح اینکه چگونه گوگل اجازه داده است تصاویر "اختراع شده" به مختصات واقعی جوش داده شوند، گفت: "این جعل به خودی خود قانع کننده نیست. اعتبار نقشه ای را که در آن متولد شده است به ارث می برد."

واترمارک هایی که ماندگار نشدند

گوگل تاکید کرده است که محتوای تولید شده توسط هوش مصنوعی دارای واترمارک های نامرئی است و کاربران می توانند جعلی های مشکوک را از طریق چت بات جمینی یا لنز گوگل تایید کنند.

با این حال، آزمایش BBC Verify نشان داد که می‌توان این بررسی‌ها را دور زد و Gemini را فریب داد تا تصاویر ساختگی Google Earth را واقعی بودن تأیید کند. ابزارهای تشخیص هوش مصنوعی خارجی نیز نتوانستند برخی از تصاویر مصنوعی را پرچم گذاری کنند. این یافته ها قابلیت اطمینان پادمانی هایی را که گوگل به عنوان دفاعی در برابر اطلاعات نادرست مبتنی بر هوش مصنوعی قرار داده است، کاهش می دهد.

هنری آژدر، محقق تشخیص هوش مصنوعی، به بی‌بی‌سی Verify گفت که تصاویر ساختگی در مناطق درگیری می‌تواند به‌ویژه در طول رویدادهایی که به سرعت در حال حرکت هستند، «بی‌ثبات‌کننده» باشد، جایی که اطلاعات قابل اعتماد کمیاب است و خطرات در بالاترین حد است.

الگویی از اصلاح بیش از حد

این اپیزود به فهرست رو به رشدی از راه اندازی های هوش مصنوعی برجسته می افزاید که شرکت ها مجبور به عقب نشینی از آن ها شده اند. خود گوگل در سال 2024 در مورد تولید تصویر نادرست در مدل Gemini خود با بررسی دقیق مواجه شد و چرخه استقرار سریع-سپس عقب نشینی به موضوعی تکرارشونده تبدیل شده است زیرا شرکت های فناوری برای ارسال ویژگی های مولد رقابت می کنند.

در این مورد، خطر منحصر به فرد از خود سکو نشات می گرفت. همانطور که گوگل در بیانیه خود اذعان کرد، "ما می دانیم که مردم به طور منحصر به فردی به Google Earth برای یک دید قابل اعتماد از جهان اعتماد دارند" - هر گونه از بین رفتن این اعتماد را به ویژه پرهزینه می کند.

بازگشت مجدد نیز در یک لحظه حساس نظارتی رخ می دهد. الزامات شفافیت قانون هوش مصنوعی اتحادیه اروپا، که برچسب‌گذاری واضح محتوای تولید شده توسط هوش مصنوعی را الزامی می‌کند، در 2 آگوست 2026، تنها چند روز پس از حادثه Google Earth اعمال شد. گوگل قبلاً در ماه جولای آیین نامه اتحادیه اروپا را در مورد برچسب گذاری محتوای تولید شده توسط هوش مصنوعی امضا کرده بود.

بعد چه اتفاقی می افتد

گوگل نگفته است که این ویژگی چه زمانی ممکن است بازگردد یا خیر. این شرکت نشان داد که به اصلاح نرده‌های محافظ ادامه خواهد داد، اما محققان استدلال کرده‌اند که طراحی اساسی - لایه‌بندی محتوای تولید شده توسط هوش مصنوعی بر روی داده‌های جغرافیایی قابل اعتماد - ممکن است برای ارسال به شکل قابل دانلود و اشتراک‌گذاری بدون کنترل منشأ بسیار قوی‌تر بسیار خطرناک باشد.

برای صنعتی که هنوز با نحوه ایجاد تعادل بین استقرار سریع هوش مصنوعی در برابر آسیب‌های دنیای واقعی دست و پنجه نرم می‌کند، عمر ۴۸ ساعته ابزار تصویر هوش مصنوعی Google Earth به عنوان یک داستان هشداردهنده در مورد شکاف بین آنچه که هوش مصنوعی می‌تواند ایجاد کند و آنچه باید ایجاد کند است.

از هوش مصنوعی جلوتر بمانید

هوش مصنوعی به سرعت در حال حرکت است و سیاست‌هایی که آن را شکل می‌دهند حتی سریع‌تر حرکت می‌کنند. [AI Buzz Wire] (https://aibuzzwire.news) را برای پوشش روزانه و واقعی از راه‌اندازی‌ها، معکوس‌ها، و مقررات تعیین‌کننده آینده هوش مصنوعی نشانک‌گذاری کنید.

اخبار هوش مصنوعی را بیشتر بخوانید →