גוגל הוציאה ממנה כלי בינה מלאכותית המאפשרת למשתמשים לצייר סצנות מפוברקות על גבי תמונות לוויין אמיתיות ב-Google Earth, ולהפוך את המסלול פחות מ-48 שעות לאחר השיגור על רקע אזהרות שהתכונה עלולה להעלות מידע מוטעה.
התכונה, המופעלת על ידי מחולל התמונות "Nano Banana 2" של גוגל, הוצגה ביום חמישי, 30 ביולי 2026, ואפשרה לכל אחד להקליד הודעת טקסט וליצור תרחישים כוזבים בשכבות על פני תמונות לוויין, אוויר ותלת-ממד אמיתיות. לפיתוחים האחרונים בכלי בינה מלאכותית שמעצבים את התעשייה, עקוב אחר סיקור חדשות בינה מלאכותית ב-AI Buzz Wire.
עד יום שישי, גוגל אישרה שהיא משהה את היכולת "בזמן שאנחנו עובדים על הטמעת מעקות בטיחות חזקים יותר", תוך ציטטה של צילומי מסך של תמונות שנוצרו שנראה שהפרו את המדיניות שלה. המהפך הפתאומי הגיע ישירות לאחר חקירה BBC Verify שבה הדגימו חוקרים באיזו קלות הכלי יכול לייצר זיופים משכנעים ומדויקים במיקום.
איך הכלי עבד
Nano Banana 2 השתלב ישירות ב-Google Earth, פלטפורמת המיפוי הנפוצה שממשלות, עיתונאים והציבור מסתמכים עליה כדי לקבל מבט מדויק על כדור הארץ. תכונת הבינה המלאכותית יצרה תמונות לפי דרישה והציבה אותן על שכבת בסיס של קואורדינטות אמיתיות. באופן מכריע, ניתן היה להוריד את התמונות שהתקבלו ולשתף אותן במדיה חברתית ובפלטפורמות אחרות ללא אינדיקציה ברורה שהן סינתטיות.
השילוב הזה - המצאת ויזואליה התמזגה לנתונים גיאוגרפיים אמיתיים - הוא מה שהדאיג את החוקרים יותר מכל.
הפגנות מדאיגות
במהלך הבדיקה, BBC Verify הצליחה ליצור תמונות של מגדל אייפל שקרס, בולען שבולע את הפירמידה הגדולה של גיזה, וטנקים רוסיים המוצבים בבירת אוקראינה, קייב.
חוקר הבינה המלאכותית והמידע השגוי, הנק ואן אס, הרחיק לכת לפני שהכלי הושעה, ויצר סצנות מפוברקות של תחנת כוח גרעינית לא קיימת באיראן, מחנה פליטים בגבול ארה"ב-מקסיקו ובית חולים מזויף בעזה עם מכתש פצצות לצידו.
"הזיוף לא חייב להיראות משכנע בפני עצמו. הוא יורש את האמינות של המפה שהיא נולדה עליה", אמר ואן אס, שתיאר כיצד גוגל אפשרה לתמונות "המציאו" להיות "למרותך לקואורדינטות אמיתיות, לצייר על דימויים אמיתיים".
סימני מים שלא החזיקו מעמד
גוגל הדגישה שתוכן שנוצר על ידי בינה מלאכותית מהכלים שלה נושא סימני מים בלתי נראים ושמשתמשים יכולים לאמת חשודים בזיופים דרך הצ'אטבוט Gemini או Google Lens.
עם זאת, הבדיקה של BBC Verify מצאה שניתן לעקוף את הבדיקות הללו ולהערים על תאומים כדי לאשר תמונות מפוברקות של Google Earth כמציאותיות. גם כלי זיהוי AI חיצוניים לא הצליחו לסמן חלק מהתמונות הסינתטיות. הממצאים חותרים את המהימנות של אמצעי ההגנה שגוגל הציבה כהגנה מפני מידע מוטעה המונע בינה מלאכותית.
חוקר זיהוי בינה מלאכותית, הנרי אג'דר, אמר ל-BBC Verify כי תמונות מפוברקות באזורי סכסוך עשויות להתגלות כ"מערערות יציבות" במיוחד במהלך אירועים מהירים שבהם מידע אמין דל וההימור הוא הגבוה ביותר.
דפוס של תיקון יתר
הפרק מוסיף לרשימה הולכת וגדלה של השקות בינה מלאכותית בפרופיל גבוה שחברות נאלצו לחזור בהן. גוגל עצמה התמודדה עם בדיקה על יצירת תמונה לא מדויקת בדגם הג'מיני שלה בשנת 2024, ומחזור הפריסה המהירה ואז החזרה הפך לנושא חוזר כשחברות טכנולוגיה דוהרות לספק תכונות יוצרות.
במקרה זה, הסכנה הייחודית נבעה מהפלטפורמה עצמה. כפי שהודתה גוגל בהצהרה שלה, "אנו יודעים שאנשים סומכים באופן ייחודי על Google Earth עבור מבט אמין על העולם" - מה שהופך כל שחיקה באמון הזה ליקר במיוחד.
החזרה לאחור מגיעה גם ברגע רגולטורי רגיש. דרישות השקיפות של חוק הבינה המלאכותית של האיחוד האירופי, המחייבות תיוג ברור של תוכן שנוצר בינה מלאכותית, נכנסו לתוקף ב-2 באוגוסט 2026, ימים ספורים לאחר תקרית Google Earth. גוגל כבר חתמה על קוד הנוהג של האיחוד האירופי בנושא תיוג תוכן שנוצר בינה מלאכותית מוקדם יותר ביולי.
מה קורה אחר כך
גוגל לא אמרה מתי, או האם, התכונה עשויה לחזור. החברה ציינה שהיא תמשיך לשכלל את מעקות הבטיחות, אך חוקרים טענו שהעיצוב הבסיסי - שכבות תוכן שנוצר בינה מלאכותית על פני נתונים גיאוגרפיים מהימנים - עשוי להיות מסוכן מכדי לשלוח בצורה ניתנת להורדה וניתנת לשיתוף ללא בקרות מוצא חזקות בהרבה.
עבור תעשייה שעדיין מתמודדת עם איך לאזן בין פריסה מהירה של AI מול פגיעה בעולם האמיתי, תוחלת החיים של 48 השעות של כלי תמונת הבינה המלאכותית של Google Earth היא סיפור אזהרה לגבי הפער בין מה שבינה מלאכותית יכולה ליצור לבין מה שהוא צריך.
הישאר לפני AI
בינה מלאכותית נעה מהר, והמדיניות שמעצבת אותה נעה אפילו יותר מהר. סימנייה AI Buzz Wire לסיקור יומי, נבדק בעובדות, של ההשקות, ההיפוכים והתקנות המגדירים את עתיד הבינה המלאכותית.
קרא עוד חדשות AI →
