Google ได้ถอนเครื่องมือปัญญาประดิษฐ์ที่ให้ผู้ใช้วาดภาพฉากประดิษฐ์บนภาพถ่ายดาวเทียมจริงใน Google Earth โดยย้อนกลับเส้นทางน้อยกว่า 48 ชั่วโมงหลังจากเปิดตัว ท่ามกลางคำเตือนว่าฟีเจอร์นี้อาจอัดแน่นไปด้วยข้อมูลที่ผิด
ฟีเจอร์นี้ขับเคลื่อนโดยโปรแกรมสร้างภาพ "Nano Banana 2" ของ Google เปิดตัวเมื่อวันพฤหัสบดีที่ 30 กรกฎาคม 2026 และอนุญาตให้ใครก็ตามพิมพ์ข้อความแจ้งและสร้างสถานการณ์เท็จที่ซ้อนกันบนภาพถ่ายดาวเทียม ภาพถ่ายทางอากาศ และ 3 มิติของแท้ หากต้องการทราบพัฒนาการล่าสุดเกี่ยวกับเครื่องมือ AI ที่กำหนดรูปแบบอุตสาหกรรม โปรดติดตาม ข่าวด่วนเกี่ยวกับ AI ที่ AI Buzz Wire
ภายในวันศุกร์ Google ยืนยันว่ากำลังหยุดความสามารถชั่วคราว "ในขณะที่เรากำลังดำเนินการติดตั้งรั้วที่แข็งแกร่งขึ้น" โดยอ้างถึงภาพหน้าจอของภาพที่สร้างขึ้นซึ่งดูเหมือนจะละเมิดนโยบาย การกลับรายการอย่างกะทันหันเกิดขึ้นโดยตรงหลังจากการสอบสวนของ BBC Verify ซึ่งนักวิจัยได้แสดงให้เห็นว่าเครื่องมือดังกล่าวสามารถสร้างของปลอมที่น่าเชื่อและแม่นยำในตำแหน่งได้ง่ายเพียงใด
เครื่องมือทำงานอย่างไร
Nano Banana 2 ผสานรวมเข้ากับ Google Earth โดยตรง ซึ่งเป็นแพลตฟอร์มการทำแผนที่ที่ใช้กันอย่างแพร่หลายซึ่งรัฐบาล นักข่าว และประชาชนทั่วไปไว้วางใจในการมองเห็นดาวเคราะห์ที่แม่นยำ ฟีเจอร์ AI สร้างภาพตามความต้องการและวางไว้บนเลเยอร์ฐานของพิกัดจริง สิ่งสำคัญที่สุดคือ รูปภาพที่ได้สามารถดาวน์โหลดและแชร์บนโซเชียลมีเดียและแพลตฟอร์มอื่นๆ โดยไม่มีข้อบ่งชี้ชัดเจนว่าเป็นรูปสังเคราะห์
การรวมกันดังกล่าว - ภาพที่ประดิษฐ์ขึ้นซึ่งหลอมรวมเข้ากับข้อมูลทางภูมิศาสตร์ที่แท้จริง - เป็นสิ่งที่นักวิจัยตื่นตระหนกที่สุด
การสาธิตที่น่าตกใจ
ในระหว่างการทดสอบ BBC Verify สามารถสร้างภาพหอไอเฟลที่ถล่ม หลุมยุบที่กลืนมหาพีระมิดแห่งกิซ่า และรถถังรัสเซียที่ตั้งอยู่ในเมืองหลวงของยูเครน เคียฟ
Henk van Ess นักวิจัยด้าน AI และข้อมูลที่ไม่ถูกต้องดำเนินการเพิ่มเติมก่อนที่เครื่องมือดังกล่าวจะถูกระงับ โดยสร้างฉากที่สร้างขึ้นของโรงไฟฟ้านิวเคลียร์ที่ไม่มีอยู่ในอิหร่าน ค่ายผู้ลี้ภัยบริเวณชายแดนสหรัฐฯ-เม็กซิโก และโรงพยาบาลปลอมในฉนวนกาซาที่มีปล่องระเบิดอยู่ข้างๆ
“การปลอมแปลงไม่จำเป็นต้องดูน่าเชื่อด้วยตัวมันเอง แต่จะสืบทอดความน่าเชื่อถือของแผนที่ที่เกิดขึ้น” ฟาน เอสส์ กล่าว พร้อมอธิบายว่า Google อนุญาตให้ภาพที่ “ประดิษฐ์ขึ้น” “เชื่อมเข้ากับพิกัดจริง และวาดบนภาพของแท้ได้อย่างไร”
ลายน้ำที่ทนไม่ไหว
Google เน้นย้ำว่าเนื้อหาที่สร้างโดย AI จากเครื่องมือของตนมีลายน้ำที่มองไม่เห็น และผู้ใช้สามารถตรวจสอบเนื้อหาที่น่าสงสัยว่าเป็นของปลอมผ่านทางแชทบอทของ Gemini หรือ Google Lens
อย่างไรก็ตาม การทดสอบของ BBC Verify พบว่ามีความเป็นไปได้ที่จะหลีกเลี่ยงการตรวจสอบเหล่านั้น และหลอกให้ Gemini ยืนยันรูปภาพ Google Earth ที่ประดิษฐ์ขึ้นว่าเป็นของจริง เครื่องมือตรวจจับ AI ภายนอกไม่สามารถระบุภาพสังเคราะห์บางส่วนได้ การค้นพบนี้ตัดทอนความน่าเชื่อถือของมาตรการป้องกันที่ Google วางไว้ในการป้องกันข้อมูลที่ผิดซึ่งขับเคลื่อนด้วย AI
นักวิจัยด้านการตรวจจับ AI Henry Ajder บอกกับ BBC Verify ว่าภาพที่สร้างขึ้นในเขตความขัดแย้งสามารถพิสูจน์ได้ว่า "กำลังสั่นคลอน" โดยเฉพาะในช่วงเหตุการณ์ที่เปลี่ยนแปลงไปอย่างรวดเร็ว ซึ่งข้อมูลที่เชื่อถือได้มีน้อยและเดิมพันสูงที่สุด
รูปแบบของการแก้ไขมากเกินไป
ในตอนนี้ได้เพิ่มรายชื่อการเปิดตัว AI ที่มีชื่อเสียงมากขึ้นเรื่อยๆ ซึ่งบริษัทต่างๆ ต้องถอยกลับ Google ต้องเผชิญกับการตรวจสอบอย่างละเอียดเกี่ยวกับการสร้างภาพที่ไม่ถูกต้องในโมเดล Gemini ในปี 2024 และวงจรการใช้งานอย่างรวดเร็วจากนั้นจึงเพิกถอนได้กลายเป็นประเด็นสำคัญที่เกิดขึ้นซ้ำแล้วซ้ำอีก เนื่องจากบริษัทเทคโนโลยีต่างแข่งขันกันเพื่อจัดส่งฟีเจอร์เชิงสร้างสรรค์
ในกรณีนี้ อันตรายที่เกิดขึ้นจากตัวแพลตฟอร์มเอง ดังที่ Google รับทราบในแถลงการณ์ว่า "เรารู้ว่าผู้คนไว้วางใจ Google Earth โดยเฉพาะในการมองเห็นโลกที่เชื่อถือได้" ซึ่งทำให้ความไว้วางใจนั้นพังทลายลงโดยเฉพาะอย่างยิ่งมีค่าใช้จ่ายสูง
การย้อนกลับยังเกิดขึ้นในช่วงเวลาด้านกฎระเบียบที่ละเอียดอ่อน ข้อกำหนดด้านความโปร่งใสของพระราชบัญญัติ AI ของสหภาพยุโรป ซึ่งกำหนดให้มีการติดป้ายกำกับเนื้อหาที่สร้างโดย AI อย่างชัดเจน มีผลบังคับใช้ในวันที่ 2 สิงหาคม 2026 เพียงไม่กี่วันหลังจากเหตุการณ์ Google Earth Google ได้ลงนามหลักปฏิบัติของสหภาพยุโรปเกี่ยวกับการติดป้ายกำกับเนื้อหาที่สร้างโดย AI เมื่อต้นเดือนกรกฎาคม
จะเกิดอะไรขึ้นต่อไป
Google ไม่ได้บอกว่าฟีเจอร์นี้จะกลับมาเมื่อใดหรือหรือไม่ บริษัทระบุว่าจะดำเนินการปรับแต่งราวกั้นต่อไป แต่นักวิจัยแย้งว่าการออกแบบพื้นฐาน การจัดชั้นเนื้อหาที่สร้างโดย AI เหนือข้อมูลทางภูมิศาสตร์ที่เชื่อถือได้ อาจเป็นอันตรายเกินไปที่จะจัดส่งในรูปแบบที่ดาวน์โหลดได้และแชร์ได้ โดยไม่มีการควบคุมแหล่งที่มาที่แข็งแกร่งกว่ามาก
สำหรับอุตสาหกรรมที่ยังคงต้องต่อสู้กับวิธีสร้างสมดุลระหว่างการใช้งาน AI อย่างรวดเร็วกับอันตรายในโลกแห่งความเป็นจริง เครื่องมือรูปภาพ AI ของ Google Earth มีอายุ 48 ชั่วโมง ถือเป็นเครื่องเตือนใจเกี่ยวกับช่องว่างระหว่างสิ่งที่ AI สามารถสร้างได้กับสิ่งที่ควรจะเป็น
ก้าวนำหน้า AI
AI กำลังดำเนินไปอย่างรวดเร็ว และนโยบายที่กำหนดก็เคลื่อนไหวเร็วยิ่งขึ้นไปอีก บุ๊กมาร์ก AI Buzz Wire เพื่อรายงานข่าวรายวันที่ตรวจสอบข้อเท็จจริงเกี่ยวกับการเปิดตัว การพลิกกลับ และกฎระเบียบที่กำหนดอนาคตของปัญญาประดิษฐ์
อ่านข่าว AI เพิ่มเติม →
