ขณะนี้ Signal บล็อกภาพหน้าจอตามค่าเริ่มต้นบน iOS 27 และจำกัดผู้ช่วย AI บนอุปกรณ์ไม่ให้อ่านแอปบน Android ซึ่งเป็นมาตรการตอบโต้โดยตรงกับตัวแทน AI ที่ Apple และ Google ได้รวมเข้ากับระบบปฏิบัติการมือถือของพวกเขา Meredith Whittaker ประธาน Signal ประกาศการเปลี่ยนแปลงในบล็อกโพสต์ที่เผยแพร่เมื่อวันที่ 20 พฤศจิกายน ในหัวข้อ "สัญญาณมีความร้ายแรงเกี่ยวกับการปกป้องความเป็นส่วนตัวของคุณ" และไม่ได้สับเปลี่ยนคำพูดเกี่ยวกับการเดิมพัน เธอเขียนว่า AI ระดับระบบปฏิบัติการคือ "ภัยคุกคามที่มีอยู่ต่อ Signal และความสามารถของเราในการสนับสนุนภารกิจของเราอย่างมีความรับผิดชอบ"

ความเคลื่อนไหวดังกล่าวซึ่งรายงานโดยสำนักข่าวรอยเตอร์เป็นครั้งแรกนั้น ถือเป็นความขัดแย้งที่รุนแรงที่สุดระหว่างผู้สร้างแอปที่เน้นความเป็นส่วนตัวเป็นหลักและแพลตฟอร์มที่พวกเขาพึ่งพา และเป็นช่วงเวลาสำคัญสำหรับทุกคนที่ติดตาม การพัฒนา AI ล่าสุด ในเทคโนโลยีผู้บริโภค แอพส่งข้อความที่เข้ารหัสของ Signal ให้คำมั่นสัญญามานานแล้วว่ามีเพียงคุณและคนที่คุณกำลังคุยด้วยเท่านั้นที่สามารถอ่านข้อความของคุณได้ ข้อโต้แย้งคือเอเจนต์ที่ติดตั้งใน iOS, Android และ Windows ทำลายสัญญานั้นจากภายนอกโดยการอ่านหน้าจอเอง

สัญญาณใดที่ปิดกั้นจริง ๆ

การป้องกันจะแตกต่างกันไปตามแพลตฟอร์มเนื่องจากเครื่องมือพื้นฐานมีความแตกต่างกันไป บน iOS 27 ขณะนี้ Signal ป้องกันภาพหน้าจอภายในแอปตามค่าเริ่มต้น บน Android แอปจะเปิดใช้งานการตั้งค่า "ความปลอดภัยของหน้าจอ" โดยอัตโนมัติเมื่อตรวจพบผู้ช่วย AI ที่พยายามเข้าถึงหน้าจอ ซึ่งเป็นตัวเลือกการออกแบบโดยเจตนา Whittaker อธิบาย เนื่องจากผู้จำหน่าย Android หลายรายที่อยู่นอกสาย Pixel ของ Google ไม่มีวิธีที่เชื่อถือได้ในการตรวจจับความพยายามในการจับภาพหน้าจอเมื่อปิดใช้งานภาพหน้าจอ แทนที่จะปล่อยให้ผู้ใช้ได้รับภาพหน้าจอที่หยุดทำงานอย่างลึกลับ Signal กำหนดเป้าหมายไปที่กิจกรรมของตัวแทนเอง

ผู้ใช้ที่ต้องการจับภาพหน้าจอสามารถปิดการป้องกันได้ในการตั้งค่าของ Signal บริษัทมีความชัดเจนเกี่ยวกับการแลกเปลี่ยน: การทำเช่นนั้นอาจทำให้ทั้งข้อความของคุณและข้อความผู้ติดต่อของคุณต่อเจ้าหน้าที่ AI ที่กำลังดูหน้าจออยู่ ทำลายการรับประกันความเป็นส่วนตัว สัญญาณจะขยายไปยังผู้เข้าร่วมทุกคนในการสนทนา

แบบอย่างการเรียกคืน

นี่ไม่ใช่ครั้งแรกที่ Signal ขีดเส้นแบ่งกับระบบปฏิบัติการ AI เมื่อปีที่แล้ว แอปใช้กลไกการบล็อกภาพหน้าจอแบบเดียวกันเพื่อป้องกันไม่ให้ Recall AI ของ Microsoft จับข้อความสัญญาณบน Windows 11 ตามค่าเริ่มต้น ตามเชิงอรรถทางเทคนิคของ Signal นั้น Recall จะจับภาพหน้าจอทุกๆ สองสามวินาที แยกข้อความออกจากภาพหน้าจอเหล่านั้นโดยใช้การจดจำอักขระแบบออปติคอล และเติมฐานข้อมูลบนอุปกรณ์ที่สามารถค้นหาได้ ซึ่งเป็นกระบวนการที่สามารถเปิดเผยและเก็บข้อมูลสัญญาณได้อย่างไม่มีกำหนด ซึ่งรวมถึงข้อความที่หายไปซึ่งตั้งใจจะสูญหาย

เหตุใดจึงส่งสัญญาณเตือนภัย AI ระดับ OS

ในบล็อกโพสต์ Whittaker ตีกรอบปัญหาในเชิงโครงสร้าง แทนที่จะเป็นข้อพิพาทกับบริษัทใดๆ Google, Apple และ Microsoft ผลิตระบบปฏิบัติการสำหรับผู้บริโภคที่โดดเด่นสามระบบ - "มหาสมุทรที่ Signal และแอปพลิเคชันอื่น ๆ ต้องว่ายน้ำ" ตามที่เธอกล่าวไว้ ซึ่งเป็นระบบที่ "กำหนดเงื่อนไขของชีวิตสำหรับระบบนิเวศของแอปพลิเคชัน"

ปัญหาคือวิธีดำเนินการของตัวแทน เพื่อตอบคำถามและทำงานให้เสร็จสิ้น AI ระดับ OS จะสแกนสิ่งที่อยู่บนหน้าจอ สิ่งใดก็ตามที่มองเห็นได้ใน Signal ในขณะนั้น — เนื้อหาข้อความ ข้อมูลประจำตัวผู้ติดต่อ — จะถูกบันทึกและทำให้พร้อมใช้งานสำหรับตัวแทน ซึ่งอาจเชื่อมโยงไปถึงฐานข้อมูลท้องถิ่นหรือเซิร์ฟเวอร์ระยะไกลที่อยู่นอกการควบคุมของ Signal การเข้ารหัสจากต้นทางถึงปลายทางของบริษัทรับประกันการส่งข้อความ ไม่ใช่ลักษณะที่ปรากฏบนหน้าจอที่ระบบปฏิบัติการกำลังถ่ายภาพ Whittaker เขียนว่าการบูรณาการเหล่านี้ "ทำให้เป็นศัตรูต่อความเป็นส่วนตัวมากขึ้น" สำหรับแอปพลิเคชันที่ว่ายน้ำในสภาพแวดล้อมนั้น

สัญญาณช่องว่างยังไม่สามารถปิดได้

สัญญาณชัดเจนว่าการรักษาไม่สมบูรณ์ ความครอบคลุมไม่เท่ากันในเวอร์ชันต่างๆ ของ Android การบล็อกภาพหน้าจอไม่ได้กล่าวถึงสิ่งที่ Whittaker เรียกว่า "วิธีที่เจ้าหน้าที่ AI สามารถเข้าถึงข้อมูลแอปพลิเคชันอย่างลับๆ ได้" เช่น การดึงเนื้อหาที่จัดเก็บไว้ในระบบไฟล์ของอุปกรณ์แล้ว

ช่องโหว่ที่เห็นได้ชัดที่สุดคือ macOS Signal บอกว่าไม่สามารถบล็อกภาพหน้าจอได้อย่างน่าเชื่อถือเลย โดยอ้างถึงการขาด API ที่เป็นเอกสาร Apple ได้เลิกใช้แนวทางเก่าๆ หันไปใช้โซลูชันการป้องกันหน้าจอที่ใช้ได้กับสตรีมมิ่งสื่อและเนื้อหาที่มีการป้องกัน DRM เท่านั้น ซึ่ง Whittaker อธิบายว่าเป็น "เขตทุ่นระเบิดของการตัดสินใจที่ทำให้สับสนซึ่งทำให้ความเป็นส่วนตัวของผู้ใช้ตกอยู่ในความเสี่ยง" สำหรับผู้ใช้ macOS 27 คำแนะนำชั่วคราวเพียงอย่างเดียวของบริษัทคือการเพิ่มสัญญาณด้วยตนเองในส่วนแอพที่ยกเว้นภายใต้การตั้งค่าระบบ > Siri ซึ่งจะหยุดการเข้าถึงเชิงรุกโดย Siri AI แต่ไม่ใช่ภาพหน้าจอ

การต่อสู้ด้านเอกสาร

มาตรการทางเทคนิคที่สำคัญคือข้อข้องใจเกี่ยวกับความทึบ Signal กล่าวว่านักพัฒนาใช้เวลาหลายเดือนในการสืบสวนทางนิติเวชทั้ง Android และ iOS เพื่อทำความเข้าใจว่าเกิดอะไรขึ้นจริงเมื่อระบบ AI เข้าถึงข้อมูลแอปพลิเคชัน เนื่องจาก Apple, Google และ Microsoft ให้เอกสารเพียงเล็กน้อยเกี่ยวกับวิธีการทำงานของตัวแทน

บริษัทเรียกร้องให้ผู้จำหน่ายระบบปฏิบัติการทั้งสามรายจัดหาสองสิ่ง ได้แก่ ข้อกำหนดทางเทคนิคที่ถูกต้องซึ่งอธิบายว่าตัวแทนเข้าถึงและประมวลผลข้อมูลอย่างไร และเครื่องมือง่ายๆ ที่ช่วยให้นักพัฒนาจำกัดการเข้าถึงนั้นได้ นอกจากนี้ยังระบุตัวแทนบุคคลที่สามเช่น Meta's Muse ซึ่งระบุว่าใช้ประโยชน์จากสิทธิ์การเข้าถึงที่ได้รับในระหว่างการตั้งค่า – การอนุญาต “หมายถึงการเพิ่มขีดความสามารถให้กับผู้คนจริง” – เป็น “กุญแจโครงกระดูก” สำหรับการเข้าถึงข้อมูล AI สำหรับตอนนี้ Signal กล่าวว่า "เป็นการมองโลกในแง่ดีอย่างระมัดระวัง" ที่ Google และ Apple มีส่วนร่วมกับบริษัทเกี่ยวกับวิธีการที่ระบบเหล่านี้ควรเชื่อมต่อกับแอปที่ไวต่อความเป็นส่วนตัว

นกคีรีบูนในเหมืองถ่านหิน

การประกาศดังกล่าวได้รับความคุ้มครองทันทีจาก Reuters, CNET, Engadget, The Decoder และ Fast Company และเกิดขึ้นท่ามกลางการตรวจสอบพฤติกรรมข้อมูลของ Agentic AI ในวงกว้างมากขึ้น ก่อนหน้านี้ผู้สื่อข่าวได้บันทึกเอกสารตัวแทน Muse ของ Meta ที่เข้าถึงข้อความสัญญาณในระหว่างการทดสอบพนักงานภายในและการสนทนาที่ปะปนกัน ซึ่งเป็นตอนที่คาดการณ์ได้อย่างชัดเจนว่าสัญญาณความเสี่ยงกำลังถูกวิศวกรรมต่อต้าน

ข้อโต้แย้งปิดท้ายของ Whittaker คือการต่อสู้ครั้งนี้ขยายไปไกลกว่าแอปเดียว “สัญญาณเป็นเหมือนนกคีรีบูนในเหมืองถ่านหิน” เธอเขียน “แต่สิ่งนี้ส่งผลกระทบต่อระบบนิเวศทั้งหมด และควรกระตุ้นทุกคนที่ใส่ใจเกี่ยวกับสิทธิขั้นพื้นฐานเหล่านี้” ไม่ว่า Apple, Google และ Microsoft จะตอบสนองด้วยเครื่องมือจริงหรือด้วยเอกสารที่อธิบายเฉพาะสิ่งที่ตัวแทนของพวกเขาทำอยู่แล้ว จะกำหนดความหมายของความเป็นส่วนตัวบนอุปกรณ์ที่คนส่วนใหญ่พกพาอยู่

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว ติดตามข่าว การอัปเดตปัญญาประดิษฐ์ ของเรา อ่านข่าว AI เพิ่มเติม →