سیگنال اکنون به طور پیشفرض اسکرینشاتها را در iOS 27 مسدود میکند و دستیاران هوش مصنوعی روی دستگاه را از خواندن برنامه در اندروید محدود میکند، یک اقدام متقابل مستقیم در برابر عوامل هوش مصنوعی که اپل و گوگل در سیستمعاملهای موبایل خود بافتهاند. مردیث ویتاکر، رئیس سیگنال، تغییر را در یک پست وبلاگ منتشر شده در 20 نوامبر با عنوان "سیگنال در مورد محافظت از حریم خصوصی شما جدی است" اعلام کرد و در مورد خطرات آن صحبتی نکرد: او نوشت: هوش مصنوعی در سطح سیستم عامل "یک تهدید وجودی برای سیگنال و توانایی ما برای حمایت مسئولانه از ماموریت خود است."
این اقدام که ابتدا به صورت انحصاری توسط رویترز گزارش شد، شدیدترین تشدید تنش بین سازندگان برنامههای اول حریم خصوصی و پلتفرمهایی است که به آنها وابسته هستند – و لحظهای مهم برای هر کسی که [آخرین پیشرفتهای هوش مصنوعی] (https://aibuzzwire.news) را در فناوری مصرفکننده دنبال میکند. برنامه پیامرسانی رمزگذاریشده سیگنال مدتهاست که وعده داده است که فقط شما و شخصی که با او صحبت میکنید میتوانید پیامهایتان را بخوانید. استدلال آن این است که عوامل ساخته شده در iOS، Android و Windows اکنون با خواندن خود صفحه، این وعده را از بیرون زیر پا می گذارند.
چه سیگنالی در واقع مسدود می شود
حفاظت ها بر اساس پلت فرم متفاوت است زیرا ابزارهای زیرین این کار را می کنند. در iOS 27، سیگنال اکنون به طور پیش فرض از گرفتن اسکرین شات در داخل برنامه جلوگیری می کند. ویتاکر توضیح داد که در اندروید، برنامه به طور خودکار تنظیمات «امنیت صفحه» خود را هنگامی که تشخیص میدهد دستیار هوش مصنوعی در حال تلاش برای دسترسی به صفحه نمایش است، فعال میکند – یک انتخاب طراحی عمدی، ویتاکر توضیح داد، زیرا بسیاری از فروشندگان اندروید خارج از خط پیکسل گوگل هیچ راه مطمئنی برای شناسایی تلاش برای اسکرینشات پس از غیرفعال شدن اسکرینشات ارائه نمیدهند. سیگنال به جای اینکه اسکرین شات هایی را برای کاربران به ارمغان بیاورد که به طور مرموزی کار نمی کنند، سیگنال خود فعالیت عامل را هدف قرار می دهد.
کاربرانی که مایل به گرفتن اسکرین شات هستند، می توانند حفاظت را در تنظیمات سیگنال خاموش کنند. این شرکت در مورد این مبادله صریح است: انجام این کار میتواند هم پیامهای شما و هم پیامهای مخاطبین شما را در معرض هر عاملی که AI در حال تماشای صفحه هستند، قرار دهد، و ضمانت حفظ حریم خصوصی سیگنال به همه شرکتکنندگان در مکالمه را زیر پا بگذارد.
سابقه یادآوری
این اولین بار نیست که سیگنال علیه هوش مصنوعی سیستم عامل خط می کشد. سال گذشته، این برنامه از همان مکانیسم مسدود کردن اسکرین شات برای جلوگیری از ضبط پیامهای سیگنال در ویندوز 11 توسط هوش مصنوعی Recall مایکروسافت استفاده کرد. طبق پاورقیهای فنی خود سیگنال، Recall هر چند ثانیه از صفحه نمایش عکس میگیرد، متن را با استفاده از تشخیص نویسه نوری از آن اسکرینشاتها استخراج میکند و یک پایگاه داده قابل جستجو روی دستگاه را پر میکند - فرآیندی که میتواند دادههای سیگنال را به طور نامحدود، از جمله پیامهایی که ناپدید میشوند، نمایش دهد و حفظ کند.
چرا سیگنال هشدار هوش مصنوعی سطح سیستم عامل
در پست وبلاگ، ویتاکر این موضوع را بهجای اختلاف با هر شرکتی بهصورت ساختاری مطرح میکند. گوگل، اپل و مایکروسافت سه سیستم عامل مصرف کننده غالب را تولید می کنند - "اقیانوس هایی که سیگنال و سایر برنامه ها باید در آن شنا کنند"، همانطور که او می گوید، سیستم هایی که "شرایط زندگی را برای اکوسیستم برنامه ها دیکته می کنند."
مشکل این است که نمایندگان چگونه عمل می کنند. برای پاسخ به سؤالات و تکمیل وظایف، هوش مصنوعی سطح سیستم عامل آنچه را که روی صفحه است اسکن می کند. هر چیزی که در آن لحظه در سیگنال قابل مشاهده است - محتوای پیام، هویت مخاطب - ضبط می شود و در دسترس نماینده قرار می گیرد، به طور بالقوه در یک پایگاه داده محلی یا یک سرور راه دور خارج از کنترل سیگنال فرود می آید. رمزگذاری سرتاسر این شرکت، انتقال پیام را تضمین میکند، نه ظاهر آن را روی صفحهای که سیستم عامل در حال عکاسی از آن است. Whittaker می نویسد که این ادغام ها "آن را به طور فزاینده ای با حریم خصوصی دشمن می کند" برای برنامه های کاربردی که در آن محیط شنا می کنند.
سیگنال Gaps هنوز نمی تواند بسته شود
سیگنال صریح است که درمان ناقص است. پوشش در بسیاری از توزیع های اندروید ناهموار است. علاوه بر این، مسدود کردن اسکرین شات به آن چیزی که Whittaker میگوید «روشهای زیرکانهتر که عوامل هوش مصنوعی میتوانند به طور بالقوه به دادههای برنامه دسترسی پیدا کنند»، مانند بازیابی محتوایی که قبلاً در سیستم فایل دستگاه ذخیره شده است، نمیپردازد.
چشمگیرترین حفره macOS است. سیگنال می گوید که به هیچ وجه نمی تواند به طور قابل اعتمادی اسکرین شات ها را در آنجا مسدود کند و دلیل آن فقدان API های مستند است – اپل رویکردهای قدیمی تر را به نفع راه حل های محافظت از صفحه نمایش که فقط برای پخش رسانه ها و محتوای محافظت شده با DRM کار می کنند، منسوخ کرده است، که Whittaker آن را به عنوان "میدان مین از تصمیمات گیج کننده که حریم خصوصی کاربر را به خطر می اندازد" توصیف می کند. برای کاربران macOS 27، تنها توصیه موقت این شرکت این است که سیگنال را بهصورت دستی به بخش برنامههای استثنا شده در زیر تنظیمات سیستم > سیری اضافه کنند، که دسترسی فعالانه توسط هوش مصنوعی Siri را متوقف میکند، نه اسکرینشات.
مبارزه با اسناد
زیربنای اقدامات فنی شکایت در مورد عدم شفافیت است. سیگنال میگوید که ماهها زمان توسعهدهنده را صرف انجام تحقیقات پزشکی قانونی در سراسر اندروید و iOS کرده است تا بفهمد وقتی سیستمهای هوش مصنوعی به دادههای برنامه دسترسی پیدا میکنند چه اتفاقی میافتد – زیرا اپل، گوگل و مایکروسافت اسناد کمی در مورد نحوه کار عوامل خود ارائه میدهند.
این شرکت از سه فروشنده سیستمعامل میخواهد تا دو چیز را ارائه دهند: مشخصات فنی دقیق که نحوه دسترسی و پردازش دادهها توسط عوامل را توضیح میدهد، و ابزار سادهای که به توسعهدهندگان اجازه میدهد این دسترسی را محدود کنند. همچنین عوامل شخص ثالث مانند Meta's Muse را که میگوید از مجوزهای دسترسی اعطا شده در حین راهاندازی استفاده میکند - مجوزهایی که "به منظور توانمندسازی افراد واقعی" - به عنوان یک "کلید اسکلت" برای دسترسی به دادههای هوش مصنوعی است. در حال حاضر، سیگنال میگوید که «بهطور محتاطانه خوشبینانه» است که گوگل و اپل در حال تعامل با این شرکت در مورد نحوه ارتباط این سیستمها با برنامههای حساس به حریم خصوصی هستند.
قناری در معدن زغال سنگ
این اطلاعیه بلافاصله پوشش خبری رویترز، CNET، Engadget، The Decoder و Fast Company را به خود جلب کرد و در بحبوحه بررسی گستردهتر عادات دادههای هوش مصنوعی عامل فرود آمد. گزارشگران قبلاً گزارش کرده بودند که عامل Meta's Muse به پیامهای سیگنال در حین آزمایش داخلی کارکنان و درهمآمیختن مکالمات دسترسی پیدا میکند - قسمتی که دقیقاً خطری را که Signal اکنون در برابر آن مهندسی میکند، پیشبینی میکرد.
بحث پایانی Whittaker این است که این مبارزه فراتر از یک برنامه است. او نوشت: "سیگنال قناری در معدن زغال سنگ است، اما این روی کل اکوسیستم تاثیر می گذارد و باید هر کسی را که به این حقوق اساسی اهمیت می دهد، تحریک کند." این که آیا اپل، گوگل و مایکروسافت با ابزارهای واقعی پاسخ دهند - یا با اسنادی که صرفاً توضیح می دهد که نمایندگان آنها قبلاً چه کاری انجام می دهند - معنای حریم خصوصی را در دستگاه هایی که اکثر مردم حمل می کنند شکل می دهد.
[از هوش مصنوعی جلوتر بمانید] (https://aibuzzwire.news)
آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان. پوشش [بهروزرسانیهای هوش مصنوعی] (https://aibuzzwire.news) ما را دنبال کنید. [اطلاعات بیشتر اخبار هوش مصنوعی →] (https://aibuzzwire.news).
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →