Apple po cichu przerobił jedno ze swoich najważniejszych zobowiązań w zakresie prywatności. W systemie iOS 27 firma może przechowywać pełne interakcje użytkowników z Siri i dyktowanie – w tym same nagrania audio – i wykorzystywać je do uczenia modeli sztucznej inteligencji stojącej za Siri, jak po raz pierwszy doniosła niemiecka publikacja technologiczna Heise Online.
Zmiana kończy stanowisko, które Apple kategorycznie stwierdził: że dane osobowe użytkowników nigdy nie będą wykorzystywane do szkolenia podstawowych modeli sztucznej inteligencji. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.
Co mówią nowe zasady
Zaktualizowany język pojawia się w polityce prywatności znajdującej się w ostatecznej, przedpremierowej wersji systemu iOS 27, która została udostępniona publicznie w poniedziałek 14 września. Zgodnie z tą polityką Apple może „przechowywać całą Twoją interakcję z Siri i funkcją dyktowania, w tym dane dźwiękowe oraz transkrypcje pisanych i mówionych żądań Siri, a także odpowiedzi Siri”.
Apple podkreśla, że dane nie są powiązane z kontem Apple użytkownika i oświadcza, że „podejmuje kroki, aby zapewnić, że Apple nie będzie przechowywać ani wykorzystywać danych osobowych” – sformułowanie to niefortunnie znajduje się obok opisanego w nim pozwolenia. Niektóre zgromadzone dane mogą przeglądać wyłącznie osoby, które zgodnie z zasadami nazywają to „personelem przeglądającym”, a materiały dźwiękowe mogą być słuchane wyłącznie przez pracowników Apple.
Firma określa program jako opcję dobrowolną. Gdy użytkownicy aktywują Siri AI, pojawia się okno dialogowe z prośbą o pomoc w udoskonalaniu asystenta, a programiści mający dostęp do wersji Release Candidate zgłaszają, że opcję odrzucenia można łatwo przeoczyć: wizualnie niepozorny przycisk „Nie teraz” na ekranie, którego nie można całkowicie odrzucić. Użytkownicy, którzy wyrażą zgodę, mogą później cofnąć wybór w Ustawieniach, a następnie w Analiza i ulepszenia.
Cicha edycja podpisanej obietnicy
Zmiana polityki została poprzedzona jeszcze cichszą edycją. Opublikowane przez Apple wytyczne dotyczące odpowiedzialnej sztucznej inteligencji stwierdzały wcześniej, w pełnym zdaniu, że „Twoje prywatne dane osobowe i interakcje nigdy nie są wykorzystywane do uczenia naszych podstawowych modeli”. Ostateczne zakończenie tego zdania zostało usunięte i zastąpione zastrzeżeniem: „chyba że wyraźnie zdecydujesz się pomóc je ulepszyć”.
Zmiana ma znaczenie wykraczające poza samo sformułowanie, ponieważ koliduje z architekturą, którą Apple spędził na marketingu przez dwa lata. Private Cloud Compute, system serwerowy stojący za Siri AI i większością funkcji Apple Intelligence, został sprzedany w oparciu o konkretną obietnicę: sztuczna inteligencja w chmurze, która obsługuje żądania tak prywatnie, jak model na urządzeniu, przy czym dane użytkownika nigdy nie są przechowywane długoterminowo ani udostępniane stronom trzecim. Wykorzystywanie nagrań Siri jako materiałów szkoleniowych i – po raz pierwszy w iOS 27 – kierowanie niektórych żądań Private Cloud Compute przez serwery Google – przybliża te obietnice do zachowań asystentów chmurowych, przeciwko którym kiedyś Apple się stanęło.
Sprzęt, który zawsze słucha, podnosi stawkę
Termin jest nieodpowiedni z drugiego powodu. Oprócz najnowszych iPhone'ów firma Apple wprowadziła w tym tygodniu dwa modele Apple Watch zaprojektowane z myślą o ciągłym słuchaniu. Urządzenia mogą na żądanie wygenerować transkrypcję poprzednich piętnastu sekund rozmowy oraz codzienne „Podsumowanie Siri” podsumowujące rozmowy użytkownika — funkcja, która według Apple działa również w chmurze prywatnej.
Zawsze włączone mikrofony obsługujące asystenta, który może teraz utrzymywać interakcje na potrzeby szkolenia modelek, to dokładnie ta kombinacja, przed którą ostrzegali zwolennicy prywatności, a pochodzi od firmy, która zbudowała swój nowoczesny marketing, wokół odmowy robienia tego dokładnie.
Echa skandalu z oceną Siri w 2019 r
Apple było tu już wcześniej. W 2019 r. firma ucierpiała z powodu najbardziej szkodliwych kontrowersji związanych z prywatnością, gdy wykonawcy zatrudnieni przez podwykonawców opisali swoją pracę, oceniając nagrania dźwiękowe Siri — fragmenty często zawierające intymne rozmowy, informacje medyczne i inne dane osobowe, przetwarzane pod luźną kontrolą. Firma Apple zawiesiła program, przeprosiła, a później ponownie wprowadziła weryfikację manualną jako funkcję opcjonalną z bardziej rygorystycznymi zabezpieczeniami.
Nowa polityka przywraca gromadzenie danych w szerszym zakresie – pełne interakcje zamiast samplowanych klipów audio, transkrypcje wraz z nagraniami i wyraźny cel szkoleniowy – jednocześnie opierając się na podobnym mechanizmie zgody, z którego wielu użytkowników korzysta bez czytania.
Co stanie się dalej
Organy regulacyjne w Europie i Stanach Zjednoczonych wielokrotnie sprawdzały sposób prezentacji okien dialogowych dotyczących zgody na szkolenie w zakresie sztucznej inteligencji, a ekran wyrażający zgodę z widocznym przyciskiem zgody i opcją odmowy o niskim kontraście to rodzaj projektu, który przyciąga tę kontrolę. Na razie Apple stoi na stanowisku, że dane pozostają w jego własnych systemach, są oddzielone od tożsamości użytkowników i są przeglądane wyłącznie na zasadach dotyczących wyłącznie pracowników.
Głębsza zmiana ma charakter strategiczny. Szkolenie konkurencyjnych modeli sztucznej inteligencji wymaga ogromnych ilości wysokiej jakości danych konwersacyjnych, a Apple – które wkroczyło w wyścig nowoczesnej sztucznej inteligencji później niż jego rywale – najwyraźniej zdecydowało, że jego najcenniejszym niewykorzystanym zasobem są setki milionów rozmów Siri prowadzonych każdego dnia. Firma, dla której kiedyś prywatność była powodem zakupu iPhone'a, doszła do wniosku, że nie może już sobie pozwolić na pozostawianie tych danych na stole. To, czy użytkownicy zgodzą się je przekazać, po jednym przycisku „Nie teraz” zadecyduje, ile z tego otrzyma Apple.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
