Apple hat eine seiner wichtigsten Datenschutzverpflichtungen stillschweigend umgeschrieben. Unter iOS 27 kann das Unternehmen die vollständigen Siri- und Diktierinteraktionen der Benutzer – einschließlich der Audioaufnahmen selbst – speichern und damit die künstlichen Intelligenzmodelle hinter Siri trainieren, wie erstmals von der deutschen Technologiepublikation Heise Online berichtet wurde.

Die Änderung beendet eine Position, die Apple kategorisch vertreten hatte: dass persönliche Benutzerdaten niemals zum Trainieren seiner KI-Grundlagenmodelle verwendet würden. Weitere Informationen zu dieser Geschichte finden Sie in unserer neueste KI-Entwicklungen.

Was die neue Richtlinie sagt

Die aktualisierte Sprache erscheint in einer Datenschutzrichtlinie, die in der endgültigen Vorabversion von iOS 27 zu finden ist, die am Montag, dem 14. September, der Öffentlichkeit zugänglich gemacht wurde. Gemäß der Richtlinie kann Apple „Ihre gesamten Interaktionen mit Siri und der Diktierfunktion speichern, einschließlich der Audiodaten und Transkripte Ihrer getippten und gesprochenen Siri-Anfragen sowie Siris Antworten.“

Apple betont, dass die Daten nicht mit dem Apple-Konto eines Benutzers verknüpft sind, und erklärt, dass es „Maßnahmen ergreift, um sicherzustellen, dass persönliche Daten nicht von Apple gespeichert oder verwendet werden“ – eine Formulierung, die neben der darin beschriebenen Erlaubnis seltsam steht. Einige der gesammelten Daten können möglicherweise nur von Mitarbeitern überprüft werden, die in der Richtlinie als „Überprüfungspersonal“ bezeichnet werden, wobei das Audiomaterial ausschließlich von Apple-Mitarbeitern angehört wird.

Das Unternehmen gestaltet das Programm als Opt-in. Wenn Benutzer Siri AI aktivieren, werden sie in einem Dialog aufgefordert, bei der Verbesserung des Assistenten mitzuhelfen, und Entwickler mit Zugriff auf den Release Candidate berichten, dass die Ablehnungsoption leicht zu übersehen ist: eine optisch unauffällige Schaltfläche „Jetzt nicht“ auf einem Bildschirm, die nicht vollständig ausgeblendet werden kann. Benutzer, die sich dafür entscheiden, können die Auswahl später unter „Einstellungen“ und dann „Analyse und Verbesserungen“ rückgängig machen.

Eine stille Bearbeitung eines charakteristischen Versprechens

Der Richtlinienänderung ging eine noch stillere Änderung voraus. In den veröffentlichten Richtlinien von Apple zu verantwortungsvoller KI hieß es zuvor in einem vollständigen Satz, dass „Ihre privaten persönlichen Daten und Interaktionen niemals zum Trainieren unserer Basismodelle verwendet werden.“ Das endgültige Ende dieses Satzes wurde entfernt und durch einen Vorbehalt ersetzt: „Es sei denn, Sie entscheiden sich ausdrücklich dafür, zur Verbesserung beizutragen.“

Die Überarbeitung ist über den Wortlaut hinaus von Bedeutung, da sie mit der Architektur kollidiert, die Apple zwei Jahre lang vermarktet hat. Private Cloud Compute, das Serversystem hinter Siri AI und den meisten Apple Intelligence-Funktionen, wurde mit einem bestimmten Versprechen verkauft: Cloud AI, das Anfragen so privat wie ein On-Device-Modell bearbeitet, wobei Benutzerdaten niemals langfristig gespeichert oder an Dritte weitergegeben werden. Die Verwendung von Siri-Aufzeichnungen als Schulungsmaterial – und zum ersten Mal in iOS 27 das Weiterleiten einiger Private Cloud Compute-Anfragen über Google-Server – verspricht, dem Verhalten der Cloud-Assistenten näher zu kommen, gegen die sich Apple einst positioniert hat.

Always-Listening-Hardware erhöht den Einsatz

Der Zeitpunkt ist aus einem zweiten Grund ungünstig. Neben seinen neuesten iPhones hat Apple diese Woche zwei Apple Watch-Modelle vorgestellt, die für kontinuierliches Hören konzipiert sind. Die Geräte können auf Abruf ein Transkript der vorangegangenen fünfzehn Sekunden des Gesprächs sowie eine tägliche „Siri-Zusammenfassung“ erstellen, die die Gespräche des Trägers zusammenfasst – eine Funktion, die laut Apple auch auf Private Cloud Compute läuft.

Ständig eingeschaltete Mikrofone, die einen Assistenten versorgen, der nun Interaktionen für das Modelltraining behalten kann, ist genau die Kombination, vor der Befürworter des Datenschutzes gewarnt haben, und sie kommt von dem Unternehmen, das sein modernes Marketing darauf aufgebaut hat, genau dies zu verweigern.

Echos des Siri-Bewertungsskandals 2019

Apple war schon einmal hier. Im Jahr 2019 erlebte das Unternehmen seine schlimmste Datenschutzkontroverse, als von Subunternehmern angestellte Auftragnehmer ihre Arbeit bei der Bewertung von Siri-Audioaufnahmen beschrieben – Schnipsel, die häufig vertrauliche Gespräche, medizinische Informationen und andere persönliche Daten enthielten und unter laxen Kontrollen behandelt wurden. Apple stellte das Programm ein, entschuldigte sich und führte später die menschliche Überprüfung als Opt-in-Funktion mit strengeren Sicherheitsvorkehrungen wieder ein.

Die neue Richtlinie nimmt diese Datenerfassung mit einem breiteren Umfang wieder auf – vollständige Interaktionen statt gesampelter Audioclips, Transkripte neben Aufzeichnungen und einen expliziten Schulungszweck – und stützt sich dabei auf einen ähnlichen Zustimmungsmechanismus, den viele Benutzer ignorieren, ohne ihn zu lesen.

Was als nächstes passiert

Regulierungsbehörden in Europa und den Vereinigten Staaten haben die Darstellung von Einwilligungsdialogen für KI-Schulungen wiederholt unter die Lupe genommen, und ein Opt-in-Bildschirm mit einer auffälligen Zustimmungsschaltfläche und einer kontrastarmen Ablehnungsoption ist die Art von Design, die diese Prüfung auf sich zieht. Derzeit vertritt Apple den Standpunkt, dass die Daten in seinen eigenen Systemen bleiben, von Benutzeridentitäten entkoppelt sind und nur nach Regeln überprüft werden, die nur den Mitarbeitern vorbehalten sind.

Der tiefere Wandel ist strategisch. Das Training wettbewerbsfähiger KI-Modelle erfordert enorme Mengen hochwertiger Gesprächsdaten, und Apple – das später als seine Konkurrenten in den modernen KI-Wettbewerb eingestiegen ist – scheint entschieden zu haben, dass seine wertvollste ungenutzte Ressource die Hunderte Millionen Siri-Gespräche sind, die jeden Tag stattfinden. Das Unternehmen, das einst den Datenschutz zum Grund für den Kauf eines iPhones gemacht hat, ist zu dem Schluss gekommen, dass es es sich nicht länger leisten kann, diese Daten auf dem Tisch zu lassen. Wie viel davon Apple erhält, hängt davon ab, ob Benutzer der Herausgabe zustimmen, jeweils mit der Schaltfläche „Jetzt nicht“.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →