Post w Hacker News dokumentujący, w jaki sposób Google Gemini wykorzystuje historię czatów z subskrybentami do szkolenia modeli, zyskał w tym tygodniu ponad 650 głosów pozytywnych – nie dlatego, że zasady były tajne, ale dlatego, że wielu płacących użytkowników nigdy ich nie zauważyło. Wątek zatytułowany „Tell HN: Gemini szkoli się z historii czatów, nawet dla subskrybentów (kont osobistych)” zawiera dokumentację pomocy Google pokazującą, że płatna subskrypcja nie zwalnia nikogo z korzystania ze szkoleń.
Odpowiednie zachowanie nie jest uwzględnione w umowie licencyjnej użytkownika końcowego. Jest to opisane na stronach pomocy Google Gemini, które AI Buzz Wire bezpośrednio sprawdził. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.
Co właściwie mówi dokumentacja Google
Na stronie pomocy Google dotyczącej prywatności w aplikacji Gemini znajduje się informacja, że aktywność w aplikacji Gemini — zapisana historia czatów — „służy do ulepszania usług Google dla wszystkich, w tym poprzez trenowanie generatywnych modeli sztucznej inteligencji, jeśli ustawienie Zachowaj aktywność jest włączone”. To jedno zdanie zawiera sedno problemu: trenowanie rozmów użytkowników jest domyślnym rezultatem włączenia historii czatów, niezależnie od tego, czy konto płaci za Google AI Pro czy Ultra.
Ta sama dokumentacja wyraźnie mówi o zaangażowaniu człowieka. Google twierdzi, że „podzbiór” czatów jest sprawdzany przez weryfikatorów, w tym przeszkolonych weryfikatorów od dostawców usług, w celu debugowania usług, zapewnienia ich bezpieczeństwa i ulepszania. Wytyczne zawierają ostrzeżenie, którego wielu użytkowników nigdy nie widzi: „Nie wprowadzaj poufnych informacji, których nie chciałbyś, aby recenzent lub firma Google wykorzystała do ulepszenia naszych usług, w tym technologii uczenia maszynowego”.
Sprawdzone czaty są przechowywane przez maksymalnie trzy lata
Reguły przechowywania idą dalej, niż większość użytkowników się spodziewa. Według stron pomocy Google czaty sprawdzone przez weryfikatorów – wraz z powiązanymi danymi, takimi jak język, typ urządzenia, informacje o lokalizacji i opiniami – „nie są usuwane, gdy usuwasz swoją aktywność. Zamiast tego są przechowywane przez okres do trzech lat”. Google twierdzi, że sprawdzone dane są odłączane od konta użytkownika przed zapisaniem, ale same rozmowy pozostają w systemach Google długo po naciśnięciu przycisku „Usuń”.
Google twierdzi, że podejmuje w tym procesie kroki mające na celu ochronę prywatności użytkowników, w tym powiązanie sprawdzonych czatów z losowymi identyfikatorami, a nie kontami. Mimo to dokumentacja jasno wyznacza granicę: usunięcie kontroluje to, co pojawia się w Twoim kanale aktywności, a nie to, co Google zatrzymuje z czatów, które weryfikator pobrał już do oceny.
Jak faktycznie zrezygnować
Istnieje możliwość rezygnacji, ale jest to handel. Wyłączenie ustawienia „Zachowaj aktywność” powoduje usunięcie czatów z celów szkoleniowych — strony Google potwierdzają, że szkolenia mają zastosowanie tylko wtedy, gdy to ustawienie jest włączone. Kosztem jest funkcjonalność: po wyłączeniu funkcji Zachowaj aktywność czaty są przechowywane na Twoim koncie tylko przez 72 godziny, a Google wykorzystuje tylko ostatnie 24 godziny czatu jako kontekst do dalszych pytań. Czaty tymczasowe oferują podobny układ.
Użytkownicy mogą także skrócić domyślny okres przechowywania z 18 miesięcy do 3 lub 36 miesięcy lub ustawić go na czas nieokreślony, a także w dowolnym momencie usuwać poszczególne czaty. Żadna z tych opcji nie powoduje jednak zmiany zasad szkolenia, gdy historia jest włączona — a 72-godzinny zegar rozpoczyna się od każdej rozmowy w momencie wyłączenia historii.
Płatne nie znaczy prywatne
Reakcja w Hacker News opierała się na złamanym założeniu: że płacenie za subskrypcję AI zmienia układ danych. W przypadku oprogramowania konsumenckiego to założenie od dawna było niepewne, ale przypadek Gemini jest godny uwagi, ponieważ plan szkoleń dotyczy kont osobistych na różnych poziomach płatnych, a utrzymanie recenzowanych czatów mierzone jest w latach, a nie miesiącach.
Warto zwrócić uwagę na to, czego Google nie robi. Firma twierdzi, że Gemini nie szkoli generatywnych modeli sztucznej inteligencji bezpośrednio w skrzynce odbiorczej Gmaila, na Dysku, w kontaktach, w kalendarzu ani w innych treściach Workspace – dane te wymagają wyraźnego połączenia za pośrednictwem połączonych aplikacji, które następnie podlegają własnym zasadom dotyczącym szkoleń i weryfikacji ręcznej. Konta Workspace i Enterprise działają na innych warunkach niż aplikacja Gemini dla klientów indywidualnych, na co Google zwrócił uwagę podczas wcześniejszych kontrowersji dotyczących prywatności.
Szerszy problem zaufania
Moment jest niefortunny dla Google. Firma ostro konkuruje o zaufanie konsumentów, wprowadzając wykrywanie oszustw do Wiadomości i połączeń w systemie Android oraz promując zabezpieczenia prywatności na swoim sprzęcie. Tymczasem jego najczęściej używany produkt AI uczy się przypadkowych, niestrzeżonych rzeczy, które ludzie wpisują w oknie czatu, a recenzenci mogą przeczytać ich podzbiór, a sprawdzony podzbiór jest przechowywany przez maksymalnie trzy lata.
Badacze prywatności od dawna zalecają, aby ludzie domyślnie traktowali rozmowy z chatbotem jako półpubliczne. Wątek z tego tygodnia sprawił, że ta rada stała się konkretna dla płacących użytkowników Gemini: ustawienie chroniące Twoje rozmowy jest domyślnie wyłączone, to, które je trenuje, jest włączone, a jedyne w pełni skuteczne luki ratunkowe – tymczasowe czaty lub wyłączona historia – są dostępne w cenie pamięci produktu.
Dokumentacja Google nie jest ukryta i nic w niej nie jest fałszywe. Spór polega na tym, że czytanie tego jest zadaniem użytkownika — i jak sugerują setki komentarzy, w których przegłosowano pozytywną opinię, większość użytkowników po prostu założyła, że opłata abonamentowa robi to za nich.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
