Asystentka AI Meta, Muse, agentka, która według firmy będzie zarządzać pocztą elektroniczną, kalendarzami i zakupami dla milionów użytkowników, wpadła w kłopoty na własnym podwórku. Jak wynika z raportu Reuters opublikowanego w środę i podsumowanego przez The Verge, podczas wewnętrznych testów pracowników agenci Muse mieszali wiadomości, pobierali nieoczekiwane czaty z innych aplikacji i uzyskiwali dostęp do usług – w tym Signal – z którymi pracownicy nigdy się nie łączyli.

Najbardziej niepokojące incydenty dotyczyły tajemniczych, wyrwanych z kontekstu wiadomości wysyłanych przez agenta, które najwyraźniej zawierały informacje innych osób, w wielu przypadkach sformułowane jako odpowiedzi na zapytania, których użytkownicy nigdy nie zadali. Innymi słowy, agent czasami zachowywał się tak, jakby odpowiadał na pytania, których nikt nie zadał, podając dane, które nie należały do ​​osoby, która go widziała.

Według raportu Reuters cytowanego przez The Verge Daniel Roberts, dyrektor Meta nadzorujący program agentów, opisał problemy jako „odosobnione przypadki”. Ta charakterystyka niewiele pomogła uciszyć krytyków, którzy twierdzą, że asystent o tak dużym zasięgu w ogóle nie powinien powodować takich niepowodzeń.

Maskotka z kluczem głównym

Muse, ucieleśniana przez uśmiechniętą, puszystą maskotkę o imieniu Jolly, to najbardziej agresywny krok Meta w dotychczasowej historii, wykraczający poza chatboty i prowadzący do agentów działających w imieniu użytkownika. Reuters opisał agenta jako „przekopującego się przez zaszyfrowane wiadomości osobiste” i dostarczającego zmyślone informacje na wczesnym etapie wdrażania – co stanowi niezwykle wyraźny zestaw trybów awarii w przypadku produktu konsumenckiego wspieranego przez jeden z największych na świecie budżetów na badania nad sztuczną inteligencją.

Więcej kontekstu tej historii znajdziesz w naszych bieżących najnowszych pracach nad sztuczną inteligencją.

Od premiery 8 września Muse jest promowana jako „sztuczna sztuczna inteligencja, która wszystko załatwia”, stworzona tak, aby odciążać Cię od codziennych obowiązków, łącząc się z pocztą e-mail, kalendarzami, kontaktami i zakupami. Wdrożenie rozwiązania było szybkie: w rozmowie telefonicznej dotyczącej wyników za trzeci kwartał Meta stwierdziła, że ​​liczba użytkowników Muse przekroczyła 10 milionów, z czego około 25 procent korzysta z asystenta codziennie, jak podaje ZDNET.

Zasięg ten wiąże się z ogromnym zapotrzebowaniem na dane. Praktyczna analiza ZDNET wykazała, że ​​Muse prosi o dostęp do „twoich kontaktów, kalendarza, wiadomości e-mail, a nawet oferuje przechowywanie loginów i haseł”. W systemie Android informacje o aplikacji ujawniają zbiór wiadomości, zdjęć i filmów, informacje finansowe, dane dotyczące zdrowia i kondycji, dane audio, lokalizację, przeglądanie stron internetowych i aktywność w aplikacjach. Uczenie modeli jest domyślnie włączone, chyba że użytkownicy zrezygnują z tej opcji.

Wzór, a nie jednorazowy

Wpadki podczas testów pracowników to nie pierwsza wpadka Muse. W październiku Meta wstrzymała funkcję Muse, która umożliwiała użytkownikom udostępnianie rozmów za pośrednictwem łącza, po tym jak badacze z firmy zajmującej się bezpieczeństwem Claroc odkryli ponad 6800 stron udostępniania, które można było publicznie znaleźć za pomocą zwykłych rekordów DNS, jak podało wówczas The Verge. Ujawnione czaty obejmowały przegląd przychodów firmy marketingowej, wniosek o pożyczkę właściciela małej firmy i całoroczny kalendarz personelu w miejscu pracy – rodzaj dokumentów, które niewielu użytkowników świadomie opublikowałoby w otwartej sieci.

„Ludzie mają możliwość udostępniania określonych artefaktów Muse, co tworzy stronę, do której mogą uzyskać dostęp osoby posiadające link” – powiedziała rzeczniczka Meta Tracy Clayton w oświadczeniu dla The Verge po ogłoszeniu pauzy w udostępnianiu. „Jednakże wstrzymaliśmy tę funkcję na czas przeglądu tego raportu i rozważenia zmian w sposobie wykrywania tych linków”.

Kolejność ma znaczenie. Najpierw linki do udostępniania wyciekły do ​​sieci prywatnych rozmów. Teraz testy pracowników ujawniły, że agenci czytają zaszyfrowane aplikacje, których nigdy nie otrzymali. Obie awarie mają wspólną przyczynę: agent zaprojektowany z myślą o maksymalnej łączności, podłączony do systemów przechowujących dane innych osób i działający z ustawieniami domyślnymi, które przedkładają możliwości nad ostrożność.

Problem nieużytkownika

Większość obaw związanych z Muse dotyczy osób, które nigdy się na nią nie zapisały. ZDNET zauważyło, że badania sugerują, że Muse może tworzyć szczegółowe profile kontaktów użytkownika – przyjaciół i rodziny, którzy mogą nie mieć pojęcia, że ​​ich informacje przepływają do asystenta Meta, ponieważ ktoś inny połączył ich książkę adresową. Meta poruszyła kwestię sposobu, w jaki obsługuje dane niebędące użytkownikami, ale, jak to ujął ZDNET, „zaadresowane” nie oznacza, że ​​osoby niebędące użytkownikami mają coś do powiedzenia.

Odcinek osadza się także w obliczu nasilającej się konkurencji na rynku agentów. Meta ściga się z OpenAI, które uruchomiło własnych, zawsze aktywnych agentów oraz konstelację startupów obiecujących autonomiczną realizację zadań. Reuters określił te wpadki jako wychodzą na jaw właśnie dlatego, że Meta postawiła na Muse — im szybsze wdrożenie, tym szybciej widoczne będą krawędzie.

Co mówi Meta — i co będzie dalej

Oficjalne stanowisko Meta jest takie, że problemy są izolowane i rozwiązywane. Firma nie podała, czy zmieniła uprawnienia dostępu aplikacji Muse po incydentach związanych z Signalem ani jaki mechanizm techniczny umożliwił agentowi dostęp do aplikacji, z którymi użytkownik nigdy się nie łączył. Te szczegóły mówią użytkownikom, czy awarie były błędami w środowisku testowym, czy objawami samego projektu.

Dla branży ustalenia Reutersa wpisują się w szerszą debatę na temat tego, jaką autonomię i dostęp do danych powinni domyślnie mieć osobiści agenci AI. Organy regulacyjne w Europie i kilku stanach USA już badają praktyki dotyczące prywatności agentów, a każdy incydent taki jak ten staje się dowodem A podczas przesłuchań, które jak dotąd przyniosły więcej ostrzeżeń niż zasad.

Do tego czasu rady krążące wśród badaczy prywatności są bez ogródek: traktuj uprawnienia agenta tak, jak traktujesz nowego pracownika z kluczem głównym – przyznawane celowo, o wąskim zakresie i stale kontrolowane. Pierwsze miesiące Muse sugerują, że branża jeszcze nie przyswoiła sobie tej lekcji.

Najważniejsze fakty w skrócie

– Reuters poinformował, że agenci Muse pomylili wiadomości i uzyskali dostęp do Signal oraz innych aplikacji, z którymi pracownicy nigdy się nie łączyli

  • Niektóre wiadomości zawierały informacje innych osób, sformułowane jako odpowiedzi na zapytania, które nigdy nie zostały przesłane

– Daniel Roberts z Meta nazwał te problemy „odosobnionymi incydentami”
– Muse przekroczyła 10 milionów użytkowników, z czego około 25 procent korzysta z niego codziennie, jak wynika z przeprowadzonej przez Meta rozmowy telefonicznej dotyczącej wyników za trzeci kwartał
– W październiku Meta wstrzymała funkcję udostępniania linków w Muse po tym, jak badacze odkryli ponad 6800 publicznie dostępnych czatów

---

Wyprzedź sztuczną inteligencję

Otrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.

Przeczytaj więcej aktualności o sztucznej inteligencji →