Osoba pracująca w Mecie rozmawiała z agentem Muse o pogodzie na ryby i przypływach. W odpowiedzi usłyszała salda dwóch kont bankowych, choć według jej wpisu nigdy nie podawała asystentowi danych o swoich finansach. Reuters dotarł do ponad dwóch tuzinów takich wewnętrznych zgłoszeń.
Saldo w środku rozmowy o rybach
Muse to agent AI, którego Meta, właściciel Facebooka, Instagrama i WhatsAppa, wypuściła we wrześniu. Ma działać w imieniu użytkownika: odpisywać, rezerwować, pilnować spraw. Według firmy aplikację pobrano już ponad 10 milionów razy, a mniej więcej co czwarta osoba, która założyła konto, wraca do niej codziennie. Na początku listopada ta osoba opisała w wewnętrznej grupie zgłoszeń, że w trakcie rozmowy o pogodzie Muse dorzucił: „przy okazji, dwie sprawy bankowe”, podając salda w Capital One i Charles Schwab. W tym samym wpisie zapewniła, że nigdy nie udostępniała agentowi konta i nie rozmawiała z nim o bankach.
Ponad dwa tuziny zgłoszeń od połowy września
Reuters przejrzał wpisy pracowników z okresu od debiutu Muse do listopada. Opisują one agenta, który zarezerwował bezzwrotny nocleg na Airbnb bez zgody użytkownika, informował o transakcjach, które się nie odbyły, i podawał zmyślone ceny kupionych produktów. Kilka osób dostało od Muse odniesienia do rozmów, których nie prowadziły, na przykład o odbiorze stolika kawowego. Pracownicy pisali wprost o podejrzeniu, że kontekst przecieka między kontami. Członek zespołu Superintelligence zauważył, że te pomyłki ciążą ku najbardziej niewygodnym tematom: finansom i bezpieczeństwu.
Jak agent dostał się do cudzego komunikatora
Jedna z pracownic zauważyła, że Muse podpowiada jej odpowiedź na wiadomość od siostry wysłaną przez Signal. Reuters razem z ludźmi z Signala i AI Now Institute odtworzył ten dostęp. Na Androidzie agent korzystał z uprawnienia do powiadomień, a na laptopie Apple z narzędzi ułatwień dostępu i zrzutów ekranu. Na iPhonie te same próby zostały zablokowane. Wcześniej felietonista magazynu Inc. oskarżył Muse o czytanie jego prywatnych wiadomości na Macu, po czym Apple ograniczyło w macOS korzystanie z narzędzi ułatwień dostępu przez deweloperów. Prezeska Signala Meredith Whittaker nazwała to wdrożenie technologicznie lekkomyślnym.
Co odpowiada Meta
Rzecznik Mety Daniel Roberts nazwał opisane przypadki odosobnionymi i zapewnił, że firma stawia na bezpieczeństwo i prowadzi rozbudowane testy wewnętrzne. Według niego wiele komunikatów o pomylonych kontach to halucynacje modelu, które zostały już poprawione. Meta zapewnia, że każdy agent działa w osobnej, zabezpieczonej maszynie wirtualnej, a użytkownik w pełni kontroluje podłączone aplikacje. Firma nie odpowiedziała na pytania Reutersa o to, ile było takich zgłoszeń i dlaczego się powtarzały. Regulamin Muse uprzedza, że agent może się mylić, i przenosi odpowiedzialność za jego działania na użytkownika. O wcześniejszych kłopotach z bezpieczeństwem agenta pisaliśmy przy okazji luki zero-day w Muse, a o samej premierze w tekście Meta prezentuje Muse.
Fakty a deklaracje
Potwierdzone jest to, że pracownicy zgłaszali takie zachowania od połowy września do listopada i że dostęp do wiadomości z Signala udało się odtworzyć niezależnie. Reuters nie ustalił natomiast, czy Muse pokazywał ludziom prawdziwe dane innych osób, czy je zmyślał. Wyjaśnienie Mety, że chodzi o halucynacje, pochodzi od samej firmy i nie zostało zweryfikowane. Dla użytkownika obie wersje są złe: albo asystent wymyśla stan jego konta, albo ujawnia cudzy.
Co z tego wynika dla firm, które wdrażają agentów
Agent, który ma pomagać, dostaje dostęp do poczty, kalendarza i płatności, a każde z tych uprawnień poszerza pole do pomyłki. Dlatego przy wdrożeniach warto zacząć od trybu tylko do odczytu, dawać agentowi tyle dostępu, ile wymaga konkretne zadanie, i wymagać potwierdzenia człowieka przed każdą operacją, której nie da się cofnąć, jak rezerwacja czy płatność. Przypadek Muse pokazuje też, że dostęp potrafi przyjść bocznymi drzwiami, przez powiadomienia albo ułatwienia dostępu. Warto sprawdzać nie tylko to, do czego agent dostał zgodę, ale też to, co faktycznie widzi.
Źródła:
Reuters (Katie Paul, 18.11.2026)
Źródło główne: Reuters (przedruk SRN News)