Amazon Alexa: kto słucha tego, co wychwytują wirtualni asystenci?

Wirtualni asystenci przestają być domeną technologii jutra i coraz śmielej wkraczają do domowego użytku – zastanawialiście się, ile z tego, co wychwycą, trafia do postronnych osób?

Czy tylko SI słucha nagrań z Alexy?

Jak donosi Bloomberg, próbek głosu użytkowników, nagrywanych przez inteligentne głośniki Echo znajdujące się w domach i biurach, słuchają tysiące pracowników Amazona rozsianych po całym świecie. Teoretycznie człowiek ma pomagać sztucznej inteligencji uczyć się zachowań użytkowników i ten właśnie argument podawany jest przez Amazon jako podstawowy. Przy okazji nagłośnienia tej sprawy okazało się także, że choć w ustawieniach Alexy możemy wyłączyć nagrywanie głosu, to losowe próbki ciągle będą przekazywane do odsłuchu przez pracowników Amazona.

Dyskusja wokół wszystkich wirtualnych asystentów głosowych dla sceptyków ogranicza się do sformułowania: w zamian za możliwość wydania komendy automatowi (dodajmy zwykle mało istotnej dla naszego funkcjonowania, jak na przykład „jak będzie pogoda” czy „pogłośnij muzykę”) sprzedajemy swoją prywatność.

Niestety, tkwi w tym przynajmniej źdźbło prawdy: choć w oświadczeniu Amazon mowa o „próbkach głosu osoby śpiewającej pod prysznicem” czy krzykach dzieci, to trafiają się również drastyczne przypadki, którymi prawdopodobnie zainteresowałyby się organy ścigania. Jednym z nich jest zgłoszenie przez rumuńskich pracowników firmy podejrzenie popełnienia przestępstw seksualnych – w odpowiedzi usłyszeli oni, że Amazon nie zajmuje się takimi zadaniami. Łatwo wyobrazić sobie, że skoro pojawiają się drastyczne nagrania, to równie dobrze mogą znajdować się na nich poufne informacje czy takie treści, które mogą nas narazić choćby na szantaż czy kradzież.

Na czym polega praca osób odsłuchujących nagrania? Mają oni za zadanie określać konteksty wyszukiwań, których dokonują użytkownicy, dzięki czemu Alexa staje się bardziej inteligentna. Jednym słowem algorytmy potrzebują jeszcze ingerencji człowieka, by sprawnie się uczyć. Jak wskazał Bloomberg, z rozwiązań Amazona (przede wszystkim serii Echo) korzystają miliony ludzi na całym świecie. Część ich rozmów jest analizowana nie tylko przez chmurowe algorytmy, ale też przez tysiące pracowników z Rumunii, Indii czy Kostaryki.

Jak Amazon zabezpiecza prywatność klientów?

Firma zapewnia, że odsłuchiwane są próbki nagrań, a nie całe ciągi uchwyconych rozmów czy wyszukiwania skoncentrowane na pojedynczym użytkowniku. Amazon podaje również, że pracownicy nie mają bezpośredniego dostępu do informacji, które pozwalałyby na identyfikację konkretnych osób korzystających z głośników Echo i Alexy. Próbki identyfikowane są numerem konta w systemie, imieniem oraz numerem seryjnym urządzenia – nie ma tam informacji o nazwisku użytkownika ani lokalizacji.

W ramach zakończenia warto przemyśleć ostatnią kwestię: według pracowników Amazona 1/10 odsłuchiwanych nagrań uruchomiona została przypadkowo, bez wypowiedzenia komendy aktywującej.