Az Amazonnál lehallgathatják, hogy mit mondtál Alexának

Emberek tízmilliói otthonában találhatók már okoshangszórók, amelyek amellett, hogy zenét vagy podcastokat sugároznak, a nap 24 órájában hallgatnak, és várják az utasításokat. A legtöbben gátlások nélkül beszélünk hozzájuk - vagy mellettük -, gondolván, hogy soha senki sem hallja majd, amit a hangszórónknak mondtunk.

Pedig ez nem mindig van így.

A Bloomberg legfrissebb cikkje szerint ugyanis az Amazon emberek ezreit alkalmazza arra, hogy visszahallgassák az Amazon Echo felvételeit és feliratozzák azokat.

A marketingszöveg szerint Alexa, az Amazon személyi asszisztense a felhőben él, és önmagától tanul, ám ahogyan sok hasonló esetben, itt is szükség van rá, hogy emberek bírálják felül a rendszert, és állapítsák meg, hogy mikor értett mindent helyesen Alexa, és mikor nem.

A cikk szerint az Amazon napi nyolc órában foglalkoztatja azokat, akik feliratozzák az Alexa által hallottakat. Vannak, akik teljes munkaidős alkalmazottak a cégnél, de elvileg külsősöket is megbíznak a hallgatásos feladattal, amelyet Bostonban, Costa Ricán, Indiában és Romániában is végeznek. A Bloobmerg hét, korábban ezzel foglalkozó személy beszámolója alapján írja körül a folyamatot.

Az Amazon „átírók” feladata többnyire monoton. Egy nyolcórás műszak alatt akár 1000 felvételt is meghallgathatnak és feliratozhatnak. Megesik, hogy nehezen értenek egy-egy szót – ilyenkor egy belsős chatszobában kérhetnek segítséget a többiektől. Ugyanide beküldik az érdekes és szórakoztató részleteket egy-egy felvételből, de a közös csoport arra is szolgálhat, hogy a nyomasztó felvételeket megosszák egymással az alkalmazottakat, ezzel valamennyit könnyítve a saját lelkükön.

Megesik, hogy az Echo olyan szövegeket is rögzít, amelyeket nem szívesen osztana meg senkivel sem a tulajdonosa. A beszámolók alapján volt, hogy egy tusólóban éneklő hölgyet hallgattak, de megesett, hogy egy gyerek segélykiáltását is rögzítette az Echo.

Az ilyenfajta munka amiatt sem lehet egyszerű, mert olykor nyomasztó felvételeket hallhatnak az alkalmazottak. Két ezzel foglalkozó személy elmondása alapján volt, hogy egy szexuális erőszak felvételét hallották vissza, amit szintén beküldtek a közös csoportba. Az Amazonnak elvileg van egy saját protokollja arra az esetre, ha valami hasonló bűnügyet rögzítene az Echo, ám két román alkalmazott elmondta, hogy amikor hasonló helyzetben értesítették a feletteseiket, akkor azt a választ kapták, hogy az Amazonnak nem feladata, hogy beleszóljon a hasonló esetekbe.

Ami ennél is aggasztóbb, hogy az Amazonnál nem csak azt hallják, amit Alexának mondunk, hanem háttérbeszédet is felvehet az Echo. Az egyik alkalmazott szerint naponta nagyjából száz olyan felvételt hallgatnak vissza amelyeket egyáltalán nem az okoshangszórónak szántak. Jól tudhatjuk, hogy az Amazon Echo és a többi digitális asszisztens olykor képes véletlenül bekapcsolni. Az alkalmazottak elmondása szerint rengeteg felvétel kezdődik úgy, hogy a TV szól a háttérben - valószínűleg ott mondhattak valami olyat, ami aktiválta az Echót - vagy csak egyszerűen egy nehezen érthető beszélgetésnél értette úgy Alexa, hogy neki szóltak. Ilyenkor az Echo rögzít, és az Amazon ezen részlegén dolgozók hallhatják az elhangzottakat. Ilyenkor olyan információk is elhangzanak, mint nevek, bankkártyaadatok, jelszavak, vagy rendkívül bizalmas titkok. Ebben az esetben az alkalmazottaknak be kell pipálniuk a „kritikus adat” dobozt, és lépniük a következő felvételre.

Az Amazon egyik szóvivője elmondta a Bloobmergnek, hogy a cégnél különösen fontosnak tartják a felhasználók és adataik biztonságát. A felvételek csupán nagyon kis részét hallgatják vissza az ezzel foglalkozók, és mindezt csupán azért teszik, hogy folyamatosan fejlesszék az Amazon Echo-élményt. Alexát folyamatosan tanítaniuk kell, hogy felismerje az új kifejezéseket, szlengeket, és egyre pontosabban ismerhesse fel azt, amit mondanak neki.

Az Amazon szóvivője továbbá elmondta, hogy különböző biztonsági lépésekkel biztosítják azt, hogy a hangfájlok ne lehessenek összeegyeztethetők a tulajdonossal.

A kritika afelől érheti az Amazont, hogy nem értesítik a felhasználókat arról, hogy az eszköz által készített felvételeket esetenként visszahallgathatják a cégnél. Hivatalosan a cég azt írja, hogy az „Alexa irányában tett kéréseket felhasználhatják arra, hogy fejlesszék a beszédfelismerő rendszerük”. A felhasználók Alexa beállításaiban kikapcsolhatják ezt a funkciót.

További aggodalomra adhat okot, hogy az egyik Bloomberg által látott képernyőkép szerint a hangfájlok nevéből kiolvasható a felhasználók fiókszáma, keresztneve és az eszköz sorozatszáma is.

A helyzet az, hogy a techcégek igyekeznek úgy beállítani a termékeiket, mintha azok olyan fejlett AI rendszerrel működnének, amelyek valóban önmagukat tanítják és fejlesztik folyamatosan. A valóságban azonban az, hogy a mérhetetlenül okosnak és intelligensnek beállított személyi asszisztensek sokkal többször tanulnak az emberektől, mint gondolnánk.

Ugyanígy az Apple digitális személyi asszisztense, Siri is az emberek tanítására támaszkodik. Az almás techcégnél hat hónapig tárolják a felvételeket, amelyeket véletlenszerű azonosítókkal neveznek el, hogy ne lehessen összepárosítani őket a felhasználó személyével.

A Google-nél szintén visszahallgathatják a felvételek egy részét, ám ennél a cégnél is azt írják, hogy a hangfájlok összeegyeztethetetlenek a felhasználó személyével, és plusz óvintézkedésként eltorzítják a felvételeket.

Forrás: Bloomberg

Kapcsolódó cikkek:

• Terjeszkedik a Mac a számítógép-piacon
• Ennyit csökken a mobilod értéke az évek során - tényleg jobban megéri az iPhone?
• Hamis iPhone-okkal verték át az Apple-t – 1 millió dollárt kaszáltak