HTCinside


Technologie detekce emocí by měla být zakázána, říká AI Now

Technologický svět požaduje nový zákon omezující rozsah technologie detekce emocí. Tato technologie čte emoce prostřednictvím mikrovýrazů a tónu hlasu. Velké softwarové společnosti využívají tuto technologii při vývoji softwaru k detekci lidských emocí, ale je tu háček, jak zdůraznilo americké výzkumné centrum AI Now.

Výrazy nemohou být stejné, neustále se mění

Tam, kde jsou lidé rádi, že vidí nový trend v technologii v podobě detekce emocí, techničtí analytici a výzkumná centra v USA vyzvala AI Now k omezení rozsahu této technologie. AI Now Institute říká, že „technologie detekce emocí je postavena na výrazně nejistých základech“.

Podle výzkumníků by taková technologie neměla být používána při důležitých rozhodnutích, která se ukáží jako nepříznivá pro lidi, jejich životy a příležitosti, které díky ní mohou získat nebo ztratit.

AI Now ve své výroční zprávě odhaluje katastrofu technologie detekce emocí a uvádí, že technologie detekce emocí tvrdí, že čte mikrovýrazy na naší tváři, způsob, jakým mluvíme, a výšku našeho hlasu. Na základě těchto pozorování technologie interpretuje emoce dané osoby. Tyto výrazy se mohou neustále měnit a nejsou stabilní. Takže rozhodnutí založená na tom mohou být chybná.

Slovy profesorky Kate Crawford, spoluzakladatelky AI Now: „Používá se všude, od toho, jak najmete dokonalého zaměstnance přes hodnocení bolesti pacientů, až po sledování toho, kteří studenti zřejmě dávají ve třídě pozor. Ve stejné době, kdy jsou tyto technologie zaváděny, velké množství studií ukazuje, že neexistuje... žádný podstatný důkaz, že by lidé měli konzistentní vztah mezi emocemi, které cítíte, a tím, jak vypadá váš obličej.“

Prof Crawford dále vysvětlil problém a dodal, že některé z firem vyvíjejících takový software jsou založeny na výzkumu provedeném v roce 1960 Paulem Ekmanem, který říká, že lidská tvář může vyjádřit pouze 6 základních emocí. Později však byly nalezeny další varianty tohoto výzkumu, který je v technologii detekce emocí zcela ignorován.

Jaký je kontext?

AI Now také zvedá oponu od skutečnosti, že mnoho společností prodává software založený na této technologii. Například společnost Oxygen Forensics prodala software sboru za účelem lepšího vyšetřování podezřelých. Sbory získávají schopnost detekovat na svých tvářích hněv, stres nebo úzkost. Další jeho příklad lze získat od společnosti HireVue, která prodala software společnosti, která jej využívá pro výběr kandidátů na pohovor.

Než se začne spoléhat na technologii detekce emocí, měl by průmysl nashromáždit více důkazů a faktů, že software detekuje správné emoce, je konzistentní a účinný ve všech situacích. V opačném případě nepříznivě ovlivňuje lidské životy tím, že dělá nesprávná rozhodnutí na základě nejednoznačné technologie. Aby se svět stal lepším místem pro život, měly by být takové technologie nakonec používány zodpovědně.

Za tímto účelem jsou výzkumníci stejného názoru, že je třeba porozumět kontextu, ve kterém jsou projevy emocí detekovány. Stejný výraz může mít v různých situacích různý význam. Kontext je tedy klíčem k rozhodování na základě výrazů detekovaných technologií detekce emocí.