Studie zpravovaná americkým Georgia Institute of Technology zjistila, že technologie rozpoznávání osob, které najdeme třeba u autonomních automobilů, mohou mít větší problémy při detekci lidí s tmavší kůží ve srovnání se světlejšími typy. Rozdíl není až tak dramatický a navíc vstupní data nemusí úplně odpovídat realitě. Přesto takové zjištění není úplně bez zajímavosti.
Vědci testovali osm různých systémů rozpoznávání chodců. Zjišťovali, jak přesné ve své činnosti budou. Použité modelové fotky osob byly rozděleny do dvou skupin podle takzvané Fitzpatrickovy škály (ta klasifikuje barvu pleti). Jedna skupina obsahovala světlejší typy, druhá tmavší. V průměru byla přesnost rozpoznávání lepší o pět procent ve prospěch světlejších osob. Na výsledku nic nezměnil ani fakt, že vědci vzali v úvahu případné částečné zakrytí některých chodců i různé denní světlo v době pořízení fotek.
Jak píše Bussines Insider, výzkumníci rozdílnou úspěšnost přisuzují tomu, že při vývoji podobných systémů se používá méně příkladů zobrazujících tmavší osoby. Umělá inteligence tudíž lépe zná světlejší lidi. Vox.com ale upozorňuje, že vstupní data i systémy testované v rámci studie neodpovídají realitě. Vědci totiž museli pracovat s tím, co je k dispozici, a společnosti vyvíjející autonomní stroje samozřejmě svou práci nezveřejňují. Takže výsledek máme brát spíše jako důkaz, že takové rozdíly existovat mohou.
Jak píše Vox.com ve svém článku, základem řešení by mělo být různorodé složení vývojářů. Ti sice nemusí být přímo rasisté, ale skupinu složenou výhradně ze světlejších osob prostě nemusí napadnout, že by vyvíjený systém mohl mít s černochy problém. Zatímco když ve skupině bude někdo tmavší, patrně se na takovou věc dříve nebo později přijde.
Každopádně tento případ docela dobře dokumentuje obecnou složitost vývoje autonomního řízení a ukazuje to, do jakých detailů musí jeho tvůrci jít, aby byla zaručena maximální spolehlivost. Právě to je ostatně důvodem, proč už třeba i šéf společnosti Waymo (dříve divize Google) začíná pochybovat o tom, zda se vůbec dočkáme stoprocentně autonomních aut, která nikdy nebudou potřebovat řidiče.