La reconnaissance faciale ne fait plus recette dans la tech

Avec un usage controversé par les forces de l’ordre de différents pays, et la gêne provoquée par le port de masques en période de pandémie mondiale, la reconnaissance faciale ne séduit plus les géants de la technologie. Coup sur coup, IBM, Microsoft et Amazon ont annoncé prendre du recul avec cette méthode biométrique particulière. IBM précise même dans son article de blog [1] que sa décision de cesser de vendre des produits de reconnaissance faciale à usage général ou de logiciel d’analyse permettant de les exploiter est motivée par son refus de « soutenir l’usage de toute technologie, y compris les solutions de reconnaissances faciales d’autres prestataires pour la surveillance de masse, le profilage racial ou la violation des libertés et droits humains de base ». Cette décision a été prise en réaction à la mort de Georges Floyd aux États-Unis et au retour en force du mouvement #BlackLivesMatters dans ce pays, mais également ailleurs dans le monde y compris en France. Dans la foulée, Microsoft a annoncé que le groupe ne commercialiserait pas ses outils de reconnaissance aux forces de police tant qu’il n’y aura pas de loi pour en encadrer les usages et Amazon a mis un moratoire d’un an sur l’utilisation de sa technologie « Rekognition » par ces mêmes forces de police. L’une des raisons justifiant ce retrait est également d’ordre technique. Les systèmes d’intelligence artificielle étant formés en utilisant des photos manquant cruellement de diversité (aussi bien en termes de couleurs de peau que de genre), il y a un risque d’erreur nettement plus fort s’ils sont utilisés par la police étasunienne pour identifier des Noirs ou des Latinos ou pour identifier des femmes. IBM reconnaît ainsi que son système a 7 % de chance de se mégenrer des femmes à la peau claire, 12 % pour des hommes à la peau foncée et jusqu’à 35 % dans le cas de femmes à la peau foncée. Les entreprises vont-elles profiter de cette prise de recul pour améliorer leurs bases de données et éliminer le plus de biais raciaux ou de genre possible de leurs outils d’intelligence artificielle ? Cela remettra-t-il en cause l’usage de la reconnaissance faciale pour d’autres prestataires ou d’autres secteurs comme le paiement ou l’identification dans la sphère privée ? À suivre…