Un Américain qui avait été incarcéré pour meurtre a été libéré après qu'un juge a découvert qu'il avait été condamné uniquement sur la base d'un programme informatique utilisant l'intelligence artificielle.
Michael Williams, 63 ans, avait été placé en détention en août 2020, accusé d’avoir fusillé à mort un jeune homme du quartier qui lui avait demandé de le raccompagner lors d'une nuit d'agitation contre les brutalités policières en mai.
Seulement, voilà: la principale pièce à conviction contre M. Williams n'était ni la déclaration d'un témoin oculaire ni celle d'un informateur, mais plutôt un clip d'une vidéo de caméra de sécurité sans audio qui montrait un véhicule en train de traverser une intersection. Au même moment, un réseau de microphones de surveillance enregistre une forte détonation dans le voisinage. La police conclut que M. Williams a tiré sur la jeune victime.
Dépassé par les événements, le sexagénaire a pensé à se suicider pendant son incarcération.
"Je n’arrivais pas à comprendre comment ils pouvaient s'en tirer en utilisant une technologie comme ça contre moi", a déclaré Michael Williams. "Ce n'est pas juste", a-t-il ajouté.
Près d'un an après, les procureurs reviennent sur leur décision et demandent formellement à un juge d'abandonner les poursuites contre M. Williams, car les preuves présentées ne sont pas suffisantes pour un cas de meurtre présumé.
La tendance se propage
A travers les États-Unis, les forces de l'ordre ont de plus en plus recours aux entreprises de technologie pour lutter contre la criminalité.
Ces entreprises proposent des logiciels qui permettent soit d’analyser les sons pour détecter un coup de fusil, soit d’identifier un visage particulier dans une foule.
Au nom de la prévention des crimes, de tels algorithmes, vantant l'analyse prédictive, sont souvent utilisés même dans les procédures judiciaires. Tantôt pour déterminer le montant de la caution à exiger d'un prévenu, tantôt pour fixer les conditions de libération avant le procès.
La cas ShotSpotter
ShotSpotter est l’une des entreprises qui fournit ce type de logiciels. Se présentant comme une plateforme "de police de précision", ShotSpotter se spécialise dans la détection des coups de feu. La compagnie propose un algorithme et des capteurs capables de distinguer les nuances entre 14 millions de types de sons différents et de les classer en utilisant l’intelligence artificielle.
L’entreprise dit avoir contribué à une réduction de 60% des homicides à West Palm Beach, dans l’État de Floride. Ses logiciels ont aussi fourni des résultats positifs en Pennsylvanie, au New Jersey, en Californie et dans d’autres États, lit-on sur son site web.
Or une une enquête de l'agence Associated Press a identifié un certain nombre de failles graves dans l'utilisation de ShotSpotter.
L'enquête révèle que dans certains cas ShotSpotter est incapable d’identifier correctement un coup de fusil directement sous les micros de ses capteurs. Dans d’autres cas, le logiciel classifie à tort comme des coups de feu les pétarades de certaines voitures.
Il y a aussi un souci de transparence et d'équité: dans une Amérique divisée par la race et la classe économique, on craint que ce type d'algorithme ne soit influencé par les mêmes préjugés qui existent déjà dans la société.
Des préjugés qui traitent généralement de manière défavorable les membres des minorités ethniques et les pauvres. Le code informatique des sociétés telles que ShotSpotter, classé comme secret d’entreprise, ne peut pas être examiné par les associations de défense de droits ou même par les organes de supervision de la police.
"ShotSpotter n’est pas une panacée. Mais si la plateforme est utilisée comme un atout parmi d’autres dans le cadre d'une stratégie globale de lutte contre la criminalité par les armes à feu, elle peut contribuer à des résultats positifs pour la police et la communauté", se défend l'entreprise sur son site web.
Pendant ce temps, Michael Williams est de retour chez lui à Chicago, où il peut à nouveau goûter au bonheur de jouer avec ses petits-enfants, loin des murs froids et bétonnés de la prison du comté de Cook, où il a perdu quasiment une année de sa vie.
