Thierry Crouzet

Pour la première fois un robot tue un humain

NetCulture 4/146

On se souviendra d’Elaine Herzberg comme étant la première humaine tuée par un robot autonome.

On se souviendra du jour de sa mort, 18 mars 2018, comme une date charnière dans l’histoire de l’humanité, une de ces dates à partir de laquelle plus rien ne peut plus être comme avant.

C’était un dimanche soir, 22 heures, à Tempe en Arizona, près de la jonction entre Mill Avenue et Curry Road. Elaine traversait une deux voies en poussant son vélo chargé de sacs de course, quand une voiture autonome l’a percutée.

Elaine est morte à l’hôpital où elle a été transférée. Qui était Elaine ? Où allait-elle ? Que faisait-elle sur cette route dépourvue d’éclairage public ?

Dans la voiture autonome, une autre femme âgée de 44 ans, Rafael Vasquez. Elle était derrière le volant, là pour vérifier le bon fonctionnement du pilote automatique, mais elle ne prêtait pas attention à la route. Elle regardait vers le bas, sans doute l’écran d’un téléphone posé sur ses genoux. Elle n’a levé la tête qu’au dernier moment, une fraction de seconde avant le choc. Sa voiture n’a pas ralenti, ses senseurs n’ont rien vu.

Dans les médias, on parle de l’imperfection de la technologie, on dit qu’un chauffeur humain n’aurait pas fait mieux, on blâme Elaine d’avoir traversé la route hors des clous, de ne pas avoir fait attention… Nous serions imparfaits, ce serait presque inacceptable.

Bloomberg vante les bénéfices potentiels des véhicules autonomes : économie de carburant, sécurité accrue, moins de bouchons, productivité démultipliée pour les passagers, qui peuvent rentrer chez eux, même bourrés, liberté retrouvée pour les personnes âgées ou handicapées à nouveau capables de se déplacer…

Mais qui était Elaine ? À quoi pensait-elle ?

Peu de chose sur elle dans les médias, à part qu’elle avait 49 ans, comme si elle n’avait aucune importance, comme si elle n’était qu’une variable effacée par inadvertance dans une banque de données. Une photo tout de même. Elaine était blonde, aux yeux bleus, mère de deux enfants nés alors qu’elle avait 15 et 18 ans.

Un site référençant les détenus dans les prisons américaines évoque une certaine Elaine Marie Herzberg, emprisonnée à plusieurs reprises pour usage de stupéfiants, mais elle aurait 50 ans et non 49, elle serait née le 2 février 1968, elle serait plutôt petite, 1,57 mètre, plutôt ronde, 73 kg. D’après les photos, il semble s’agir de la même Elaine, même si le lien ne semble pas fait.

Conclusion de la patrone de la police de Tempe, Sylvia Moir : « It’s very clear it would have been difficult to avoid this collision in any kind of mode autonomous or human-driven based on how she came from the shadows right into the roadway… I suspect preliminarily it appears that the Uber would likely not be at fault in this accident, either. » En résumé : il s’agit d’un accident causé par un piéton errant. La voiture roulait à 38 mph dans une zone limitée à 35 mph. Pas de quoi en faire un scandale.

La bataille des chiffres a commencé. Rien qu’aux États-Unis, en 2016, 36 000 personnes ont été tuées sur les routes par des chauffeurs humains, soit 1,18 mort tous les 100 millions de miles parcourus. Les véhicules autonomes ont parcouru à ce jour moins de 10 000 miles. Déjà un mort, mais ce coût serait acceptable au regard des promesses de la technologie ! Et pas question de prendre en compte dans les statistiques la mort d’un pilote d’essai de Tesla en 2016. Il connaissait les risques du métier.

La voiture autonome était une Volvo XC90 SUV affrétée par Uber. Qui était Elaine ? Ses amis témoignent : Jerry Higgins, Carole Kimmerle, Deniel Klapthor… Ils affirment que la mort d’Elaine n’est pas un accident, mais un homicide et réclament la fermeture pure et simple d’Uber. D’Elaine, ils disent qu’elle a été un temps SDF, mais qu’elle s’en sortait mieux au moment de sa mort puisqu’elle s’apprêtait à commencer un job. Elle allait partout en vélo. Elle était très prudente. Elle lisait beaucoup et écrivait aussi. À quoi pensait-elle quand elle a poussé son vélo au milieu de la route ? Sans doute pas qu’elle était en train d’entrer dans l’Histoire.

Des humains ont été tués par des pierres, des silex taillés, des épées, des lances, des balles, des missiles, des bombes, des drones, toujours par des engins projetés, guidés, dépourvus de tout pouvoir de décision. Le 19 mars, il s’est produit tout autre chose. Le robot faisait sa vie quand il a croisé une autre vie.

PS : Des machines outils, des robots non autonomes, des drones… ont déjà tué des humains, souvent par accident. Là, nous sommes dans une situation très différente : le robot aurait pu freiner, ne pas tuer, il a mal réagit parce qu’il est construit pour prendre des décisions, c’est ce qui fait de ce drame une première.