Un message envoyé à quelques-uns de ses amis Facebook n’a suscité aucune réponse.
Hello, my name is Thierry Crouzet. I’m a French writer. Since I heard about Elaine’s death, I have read everything I could find online about Elaine’s life. I’m angry to see that the press doesn’t really care about her but only about the Uber technology. I would like to write about her, about her life. I want to make a tribute to her, as she is the first human victim of a robot. Today, I’m sending this message to any of Elaine’s friends I can find. If you would like to share your vision of who Elaine was.
La douleur doit être trop vite, le drame trop proche. Ou effectuer une enquête à distance est compliqué, voire impossible, ce qui démontre la nécessité de réengager le corps. Visiter le monde sur Google Earth n’est qu’un jeu vidéo.
Et puis, la nouvelle tombe, le 28 mars, Uber a négocié un accord avec la famille.
The family of the woman killed by an Uber self-driving vehicle in Arizona has reached a settlement with the ride services company, ending a potential legal battle over the first fatality caused by an autonomous vehicle.
Cristina Perez Hesano, l’avocate de la famille, a déclaré :
Bellah Perez, PLLC (Huber), the daughter and the husband of the late Ms. Herzberg will have no further comments on this matter, as it has now been resolved.
Un chèque pour mettre tout le monde d’accord. Elaine la SDF aura légué à son mari et à sa fille un beau pactole. Un chèque pour imposer le silence. Au passage, on découvre un mari, jusque là non mentionné, et soudain surgi. Encore quelqu’un à interroger.
Mais les choses se compliquent. Patrick McGroder, un avocat de Phoenix, représente désormais le fils d’Elaine, son père et sa mère, qui n’ont pas envie que les choses en restent là. Uber n’est donc pas tiré d’affaire.
D’Elaine, les médias répètent qu’elle avait 49 ans, ce qui voudrait dire qu’elle n’est pas l’ancienne détenue du même nom, âgée de 50 ans et qui lui ressemble comme deux gouttes d’eau, correspondance à laquelle personne ne fait allusion, sauf moi. Est-ce parce que j’ai effectué ce lien que ses proches ne me répondent pas ?
Invariablement, il est dit :
Fall-out from the accident could stall the development and testing of self-driving vehicles…
Au même moment, sur France Culture, dans une émission sur les IA, j’ai entendu dire par deux personnes différentes que les voitures autonomes étaient moins dangereuses que celles pilotées par les humains. Au nom de quels chiffres ? Aucun, bien sûr, pas assez d’heures passées par ces voitures sur les routes. Les spécialistes de l’IA s’adonnent aux prophéties autoréalisatrices.
Cette image du capitalisme heurtant une SDF résume notre société, c’est une figure paroxystique. Le 24 mars, Guillaume De Lorris m’a écrit :
J’imagine la scène, un désert, une route, un hameau de masures en tôle sous un soleil brûlant, Elaine qui va chercher les bières de 0.5 L à 10° pour la soirée. Cette énorme voiture noire à 100.000 dollars, conduite par personne, qui n’a vu personne. Que faisait une voiture à 100.000 dollars au milieu du désert ?
Il y a du romanesque dans ce destin brisé. Impossible de ne pas penser aux quatre lois de la robotique :
(0) Un robot ne peut pas porter atteinte à l’humanité, ni, par son inaction, permettre que l’humanité soit exposée au danger.
(1) Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un être humain soit exposé au danger, sauf contradiction avec la Loi Zéro.
(2) Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première Loi ou la Loi Zéro.
(3) Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième Loi ou la Loi Zéro.
Le robot qui a tué Elaine a donc enfreint la première loi. À moins que cette infraction, ne bénéficie, à terme, à l’humanité, et que ne pas prendre de risque aujourd’hui reviennent à nous condamner à brève échéance. Il est douteux de penser que l’IA embarquée sur la voiture Uber ait effectué un tel raisonnement, en revanche assez commun chez les technophiles, partisans de faire des omelettes en cassant des œufs.
Elaine n’était donc qu’un œuf auquel personne ne prête attention, ce qui révèle l’inhumanité du processus en cours, un processus qui se moque de la loi zéro de la robotique, loi qui comme ses consœurs n’a aucun sens. En invoquant le théorème de Gödel, on doit pouvoir montrer qu’on aura beau ajouter des lois supplémentaires on sera toujours incapable de garantir l’innocuité des IA.
Par ailleurs, à un instant t, il est impossible dire si une action peut ou non nuire à un humain en particulier ou à l’humanité entière à un instant t+1, parce que l’avenir est le plus souvent imprévisible. Personne au début de l’automobile ne songeait à nous nuire en participant au réchauffement climatique. L’éthique s’apprend, se vit, elle ne se programme par des algorithmes déterministes.
Que faire pour que l’éthique se développe, à commencer chez les développeurs des IA ? Il faut raconter la vie d’Elaine, lui donner un prix infini, pas seulement celui décidé par des avocats. Il nous faut connaître Elaine, partager sa vie, son destin, il nous faut aimer Elaine. Alors sa mort ne sera plus une anecdote lointaine, mais un drame qui nous touchera, et nous incitera à la prudence, à l’humilité, à l’humanité.
Notes
- Au 640 North Mille Avenue, la vitesse n’était pas limitée à 35 mph mais à 45 mph. Donc pas d’excès de vitesse pour le robot tueur.
- Un processeur Nvidia traitait les images à bord. Les actions de la compagnie ont immédiatement chuté de 9.5 %. Ça, c’est un évènement.
- La police a déclaré que l’accord entre Uber et la famille n’implique pas la fin de l’enquête. Un crime a potentiellement été commis.