Virale, réaliste et terrifiante… La vidéo « slaughterbots » mettant en scène des robots tueurs, rouvre les débats sur une fiction devenue réalité aujourd’hui.
De tous temps, l’objet inanimé qui deviendrait vivant, a été une fascination pour l’Homme. Mais ce qui relevait de la science-fiction il y a peu, est en train de prendre vie sous nos yeux. Et la vidéo « slaughterbots » réalisée à la sauce Black Mirror ne prête pas à l’optimisme.
Une vidéo de sensibilisation
Poignante et terrifiante, elle souhaite sensibiliser le grand public à la campagne Ban Lethal Autonomous Weapons (pour l’interdiction des armes autonomes létales). Une dizaine d’associations et d’ONG militant pour le respect des droits de l’Homme et la régulation des armes, en est à l’origine. Le Future of Life Institute qui réunit chercheurs, entrepreneurs et philosophes, complète la liste. Stuart Russel, docteur reconnu dans le milieu, déclare même à la fin de la vidéo : « Ce petit film est plus qu’une simple spéculation. Il montre le résultat des technologies miniatures que nous possédons déjà ».
Samuel Nowakowski, spécialiste des interactions homme-machine à Nancy, s’est dit « scandalisé » : « J’ai cru que tout était vrai. Ça ne m’aurait pas étonné quand on voit tout ce qui se fait dans le domaine de la guerre. Le livre « La machine à tuer – la guerre des drônes » m’est tout de suite venu à l’esprit ». Ce livre, tiré d’une enquête journalistique de The Intercept, mettait en exergue la mort de centaines d’innocents par des drones sous la présidence d’Obama.
Un avenir crédible
Il remet la vidéo en perspective avec la « quête de notoriété contemporaine où l’éthique devient une denrée rare ». Aujourd’hui, il n’existe aucune ligne de bonne conduite selon lui : « tout dépend de l’innovateur et de ses valeurs ». Samuel prend exemple sur le loria – un laboratoire lorrain regroupant différents experts en informatique et en robotique -, où il dit ne pas toujours cautionner les travaux de ses collègues. Il tient tout de même à temporiser : « Les règles des états nous protègent encore, même si certains états comme les Etats-Unis s’assoient ouvertement dessus ».
« Ce petit film est plus qu’une simple spéculation ».
Plusieurs grands noms de la technologie s’inquiètent régulièrement des dangers de l’intelligence artificielle. L’éminent cosmologiste Stephen Hawking déclarait récemment craindre une IA capable de s’améliorer, « une nouvelle forme de vie capable de surpasser les humains ».
I've talked to Mark about this. His understanding of the subject is limited.
— Elon Musk (@elonmusk) July 25, 2017
Le magnat des affaires Elon Musk figure aussi parmi les plus sceptiques. Une vive altercation avec Marck Zuckerberg, le fondateur de Facebook, a éclaté sur Twitter. Ce dernier jugeait ces avertissements « particulièrement irresponsables ». Elon Musk ne s’est pas fait prier pour lui envoyer une réponse cinglante : « J’en ai parlé avec lui. Sa compréhension du sujet est limitée ».
« L’intelligence artificielle n’existe pas, on en est encore bien loin »
Samuel Nowakowski rappelle qu’à l’heure d’aujourd’hui, « l’intelligence artificielle n’existe pas, on en est encore bien loin ». Il regrette d’ailleurs la tendance médiatique à surfer sur le sensationnel lorsqu’on parle de robotique. « Avant d’imaginer construire une intelligence artificielle, il faudrait commencer par définir ce qu’est véritablement une intelligence », ajoute-t-il.
La France adopte les drones
86 countries have participated in this #CCWUN meeting on lethal autonomous weapons systems. Chair has “stopped the clock” & interpreters are about to leave as wrangling over the final report continues. pic.twitter.com/hQn544pT5L
— Campaign to Stop Killer Robots (@BanKillerRobots) November 17, 2017
Des experts de 86 pays différents ont amené la campagne lors d’une session de la convention sur les armes conventionnelles (CCW) à l’ONU le 13 novembre. On compte 125 pays représentés lors de cette convention, dont la France qui reste un membre permanent du conseil de sécurité.
Mounir Mahjoubi, secrétaire d’état au numérique ne s’est pas exprimé sur le sujet. Pourtant, « l’élaboration du cadre juridique (...) à l’échelle nationale, européenne et internationale » et « l’éthique des technologies » font partie de ses compétences principales.
Pis encore, la ministre de la défense française, Florence Parly, annonçait en septembre dernier sa décision d’armer nos drones de surveillance à horizon 2019. Un pas de plus vers l’automatisation croissante des armes, qui pose plusieurs questions éthiques. La ministre de la défense assure que cela ne changera rien « aux règles d’engagement et au respect du droit international humanitaire ». L’Homme contrôlant la machine à distance, elle est considérée comme une arme ordinaire au regard du droit international.
« On utilisera une technologie que l’on ne maîtrise pas »
Samuel Nowakowski se dit tout « atterré » par la décision d’utiliser des armes américaines : « on utilisera une technologie que l’on ne maîtrise pas ». Il déplore la banalisation de la mort : « Elle devient quelque chose d’abstrait ». Il souhaite pour cela inciter ses élèves à « promouvoir l’éthique et le rationnel ».
Romain Ethuin
