Lorsque les gens voient des machines qui réagissent comme des humains, ou des ordinateurs qui exécutent des prouesses de stratégie et de cognition imitant l'ingéniosité humaine, ils plaisantent parfois sur un avenir dans lequel l'humanité devra accepter les suzerains de robots.
Mais enfoui dans la plaisanterie est une graine de malaise. L'écriture de science-fiction et les films populaires, de "2001: A Space Odyssey" (1968) à "Avengers: Age of Ultron" (2015), ont spéculé sur l'intelligence artificielle (IA) qui dépasse les attentes de ses créateurs et échappe à leur contrôle. , finalement surpassant et asservissant les humains ou les ciblant pour l'extinction.
Le conflit entre les humains et l'IA est au centre de la série de science-fiction d'AMC "Humans", qui est revenue pour sa troisième saison mardi 5 juin. Dans les nouveaux épisodes, les humains synthétiques conscients font face à des personnes hostiles qui les traitent avec suspicion, peur et haine. La violence gronde alors que les Synths se battent non seulement pour les droits fondamentaux mais aussi pour leur survie, contre ceux qui les considèrent comme moins qu'humains et comme une menace dangereuse.
Même dans le monde réel, tout le monde n'est pas prêt à accueillir l'IA à bras ouverts. Ces dernières années, alors que les informaticiens ont repoussé les limites de ce que l'IA peut accomplir, des personnalités éminentes de la technologie et de la science ont mis en garde contre les dangers imminents que l'intelligence artificielle peut représenter pour l'humanité, suggérant même que les capacités de l'IA pourraient condamner la race humaine.
Mais pourquoi les gens sont-ils si énervés par l'idée de l'IA?
Une "menace existentielle"
Elon Musk est l'une des voix éminentes qui a soulevé des drapeaux rouges sur l'IA. En juillet 2017, Musk a déclaré aux participants à une réunion de la National Governors Association: "Je suis exposé à l'IA de pointe, et je pense que les gens devraient vraiment s'en inquiéter."
"Je continue de sonner l'alarme", a ajouté Musk. "Mais tant que les gens ne verront pas des robots descendre la rue, tuant des gens, ils ne savent pas comment réagir, car cela semble tellement éthéré."
Plus tôt, en 2014, Musk avait qualifié l'IA de «notre plus grande menace existentielle» et, en août 2017, il a déclaré que l'humanité était plus exposée à l'IA que la Corée du Nord.
Le physicien Stephen Hawking, décédé le 14 mars, a également fait part de ses préoccupations concernant l'IA malveillante, déclarant à la BBC en 2014 que "le développement d'une intelligence artificielle complète pourrait signifier la fin de la race humaine".
Il est également moins que rassurant que certains programmeurs - en particulier ceux du MIT Media Lab à Cambridge, Massachusetts - semblent déterminés à prouver que l'IA peut être terrifiante.
Un réseau de neurones appelé "Nightmare Machine", introduit par des informaticiens du MIT en 2016, a transformé des photos ordinaires en paysages d'enfer macabres et troublants. Une IA que le groupe du MIT a surnommé "Shelley" a composé des histoires effrayantes, formées sur 140 000 histoires d'horreur que les utilisateurs de Reddit ont postées sur le forum r / nosleep.
"Nous sommes intéressés par la façon dont l'IA induit des émotions - la peur, dans ce cas particulier", a déclaré précédemment Manuel Cebrian, directeur de recherche au MIT Media Lab, à Live Science dans un courriel sur les histoires effrayantes de Shelley.
Peur et la haine
Les sentiments négatifs à propos de l'IA peuvent généralement être divisés en deux catégories: l'idée que l'IA deviendra consciente et cherchera à nous détruire, et la notion que les personnes immorales utiliseront l'IA à des fins perverses, Kilian Weinberger, professeur agrégé au Département d'informatique à l'Université Cornell, a déclaré Live Science.
"Une chose dont les gens ont peur, c'est que si l'IA super-intelligente - plus intelligente que nous - devient consciente, elle pourrait nous traiter comme des êtres inférieurs, comme nous traitons des singes", a-t-il déclaré. "Ce serait certainement indésirable."
Cependant, les craintes que l'IA développe une prise de conscience et renversent l'humanité sont fondées sur des idées fausses sur ce qu'est l'IA, a noté Weinberger. L'IA fonctionne dans des limites très spécifiques définies par les algorithmes qui dictent son comportement. Certains types de problèmes correspondent bien aux compétences de l'IA, ce qui rend certaines tâches relativement faciles à réaliser pour l'IA. "Mais la plupart des choses ne correspondent pas à cela, et elles ne s'appliquent pas", a-t-il déclaré.
Cela signifie que, même si l'IA est capable de faire des exploits impressionnants dans des limites soigneusement délimitées - jouer à un jeu d'échecs de niveau maître ou identifier rapidement des objets dans des images, par exemple - c'est là que ses capacités s'arrêtent.
"L'IA atteint la conscience - il n'y a eu absolument aucun progrès dans la recherche dans ce domaine", a déclaré Weinberger. "Je ne pense pas que ce soit dans un avenir proche."
L'autre idée inquiétante - qu'un humain sans scrupules exploiterait l'IA pour des raisons nuisibles - est, malheureusement, beaucoup plus probable, a ajouté Weinberger. À peu près n'importe quel type de machine ou d'outil peut être utilisé à des fins bonnes ou mauvaises, selon l'intention de l'utilisateur, et la perspective d'armes exploitant l'intelligence artificielle est certainement effrayante et bénéficierait d'une réglementation gouvernementale stricte, a déclaré Weinberger.
Peut-être que si les gens pouvaient mettre de côté leurs craintes d'une IA hostile, ils seraient plus ouverts à reconnaître ses avantages, a suggéré Weinberger. Les algorithmes améliorés de reconnaissance d'image, par exemple, pourraient aider les dermatologues à identifier les grains de beauté potentiellement cancéreux, tandis que les voitures autonomes pourraient un jour réduire le nombre de décès dus à des accidents de voiture, dont beaucoup sont causés par une erreur humaine, a-t-il déclaré à Live Science.
Mais dans le monde "humain" des synthés conscients de soi, les craintes d'une IA consciente provoquent de violentes confrontations entre les synthés et les gens, et la lutte entre les humains et l'IA continuera probablement à se dérouler et à s'intensifier - au moins pendant la saison en cours.
Note de l'éditeur: Il s'agit de la dernière caractéristique d'une série d'articles en trois parties «Humains» d'AMC. La troisième saison a débuté le 5 juin à 22 h. EDT / 21 h CDT.
