Le défi des robots pensants. Nos amis ou nos assassins?

Présentation

L'originalité de cet essai sur les bienfaits et risques de la robotique et des nanotechnologies est d'emprunter son fil d'Ariane à "R.U.R." (Rossum's Universal Robots), tragi-comédie écrite en 1921 par le grand écrivain tchèque Karel Capek - inventeur du mot robot.
Dans cette pièce, il est dit que les progrès techniques déshumanisent l'homme, que la course au profit et le seul critère de la loi du marché conduisent l'humanité à la catastrophe, mais aussi que les robots libèrent l'homme de la servitude et des peines du travail, qu'ils sont plus efficaces que lui, coûtent moins cher, annoncent un monde d'abondance et de prospérité et que, enfin délivré des tâches du travail, l'homme pourra se consacrer à la vie de l'esprit.
Mais Karel Capek prédit aussi que le passage du "robot-outil", esclave de l'homme, au "robot pensant" peut aboutir à l'extermination de l'humanité et anticipe les débats qui sont au cœur du présent essai : un robot peut-il avoir une âme? La vie des robots implique-t-elle, à terme, la mort de l'homme? L'homme peut-il faire évoluer la vie sur une base chimique différente de celle, fondée sur le carbone, que nous connaissons?
À la fois tentative prométhéenne d'appropriation de la puissance divine et recherche narcissique de sa propre similitude, l'homme justifie aujourd'hui plus prosaïquement le robot par sa fonction d'outil. L'auteur en rappelle les étapes qui ont conduit, de la fabrication artisanale d'automates à la robotique, aux perspectives imprévisibles.
Car, pour certains chercheurs, il ne s'agit plus, cette fois, de perfectionner un outil au service de l'homme, mais de créer un substitut de l'homme par l'élaboration d'un cerveau artificiel. Ce projet s'appuie sur les formidables progrès des calculateurs, sur ces disciplines informatiques que sont l'"intelligence artificielle" et la "vie artificielle", et sur l'avènement des nanotechnologies qui mettent à portée de main le rêve fou de rebâtir le monde atome par atome.
Annoncées dès 1959 par Richard Feynman, ces nanotechnologies - dont Eric Drexler a brillamment décrit les objectifs - promettent une révolution industrielle génératrice d'une ère de prospérité à peine imaginable, tout ce qui est produit pouvant l'être dès lors par simple réarrangement des atomes. En médecine, des nanorobots - assembleurs ou désassembleurs de molécules - circulant dans notre corps pourront dépister cellules cancéreuses ou dépôts scléreux artériels et y porter remède avant que ne soient constituées des lésions irréversibles.
Mais le risque est grand de voir ces nanorobots utilisés aussi à des fins meurtrières. Quant aux prophéties apocalyptiques de Hugo de Garis, chercheur engagé dans la création d'un super cerveau artificiel, d'une guerre gigantesque entre des êtres artificiels - les Artilects - et les humains, l'auteur ne cache pas son scepticisme.
Il propose par contre d'accorder une vigilante attention à ce qu'il dénomme les « robots invisibles », qui nous écoutent et nous épient. Il décrit avec humour les avatars d'ECHELON, Carnivore, Talon, Memex et consorts, robots invisibles qui, bientôt, en sauront plus long sur nous que nous-mêmes, car ils n'ont pas, eux, de trous de mémoire !
Pour répondre à la question "Que faire face au défi des robots pensants?" André Varenne invite à réfléchir d'abord sur l'opportunité de faire des robots pensants alors que tant de jeunes cerveaux humains sont voués à rester incultes. Grande est alors la tentation de se révolter contre les machines et les progrès, comme le firent les Luddistes ou Unabomber, alias Theodore Kaczynski, brillant mathématicien qui a mené pendant dix-sept ans une campagne terroriste, tué trois personnes et blessé beaucoup d'autres.
Considérant comme fort édifiante l'histoire de la bombe atomique, l'auteur se demande si nous allons, par manque de réflexion et de lucidité, répéter semblable faute? Alors qu'une bombe atomique ne se lâche qu'une fois, on doit craindre la prolifération des nouveaux robots par autoréplication et leur utilisation par des terroristes.
Il ne faut donc pas faire des robots pensants sans s'entourer de précautions et mettre en jeu ces mécanismes régulateurs et contre-pouvoirs que sont le contrôle des financements et une large information de l'opinion publique.
Ceci dit, il faut accueillir avec optimisme cette révolution robotique. Elle nous libèrera chaque jour davantage des corvées fastidieuses, accroîtra nos possibilités d'action, y compris à distance, mais obligera à remettre en question le sentiment que chaque individu a de sa propre valeur.
Écoutons aussi les avertissements de ceux qui travaillent à faire un jour des robots pensants et en sont effrayés au point de déclarer qu'ils vont arrêter leurs recherches. Les dates - de 2020 à 2080 - pour que soit créée une intelligence proche de la nôtre, nous paraissent si lointaines que nous ne nous sentons guère concernés, oubliant qu'il n'en sera pas de même de nos enfants ou petits-enfants.
Écartant l'idée d'une compétition homme-machine, l'auteur voit plutôt leur symbiose. La collaboration homme-machine progresse rapidement. Elle ouvre, pour la médecine, de passionnantes perspectives.
Vient enfin la question: dans quelle mesure l'homme pourra-t-il maîtriser l'évolution de son espèce?
Et sous quelle forme l'aventure humaine se poursuivra-t-elle, si elle doit se poursuivre. Empruntera-t-elle celle de la machinerie des robots pensants? Ou restera-t-elle dans sa lignée génétique? Dans les deux cas, machinerie ou biologie, la parole est aux techniciens, mais ils ne doivent pas en disposer seuls.
Pour sa part, l'auteur propose la voie de la techno-sagesse, qui refuse toute atteinte à la dignité et aux libertés. Elle exige, par exemple, que les maîtres des robots invisibles exposent publiquement qui ils sont, ce qu'ils font et pour qui ils le font, et que l'on ne laisse pas hors de l'information du public - et surtout de l'enseignement des jeunes - les avantages et les risques des nouvelles technologies. Elle n'est ni passéiste ni conservatrice et sait que nous aurons tout intérêt à nous entendre avec les robots pensants!
Ce qui sera certainement facile, si l'on en croît l'aphorisme que l'auteur nous livre parmi d'autres:
Il y a davantage de bons robots que de méchants robots dans la science-fiction et c'est un bon signe pour leur avenir et pour le nôtre.

Avec beaucoup d'originalité, André Varenne conclut son essai par deux actes apocryphes - R.U.R. 2002 - où il donne la parole au clone de Karel Capek et nous invite à tenir compte de ses avertissements.