Trois lois de la robotique

Un article de Wikipédia, l'encyclopédie libre.


Cet article fait partie de la série
Science-fiction
La SF à l’écran
autre-A-B-C-D-E-F-G
H-I-J-K-L-M
N-O-P-Q-R-S-T
U-V-W-X-Y-Z
Le monde de la SF
Auteurs - BD de SF
Fandom - Prix littéraires
Thèmes et genres
Catégorie:science-fiction

Les trois lois de la robotique sont une invention de l’écrivain de science-fiction Isaac Asimov. Ces lois visent à rendre le comportement des robots inoffensif pour les humains.

Sommaire

[modifier] Les trois Lois de la Robotique

Dans un futur imaginé, des robots humanoïdes capables de raisonner et de faire presque toutes les tâches propres à l’Homme seraient construits. Pour contrer la peur du « syndrome de Frankenstein » (qui remonte en réalité à la légende du Golem) des créations se retournant contre leur créateur, les robots seraient construits à partir de trois axiomes, appelés Lois de la robotique :

  • Première Loi : Un robot ne doit pas porter atteinte à un être humain ni, en restant passif, laisser cet être humain exposé au danger.
  • Deuxième Loi : Un robot doit obéir aux ordres donnés par un être humain sauf si de tels ordres entrent en contradiction avec la Première Loi.
  • Troisième Loi : Un robot doit chercher à protéger son existence dans la mesure ou cette protection n'entre pas en contradiction avec la Première Loi ou la Deuxième Loi.

Malgré ces trois lois qui rendent un robot inoffensif (contrairement aux êtres humains), dans l’œuvre d’Asimov le syndrome de Frankenstein et surtout la peur des humains de se voir remplacer par des machines est plus forte. Les robots sont donc interdits sur Terre, leur usage étant réservé aux colonies spatiales.

Ces lois sont codées au plus profond du cerveau positronique des robots et ne peuvent en aucun cas être modifiées. Les nombreuses nouvelles et romans d’Asimov mettant en scène les robots sont pour la quasi-totalité organisés autour des failles d’interprétations par les robots de ces lois.

Selon the Oxford English Dictionary, la nouvelle menteur qui mentionne la première loi est le premier passage dans lequel le mot robotique est utilisé. Asimov lui même n’en était pas conscient, considérant que le mot existait déjà, par analogie avec mécanique, hydraulique et autres termes similaires se référant à des sciences appliquées.

Les trois lois forment un principe organisé et un thème unificateur pour la fiction d'Asimov. Elles apparaissent dans les séries sur les Robots et autres histoires liées à ce thème, mais également dans ses séries « Lucky starr » de science-fiction orientée vers un public de jeunes adultes. D’autres auteurs utilisant l’univers fictif d'Asimov les ont adoptées et des références (souvent parodiques) apparaissent dans la science-fiction mais aussi dans d’autres genres. Les chercheurs dans le domaine de l’intelligence artificielle, travaillant dans la création de machines réelles avec certaines des propriétés des robots d’Asimov, spéculent sur le rôle que ces lois pourraient avoir à l’avenir.

[modifier] Histoire des Lois de la Robotique

Avant Asimov, la plupart des intelligences artificielles étaient soumises au complexe de Frankenstein, qu'Asimov trouvait insupportablement ennuyeux : « Les Robots sont créés puis détruits par leurs créateurs, les robots étaient créés et détruisaient leurs créateurs »[1]. En réalité, cela n’était pas une règle inviolable. En décembre 1938, Lester del Rey publie Elen O’loy l'histoire d’un robot si proche de l’humain qu’elle tombe amoureuse de son créateur et devient sa femme idéale (comparable au mythe de Pygmalion et Galatée). Le mois suivant Otto Binder publie une nouvelle I, Robot (moi Robot), décrivant un robot sympathique du nom de Adam Link, créature incomprise motivée par l’amour et l’honneur. Ce fut le début d’une série de dix nouvelles ; l’année suivante, Adam Link's Vengeance (1940) décrit Adam pensant, « Un robot ne doit jamais tuer un humain de sa propre volonté ».

Le 7 mai 1939, Asimov assiste à un colloque de la Queens Science Fiction Society, où il rencontre Binder, dont il admirait les nouvelles. Trois jours plus tard, Asimov commence la rédaction de sa « propre version d’un robot sympathique et noble », sa 14e nouvelle. Treize jours plus tard il présente Robbie à John W. Campbell, éditeur de Astounding Science-fiction. Campbell le refuse, sous prétexte de sa trop grande ressemblance avec "Elen O’Loy" de El Rey. Frederik Pohl, éditeur de l’Astonishing magazine, publie Robbie dans son magazine l’année suivante.

[modifier] La Loi Zéro

Dans l’œuvre d’Asimov apparaissent deux robots particuliers, R. Daneel Olivaw et R. Giskard Reventlov. Par leurs réflexions, ils arrivent à la conclusion que les Trois Lois sont incomplètes, et que les robots doivent aussi considérer la protection de l’humanité dans son ensemble. Ces robots formulent la Loi Zéro de la robotique ainsi :

  • Loi Zéro : Un robot ne peut nuire à l’humanité ni, restant passif, permettre que l’humanité souffre d’un mal.

Les Trois Lois sont donc modifiées ainsi :

  • Première Loi : Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger, sauf en cas de contradiction avec la Loi Zéro.
  • Deuxième Loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Loi Zéro ou la Première Loi.
  • Troisième Loi : Un robot doit protéger son existence dans la mesure où cette protection n’est pas en contradiction avec la Loi Zéro, la Première ou la Deuxième Loi.

Les conséquences de la Loi Zéro sont considérables : elle donne le droit aux robots de s’attaquer à des Hommes, si ces Hommes mettent l’humanité en danger. C'est justement le thème principal dans le film I robot, ou l'I.A VIKI (mémoire centrale de la firme robotique) arrive à la conclusion logique que la plus grande menace pour l'Homme est l'Homme lui même et décide d'enfreindre la 1ere loi pour protéger l'Humanité.

[modifier] Aspect juridique

Asimov a fait preuve, en rédigeant ses trois lois, d'un remarquable esprit juridique : concision, logique, clarté. Cet aspect de sa pensée mérite d'être analysée.

Néanmoins, elles posent une série de questions très intéressantes aux frontières des sciences du droit et des technologies futures.

Tout d'abord sont-ce véritablement des lois, au sens classique du mot, ou une simple sécurité logicielle garantissant que le comportement d'une machine, douée de volonté, sera conforme aux lois ? Les trois lois visent-t-elle à empècher un acte de volonté (le robot est alors une personne) ou un accident (le robot est alors un meuble) ? Son rédacteur, le texte en fait une évidente priorité, vise à encadrer l'activité d'un produit a priori considéré comme dangereux par son aptitude à agir de manière autonome. Et en effet il envisage un risque spécifique d'atteinte aux personnes physiques afférents aux seuls robots.

Mais l'interdiction de l'atteinte aux personnes énoncée par la Première Loi doit être observée également par les êtres humains. Or en l'état actuel du droit, le robot est un meuble et n'est doué d'aucun discernement.

En tant que meuble, c'est aussi un produit. Les trois lois de la robotique s'accordent en cela parfaitement avec le le code civil à travers la règle générale des articles 1386 et suivants qui disposent qu'un produit défectueux engage la responsabilité de celui qui l'a fabriqué. Donc, en l'état actuel du droit, la responsabilité, et par conséquent l'obligation, quant à l'observation par le robot des trois lois, pèseraient sur le constructeur du robot et non sur le robot lui même.

Le robot pourrait-il un jour devenir sujet de droit ? Dans une telle perspective, l'extrême ambigüité que soulève une notion encore inconnue, à savoir le discernement dont pourrait être dotée une machine consciente, ou du moins " intelligente ", ne pourrait trouver, au début, qu'une solution prétorienne. En effet, qui sait s'il n'appartiendra pas un jour à la Cour de Cassation de se prononcer sur la responsabilité d'un robot, si un constructeur, ou le gardien d'un robot, soulève à bon droit qu'il ne peut être responsable du dommage causé par la machine, écartant les règles des articles 1384, et 1386-1 à 1386-17 du Code civil, au motif que le robot serait apte à générer de manière autonome des effets juridiques ? À première vue, le moyen, qui ferait sortir le robot du domaine de la chose, pour lui donner le statut de la personne, ou d'une nouvelle catégorie de personne, n'a aucune base légale, car en tant que sujet de la responsabilité civile ou pénale, le robot n'existe évidemment pas. Mais comment statueront nos juges dans une espèce analogue à l'assassinat de Frank Poole par HAL 9000 dans 2001 : l'odyssée de l'espace ? L'aptitude d'une machine consciente à prendre des décisions, c'est à dire, en langage juridique, sa capacité, amènera tôt ou tard la doctrine à se prononcer, d'autant que, dans le film, l'astronaute Dave Bowman n'a aucun moyen de s'opposer aux agissements de la machine dont, en droit français, il est le gardien: en le déconnectant, il dégage sa responsabilité. Pourtant la doctrine actuelle présume que les choses dont on est le gardien ne sont douées d'aucune aptitude à agir : une machine n'est pas l'auteur d'un acte juridique, si elle " agit " avec des conséquences dommageables, le responsable ne peut être que le constructeur ou le gardien de la chose.

Mais qu'en sera-t-il d'une machine ayant antérieurement fait toute les preuves de sa capacité, au sens juridique du mot ? Les robots d'Isaac Asimov sont des êtres intelligents, donc responsables de leurs actes. Est-on si loin de cette situation ? Rien, au rythme où vont les progrès, n'est moins sûr.

Une solution, dans un premier temps, serait d'emprunter aux incapacités: les dispositions régissant la responsabilité des majeurs protégés sera peut-être la voie intermédiaire entre robot " personne " et " chose " que choisira le législateur. En cas d'absence, par exemple, les biens de l'absent sont gérés comme en cas " d'administration légale sous contrôle judiciaire telle qu'elle est prévue pour les mineurs " (art. 113) du C. civ.). Un tel emprunt au droit existant pourrait être une première solution.

[modifier] Voir aussi

[modifier] Notes et références

  1. 1

[modifier] Références

[1] : Prologue au roman "I, Robot" traduit en langue française sous le nom de "Les Robots"