Discuter:Trois lois de la robotique

Un article de Wikipédia, l'encyclopédie libre.

	Trois lois de la robotique fait partie du projet SF, qui a pour but d'enrichir le contenu de Wikipédia sur les sujets liés à la Science-fiction. Si vous voulez participer, vous pouvez modifier cet article ou visiter la page du projet, où vous pourrez vous joindre au projet et consulter la liste des tâches et des objectifs. Le portail Science-fiction pourrait aussi vous intéresser.
Bon début	Cet article a été classé comme d'Avancement BD selon le Tableau d'évaluation du projet.
Élevée	Cet article a été classé comme d'Importance élevée selon le Tableau d'évaluation du projet. (Contester?)

N'y a-t-il pas un cas (dans une des nouvelles d'Asimov) où un robot ne réagit pas correctement aux 3 lois en raison d'une grosse faille dans leur rédaction ... Qu'est-ce qu'un être humain (la réponse du robot étant différente de celle de ses créateurs) ? Dans ce cas, il me parait important de le signaler ...

Je regarderais dans mes livres, mais c'est un souvenir assez vague, cela risque de prendre du temps. quelqu'un peut-il le confirmer d'ici-là ? (sachant que c'est suffisament vague pour que je puisse me tromper ;) )--Louppatient 15 jul 2004 à 19:10 (CEST)

Je ne crois pas que cette faille soit racontée dans une des nouvelles d'Asimov lui-même ; c'est dans des bouquins écrits par de jeunes auteurs qu'il parrainait. Si ma mémoire est bonne, la faille venait de la concomitance de deux faits: d'une part l'existence d'extra-terrestres, qui faisait que la notion d'humain devenait nettement plus difficile à cerner ; d'autre part l'existence de robots très intelligents et sensibles, ce qui floutait la frontière humain-robot. Je dois pouvoir retrouver la référence, mais pas maintenant: je déménage, tout est encartonné.

Sinon, il existe des robots qui ont une notion très restrictive de la notion d'humain chez Asimov même: dans "Terre et Fondation" je crois, les héros atterrissent sur Solaria (un des mondes de la série des Elijah Baley), où des robots gardiens considèrent comme non-humains les gens qui n'ont pas le bon accent (et en conséquence: attaquent!). Ceci dit, ce n'est pas vraiment une faille.

Évidemment, on peut citer aussi la nouvelle dans laquelle certains rares robots sont dotés d'une première loi modifiée (qui n'a pas la clause d'assistance à personne en danger). Une très bonne nouvelle mettant en scène Susan Calvin ; mais qui n'exploite pas vraiment une faille non plus (c'est plus un exemple de l'utilité de la clause).

Snark 15 jul 2004 à 21:28 (CEST)

Bon, j'ai eut de la chance, comme mes souvenirs ne correspondaient pas avec ce que tu disait, j'ai repris mes bouquins, et je suis tombé sur le bon du premier coup ;) Alors, la nouvele à laquelle je pensait est "Pour que tu t'y intéresses" du recueil l'homme bicentenaire, chez présence du futur n°255, les titres orignaux sont "That Thou Art Mindful of Him" pour la nouvelle, et "the Bicentennial Man and other stories" publié chez Doubleday & co. Et c'est du vrai Asimov ;)

C'est une histoire d'US Robots (sans Susan Calvin, sauf en photo souvenir dans un bureau ;) ), où on a 2 robots à qui sont posés une question vitale pour sauver l'entreprise, qui y répondent, et qui réfléchissent sur les 3 lois et leurs failles (comme "si 2 humains sont menacés, comment agir d'après la 1ère loi ?"). Leur conclusion finale est que :

Sans prendre en compte l'apparence pour la "valeur" d'un être humain, ils se considèrent humains, et ayant une valeur plus importante que celle des "autres" humains
Comme ils ont une valeur plus importante en tant qu'humains, les lois de la robotique s'applique en premier à eux (et en particulier la première)

La nouvelle se finit en parlant des "3 lois de l'humanique" (puisque ce ne sont plus uniquement des robots dans leur esprit, mais des humains).

Je ne sait pas si j'ai été très clair, je ferais sûrement un petit topo là dessus à tête reposée, en modifiant peut-être un peu l'article existant, pour relativiser les choses : d'après cette nouvelle, la loi 0 n'est pas nécessaire ... Et les 3 lois sont toujours interprétables / sujettes à des failles / des problèmes de conscience pour les robots (ce qui est une bonne chose, puisque cela à permit à Asimov d'écrire des nouvelles dessus ;) ). --Louppatient 16 jul 2004 à 08:37 (CEST)

[modifier] Suppression de la Catégorie Loi

J'ai enlevé cet article de la catégorie loi parce que je pense qu'il peut préter à confusion lorsque quelqu'un n'a pas lu les livres d'Asimov et qu'il consulte d'abort la page de la catégorie. En effet cet article ce trouve sur la même page que la déclaration universel des droit de l'homme et du citoyen. [[Utilisateur:Anarkman| Anarkman]] 8 oct 2004 à 13:51 (CEST).

[modifier] Modifications de l'intitulé des Lois

Bonjour,

J'ai modifié l'article pour faire coller l'intitulé des Lois avec les traductions en Français que l'on retrouve dans les recueils "Les Robots" et "Un Défilé de Robots". De plus j'ai changé les titres "Loi 1" en "Première Loi" et ainsi de suite, comme on les retrouve toujours dans les nouvelles et romans ("conflit de Première Loi", "impératif de Troisième Loi", etc...)

Pour la définition de la Loi Zéro, j'ai pris la traduction de la définition par Daneel dans "les Robots et l'Empire" (chap. 63)

VieuxSale 2 mars 2006 à 23:22 (CET)

[modifier] Loi zéro

Bonjour,

Est ce que qq'un pourrait préciser dans quel bouquin apparait la loi zéro ? Dans quelle série de bouquins faisait-il partie ?

J'ai les bouquins il y tellement longtemps que j'en venais presque à douter de l'existence de la loi zéro, vu que je n'arrivais pas à trouver les bouquins en parlant (c'est bizarre mais on dirait que les livres les plus lus d'Asimov sont ceux de la série Fondation)

Merci!

Je suis sûr qu'elle est citée explicitement dans "les Robots et l'Empire", vu que c'est de ce livre que j'ai tiré la traduction. Avant, on sent son apparition dans l'esprit d'Asimov dans "les Robots de l'Aube", sans qu'elle soir explicitement appelée comme ça, ni mise en forme en mots d'ailleurs. Et elle est aussi évoquée à la fin de "Terre et Fondation". Mais il est vrai que, bien qu'elle apparaisse comme un point central de l'oeuvre d'Asimov pour ceux qui ont tout lu, elle n'occupe que peu d'espace (et cela explique qu'on ait du mal à la retrouver...)

VieuxSale 1 mai 2006 à 21:17 (CEST)

[modifier] Première loi modifiée

Dans une de ses nouvelles, Asimov évoque le cas particulier de robots volontairement conçus avec une première loi pour laquelle on a retiré la partie "par sa passivité, laisser un être humain en danger" afin que, de mémoire, dans le cadre du "boulot" en environnement radioactif, les robots ne se jettent pas dans le champs radioactif afin de sauver les hommes protégés en combi, flinguant ainsi leur cerveau positronique.

Il serait intéressant d'exposer les conclusions de la nouvelle d'Asimov sur les dysfonctionnements qu'entraîne par la suite cette amputation de la 1ère loi.

Pour info, une charte de la robotique vient de sortir en corée du sud, fondée sur Asimov. Voir Futura Sciences.

Gloran 22 mars 2007 à 17:24 (CET)

[modifier] Aspect juridique

Deux précisions sur ce paragraphe aspect juridique qui me semble un peu farfelu.

Vous dites : "Dans une telle optique, l'extrême ambiguïté que soulève une notion encore inconnue, à savoir l'éventuel discernement dont pourrait être dotée une machine consciente, ou du moins "intelligente", ne pourrait trouver, faute d'une profonde modification du Code civil, qu'une solution prétorienne. En effet, il appartiendrait à la Cour de Cassation de se prononcer sur la responsabilité autonome du robot, dés lors qu'un constructeur soulèverait qu'il ne peut être responsable du dommage causé par le robot (...)"

Or, il n'appartient pas à la Cour de cassation de trancher ce genre de question. La Cour de cassation juge le droit, le droit existant. Elle ne peut redéfinir à elle seule ou élargir la notion de personnalité juridique. Elle s'est récemment refusée à se prononcer sur le mariage homosexuel, disant clairement qu'il appartenait au Législateur (la loi votée par le parlement) de dire si oui ou non ce genre de mariage était valide. A fortiori, la Cour de cassation n'apportera aucune solution à une question si révolutionnaire.

Deuxièmement, le robot n'est pas un sujet, ceci est clair, car ce n'est pas d'actualité en 2008. Mais l'argument pour l'expliquer ne me parait pas des plus pertinents quand on sait que l'on peut être responsable pour quelqu'un d'autre, je penses aux parents responsables des faits de leurs enfants mineurs. Mais surtout, il faut se demander à quel besoin réponds une loi. Le droit est toujours là pour répondre à un besoin social. L'intérêt social dans le mécanisme de la responsabilité, c'est le dédommagement de la victime. Voilà pourquoi on désigne les parents responsables de l'enfant ou le constructeur pour son produit. Le responsable est celui qui peut payer. Celui qui peut indemniser la victime d'un dommage. Ainsi, avant d'êtres responsables, les robots devront avoir la possibilité d'avoir un patrimoine et d'êtrepropriétaire. Ils ne seront responsables qu'à partir du moment où on sera sûr qu'ils pourront indemniser, comme les humains. Tant que ce ne sera pas le cas, on fera porter la responsabilité sur la tête de quelqu'un d'autre.

Vous me semblez quelque peu dépourvu d'imagination... "Un peu farfelu", selon vous ? Vous êtes, vous, je vous rassure, terriblement sérieux.

Néanmoins, je maintiens, très sérieusement, que l'intelligence artificielle posera un jour de nouvelles, voire redoutables, questions de droit. Vous simplifiez en affirmant que la Cour de Cass., juge du droit, ne contrôle que l'application du droit existant: l'article 4 du C. civ, que vous connaissez évidemment, fait obligation au juge de juger, même dans le silence ou la contradiction des textes. La jurisprudence de la Cour de cassation a ainsi souvent été source de droit, justement, lorsque le droit existant est flou ou ambigu: c'est l'un de ses rôles. Les solutions de la Cour de Cass. ont été souvent reprise par le législateur. Il y a du droit écrit en Amérique, mais il y a aussi du droit "par précédent" chez nous, vous le savez bien....

Or l'intelligence artificielle est le type même du problème de doctrine que la haute juridiction sera amenée un jour à trancher: un être conscient, fût-il artificiel, est-il responsable, ou non ? Hal 9000 est il le meurtrier de Frank Poole, ou n'est-ce qu'un logiciel bogué ? Une machine devenant une troisième forme de personne juridique, cela vous passe peut-être un peu au dessus de la tête. Ainsi vous serez peut-être un bon juge de proximité, mais vous ne serez jamais un Clarke, un Kubrick ou un Asimov, je le crains! Si vous n'aimez pas le "farfelu", lisez Jean D'ormesson, ou Régine Desforges, mais évitez la SF...

Quant au mariage homosexuel, puisque vous voulez absolument revenir à une actualité juridique ennuyeuse, il pourra très bien être considéré un jour sous un autre angle dans une espèce à venir: c'est ce que l'on appelle un revirement de jurisprudence. La cour avait refusé (arrêt très classique) l'indemnisation d'une concubine par le responsable de la mort du concubin: la Cour a changé sur ce point. Il se peut que la Cour finisse par considérer que les moeurs ayant évolué, elle ouvre la porte au mariage homosexuel. Les arguments des demandeurs au pourvoi, que l'on soit pour ou contre, n'étaient pas sans fondement...

J'ai trouvé intéressant de faire ressortir le remarquable esprit juridique dont a fait preuve Asimov en rédigeant ses trois lois, tout en réfléchissant sur les implications future de la robotique. Donc je ne vois rien de farfelu dans ce que j'observe, je considère même que la doctrine développera un jour bien plus loin ces notions.

Amitiés farfelues...

Je crois que, un robot programmé par son propriétaire pour avoir un certain comportement (qu'il s'agisse ou non d'un piratage) est, juridiquement, comme à un animal dressé pour avoir un comportement analogue car un robot et un animal sont des meubles (statut juridique) mais ont un esprit (ce qui, normalement, implique d'être doué de volonté).

Quand à la loi, ce n'est pas le Sens Commun ni une partie de celui-ci : ce n'est pas un ensemble figé de règles qui seraient toujours (depuis toujours et pour toujours) valables partout. Nicolas.le-guen (d) 6 juin 2008 à 16:53 (CEST)

[modifier] Aspect juridique bis

Bonjour ; je me suis permet à l'instant de poser un bandeau relatif à la mise en doute de la pertinence de cette section. En effet, il me semble que la réflexion qui y est écrite, d'une part constitue un travail original ; et d'autre part est plus de l'ordre du droit qu'en relation directe avec l'article (d'autant plus qu'il m'a semblé comprendre que l'auteur parlait uniquement du droit français, alors que l'oeuvre d'Asimov sous-entend des lois " universelles " ). Ne serait-il pas plus pertinent que l'auteur de cet essai en fasse une page web et se contente d'un renvoi dans les liens externes de wikipédia ? Quoi qu'il en soit j'attends vos commentaires, histoire de voir si l'idée fait consensus ou non. Hoplaaaa (d) 8 avril 2008 à 14:10 (CEST)

Le bandeau a été retiré par une IP (qui a tout de même amélioré le texte), je me suis permis de le remettre : sans parlé du contenu, ce genre de réfléxion n'est pas —à mon sens— quelque chose d'encyclopédique, aussi interessant que ce soit. Bahanix (d) 23 avril 2008 à 10:16 (CEST)

[modifier] Aspect juridique ter

Pour ma part il me semble tout a fais opportun de laisser cette article.

En effet, le paragraphe encre bien les trois lois dans la réalité (en l'occurrence française puisque nous somme sur wikipedia.fr). Il serait même interressent de creuser dans se sens. Faire de la prospective juridique en robotique. Génial, non? Prospective, car nous somme bien dans le portail wikipedia (.fr) de la science fiction.

Sans nul doute cette aspect juridique sera d'actualité dans un certain nombre d'années, alors pourquoi ne pas en parler? et essayer de le développer sur des bases connue?

--Crountch (d) 27 avril 2008 à 20:57 (CEST)

[modifier] Inventeur des lois

Selon Jacques Sadoul (dans Histoire de la SF moderne) ou Francis Valéry (dans un article de Bifrost n°12) ce serait John W. Campbell le créateur de ces lois, et il aurait fait cadeau de l'idée à Asimov. Ils n'annoncent ça ni l'un ni l'autre comme un scoop ... Est ce que c'est en contradiction avec d'autres sources ? Mica (d) 23 mai 2008 à 19:20 (CEST)