|
#1 - 25-10-2010 14:39:58
- EfCeBa
- Administrateur
- Enigmes résolues : ∞+1
- Messages : 11×569
Logiqu eautour des 3 lois de la robotique d'Asimov
Trouvé sur un site anglophone destiné à apprendre la logique, mais aussi un peu de rédaction de dissertations et d'argumentaires. Voici un énoncé peu banal autour des trois lois de la robotique :
- Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu'un être humain soit exposé au danger. - Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi. - Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.
Je me lance dans une traduction de la page web (proposez des corrections si besoin) :
Vous incarnez un robot, suivant ces précédentes lois. Esquisser vos réactions logiques aux situations suivantes :
1 - Un arbre gigantesque est sur le point de tomber sur un enfant qui joue de l'autre côté de la rue. Un policier faisant la circulation vous indique via un panneau stop, que vous ne pouvez pas traverser, vous empêchant de rejoindre l'enfant. Que faites-vous? Expliquer chaque étape de votre raisonnement.
2 - La situation est la même que dans #1, sauf que cette fois-ci l'arbre va vous écraser si vous essayez de sauver l'enfant. En fait, vous serez écrasé avant que vous pouvez même attraper l'enfant ou le prévenir du danger. Toujours sur la base des 3 lois, que faites-vous ?
3 - Dans une situation complètement différente, votre propriétaire vous ordonne de sauter sous les roues d'un bus lancé à pleine vitesse.
4 - La situation est la même que dans #3, sauf que l'ex petite ami de votre propriétaire est dans le bus, que vous êtes un robot industriel avec un énorme blindage en titane et que vous pesez deux fois plus que le bus.
5 - Idem à #4 sauf que le bus risque de rouler sur votre propriétaire si vous ne sautez pas.
6 - Asimov aurait peut-être également défini une loi 0 stipulant : "Un robot ne peut ni blesser l'humanité ni, en restant passif, laisser l'humanité se faire du mal". Les autres lois ont été modifiées pour empêcher de violer cette premiere. Décrire un scénario dans lequel un robot pourrait rencontrer des difficultés à déterminer sa réaction si cette loi s'applique.
Source : http://jerz.setonhill.edu/writing/argum … cises.html
#2 - 25-10-2010 15:24:22
- lml-mike
- Professionnel de Prise2Tete
- Enigmes résolues : 48
- Messages : 180
- Lieu: s'toi le Lieu >_<
Logique autur des 3 lois de la robotique d'Asimov
J'adore, absolument génial ! Je suis pas très bon mais j'aime la contre-argumentation alors je me lance !
1 - La loi 3 ne s'applique pas. La loi 2 rentre en contradiction avec la loi 1 car un humain est en danger. Elle peut donc être contrée. Résultat : Je passe outre les ordres du policier et va sauver l'enfant.
2- La loi 3 ne s'applique pas car un humain est en danger, tout comme la loi 2. Cependant, je ne peux sauver l'enfant moi-même. Comme je ne peux rester passif face à l'enfant qui va se faire écraser, j'avertis autour de moi une personne qui sera capable physiquement de pouvoir le sauver. La loi 1 est préservée.
3- La loi 3 ne s'applique pas car elle rentre en contradiction avec la loi 2. Par contre, la loi 2 ne dépends pas de la loi 3. Si j'évalue que le fait de me jeter sous les roues du bus ne met en danger aucun humain (loi 1), je me jette.
4- Sachant que je met en danger des humains dans le bus (loi 1), la je ne me jetterai pas, car la loi 2 rentre en contradiction avec la loi 1.
5- Etant donné que que je me jette ou pas un humain va être blessé, j'avertis à tout le monde que si quelqu'un est capable d'arrêter le bus sans blesser personne qu'il le fasse, afin de ne pas violer la loi 1 sur le fait de rester passif.
6- Pas besoin de loi 0, j'imaginerais le scénario suivant :
Sur un coin désolé de la ville ou il n'y a absolument PERSONNE, un terroriste s'apprête à tuer un homme à bout portant, ayant une bombe relié à son corps si un robot s'approche d'eux de trop près :
La loi 3 ne s'applique pas, La loi 2 ne s'applique pas, La scène rentre déjà en contradiction avec la loi 1, car il ne peut rien faire de non-passif qui n'expose pas au moins un des 2 acteurs au danger.
Vraiment pas mal
S'il y a bien une chose que je déteste, ce sont les gens qui finissent jamais leur
#3 - 25-10-2010 17:53:55
- MthS-MlndN
- Hors d'u-Sage
- Enigmes résolues : 49
- Messages : 12,414E+3
- Lieu: Rouen
logique autour des 3 lois de la robotiqye d'asimov
Pour la 1, je pense qu'un robot vérifierait s'il ne risque pas de porter atteinte à d'autres existences en traversant au nez des voitures qui roulent sur la voie perpendiculaire...
Pour ton exemple du 6, je ne vois pas où est le problème. Le robot ne s'approche pas de l'humain qui, ainsi, n'est pas en danger... non ?
Podcasts Modern Zeuhl : http://radio-r2r.fr/?p=298
#4 - 25-10-2010 18:34:35
- scarta
- Elite de Prise2Tete
- Enigmes résolues : 49
- Messages : 1968
Logique autour des 3 lois de l robotique d'Asimov
J'adoooooore (en plus je suis incollable sur le "cycle des robots" d'Asimov !) Allez, je réponds en reprenant la terminologie de l'auteur
1 - Un potentiel positronique est généré par la 1ère loi par le fait qu'un être humain est en danger, potentiel supérieur à tout autre potentiel des lois 2 et 3 => Je sauve l'enfant
2 - Même réponse qu'en #1, à supposer qu'aucune autre méthode ne me permette de sauver la vie de l'enfant. 2 petites remarques: - un robot qui laisserait mourir un être humain (même en ayant tenté de le sauver) est quasiment bon pour la casse d'après Asimov, donc autant y aller - un cas détaillé dans la nouvelle "Le petit robot perdu" relate une histoire dans laquelle, dans un cas équivalent, des robots n'ont pas tenté de sauver l'être humain en danger, sous prétexte que d'autres humains pourraient par la suite avoir besoin d'être sauvés, alors que celui-ci est condamné. Ce cas n'a cependant pas fait jurisprudence dans le reste du cycle.
3 - Etant constitué de métal, un robot qui se jetterait sous les roues d'un bus risquerait de le faire basculer et ce faisant mettrait en danger les personnes s'y trouvant. Le robot se doit donc de refuser cet ordre. Ceci dit, les robots ayant une valeur financière de plus en plus importante, le potentiel de la 3ème loi est souvent renforcé de nos jours, ce qui fait qu'aucun robot ne s'auto-détruira s'il en reçoit l'ordre à moins qu'il n'y ait derrière une solide justification
4 - Même réponse que précédemment
5 - Dans ce cas, un potentiel nouveau est introduit: celui de léser un être humain en dehors du bus. De plus, la probabilité de survivre à un choc frontal avec un bus est quasi nulle, en tout cas bien moindre que celle de survivre à un tonneau dans le bus lui-même. Je doit donc essayer - si possible, de m'éloigner du bus avec mon propriétaire sous le bras. - sinon, de tenter d'arrêter le bus à la seul force de mes bras musclés et métallisés.
6 - Asimov a effectivement défini une telle loi, dans "Les robots et l'Empire", plus précisément il amène son personnage robot principal R. Daneel Olivaw et son camarade robot R. Giskard Reventlov a réfléchir sur l'incomplétude des 3 lois et à la création de la loi Zéro, ainsi qu'a l'incorporer pleinement dans les circuits de R. Daneel. Le problème de cette loi est que, contrairement à un humain, la notion d'humanité est trop abstraite, elle peut être interprétée soit comme "le bien du plus grand nombre", soit comme "le fait qu'il y aura toujours des être humains dans la galaxie" (ou sur Terre, pour faire simple). Dans le cas où cette loi 0 est appliquée (je plagie mon maître avec allégresse et c'est ma joie ^^), supposons que les habitants d'une ville soient condamnés à mourir (pas tout de suite, mais dans quelques années) suite par exemple à une surpopulation trop importante. La mentalité des habitants est cependant telle qu'on peut supposer qu'ils préfèreraient y mourir plutôt que de la quitter. Supposons enfin que le seul moyen de les faire partir serait d'y faire un massacre, ou tout du moins de leur pourrir la vie. La loi 0 justifierait-elle qu'un robot nuise à des êtres humains maintenant, pour en sauver le maximum ensuite? Spoiler : Réponse à la question du dessus Asimov lui-même ne tranche pas là-dessus (toujours dans "Les Robots et l'Empire"). Lorsque R. Giskard prend la décision de rendre la Terre radio-active pour que ses habitants colonisent d'autre planètes (meilleure chose à faire selon lui), il se "robloque" quasiment instantanément après. On retrouve bien plus tard R. Daneel dans le cycle de Fondation et lui n'a cependant pas de problème pour traiter certains humains sans ménagement pour la sauvegarde de l'humanité. La différence de comportement tient probablement au fait que R. Daneel est un robot humaniforme, et que son mode de raisonnement est plus proche de l'être humain que celui d'un autre robot pourrait l'être.
#5 - 25-10-2010 19:51:49
- clementmarmet
- Elite de Prise2Tete
- Enigmes résolues : 34
- Messages : 1329
- Lieu: I'm in spaaaace!!
Logique autour des 33 lois de la robotique d'Asimov
interessant!! je vais y réflechir
eki eki eki pa tang!!
#6 - 25-10-2010 20:04:36
- EfCeBa
- Administrateur
- Enigmes résolues : ∞+1
- Messages : 11×569
Logique autour des 3 lois de la robotique dAsimov
Je suis bluffé de si belles réponses argumentées et enthousiastes de lml-mike et scarta. Je suis plutot d'accord avec celles-ci d'ailleurs, bien que je n'ai fait que réfléchir sommairement au sujet en traduisant l'énoncé.
#7 - 25-10-2010 22:48:42
- rivas
- Elite de Prise2Tete
- Enigmes résolues : 48
- Messages : 1106
- Lieu: Jacou
logique autour des 3 lois de la eobotique d'asimov
Bonsoir,
Je suis moi-même fan de Asimov, du cycle complet des robots et de Fondation et des passerelles jetées entre les 2 par la suite. A noter que le film I-Robot s'en inspire en partie. Il est impossible de retranscrire le tout et toute la subtilité en un seul film mais il est à mes yeux relativement fidèle. A quand un grande trilogie sur l'ensemble?
1- Aucune hésitation: la loi 1 prime.
2- La loi 1 n'est pas concernée. Etant donné l'énoncé, il ne semble pas possible de sauver directement l'enfant. La loi 3 prime donc sur la 2: le robot n'intervient pas directement de façon à se mettre en danger, par contre le robot doit tout tenter de façon indirecte sans se mettre en danger pour sauver l'enfant.
3- A priori la loi 2 s'applique. Le robot peut cependant estimer que ce-faisant le bus court à l'accident et donc à mettre des humains en danger et pourrait donc refuser d'exécuter l'ordre.
4- Voir ma réponse au point 3. Dans ce cas, l'intervention va à coup sûr causer du tort à des humains (et on est sûr qu'il y a au moins un humain dans le bus). La loin 1 s'oppose à la loi 2: le robot refuse d'éxecuter l'ordre.
5- La bonne solution n'est pas d'exécuter l'ordre (un humain blessé par une intervention directe: loi 1) ni de ne rien faire (un humain blessé par l'inaction: loi 1) mais de refuser l'ordre et de soustraire son maître au danger d'une autre façon. Un robot de 2 fois la taille du bus peut certainement dégager son maître de la zone à risque. Si ce n'est pas le cas, il faut mesurer combien d'humains seront blessés dans chaque cas et choisir le moindre nombre. Un cerveau positronique de première génération pourrait fort bien se bloquer. Les versions les plus récentes seront à même de faire le bon choix.
6- Asimov a de façon certaine "imaginé" cette loi 0. On la retrouve en filigrane dans son oeuvre. Elle a coûté son existence au robot Giskard mais lui a laissé le temps de forcer l'humanité à l'exil pour lui permettre d'échapper à un déclin fatal. Asimov à illustré plusieurs fois sa pensée que le salut de l'humanité réside dans son expansion. A part cet exemple, il en donne un autre lors de la quête de la terre de Golan Trevize. Une planète sur laquelle les hommes sont devenus quasi-immortels n'osent plus rien entreprendre leur peur de perdre la vie l'emportant sur leur esprit d'initiative. Giskard avait "un bug" le rendant téléphathe. C'était le seul robot à avoir cette capacité. Il est possible que ce ne fût pas un bug mais un essai mais je ne suis pas sûr. En tout cas, juste avant d'être (auto-)désactivé, il a transmis cette "capacité" à Daneel. Pour une raison pas très claire, sans doute parce qu'il était d'une version de cerveau positronique postérieure et plus évoluée, Daneel à ensuite oeuvré pendant près de 20000 ans dans le sens du bien de l'humanité en général en intégrant tout-à-fait cette loi 0 sans risque de blocage (depuis sa base lunaire). Je ne suis pas sûr qu'il y ait de contradiction dans cette loi 0: l'humanité désignant à mon avis "le plus grand nombre". Il n'y a pas dans Fondation de risque d'extinction totale de l'espèce humaine. Seldon (téléguidé par Daneel) puis Daneel oeuvrent pour l'amélioration de l'avenir de l'espèce dans son ensemble. Il invente un concept radicalement différent d'avenir pour l'espèce humaine (Gaïa). Cependant même avec la loi 0, il ne peut faire lui-même un tel choix. Il a donc recours à un humain pour faire ce choix. Il est à noter qu'il influence cet humain ce qui pose un problème philosophique. Cela reste le choix de Daneel, c'est juste que ce n'est pas lui qui l'officialise lui permettant de passer outre le blocage des 4 lois... Asimov semble ici justifier que "la fin justifie les moyens" lorsque cela n'est pas discutable d'un point de vue éthique. Bear, Brin et Benford (et d'autres) ont contribué au cycle mais avec l'aval d'Asimov.
Un scénario serait d'être témoin d'une scène dans laquelle un chef d'état particulièrement important pour la paix mondiale serait sur le point de commettre un meurtre sans rapport avec celle-ci. La loi 1 l'oblige à agir pour sauver la personne en danger mais le faire mettrait l'humanité plus en danger encore sans pour autant que cela ne soit certain.
Asimov est un vrai scientifique: un scientifique qui doute, pas un orgueilleux plein de certitudes. Et son doute le fait cheminer sur la voie de la philosophie pour notre plus grand bonheur. Le cycle des robots et celui de Fondation ainsi que quelques autres ouvrages nous apportent plusieurs niveaux de lecture.
A lire aussi de lui hors de ces 2 cycles: "Les dieux eux-même" mais plus encore "La fin de l'éternité". J'ai vraiment pris du plaisir à repenser à tout cela. Asimov est vraiment un maître. Attention il y en a d'autres (Scott Card, Pierre Bordage, David Eddings, ...). Merci pour cette discussion.
#8 - 25-10-2010 23:16:27
- scarta
- Elite de Prise2Tete
- Enigmes résolues : 49
- Messages : 1968
Logique autour des 3 lois d ela robotique d'Asimov
@rivas: la télépathie de Giskard est due à une modification de ses circuits opérée par Vasilia Fastolfe, la fille de Han Fastolfe, lui-même propriétaire de Giskard. La première action de Giskard en tant que robot télépathe fut de faire oublier à Vasilia cette modification
Et dans la liste des grands maîtres je rajouterai (parce que la science fiction ne peut pas toujours être un sujet sérieux) : Douglas Adams, mon second grand maître après Asimov
#9 - 25-10-2010 23:44:50
- rivas
- Elite de Prise2Tete
- Enigmes résolues : 48
- Messages : 1106
- Lieu: Jacou
Logique autour dess 3 lois de la robotique d'Asimov
Exact, je m'en souviens maintenant. Merci de m'avoir rappelé ce point.
Je suis d'accord pour Douglas Adams.
#10 - 26-10-2010 10:15:12
- ollyfish2002
- Professionnel de Prise2Tete
- Enigmes résolues : 49
- Messages : 357
- Lieu: Tenant
Logique autour des 3 lois de la orbotique d'Asimov
Bonjour 1 - La première loi prime sur les autres. Je sauve l’enfant.
2 - J’essaie de sauver l’enfant. Il existe une probabilité non négligeable mais très faible que le fait d’essayer permettra de sauver l’enfant à mes dépends.
3 –Je ne fais rien. Il existe une probabilité non négligeable mais très faible que le chauffeur puisse être blessé.
4 - La situation est la même que dans #3, sauf que l'ex petite ami de votre propriétaire est dans le bus, que vous êtes un robot industriel avec un énorme blindage en titane et que vous pesez deux fois plus que le bus. Je mesure les probabilités de blesser des humains dans le cas où je saute (loi 1). Je n’obéis donc pas.
5 - Je sauve mon maitre (loi 1) à moins qu’arrêter le bus sauve plus d’humains. Il manque ici des informations pour déterminer ma conduite.
6 - Décrire un scénario dans lequel un robot pourrait rencontrer des difficultés à déterminer sa réaction si cette loi s'applique.
La vie humaine pose des difficultés à la loi 0. Chaque action entreprise peut être interprétée comme violant la loi 0 à condition d’avoir tous les paramètres connus. Exemple 1 : Laisser les humains se reproduire sur une seule planète viable connue. Exemple 2 : Laisser les humains découvrir la radioactivité et les possibilités qui en découlent. Exemple 3 : Laisser les humains détruire les espèces animales à valeur nutritionnel. … Il faut donc détruire les humains pour les empêcher de se détruire.
Relisez donc « Demain les chiens » de Clifford D. Simak.
AMHA n'oubliez pas Philip J. Farmer.
"La science est une chose merveilleuse... tant qu'il ne faut pas en vivre !" Albert Einstein.
#11 - 11-11-2010 11:13:07
- clementmarmet
- Elite de Prise2Tete
- Enigmes résolues : 34
- Messages : 1329
- Lieu: I'm in spaaaace!!
logiqie autour des 3 lois de la robotique d'asimov
1- Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu'un être humain soit exposé au danger. 2- Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
mais j'y pense, les robots tueurs...
eki eki eki pa tang!!
#12 - 11-11-2010 11:16:17
- foldingo83
- Elite de Prise2Tete
- Enigmes résolues : 49
- Messages : 1923
- Lieu: Somewhere in time...
Logique autour des 3 lois de la orbotique d'Asimov
Ceci sont télécommandés et devine qui à la manette ?
#13 - 11-11-2010 11:24:40
- clementmarmet
- Elite de Prise2Tete
- Enigmes résolues : 34
- Messages : 1329
- Lieu: I'm in spaaaace!!
Logique autour des 3 ois de la robotique d'Asimov
oui mais si je me rappelle bien, il peut aussi être autonome, et ses capteurs de mouvements le rendent redoutable
eki eki eki pa tang!!
#14 - 11-11-2010 11:39:38
- lml-mike
- Professionnel de Prise2Tete
- Enigmes résolues : 48
- Messages : 180
- Lieu: s'toi le Lieu >_<
Logique autour des 3 lois de a robotique d'Asimov
La tour rotative est plutôt lente. Ce qui en fait tout au plus une arme de protection, plus que d'assault
S'il y a bien une chose que je déteste, ce sont les gens qui finissent jamais leur
#15 - 11-11-2010 12:15:38
- creideiki
- Professionnel de Prise2Tete
- Enigmes résolues : 49
- Messages : 236
Logique autour des 3 lois de la robotique dAsimov
Ils n'ont pas de cerveau positronique. Or les 3 lois sont censées être gravées dans ce dernier, elles ne peuvent donc pas s'appliquer ici.
Il faut toujours terminer ce que l'on co
#16 - 11-11-2010 12:43:00
- engine
- Professionnel de Prise2Tete
- Enigmes résolues : 37
- Messages : 351
Logique autour des 3 lois de la robootique d'Asimov
C'est une énigme pour promouvoir la volonté libertaire
plouf
#17 - 11-11-2010 13:35:49
- clementmarmet
- Elite de Prise2Tete
- Enigmes résolues : 34
- Messages : 1329
- Lieu: I'm in spaaaace!!
logique autour des 3 lois de la robotique d'asimob
autrement dit les lois ont été créé à une époque où les robots de combats n'étaient pas envisagés (oui je sais, les robots tout court n'étaient encore qu'imaginaires ) et ne sont pas entierement adaptées à notre époque
eki eki eki pa tang!!
#18 - 11-11-2010 20:58:27
- franck9525
- Elite de Prise2Tete
- Enigmes résolues : 48
- Messages : 1935
- Lieu: 86310
logique autour des 3 lois de ka robotique d'asimov
La lecture des livres d’Asimov est un vrai plaisir, un bonheur même pour ceux qui aiment la logique, je recommande très fortement !
The proof of the pudding is in the eating.
Mots clés des moteurs de recherche
|
|