Consulter le sujet - Bienvenue dans un monde de robots

par **nyarlathotep-np** » Mar Mars 01, 2005 18:11

Hier j'ai regardé une émission sur la robotique et la cybernétique, et je me suis senti très mal à l'aise... Dans ce documentaire, plusieurs choses ont été avancées qui m'ont vraiment retourné l'estomac. Il parait que certains ordinateurs ont désormais une puissance de calcul comparable au cerveau humain, qu'en 2050 une équipe de foot de robots pourra battre une équipe humaine, que les robots feront bientôt partie de notre société en tant qu'être intelligents et sensibles incomparablement plus performants que nous. Je crois que les scientifiques se prennent pour des dieux, alors qu'ils ne sont que des apprentis-sorciers, et que science sans conscience n'est que ruine de l'âme, comme disait quelqu'un de célèbre. Je pense vraiment que nous gagnerions à ne pas vouloir tout contrôler, et que nous sommes sur le point d'ouvrir la boite de Pandore, à moins que ça ne soit déjà fait... La magie du monde sera bientôt piétinée par les robots, et les mystères seront tous disséqués sur des tables d'opération maculées du sang de notre innocence...

Ces progrès ne m'émerveillent pas du tout. Je trouve que l'on va droit vers un futur à la Philip K. Dick. Plus d'animaux, plus de magie, des robots prétendument plus "performants" (comme si la performance était l'essence de l'humanité...) que l'homme, et toujours plus d'illusoire...

Comme disait quelqu'un, dans cette émission, à propos d'un ordinateur appelé "le cerveau géant": "De bons outils valorisent l'homme, ils ne le dévalorisent pas". Appeler ainsi une machine, c'est pour moi mépriser l'humain. Pourquoi voudrions-nous vivre en société avec des machines ? N'est-ce pas un signe révélateur d'une dévalorisation de la conscience, précisément ?

par **Aramiil** » Mar Mars 01, 2005 20:07

Si cela peut te rassurer, la plupart des recherches actuelles en robotique inclut une prise en charge de ce qu'on nomme couramment les "trois lois d'Asimov ".

Ces lois, extraites des séries de sciences-fiction de l'auteur américain Isaac Asimov, sont inscrites dans tous les programmes robotiques; elles ne peuvent être contournées par le robot. Elles peuvent en substance s'énoncer ainsi :

1) Un robot ne peut en aucun cas faire de mal à un être humain, ou, par son inaction, permettre qu'un humain soit en danger.

2) Un robot doit toujours obéir aux ordres d'un être humain, à moins que de tels ordres aillent en contradiction avec la première loi

3) Un robot doit toujours sauvegarder sa propre existence, à moins que cette sauvegarde n'aille en contradiction avec la première ou la seconde loi.

Pour ce qui est de la puissance de calcul comparable à celle du cerveau humain, c'est inexact. Disons plutôt une rapidité, qui est en fait supérieure.

Mais il s'agit effectivement de puissance de calcul. L'ordinateur ne peut pas réfléchir, inventer, et donc pas se reprogrammer (comme peuvent le craindre certains). Il peut juste faire des additions et des comparaisons.

Enfin, je te propose ces deux petites choses :

1) Si tu parles anglais couramment, tu peux regarder le projet Alice, et plus précisément parler avec alice en utilisant le premier lien du menu de gauche. Il faut savoir qu'Alice est actuellement un des programmes les plus avancés en matière d'intelligence artificielle civile.

2) Si tu ne parles pas anglais, tu peux aussi t'intéresser à un projet que j'ai mis en place il y à un certain temps, et dont je te mettrais l'adresse dès que je l'aurais retrouvé ^^ qui te rassurera peut-être sur les capacités des robots.

par **Fifrelin** » Mar Mars 01, 2005 20:23

Salutations à tous

nyarlathotep ce genre d'informations je m'en souviens de belle du genre quand j'étais au collège et que l'on travaillait sur les MO5 et TO7 on nous racontait qu'entre 2005 et 2010 il y aurait une station sur la lune et que lon pourrait vivre là-bas. etc., etc., etc.

Je dissocie (enfin, j'essaye) la robotique de l'IA et j'insiste bien sur A d’artificiel. J'ai de gros doutes sur le fait que l'on puisse dans un futur proche (c'est à dire avant la mort de mes petits enfants de cause naturelle à 120 ans) qu'une IA puisse être semblable à un humain. Plein de projets sont en route et il y a une véritable course à celui qui arrivera à plagier l'Homme existe. Mais les domaines s'élargissent de plus en plus, les champs d'investigations sont de plus en plus complexes et le simple fait qu'un calculateur puisse réaliser 10 fois plus d'opérations n'est pas forcément un outil utile à l'IA.

Pour ce qui est de la robotique, mon plus gros souci n'est pas de savoir qu'un jour on pourra faire deux équipes de foot, une de conserve et une autre de cons... (Pardon désolé je m'excuse déjà

) mais plutôt l'augmentation des robots dans les entreprises et en remplacement des taches qui donnent de quoi se nourrir. le profit, le pouvoir sont pour moi les plaies de notre système.

La robotisation à outrance donnera (donne ?) naissance à de bien plus gros ennuis que l'IA ET ça me semble bien plus proche qu'une Alice qui pourra discuter des heures en me "bluffant" par son discours.

Fifrelin

par **eaglekiller** » Mar Mars 01, 2005 20:25

Pour ce qui est des trois lois d'Asimov, c'est de la science fiction pure et simple, et je n'avais jamais entendu dire qu'elles étaient utilisées en robotique. Es-tu sûr de ce que tu avances?
Et en admettant qu'elles soient utilisées, si je me souviens bien des livres, tout ne se passe pas si bien avec les robots. Devrions nous prendre ce risque au nom d'un progrès illusoire?

par **nyarlathotep-np** » Mar Mars 01, 2005 20:41

Bon euh, juste quelques trucs en vrac, là.

Pour ce qui est d'Alice je ne parle pas l'anglais couramment, mais je vais essayer de faire un effort quand je trouverai le temps pour aller voir ça.

Pour ce qui est d'Asimov, il apparaissait justement dans cette émission. Il se trouve qu'il est parmi ceux qui défendent l'idée d'une société commune à l'homme et aux robots. Je n'ai jamais lu ses livres de science-fiction (j'ai essayé et ça m'a laissé froid), mais je sais qu'il est un précurseur en la matière, en effet. Disons que je ne suis pas d'accord avec ce que je sais de ses théories, mais il est vrai que j'en sais assez peu.

Concernant l'IA, il se trouve que je connais de près des personnes qui font un travail tout à fait sérieux et reconnu, au CNRS. Je suis donc assez bien averti des limites de la chose, et je suis tout à fait conscient des limites de la science, et du fait qu'on nous assène depuis des décennies la supériorité à venir des robots, et puis elle ne vient jamais...

Néanmoins, à travers certaines choses montrées dans le documentaire, je me suis posé de nouvelles questions, sur ce sujet. Il existe un robot qui fait de la peinture. Il fait preuve d'une certaine créativité qu'on peut difficilement nier, même si elle est conditionnée par les éléments qui lui sont implémentés par "voie logicielle". On peut vraiment se demander jusqu'à quel point on peut rendre conscient et sensible un robot (voir encore les romans de PK Dick)...

Et sinon, bien sûr que les robots peuvent servir à l'exploitation des humains, et c'est bien ça le problème. Aujourd'hui on s'inquiète qu'ils suppriment des emplois, mais ça, ça n'est pas grave, encore, il suffirait d'imaginer une société dont le fonctionnement serait autre, et où les robots permettraient, justement, d'abolir l'exploitation de l'homme par l'homme. Pourtant, actuellement, on s'achemine vers l'exploitation de l'homme par l'homme par l'intermédiaire des robots, et donc vers une aggravation des problèmes sociaux actuels... On peut donc difficilement nier que les robots ont désormais une influence sur notre vie sociale...

par **Poltergeist binoclard** » Mar Mars 01, 2005 20:44

Si ces trois lois sont au départ sorties de l'imagination du génial auteur de science-fiction Isaac Asimov, il semblerait tout de même qu'elles servent de référence dans la robotique.

Elles ne sont cependant pas infaillibles, petit exemple:

Un fou ordonne à un robot d'aller tuer quelqu'un.
La loi 2 dit que le robot doit obéir, mais la première loi indique qu'il ne peut pas mettre un être humain en danger. Comme la première loi prime sur la seconde, le robot n'obéira donc pas.
Cependant, le fou dit au robot que s'il ne va pas commettre son meurtre, il se suicidera!
Notre sympathique robot se retrouve bloqué: son inaction mettrait un être humain en danger (le fou), et le fait de commettre un meurtre lui ferait aussi briser la première loi!

Conscient que de telles lois existaient, Asimov a rajouté une quatrième loi:

Plus tard, Asimov ajoutera une loi supplémentaire, prépondérante par rapport aux trois lois initiales et étendant la portée de la première : un robot ne doit pas causer de tort à l’Humanité ou, restant passif, laisser l’humanité subir un dommage. En effet, dans certaines circonstances, aucun homme n’est directement mis en danger à court terme alors qu’un phénomène mortel pour la communauté humaine peut avoir été mis en branle (exemple de la pollution …).

(source: http://www.vieartificielle.com/article/ ... icle&id=12 )

Ca sonne très bien, mais il est pratiquement impossible de déterminer clairement ce qu'est le "bien" de l'humanité. Est-il acceptable, par exemple, qu'on fasse un choix susceptible de rendre mille personnes déjà riches un peu plus riches tout en rendant une personne déjà pauvre beaucoup plus pauvre? Si, mathématiquement, cela paraît être un bon choix, c'est plus que discutable moralement...

Il y avait un article à ce sujet Science & Vie Junior d'il y a trois ou quatre ans... Je vais voir si je pourrais le retrouver...

par **nyarlathotep-np** » Mar Mars 01, 2005 20:53

En effet, justement. Comme les robots ne peuvent pas se bâtir un sens moral, et que même les humains ne savent pas toujours déterminer où est le bien et où est le mal, tellement ces deux notions sont imbriquées, je pense que les lois d'Asimov sont inopérantes.

Et comme je l'ai dit dans mon message précédent, la robotisation a déjà un impact social (plutôt négatif sur l'emploi par exemple), donc les robots font déjà du tort à l'humanité, et on n'en est même pas à leur implémenter une IA qui peut se comparer de près ou de loin à l'intelligence humaine.

Donc c'est bien à l'homme de conserver son sens des responsabilités et son arbitrage sur l'action des robots... On ne peut pas raisonnablement dévaloriser la conscience humaine en la confiant à des choses qui n'ont rien d'humain, à part ce que quelques optimistes projettent sur eux...

par **Fifrelin** » Mar Mars 01, 2005 23:31

nyarlathotep-np a écrit :En effet, justement. Comme les robots ne peuvent pas se bâtir un sens moral, et que même les humains ne savent pas toujours déterminer où est le bien et où est le mal, tellement ces deux notions sont imbriquées, je pense que les lois d'Asimov sont inopérantes.

Effectivement, laissons Asimov aux romans de SF.
Pour ce qui est du robot, il ne pourra jamais QUE ressemblait à l'Homme, comment donc pourrait-il être parfait puisque l'Homme ne semble pas l'être quand on l'écoute en parler ...

nyarlathotep-np a écrit : On ne peut pas raisonnablement dévaloriser la conscience humaine en la confiant à des choses qui n'ont rien d'humain, à part ce que quelques optimistes projettent sur eux...

Je vois bien une utilisation pour les robots, allez sur la lune ? sur mars à la place de l'homme ... Arf, ça se fait déjà ? bah voila juste ce que je trouve juste pour une machine qui se fout de -100 degrés ou + 150 s'il est prévu pour.

Je reste malgré tout optimiste (niais ? inconscient ? idéaliste ?) il n'y a pas que les militaires qui ont fait avancer la science ! (merci d'y voir l'humour sarcastique que je n'arrivai pas forcèment à faire passer).

Fifrelin, sombre.

par **Aramiil** » Mar Mars 01, 2005 23:57

J'ai trouvé cette information sur Asimov dans un magazine dedié à la robotique datant d'il y à deux ans (Cyber Robot, pour ceux qui connaîtraient) et j'ai supposé qu'elle était vraie. Cela étant, si vous dites que ce n'est pas le cas, c'est OK.

par **Fifrelin** » Mer Mars 02, 2005 00:04

Je ne m'avancerai pas à dire que ce n'est pas le cas. mais le thème est largement utilisé dans bon nombre de films incluant des robots.

Pour avoir lu quelques-uns de ses livres je garde quand même à l'esprit que ce dernier à pousser très loin la réflexion sur la condition humaine au travers de la SF et les répercussions de la science sur l'humanité.
C'est par certains cotés un philosophe (je ne trouve pas d'autres mots pour exprimer le statut que je lui donne dans ce contexte) et je peux considérer que certains de ses livres sont des essais sur un futur tracé par notre présent.

Pour revenir aux trois lois données le film avec will smith "I robots" est un scénario inspiré d'Asimov. La chute exprime bien ce que tu as dit. mais elle est prévisible, car restreindre à 3 lois ce qui tient en quelques centaines de milliers de pages pour l'homme ne peut être qu'imparfait. La Loi telle que nous la vivons au quotidien l'étant déjà par l'obligation de jurisprudence.

Fifrelin.

par **DarkSide** » Mer Mars 02, 2005 22:50

Quant à moi, je suis fasciné par la robotique et j'espère bien que des robots intelligents seront créés pendant ce siècle.

Il fait preuve d'une certaine créativité qu'on peut difficilement nier, même si elle est conditionnée par les éléments qui lui sont implémentés par "voie logicielle".

Nous sommes nous-mêmes des robots organiques programmés génétiquement...

Donc c'est bien à l'homme de conserver son sens des responsabilités et son arbitrage sur l'action des robots... On ne peut pas raisonnablement dévaloriser la conscience humaine en la confiant à des choses qui n'ont rien d'humain, à part ce que quelques optimistes projettent sur eux...

Ce n’est pas parce que c'est pas humain que c'est mauvais, plutôt le contraire...

par **nyarlathotep-np** » Mer Mars 02, 2005 23:48

Tu es rapide dans tes affirmations Darkside.

L'homme n'est ni bon ni mauvais, selon moi, contrairement à ce que tu sembles sous-entendre. En revanche, ce qu'il a créé... la télé, la bombe atomique, le moteur à hydrocarbure, et j'en passe, tout ça uniquement pour son confort... On voit ce que ça donne sur la planète.

Je crains que les créations de l'homme ne puissent s'avérer qu'encore plus imparfaites que lui... c'est logique. Et j'espère au contraire de toi que l'homme va s'arrêter le plus vite possible de jouer les apprentis-sorciers. Je ne suis pas "contre" la robotique, pas plus qu'on ne peut être "contre" les couteaux. Ce n'est pas l'outil qui est dangereux, mais la manière dont on s'en sert. Et les robots resteront des outils, à mon avis, et rien de plus. Ce que je crains, c'est que cet outil échappe à son créateur, comme par exemple la théorie atomique n'a pas servi aux fins que ses inventeurs espéraient... d'où les regrets émis par les plus lucides d'entre eux. Mais il était alors trop tard, et il sera à nouveau trop tard lorsqu'une nouvelle technologie aura échappé à ses créateurs.

C'est même à cela que sert le comité d'éthique. Le problème c'est que ses décisions peuvent facilement être contournées, ou même ignorées par les moins scrupuleux.

par **DarkSide** » Jeu Mars 03, 2005 00:07

L'homme a de mauvaises intentions en général et est corrompu par l'appât du gain, etc.

Les robots vont devenir de plus en plus intelligents, ils finiront un jour par être conscients.

par **nyarlathotep-np** » Jeu Mars 03, 2005 00:24

Toujours aussi rapide... J'aurais apprécié des arguments, surtout que j'ai des arguments contraires à ton opinion, mais tant pis...

On ne peut pas débattre sur un simple avis.

Je pense exactement le contraire de toi, et ton absence d'argument me conforte largement dans mon opinion... Il ne doit pas exister d'arguments contraires aux miens... Si ?

par **John Dogget** » Jeu Mars 03, 2005 00:56

c'est pas parceque c'est pas humain que c'est mauvais,plutot le contraire...

Oui, sauf que c'est créé PAR les humains, ce qui, si l'on reprend ton raisonnement est forcement mauvais

.

On voit ce que ça donne sur la planète

Je suis tout à fait d'accord avec toi ...
Mais songe qu'il n'y a rien de plus puissant que l'atome (en l'état actuel de nos connaissances) pour nous fournir de l'électricité. Électricité dont nous avons besoin pour nous éclairer, pour chauffer, nous nourrir...

Faudrait-il revenir des milliers d'années en arrière, et mourir à 30 ans (pour les plus robustes) pour plaire à certains ?

par **nyarlathotep-np** » Jeu Mars 03, 2005 20:00

Il ne s'agit pas de retour en arrière (d'ailleurs c'est quoi revenir en arrière quand on a fait une connerie ?).

Il s'agit d'assumer la situation actuelle, d'aller et de l'avant, mais pas les yeux fermés...

par **EchtEL![o]n** » Jeu Mars 03, 2005 20:11

Mais songe qu'il n'y a rien de plus puissant que l'atome (en l'état actuel de nos connaissances) pour nous fournir de l'électricité.

La fission de l'atome est puissante mais sa fusion fournit encore plus d'énergie (on estime que le premier réacteur à fusion opérationnel devrait voir le jour dans une cinquentaine d'années).
Et même si elle est puissante, la fission de l'atome est aussi très polluante.

Il s'agit d'assumer la situation actuelle, d'aller et de l'avant, mais pas les yeux fermés...

Il est sûr que personne ne pourrait supporter un retour en arrière... Il faut aller de l'avant, mais plus de la façon dont nous sommes en train de le faire. Beaucoup d'hommes politiques et de scientifiques devraient commencer à avoir une vision à long terme des évênements.

par **DarkSide** » Jeu Mars 03, 2005 21:15

Mais songe qu'il n'y a rien de plus puissant que l'atome (en l'état actuel de nos connaissances) pour nous fournir de l'électricité. Électricité dont nous avons besoin pour nous éclairer, pour chauffer, nous nourrir...

si l'antimatière :wink:

son contact avec la matière produit des quantités colossales d'energie.

L'homme n'est ni bon ni mauvais, selon moi, contrairement à ce que tu sembles sous-entendre. En revanche, ce qu'il a créé... la télé, la bombe atomique, le moteur à hydrocarbure, et j'en passe, tout ça uniquement pour son confort... On voit ce que ça donne sur la planète.

de toutes les espèces présentes sur terre Homo sapiens est la seule a modifier en profondeur le paysage,polluer,détruire et tuer pour n'importe quelle raisons...sommes nous des abbérations de la nature? une erreur de la selection naturelle?

l'homme va s'arrêter le plus vite possible de jouer les apprentis-sorciers. Je ne suis pas "contre" la robotique, pas plus qu'on ne peut être "contre" les couteaux. Ce n'est pas l'outil qui est dangereux, mais la manière dont on s'en sert. Et les robots resteront des outils, à mon avis, et rien de plus. Ce que je crains, c'est que cet outil échappe à son créateur, comme par exemple la théorie atomique n'a pas servi aux fins que ses inventeurs espéraient...

c'est vrai mais il y a une différence entre les robots et les savants-fou qui ont fait les bombes atomiques et qui maintenant veulent faire des bombes a antimatière :shock:

par **John Dogget** » Jeu Mars 03, 2005 21:36

L'antimatière ???

Comme le dit Echtelion, arriver à la fusion serait déjà un très grand progrès.

par **DarkSide** » Jeu Mars 03, 2005 21:43

John Dogget a écrit :L'antimatière ???

Comme le dit Echtelion, arriver à la fusion serait déjà un très grand progrès.

http://www.futura-sciences.com/comprendre/d/dossier501-1.php

par **TkSpirit** » Ven Mars 04, 2005 00:30

Bah moi je suis désolé, mais je ne relève pas le côté effrayant de la chose...

Déjà "Un Ordinateur calcule plus vite qu'un humain", ca existe depuis l'invention de la calculatrice ça...

Ensuite le fait qu'ils peuvent créer des équipes de foot, faudrait quand même qu'ils se dépêchent a savoir faire marcher un robot avant de le faire courir (le plus aboutit à ma connaissance dans ce niveau est "Qrio" de Sony et c'est pas d'une grande rapidité...).

Un robot qui peint, là non plus je vois pas trop ce qu'il y a de si "avancé" , une imprimante "peint" exactement ce qu'on lui demande, même si ce n'est pas fait de la même manière c'est pas non plus merveilleux.

L'IA est encore très très très rudimentaire, et je doute qu'on puisse un jour réussir a créer un être (robotique) à part entière, avec toutes les complexités connues dans les réactions humaines.

Enfin, vous l'aurez compris, je ne m'en inquiète pas, on est très loin d'un I,Robot je crois :wink:

PS: Désolé si je répète quelqu'un, j'ai sauté quelques post quand vous avez commencé a parler de physique quantique. :lol:

Consulter le sujet - Bienvenue dans un monde de robots

Bienvenue dans un monde de robots

Bienvenue dans un monde de robots

Qui est en ligne ?