Consulter le sujet - La conscience informatique

par **Tily** » Ven Septembre 01, 2006 12:09

Avez vous vu hier l'emission sur le fonctionnement du cerveau ? C'était assez fascinant mais aussi effrayant.

Nous serons capable d'ici 2012 de créer la conscience informatique. Nos ordinateurs pourront être conscient de ce qu'il sont, réfléchir et évoluer par eux-même grace à des neurones artificiels.

Le Scientifique interrogé nous a expliqué que cette avancée lui faisait peur car nous ne pourrions plus contrôler nos machines. En effet elle deviendraient finalement des êtres vivants. Comme quoi la réalité finit toujours par rejoindre la fiction.

En plus la date de la fintition du projet correspond à la date de la fin du calendrier Maya 2012.

En tout cas ce qui est sur c'est que nous aurons franchi la plus grande étape de l'humanité. Après cela le monde sera totalement différent. En bien ou en mal, j'en sais rien mais pour ma part ça ne m'inspire rien de bon. On a même pas découvert tout le mystère de notre cerveau et de notre corps que nous voila entrain de créer de la vie. L'homme se croit vraiment indestructible ça va lui jouer des tours.

par **fred'x** » Ven Septembre 01, 2006 12:52

Tily a écrit :Avez vous vu hier l'emission sur le fonctionnement du cerveau ? C'était assez fascinant mais aussi effrayant.

Sur quelle chaîne, quels horaires, quel titre ?

Tily a écrit :Le Scientifique interrogé nous a expliqué que cette avancée lui faisait peur car nous ne pourrions plus contrôler nos machines. En effet elle deviendraient finalement des êtres vivants. Comme quoi la réalité finit toujours par rejoindre la fiction.

Qui ? Quelle discipline ?

Tily a écrit :En plus la date de la fintition du projet correspond à la date de la fin du calendrier Maya 2012.

Ag ben ça tombe bien, tiens. Mais quel est ce projet ? Un nom a-t-il été évoqué ?

par **flo** » Ven Septembre 01, 2006 13:05

Ils n'ont jamais parlés de 2012!
Encore un qui veux faire passer cette nouvelle pour le fameux 2012! Non ils ont dit d'ici 5 à 10 ans, et l'émission c'était :
Rayon X spéciale cerveau, hier soir en deuxieme partie de soirée, sur france2 ^^

par **psytor** » Ven Septembre 01, 2006 13:20

Il y a déja un projet en cours terminé , qui permet de controler son ordinateur par la pensée a partir d'un casque relié a l'ordinateur :wink:

Moi je dit faut voir ...

par **Tily** » Ven Septembre 01, 2006 13:43

Doucement Flo, t'énerves pas. Le scientifique a dit que ce serait au point dans 5 ans maximum et pas 10 ans. Le présentateur a dit "donc vers 2012" et le Scientifique a répondu positivement.

C'est moi et uniquement moi qui ai fait le rapprochement avec le calendrier Maya.

Quoiqu'il en soit si on réussit à créer de la Conscience, qui pense, évolue et possède une personnalité, on créait de la vie.

A partir de là, le monde sera complétement différent et c'est ça c'est bien une étape non ? C'est bien la fin d'un monde, d'un époque non ?

par **FiRz** » Ven Septembre 01, 2006 14:53

Perso j'y crois pas une seule seconde a tout ca. La pensée est propre a l'etre humain. l'IA restera Artificielle, des scripts, des reflexions basiques a base de 1 et de 0 mais de la a reflechir sur sa propre condition etc. On y est pas encore.

par **Tily** » Ven Septembre 01, 2006 15:26

Sincèrement j'espère que tu as raison, ça me rassurerait

par **chevalierdelombre** » Ven Septembre 01, 2006 16:12

Nous serons capable d'ici 2012 de créer la conscience informatique. Nos ordinateurs pourront être conscient de ce qu'il sont, réfléchir et évoluer par eux-même grace à des neurones artificiels.

Je vous invite à chercher des infos sur le test de Turing (du nom d'un mathématicien de génie qui a posé les bases de l'informatique... Et permis à la seconde guerre mondiale de finir plus tôt que prévu) :
http://fr.wikipedia.org/wiki/Test_de_Turing
Le test a pour but de voir si on peut différencier un humain d'un ordinateur, en discutant avec elle. Divers programmes de conversation existent et ont tenté le test, avec plus ou moins de succès.
Un concours est organisé chaque année sur ce modèle, divers programmes étant en compétition.
Cela donne des résultats amusants, un humain ayant déjà été classé comme étant un programme par une majorité de testeurs.

En fait tout réside dans l'idée que si on ne peut pas différencier la machine de l'homme, autrement dit si l'ordinateur ne peut pas être différencié au niveau de ses réactions avec un être intelligent (l'homme), alors on n'aura d'autre choix que conclure que la machine a peut-être un mode de pensée similaire... Et par extention, une conscience.
Le seul problème étant qu'on sera toujours incapable de différencier une vraie conscience artificielle d'une conscience "simulée"...

par **FiRz** » Ven Septembre 01, 2006 17:06

De toutes facons, une conscience informatique ne pourra toujours qu'etre une conscience simulée au meme titre qu'un simulateur d'avion.

De plus rien que l'éventuelle integration des lois d'asimov prouve bien que la "conscience informatique" sera toujours bridée par un programme.

Et rien que le fait de parler de programme conforte le sens de simulation pour parler de la conscience des ordinateurs.

Non mais sans rire, vous imaginez vos ordinateurs vous supplier de ne pas les eteindre ou les formater ? "Oh non n'installe pas Windows 98 je vais encore bugger !"

Matrix est encore bien loin.

par **psytor** » Ven Septembre 01, 2006 17:13

FiRz a écrit :Non mais sans rire, vous imaginez vos ordinateurs vous supplier de ne pas les eteindre ou les formater ? "Oh non n'installe pas Windows 98 je vais encore bugger !"

lol ca pourait être amusant ... mais ca peut-être comme une sécuriter du style un controle parental évoluer !

par **chevalierdelombre** » Ven Septembre 01, 2006 17:49

De toutes facons, une conscience informatique ne pourra toujours qu'etre une conscience simulée au meme titre qu'un simulateur d'avion.

C'est justement le problème que soulève Turing : que faire quand on ne peut plus distinguer l'homme de la machine ?

Des systèmes de type réseaux de neurones ne sont pas tout à fait des programmes, et tendent à reproduire ce qui se passe dans un cerveau biologique...

par **deadman** » Ven Septembre 01, 2006 20:31

Nous ne sommes qu'une évolution parmis tant d'autres, l'humanité prendras fin tôt ou tard et une autre espéces prendras notre place...reste à savoir, si cela sera extra-terrestre, organique, végétal, technologique, ou pourquoi pas une super évolution de l'être humain...une chose est sûre, nous serons remplacé...mais quand ???

par **Esteban** » Ven Septembre 01, 2006 23:14

Des systèmes de type réseaux de neurones ne sont pas tout à fait des programmes, et tendent à reproduire ce qui se passe dans un cerveau biologique...

Cela me fait penser à une petite théorie que j'ai développé dans mes moments de questionnement intense sur des sujets sans intérêt majeurs (exemple: Pourquoi la flamme du gaz est bleue? pourquoi les poissons n'ont que deux nageoires? pourquoi ma moto ne démarre pas..Etc) Bref, revenons au sujet. Je précise que je ne suis ni informaticien, ni scientifique, ni aucun métier nécessitant un niveau supérieur au bac. C'est juste ma p'tite réflexion personnelle.

Déjà qu'est ce que le cerveau? Un entrelacement de milliards de neurones. Prenons en un tout seul au hasard (de neurone). Juste une petite cellule décidant de faire passer le courant nerveux ou pas. Un bête transistor en somme (je sais, c'est plus compliqué que ça mais je banalise un peu).
Maintenant, séparons chaque neurone d'un cerveau de la même façon. On obtient un (très) grand tapis de bêtes cellules sans aucun intérêt. Établissons alors les connexions entre elles. Paf, on obtient un cerveau capable de conscience, mémoire, réflexion, philosophie, art, etc... Comment? mystère, mais le fait est la.

Appliquons cela à l'informatique. Prenons un PC lambda. Juste une petite machine décidant de faire fonctionner windows ou pas. Un bête gros transistor en somme (oui c'est plus compliqué!! banalisons, banalisons)
Maintenant séparons chaque ordinateur de la planète de la même façon. On obtient un (très très) grand tapis de bêtes machines. Établissons alors les connections entre elles. Paf, on obtient un gigantesque réseaux de machine contenant des milliards et des milliards de données.

Maintenant comparons les deux expériences. La seule différence entre les deux démonstration est que les cellules du cerveau sont près de milles fois plus nombreuses que l'ensemble des ordinateurs connectés à Internet.
La question est la suivante. Qui nous dit que de cet énorme fatras d'information ne naîtra pas un jour une conscience. Comment? mystère.. mais le fait sera peut être un jour là.

Pour ceux qui ont vu (ou lu) Ghost in the shell, vous aurez sûrement compris d'où à commencé ma réflexion. Mais finalement, si l'intelligence artificielle ne résidait pas dans l'augmentation de puissance de chaque unité, mais dans la fusion d'un nombre énorme de petits systèmes.

La question est posée.

par **SansIPfixe** » Ven Septembre 01, 2006 23:46

Une réflexion très pertinente qui renvoi de facto vers les théories de l'organisation.

En fait on pourrait formuler la question de la façon suivante: quelles sont les conditions d'organisation de la matière ( neurones, processeurs... ) permettant l'émergence de la conscience ?

Nous savons que le tout est plus que la somme des parties ( une fourmilière "est plus" que la somme des fourmis ) mais que ce sont, avant tout, les interactions dynamiques au sein des systèmes qui confèrent des propriétés spécifiques ( par exemple on n'a jamais vu un tas de pierre s'assembler tout seul pour former un mur, le mur étant dans ce cas un objet émergent disposant de propriétés telle que résistance, portance...). Or ces interactions ne sont souvent possible que si le système dispose d'une capacité à s'auto-organiser en échangeant de l'information.

Dans le cas des réseaux informatiques le système échange bien de l'information mais est incapable de s'auto-organiser ( indépendamment de l'action humaine ) de lui même pour créer des propriétés émergentes lui permettant d'évoluer.

En somme nous pouvons mettre 10 PC en réseau, ils calculeront dix fois
plus vite mais cela s'arrêtera là, jusqu'à preuve du contraire......... :wink:

par **Kazamatsuri** » Sam Septembre 02, 2006 00:39

je ne crois pas qu'un ordinateur puisse être conscient malgré ce que l'on nous promet car je rappelle au passage qu'en 2000 nous aurions tous dù voler dans des machines volantes d'après les analystes de 1970..... le cerveau humain ne pourra jamais être depassé par une machine car cette même machine aura été concu par des humains et par conséquent....

par **chevalierdelombre** » Sam Septembre 02, 2006 01:01

je ne crois pas qu'un ordinateur puisse être conscient malgré ce que l'on nous promet car je rappelle au passage qu'en 2000 nous aurions tous dù voler dans des machines volantes d'après les analystes de 1970.....

Où est le lien logique entre les deux ? Ce n'est pas parce qu'on se trompe sur une chose qu'on se trompe sur une autre... Les futurologues ont fait les plus grosses bourdes imaginables, d'accord, mais ça ne veut pas dire que les informaticiens ont tort de penser qu'un jour, une machine sera consciente...

le cerveau humain ne pourra jamais être depassé par une machine car cette même machine aura été concu par des humains et par conséquent....

Justement, dans le cas des systèmes avancés, de type réseau de neurones, l'organisation interne se fait seule : on sème les ingrédients (bouts de code, hardware), on définit quelques règles, et ensuite... L'organisation se fait seule. L'homme ne fait qu'influencer, il n'écrit pas tout !

par **JahSpirit** » Sam Septembre 02, 2006 01:53

Corrigez moi si je me trompe, mais l’une des particularités des neurones d'un cerveau humain, n'est-elle pas qu'elles sont très nombreuses et proches les unes des autres ?
Or, si j'ai bien compris ce qui ressort des reportages, qu'on m'a narré, c'est que le but est de concentrer quelques neurones (bien moins que dans un cerveau) pour qu'elles servent à la réalisation de tâches spécifiques.
Je ne pense pas que le but des scientifiques est de créer des machines capables de se gérer intégralement seules grâce à une conscience qui peut évoluer.
La question est simple : A quoi servirait encore l'homme s'il se remplaçait lui-même par une autre conscience ?

Bon admettons. On crée quand même un "cerveau informatique", doté de conscience. Il faut encore qu'il prenne conscience de ses homologues. Qu'ils forment ensuite une communauté. Et ça, sans qu'on ne s'en aperçoive avant qu’il ne soit trop tard et qu'on ne puisse faire machine arrière.

Bon admettons. Ils forment une communauté. Qui dit conscience dit conscience de ses actes, de ses origines... Conscience de ses actes : Pourquoi ces actes iraient forcément dans le sens "on va détruire ces satanés humains".
Conscience de ses origines : Si demain vous appreniez que vous n'êtes pas le fruit d'une longue évolution des espèces, mais que quelqu'un ou quelque chose vous avez entièrement créé (Libre à vous : Dieu, les extra terrestres...). Est-ce que votre remerciement serait de détruire ce créateur ?

Bon admettons : En imaginant le pire des scénarios, je pense que cela prendra bien plus de 10 ans. On n’assiste qu'aux balbutiements de ces technologies. Et je pense que si à un moment on se rend compte que ça représente un danger pour l'espèce humaine, on aura bien le temps de faire machine arrière avant qu'il ne soit trop tard.

Et comme j'aime cultiver la contradiction : finalement, ce scénario catastrophe, si on le transpose dans le rapport homme/nature avec la nature dans le rôle du créateur, et l'homme dans le rôle du "super ordinateur". Alors l'homme n'est-il pas en train de détruire son créateur ? A moins que ce créateur ne prenne conscience de l'erreur qu'il a fait, et qu'il fasse machine arrière avant qu'il ne soit trop tard. (N'ai-je pas entendu dernièrement que la fertilité humaine subissait une baisse inquiétante ces dernier temps ? ) :wink:

Pour finir, je pense que la morale et l’éthique de l’opinion publique empêcheront de toute manière la création d’une nouvelle conscience équivalente à la conscience d’un être humain, et ce dans le but de nous servir aveuglément. On créerait une nouvelle forme d’esclavage finalement.

par **Nebius** » Sam Septembre 02, 2006 13:03

chevalierdelombre a écrit :Justement, dans le cas des systèmes avancés, de type réseau de neurones, l'organisation interne se fait seule : on sème les ingrédients (bouts de code, hardware), on définit quelques règles, et ensuite... L'organisation se fait seule. L'homme ne fait qu'influencer, il n'écrit pas tout !

Il influence quand même pas mal. Il existe une foultitude d'architectures neuronales, de nouvelles sont créées chaque semaines. Et la tâche que devra effectuer le réseau de neurone va déterminer le type de structure à utiliser qui sera le plus adapté. Il faut quand même tisser le réseau de départ, et ses aptitudes dépendront du maillage.

Pour faire fonctionner un réseau neuronal, il faut tout d'abord passer par une phase d'apprentissage, par des fonctions bien spécifique où la pondération de chaque neurone (le seuil de passage de l'information) va être modifié pour coller au résultat recherché.
La structure du réseau ne dépend pas directement des connexions entre neurones, mais dépend surtout de la pondération, qui elle va évoluer et va changer modifier la structure "virtuelle" du réseau. (le chemin parcouru par une information).

On peut trouver un petit exemple de réseau neuronal en Javascript ici

Il faut savoir que pour le moment, les réseaux de neurones se limitent surtout à une fonction de mémoire intuitive (ie reconnaissance d'image), mais un réseau de neurone ne peut pas faire ce qu'on ne lui a pas apprit, il ne pourra pas évoluer tout seul dans une tâche à laquelle il n'est pas destinée, dans l'état actuel des choses.

Une chose importante aussi que l'on oublie souvent, ce sont les cellules gliales (oui encore une fois, je les aime bien. :wink:

). Elles sont comme les nourrices des neurones, et peuvent aussi se transmettre des informations entre elles. Cela fait en somme deux réseaux intriqués ensemble, l'un rapide pour les actions rapides, l'autre lent pour la cognition. Du moins ce sont les théories actuelles.
Il y a même eu quelques applications informatique de ces cellules dans des réseaux neuronaux, et les résultats de ce type d'architecture se sont révélés plus pertinent que les réseaux standart.

Il reste encore un long chemin à parcourir avant de pouvoir espérer créer une conscience artificielle, et je ne pense pas que l'on puisse donner une date, c'est trop s'avancer à l'heure actuelle.

Si cela intéresse quelqu'un, j'ai créé un petit programme simple qui permet de créer un neurone formel et de lui apprendre à reconnaitre une valeur d'entrée : Lien. Dans cet exemple, on peut voir la pondération de chaque entrée changer lorsque l'on entraine le neurone à reconnaitre une valeur. Les valeurs d'entrées sont booléennes (0 ou 1) ainsi que la valeur de sortie, mais la pondération de chaque entrée varie dans les entiers.

par **chevalierdelombre** » Sam Septembre 02, 2006 15:37

Quelques liens utiles :

http://fr.wikipedia.org/wiki/R%C3%A9seau_de_neurones(sur les réseaux de neurones, en français ; pas forcément simple pour les novices en la matière, mais ça peut vous donner une idée du principe)

http://en.wikipedia.org/wiki/Cog_(project)
http://www.ai.mit.edu/projects/humanoid ... rview.html
Deux liens, en anglais, sur un projet assez avancé, de recherche pure : Cog. Il s'agit d'un robot humanoïde (plus précisément, seulement le torse, la tête et les bras) qui fait partie d'un programme visant à explorer le domaine de l'intelligence artificielle. Le robot a été doté de capacités d'apprentissage et de reproduction, comme un enfant, en partant du pricnipe que ce sont ces capacités qui permettent une évolution vers ce qu'ils recherchent (l'intelligence). L'idée est ensuite d'interragir le plus possible avec lui (jeux, communication dans les limites du robot, etc).
Cog est déjà capable d'un certain nombre de prouesses. La rubrique vidéo devrait détailler tout ça, pour ceux qui préfèrent le ludique.
:wink:

Bien entendu, on est très loin de la conscience, par contre, au niveu intelligence, il se débrouille pas trop mal.

par **toune32** » Dim Septembre 03, 2006 21:55

Vous n'allez quand même pas nous dire que I-robot, Terminator et Matrix vont devenir réalité.

par **Matthaeus** » Dim Septembre 03, 2006 22:35

Si, moi jte le dit.

par **shikamaru** » Lun Septembre 04, 2006 03:51

2 0 1 2 encore et toujours lol y'a 100 ans on aurait dit en 1999 ou 2000 toujours ces dates apocalyptiques c'est même plus drôle...

par **Kyo** » Mer Septembre 06, 2006 17:11

Je compare quelques personnes ici à de grands fan de film de science-fiction .

Moi j'ai une question aussi : Pourquoi tout devrait se dérouler comme dans les films comme vous dites ? Vous pouvez pas essayer d'avoir une vision différente ?

Il y à de grands esprits ici ... :shock:

par **chevalierdelombre** » Jeu Septembre 07, 2006 13:15

En fait, les auteurs (la plupart des films cités sont issus de livres) ont souvent des idées bien différentes... Rien ne dit que la machine détruira l'homme, même si cette peur est ancienne et classique (le golem repose sur une idée semblable, au fond...). Qui vivra, verra !

par **Chimère** » Dim Septembre 10, 2006 14:52

Je m'interroge, au-delà de la question : les ordinateurs seront-ils un jour capable de conscience ? , sur ce qu'est cette conscience justement.
Car, si les ordinateurs, si évolués soient-ils, sont déjà dans une certaine mesure capables d'effectuer des tâches seuls, et seront de plus en plus indépendants par la suite, cela ne signifie pas pour autant qu'ils soient dotés de conscience à proprement parler.
En allant plus loin, quand bien même seraient-ils capables de réfléchir sur un problème inconnu de leur programmation initiale, capables d'adaptation, pourrions-nous là encore dire qu'il s'agit de conscience ?

Seront-ils capables de faire un retour sur eux-mêmes, d'introspection ( qui sous-entend nécessairement la conscience de soi-même et du clivage moi/le reste du monde ) ?
Seront-ils capables d'appréhender le bien et le mal ( aussi subjectives soient ces notions ) au-delà de leur programmation ( parce que là, il ne s'agirait ni plus ni moins que d'une programmation ) ?
Capables de libre-arbitre ?
Capables de douter ? Puisque c'est quand-même assez bête un ordinateur, ça ne connait que le 1 ou le 0, ça ne dit jamais "peut-être" ou "oui mais..." etc...

En fait, lorsque nous nous interrogeons sur les possibilités de ces machines, il me semble qu'en fait c'est sur nous-même que nous nous interrogeons. Sur ce que nous sommes, sur ce qui fait notre essence et notre altérité.
Nous voulons, scientifiquement, créer des machines de plus en plus performantes et sophistiquées, mais... si plus rien ne nous distinguait des machines, que serions-nous ?

Pour terminer, pour ceux qui aiment la SF en général et l'intelligence artificielle en particuliers, j'ai lu il y a un moment un roman pas mal du tout : L'Ange Gabriel de Bernard LENTERIC, qui est pile sur le thème de la "conscience" informatique. :wink:

Consulter le sujet - La conscience informatique

La conscience informatique

La conscience informatique

Re: La conscience informatique

Qui est en ligne ?