TOUTSIMCITIES

I.A : Un danger futur?

Pensez-vous que l'intelligence Artificielle peut devenir dangereuse?

  • oui, il faut l'interdire 5% 2 votes
  • oui, mais on ne peut rien faire 5% 2 votes
  • non, il suffit de contrôler le développement de cette technologie 53% 22 votes
  • non, c'est une peur irraisonné 17% 7 votes
  • non, c'est une chance d'avoir l'IA 17% 7 votes

42 votes, dont 2 votes blancs

message posté le 15 janv 2007 à 12h41

Avatar

Tuco

  • membre
  • Croix Rousse (Lyon bien sûr)
Moi je crois que ce qui fait encore aujourd'hui la différence entre un cerveau humain et un "cerveau" informatique, c'est la capacité à faire quelque chose d'irrationnel. Un crime passionnel, une bataille gagnée sur un coup de poker (Austerlitz, etc...), ne sont pas encore "compris" par un ordinateur. Pas encore...
D'ailleurs certains jeux sont faits pour les ordinateurs (les échecs : trouver le meilleur coup possible parmi les milliards de possibilités et en calculant à l'avance les réactions de l'adversaire), alors que d'autres, presqu'entièrement basés sur la psyché humaine, sont beaucoup plus durs à traduire en langage informatique (le poker par exemple).

BATeur TSC

bouh

message posté le 15 janv 2007 à 14h02

Avatar

fff

  • membre
  • Le Raincy (93)
Qu'est-ce que vous avez contre l'Inspection Académique?

message posté le 15 janv 2007 à 14h16

Avatar

laurent

  • administrateur
  • Grenoble
Urban-Citizen a écrit
Je suis bien d'accord, mais pour porter atteinte, il faudrait que ces programmes aient un controle physique...

Tout est géré par informatique. Contrôler les données c'est comme contrôler militairement un espace.
Si Internet tombait en rade, on serait dans une merde phénomènale. il suffit de voir les conséquences en Asie de la rupture de cables sous-marins.

"Les Alpes sont pour l'Isérois le raisin sec sur la polente, la cerise sur le gâteau."

message posté le 15 janv 2007 à 15h11

Avatar

atlantiscity

  • membre
  • Nantes
Citation
L'apprentissage, la culture...
On va pas me faire croire qu'il y a le gêne de la gauche ou de la droite, le fait de tolérer les homos ou pas, d'être pour ou contre la peine de mort...

Amour, sexe, réflexion pure, peur, je suis entièrement d'accord, et on a JAMAIS dit le contraire!

Apprendre c'est ce qui fait la différence.. L'homme est tjrs régit par sa libido chimique, son instinct de survie etc... Bref, son côté animal banal qui fait que finalement, il ne vaut pas mieux qu'un chien..

Sauf que l'humain, il apprend des choses, il se cultive... Voilà ce qui nous fait différer 'un chien..

Bref, si l'humain n'est rien de plus que des réactions chimiques pour son fonctionnement, ses sentiments, ses par sa culture et son intelligence qu'il s'en détache un peu...


On est repartie pour un débat sans fin! Surtout avec toi Urban. J'espère que ça sera plus calme que la dernière fois et qu'on pourra tirer quelques chose de nos réflexions communes. Je me lance!

Ce ne sont pas les gènes qui font un humains mais la combinaison. Dans 5+2=7 , 5 et 2 seraient des gènes et le 7 l'être créé par sa combinaison. Donc on ne peut réduire le 7 à seulement un des facteurs. En faite un humain est la combinaison de deux programmes (celui de la mère et du père). Parfois les deux programmes ont des instructions qui entre en conflit et qui donne des bugs dans la conceptions, d'où par exemple des maladies physiques et mentales (je ne fais pas de discrimination et je respect ces personnes; je dis ça avant qu'on pense des choses erronées sur mon compte). A l'inverse, la combinaison peut donner un résultat meilleur, par exemple un surdoué. Ensuite au cours de la vie, le programme central (qui lui peut être modifié) peut recevoir de nouvelles lignes de codes (savoir, expériences, etc...) qui modifie le programme original. C'est pour ça que deux individus ne sont pas semblables car elles sont la résultantes de milliards de lignes de codes auquel on rajoute les lignes de codes supplémentaire dû au parcours et connaissance au cours de la vie. Il y a tellement de résultats que ça semble incroyable. La nature n'est qu'un grand programmeur.
Il faut trouver le code source non altéré par l'extérieur. D'ailleurs on en a une partie. On connaît la réaction des humains face à telle situation. Un humain est la combinaison de chimie (gène, substance interne au corps) et d'un programme central (le cerveau). Donc à partir du moment où un humain n'est que ça, on peut créer un corps avec ses facultés et un programme central qui peut recevoir de nouvelles instructions. Mais ce dernier point amène à une chose, la possibilité de faire des choix.

Citation
Non, c'est pcq LE système infaillible ou la programmation parfaite n'existe pas!
Il y a tjrs une possibilité, même si elle est moindre, de tout changer.
Même l'univers, qui semble si bien réglé est également constitué de choses aberrantes...

C'est une question un peu philosophique, mais il en est de même pour un programme aussi complexe soit-il...

Il y a TJS le cas particulier...

Et ce n'est pas une question de savoir... Car si tu empêche tel problème: imaginons, Windows résous à jamais un bug, qu'un autre différent apparaîtra...

C'est comme la limite du savoir: elle n'existe pas.
Le savoir, c'est juste une question de limite: repousser la limite... Tu n'arriveras jamais à 100% car l savoir est infini...

Tout comme dans l'univers il est impossible, même en connaissant parfaitement un mécanisme, d'être certain qu'il se réalise à 100%

100% de prévision c'est impossible, et c'est d'ailleurs aussi abordé dans Matrix...
Il y a tjrs des erreurs, il y a tjrs un reste à l'équation, même si on le réduit sans arrêt...
Même dans un système conçu , certes pour des humains imparfaits, mais conçu par une IA de pure logique. Car au final, Neo finit par rendre la liberté aux hommes...
La minuscule erreur systémique aura renversé le système qui paraissait si parfait, si fiable, si prévisible...

Et bien, tout ça est valable pour l'univers entier, pour la vie, pour les comportements chimiques animaux, humains, pour la programmation...

Je ne sais pas si tout le monde comprend...?


On comprend.
Dans The Matrix, c'est le système qui était imparfait, et donc il y aurait facilement une anomalie. Ensuite du parle de réduire une équation. C'est normal que la réduction (ou la simplification) d'une équation ne vaut pas l'équation original. Donc il y a forcément un bug. Et The Matrix, c'est juste l'histoire d'un programme (Neo) car en fin de compte, ils sont tous dans un programme quand il sont hors de la Matrice. Je suis même sût que tu crois que c'est l'Oracle la mère de la matrice, alors que c'est Perséphone. Il faut juste écouté... (je te taquine)
Pour Windows. Il est bourré de bug. Donc déjà il ne peut en résoudre. Ce programme est imparfait (ainsi que Linux ou MacOSX) car il a été conçu par des humains dans un temps trop court. Ce qui fait que toutes possibilités (en réalité la majorité) ne se sont pas produite pendant la conception mais pendant l'exploitation à grande échelle.
Et il faut aussi voir les bugs comme des modèles d'évolutions. Car les humains sont aussi des bugs de la nature. Un gène qui a mal fonctionner est le prémisse d'une nouvelle espèce. Ainsi, il y aura forcément des bugs dans l'IA et il détermineront la manière dont elle va évoluer. Il est fort probable qu'elle pourra avoir le choix.
Autre hypothèse : un jour une société X créé un nouveau logiciel d'exploitation adaptatif. Au fil du temps, ce système sera différent, et plus évoluer. On pourrait arriver à une IA à la fin.

L'Univers semble aberrant pour nos théories actuelles. Change les, et l'Univers n'est plus aberrant!!
C'est comme le hasard qui n'est que notre ignorance. Tout est question de puissance de calcul. Les humains non pas assez de puissance de traitement, et donc ils ne peuvent comprendre que ce qui est à leur portée.

Citation

Pour moi, même la reproduction n'est pas un gage de vie.
On pourrait penser que comme dans Matrix, des machines produisent des machines...
Que les programmes deviennent "humains" et désirent une vie d'humains...
C'est pas inconcevable...


La définition de la vie, c'est la mort. Entendons par cela inerte (au sens de ce qui distingue un atome de carbone dans un corps hmains de celui d'un diamant...) Et ce n'est pas une conception religieuse, mais scientifique...

Et suivant cela, et comme je l'expliquais, la possibilité d'envisager une intelligence artificielle éternelle, puisque détâchée d'enveloppe physique, celel qui fait qu'on meurt, elle ne serait donc pas vivante.

Elle serait animée, pensante, mais pas vivante... elle ne donnerait pas une valeur particulière à des atomes unis. La vie c'est ça: des atomes unis qui forment des molécules mais "incarnés" de vie...



L'IA sera peut être hyper intelligente, mais ne sera finalement qu'un tamagoshi hyper hyper hyper intelligent, doté de bras pour s'exprimer et agir, une apparence humaine ou tout ce que vous voulez!... Mais voilà... Elle ne sera JAMAIS vivante.
Articulée, pensante, mobile, mais ps vivante pour autant...

Dans ce cas, on fait déjà des IA, pas assez intelligentes, mais pas vivantes non plus...
On en ferra des encore plus intelligentes, quitte à imiter l'homme ou le surpasser, mais elles ne seront JAMAIS vivantes pour autant.

tout se situe sur une échelle d'intelligence. On fait déjà des robots intelligents. L'IA ce n'est qu'une intelligence plus poussée, rien de plus, et rien de plus vivant qu'un GPS qui vous dit de tourner à gauche...

Elles seront juste plus intelligentes. Vous comprenez?


Que l'I.A ne soit pas biologique n'en fera pas forcément un être vivant. Car notre conception actuelle vient qu'on a pas encore d'IA! Et si une IA arrive à te parler en te donnant sa propre réflexion, ça ne donne pas l'impression d'avoir quelqu'un de vivant.
Et il faut reprendre le cadre de l'évolution. Bien trop souvent on met l'humain au sommet de l'évolution. Mais c'est oublié que l'évolution n'est pas terminée! Et que ça ne fait que 5 petits millions d'années que nous sommes sur Terre. Aussi, je met une autre hypothèse. L'IA ne serait telle pas finalement le but de l'évolution. On est partie de matière inerte qui s'est combinées pour créer les premières protéines. Ensuite, les bactéries, l'ADN (car les bactéries font une copie d'elle-même donc pas besoin d'avoir un code sur lequel concevoir un être vivant), des formes de vie de plus en plus élaborées. L'humain ensuite n'évoluerait plus en terme de morphologie mais de connaissance, et créerait la prochaine étape de l'évolution l'IA. Là, ce qui limitaient l'humain dans l'étude de l'Univers n'est plus. Il n'y pas plus la limite du temps (travaux 24/24h, 7/7 jours), d'espace (conquête de l'espace sans soucis de problème biologique) et de puissance de calcul. On arriverait peut être au but de l'Univers...

message posté le 15 janv 2007 à 15h15(message édité)édité le 15 janv 2007 à 00h05 par laurent [administrateur]

Avatar

atlantiscity

  • membre
  • Nantes
laurent a écrit
Pour moi le danger ne vient pas des robots ou machines.

Là où il pourrait un jour y avoir des dérives d'une intelligence artificielle (qui commencent déjà !) c'est au niveau informatique. On va arriver dans un monde entièrement régit par l'informatique. Et là une forme de vie peut exister !
Les ordinateurs et serveurs étant maintenant tous connectés entre eux, cela constitue un environnement extraordinaire et permanent.

Qu'est ce qu'un virus informatique ? c'est une forme primaire de vie finalement. On ne sait d'ailleurs pas vraiment si les virus les vrais, sont vivants ou pas ! Ca peut faire réfléchir...
Ils (ceux de nos PC) sont capables de se reproduire, de communiquer et de s'adapter, pour coloniser. Qu'est qu'une forme de vie biologique fait d'autre que ça ?
Ils sont aussi capable de mourir lorsqu'ils se font attaquer par d'autres (ça existe) ou par... un anti-virus !

La programmation est un langue universel. On peut l'appliquer à tout, il "suffit juste" de connaitre le language.

Une main qui par réflexe se retire lors d'une brulure, c'est tout simple :
si (intensité de chaleur (main droite)>seuil acceptable) relever (bras droit); [vert]


Faut surtout pas croire que la programmation ne fait que du "programmé", du sur-mesure ou tout est pré-calculé. La programmation ultime est capable par elle-même de gérer des situations non prévues !


Oui, c'est vrai que le monde est basé sur l'informatique. On peut imaginer quelques chose d'encore plus vicieux. Imaginer qu'une IA commence à émerger sur le réseau mondial. Elle pourrait contrôler les informations, le renseignements, l'argent, etc...
Effrayant...

message posté le 17 janv 2007 à 00h01

Avatar

Snaper

  • membre
  • Belgique
Le tout c'est de pouvoir contrôler tout cela
Un exemple dans "I, robot" : les 3 règles d'un robot qui font qu'il ne peutt pas faire ce qu'il veut
Donc il faut pouvoir contrôler, imposer des règles (comme les régles civiles) pour empêcher de faire tout cela (contrôler les informations par exemple)

Moi je dis que c'est innévitable mais faut y faire attention
Et il ne faut pas l'utiliser pour faire le mal, pour des guerres ou autres ...

Snaper

Maire de Londres et de Zakari
4 Lamas d'OR dont celui de la plus belle ville du site !! Merci ;)
Tutorial complet sur les décorations des ponts du NAM

message posté le 17 janv 2007 à 00h11

Avatar

atlantiscity

  • membre
  • Nantes
Snaper a écrit
Le tout c'est de pouvoir contrôler tout cela
Un exemple dans "I, robot" : les 3 règles d'un robot qui font qu'il ne peutt pas faire ce qu'il veut
Donc il faut pouvoir contrôler, imposer des règles (comme les régles civiles) pour empêcher de faire tout cela (contrôler les informations par exemple)

Moi je dis que c'est innévitable mais faut y faire attention
Et il ne faut pas l'utiliser pour faire le mal, pour des guerres ou autres ...


Oui c'est vrai. L'utiliser comme arme serait une grave erreur.

message posté le 17 janv 2007 à 08h36

Avatar

the bug&bear

  • membre
  • France, banlieue parisienne
Les robots sont deja utilisé comme armes.......ben, oui ça vous dis rien les systèmes de tir automatique ? les drônes de l'US air force (pas encore utilisés je crois) ?

B&B

message posté le 17 janv 2007 à 12h35

Avatar

Tuco

  • membre
  • Croix Rousse (Lyon bien sûr)
Oui, mais rien n'est encore assez perfectionné pour se passer de la main de l'homme. Par exemple un drone qui survole l'Irak est piloté par un centre militaire aux Etats-Unis. C'est déjà utilisé ; d'ailleurs un des "responsables" d'Al Quaida en Irak avait été tué par ce procédé. Mais il faut 30 personnes pour l'utiliser, au lieu d'un pilote dans son avion : pour l'instant l'efficacité n'y est pas.

BATeur TSC

bouh

message posté le 17 janv 2007 à 12h59

Avatar

maximussimo

  • membre
  • Quelque part entre mer et soleil...
Tuco a écrit
Oui, mais rien n'est encore assez perfectionné pour se passer de la main de l'homme. Par exemple un drone qui survole l'Irak est piloté par un centre militaire aux Etats-Unis. C'est déjà utilisé ; d'ailleurs un des "responsables" d'Al Quaida en Irak avait été tué par ce procédé. Mais il faut 30 personnes pour l'utiliser, au lieu d'un pilote dans son avion : pour l'instant l'efficacité n'y est pas.


Absolument. Leur sseul avantage est qu'ils sont moins couteux en cas de destruction et qu'ils évitent la perte d'un pilote au combat. Leur rayon d'action est plus petit, et les dommages moindres...

Pour en revenir à l'IA, on y est déjà, dans l'air de IA. La domotique dans la maison existe depuis 20 ans et ne fait que se perfectionner d'année en année. L'ordinateur est une invention de l'homme. La seule différence entre un ordinateur et un homme, c'est que les processeurs permettent d'effectuer les calculs plu srapidement, instantanément. Et d'ailleurs, à la base, c'était le rôle de l'ordinateur : une calculatrice géante pouvant gérer des millions de données simultanément.
La question a toujours été de savoir (c'est de la science fiction) si l'ordinateur pouvait avoir un jugement rationnel prenant en compte des facteurs subjectifs. En somme, un ordinateur peut il agir avec intuition. Je crois que l aréponse est clair : bien sur que non. SAUF : tout est programmé. Je m'explique : il existe aujourd'hui des poupées gonflables hyper gonflées et intelligentes (ce qui dans ce cas change de la femme humaine lambda, il faut le reconnaître [vert]) qui ressentent les émotions, car des capteurs ont été intégrés à sa peau silicone hyper sensible et en cas de réchauffement la poupée s'active, éprouve de la compassion, du désir etc... Mais je ne vois pas comment un ordinateur pourrait seul s'autocréer de la compassion... Voila. C'est pour moi de la pure fiction, car je pense pour ma part que les sentiments, les ressentiments, sont strictement humains, et un ordinateur reste une machine qu'on peut allumer ou éteindre à tout moment...


[img]http://www.xboxlc.com/cards/sig/gow/MaximussimO%20666.jpg[/img]