sc-4 a écrit
Donc pas besoin de s'armer jusqu'au dents au cas ou les robots prendraient le contrôle du monde?
Sur le long terme, peut-être que si... Notre conception du monde, dépend de nos capacités. Quand je parle de capacités, je ne réduis pas ça à une bête somme de puissances de calculs. C'est plus fin et complexe que ça. Mais force est de reconnaitre, que l'évolution de la vie est relativement lente (par rapport à l'histoire de l'humanité et de la technique). Et que il nous faut du temps avant d'améliorer notre conception et accès aux concepts qui régissent l'Univers.
Hors, l'I.A ne sera pas forcément bloqué par les mêmes limites. Elle pourra évoluer plus vite, jusqu'à dépasser l'intelligence humaine, et s'améliorer encore et encore. Ça leur ouvrirait des portes sur encore plus de conception de l'Univers, inaccessible pour les humains.
Et c'est là qu'arrive la grande question : qu'arrivera-t-il lors qu'IA et humains seront au même niveau?
On arriverait à la singularité technologique (et tout porte à croire qu'on y arrive à terme). Et comme la singularité gravitationnel, on arrive à un point où les prévisions sont impossibles. On arriverait à une révolution du monde comme jamais l'Humanité n'en a connu. Car la première IA supra intelligente sera la dernière invention de l'humain. Le reste sera fait pas une succession d'IA de plus en plus performante...
De là plusieurs pistes :
- la coexistence : Machines et humains arrivent à vivre sur la même planète.
- la coopération : la "supériorité" des machines aiderait l'Humanité à évoluer encore plus vite. Scénario parfait.
- la Discorde : l'anéantissement de l'Humanité tout simplement (et qui fait le plus peur). Il est vraisemblable que sur ce scénario, ce serait les humains qui posera problème. Quand on pense au temps qu'il a fallu aux humains pour concevoir que les femmes étaient des êtres humains (ça a même pas 200-300 ans), que des personnes d'autres "couleurs" étaient humains (100-200 ans) etc, ça serait encore pire face à une vie artificielle. Car nous en serions les créateurs (d'où un peu l'idée de possession de sa création et du droit total d'en faire ce que bon nous semble), que pour beaucoup une machine est inférieur à la vie, et tout simplement de la haine de la différence et haine de la puissance. On pourrait arriver à une guerre. Mais, une guerre contre une vie artificielle, et supérieur, est impossible à gagner...