UNE IA DE GOOGLE EST-ELLE RÉELLEMENT DEVENUE CONSCIENTE ?
Le licenciement par Google de l’un de ses ingénieurs, Blake Lemoine qui affirme depuis quelques mois que LaMDA, un des programmes d’IA de la firme californienne s’est éveillé à la conscience a relancé les questionnements autour de l’intelligence des machines.
L’idée que nos ordinateurs, objets physiques inertes vont inéluctablement défier les lois de la biologie par la magie des algorithmes est devenue commune. Atteindre l’ « IA forte » ne serait qu’une question de temps. Les échecs successifs des grands projets des années 2010 ont pourtant montré que les questions techniques étaient bien loin d’être résolues. Citons le Human Brain Project, projet pharaonique financé par l’UE qui devait, en 10 ans modéliser un cerveau humain. Où Watson d’IBM qui devait révolutionner la médecine. Ou encore le rapport de l’OMS de juin 2021 sur l’éthique et l’IA qui faisait état de résultats décevants pendant la pandémie COVID. Après autant de déconvenues, il est plutôt déconcertant que l’inéluctabilité de l’IA forte soit une idée aussi prégnante.
L’aspect spectaculaire des performances de l’IA génère un anthropomorphisme certain dont il faut s’extraire. A contrario, les sciences du cerveau nous donnent des points de comparaison réalistes.
Parmi les questions soulevées, et non des moindres, est celle de l’énergie. Sur des centaines de milliers d’années, au long de sa lente évolution, le système nerveux a développé des stratégies pour économiser et optimiser l’énergie nécessaire à son fonctionnement.
Aujourd’hui, le cerveau peut être assimilé à une ampoule qui consommerait 20 W/h. C’est très inférieur à toute machine produisant de l’intelligence artificielle. Sous le capot de l’IA, il y a une alimentation électrique coûteuse doublée de puissants circuits de refroidissement tout aussi coûteux. Développer une IA capable de concurrencer l’intelligence humaine demanderait en réalité une énergie que notre planète n’est pas capable de fournir. Il paraît difficile d’occulter ce sujet lorsque l’on parle d’ « IA forte ». C’est peut-être ici que se situe la frontière entre science et pseudo science, entre réalisme et fantaisie. La formidable capacité d’imagination du cerveau humain peut nous emmener très loin, surtout si l’on érige les auteurs de science-fiction en référence première. Mais les frontières de la réalité biologique ne se franchissent pas si aisément et il faut en tenir compte.
Autre caractéristique essentielle du système nerveux est l’influx sensoriel qui l’alimente. Qu’il s’agisse de sensation physique, d’émotion, d’expérience vécue ou d’influence culturelle, il lui parvient de l’environnement. C’est le monde réel qui lui envoie des informations. On l’oublie un peu trop facilement mais l’IA n’est qu’une procédure informatique alimentée par des données numérisées. Elles ne sont pas le monde réel. Les ordinateurs ne sont pas connectés à l’air ambiant comme tout être vivant peut l’être mais aux bases de données. Celles-ci, loin s’en faut, ne sont pas la reproduction du monde physique. Elles sont la documentation produite par l’activité humaine, et encore pas toute, uniquement celle qui a été numérisée depuis à peine 30 ans. Par son origine et sa composition, le « monde des ordinateurs » n’est ainsi qu’un reflet restreint et déformé de la réalité.
Un autre aspect essentiel de l’intelligence humaine est son caractère collectif. Pour les paléontologues, le cerveau humain a produit l’intelligence progressivement à partir du langage, des inventions techniques, dont les premières sont les outils de pierre, et de la complexité de la vie sociale. En somme, c’est en faisant société que les humains ont développé leurs capacités cognitives.
L’intelligence humaine est une réaction, une adaptation à l’environnement. Environnement composé de la réalité du monde physique et de la société. L’intelligence artificielle est une intention. Elle est fabriquée par l’action intentionnelle de programmeurs informatiques à partir des bases de données.
Peut-on donc évoluer vers la conscience lorsqu’on est extérieur au monde réel ? Est-ce possible sans faire société, c’est à dire sans interagir en permanence avec des congénères dans une nécessité vitale ? Attribuer des émotions à une machine fabriquée de toute pièce c’est admettre que la conscience peut émerger de l’inerte sans avoir besoin d’être intégrée, ni au monde physique réel, ni à la société et le tout avec une consommation énergétique exorbitante.
La dernière décennie nous a montré que le cerveau humain est une machine complexe qui ne se laisse pas déchiffrer si facilement et que si l’IA est bel et bien une révolution informatique elle n’en est pas pour autant une révolution des neurosciences.
L’IA est de l’informatique et de la science des données numériques, la conscience est de la biologie.
Et ce sont 2 choses différentes.
Références
Sur le licenciement de Blake Lemoine
Articles du blog sur l'IA et l'intelligence humaine
Les machines peuvent-elles apprendre comme les humains ou qu'est-ce que l'apprentissage machine ?
AFFAIRE WATSON: UN ECHEC POUR L'IA MEDICALE
Covid-19 et intelligence artificielle
Inscrivez-vous au site
Soyez prévenu par email des prochaines mises à jour
Rejoignez les 23 autres membres