Contenu
- Les humains prennent les devants
- Pas de bugs, pas de stress - Votre guide étape par étape pour créer un logiciel qui change la vie sans vous détruire
- Nos cerveaux, nos corps
- IA et intuition
Source: Willyambradberry / Dreamstime.com
À emporter:
En dépit de la grande science-fiction qu’elle a inspirée, les experts expliquent que l’intelligence artificielle ne nous menacera probablement pas directement en termes de suprématie mentale.
Si vous prêtez attention à ce que les gens parlent dans le domaine de la technologie, vous avez peut-être entendu une version des préoccupations exprimées par Elon Musk, Bill Gates et d'autres sur les technologies d'intelligence intelligente - bien que des rapports récents montrent que Gates s'est un peu calmé Cassandra, il y a toujours beaucoup d'inquiétude et de raisonnement derrière tout ça.
Les questions ne manquent pas: les robots deviendront-ils plus intelligents que les humains? AI va-t-il prendre en charge nos emplois et nos vies? La technologie commencera-t-elle à contrôler les humains et les problèmes d'utilisation abusive de l'IA entraîneront-ils la violence et la destruction?
Pour de nombreux experts, la réponse est un «non» catégorique, basé sur les méthodes actuelles de développement des technologies. La plupart conviendraient que nous avons besoin de cadres éthiques et explicables pour diriger les technologies d’IA et de ML - mais ils ne sont pas d’accord pour dire que les maîtres des robots sont un résultat donné.
Examinons une partie du débat sur la superintelligence et voyons pourquoi de nombreux technologues sont convaincus que les humains garderont les rênes dans quelques centaines d’années.
Les humains prennent les devants
Lorsque vous examinez les informations relatives aux problèmes d'IA, l'un des noms les plus cités est Grady Booch. Booch a été le pionnier du langage UML (Unified Modeling Language) et a travaillé sur les technologies clés pour IBM au début du millénaire.
Une conférence TED de Booch illustre son optimisme quant aux types d'intelligence artificielle que nous considérions auparavant comme de la science-fiction.
Premièrement, explique-t-il, la formation humaine infléchira sa propre éthique et ses propres normes dans le fonctionnement des systèmes d’IA.
«Si je veux créer un assistant juridique artificiellement intelligent, je lui enseignerai un corpus de droit tout en fusionnant le sens de la miséricorde et de la justice qui fait partie de ce droit», a déclaré Booch. «En termes scientifiques, c’est ce que nous appelons la vérité sur le terrain et c’est le point important: en produisant ces machines, nous leur enseignons donc le sens de nos valeurs. À cette fin, je fais confiance à une intelligence artificielle identique, sinon plus, à un humain bien entraîné. "(Pour en savoir plus sur l'avenir (et le passé) de l'IA, consultez Thinking Machines: le débat sur l'intelligence artificielle.)
Pas de bugs, pas de stress - Votre guide étape par étape pour créer un logiciel qui change la vie sans vous détruire
Vous ne pouvez pas améliorer vos compétences en programmation lorsque personne ne se soucie de la qualité des logiciels.
Plus tard dans la conversation, Booch avance un autre argument très différent pour expliquer pourquoi nous n’avons pas à craindre une prise de contrôle par les technologies.
"(Une menace existentielle de la part de la technologie pour l'humanité) devrait être assortie d'une surintelligence", dit Booch. «Il faudrait qu’il domine tout notre monde. C'est ce que Skynet a écrit dans le film «The Terminator», dans lequel nous avions une surintelligence qui commandait la volonté humaine, qui dirigeait tous les appareils qui se trouvaient aux quatre coins du monde. Pratiquement, ça ne va pas arriver. Nous ne construisons pas d'IA qui contrôlent le temps, qui dirigent les marées, qui nous commandent des humains capricieux et chaotiques. Et de plus, si une telle intelligence artificielle existait, elle devrait concurrencer les économies humaines et donc rivaliser avec nous pour obtenir des ressources… à la fin (ne le dites pas à Siri), nous pouvons toujours les débrancher.
Nos cerveaux, nos corps
Un autre argument majeur en faveur de la suprématie de la cognition humaine sur la technologie est lié à l'exploration du cerveau humain.
Si vous allez sur YouTube et écoutez le célèbre ingénieur Marvin Minsky, l'un des pionniers du ML et un exemple pour Ray Kurzweil et d'autres gourous de l'IA d'aujourd'hui, vous pouvez l'entendre parler du cerveau humain. Minsky souligne que l'intelligence humaine réelle n'est pas un super ordinateur puissant, mais des centaines d'ordinateurs différents reliés entre eux de manière complexe. L’intelligence artificielle, explique-t-il, peut reproduire certaines de ces machines, mais n’est pas près de toutes les reproduire.
Pour de nombreux experts en technologie, l'IA ne pourra jamais imiter véritablement la complexité du cerveau humain et sera donc toujours intrinsèquement moins puissante.
«Les IA ne sont généralement pas conçus pour survivre, mais pour résoudre des problèmes très spécifiques et centrés sur la personne, comme jouer aux échecs», a écrit Luc Claustres, Ph.D. fin de l'année dernière. "En tant que tels, ils ne peuvent même pas s’adapter à de légers changements de leur environnement sans les reprogrammer, tandis que les humains gèrent facilement l’imprécision ou la modification des règles sur eux-mêmes."
IA et intuition
Il existe également un argument corollaire qui repose sur ce que vous pourriez appeler le «problème de la protection des passages à niveau» - il expose les limites de ce que l’intelligence artificielle peut faire. L'intelligence artificielle et l'intelligence artificielle permettent de tirer des informations d'un groupe de données varié, mais pas de l'intuition, pour laquelle les humains sont réputés. En d’autres termes, donc, si vous louez un ordinateur en tant que passage pour piétons, vous aurez peut-être des fonctionnalités (mais vous auriez probablement des lacunes très dangereuses) avec lesquelles vous ne feriez pas confiance à vos enfants! (Pour en savoir plus sur le potentiel de l'intelligence artificielle chez l'IA, voir La créativité peut-elle être mise en œuvre dans l'IA?)
En tant que tels, les programmes informatiques ne peuvent pas comprendre nos bizarreries et nos idiosyncrasies humaines dans notre façon de communiquer et dans notre façon de vivre. C’est donc une autre limitation essentielle.
Pour en savoir plus sur les raisons pour lesquelles les problèmes de surintelligence peuvent être exagérés, un article de Kevin Kelly paru dans Wired l'année dernière examine certaines hypothèses qui devraient rester vraies pour que l'IA puisse réellement prendre le relais de manière pratique. Ceux-ci incluent les suivants:
- Cette intelligence artificielle domine déjà la cognition humaine
- Cette intelligence peut être étendue sans limite
- Cette super intelligence peut résoudre la plupart des problèmes auxquels l'homme est confronté
En lisant l'article, vous voyez toutes ces hypothèses exploser et traitées pour montrer, encore une fois, pourquoi la cognition humaine est si spéciale.
Ce n’est pas que la technologie ne deviendra pas puissante, elle le sera. C’est une question de toutes les dimensions à maîtriser pour rendre l’IA plus puissante que l’humain. Les humains ont évolué au fil de millions et de millions d’années - l’intelligence artificielle existe depuis environ 20 ans et, bien qu’elle ait fait d’énormes progrès, les humains ont toujours le dessus, et le seront probablement à jamais.
Si vous relisez certains de ces liens et regardez ce que les gens disaient, nous devrions nous préoccuper davantage de nous-mêmes. Les humains ont le potentiel d'abuser de la technologie à mauvais escient - en fait, beaucoup d'entre nous diraient qu'ils utilisent déjà beaucoup de la technologie dont ils disposent. C’est donc peut-être un meilleur endroit pour mettre son anxiété et son action au service de la création d’une IA éthique.