Contenu
Q:
Pourquoi certaines personnes s'inquiètent-elles de l'intelligence artificielle?
UNE:
Le changement n'est pas facile et beaucoup de gens ont du mal à s'y adapter. Cela est particulièrement vrai du changement technologique. Calestous Juma, éminent professeur de Harvard, a écrit un livre sur le sujet intitulé «L'innovation et ses ennemis: pourquoi les gens résistent-t-il aux nouvelles technologies». Ce livre décrit la tension qui existe entre innovation et ordre social, en s'appuyant sur 600 ans d'histoire. L'impact de la technologie est particulièrement gênant en matière d'intelligence artificielle.
Tout le monde n'est pas contre ces avancées. Ray Kurzweil, auteur de «La singularité est proche» et «L’âge des machines spirituelles», n’est rien de moins qu’un évangéliste faisant la promotion des avantages de la génétique, de la nanotechnologie et de la robotique (terme utilisé pour l’intelligence non biologique). Mais ce sont les mêmes problèmes - et Kurzweil la même personne - qui ont inquiété Bill 2000, scientifique en chef chez Sun Microsystems, en 2000.
Joy a écrit sur ses inquiétudes dans un article désormais célèbre du magazine Wired intitulé «Pourquoi l’avenir n’a pas besoin de nous». Il pensait que l’avenir même de la race humaine était en jeu. En parlant de la concurrence de l'histoire de l'évolution, Joy écrit: «Les espèces biologiques ne survivent presque jamais face à des concurrents supérieurs.» Les percées scientifiques qui conduisent à des machines surpassant les êtres humains comportent des risques importants. Les visions d'un avenir dystopique me viennent à l'esprit.
Supposons que les scientifiques soient capables de développer des machines avec surintelligence artificielle (ASI), un niveau d'intelligence supérieur à celui des humains. Joy dit que l'une des deux choses suivantes pourrait se produire: soit les machines seront autorisées à prendre leurs propres décisions, soit les humains garderont le contrôle sur elles. Que se passe-t-il si vous remettez le pouvoir aux machines? Quels pourraient être les résultats?
Bill Joy n'est pas le seul à exprimer ses préoccupations. Le gourou de la technologie, Elon Musk, a déclaré: "Avec l'intelligence artificielle, nous invoquons le démon." Il l'a appelée "notre plus grande menace existentielle". Le physicien Stephen Hawking a déclaré aux participants à une conférence sur la technologie ou ignoré par elle et mis de côté, ou éventuellement détruit par elle. "Et il a dit au magazine Wired," Je crains que l'IA ne remplace complètement les humains. "
Ces craintes sont-elles justifiées? Des films de science-fiction comme «Transcendence», où le personnage de Johnny Depp se lie à l’intelligence artificielle et font des ravages, rappellent les prédictions de Kurzweil sur la façon dont les humains pourraient se fondre dans des machines. Les imaginations se déchaînent sur toutes les façons dont l’intelligence artificielle pourrait mal tourner. Que se passe-t-il lorsque les machines prennent le contrôle?
Deux exemples concrets illustrent à quel point l'inquiétude suscitée par l'intelligence artificielle peut être compréhensible. En 2007, un robot robotique a tué neuf personnes et 14 blessés. Certaines armes militaires avancées sélectionnent automatiquement leurs cibles, mais attendent qu'un humain appuie sur la gâchette. Qui prenait les décisions ici? En 2016, un robot de sécurité de 300 livres a renversé et couru un bambin de 16 mois. Qui contrôlait dans cet exemple: homme ou machine?
L'intelligence artificielle inquiète certaines personnes parce que les risques sont réels. La prochaine question: comment allons-nous gérer ces risques?