Contenu
Source: Lin Shao Hua / Dreamstime.com
À emporter:
L'avancée de l'IA est inévitable et ce que cela traduit pour l'humanité n'est pas tout à fait clair. Certains pensent que nous pouvons espérer un grand avenir, alors que d'autres pensent que cela signifie que nous sommes sur la voie d'être supplantés par nos seigneurs robotiques. La troisième perspective est consciente des risques mais les considère comme gérables.
Nous entendons beaucoup parler de l'IA et de son potentiel de transformation. Ce que cela signifie pour l'avenir de l'humanité, cependant, n'est pas tout à fait clair. Certains futuristes pensent que la vie sera améliorée, alors que d'autres pensent que la vie est sérieusement menacée. Il existe également un éventail de positions au milieu. Voici une gamme de prises de 11 experts.
1. "De loin, le plus grand danger de l'intelligence artificielle est que les gens concluent trop tôt qu'ils la comprennent." - Eliezer Yudkowsky
C’est la première phrase du rapport de 2002 de Yudkowsy intitulé «L’intelligence artificielle en tant que facteur positif et négatif dans le risque global» pour l’Institut de recherche en intelligence artificielle (MIRI). Alors que le terme «intelligence artificielle» n’était plus aussi utilisé qu’aujourd’hui, il subsiste un problème de manque de compréhension des capacités et des limites de la technologie. En fait, au cours des deux dernières années, on a davantage insisté pour que l’IA soit non seulement compréhensible, mais explicable.
2. «Ce qui est essentiel, c’est que tout ce qui concerne l’IA soit explicite, équitable, sécurisé et avec une lignée, ce qui signifie que tout le monde peut voir très simplement comment se développe une application de l’IA et pourquoi. - Ginni Rometty
Le PDG d’IBM a fait cette déclaration lors de son discours au CES le 9 janvier 2019. L’affirmation de la nécessité d’une IA explicable est que le fait de la garder comme une boîte noire scellée rend impossible la vérification et la correction des biais ou autres problèmes dans la programmation. IBM s’est donné pour mission de résoudre ce problème, en proposant non seulement des services informatiques aux entreprises, mais également des consultations sur la réduction des biais pour les concepteurs de systèmes d’apprentissage automatique. (En savoir plus sur l'IA explicable dans AI a une explication à faire.)
Pas de bugs, pas de stress - Votre guide étape par étape pour créer un logiciel qui change la vie sans vous détruire
Vous ne pouvez pas améliorer vos compétences en programmation lorsque personne ne se soucie de la qualité des logiciels.
3. "L'ultime moteur de recherche, ce qui comprendrait, vous savez, exactement ce que vous vouliez quand vous tapiez une requête, et cela vous donnerait exactement la bonne chose, en l'informatique nous appelons cela l'intelligence artificielle. Cela signifie que ce serait intelligent, et nous avons encore beaucoup de mal à avoir des ordinateurs intelligents. " - Larry Page
Le co-fondateur et PDG de Google à l'époque a déclaré cela en novembre 2002 lors d'un segment de PBS NewsHour intitulé "Google: le moteur de recherche qui pourrait." L'hôte a ouvert avec une réflexion sur la popularité croissante de Google dans l'année où le dialecte américain La société l'a classé comme le verbe le plus utile à utiliser, même s'il faudrait encore quelques années avant qu'il soit reconnu par des personnalités telles que Merriam-Webster. Mais même très tôt, la société a manifesté son intérêt pour l'utilisation de l'IA.
4. “Évitez à tout prix toute mention ou implication de l'IA. L'intelligence artificielle armée est probablement l'un des sujets d'intelligence artificielle les plus sensibilisés - sinon LE PLUS. Il s’agit de donner aux médias la possibilité de trouver tous les moyens d’endommager Google. » - Fei Fei Li, pionnier de l’intelligence artificielle chez Google, s’est entretenu avec des collègues au sujet de la participation de la société au projet Maven
Google a découvert qu'être un acteur majeur de l'IA peut avoir des inconvénients. En juillet 2017, le département de la Défense a présenté ses objectifs pour le projet Maven. Le colonel Drew Cukor, chef du Corps des marines, chef de l’équipe multidisciplinaire de guerre algorithmique au sein de la Direction des opérations de renseignement, de surveillance et de reconnaissance au Bureau du Sous-secrétaire à la Défense du renseignement, a exposé son objectif déclaré pour l’année: les ordinateurs travailleront en symbiose pour augmenter la capacité des systèmes d'armes à détecter des objets. "
Google avait été un partenaire de cette entreprise, mais - comme l'indique la citation ci-dessus - les employés de Google ne l'aimaient pas. Finalement, la société a cédé à la pression et a annoncé en juin 2018 qu'elle ne renouvellerait pas son contrat avec le département de la Défense. Comme le rapportait l'Intercept:
La pression de Google augmentait depuis que le contrat a été révélé par Gizmodo et The Intercept en mars. Près d'une douzaine d'employés ont démissionné en signe de protestation et plusieurs milliers ont signé une lettre ouverte déclarant que «Google ne devrait pas être impliqué dans la guerre». Plus de 700 universitaires ont également signé une lettre exigeant que «Google mette fin à son contrat avec le DoD». Google et sa société mère Alphabet s'engagent à ne pas développer de technologies militaires ni à utiliser les données personnelles qu'ils collectent à des fins militaires. "
5. «L'intelligence artificielle atteindra les niveaux humains d'ici 2029 environ. Poursuivez dans cette voie, par exemple, en 2045, nous aurons multiplié par un milliard l'intelligence, l'intelligence de la machine biologique humaine de notre civilisation.» - Ray Kurzweil
Le futuriste et l'inventeur ont déclaré cela dans une interview de 2012 dans laquelle il parlait de la réalisation de l'immortalité grâce à la puissance de calcul. Il a confirmé le chiffre «un milliard de fois» et l’a expliqué comme suit: «C’est un changement tellement singulier que nous empruntons cette métaphore à la physique et l’appelons une singularité, un profond bouleversement de l’histoire humaine. Notre pensée deviendra un hybride de pensée biologique et non biologique. »De toute évidence, il fait partie des futuristes optimistes, imaginant un changement perturbateur qui sera d'un grand avantage. Il a ensuite expliqué pourquoi il pensait que l'immortalité était à portée de main: «Nous ajouterons plus d'un an chaque année à votre espérance de vie restante, où le temps presse plutôt que de s'épuiser, où votre espérance de vie restante est en fait la plus longue possible. le temps passe."
6. «Le plus grand avantage de l'arrivée de l'intelligence artificielle est que les IA aideront à définir l'humanité. Nous avons besoin d'IA pour nous dire qui nous sommes. - Kevin Kelly
Le cofondateur de Wired a écrit cette affirmation radicale dans son livre de 2016 intitulé «L'inévitable: comprendre les 12 forces technologiques qui façonneront notre avenir». Envisageant la montée de l'automatisation et la prise en charge d'emplois par des robots, il anticipe qu'il Ce sera un cycle répété de refus, mais les progrès sont inévitables et nous devrons nous adapter en conséquence. Comme il l'a expliqué dans une interview à IBM: "Grâce à l'IA, nous allons inventer de nombreux nouveaux types de pensées qui n'existent pas biologiquement et qui ne ressemblent pas à la pensée humaine", et le côté positif qu'il met en évidence dans le nuage informatique qu'il met en évidence. est la suivante: "Par conséquent, cette intelligence ne remplace pas la pensée humaine, mais l'augmente."
7. «Le risque réel avec l’IA n’est pas la méchanceté mais la compétence. UNE IA superintelligent sera extrêmement efficace dans la réalisation de ses objectifs, et si ces objectifs ne sont pas alignés sur les nôtres, nous aurons des problèmes. Vous n’êtes probablement pas un haineux pervers qui marche sur les fourmis par méchanceté, mais si vous êtes en charge d’un projet d’énergie verte hydroélectrique et qu’il ya une fourmilière dans la région qui doit être inondée, tant pis pour les fourmis. Ne plaçons pas l’humanité dans la position de ces fourmis. " - Stephen Hawking
Cette citation date du début de 2015. C’est la réponse que Stephen Hawking a proposée lors d’une séance de questions / réponses Reddit AMA (Ask Me Anything) à une question posée par un enseignant qui souhaitait savoir comment répondre à certaines préoccupations de l’IA dans son cours, à savoir: Suivant:
Comment représenteriez-vous vos propres croyances dans ma classe? Nos points de vue sont-ils conciliables? Pensez-vous que mon habitude de dénigrer le «mauvais AI» du style laïque de Terminator est naïve? Et enfin, quelle morale pensez-vous que je devrais renforcer chez mes étudiants intéressés par l'IA?
Hawking est préoccupé par les effets potentiellement destructeurs de l'IA sur l'humanité, bien qu'il semble croire que le risque peut être géré si nous le planifions, un point de vue partagé par d'autres. (Pour plus d'informations à ce sujet, voir Pourquoi les IA superintelligentes ne détruiront-elles pas les humains de si tôt?)
8. "Vous voulez savoir comment super-intelligent cyborgs pourrait traiter des humains ordinaires de chair et de sang? Mieux vaut commencer par étudier comment les humains traitent leurs cousins animaux moins intelligents. Bien sûr, ce n’est pas une analogie parfaite, mais c’est le meilleur archétype que nous puissions réellement observer plutôt que de simplement imaginer. " - Yuval Noah Harari
Le professeur Harari a fait cette déclaration dans son livre de 2017, "Homo Deus: une brève histoire de demain". Son point de vue est tout à fait différent de celui des futuristes positifs en décrivant la montée de ce qu'il appelle le dataïsme dans lequel l'homme cède le intelligence artificielle. Nous sommes tenus que la position des fourmis soit inondée dans les explications de Hawking. Il s’agit d’un avenir dominé par un «système de traitement de données cosmique» omniprésent et omniscient, et la résistance est futile.
9. "Nous devons aborder, individuellement et collectivement, les problèmes moraux et éthiques soulevés par la recherche de pointe en intelligence artificielle et biotechnologie, ce qui permettra une prolongation significative de la durée de vie, la création de bébés et l’extraction de mémoire. ” - Klaus Schwab
Schwab a publié ses réflexions sur la quatrième révolution industrielle en janvier 2016. Comme les futuristes positifs, il envisageait que l'avenir fusionne «les mondes physique, numérique et biologique de manière à transformer fondamentalement l'humanité». Mais il ne l'a pas pris pour acquis. qu’une telle «transformation est positive», exhortant les gens à planifier à l’avenir en prenant conscience des «risques et des opportunités qui se présentent tout au long du processus».
10. «On a beaucoup écrit sur le potentiel d’Amnesty International pour refléter à la fois le meilleur et le pire de l’humanité. Par exemple, nous avons vu l'IA apporter conversation et réconfort aux personnes seules; Nous avons également vu Amnesty International se livrer à la discrimination raciale. Pourtant, le principal préjudice que l'IA puisse causer à court terme aux individus est le déplacement de travail, car la quantité de travail que nous pouvons automatiser avec l'IA est beaucoup plus importante qu'auparavant. En tant que dirigeants, il nous incombe à tous de veiller à construire un monde dans lequel chaque individu a la possibilité de s'épanouir. " - Andrew Ng
Cette citation est tirée de «Ce que l’intelligence artificielle peut et ne peut pas faire maintenant», de l’article Andrew Ng, dirigeant fondateur de l’équipe Google Brain, ancien directeur du Laboratoire d’intelligence artificielle de Stanford, a écrit pour la revue Harvard Business Review en 2016 était la tête de l'équipe d'IA de Baidu. (En 2017, il est devenu le fondateur et directeur de Landing AI.) Il explique les capacités et les limites de l'IA à l'époque et est toujours d'actualité. Bien que Ng ne propose pas un avenir dystopique dominé par les données, il convient cependant que ceux qui le développent ont la responsabilité de l'appliquer de manière responsable, en comprenant parfaitement les conséquences voulues et imprévues.
11. «Il n'y a aucune raison ni aucun moyen pour qu'un esprit humain puisse suivre une machine artificielle intelligente d'ici 2035.» - Gray Scott
Cette citation n’est pas erronée, même si elle diffère de la façon dont vous la verrez ailleurs en ligne car elle apparaît toujours sous la forme «Il n’ya aucune raison et aucun moyen pour un esprit humain de faire face à une machine à intelligence artificielle d’ici 2035». récit. D'après ses origines dans les sources numériques, cela aurait probablement été dit en 2015. Cependant, je ne pouvais pas l'assimiler à un problème particulier, même après des heures de recherche dans les vidéos et les vidéos de cette période. J'ai donc contacté Scott lui-même pour demander la source. Il a admis: «Je ne me souviens pas de la première fois où j'ai dit ceci ou de l'endroit où il se trouvait.» Mais il s'est rappelé de son libellé: «La citation a toujours été fausse. Il devrait se lire "Intelligent artificiel".
