Contenu
Q:
Pourquoi certains experts disent-ils qu'IA va "détruire l'authenticité numérique"?
UNE:
L'apprentissage automatique et l'intelligence artificielle transforment rapidement de nombreuses industries et modifient véritablement la façon dont nous concevons le progrès technologique. Mais ils suscitent également des dichotomies et des contradictions intéressantes concernant nos relations avec nos ordinateurs et nos smartphones ou avec d’autres nouvelles interfaces.
L'une des grandes questions liées à l'intelligence artificielle est de savoir comment cela affectera «l'authenticité» - ou comment les gens vérifieront et confirmeront la réalité existante, dans le «monde de la nourriture» ou dans le monde numérique. Lorsque vous examinez vraiment comment cela fonctionne, vous voyez une contradiction inhérente entre les limites de notre technologie et la manière dont nous faisons confiance à la technologie à notre disposition.
L'un des meilleurs exemples se trouve dans un article récent de Wired, qui montre comment les personnes dotées d'intelligence artificielle et de ressources d'apprentissage automatique peuvent prendre l'image d'un cheval en mouvement et superposer des bandes de zèbre dans un processus que l'auteur appelle «zèbre».
C'est soigné et nouveau, mais il peut aussi potentiellement poser un problème. Quand vous voyez un zèbre sur un écran numérique, comment savez-vous qu’il s’agit d’un zèbre, et pas seulement d’un cheval aux rayures zébrées habilement mis en place par une personne férue de technologie?
Cela peut sembler une question théorique, mais le même type de questions s’appliquera bientôt aux nouvelles que nous recevons sous forme numérique - de la politique à l’économie en passant par la religion, tout dépendra de notre capacité à filtrer l’information , pour vérifier et distinguer entre vérité et fiction, entre mythe et réalité. Alors que les nouveaux outils d’intelligence artificielle offrent plus de moyens de manipuler l’image et la vidéo, cela deviendra beaucoup plus difficile.
Les nouvelles technologies vocales sont un autre excellent exemple. Dans un article publié il y a quelques années, nous avons couvert un projet informatique en herbe qui prenait la voix de personnalités et construisait des moteurs de modélisation de voix capables de faire dire à ces célébrités quelque chose d'outre-tombe.
Encore une fois, il s’agit d’une technologie intéressante et intéressante - elle semble être une façon amusante d’utiliser les technologies de traitement de la parole. Mais cela va vraiment poser un problème lorsque nous passerons de la vieille technologie vocale analogique et numérique non restituée à la nouvelle voix synthétique et préfabriquée. Comment saurez-vous qui vous parle - au téléphone, à la télévision ou directement dans votre oreille?
Plus précisément, l'idée de modifier l'audio, l'image et la vidéo de manière sophistiquée peut contrarier certaines de nos idées les plus précieuses en tant que société. Comment les gens vont-ils faire confiance à ce qu'ils entendent et voient dans le monde politique? Qu'en est-il du droit - les accusés de crimes auront-ils de nouveaux types d'appels fondés sur une éventuelle modification de la preuve?
Une autre façon de comprendre certains de ces problèmes est de regarder l’écriture de science-fiction - de Ray Bradburys «Fahrenheit 451» à George Orwells «1984» et au-delà, les conteurs des siècles passés nous ont à plusieurs reprises avertis que la technologie pouvait être mise à la fois utile et utile. et des fins problématiques. Une des raisons pour lesquelles tant d’experts et de responsables d’informatique réclament des «comités d’éthique et d’intelligence artificielle explicables» est qu’ils comprennent l’enjeu: si nous ne contrôlons pas les technologies de manière approfondie, nous ne pourrons leur faire confiance. Plutôt que de nous aider à atteindre nos objectifs, ils pourraient finir par nous faire mal, en partie en provoquant le type de chaos social qui existe lorsque nous ne pouvons vraiment pas maîtriser la vérité et la réalité. Une partie de la bonne nouvelle, cependant, est que des technologies telles que la chaîne de blocs, qui fournit une authentification transactionnelle, peuvent être utiles lorsqu'elles sont appliquées à des enregistrements numériques.