Contenu
- Attraper un voleur. . .
- Pas de bugs, pas de stress - Votre guide étape par étape pour créer un logiciel qui change la vie sans vous détruire
- Arrêter la propagation
Source: Mast3r / Dreamstime.com
À emporter:
Les chercheurs se tournent vers AI pour lutter contre les fausses informations. Mais cela peut-il vraiment aider ou va-t-il simplement aggraver les choses?
Les fausses nouvelles devraient constituer une épine dorsale majeure pour la prochaine élection présidentielle, sans parler de son effet corrosif global sur notre discours public en général. Dans la société connectée d’aujourd’hui, il est de plus en plus difficile de distinguer les faits de la fiction. C’est pourquoi certains chercheurs commencent à se concentrer sur le pouvoir de l’intelligence artificielle pour résoudre ce problème.
L'espoir, bien sûr, est que les machines, ou plus précisément les algorithmes, seront meilleurs que les humains pour détecter les mensonges. Mais s’agit-il d’une attente réaliste, ou s’agit-il simplement d’un autre cas où la technologie est confrontée à un problème apparemment insoluble?
Attraper un voleur. . .
L’un des moyens par lesquels les scientifiques de l’information envisagent de renforcer le savoir-faire d’Amnesty International dans ce domaine consiste à lui permettre de générer de fausses informations. L’Allen Institute for AI de l’Université de Washington a développé et rendu public Grover, un moteur de traitement du langage naturel conçu pour créer de fausses histoires sur un large éventail de sujets. Bien que cela puisse sembler contre-productif au début, il s'agit en fait d'une tactique d'entraînement à l'IA assez commune dans laquelle une machine analyse les résultats d'une autre. De cette façon, le côté analytique peut être accéléré beaucoup plus rapidement que de compter sur de fausses nouvelles. L'institut affirme que Grover peut déjà fonctionner avec un taux de précision de 92%, mais il est important de noter qu'il est habile à distinguer le contenu généré par l'IA du contenu généré par l'homme, ce qui signifie qu'une personne intelligente pourrait encore se faufiler. passé le. (Pour en savoir plus, consultez Technologies autour de la lutte contre les fausses informations.)
Entre de bonnes mains, bien entendu, Grover peut rapidement faire progresser notre compréhension de la création et de la diffusion de fausses informations, ce qui peut théoriquement être utilisé pour la contrecarrer dans le monde réel. Mais comme Futurism.com l’a noté récemment, certains experts qui ont testé le système sont alarmés par son efficacité à créer des mensonges crédibles, voire à imiter les styles d’écriture de journaux légitimes comme le Wall Street Journal et le New York. Fois.
Mais étant donné que mentir est un acte intrinsèquement intuitif et émotionnel, est-il possible que même les machines les plus intelligentes, toujours soumises à une logique froide et dure, puissent jamais atteindre le niveau de compréhension conuelle nécessaire pour repérer un mensonge? Maria Almeida de Unbabel a récemment noté que, même si certaines itérations peuvent s’en tirer très bien, aucun algorithme ne peut espérer parvenir à une compréhension humaine complète. Cela signifie que l'intelligence artificielle pourrait peut-être apporter des améliorations considérables à la vérification des faits et à l'analyse comparative, mais il serait préférable de laisser l'appel final à des experts qualifiés.
Ironiquement, toutefois, cette capacité sera particulièrement utile pour détecter les profondes vidéos fausses qui commencent à circuler sur les médias sociaux. Avec une intelligence artificielle capable d'analyser des données visuelles jusqu'à des pixels individuels, il sera beaucoup plus apte à détecter des images altérées que des mots et des concepts altérés.
Cependant, affirme Charles Towers-Clark de Forbes, le problème central des fausses informations n’est pas que quelques personnes la créent, mais que tant de personnes en subissent l’influence. Les gens ont tendance à croire ce qu'ils veulent croire, et non ce que les faits les amènent à croire. Ainsi, même si un moteur d’IA hautement développé déclare que sa conviction est fausse, les utilisateurs seront plus enclins à douter de la machine qu’eux-mêmes.
«La mise en œuvre du machine learning pour lutter contre la propagation de fausses informations est admirable», a-t-il déclaré. «Il est nécessaire de s'attaquer à ce problème, car la fiabilité des principaux médias est mise en question. Mais avec la propagation de la désinformation composée par les médias sociaux, la détection et la révélation des sources de fausses informations peuvent-elles vaincre l'instinct humain de croire ce que l'on nous dit? "
Pas de bugs, pas de stress - Votre guide étape par étape pour créer un logiciel qui change la vie sans vous détruire
Vous ne pouvez pas améliorer vos compétences en programmation lorsque personne ne se soucie de la qualité des logiciels.
Le véritable défi n'est donc pas d'identifier et de démystifier les fausses nouvelles, mais de comprendre pourquoi elles ont tendance à se diffuser sur les médias sociaux beaucoup plus rapidement que les vraies nouvelles. Cela est en partie dû à la nature même de la fausse nouvelle, qui a tendance à être excitante et salace par rapport à l’ennui comparatif de la réalité. En fin de compte, est-il réaliste de s’attendre à ce que la technologie corrige ce qui est essentiellement un problème non technique? (Pour en savoir plus sur la manière dont l'IA change de média, voir 5 Avancées d'AI en édition et média.)
Arrêter la propagation
C’est pourquoi il est important de concentrer l’intelligence artificielle sur l’aspect technique des fausses informations, et non sur l’aspect humain, explique Robin Harris de ZDNet. Et en effet, la plupart des chercheurs forment l'IA à la saisie de différences telles que la distinction entre les modèles de propagation naturels et artificiels à travers les réseaux sociaux. Des indicateurs clés tels que les taux d'arborescence de conversion, le minutage de retweet et les données de réponse globales peuvent être utilisés pour identifier et neutraliser les campagnes de désinformation, même si leur source est masquée sous des couches de subterfuge numérique. Simultanément, l'intelligence artificielle peut être utilisée pour gérer d'autres technologies, telles que la blockchain, afin de maintenir des canaux d'informations traçables et vérifiables.
Le fait est que les fausses nouvelles ne sont pas un phénomène nouveau. Du journalisme muckraking du début des années 20th siècle depuis la propagande des premières civilisations, tromper le public est une tradition séculaire des gouvernements, qu'il soit révolutionnaire ou non. La différence aujourd'hui est que la technologie numérique a démocratisé cette capacité au point que presque tout le monde peut poster un mensonge et le regarder se répandre dans le monde en quelques heures.
Des technologies telles que l'intelligence artificielle peuvent certainement contribuer à clarifier cette confusion, mais seules les personnes peuvent comprendre et juger la vérité.