Contenu
- Tiré par la machine
- Automatisation et interruption de travail
- Pas de bugs, pas de stress - Votre guide étape par étape pour créer un logiciel qui change la vie sans vous détruire
- Applications de Consumer Electronics
- Reprendre le contrôle
- Comment ça pourrait marcher
Source: Artinspiring / Dreamstime.com
À emporter:
Pour que l’automatisation fonctionne avec et pour l’humanité plutôt que contre elle, nous avons besoin de garanties et de ressources humaines informées, habilitées à arrêter ou à réparer une erreur système.
"L'erreur est humaine; William E. Vaughan a fait cette observation en 1969. Le contrôle d'un système automatisé risque de provoquer des dysfonctionnements et des dommages sérieux avant que le système ne soit vérifié.
L'automatisation n'est pas nouvelle, mais elle se répand de plus en plus grâce à l'intégration des systèmes numériques et physiques. L’avantage de l’automatisation à grande échelle est une grande efficacité. Mais l'inconvénient de s'appuyer sur un système où il est difficile de penser, c'est que quelqu'un peut ne pas le configurer correctement.
Avec un système qui ne fait que suivre sans intervention et sans moyen d’arrêter les machines, vous pouvez avoir des effets destructeurs. En conséquence, les technologies peuvent créer le type de situation décrit dans «L'apprenti sorcier», lorsque ce qui semble faciliter la vie devient en réalité incontrôlable.
Tiré par la machine
L’automation sans intervention est ce qui a poussé un technicien du Royaume-Uni à se retrouver sans emploi l’année dernière. Ibrahim Diallo a remarqué que ses cartes d’attestation de sécurité ne fonctionnaient pas au travail et a découvert que c’était parce qu’il était sans emploi. "The Machine Fired Me" est le titre qu'il a donné à son article de blog étendu sur l'événement.
En fin de compte, la cause de l’arrêt de Diallo n’était pas une sorte d’évaluation de l’algorithme permettant de déterminer qui devait être éliminé. Le problème ne se trouvait pas dans le système, mais était dû à une erreur humaine. Dans ce cas, c’était toute la réponse automatisée à l’incapacité d’un humain de saisir les informations de renouvellement du contrat de Diallo.
Ce n’est pas que la machine ait décidé de se faire renvoyer pour quelque chose en particulier. Il a simplement exécuté les étapes programmées pour quelqu'un dont le statut apparaît comme n'étant plus employé. Comme il l'explique dans les commentaires, il ne s'agit pas vraiment d'IA, mais de «script automatisé». (Pour savoir comment l'IA peut aider (au lieu de blesser) dans les entreprises, consultez Ce que l'IA peut faire pour l'entreprise.)
Automatisation et interruption de travail
Ce type d’effet n’est pas exactement ce que les gens envisagent pour décrire les merveilleux avantages que nous pouvons anticiper dans un avenir automatisé. Les perspectives optimistes habituelles d'un déplacement des tâches au fur et à mesure que les tâches sont prises en charge par l'automatisation, les tâches seront redéfinies - et non par des systèmes automatisés. Mais la réalité est que certains emplois seront supprimés et que les personnes qui les occupent ne pourront pas nécessairement effectuer une transition en douceur vers de nouvelles carrières dans un secteur largement automatisé.
La perturbation de l’emploi est l’un des risques les plus mineurs envisagés par Elon Musk face à la montée d’IA, bien que sa propre vision de l’impact sur l’emploi soit bien plus pessimiste que celle de Fitzgerald. Selon Musk, AI a besoin d’une réglementation stricte car elle pose «un risque existentiel fondamental pour la civilisation humaine».
Pas de bugs, pas de stress - Votre guide étape par étape pour créer un logiciel qui change la vie sans vous détruire
Vous ne pouvez pas améliorer vos compétences en programmation lorsque personne ne se soucie de la qualité des logiciels.
Applications de Consumer Electronics
Malgré les compétences techniques de Musk, certains experts dans ce domaine, tels que Rodney Brooks, directeur fondateur du laboratoire d'informatique et d'intelligence artificielle du MIT, et cofondateur d'iRobot et de Rethink Robotics, affirment que Musk se trompe sur cette menace et sur la robotique. fonctionnent réellement.
Dans une interview avec TechCrunch, Brooks a indiqué qu'il est imprudent de réclamer des réglementations sans que les technologies ne soient suffisamment matures au point de pouvoir identifier exactement ce qui doit être réglementé. Il défia Musk: "Dis-moi, quel comportement veux-tu changer, Elon?"
Brooks a concédé que des robots entraîneraient un déplacement d’emplois. Mais il pense aussi qu'il est possible de changer le paradigme de l'industrie pour suivre celui de l'électronique grand public.
Dans l'entretien avec TechCrunch, il a déclaré: «Nous avons une tradition dans la fabrication d'équipements qui a des interfaces utilisateur épouvantables et il est difficile de suivre des cours, alors que dans l'électronique grand public, nous avons fabriqué les machines que nous utilisons comment les utiliser. “
C’est ce qui, at-il dit, devrait être l’objectif de changer notre relation aux «équipements industriels et autres types d’équipements, pour que les machines apprennent aux gens à les utiliser».
Reprendre le contrôle
Ce que suggère Brooks pourrait nous orienter vers une solution au problème de l'erreur humaine qui déclenche le processus automatisé qui semble échapper à tout contrôle. Pour revenir à la mésaventure de Mickey dans «L’apprenti sorcier», le problème vient de la personne qui active le système mais n’a aucun moyen réel de communiquer avec celui-ci pour qu’il s’arrête ou change de direction.
Mais si l'interface est conçue sur le modèle de l'électronique grand public plutôt que sur les modèles industriels traditionnels, elle pourrait littéralement redonner le contrôle à l'homme. Pour être réellement efficace, l'interface doit non seulement être accessible, mais également conçue pour tenir les gens au courant de ce qui se passe, en fournissant des données sur les mises à jour reçues et les actions entreprises.
Comment ça pourrait marcher
Dans le cas de la résiliation accidentelle de Diallo, cela signifierait que le système automatisé ne le verrouillerait pas simplement hors du système et indiquerait ensuite à son recruteur qu'il était licencié. Elle reconnaîtrait tout d'abord que le renouvellement du contrat n'avait pas été mis en place à la date prévue. Avant de commencer les actions de licenciement, il proposerait au responsable et au recruteur la mise à jour sur le manque de renouvellement et les conséquences qui en découleraient dans la journée si aucune mesure n’est prise.
Ce type d'alerte permettrait aux utilisateurs de prendre des décisions éclairées sur l'opportunité de laisser l'automatisation s'exécuter ou d'intervenir pour rectifier l'erreur humaine qui était à l'origine du problème. Mais les gens doivent aussi faire leur part, réagir à l'alerte et prendre les mesures qui s'imposent. En d’autres termes, la réponse à la question que Brooks a posée sur le comportement s’applique aux humains; ils doivent être moins passifs face à l'automatisation. (Pour plus d'informations sur la manière dont les humains et les machines peuvent travailler en coopération, voir Canaliser l'élément humain: stratégie, procédure et processus.)
Comme Diallo l'a écrit dans la section commentaires de son blog, cela a permis de comprendre que les gens ont refusé de s'en prendre à la machine:
Une autre chose qui est négligée, c'est que même si tout le monde savait que c'était une erreur humaine qui l'avait déclenchée et que c'était purement une erreur, ils ont choisi de suivre les règles de l'art. C’est comme si on mettait un panneau «fumeur autorisé» à l’hôpital et que les gens le respectent au lieu de faire preuve de bon sens.
En conséquence, les politiques que nous devons adopter pour que l’automatisation fonctionne avec et pour l’humanité plutôt que contre elle sont doubles: du côté des machines, nous avons besoin d’interfaces accessibles et informatives, et du côté humain, il habilité à identifier quand quelque chose ne va pas et à intervenir pour le rectifier.