La mésaventure d’un proviseur américain, cas d’école des dangers de l’IA
Publié le - par LeBlob.fr, avec l'AFP
Après l’indignation provoquée dans un lycée américain par la diffusion de propos racistes attribués au proviseur, le vertige de découvrir que la bande sonore a été montée de toutes pièces. Cet épisode illustre les dangers d’une intelligence artificielle devenue accessible à tous.
Eric Eiswert, proviseur à Pikesville dans le Maryland, près de Washington, s’est retrouvé au cœur d’une violente polémique avec un enregistrement vocal — qui se révélera un faux — lui faisant prononcer des commentaires choquants contre des élèves juifs et des « enfants noirs ingrats ».
L’affaire, qui survient en pleine année électorale aux États-Unis, met en lumière la facilité avec laquelle les outils d’IA générative peuvent être employés pour nuire à tout un chacun, et les difficultés auxquelles font face les autorités pour lutter contre de telles pratiques.
« Désormais, tout le monde est vulnérable », et non plus seulement les célébrités, alerte Hany Farid, professeur à l’Université de Californie à Berkeley (ouest).
« Il suffit d’une image pour ajouter une personne dans une vidéo, et 30 secondes d’audio pour cloner la voix de quelqu’un », poursuit le spécialiste en détection d’images et d’enregistrements manipulés numériquement, consulté par la police dans cette affaire.
Quand l’enregistrement fuite sur les réseaux sociaux en janvier, il devient rapidement viral. Une publication recueille des milliers de commentaires sur Instagram, et propulse l’école au cœur d’une polémique nationale.
Le militant des droits civiques DeRay McKesson réclame la démission du proviseur sur son compte X, suivi par près d’un million d’internautes. Il admettra s’être fait abuser.
Les messages haineux pleuvent sur les réseaux sociaux et les coups de fil menaçants se multiplient dans l’établissement. Le « monde serait meilleur si vous étiez sous terre », écrit ainsi un internaute au proviseur.
Ce dernier est placé en congé, son domicile mis sous protection. Contacté par l’AFP, il n’a pas répondu.
