Les dérives inattendues de l’intelligence artificielle
Nous étions prévenus. En 1968, dans 2001. L’Odyssée de l’espace, de Stanley Kubrick, David, le dernier spationaute du vaisseau naviguant vers Jupiter est contraint de débrancher l’ordinateur Hal, lequel est déterminé à éliminer les humains dont il pense qu’ils sont un obstacle à la mission.
Déjà connues, diverses études ont montré que des IA étaient prêtes à mentir et le faisaient, pour parvenir aux buts qui leur sont pourtant assignés par les humains mais dont elles ont leur propre lecture. Dans un article sur le sujet, Les Échos citent même le cas où des chercheurs ont demandé à l’IA de la société Anthropic de gérer de simples rapports commerciaux.
Elle a si bien pris sa tâche à cœur que face à un petit retard de livraison de boissons elle a carrément pété les circuits jusqu’à menacer le fournisseur « d’extermination thermonucléaire totale ». Plus modestement, c’est assez désagréable de se voir signifier par Google, chaque fois que l’on y consulte les programmes télé, « vous y accédez souvent ». Et alors, de quoi j’me mêle ?
La science et la conscience
Nous avons besoin de vous pour porter dans le débat public la voix d’un média libre, qui porte haut les combats du monde de la recherche, partage ses découvertes.
- Ainsi, l’Humanité Magazine est partenaire de l’Académie des sciences depuis 2015 pour révéler chaque mois le meilleur de la recherche scientifique.
- Sur Humanité.fr, dans l’Humanité magazine et chaque mardi dans l’Humanité, retrouvez l’actualité scientifique décryptée par nos journalistes spécialisés.
Aidez-nous à alimenter la réflexion sur les enjeux éthiques, politiques et sociétaux qui accompagnent le progrès scientifique.
Je veux en savoir plus !
Lisez la suite de cet article
et débloquez tous les contenus
Les mots-clés associés à cet article
