Trois lois inverses de la robotique : Directives humaines pour l'utilisation de l'IA

Dans un article récent, Susam Pal identifie les pièges des interactions modernes avec l'IA et propose trois Lois Inverses de la Robotique pour guider le comportement humain face aux systèmes d'IA. Contrairement aux lois d'Asimov pour les robots, celles-ci s'appliquent aux humains et visent à prévenir l'acceptation sans esprit critique des résultats de l'IA.

Les trois lois inverses

1. Non-anthropomorphisme : Les humains ne doivent pas attribuer d'émotions, d'intentions ou d'agence morale aux systèmes d'IA. L'anthropomorphisme fausse le jugement et peut conduire à une dépendance émotionnelle. L'auteur recommande aux fournisseurs de rendre les réponses de l'IA plus mécaniques plutôt qu'humaines.
2. Non-déférence : Les humains ne doivent pas faire aveuglément confiance aux résultats de l'IA. Les systèmes d'IA sont de grands modèles statistiques produisant un texte plausible ; ils peuvent être factuellement incorrects, trompeurs ou incomplets. L'article appelle à des avertissements visibles sur les services d'IA.
3. Non-renonciation à la responsabilité : Les humains doivent rester pleinement responsables des conséquences découlant de l'utilisation de l'IA. Cela inclut la vérification des résultats et le fait de ne pas rejeter la faute sur l'outil.

Implications pratiques

Pal note que de nombreux moteurs de recherche mettent en avant les réponses générées par l'IA en haut des résultats, habituant les utilisateurs à considérer l'IA comme l'autorité par défaut. Il suggère de petites modifications linguistiques : au lieu de « J'ai demandé à ChatGPT », dire « J'ai utilisé ChatGPT pour générer du texte ». Les lois inverses ne sont pas exhaustives mais fournissent un cadre pour une interaction plus sûre avec l'IA.