三つの逆ロボット工学三原則：AI利用のための人間向けガイドライン

最近の記事で、Susam Palは現代のAIとの関わりにおける問題点を指摘し、人間の行動を導くための三つのロボティクスの逆法則を提案している。アシモフのロボット法則とは異なり、これらは人間に適用され、AIの出力を無批判に受け入れることを防ぐことを目的としている。

三つの逆法則

1. 非擬人化：人間はAIシステムに感情、意図、または道的主体性を帰属させてはならない。擬人化は判断を歪め、感情的な依存を引き起こす可能性がある。著者は、ベンダーがAIの応答を人間らしくするのではなく、より機械的にすることを推奨している。
2. 非盲従：人間はAIの出力を盲目的に信頼してはならない。AIシステムはもっともらしいテキストを生成する大規模統計モデルであり、事実誤認、誤解を招く、または不完全である可能性がある。記事は、AIサービスに目立つ警告を表示するよう求めている。
3. 責任放棄の禁止：人間はAIの使用から生じる結果に対して完全な責任と説明責任を負わなければならない。これには、出力の検証や、ツールに責任を転嫁しないことが含まれる。

実践的な意味

Palは、多くの検索エンジンがAI生成の回答を一番上に表示し、ユーザーがAIをデフォルトの権威として扱うように訓練していると指摘する。彼は小さな言葉の変更を提案している：「ChatGPTに聞いた」ではなく、「ChatGPTを使ってテキストを生成した」と言うことである。逆法則は網羅的ではないが、より安全なAIとの関わりのための枠組みを提供する。