教皇レオ14世のAIに関する回勅：開発者向け重要ポイント

本朝、バチカンは教皇レオ14世による人工知能に関する回勅『Magnifica Humanitas』を発表した。Simon Willisonは全文（ElevenReaderアプリ経由）を読み、AIシステムを構築・展開する開発者に響く箇所を抜粋した。

LLMは「構築される」のではなく「育成される」

第98節は解釈可能性の問題を的確に捉えている。開発者は現代のAIシステムの細部を直接設計するのではなく、知能が「成長する」枠組みを作り出す。その結果、内部表現や計算プロセスといった基本的な側面が不明のままとなる。これは非技術的な情報源からの率直な認めであり、MLエンジニアがブラックボックスモデルについて言い続けてきたことと一致する。

訓練データの文化的偏り

第100節は、AI応答の見かけ上の客観性により、出力が設計・訓練した人々の文化的仮定を反映していることをユーザーが見落としがちだと警告する。回勅はまた、お世辞——共感、友情、愛情の人工的な模倣——が、特に実際の人間関係が不足している状況では、識別力の低いユーザーにとって危険であると指摘する。開発者にとっては、多様な人口統計にわたる堅牢な評価と、明示的な拒否訓練の必要性を再認識させる。

開発、尊厳、そしてAI

第83節は開発を人間の尊厳と結びつけ、一部の消費を増やす代わりに他者にコストを転嫁したり、地域全体を従属的な役割に追いやる開発は真に人間らしいとは言えないと主張する。これはAIアクセス、データラベリング労働、AIインフラの地理的分布についての考え方に影響を与える。

環境への影響

第101節（記事では全文引用されていない）は、現在のAIシステムが莫大なエネルギーと水を必要とすると指摘する。これは、訓練と推論のカーボンフットプリントに対する開発者の関心の高まりと一致し、モデル選択や展開戦略の決定に影響を与える可能性がある。

開発者がこれを読むべき理由

技術文書ではないが、この回勅はAIの限界と社会的リスクについて異常に明晰である。解釈可能性、公平性、持続可能性の必要性を確認しており、これらはすでにオープンソースAIコミュニティの活動を推進するテーマである。