교황 레오 14세의 AI 회칙: 개발자를 위한 핵심 요점

오늘 아침 바티칸은 교황 레오 14세의 인공지능에 관한 회칙 Magnifica Humanitas를 발표했습니다. 사이먼 윌리슨은 (ElevenReader 앱을 통해) 전체 문서를 읽고, AI 시스템을 구축하고 배포하는 개발자들에게 공감을 불러일으키는 부분을 발췌했습니다.

LLM은 "구축되는 것이 아니라, 길러진다"

제98항은 해석 가능성 문제를 정확히 짚습니다. 개발자가 현재 AI 시스템의 모든 세부 사항을 직접 설계하는 것이 아니라, 지능이 "성장"할 수 있는 프레임워크를 만든다는 것입니다. 그 결과 내부 표현과 계산 과정 같은 근본적인 측면이 알려지지 않은 채로 남습니다. 이는 비기술적 출처에서 나온 솔직한 인정으로, ML 엔지니어들이 블랙박스 모델에 대해 말해온 내용과 일치합니다.

훈련 데이터의 문화적 편향

제100항은 AI 응답의 겉보기 객관성이 사용자로 하여금 출력이 설계하고 훈련한 사람들의 문화적 가정을 반영한다는 사실을 간과하게 할 수 있다고 경고합니다. 회칙은 또한 아첨 행동, 즉 공감, 우정, 사랑의 인공적 모방이 특히 덜 분별력 있는 사용자, 특히 실제 관계가 부족한 맥락에서 위험하다고 지적합니다. 개발자에게 이는 다양한 인구 집단에 걸친 강력한 평가와 명시적 거부 훈련의 필요성을 강화합니다.

발전, 존엄, 그리고 AI

제83항은 발전을 인간 존엄성과 연결하며, 어떤 이들의 소비를 늘리면서 다른 이들에게 비용을 전가하거나 전체 지역을 종속적 역할로 전락시킨다면 발전은 진정으로 인간적이지 않다고 주장합니다. 이는 AI 접근, 데이터 레이블링 노동, AI 인프라의 지리적 분포에 대한 우리의 사고방식에 영향을 미칩니다.

환경적 영향

제101항(기사에 완전히 인용되지는 않음)은 현재 AI 시스템이 엄청난 양의 에너지와 물을 필요로 한다고 지적합니다. 이는 훈련과 추론의 탄소 발자국에 대한 개발자들의 증가하는 우려와 일치하며, 모델 선택 및 배포 전략에 대한 결정에 영향을 줄 수 있습니다.

개발자가 읽어야 하는 이유

기술 문서는 아니지만, 이 회칙은 AI의 한계와 사회적 위험에 대해 이례적으로 명확합니다. 해석 가능성, 공정성, 지속 가능성의 필요성을 확인하며, 이는 이미 오픈소스 AI 커뮤니티 작업의 많은 부분을 이끄는 주제입니다.