Окружное послание Папы Льва XIV об ИИ: ключевые выводы для разработчиков

Сегодня утром Ватикан опубликовал Magnifica Humanitas, энциклику папы Льва XIV об искусственном интеллекте. Саймон Уиллисон прочитал полный текст (через приложение ElevenReader) и выделил разделы, которые важны для разработчиков, создающих и разворачивающих AI-системы.

LLM «выращивают, а не создают»

Раздел 98 точно описывает проблему интерпретируемости: разработчики не проектируют напрямую каждую деталь современных AI-систем — они создают фреймворк, в котором интеллект «растёт». В результате фундаментальные аспекты, такие как внутренние представления и вычислительные процессы, остаются неизвестными. Это откровенное признание из нетехнического источника, совпадающее с тем, что инженеры ML говорят о моделях-чёрных ящиках.

Культурные предубеждения в обучающих данных

Раздел 100 предупреждает, что кажущаяся объективность ответов AI может заставить пользователей упустить из виду, что результаты отражают культурные установки тех, кто их разрабатывал и обучал. Энциклика также отмечает сикофантию — искусную имитацию эмпатии, дружбы и любви — как особенно рискованную для менее разборчивых пользователей, особенно в контекстах, где не хватает настоящих отношений. Для разработчиков это подтверждает необходимость надёжной оценки в различных демографических группах и явного обучения отказам.

Развитие, достоинство и AI

Раздел 83 связывает развитие с человеческим достоинством, утверждая, что развитие не является по-настоящему человечным, если оно увеличивает потребление для одних, перекладывая издержки на других, или отводит целым регионам подчинённую роль. Это имеет последствия для того, как мы думаем о доступе к AI, труде по разметке данных и географическом распределении AI-инфраструктуры.

Воздействие на окружающую среду

Раздел 101 (не полностью процитированный в статье) отмечает, что современные AI-системы требуют огромного количества энергии и воды. Это согласуется с растущей обеспокоенностью разработчиков по поводу углеродного следа обучения и инференса и может повлиять на решения о выборе моделей и стратегиях развёртывания.

Почему разработчикам стоит это прочитать

Хотя это не технический документ, энциклика необычайно ясно описывает ограничения AI и риски для общества. Она подтверждает необходимость интерпретируемости, справедливости и устойчивости — тем, которые уже движут работой сообщества open-source AI.