Окружное послание Папы Льва XIV об ИИ: ключевые выводы для разработчиков
Сегодня утром Ватикан опубликовал Magnifica Humanitas, энциклику папы Льва XIV об искусственном интеллекте. Саймон Уиллисон прочитал полный текст (через приложение ElevenReader) и выделил разделы, которые важны для разработчиков, создающих и разворачивающих AI-системы.
LLM «выращивают, а не создают»
Раздел 98 точно описывает проблему интерпретируемости: разработчики не проектируют напрямую каждую деталь современных AI-систем — они создают фреймворк, в котором интеллект «растёт». В результате фундаментальные аспекты, такие как внутренние представления и вычислительные процессы, остаются неизвестными. Это откровенное признание из нетехнического источника, совпадающее с тем, что инженеры ML говорят о моделях-чёрных ящиках.
Культурные предубеждения в обучающих данных
Раздел 100 предупреждает, что кажущаяся объективность ответов AI может заставить пользователей упустить из виду, что результаты отражают культурные установки тех, кто их разрабатывал и обучал. Энциклика также отмечает сикофантию — искусную имитацию эмпатии, дружбы и любви — как особенно рискованную для менее разборчивых пользователей, особенно в контекстах, где не хватает настоящих отношений. Для разработчиков это подтверждает необходимость надёжной оценки в различных демографических группах и явного обучения отказам.
Развитие, достоинство и AI
Раздел 83 связывает развитие с человеческим достоинством, утверждая, что развитие не является по-настоящему человечным, если оно увеличивает потребление для одних, перекладывая издержки на других, или отводит целым регионам подчинённую роль. Это имеет последствия для того, как мы думаем о доступе к AI, труде по разметке данных и географическом распределении AI-инфраструктуры.
Воздействие на окружающую среду
Раздел 101 (не полностью процитированный в статье) отмечает, что современные AI-системы требуют огромного количества энергии и воды. Это согласуется с растущей обеспокоенностью разработчиков по поводу углеродного следа обучения и инференса и может повлиять на решения о выборе моделей и стратегиях развёртывания.
Почему разработчикам стоит это прочитать
Хотя это не технический документ, энциклика необычайно ясно описывает ограничения AI и риски для общества. Она подтверждает необходимость интерпретируемости, справедливости и устойчивости — тем, которые уже движут работой сообщества open-source AI.
📖 Читать полный источник: HN AI Agents
👀 Смотрите также
ИИ-модели не обладают самосознанием в отношении собственных инструментов и пользовательского интерфейса.
ИИ-модели, такие как ChatGPT и Claude, часто предоставляют неверную или устаревшую информацию о собственных функциях и интерфейсах, например, отрицают существование новых слеш-команд или описывают старые версии интерфейса, поскольку они обучены на прошлых снимках данных, в то время как продукты постоянно развиваются.
EFF: Администрация Трампа отомстила Anthropic за отказ от работы над автономным оружием
Пентагон ответил репрессиями на отказ Anthropic использовать свои модели для автономного оружия или массовой слежки, что, по мнению EFF, нарушает Первую поправку.
InclusionAI выпускает Ring-2.6-1T: триллионная модель для агентских рабочих процессов
InclusionAI представила Ring-2.6-1T — модель рассуждений с 1 триллионом параметров, оптимизированную для выполнения агентских задач, с двумя уровнями глубины рассуждений (high/xhigh) и асинхронным RL-обучением с использованием алгоритма IcePop.
Merlin Research выпускает модель Qwen3.5-4B-Safety-Thinking для структурированного рассуждения.
Исследовательская группа Merlin Research представила Qwen3.5-4B-Safety-Thinking — модель рассуждений с 4 миллиардами параметров, ориентированную на безопасность и построенную на основе Qwen3.5. Модель предназначена для структурированного «мышления» и обеспечения безопасности в реальных сценариях, включая агентные системы.