Гендиректор OpenAI Сэм Олтман поддерживает «красные линии» Пентагона для Anthropic и предлагает технические меры защиты.

Этические границы OpenAI в области оборонного ИИ

Генеральный директор OpenAI Сэм Олтман публично поддержал позицию Anthropic в её продолжающемся разногласии с Пентагоном, заявив, что OpenAI разделяет те же этические «красные линии» в отношении применения ИИ. В частности, обе компании выступают против использования ИИ для массовой слежки и автономных систем вооружения.

Технические меры безопасности вместо договорных подходов

Чтобы разрешить тупиковую ситуацию с Министерством обороны, OpenAI работает над сделкой, которая делает акцент на технических мерах безопасности, а не на договорных ограничениях. Предлагаемый подход включает такие меры, как развертывание исключительно в облаке, что позволит сохранять контроль над системами ИИ с помощью ограничений инфраструктуры, а не юридических соглашений.

Этот технический подход к управлению ИИ отражает растущую тенденцию в отрасли, когда компании внедряют архитектурные ограничения для соблюдения этических границ. Например, развертывание исключительно в облаке предотвращает локальное выполнение моделей, которое можно было бы изменить для запрещённого использования, сохраняя при этом журналы аудита и мониторинг использования через централизованную инфраструктуру.

Растущий интерес Пентагона к возможностям ИИ для оборонных применений создал напряжённость с компаниями, занимающимися ИИ, которые установили этические принципы. Эта ситуация подчёркивает практические трудности реализации ответственной политики ИИ при работе с государственными контрактами, которые могут иметь двойное назначение.