Гендиректор OpenAI Сэм Олтман поддерживает «красные линии» Пентагона для Anthropic и предлагает технические меры защиты.
Этические границы OpenAI в области оборонного ИИ
Генеральный директор OpenAI Сэм Олтман публично поддержал позицию Anthropic в её продолжающемся разногласии с Пентагоном, заявив, что OpenAI разделяет те же этические «красные линии» в отношении применения ИИ. В частности, обе компании выступают против использования ИИ для массовой слежки и автономных систем вооружения.
Технические меры безопасности вместо договорных подходов
Чтобы разрешить тупиковую ситуацию с Министерством обороны, OpenAI работает над сделкой, которая делает акцент на технических мерах безопасности, а не на договорных ограничениях. Предлагаемый подход включает такие меры, как развертывание исключительно в облаке, что позволит сохранять контроль над системами ИИ с помощью ограничений инфраструктуры, а не юридических соглашений.
Этот технический подход к управлению ИИ отражает растущую тенденцию в отрасли, когда компании внедряют архитектурные ограничения для соблюдения этических границ. Например, развертывание исключительно в облаке предотвращает локальное выполнение моделей, которое можно было бы изменить для запрещённого использования, сохраняя при этом журналы аудита и мониторинг использования через централизованную инфраструктуру.
Растущий интерес Пентагона к возможностям ИИ для оборонных применений создал напряжённость с компаниями, занимающимися ИИ, которые установили этические принципы. Эта ситуация подчёркивает практические трудности реализации ответственной политики ИИ при работе с государственными контрактами, которые могут иметь двойное назначение.
📖 Read the full source: r/ClaudeAI
👀 Смотрите также
Доказательство идентичности модели с помощью технологии Modelwrap от Tinfoil
Модель Modelwrap от Tinfoil гарантирует, что провайдеры вывода используют именно те веса модели, которые они заявляют, используя криптографические обязательства, проверенные с помощью защищенных сред выполнения.
Qwen3.6-27B помещается в один 24-ГБ GPU, превосходит бывший 397B MoE на SWE-bench
Qwen3.6-27B (Apache 2.0, контекст 262K) работает в Q4_K_M, используя ~16,8 ГБ, и достигает 77,2 на SWE-bench Verified — превосходя Qwen3.5-397B-A17B MoE (76,2). Использует линейное внимание Gated DeltaNet с сохранением рассуждений для агентных рабочих процессов.
Anthropic ограничивает использование подписки на Claude в сторонних инструментах, таких как OpenClaw.
Anthropic меняет политику подписки на Claude, блокируя использование в сторонних оболочках, включая OpenClaw, и с 4 апреля требует отдельной оплаты по мере использования для этих инструментов. Компания предлагает единовременный кредит, равный ежемесячной стоимости подписки, и скидки до 30% при предварительной покупке.
Исследования показывают, что личностные характеристики влияют на способность Claude к самокоррекции, но не оказывают такого же эффекта на Llama или Qwen.
Исследователь провел 23 эксперимента, тестируя самокоррекцию без ограничений на моделях Claude, Llama и Qwen. Основной вывод: профили личности влияют на способность Claude к самокоррекции — высокая прямолинейность выявляет все ошибки, а низкая — ни одной. Llama и Qwen не осуществляли самокоррекцию даже при идентичных промптах.