Пентагон установил пятницу крайним сроком для компании Anthropic, чтобы та отказалась от правил этики ИИ.
Пентагон установил пятничный срок для компании Anthropic, чтобы та отказалась от правил этики ИИ, согласно отчету Politico. Это событие связано с давлением Министерства обороны США на компанию, занимающуюся искусственным интеллектом, с целью устранения этических ограничений в её технологиях.
Исходный материал указывает, что эта новость обсуждалась на Hacker News, где она получила 15 баллов и вызвала 3 комментария. URL статьи ведёт к освещению истории Politico, в то время как URL комментариев ведёт к ветке обсуждения на Hacker News.
Хотя исходный текст краток, эта ситуация затрагивает важные вопросы в развитии ИИ. Anthropic, известная своим подходом Constitutional AI, внедрила конкретные этические ограничения в свои модели. Требование Пентагона поднимает вопросы о военном применении ИИ и напряжении между этическими ограничениями и операционными требованиями.
Для разработчиков, работающих с агентами ИИ, эта новость подчёркивает, как внешнее давление может повлиять на приоритеты в развитии ИИ. Результат может повлиять на то, как компании, занимающиеся ИИ, балансируют этические соображения с государственными контрактами и требованиями.
📖 Read the full source: HN AI Agents
👀 Смотрите также
Claude Code v2.1.129: Руководство по поддержанию автономного цикла и классификатор состояния фонового агента
Claude Code v2.1.129 добавляет системный запрос CLAUDE_CODE_LOOP_PERSISTENT для автономных рабочих циклов, удаляет специалиста по верификации и расширяет классификатор состояний фонового агента с подробными границами.
Claude Code v2.1.161: Атрибуты OTEL, исправления параллельных инструментов и редактирование секретов MCP
v2.1.161 включает атрибуты ресурсов OTEL в качестве метрик, независимые результаты параллельных вызовов инструментов, редактирование секретов MCP и множество исправлений ошибок для субагентов, хуков Windows и событий журнала OpenTelemetry.
Агенты ИИ для написания кода испытывают трудности с управлением контекстом в больших кодовых базах.
Анализ ИИ-агентов для написания кода показывает, что они тратят 15–20 вызовов инструментов на ознакомительные задачи, такие как поиск маршрутов через grep и чтение промежуточного ПО, прежде чем начать писать код, расходуя контекстное окно. Vercel достиг 100% точности, убрав 80% инструментов и используя bash, в то время как Pi использует всего 4 инструмента и системный промпт менее 1000 токенов.
Бенчмарк SPLICE показывает, что визуально-языковые модели испытывают трудности с временными рассуждениями и полагаются на языковые пресуппозиции.
Исследование, представленное на EMNLP 2025, показывает, что модели «визуальный язык» плохо справляются с задачей упорядочивания видео, в которой люди преуспевают. Модели, такие как Gemini 2.0 Flash, достигают точности 51% по сравнению с человеческим показателем в 85%. Модели часто полагаются на визуальные «ярлыки» и текстовые описания, а не на истинное понимание визуальной информации.