Ограничения скорости запросов в Claude Code могут быть связаны с перегрузкой из-за контекстного окна в 1 миллион токенов.
Расширение контекстного окна вызывает нагрузку на систему
Anthropic недавно выпустила Opus 4.6 с контекстным окном в 1 миллион токенов для всех пользователей. После этого релиза пользователи сообщили о двух значительных проблемах: ухудшении производительности при длительных задачах и увеличении проблем с пропускной способностью. Изначально не было возможности отказаться от модели с 1 млн контекста.
Теория: Неэффективное сжатие контекста
Анализ пользователя Reddit предполагает, что система сжатия контекста Claude Code — которая суммирует старую историю разговоров для экономии токенов — недостаточно агрессивна для расширенного контекстного окна в 1 млн токенов. Это означает, что каждая сессия Claude Code, вероятно, отправляет больше необработанных данных токенов на запрос, чем необходимо. При умножении на всю пользовательскую базу это создает перегрузку серверов, поскольку пользователи непреднамеренно отправляют раздутые контексты, содержащие ненужную информацию.
Влияние на лимиты использования
Теория предполагает, что краткосрочным решением Anthropic было снижение лимитов использования для компенсации возросшей нагрузки на серверы. Это объясняет, почему лимиты, по-видимому, уменьшились — пользователи расходуют токены быстрее на задачу, а не из-за преднамеренного сокращения лимитов со стороны Anthropic.
Найден обходной путь
Вчера Anthropic тихо вернула старую модель без 1 млн контекста в качестве опции. Пользователи, которые переключились на эту модель, сообщили о заметно улучшенной стабильности и более медленном потреблении своих лимитов использования, что подтверждает теорию о неэффективности контекстного окна.
Рекомендуемое действие
Для немедленного облегчения проблем с ограничениями скорости и стабильностью попробуйте отключить модель с 1 млн контекста. Долгосрочное решение, вероятно, требует улучшенных алгоритмов сжатия контекста. После их внедрения это может позволить Anthropic восстановить прежние лимиты использования.
📖 Read the full source: r/ClaudeAI
👀 Смотрите также
Liquid AI выпускает модель LFM2.5-350M для агентных циклов.
Liquid AI выпустила LFM2.5-350M, модель с 350 миллионами параметров, обученную для надежного извлечения данных и использования инструментов. При квантовании её размер составляет менее 500 МБ, и она превосходит более крупные модели, такие как Qwen3.5-0.8B, в большинстве тестов, будучи при этом быстрее и эффективнее по использованию памяти.
MCP — это просто переупакованные библиотеки: дежавю повторяется
Обсуждение на Reddit утверждает, что MCP от Anthropic — это, по сути, переупаковка программных библиотек, проводя параллели с дизайном инструментов smolagents от Hugging Face и задаваясь вопросом, стоит ли создавать новые MCP или улучшать документацию существующих библиотек.
Компания Telus внедряет технологию преобразования акцента в реальном времени для операторов колл-центров с помощью Tomato.ai
Telus использует систему преобразования речи Tomato.ai для изменения акцентов зарубежных операторов в реальном времени, что вызывает критику по поводу прозрачности и прав работников.
Результаты тестирования моделей Qwen3.5 с контекстом от 2K до 400K на RTX 4090
Разработчик протестировал несколько вариантов моделей Qwen3.5 на видеокарте RTX 4090, измерив производительность при размерах контекста от 2 048 до 400 000 токенов. Бенчмарки включают метрики времени до первого токена и выявили проблемы с некоторыми моделями, требующими тестирования с выгрузкой KV-кэша.