Блокноты AI-инженера: серия Colab без фреймворков — изучаем RAG, агентов и оценки на бесплатном Groq API

Репозиторий AI Engineer Notebooks только что вышел — коллекция Colab-ноутбуков, которые проведут вас через весь прикладной LLM-стек без использования фреймворков вроде LangChain или LlamaIndex. Он создан для бэкенд/фулстек-инженеров, переходящих на роли AI-инженера или Forward Deployed Engineer. Все работает на бесплатном Groq API, поэтому кредитная карта не требуется.

Что внутри

Ноутбуки организованы в 12 разделов, начиная с настройки и API моделей, затем переходя к эвалам, RAG, агентам, адаптации, безопасности и обслуживанию. Ключевые моменты:

• Без фреймворков по дизайну — Вы пишете циклы агентов, RAG-конвейеры и логику оценки из сырых API-вызовов. Цель — понять, что на самом деле делают фреймворки вроде LangChain, прежде чем их использовать.
• Эвалы как основа — «Измеряй перед настройкой» подчеркивается с раздела 02, и техники оценки возвращаются в каждом последующем разделе.
• Реальные кейсы — Три сквозных примера: отладка ассистента поддержки в продакшене, сравнение стоимости конвейера и агента, и бенчмарк robustness с red-team.
• Совместимость с OpenAI — Все паттерны переносятся напрямую на OpenAI и Anthropic заменой базового URL.

Практические ноутбуки

Каждый ноутбук самодостаточен, устанавливает свои зависимости и читает API-ключи из секретов Colab. Ранние ноутбуки покрывают практические навыки:

• API моделей — Основы промптинга, структурированный вывод, вызов инструментов, стриминг и бюджетирование контекста.
• Основы эвалов — Золотые наборы и метрики для начала измерения качества вывода.
• RAG — Демо из 15 строк, показывающее retrieve → augment → generate, плюс выбор эмбеддингов, гибридный поиск и реранкеры.

Репозиторий (480 звезд, 29 форков) включает 86 коммитов и сопутствующий план перехода на роли FDE/AI-инженера. Это практичный ресурс без хайпа для развития навыков продакшен-уровня в области ИИ.