AI 엔지니어 노트북: 프레임워크 없는 Colab 시리즈, 무료 Groq API로 RAG, 에이전트, 평가 학습

AI 엔지니어 노트북 저장소가 방금 공개되었습니다. LangChain이나 LlamaIndex 같은 프레임워크에 의존하지 않고 응용 LLM 스택 전체를 안내하는 Colab 노트북 모음입니다. 백엔드/풀스택 엔지니어가 AI 엔지니어 또는 FDE(Forward Deployed Engineer) 역할로 전환할 수 있도록 설계되었습니다. 모든 것이 무료 Groq API에서 실행되므로 신용카드가 필요 없습니다.

포함 내용

노트북은 설정 및 모델 API로 시작하여 평가, RAG, 에이전트, 적응, 보안, 서빙을 거쳐 총 12개 섹션으로 구성됩니다. 주요 하이라이트:

• 프레임워크 없는 설계 — 에이전트 루프, RAG 파이프라인, 평가 로직을 원시 API 호출로 직접 작성합니다. 목표는 LangChain과 같은 프레임워크가 실제로 무엇을 하는지 사용하기 전에 이해하는 것입니다.
• 평가를 핵심으로 — 02섹션부터 "튜닝 전 측정"이 강조되며, 이후 모든 섹션에서 평가 기법이 다시 등장합니다.
• 실제 사례 연구 — 프로덕션에서 디버깅된 지원 어시스턴트, 파이프라인 대 에이전트 비용 비교, 레드팀 견고성 벤치마크의 세 가지 엔드투엔드 예제.
• OpenAI 호환 — 모든 패턴은 기본 URL만 교체하면 OpenAI 및 Anthropic에 직접 전송됩니다.

실습 노트북

각 노트북은 자체 포함되어 있으며 종속성을 설치하고 Colab 시크릿에서 API 키를 읽습니다. 초기 노트북은 실용적인 기술을 다룹니다:

• 모델 API — 프롬프트 기초, 구조화된 출력, 도구 호출, 스트리밍, 컨텍스트 예산.
• 평가 기초 — 출력 품질 측정을 시작하기 위한 골든 세트 및 메트릭.
• RAG — 검색 → 증강 → 생성을 보여주는 15줄 데모, 임베딩 선택, 하이브리드 검색, 리랭커 포함.

이 저장소(별 480개, 포크 29개)는 86개의 커밋과 FDE/AI 엔지니어 역할 전환을 위한 동반 계획을 포함합니다. 프로덕션급 AI 기술을 구축하기 위한 실용적이고 과장 없는 리소스입니다.