TEMM1E v3.0.0, AI 에이전트 조정을 위한 군집 지능 도입

AI 에이전트 런타임을 위한 군집 지능

TEMM1E v3.0.0는 "Many Tems"를 도입합니다. 이는 여러 AI 에이전트 작업자들이 스티그머지(환경 신호를 통한 간접적 의사소통)를 통해 조율하는 군집 지능 시스템입니다. 이 접근 방식은 AutoGen, CrewAI, LangGraph와 같은 기존의 다중 에이전트 프레임워크에서 모든 조율 메시지가 LLM 호출과 토큰 비용을 필요로 하는 조율 오버헤드를 제거합니다.

작동 방식

• 알파(조정자)가 작업을 의존성 그래프로 분해합니다(LLM 호출 1회)
• 템 팩(작업자)이 실제 병렬 tokio 작업으로 생성됩니다
• 각 템이 원자적 SQLite 트랜잭션을 통해 작업을 요청합니다(분산 잠금 없음)
• 템이 작업하면서 시간에 따라 감소하는 페로몬인 "향기" 신호를 방출합니다 — "작업 완료", "작업 막힘", "이 작업 어려움"
• 다른 템들이 이 신호를 읽어 다음 작업을 선택합니다 — 순수 산술 연산, LLM 호출 없음
• 모든 작업이 완료되면 결과가 집계됩니다

기술적 세부사항

핵심 통찰은 컨텍스트 증가 문제를 해결합니다: 12개의 하위 작업을 처리하는 단일 에이전트는 이전의 모든 출력을 컨텍스트에 담습니다. 12번째 하위 작업까지 컨텍스트는 28배 증가합니다. 각 추가 하위 작업은 LLM이 이전의 모든 내용을 읽기 때문에 더 많은 비용이 듭니다 — 2차 성장: h*m(m+1)/2.

팩 작업자들은 자신의 작업 설명과 의존성 작업의 결과만 담습니다. 총 하위 작업 수와 관계없이 컨텍스트는 약 190바이트로 일정하게 유지됩니다. 2차가 아닌 선형적입니다.

벤치마크

실제 Gemini 3 Flash API 호출(시뮬레이션 아님):

• 12개의 독립 함수: 단일 에이전트 103초, 팩 18초. 5.86배 빠름. 7,379 토큰 대 2,149 토큰. 3.4배 저렴함. 품질: 둘 다 12/12 테스트 통과.
• 5개의 병렬 하위 작업: 단일 에이전트 7.9초, 팩 1.7초. 4.54배 빠름. 동일 토큰(1.01배 비율 — 낭비 없음 증명).
• 단순 메시지("안녕하세요"): 팩이 올바르게 활성화되지 않음. 오버헤드 없음. 눈에 띄지 않음.

차별점

• 조율 토큰 없음. AutoGen/CrewAI는 조율을 위해 LLM 간 채팅을 사용합니다 — 모든 메시지에 비용 발생. TEMM1E의 향기 필드는 산술적입니다(지수 감쇠, 자카드 유사도, 중첩). 이 수학 연산은 단일 토큰보다 저렴합니다.
• 단순 작업에서는 눈에 띄지 않음. 분류기(이미 모든 메시지에서 실행 중)가 결정합니다. "단순" 또는 "표준"이라고 판단하면 — 단일 에이전트, 오버헤드 없음. 팩은 진정으로 복잡한 다중 결과 작업에서만 활성화됩니다.

구현 세부사항

작업 선택 방정식은 LLM 호출이 아닌 40줄의 산술 연산입니다:

S = Affinity^2.0 * Urgency^1.5 * (1-Difficulty)^1.0 * (1-Failure)^0.8 * Reward^1.2

1,535개 테스트. 군집 크레이트만 71개 테스트 포함, 실제 병렬 처리 증명 테스트 2개 포함(4명 작업자가 200ms 작업을 약 200ms에 완료, 약 800ms 아님).

Rust로 구축. 17개 크레이트. 오픈 소스. MIT 라이선스. 연구 논문에는 모든 벤치마크 명령어가 포함되어 있습니다 — API 키로 모든 수치를 직접 재현할 수 있습니다.

제한 사항과 학습 내용

군집은 LLM이 "이 7가지 작업을 수행하라"는 요청을 한 번의 응답으로 처리하는 단일 턴 작업에는 도움이 되지 않습니다. 제거할 역사적 누적이 없습니다. 이는 컨텍스트가 증가하는 다중 도구 루프 라운드를 포함하는 작업에 도움이 됩니다 — 실제 에이전트 작업이 발생하는 방식입니다.

팀은 Gemini Flash Lite($0.075/M 입력), Gemini Pro, GPT-5.2에서 벤치마크를 실행했습니다. 총 실험 비용: $30 예산 중 $0.04. 전체 실험 보고서에는 군집이 이긴 경우뿐만 아니라 진 모든 시나리오도 포함되어 있습니다.