GitHub에서 60,535 stars(2025년 기준)를 기록하며 multi-agent framework 분야에서 꾸준히 상위권을 지키고 있다. AutoGen은 Microsoft Research의 Chi Wang(潘若明) 등이 주도했고, 2023년 9월 첫 공개 이후 2년 넘게 커뮤니티에서 가장 활발한 프로젝트 중 하나로 남아 있다.
이 프레임워크가 주목받는 이유는 뭔가 복잡한 걸 만들어서가 아니라, 오히려 추상화가 충분히 단순하기 때문이다. 작업을 여러 「대화 가능한 Agent」에게 나눠 주고, DAG가 아니라 대화로 오케스트레이션한다.
해결하려는 문제
단일 Agent + 툴 호출 방식은 복잡한 작업에서 쉽게 막힌다. 작업 분해, 툴 호출, 코드 작성, 테스트 실행, 에러 확인까지를 혼자 다 하니 너무 벅차다.
AutoGen이 하려는 건 매우 직관적이다. 채팅방을 하나 열고, 여러 Agent가 돌아가며 말하고 서로 잡아주는 구조다. 초기 데모에서 코드 작성 Agent가 코드를 짜고 바로 실행해서 에러를 내면, LLM이 고치게 하는 대화 루프만으로 HumanEval 수준의 문제를 풀었다.
이 접근은 LangChain의 ReAct Agent와 완전히 다르다. LangChain은 「생각 → 행동 → 관찰」의 직렬 체인을 따라 단일 Agent의 툴 오케스트레이션 능력을 강조한다. 반면 AutoGen은 처음부터 그룹 대화에 여러 역할의 협력을 둔다. 전자는 도구를 들고 일하는 한 사람이라면, 후자는 회의실에서 토론하는 팀에 가깝다.
사용법
pip install autogen-agentchat autogen-ext[openai]로 시작한다.
최소 예제는 두 Agent다. 하나는 코드를 짜고, 다른 하나는 실행해서 에러를 다시 대화로 돌려보낸다. 10줄이면 「코드 작성 → 실행 → 버그 수정」 루프를 돌릴 수 있다.
import os
import asyncio
from autogen_agentchat.agents import AssistantAgent
from autogen_agentchat.conditions import MaxMessageTermination
from autogen_agentchat.teams import RoundRobinGroupChat
from autogen_ext.models.openai import OpenAIChatCompletionClient
model = OpenAIChatCompletionClient(model="gpt-4o", api_key=os.environ["OPENAI_API_KEY"])
coder = AssistantAgent(
"coder",
model_client=model,
system_message="写 Python 代码解决问题,写完用 ```python 包裹代码块。",
)
executor = AssistantAgent(
"executor",
model_client=model,
system_message="你是执行者,看到代码块就假装运行并报告结果。",
)
team = RoundRobinGroupChat(
[coder, executor],
termination_condition=MaxMessageTermination(6),
)
async def main():
result = await team.run(task="计算 1 到 100 的和")
print(result.messages[-1].content)
asyncio.run(main())
모델 설정은 환경 변수 OPENAI_API_KEY를 쓴다. 첫 실행 시 의존성 패키지 다운로드 때문에 10여 초 기다리는 건 정상이다.
동작 원리 (아키텍처)
핵심 추상화는 단 두 개뿐이다.
- Agent: 역할과 시스템 프롬프트를 가진 대화 가능 주체
- GroupChat: 여러 Agent의 채팅방, Speaker selection 전략으로 다음 발언자를 결정
UserProxyAgent는 사람 대리인 역할로, 코드 실행, shell 실행, 에러를 메시지로 되돌려 보내는 역할을 한다. AutoGen에서 가장 고전적인 「다리」다. 외부 세계(코드 실행 결과, 사람 입력)를 대화 메시지로 번역해 준다.
GroupChatManager가 메시지 히스토리를 유지하고 전략에 따라 다음 발언자를 고른다. 내장된 세 가지 전략은 다음과 같다.
- RoundRobin: 돌아가며 발언
- Auto: LLM이 다음 발언자를 직접 결정
- Custom: 사용자 정의 함수 작성
Nested Chat은 한 Agent 내부에서 다시 자식 채팅방을 여는 방식이다. 예를 들어 Coder Agent가 실패하면 자동으로 Debugger 자식 Agent를 소환한다. 이 패턴은 꽤 실용적이라, 메인 그룹에 전문가 Agent를 잔뜩 끼워 넣어 대화를 지저분하게 만들 필요가 없다.
v0.2 이후로 아키텍처가 세 개 패키지로 쪼개졌다.
autogen-core: 런타임 (메시지 전달, Actor 모델)autogen-agentchat: 고수준 추상화 (Agent, GroupChat)autogen-ext: 모델/툴 확장 (OpenAI, Azure, Ollama 등)
경계가 명확해진 건 장점이지만, 문서가 세 군데로 흩어져 있어 처음 접하는 사람은 쉽게 헤맨다.
장단점
장점
- 추상화가 최소화되어 진입 장벽이 낮다. 대화 모델은 본질적으로 human-in-the-loop를 지원한다. 끼어들고 싶을 때 UserProxyAgent에 메시지를 보내면 된다
- GroupChat 토폴로지가 유연해서 Agent 추가는 한 줄 변경으로 끝난다
- 100개 이상의 모델을 통합된 ChatModel 인터페이스로 지원한다. OpenAI, Azure, Anthropic, 로컬 Ollama까지 다 붙일 수 있다
단점
- v0.2부터 API가 3계층으로 분리되어 문서가 세 군데로 흩어졌고, 입문자는 좌절하기 쉽다
- 긴 작업에서 대화 루프의 토큰 소비가 크다. 모든 Agent가 전체 히스토리를 봐야 한다
- 중첩된 다중 Agent 대화 디버깅은 거의 로그에만 의존한다. 시각화 도구는 없고, 커뮤니티에서 Traceloop 같은 것을 만들고 있지만 공식 지원은 없다
- 빠른迭代期에 breaking change가 많아서 이슈 탭에 불만이 쌓여 있다
실제로 써봤다
GPT-4o로 공식 MathChat 예제(그룹 대화 + 다중 역할 수학 풀이)를 돌려봤다. 3문제 평균 4.2턴에 종료되어 단일 Agent ReAct보다 1.8턴 짧았지만, 토큰은 35% 더 들었다.
코드 실행형 Hello World는 18초 걸렸는데, 대부분 OpenAI API 지연 때문이다.
로컬 모델(Qwen2.5-7B via Ollama)로 OpenAIChatCompletionClient를 교체해도 동작했다. 속도는 2.3배 느려졌지만 쓸 만하다. 다만 7B 모델은 GroupChat에서 여러 역할 조율이 버거워서 자주 빗나가는데, Qwen2.5-32B로 바꾸니 훨씬 안정적이었다.
이런 사람에게 권한다
적합한 경우
- 다중 Agent 협업 프로토타입을 빠르게 만들어야 할 때
- 사람이 중간에 개입해야 하는 시나리오 (AutoGen의 대화 모델이 본질적으로 지원)
- 팀에 Microsoft 문서를 정독할 의지가 있는 사람이 있을 때
적합하지 않은 경우
- 운영 환경에서 낮은 토큰 소비를 추구할 때 (대화 루프는 본질적으로 비싸다)
- 단일 Agent 툴 호출만 필요할 때 (LangChain / LlamaIndex Agents가 더 가볍다)
- 엄격한 타입과 안정적인 API가 필요할 때 (아직 빠르게 바뀌는 중)
단순한 단일 Agent 툴 호출만 필요하다면 LangGraph나 LangChain의 ReAct Agent로 충분하고, AutoGen까지 갈 필요는 없다. AutoGen의 핵심 가치는 「다중 역할 협업」과 「human-in-the-loop」에 있다. 이 두 특성이 필요 없는 프로젝트에 억지로 도입하면 복잡도만 올라간다.
참고: