LlamaIndex 심층 분석: RAG를 넘어선 문서 Agent 플랫폼
단순한 LLM용 문서 로더에서 출발한 LlamaIndex가 RAG, Workflow, Agent 오케스트레이션을 두루 갖춘 플랫폼으로 진화한 과정을 코드, 아키텍처, 실전 사용기를 통해 짚어본다.
50톤 분량의 책이 한꺼번에 미국으로 shipment, 발주처는 AI 기업으로 추정된다. 양질의 학습용 텍스트가 고갈되면서 회색 공급망이 빠르게 자라나고 있다.
단순한 LLM용 문서 로더에서 출발한 LlamaIndex가 RAG, Workflow, Agent 오케스트레이션을 두루 갖춘 플랫폼으로 진화한 과정을 코드, 아키텍처, 실전 사용기를 통해 짚어본다.
한 줄 명령으로 배달 주문, 배송 조회까지—오픈소스 9B 비전 모델과 ADB를 결합해 Phone Agent를 로컬에서 돌렸다. 샤오미 14에서 14단계 작업을 90초에 처리했고, RTX 4090 단독으로 구동 가능했다.
PDF, Word, PPT, 이미지, 오디오, YouTube 링크까지 한 번에 LLM 친화적인 Markdown으로 변환해 주는 마이크로소프트의 오픈소스 도구로, RAG와 Agent 데이터 전처리의 첫 단계에 위치한다.