Пятница, вечер. Задача — быстро собрать прототип RAG-системы для внутренней базы документов. Открываю документацию LangChain и LlamaIndex и рефлекторно тянусь к LangChain — потому что все так делают. А потом сажусь и честно разбираюсь, чем они отличаются, а не просто гуглю сравнение на StackOverflow.
Делюсь.
Суть — в том, зачем ты его берёшь
LangChain — фреймворк общего назначения. Цепочки, агенты, память, инструменты. Он заточен под то, чтобы собирать из LLM почти что угодно: чат-бота, автономного агента, мультимодальное приложение. RAG — одна из many things, а не единственная.
LlamaIndex — если грубо, инструмент для одной задачи: загрузить документы, разбить на чанки, положить в векторную базу и потом по запросу вытащить релевантные куски. Это его экосистема, его фокус, его reason to exist.
Поэтому вопрос «что лучше» — это на самом деле вопрос «что тебе нужно».
Где LlamaIndex выигрывает
Мой опыт: нужен именно RAG — бери LlamaIndex. Быстрее, проще, меньше боли.
Там из коробки нормально работают:
- Индексация PDF, Notion, баз данных — без танцев с бубном
- Хранение и извлечение через кучу векторных баз — Pinecone, Weaviate, Chroma, Qdrant
- Выбор стратегии чанкинга: по предложениям, по абзацам, иерархический
- Reranking и гибридный поиск
Код получается чистый. Берёшь VectorStoreIndex, загружаешь документы, спрашиваешь — работает за час.
Первый раз я ставил LlamaIndex, грузил PDF на 200 страниц и спрашивал «что в контракте про неустойки» — получил нормальный ответ минут за 40. Из них полчаса ушло на установку зависимостей.
LangChain на той же задаче потребовал три пересборки пайплайна — компоненты между собой не сразу стыковались.
Где LangChain выигрывает
LangChain ценен, когда задача сложнее, чем «вопрос — ответ по документу».
Он понадобился мне, когда я собирал агента, который должен был:
- Получить вопрос от пользователя
- Проверить факт в базе через RAG
- Если данных нет — уточнить
- Если есть — сформулировать ответ и записать в историю
- Периодически пересобирать контекст из истории диалога
То есть это был не просто RAG, а цепочка с ветвлением, памятью и условной логикой. Тут LlamaIndex уже неудобен — он не заточен под такое. А в LangChain есть инструменты и агенты, которые позволяют описать это декларативно.
Ещё у LangChain более живая экосистема. Больше интеграций с внешними сервисами, больше шаблонов, больше ответов на форумах, когда что-то идёт не так. Застрял на проблеме — с вероятностью 80% кто-то уже решал её на сабреддите LangChain или в Discord.
Главная боль LangChain, о которой все молчат
LangChain меняется. Очень быстро меняется. API, которые работали в v0.1, сломались в v0.2. Документация отстаёт от кода. Я пару раз тратил полдня, потому что следовал гайду, который уже не соответствовал текущей версии.
LlamaIndex в этом смысле стабильнее. Меньше революций, меньше «а теперь всё переделаем». Экосистема сфокусирована — меньше поверхностей, которые могут сломаться.
Ещё один минус LangChain — порог входа. Там есть chains, LCEL, agents, tools, callbacks — и пока не поймёшь архитектуру целиком, чувствуешь себя слепым. Это нормально, если у тебя сложная задача и ты готов вкладываться. Но если нужен быстрый RAG на документы — это оверкилл.
А можно вместе?
Можно. Никто не запрещает использовать LlamaIndex для индексации и извлечения, а LangChain — для построения цепочки вокруг. Видел такое в продакшене, и подход рабочий.
Но честно — если ты на старте проекта и не знаешь точно, что нужно, сначала разберись с задачей. Просто RAG на документах — бери LlamaIndex, сэкономишь время. Нужны агенты, память, инструменты, условные переходы — смотри в сторону LangChain.
Коротко
LlamaIndex — если нужен хороший поиск по документам и не хочешь разбираться в лишних абстракциях. Быстрый старт, узкий фокус.
LangChain — если строишь что-то посложнее, с агентами и динамической логикой. Крутой, гибкий, но требует времени.
Лично мне проще всего помогает вопрос: «я строю цепочку или я ищу в документах?». Ответ на него обычно снимает 90% сомнений.
Если есть конкретная задача — пиши, разберёмся что подойдёт.
