Мой первый RAG без LangChain
The author shares their first attempt at building a RAG system without LangChain. They initially used the standard LangChain approach, which worked in one evening, but then questioned how to maintain it and what happens if something fails. The article explores the layers of abstraction involved.
<img src="https://habrastorage.org/getpro/habr/upload_files/5cb/7d2/965/5cb7d296547319db219f09302523c788.jpg" /><p>В наши дни все, кому было интересно, уже попробовали RAG, я в том числе. И стандартная схема тривиальна: цепляем LangChain, три импорта, <code>.from_documents()</code> — и бот с базой знаний готов. Мой первый опыт был такой же, и это даже заработало за один вечер.</p><p>Но как это поддерживать? А что случится, если всё полетит?</p><p>Пять слоёв абстракции, и я без понятия, что происходит на любом из них. Поэтому я решил повторить свой эксперимент <a href="https://habr.com/ru/articles/881428/">с контейнерами</a>: отбросил все слои и переписал вручную на Python.</p><p>В этой статье я хочу рассказать о том, что я смог узнать о RAG, с какими подводными камнями столкнулся и как будет выглядеть итоговый продукт.</p> <a href="https://habr.com/ru/articles/1074156/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1074156#habracut">Читать далее</a>
Read full article →