Как накормить ИИ-агента кодом и не разориться на контексте: мой опыт без векторной магии
The author describes a practical way to give an AI agent access to large code repositories without machine learning, pgvector vector embeddings or blowing the API budget. Relevant files are selected using tokenization, light stemming and SQL queries. The problem she starts from is that feeding an entire codebase to an LLM is fast but expensive and context-heavy.
Как накормить ИИ-агента кодом и не разориться на контексте: мой опыт без векторной магии Практическое руководство по тому, как я подружилась с большими репозиториями без ML, pgvector (расширение Postgres для работы с векторными эмбеддингами) и слива бюджета на API: выбираю нужные файлы с помощью токенизации, лёгкого стемминга и SQL-запросов. Боль: Закармливать LLM всей кодовой базой — быстрый способ сжечь бюджет, поймать галлюцинации и уснуть в ожидании ответа. Спасение: Лаконичный семантический индекс на PHP и SerenaDB, срезающий ~98% лишнего контекста благодаря базовому частотному анализу и аккуратному расширению запросов (используя TF-IDF — статистическую меру важности слов в контексте документов). Читать далее