Локальные LLM в переводах текстов — бенчмарк на RTX 5060Ti 16GB VRAM
- Words
- 277
- Chars
- 1794
- AI summary
- Yes
The author set out to test how well local LLMs translate texts on an RTX 5060 Ti with 16GB of VRAM. They said they had already translated many books and texts using cloud models from Qwen, Claude, OpenAI and Gemini, and that the results had increasingly pleased them. While they do not think translators need to look for other work yet, they argued that it is now possible to translate any book from any language into Russian and at least understand it.
Захотелось мне тут проверить качество ИИ моделей в переводе. Я уже перевел немало книг и текстов с облачными моделями - Qwen, Claude, OpenAI, Gemini и результат в последнее время мне нравится все больше и больше. Я не думаю что переводчикам пора искать другую работу, но на сегодняшний день реальность такова, что вы можете перевести любую книгу на любом языке на русский и как минимум понять про что она. Конечно же, остаются тонкости стилистики, нюансы языка и местных реалий жизни, которые очень важны при переводе сложной художественной литературы, тут нужен как раз тот “контекст жизни”, которого не хватает моделям. Однако последние версии Claude и OpenAI неплохо натаскались в переводе авторской стилистики. Если же вам надо читать не обязательно очень специфичный текст для посвященных, то скорее всего ИИ перевод вас удовлетворит. Конечно же тут тоже есть тонкости - проверки и промпты, но это уже дело техники, все это решаемо скиллами и бюджетом на токены. Однако облачные переводы не всегда доступны из-за бюджета и полиси с копирайтом (и непонятно сколько еще будут доступны), поэтому я задался вопросом насколько я могу положиться на локальные модели, гоняющие на довольно скромной по н...
Open article