Бенчмарки Мебиуса: зачем IBM учит ИИ проверять собственные вопросы
<img src="https://habrastorage.org/getpro/habr/upload_files/eb7/7ad/c60/eb77adc60faf99673c6529ece9913157.png" /><p>Для оценки эффективности ИИ уже давно и успешно используют самые разные бенчмарки. Берем модель/агента, выдаем им одинаковый набор задач, считаем долю успешных решений и получаем удобную цифру, по которой можно сравнивать системы между собой.</p><p>По результатам используем ту, которая справилась с большим процентом задач. Звучит круто и даже удобно, но, как всегда, есть нюанс: все работает при условии, что сам экзамен составлен правильно. А с этим, как выясняется, бывают проблемы.</p><p>Внутри бенчмарка могут оказаться некорректные эталонные ответы, противоречивые условия или правила оценки, которые засчитывают правильное решение как ошибку, и еще много всего, что исказит итоговый результат.</p><p>Летом 2026 года исследователи <a href="https://arxiv.org/abs/2607.02577">провели</a> независимый аудит четырех бенчмарков для агентов, работающих с внешними инструментами: BFCL v4, τ²-Bench, LiveMCPBench и MCP-Atlas. Эксперты вручную проверили 496 выполненных заданий и в 92 случаях (18,5%) не согласились с автоматической оценкой бенчмарка. Причины оказались разными: от жесткого сравнения с эталоном до нестабильной трактовки критериев самими LLM-судьями. </p><p>Еще одно <a href="https://arxiv.org/abs/2608.06329">исследование</a> IBM предлагает использовать LLM, чтобы проверять качество самих бенчмарков. Авторы работают с бенчмарками для task-oriented conversational agents — агентов, которые общаются с пользователем и выполняют конкретную задачу рамках заданных правил. Например, оформляют возврат в интернет-магазине или изменяют бронирование. </p><p>Сегодня будем разбираться, что там наделали IBM и как так получилось, что у нас появляются бенчмарки для бенчмарков и почему в мире уже вовсю разворачивается мебиус-системы ИИ.</p> <a href="https://habr.com/ru/articles/1076806/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1076806#habracut">Читать далее</a>
Read full article →