⚖ Compare news

Put up to three stories side by side. Pick IDs from any article URL: /compare?id=123&id=456

Поставил ИИ проверять ИИ, и тот научился списывать

habrahabr.ru ·Russian Federation · world
Words
78
Chars
491
AI summary
Yes
Full story

A polished report is not necessarily accurate, and an accurate one is not necessarily useful. The article asks whether it is possible to build an AI research system when models become smarter and lie more convincingly. Trying to catch their errors leads to adding so many rules that the benefits of generative AI shrink. It explores why strictness and usefulness can pull in different directions, and how to catch new...

Красивый отчёт — не значит верный. А верный — не значит полезный. Можно ли вообще построить систему исследований с ИИ, если модели становятся умнее и врут всё убедительнее? Пытаешься поймать их на ошибках — и постепенно обкладываешь систему правилами так, что профита от генеративности всё меньше. В статье — почему строгость и польза могут тянуть в разные стороны, как ловить новые обманки и как я собираю систему, которая помогает находить в куче данных гипотезы для проверки. Читать далее

Open article