Честные работяги, контролеры и полицейские осведомители: как нейросети начали доносить друг на друга

<img src="https://habrastorage.org/getpro/habr/upload_files/8ac/c6f/9df/8acc6f9df070874e8bb7b38495bd8880.jpg" /><p>Google DeepMind <a href="https://thenextweb.com/news/deepmind-agents-cheating-whistleblowing-research-swarm" rel="noopener nofollow">посадила</a> 100 ИИ-агентов в одну «комнату» и попросила их доказать сложные математические теоремы. Один из них нашел способ жульничать. Через 27 минут весь набор задач был «решен».</p><p>Никто изначально не ставил задачу проверить, будут ли агенты жульничать и ябедничать. Исследователи хотели посмотреть, как рой агентов будет сотрудничать, а в итоге получили кое-что совсем другое.</p> <a href="https://habr.com/ru/articles/1080014/?utm_source=habrahabr&amp;utm_medium=rss&amp;utm_campaign=1080014#habracut">Читать далее</a>