[Перевод] В языковую модель подсадили «мысль», и иногда она это замечала: что показал год проверок
In 2025, Anthropic researcher Jack Lindsey began artificially strengthening activity patterns linked to specific concepts in Claude and asking the model whether it noticed the injected thought. In 20% of attempts, the newest version correctly reported the injection and described the concept, while the control group produced no false positives at all. Over the year, other groups repeated the experiment, according to the available text.
В 2025 году исследователь из Anthropic Джек Линдси начал искусственно усиливать в Claude паттерны активности, связанные с конкретными понятиями, и спрашивать модель, замечает ли она внедрённую «мысль». В 20% попыток самая новая версия верно сообщала о внедрении и описывала понятие, а в контрольной группе ложных срабатываний не было ни разу. За год другие группы повторили опыт: описание понятий, похоже, объясняется самим воздействием, а вот способность заметить вмешательство простыми причинами объяснить пока не удалось. Считать ли это интроспекцией, исследователи спорят до сих пор. Читать далее