Иллюзия прозрачности
Люди, которые переписываются с чат-ботами, регулярно описывают эти диалоги как что-то большее, чем обмен репликами: у них возникает ощущение, что их поняли, услышали, разглядели эмоциональное состояние. Оно появляется даже тогда, когда система физически не способна считать ничего, кроме текста запроса. Откуда берется это чувство понимания — и можно ли ему доверять? Ответы на эти вопросы связаны не с возможностями конкретной модели, а с когнитивным искажением, которое описали задолго до появления чат-ботов — эффектом прожектора.