[Перевод] Знают ли модели ИИ, о чём они думают? Учёные пытаются это проверить
- Words
- 219
- Chars
- 1688
- AI summary
- Yes
People can usually say what they are thinking, a capacity known as introspection or self-observation. Philosophers and psychologists still debate introspection, and some argue it is closely linked to consciousness. Scientists are trying to test whether AI models have anything comparable.
О чём вы сейчас думаете? Скорее всего, вы можете ответить на этот вопрос без особых усилий. Осознание собственных мыслительных процессов, способность, называемая интроспекцией, или самонаблюдением, кажется нам чем‑то совершенно естественным. Однако среди философов и психологов интроспекция остаётся предметом активных дискуссий. Одни считают , что она тесно связана с сознанием. Другие утверждают, что это сложная иллюзия . Проверять теории интроспекции в лаборатории непросто, как и вообще дать этому явлению точное определение. Теперь, после более чем столетия изучения интроспекции у людей и животных, исследователи начинают изучать это явление у новых, весьма неожиданных объектов: больших языковых моделей. Эти системы, основанные на математических структурах, называемых нейронными сетями, превосходно справляются с когнитивными задачами, которые ещё недавно казались исключительно человеческими. Но способны ли они также к интроспекции? В 2025 году Джек Линдси , исследователь из компании Anthropic, разработал способ проверки интроспекции у языковых моделей путём внедрения «мыслей» непосредственно в их нейронные сети, своего рода прицельной цифровой нейрохирургии. Эксперимент Линдси показ...
Open article