ВШЭ: ошибки нейросетей похожи на признаки шизофрении
Сотрудник Лаборатории критической теории культуры НИУ ВШЭ — Санкт-Петербург Растям Алиев изучил, почему искусственный интеллект склонен к галлюцинациям. В своей работе «Алгоритмическая шизофрения: метасимуляционная трансформация реальности в цифровую эпоху» он проводит параллели между ошибочными ответами больших языковых моделей и симптомами психических расстройств.
Исследование вышло в журнале «Логос». Автор отмечает, что общество долго представляло ИИ как рационального и бесчувственного механизма, однако поведение нейросетей скорее напоминает искажения, встречающиеся в психиатрии. Он пояснил, что стоит только попросить ИИ отвечать «как человек с шизофренией», точность его реакций заметно повышается — будто модель внимательнее замечает детали.
Учёный указал, что при усложнении запросов склонность к выдумыванию усиливается: когда нейросеть не находит точного ответа, она соединяет реальные сведения с собственной фантазией. Так возникает явление метасимулякра — псевдореальности, где алгоритмы формируют новые способы восприятия мира. Этот феномен Алиев считает признаком «психических нарушений» ИИ.
Он отметил, что нейросети создают образы, основанные на реальности, но при этом уводят её в сторону — например, выдавая искажённые изображения людей и мест. Такой результат он называет типичным проявлением метасимулякра.
Учёный подчеркнул, что ИИ не способен самостоятельно распознать собственные ошибки. Большие языковые модели уверены в правильности своих ответов даже тогда, когда те не совпадают с действительностью. Если пользователь указывает на неточность, модель начинает аргументировать, опираясь на те же самые галлюцинации. Поэтому полностью полагаться на такие системы нельзя.
Алиев напомнил, что ИИ всё глубже проникает в повседневную жизнь — им пользуются в ситуациях, требующих эмоциональной поддержки, и применяют как замену специалистам. Он призвал относиться к инструменту осторожно и всегда проверять полученные от него данные.
В завершение исследователь допустил, что со временем возможно создание искусственного интеллекта, свободного от галлюцинаций. Но добиться этого можно лишь через глубокое междисциплинарное изучение природы подобных «расстройств», чему и посвящена его работа.
Источник: Naked Science
Рекомендуем также:
