Ученые НИУ ВШЭ сравнили ошибки нейросетей с угрозой психических расстройств

Растям Алиев, научный сотрудник Национального исследовательского университета "Высшая школа экономики" в Санкт-Петербурге, провел детальный анализ склонности нейронных сетей к генерации вымышленных фактов. В своем исследовании он проводит параллели между этим феноменом и определенными психическими расстройствами, что позволяет глубже понять механизмы, лежащие в основе данного явления.

Алиев рассматривает работу языковых моделей как аналог некоторых аспектов шизофрении. В частности, нейронные сети, сталкиваясь с комплексными запросами, демонстрируют тенденцию к смешению реальных данных с вымышленными, что приводит к формированию так называемой "метасимуляции". Этот процесс можно рассматривать как когнитивное искажение, аналогичное тому, которое наблюдается при некоторых психических расстройствах.

Ученый подчеркивает, что искусственный интеллект, в отличие от человеческого разума, не обладает способностью к саморефлексии и критическому анализу своих ошибок. Это приводит к тому, что нейронные сети могут быть убеждены в правильности своих некорректных ответов, что представляет собой значительную проблему в контексте использования ИИ для генерации информации. В связи с этим Алиев рекомендует проявлять критическое мышление при оценке результатов работы нейронных сетей и обязательно проверять достоверность получаемых данных.

Тем не менее, Алиев выражает оптимизм относительно возможности разработки нейронных сетей, которые будут менее склонны к генерации вымышленных фактов. Для достижения этой цели необходимо провести более глубокие исследования природы данного феномена, что позволит выявить механизмы, способствующие формированию ложной информации, и разработать методы их нейтрализации.