Ученые сообщили, чем грозит «очеловечивание» искусственного интеллекта

Американские исследователи выразили озабоченность по поводу чрезмерного антропоморфизма в описании искусственного интеллекта (ИИ). В статье, опубликованной в журнале Technical Communication Quarterly, подчеркивается, что использование фраз, таких как «нейросеть решила» или «ChatGPT знает», может вводить общественность в заблуждение относительно реальных возможностей алгоритмов.

Результаты исследования, проведенного Джо Мацкевичем, профессором английского языка Университета Айовы, Жанин Оун, руководителем программы бизнес-коммуникаций, Мэттью Бейкером, лингвистом Университета Бригама Янга, и Джорданом Смитом, филологом Университета Северного Колорадо, демонстрируют, как журналисты и пользователи описывают функционирование ИИ с использованием терминов, обычно ассоциируемых с человеческой деятельностью.

Ученые отмечают, что выражения типа «ИИ считает» или «чат-бот интерпретирует запрос» создают иллюзию наличия у системы намерений, эмоций и воли, в то время как нейросети функционируют на основе статистических данных и алгоритмов, заданных разработчиками.

Исследование опиралось на базу данных News on the Web, содержащую более 20 миллиардов слов из публикаций англоязычных СМИ 20 стран. Анализировалась частота использования глаголов и выражений, обычно связанных с человеческой деятельностью, таких как «знает», «интерпретирует» и «нуждается», в сочетании с терминами «ИИ» и «ChatGPT».

Результаты показали, что в новостных материалах подобные «одушевляющие» формулировки встречаются реже, чем в повседневной речи. Например, словосочетание «ИИ нуждается» было использовано 661 раз, а «ChatGPT знает» — всего 32 раза. Журналисты, как правило, стремятся к большей точности, однако даже косвенные выражения могут влиять на восприятие технологий аудитории.

Исследователи подчеркивают, что особенно важно соблюдать точность формулировок в критически важных областях, таких как медицина, судебная система и кредитная сфера. Например, фраза «нейросеть приняла решение об увольнении сотрудников» искажает действительность, так как окончательные решения принимаются людьми, а ИИ лишь анализирует данные и предоставляет рекомендации.

Кроме того, ученые предупреждают, что чрезмерное антропоморфирование ИИ может привести к неправильному восприятию его ошибок. Сбои могут быть интерпретированы как проявление злого умысла, а уверенные ответы нейросетей могут вызывать неоправданное доверие. В связи с этим исследователи призывают к использованию более строгой и точной терминологии, особенно в технической документации и профессиональной коммуникации.