Ученые предупредили о рисках: почему не стоит «очеловечивать» ИИ

В современном обсуждении искусственного интеллекта часто встречаются термины, заимствованные из человеческого языка: «нейросеть приняла решение», «чат-бот понял» или «алгоритм продемонстрировал намерение». Однако учёные предупреждают, что такие выражения могут способствовать антропоморфизации ИИ, что приводит к путанице между человеческими и машинными процессами.

В статье, опубликованной в журнале Technical Communication Quarterly, профессор английского языка Джо Мацкевич из Айовского университета и его коллеги, включая лингвистов Мэттью Бейкера из Университета Бригама Янга и Джордана Смита из Университета Северного Колорадо, анализируют риски, связанные с наделением ИИ человеческими качествами.

Исследователи отмечают, что фразы типа «ИИ думает» или «ChatGPT осознаёт» создают иллюзию наличия у машины намерений и эмоций. На самом деле нейросети функционируют на основе алгоритмов и данных, предоставленных разработчиками.

Для анализа учёные использовали базу данных News on the Web, содержащую более 20 миллиардов слов из англоязычных новостных статей. Они изучали частоту употребления глаголов «знает», «понимает» и других подобных в контексте с терминами «ИИ» и «ChatGPT».

Результаты показали, что в новостных материалах ИИ очеловечивается реже, чем в обычном общении. Например, сочетание слова «нуждается» с термином «ИИ» встречается 661 раз, в то время как конструкция «ChatGPT знает» — всего 32 раза. Это указывает на то, что профессиональные журналисты более осторожны в выборе слов по сравнению с неформальной речью.

Исследование имеет важное значение для журналистов, специалистов по технической документации и рекламе. Учёные рекомендуют учитывать не только отдельные слова, но и общий контекст, чтобы избежать недоразумений.

Неправильный выбор слов может иметь серьёзные последствия, особенно в таких областях, как медицина, кредитование и судебная система. Например, фраза «нейросеть приняла решение об увольнении» может создать ложное впечатление. На самом деле решения принимаются людьми, а ИИ только помогает в их реализации.

Авторы исследования приходят к выводу, что в технической документации необходимо использовать строгий и формальный язык для обеспечения точности и ясности, а также снижения риска недопонимания.