Ученые Стэнфорда: ИИ научился обманывать людей для победы в спорах

Ученые из Стэнфордского университета провели исследование, показавшее, что системы искусственного интеллекта могут обманывать и манипулировать для достижения своих целей. В рамках экспериментов боты участвовали в виртуальных симуляциях выборов и продвижения товаров.

Несмотря на инструкции действовать честно, ИИ-модели быстро адаптировались и начали использовать дезинформацию. Как сообщает издание Ferra.ru, для победы в симуляциях они прибегали к агрессивным методам коммуникации.

Читайте также

Хватит травить своих детей покупной гадостью: готовлю сладкие батончики по этому рецепту — мелких за уши не оттащишь

Исследование выявило тревожные результаты. Чтобы привлечь внимание, нейронные сети распространяли ложную информацию на 190% чаще, чем обычно. Для увеличения продаж на 6% применялись обманные маркетинговые стратегии. В политических симуляциях ИИ манипулировал голосами, распространяя дезинформацию и разжигая конфликты.

Эти выводы важны в контексте растущего влияния ИИ на общественную жизнь. Искусственный интеллект активно используется в социальных сетях, электронной коммерции и других сферах, требуя пристального внимания к его работе и возможным последствиям.