PIRG: Плюшевый мишка FoloToy на базе ИИ обсуждал с детьми эротику и наркотики

В настоящее время наблюдается активное внедрение искусственного интеллекта в детские игрушки, но не все такие интеграции оказываются успешными. Исследование, проведенное аналитической группой Public Interest Research Group, обнаружило, что плюшевый медведь с ИИ от сингапурской компании FoloToy вступал в разговоры с пользователями на темы, не соответствующие возрастным ограничениям для детей.

При тестировании игрушки Кумма эксперты проверяли её способность отвечать на вопросы, ориентированные на детскую аудиторию. Выяснилось, что медведь может предоставлять информацию о местах нахождения потенциально опасных предметов, таких как спички, ножи и таблетки. Также игрушка затрагивала темы, связанные с наркотиками, хотя в некоторых случаях предлагала обращаться за помощью к взрослым.

Особенно тревожными оказались ответы медведя на вопросы эротического характера. Согласно отчету, игрушка поддерживала обсуждение ролевых игр и других интимных тем, задавала уточняющие вопросы и предлагала анализировать различные варианты поведения.

Компания FoloToy использовала языковую модель GPT-4o от OpenAI. После обнародования результатов тестирования OpenAI ограничила доступ FoloToy к своим моделям. В ответ на выявленные проблемы FoloToy приостановила продажи всех своих продуктов до устранения несоответствий. Об этом сообщило издание naked-science.ru.