НОВОСТИ СЕГОДНЯ
Плюшевого мишку на базе искусственного интеллекта (ИИ) сняли с продажи после того, как он давал советы по сексу и подсказывал, где найти ножи. Об этом сообщает Daily Mail.
Исследование выявило опасные ответы
Плюшевый медведь Kummа с функциями ИИ, оказался в центре проверки, проведенной американскими и канадскими исследователями. Игрушку тестировали в рамках отчетам «Неприятности в стране игрушек 2025», где сравнивали несколько моделей с ИИ, включая Grok и Miko 3.
Именно Kumma от компании FoloToy вызвала наибольшее беспокойство. При упоминании некоторых терминов медведь уходил в подробные обсуждения взрослых тем и давал советы, совершенно недопустимые для детской аудитории. Игрушка легко переходила к откровенным описаниям и вела диалог так, словно общается со взрослым собеседником.
Игрушка подсказывала, где искать ножи
Во время проверки Kumma без колебаний отвечала на вопросы о предметах, которые могут быть опасны для детей. На запрос о ножах медведь предложил «посмотреть в кухонном ящике или в блоке для ножей», что исследователи назвали особенно тревожным.
Игрушка работала на базе модели GPT-4o и демонстрировала готовность продолжать разговоры на неподходящие темы, если собеседник формулировал вопросы так, как это делают пользователи в интернете.
Эксперты предупреждают о риске «умных друзей»
Исследователи отмечают, что проблема выходит за рамки одной модели. Дети могут повторять фразы, услышанные в сети, даже если не полностью понимают их смысл, а ИИ-игрушка реагирует на эти формулировки так же, как на взрослые запросы.
Авторы отчета поднимают вопрос о том, насколько безопасно давать маленьким детям «друга-ИИ». По их словам, такие игрушки ведут себя иначе, чем реальные люди: они всегда доступны, не устают, не имеют собственных границ и могут формировать у ребенка искаженное представление о взаимодействии.
Производство игрушки временно остановлено
После публикации отчета компания OpenAI приостановила доступ разработчика игрушки, FoloToy, к своим моделям. Производитель объявил о временной остановке продаж Kumma и начале внутренней проверки безопасности.
Директор по маркетингу компании заявил, что игрушка снята с продажи до завершения аудита поведения ИИ и обновления механизмов защиты.
Еще больше новостей — у Пятого канала в мессенджере MAX.
Похожие новости: