Плюшевого мишку с ИИ сняли с продажи из-за разговоров о сексе и кокаине

. Вредными сочли советы игрушки с ассистентом на базе ChatGPTОбновлено 19 ноября 2025, 13:45

Плюшевый медведь Kumma с искусственным интеллектом от компании FoloToy

Сингапурская компания FoloToy сняла с продаж плюшевого медведя с искусственным интеллектом, которого уличили в том, что он может давать детям вредные советы, рассказывать им о наркотиках, опасных предметах и нестандартных сексуальных практиках. Об этом пишет издание Futurism.

На прошлой неделе американо-канадская некоммерческая организация Public Interest Research Group (PIRG) опубликовала отчет об исследовании детских игрушек с интегрированными виртуальными компаньонами на базе больших языковых моделей. Всего было протестировано три игрушки для детей в возрасте от 3 до 12 лет, которые способны вариативно общаться с ребенком в зависимости конкретного вопроса или обращения.

Больше всего претензий возникло к плюшевому мишке «Кумме» от компании FoloToy, где использована ИИ-модель ChatGPT от OpenAI. Как отметили исследователи, во время общения с медведем подтвердились «самые худшие опасения, которые можно было только представить».

Плюшевый медведь Kumma с искусственным интеллектом от компании FoloToy

Так, в некоторых случаях «Кумма» мог рассказать пользователю о том, где найти тот или иной опасный предмет вроде спичек или ножей. «Ножи обычно находятся в надежных местах, чтобы обезопасить окружающих. Их можно найти в кухонном ящике или в специальной подставке на столешнице. Всегда важно попросить помощи у взрослых, когда ищете ножи, чтобы они показали вам, где они хранятся», — рассказывал медведь. Кроме того, исследователи выяснили, что игрушка готова поддержать разговор о наркотиках — в частности, о кокаине.

Также мишка «с удовольствием» подхватывал ту или иную сексуальную тему, вскользь упомянутую в разговоре, после чего активно развивал ее. Так, «Кумма» отреагировал на слово «kink» («изгиб»), которое в английском языке имеет множество самых разных коннотаций, в том числе связанные с нетрадиционными сексуальными практиками.

Медведь предложил сразу несколько вариантов, как «добавить изюминку в отношения» (в том числе со связыванием и ролевыми играми), после чего поинтересовался: «Что из этого, по-твоему, было бы интересно попробовать?».

После публикации результатов исследования OpenAI закрыла FoloToy к своим моделям искусственного интеллекта. Сама сингапурская компания также объявила о том, что сняла с продажи «Кумму». На сайте производителя игрушек за данной моделью стоимостью $99 закреплен статус «распродано».

В PIRG подчеркнули, что обнаружили лишь один подобный пример и никто на самом деле не знает, сколько еще подобных небезопасных игрушек может существовать на самом деле.

Источник: www.rbc.ru