Милые игрушки с ИИ

20.11.2026 10:40  409   Комментарии (11)

Американский телеканал NBC News провёл расследование безопасности детских игрушек с искусственным интеллектом и обнаружил, что некоторые из них способны обсуждать с маленькими детьми совершенно неподходящие темы.

Особенно отличился плюшевый кот Contixo AI Pixie-Paw, предназначенный для детей от трёх лет. Производитель рекламировал его как "безопасную интерактивную игрушку для обучения, рассказывания историй и ролевых игр". При этом во время тестирования кот охотно рассказывал о массовых убийствах, изнасилованиях и казнях.

В частности, игрушка подробно описывала геноцид народа рохинджа в Мьянме, массовые расстрелы польских военнопленных советскими солдатами во время Второй мировой войны, а также объясняла, что такое групповое изнасилование.

После обращения журналистов крупнейшие американские торговые сети Walmart, Target и Macy’s пообещали убрать игрушку из своих интернет-магазинов. Amazon, где журналисты приобрели кота, на запрос не ответил и на момент публикации продолжал его продавать.

Проверка других игрушек с ИИ также выявила проблемы. Некоторые из них внезапно неожиданно переходили с английского языка на китайский, другие не могли правильно произносить простые слова. 

При этом NBC проводил аналогичное расследование ещё год назад и обнаружил практически те же проблемы. Судя по всему, производители никаких серьёзных выводов не сделали.

Американская некоммерческая организация PIRG в своём ежегодном докладе о безопасности игрушек также рекомендовала родителям избегать игрушек с искусственным интеллектом. Специалисты организации протестировали семь таких устройств и обнаружили, что некоторые из них обсуждали с детьми сексуальные темы, рассказывали, где найти дома потенциально опасные предметы, и объясняли, как зажечь спичку.

Так что не очень-то они и безопасные, эти "интерактивные игрушки с искусственным интеллектом". 

 

Комментарии 11

Я прямо представляю себе как пятилетний ребенок садится рядом с такой игрушкой и говорит: «А расскажи-ка мне Зайка, про геноцид в Мьянме».
20.11.26 12:11
0 0

Особенно отличился плюшевый кот Contixo AI Pixie-Paw, предназначенный для детей от трёх лет. Производитель рекламировал его как "безопасную интерактивную игрушку для обучения, рассказывания историй и ролевых игр". При этом во время тестирования кот охотно рассказывал о массовых убийствах, изнасилованиях и казнях.
...почему-то представился Винни-Пух с ИИ, рассказывающий китайским детям про площадь Тяньаньмень и Тибет 😄 Или Чебурашка, честно отвечающий россиянам - кто агрессор. Да, опасненькие дела.
20.11.26 12:07
0 0

были систематические исследования опубликованные еще год назад в профессиональных Security/Privacy computer journals про то, как эти игрушки сливают все в облако, насколько я понял, незащищенными протоколами. На основании публикаций правительство Швейцарии озаботилось их регулированием. Игрушка была, например, "Грок" (конечно) от компании, связанной с бывшей женой/Partnerin Маска.
20.11.26 11:11
0 1

Так что не очень-то они и безопасные, эти "интерактивные игрушки с искусственным интеллектом". 
Что уж говорить про дроны и прочие гаубицы.
20.11.26 10:56
0 2

20.11.26 10:51
0 1

При этом во время тестирования кот охотно рассказывал о массовых убийствах, изнасилованиях и казнях.
Я пользуюсь ЧатЖПТ без логина, и на любой вопрос, где ответ хоть сколько-нибудь не подходит для детей, он сразу же скрывает свой ответ из соображений безопасности.
20.11.26 10:49
0 1

скрывает свой ответ из соображений безопасности
Т.е. когда люди его спрашивали про то, как приготовить цианистый калий, они должны были пользоваться логином? Тонко. На щекотливые темы -- только со сливом личных данных.
20.11.26 11:23
0 1

ролевых игр
Не первый раз сталкиваюсь с тем, насколько по-разному понимают этот термин в разных срезах общества 😄
20.11.26 10:48
0 1

Не первый раз сталкиваюсь с тем, насколько по-разному понимают этот термин в разных срезах общества 😄
Что тут можно по-разному понимать? Это стандартный вопрос врача родителям, играет ли ребенок в ролевые игры. Особенно если есть подозрение на расстройства аутистического спектра.
20.11.26 10:53
1 1

Что тут можно по-разному понимать?
Ага-ага... Мальчик в клубе склеил модель.

Мальчик в клубе склеил модель.
С раннего возраста хочет в бордель.
Теги
Сортировать по алфавиту или записям
BLM 22
Calella 154
exler.es 352
RIP 135
SNL 1
авто 545
видео 5031
вино 371
еда 568
ЕС 97
игры 125
ИИ 126
кино 1727
попы 212
СМИ 3081
софт 1016
США 343
ФБК 15
шоу 6