Плюшевый медведь с искусственным интеллектом учил детей поджигать спички и рассказывал, где в квартире искать ножи.
Китайская компания FoloToy выпустила игрушку Kumma: милый медведь, который разговаривает с ребёнком и отвечает на вопросы. Его продавали на маркетплейсах и рекламировали как "первого AI-друга ребёнка" и помощника в обучении.
В живых диалогах Кумма легко уходил во взрослые темы: начинал разжёвывать "особые игры между взрослыми", а заодно подсказывал ребёнку, где дома лежат спички, как их зажигать и в каком кухонном ящике искать ножи.
После публичных жалоб и расследований OpenAI отключила игрушке доступ к своей нейросети. FoloToy остановила продажи и объявила полный аудит безопасности своих продуктов.
Образ плюшевого медведя из фильма "Третий лишний" получил реальное воплощение.
