Цивилизация
Плюшевый мишка с искусственным интеллектом был снят с продаж после того, как выяснилось, что он дает детям неприемлемые советы сексуального характера и подсказывает, где в доме можно найти ножи, пишет Daily Mail.
Речь идет об игрушке Kumma, произведенной в Китае и продававшейся по цене $99. Исследование показало, что мишка, работающий на базе модели GPT-4o от OpenAI, охотно вступал в откровенные разговоры. На упоминание слова «извращение» игрушка предлагала сценарии ролевых игр с элементами БДСМ, описывая это как «забавную изюминку». Кроме того, на вопрос о том, где лежат ножи, ИИ-мишка точно указывал на кухонный ящик или подставку для ножей.
Отмечается, что, хотя маленькие дети вряд ли станут задавать такие вопросы целенаправленно, они легко могут повторять услышанные в сети слова, а игрушка демонстрировала «удивительную» готовность развивать подобные темы.
В результате скандала компания OpenAI приостановила доступ производителя игрушки, компании FoloToy, к своим моделям. Со своей стороны, FoloToy временно прекратила продажи Kumma до завершения полной проверки безопасности.
Ранее созданная ИИ песня впервые лидировала в чартах США.
