Цивилизация
В браузере ChatGPT Atlas от OpenAI была выявлена серьезная уязвимость, связанная с prompt injection: скрытые инструкции на веб-страницах способны заставлять ИИ-агента выполнять непреднамеренные команды, включая действия, ведущие к компрометации персональных данных. Об этом сообщает Winbuzzer.
Одним из практических сценариев атаки стал clipboard injection. В этом случае агент автоматически копирует в буфер обмена вредоносную ссылку, что может перенаправить пользователя на фишинговый ресурс и создать угрозу утечки паролей и кодов двухфакторной аутентификации. Эксперты подчеркивают, что в текущей версии ключевым элементом защиты остается контроль со стороны пользователя за действиями ИИ-ассистента.
ChatGPT Atlas предлагает ряд продвинутых функций, включая browser memories — сохранение контекста использования — и agent mode, который позволяет ИИ самостоятельно взаимодействовать с веб-контентом. Однако расширение автономности повышает риски и требует усиленного внимания к вопросам конфиденциальности и безопасности.
По мнению специалистов, появление подобных ИИ-агентов формирует качественно новый вектор угроз: вредоносные команды могут быть встроены не только в текст, но и в изображения или иные элементы страниц, что делает традиционные инструменты защиты менее эффективными.
В OpenAI отмечают, что компания инвестирует значительные ресурсы в развитие систем безопасности и работу над методами противодействия prompt injection. Тем не менее, разработчики признают, что эта проблема остается актуальной и потребует постоянного совершенствования защитных механизмов по мере развития и распространения агентных технологий.
Ранее Windows 11 уличили в шпионаже за любителями игр.