Уязвимость ИИ-помощника Meta позволила захватывать аккаунты Instagram

В течение нескольких недель ИИ-помощник Meta, предназначенный для управления аккаунтами Instagram и Facebook, обладал серьезной уязвимостью, которая позволяла злоумышленникам менять привязанные к учетным записям адреса электронной почты. Это приводило к тому, что законные владельцы теряли доступ к своим аккаунтам, оказываясь "запертыми" снаружи.

Представленный в марте, этот ИИ-помощник позиционировался Meta как "надежный, быстрый и эффективный" инструмент, доступный круглосуточно для решения проблем с аккаунтами "от А до Я". Среди его функций были такие конфиденциальные операции, как сброс пароля или изменение электронной почты, связанной с аккаунтом.

Недавние инциденты показали, что ряд известных профилей Instagram, включая аккаунт, предположительно принадлежащий Бараку Обаме, страницу Sephora и аккаунт главы сержантского состава Космических сил США, были скомпрометированы. Владельцы теряли доступ, поскольку их электронная почта была изменена без их разрешения, что позволяло хакерам публиковать контент, общаться с подписчиками, распространять мошенничество или даже перепродавать аккаунты третьим лицам.

По данным 404media, Meta уже устранила эту уязвимость. Важно отметить, что это не была традиционная брешь в безопасности системы, а скорее "социальная инженерия, примененная к ИИ-агентам" через технику "внедрения запросов" (prompt injection).

Метод заключался в следующем: зная имя пользователя жертвы в Instagram, хакер, используя VPN для маскировки под пользователя из того же региона, начинал процедуру восстановления аккаунта. В ходе диалога с ИИ-помощником Meta, бот убеждали заменить исходный адрес электронной почты аккаунта на адрес, контролируемый хакером. ИИ отправлял проверочный код на этот новый адрес. После изменения адреса атакующий мог запросить сброс пароля и получить полный контроль над учетной записью.

ИИ-помощник Meta, по-видимому, выполнял чрезвычайно чувствительные операции без должной проверки личности пользователя, обходя обычные меры безопасности, такие как строгая аутентификация или подтверждение через старый адрес электронной почты, которые обычно требуются для таких изменений. Это свидетельствует о том, что ИИ обладал чрезмерно высокими привилегиями без достаточных защитных механизмов. Эта проблема, связанная с внедрением запросов, признается долгосрочной задачей и другими крупными игроками в области ИИ, такими как OpenAI.