Badacze bezpieczeństwa odkryli poważną lukę w systemie wsparcia Mety. Okazało się, że AI chatbot firmy, który ma pomagać użytkownikom w rozwiązywaniu problemów, został wykorzystany przez hakerów do przejęcia kontroli nad kontami Instagram. Hacker pokazał w wideo, jak poprzez rozmowę z botem da się zmienić adres email powiązany z obcym kontem, a następnie zresetować hasło, uzyskując pełny dostęp do profilu. Meta już przyznała, że problem istnieje i pracuje nad jego eliminacją.
Incydent ujawnia zagrożenie, które niewielu użytkowników mogło przewidzieć. Chatboty AI, zwłaszcza gdy mają dostęp do wrażliwych funkcji konta, mogą stać się potężnym narzędziem w rękach złośliwych aktorów, jeśli ich bezpieczeństwo nie będzie wystarczające. Wszystko sprowadzało się do tego, że bot nie weryfikował prawidłowo tożsamości osoby żądającej zmian na koncie ani nie stosował wystarczających zabezpieczeń przed manipulacją.
To nie jest przypadkowe zdarzenie, lecz wskaźnik szerszego problemu w branży. W miarę jak firmy technologiczne integrują zaawansowaną sztuczną inteligencję z krytycznymi funkcjami zabezpieczenia kont, muszą zdawać sobie sprawę, że każdy punkt kontaktu z użytkownikiem to potencjalny wektor ataku. Incydent podkreśla konieczność przeprowadzania wnikliwych testów bezpieczeństwa AI, zanim zostaną one wdrożone na skalę miliardów użytkowników. Dla zwykłych ludzi sygnał jest prosty: warto dodatkowo zabezpieczać swoje konta i być czujnym wobec wszelkich zmian w profilu.