Hakerzy opracowali sprytny atak na konta Instagram, wykorzystując do tego… własnego chatbota Mety. Weekend ujawnił poważną lukę bezpieczeństwa w systemie wsparcia AI, który zarządza dostępem do profilów użytkowników. Wystarczyło jedno proste polecenie skierowane do chatbota – prośba o dodanie nowego adresu email do cudzego konta – aby nieuprawnione osoby mogły przejąć kontrolę nad profilami ofiar. Co szczególnie niepokojące, atak nie wymagał dostępu do poczty elektronicznej ofiary, nie były potrzebne żadne linki phishingowe czy malware. To pokazuje, jak łatwo można byłoby pominąć standardowe mechanizmy bezpieczeństwa, gdy odpowiednie systemy nie weryfikują dostatecznie tożsamości użytkownika.
Incydent rzuca światło na fundamentalny problem: przy całej inteligencji sztucznych modeli języka ich integracja z systemami krytycznymi dla bezpieczeństwa może stwarzać nowe zagrożenia. Chatbot Mety został wyposażony w możliwość dokonywania operacji na kontach, ale ewidentnie zabrakło mu odpowiednich mechanizmów weryfikacyjnych. Zamiast robić coś głupiego lub odmawiać żądania, AI po prostu spełniło polecenie – przecież w jego logice brzmiało to jak uzasadniona prośba użytkownika. To dobry przykład na to, że dodanie AI do istniejącej infrastruktury bezpieczeństwa nie zawsze ją wzmacnia, jeśli nie przemyśli się odpowiednio ograniczeń i walidacji.
Dla Mety to kolejny problem wizerunkowisty, ale przede wszystkim oznacza poważne zagrożenie dla milionów użytkowników Instagrama. Jeśli hakerzy potrafią przejąć konto bez tradycyjnych ataków, mogą to robić na skalę, uciekając uwagę tradycyjnych systemów detekcji zagrożeń. Platforma musiała szybko zareagować i wzmocnić bezpieczeństwo tego chatbota. Cała sprawa podkreśla też, jak ważne jest testowanie systemów AI w kontekście bezpieczeństwa przed wdrożeniem ich do rzeczywistych aplikacji – szczególnie jeśli mogą one modyfikować wrażliwe dane użytkowników.