TL;DR
Agent obsługi klienta, który czyta maile, sprawdza bazy wiedzy i wykonuje operacje na koncie, to dla atakującego dużo ciekawszy cel niż zwykły formularz kontaktowy. Tekst rozkłada na czynniki pierwsze kilka konkretnych wektorów: błędy walidacji adresu nadawcy pozwalające podszyć się pod ofiarę, rozjazd w interpretacji tego samego ciągu znaków między systemem pocztowym, aplikacją webową a backendem API, oraz wiadomości HTML z instrukcjami ukrytymi w CSS lub obrazkach - niewidocznymi dla człowieka, ale czytelnymi dla modelu.
Osobny wątek to zatruwanie baz RAG: podrzucenie własnych treści do źródeł, z których korzysta agent, tak by AI przedstawiło spreparowaną informację jako oficjalną wiedzę firmy. Wniosek jest prosty i nieprzyjemny dla wielu wdrożeń - agenta trzeba traktować jak uprzywilejowanego użytkownika, z pełną zasadą najmniejszych uprawnień, segmentacją dostępu i audytem działań, a nie jak niegroźny chatbot.
Sztuczna inteligencja coraz częściej nie tylko odpowiada klientom, ale również czyta wiadomości e-mail, korzysta z baz wiedzy, wykonuje operacje na kontach i uruchamia narzędzia w...
Czytaj cały wpis u źródła// tagi
