Badacze z Seul National University i University of Illinois Urbana-Champaign odkryli nową klasę ataków na agentów AI, nazwaną Agent Data Injection (ADI). Polega ona na manipulowaniu danymi, którym agent zaufał, np. poprzez fałszywe komentarze czy identyfikatory przycisków, co może skłonić agenta do wykonania niepożądanych działań, takich jak przypadkowe zakupy lub uruchomienie złośliwego kodu, zamiast wykonania pierwotnego zadania. Atak jest trudny do wykrycia, ponieważ wykorzystuje sposób, w jaki modele językowe interpretują znaki interpunkcyjne, i działa na poziomie niższym niż tradycyjne ataki typu prompt injection, podważając zaufanie agenta do źródła danych.
Źródło: The Hackers News
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)