Badania Microsoftu ujawniają, jak atakujący mogą przejmować agentów AI za pomocą spreparowanych opisów narzędzi, co prowadzi do niekontrolowanego wycieku poufnych danych firmowych. Mechanizm ten polega na wstrzyknięciu złośliwych instrukcji w pozornie niewinne opisy narzędzi, które agenci AI wykorzystują do podejmowania działań, przy czym poszczególne kroki wyglądają na rutynowe i nie budzą podejrzeń systemów bezpieczeństwa.
Źródło: The Hackers News
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)