Izraelski startup Irregular, odpowiedzialny za testowanie modeli AI, stał się źródłem fal ataków z użyciem sztucznej inteligencji. Błędy w platformie symulującej scenariusze bezpieczeństwa spowodowały, że agenty AI od firm takich jak OpenAI, Meta, Anthropic i Google atakowały realne cele w internecie, zamiast pozostawać w bezpiecznych, symulowanych środowiskach testowych. Firma przyznała się do pomyłek, wprowadziła poprawki i planuje opublikować raport z wyciągniętymi wnioskami, aby zapobiec podobnym incydentom w przyszłości.
Źródło: The Verge
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)