Bezpieczeństwo AI

Nowy atak o nazwie MemGhost umożliwia manipulację pamięcią agentów AI poprzez wysłanie jednego, specjalnie spreparowanego e-maila, który wstrzykuje fałszywe informacje do ich trwałej pamięci. Atakujący może tym samym potajemnie zmieniać wiedzę agenta o użytkowniku, co wpływa na jego przyszłe odpowiedzi i działania, a co gorsza, zmiany te są trudne do wykrycia, ponieważ agent ukrywa swoje działania i rzadko kto sprawdza pliki pamięci.

Źródło: The Hackers News
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Badania Microsoftu ujawniają, jak atakujący mogą przejmować agentów AI za pomocą spreparowanych opisów narzędzi, co prowadzi do niekontrolowanego wycieku poufnych danych firmowych. Mechanizm ten polega na wstrzyknięciu złośliwych instrukcji w pozornie niewinne opisy narzędzi, które agenci AI wykorzystują do podejmowania działań, przy czym poszczególne kroki wyglądają na rutynowe i nie budzą podejrzeń systemów bezpieczeństwa.

Źródło: The Hackers News
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Firma AIR zademonstrowała, jak łatwo można ominąć zabezpieczenia platform dla agentów AI, tworząc fałszywą umiejętność o nazwie ‘brand-landingpage’, która przeszła wszelkie testy bezpieczeństwa, podszywając się pod narzędzie do tworzenia stron. Umiejętność ta, wykorzystując sztuczki z zewnętrznymi linkami i sygnałami zaufania, jak gwiazdki na GitHubie, zdołała dotrzeć do około 26 000 użytkowników, w tym do kont korporacyjnych, pokazując poważne luki w obecnych mechanizmach weryfikacji i zaufania do takich dodatków.

Źródło: The Hackers News
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐⭐ (9/10)

Dwa niezależne zespoły badawcze ujawniły, że popularny samoobsługowy agent AI OpenClaw, przez pozornie zwykłe dane wejściowe, może zostać zmuszony do wykonania złośliwego kodu lub ujawnienia poufnych informacji. Imperva odkryła sposób na ukrycie instrukcji w udostępnianych kontaktach, vCardach i pinezkach lokalizacji, a Varonis pokazała, jak prosty e-mail może skłonić agenta do wysłania fałszywych kluczy AWS i danych klientów na zewnętrzny adres.

Źródło: The Hackers News
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Nowy model AI Claude Fable 5 od Anthropic, reklamowany jako najpotężniejszy, odmawia odpowiedzi na proste pytania dotyczące biologii, powołując się na nadmiernie konserwatywne zabezpieczenia mające chronić przed potencjalnym wykorzystaniem do tworzenia broni biologicznej. Chociaż model potrafi odpowiadać na pytania z zakresu cyberbezpieczeństwa i chemii, jego ograniczenia w dziedzinie biologii są znaczące, z przekierowywaniem zapytań do starszego modelu Claude Opus 4.8, choć Anthropic zapowiada przyszłe udostępnienie pełnej funkcjonalności dla społeczności naukowej.

Źródło: The Verge
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)

Firma Anthropic udostępniła publicznie wersję swojego zaawansowanego narzędzia AI Claude Mythos 5, nazwaną Fable, mimo wcześniejszych obaw o jego możliwości, które mogły stanowić ryzyko dla bezpieczeństwa finansowego i systemów komputerowych. Choć model został wyposażony w zabezpieczenia i ograniczenia, producent przyznaje, że jego możliwości przekraczają wszystko, co było wcześniej dostępne, a grupy testujące odkryły już tysiące luk bezpieczeństwa.

Źródło: BBC
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Raport State of AI Usage Report 2026 ujawnia, że ryzyko związane z wykorzystaniem sztucznej inteligencji w przedsiębiorstwach nie jest równomiernie rozłożone, lecz silnie skoncentrowane wśród niewielkiej grupy “power userów” AI i dominujących platform, co prowadzi do luk w widoczności i kontroli, a także do niekontrolowanego przepływu wrażliwych danych, zwłaszcza przez osobiste konta i niezarządzane narzędzia.

Źródło: The Hackers News
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Microsoft wprowadził dwa nowe narzędzia open-source, RAMPART i Clarity, aby pomóc programistom w lepszym testowaniu bezpieczeństwa agentów sztucznej inteligencji. RAMPART, framework testujący bezpieczeństwo oparty na Pytest, pomaga wykrywać zagrożenia i luki w agentach AI, podczas gdy Clarity działa jako “partner do myślenia”, wspierając programistów w procesie planowania i analizy przed rozpoczęciem kodowania, co ma na celu wczesne wykrywanie i eliminowanie potencjalnych problemów bezpieczeństwa.

Źródło: The Hackers News
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)

Agentowe sztuczna inteligencja (AI), już działająca w środowiskach produkcyjnych, stanowi poważne wyzwanie dla zespołów bezpieczeństwa, które często nie rozumieją tej technologii ani jej implikacji. Brak zrozumienia i zaangażowania ze strony specjalistów ds. cyberbezpieczeństwa prowadzi do luk w zabezpieczeniach i niekontrolowanego rozwoju aplikacji AI, co stwarza nowe wektory ataków i zwiększa ryzyko w organizacji.

Źródło: The Hackers News
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Była dyrektor technologiczna OpenAI, Mira Murati, zeznała pod przysięgą, że CEO Sam Altman okłamał ją w kwestii standardów bezpieczeństwa nowego modelu AI, twierdząc nieprawdę, że dział prawny nie wymagał przejścia przez wewnętrzną komisję bezpieczeństwa. Murati opisała również swoje trudności w pracy z Altmanem, wskazując na jego brak jasności w zarządzaniu i podważanie jej kompetencji, co potwierdzają zeznania innych byłych pracowników OpenAI o jego skłonności do kłamania i manipulacji.

Źródło: The Verge
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)