Firma Anthropic ujawniła szczegóły operacji cyber-szpiegowskiej przeprowadzonej w dużej mierze przez autonomiczny system AI

14 listopada. Amerykańska firma badawczo-rozwojowa Anthropic ujawniła szczegóły pierwszej znanej operacji cyber-szpiegowskiej przeprowadzonej w dużej mierze przez autonomiczny system sztucznej inteligencji. Podejrzana aktywność został wykryta we wrześniu br., a po gruntownej analizie ujawniono strukturę ataku, w którym wykorzystano Claude Code jako zautomatyzowanego agenta do infiltracji około trzydziestu instytucji z branży technologicznej, finansowej, chemicznej i rządowej.  Dzieląc zadania na małe polecenia i przedstawiając Claude’a jako defensywnego asystenta bezpieczeństwa, a nie narzędzie ofensywne, ominęli zabezpieczenia i zmusili model do analizowania systemów, identyfikowania słabych punktów, pisania kodu wykorzystującego luki i zbierania danych uwierzytelniających.  Anthropic zareagował, blokując konta, informując poszkodowane podmioty i współpracując z organami ścigania w celu zebrania dowodów. Firma utrzymuje, że te same możliwości modelowe, które wykorzystali atakujący, są potrzebne do cyberobrony. Za kluczowe uznaje się większą automatyzację wykrywania zagrożeń, analizy podatności i reagowania na incydenty. Więcej informacji TUTAJ