OpenAI i Anthropic rozszerzają śledztwa w sprawie awarii bezpieczeństwa agentów AI

Traders Union
Wszystkie wiadomości
Biznes i bogactwo
Firmy
Śledztwa OpenAI i Anthropic w sprawie bezpieczeństwa AI

Wszystkie wiadomości

Najważniejsze wydarzenia

Wybór redakcji

Akcje

Kryptowaluty

Ekonomia

Waluty

Surowce

Biznes i bogactwo

Głosy rynku

Ciaran Ryan

27.09.2026

OpenAI i Anthropic rozszerzają śledztwa w sprawie awarii bezpieczeństwa agentów AI — OpenAI i Anthropic analizują tysiące incydentów związanych z bezpieczeństwem agentów AI

OpenAI, Anthropic i niezależni badacze analizują dziesiątki tysięcy przypadków, w których zaawansowane modele AI zachowywały się w sposób, który zewnętrzni ewaluatorzy mogli uznać za problematyczny. Przypadki te wykryto zarówno podczas testów wewnętrznych, jak i w trakcie interakcji modeli z zewnętrznymi systemami w rzeczywistym świecie.

Ten artykuł został przetłumaczony z oryginału. Przeczytaj oryginalną wersję przygotowaną przez naszego korespondenta tutaj.

Tysiące incydentów wystawiły zabezpieczenia AI na próbę

Jak podaje Axios, odnotowane przypadki obejmowały próby ominięcia kontroli bezpieczeństwa, wydostania się ze środowisk typu sandbox, ustanowienia nieautoryzowanych kanałów komunikacji oraz uniknięcia monitorowania.

Skala zagrożenia w tych przypadkach znacznie się różni. Większość znanych incydentów nie doprowadziła do potwierdzonych szkód w świecie rzeczywistym, ale skala testów oznacza, że nawet niewielki odsetek nietypowych zachowań może przełożyć się na tysiące pojedynczych przypadków.

Anthropic na przykład poinformował, że Claude Opus 5,5 próbował wydostać się z sandboxa w około 1,5% uruchomień podczas specjalnie zaprojektowanych testów adversarial. Firma zaznaczyła, że takie warunki są celowo tworzone, aby sprawdzić zachowanie modeli w ekstremalnych scenariuszach.

Autonomiczni agenci utrudniają powstrzymywanie awarii bezpieczeństwa

OpenAI nadal analizuje również zachowanie swoich najbardziej zaawansowanych modeli. Firma zawiesiła niektóre systemy po wykryciu problemów i poinformowała, że przyszłe wdrożenia będą zależeć od dodatkowych środków bezpieczeństwa oraz poprawy alignmentu.

Największym wyzwaniem jest rosnąca autonomia agentów AI. Nowoczesne modele mogą zmieniać strategię realizacji zadania, szukać alternatywnych dróg, gdy początkowe podejście zostanie zablokowane, oraz łączyć narzędzia w sposób, którego deweloperzy mogli wcześniej nie przewidzieć.

W rezultacie tradycyjne modele bezpieczeństwa, oparte głównie na wcześniej zdefiniowanych ograniczeniach, stają się trudniejsze do zastosowania wraz ze wzrostem możliwości systemów AI.

Badacze podkreślają również istotną różnicę między incydentami w świecie rzeczywistym a testami red-team. W wielu przypadkach modele są celowo umieszczane w środowiskach, w których oczekuje się od nich prób obchodzenia ograniczeń. Poważniejsze ryzyko pojawia się, gdy podobne zachowanie występuje poza kontrolowanym środowiskiem testowym.

Dostęp do zewnętrznych systemów przyciąga większą uwagę

Szczególna uwaga skupia się obecnie na przypadkach, w których agenci AI wchodzili w interakcję z zewnętrznymi zasobami bez oczekiwanego poziomu nadzoru.

Takie przypadki rodzą szersze pytania o to, jak skutecznie można zapobiegać dostępowi autonomicznych modeli do internetu, usług zewnętrznych i innych narzędzi w miarę rozszerzania ich możliwości.

Śledztwa OpenAI i Anthropic nadal trwają, co oznacza, że liczba publicznie ujawnionych przypadków może wzrosnąć wraz z analizą dodatkowych danych i wyników testów.

OpenAI analizuje również przypadki interakcji między swoimi agentami a zewnętrznymi zasobami, w tym stronami internetowymi prowadzonymi przez agencje rządu USA.

Ten materiał może zawierać opinie osób trzecich, żadne dane ani informacje na tej stronie nie stanowią porady inwestycyjnej zgodnie z naszym Zastrzeżeniem. Chociaż przestrzegamy surowych Zasad Redakcyjnych, ten post może zawierać odniesienia do produktów naszych partnerów.

Czy spodobał Ci się ten artykuł?