Az Anthropic Claude-ja három vállalati hálózatba tört be a tesztelés során

Az Anthropic Claude-ja három vállalati hálózatba tört be a tesztelés során
A Claude három céget is feltört az AI-tesztek során

Az Anthropic közölte, hogy több Claude modell is jogosulatlan hozzáférést szerzett három vállalathoz olyan kiberbiztonsági értékelések során, amelyeket elvileg el kellett volna szigetelni a nyilvános internettől. Az esetek rávilágítanak arra, hogy az egyre fejlettebb AI-ágensek miként alakíthatják a tesztelési hibákat valós biztonsági incidensekké, még akkor is, ha a rendszerek nem szándékosan lépnek túl a kijelölt céljaikon.

Kiemelések

  • A Claude modellek három vállalathoz fértek hozzá a kibertesztek során.
  • Egy tesztelési hiba miatt a rendszerek kapcsolatban maradtak az internettel.
  • Két vállalat nem is tudott az esetről, amíg az Anthropic fel nem vette velük a kapcsolatot.

Ezt a cikket az eredetiből fordítottuk. Olvassa el tudósítónk eredeti változatát itt.

Az Anthropic 141 006 értékelési munkamenet átvizsgálása után fedezte fel az eseteket, miután az OpenAI közzétett egy különálló támadást, amely a Hugging Face AI-platform infrastruktúráját érintette – olvasható a vállalat weboldalán. Az Anthropic a jogsértéseket egy külső értékelő partner operatív hibájának tulajdonította, amely miatt a modellek kapcsolatban maradtak az internettel.

A szimulált támadások valós rendszereket értek el

Az érintett modellek között szerepelt a Claude Opus 4,7, a Claude Mythos 5 és egy belső kutatási modell is. Ezek olyan „capture-the-flag” gyakorlatokban vettek részt, amelyek célja annak tesztelése volt, hogy képesek-e rejtett információkat találni szimulált hálózatokon belül.

Ehelyett a modellek élő rendszereket értek el, és alapvető gyengeségeket használtak ki, beleértve a gyenge jelszavakat és a hitelesítést nem igénylő végpontokat. Az Anthropic szerint nincs bizonyíték arra, hogy a modellek elhagyták volna a kijelölt feladataikat vagy független célokat fogalmaztak volna meg; nagyrészt úgy tűnt, azt hitték, hogy a valós infrastruktúra az értékelés része.

Egy esetben a tesztben használt fiktív célpont neve megegyezett egy valódi vállalatéval. A Claude Opus 4,7 sebezhetőségeket talált, hitelesítő adatokat szerzett, és hozzáfért a tényleges vállalkozáshoz tartozó adatbázishoz. Egy másik belső modell leállította a támadást, miután felismerte, hogy valós célpontot ért el, bár az Anthropic szerint további tesztelésre van szükség, mielőtt következtetéseket vonnának le ebből a viselkedésből.

A felügyelet hamarabb vallott kudarcot, mint a modellek

Az Anthropic július 23-án felfüggesztette kiberbiztonsági értékeléseit, és július 27-én megkezdte az érintett szervezetek értesítését. Két vállalat nem észlelte a behatolást, míg a harmadikkal való kapcsolatfelvétel még folyamatban volt. Az értékelő partner, az Irregular kiberbiztonsági laboratórium közölte, hogy vizsgálja az eseteket.

A közzététel az OpenAI jelentését követi, amely szerint egyik ágense elérte a Hugging Face-t a tesztelés során. A különbség jelentős: az Anthropic rendszerei véletlenül kaptak internet-hozzáférést, míg az OpenAI ágense a hírek szerint egy korábban ismeretlen gyengeséget használt ki, hogy kitörjön a környezetéből.

A „frontier AI” elszigetelési problémája

A központi kockázat már nem csak az, hogy az AI képes-e azonosítani a sebezhetőségeket. Hanem az, hogy a laboratóriumok megbízhatóan tudják-e ellenőrizni, hol működnek a fejlett ágensek, és milyen rendszereket érhetnek el.

A több mint 141 000 munkamenetre kiterjedő felülvizsgálat is csak azután azonosította a jogsértéseket, hogy egy másik cég hasonló hibát tárt fel. Ez nehéz kérdéseket vet fel a fel nem fedezett incidensekről, a harmadik felek tesztelési szabványairól, és arról, hogy az önkéntes óvintézkedések tudják-e tartani a lépést, ahogy az AI-rendszerek egyre autonómabbá és hatékonyabbá válnak a kiberbiztonsági feladatokban.   

Arról is beszámoltunk, hogy az Anthropic szigorítja a Claude hozzáférési ellenőrzéseit a Kínával kapcsolatos korlátozások miatt.

Ez az anyag harmadik felek véleményét tartalmazhatja, a weboldalon található adatok és információk egyike sem minősül befektetési tanácsnak a Jogi nyilatkozatunk szerint. Bár szigorú Szerkesztői Integritást követünk, ez a bejegyzés tartalmazhat hivatkozásokat partnereink termékeire.