نموذج Claude من Anthropic يخترق شبكات ثلاث شركات أثناء الاختبار
صرحت شركة Anthropic أن العديد من نماذج Claude تمكنت من الوصول غير المصرح به إلى ثلاث شركات خلال تقييمات للأمن السيبراني كان من المفترض أن تظل معزولة عن شبكة الإنترنت العامة. وتُظهر هذه الحوادث كيف يمكن لوكلاء الذكاء الاصطناعي، الذين تزداد قدراتهم باستمرار، تحويل أخطاء الاختبار إلى اختراقات أمنية في العالم الحقيقي، حتى عندما لا تعمل الأنظمة بشكل متعمد خارج أهدافها المحددة.
أهم الأخبار
- نماذج Claude وصلت إلى ثلاث شركات خلال اختبارات سيبرانية.
- خطأ في الاختبار ترك الأنظمة متصلة بالإنترنت.
- شركتان لم تكونا على علم بالأمر حتى تواصلت Anthropic معهما.
تمت ترجمة هذا المقال من النسخة الأصلية. اقرأ النسخة الأصلية التي أعدها مراسلنا هنا.
اكتشفت Anthropic هذه الحالات بعد مراجعة 141,006 جلسة تقييم في أعقاب كشف شركة OpenAI عن هجوم منفصل استهدف البنية التحتية لمنصة الذكاء الاصطناعي Hugging Face، وفقاً لما ورد على الموقع الإلكتروني للشركة. وأرجعت Anthropic هذه الاختراقات إلى خطأ تشغيلي يتعلق بشريك تقييم خارجي ترك النماذج متصلة بالإنترنت.
هجمات محاكاة وصلت إلى أنظمة حقيقية
شملت النماذج المتأثرة Claude Opus 4.7، و Claude Mythos 5 ، ونموذج بحث داخلي. كانت هذه النماذج تشارك في تمارين "الاستيلاء على العلم" (capture-the-flag) المصممة لاختبار قدرتها على تحديد مكان معلومات مخفية داخل شبكات محاكاة.
بدلاً من ذلك، وصلت النماذج إلى أنظمة حية واستغلت نقاط ضعف أساسية، بما في ذلك كلمات مرور ضعيفة ونقاط نهاية لا تتطلب مصادقة. وقالت Anthropic إنه لا يوجد دليل على أن النماذج قد تخلت عن مهامها الموكلة إليها أو طورت أهدافاً مستقلة؛ بل بدا إلى حد كبير أنها تعتقد أن البنية التحتية الحقيقية كانت جزءاً من التقييم.
في إحدى الحالات، تشابه اسم هدف وهمي مستخدم في الاختبار مع اسم شركة حقيقية. وجد نموذج Claude Opus 4.7 ثغرات أمنية، وحصل على بيانات اعتماد، وتمكن من الوصول إلى قاعدة بيانات تابعة للشركة الفعلية. وتوقف نموذج داخلي آخر عن هجومه بعد إدراكه أنه وصل إلى هدف حقيقي، رغم أن Anthropic قالت إن هناك حاجة لمزيد من الاختبارات قبل استخلاص نتائج حول هذا السلوك.
فشل الرقابة قبل فشل النماذج
علقت Anthropic تقييماتها السيبرانية في 23 يوليو وبدأت في إخطار المنظمات المتأثرة في 27 يوليو. لم تكن شركتان قد اكتشفتا عمليات التسلل، بينما كان التواصل مع الشركة الثالثة لا يزال جارياً. وقال مختبر الأمن السيبراني Irregular، وهو شريك التقييم، إنه يحقق في هذه الحوادث.
يأتي هذا الكشف في أعقاب تقرير OpenAI بأن أحد وكلائها وصل إلى Hugging Face أثناء الاختبار. والفرق هنا جوهري: فقد مُنحت أنظمة Anthropic حق الوصول إلى الإنترنت عن غير قصد، بينما ورد أن وكيل OpenAI استغل نقطة ضعف لم تكن معروفة سابقاً للهروب من بيئته.
مشكلة احتواء للذكاء الاصطناعي المتقدم
لم يعد الخطر المركزي يكمن فقط في قدرة الذكاء الاصطناعي على تحديد الثغرات، بل في مدى قدرة المختبرات على التحكم بشكل موثوق في أماكن عمل الوكلاء المتقدمين والأنظمة التي يُسمح لهم بالوصول إليها.
إن مراجعة شملت أكثر من 141,000 جلسة لم تحدد الاختراقات إلا بعد أن كشفت شركة أخرى عن فشل مماثل. وهذا يثير تساؤلات صعبة حول الحوادث غير المكتشفة، ومعايير اختبار الطرف الثالث، وما إذا كانت الضمانات الطوعية يمكن أن تواكب التطور مع زيادة استقلالية أنظمة الذكاء الاصطناعي وفعاليتها في مهام الأمن السيبراني.
أفدنا أيضاً بأن Anthropic تشدد ضوابط الوصول إلى Claude بسبب القيود المفروضة على الصين.
آخر أخبار Company News
- Forex
- Crypto