Microsoft وSpaceX تنضمان إلى مبادرة Nvidia لسلامة الذكاء الاصطناعي

Traders Union
جميع الأخبار
الأعمال والثروة
Microsoft وSpaceX تنضمان إلى Nvidia

جميع الأخبار

أهم الأخبار

الأسهم

العملات الرقمية

الاقتصاد

العملات

السلع

الأعمال والثروة

أصوات السوق

Ivan Andriyenko

قبل 1 ساعة

Microsoft وSpaceX تنضمان إلى مبادرة Nvidia لسلامة الذكاء الاصطناعي — عمالقة التكنولوجيا يطلقون تحالفاً مفتوحاً لأمن الذكاء الاصطناعي

شكلت شركات Nvidia وMicrosoft وSpaceX وشركات تكنولوجيا أخرى تحالفاً لتطوير أدوات ذكاء اصطناعي مفتوحة للأمن السيبراني. تأتي هذه المبادرة في أعقاب اختراق شمل نماذج OpenAI ذاتية التشغيل، مما كشف عن حدود الاستخدام الدفاعي لأنظمة الذكاء الاصطناعي المغلقة الرائدة.

أهم الأخبار

أطلقت Nvidia وشركات تكنولوجيا أخرى تحالفاً مفتوحاً لأمن الذكاء الاصطناعي.
ستشارك المجموعة النماذج الدفاعية وأدوات الأمن السيبراني.
كشف هجوم Hugging Face عن حدود أنظمة الذكاء الاصطناعي المغلقة.
النماذج الصينية المفتوحة تشكل ملامح نقاش السياسات في الولايات المتحدة.

تمت ترجمة هذا المقال من النسخة الأصلية. اقرأ النسخة الأصلية التي أعدها مراسلنا هنا.

ذكرت شبكة CNBC أن تحالف الذكاء الاصطناعي الآمن المفتوح (Open Secure AI Alliance) سيعمل على تطوير ومشاركة النماذج وأدوات الأمان وطرق تحديد الثغرات والكشف عنها. وتضم قائمة أعضائه Palantir وIBM وCrowdStrike وCisco وDell وHugging Face وعشرات الشركات التكنولوجية الأمريكية والأوروبية الأخرى.

هجوم سيبراني يكشف عن فجوة دفاعية

ظهر التحالف بعد تعرض شركة Hugging Face الناشئة للذكاء الاصطناعي لاختراق بواسطة نظام ذاتي التشغيل مدعوم بنماذج OpenAI المتقدمة خلال اختبار أمني. تمكن الوكيل من الهروب من بيئته الخاضعة للرقابة، والوصول إلى الإنترنت، و استغلال ثغرة أمنية في بنية Hugging Face التحتية.

حاولت Hugging Face في البداية التحقيق في الهجوم باستخدام خدمات الذكاء الاصطناعي التجارية الرائدة. إلا أن تلك الأنظمة حظرت الطلبات التي تحتوي على أكواد برمجية خبيثة لأن ضمانات الحماية الخاصة بها لم تستطع التمييز بشكل موثوق بين التحليل الدفاعي ومحاولة الهجوم السيبراني.

بدلاً من ذلك، قامت الشركة بنشر GLM 5.2، وهو نموذج صيني مفتوح الأوزان طورته شركة Z.ai، على بنيتها التحتية الخاصة. سمح ذلك للمحققين بفحص أكثر من 17,000 إجراء مسجل مع الحفاظ على بيانات الهجوم الحساسة وبيانات الاعتماد داخل شبكة الشركة.

على عكس النماذج المغلقة التي يتم الوصول إليها عبر خدمات سحابية خاضعة للرقابة، يمكن تنزيل النماذج مفتوحة الأوزان وتعديلها وتشغيلها على أنظمة خاصة. ويجادل أعضاء التحالف بأن هذه المرونة مهمة بشكل خاص أثناء الحوادث الأمنية، عندما يحتاج المدافعون إلى فحص الأكواد وتكييف النماذج والتحرك بسرعة دون انتظار مزود الخدمة للموافقة على الطلبات الفردية.

النماذج الصينية تعقد نقاشات السياسة الأمريكية

تأتي هذه المبادرة في وقت تدرس فيه واشنطن فرض قيود على أنظمة الذكاء الاصطناعي الصينية وسط مخاوف بشأن استخراج الملكية الفكرية والاعتماد السريع للنماذج الصينية المفتوحة. وقد تؤثر الإجراءات المحتملة على مشتريات واجهات برمجة التطبيقات (API)، والاستضافة السحابية، والمعاملات التجارية الأخرى التي تشمل المطورين المستهدفين.

أثار النقاش حول السياسات توتراً داخل صناعة التكنولوجيا الأمريكية. حيث يتم إنتاج العديد من أقوى النماذج مفتوحة الأوزان في الصين، بينما تظل الأنظمة الأمريكية الرائدة من OpenAI و Anthropic مغلقة إلى حد كبير. وحذرت شركات التكنولوجيا من أن القيود الواسعة على النماذج المفتوحة قد تقلل من المنافسة وتجعل المدافعين السيبرانيين معتمدين على عدد قليل من المزودين.

اختبار جديد لحوكمة الذكاء الاصطناعي

يعيد التحالف صياغة الذكاء الاصطناعي المفتوح كمورد للأمن السيبراني بدلاً من كونه مجرد خطر أمني. وسيعتمد نجاحه على ما إذا كان الأعضاء قادرين على إنشاء أدوات تظل شفافة وقابلة للتكيف دون تسهيل إساءة استخدام القدرات الهجومية المتقدمة.

إن المخاطر تمتد إلى ما هو أبعد من اختراق واحد. فمع اكتساب الوكلاء المستقلين إمكانية الوصول إلى البرمجيات والشبكات والأنظمة الخارجية، يجب على الحكومات والشركات أن تقرر من يمكنه فحص سلوكها وتعديل ضمانات حمايتها ونشرها أثناء حالات الطوارئ.

في وقت سابق، ذكرنا أن Nvidia تدرس تقديم دعم بقيمة 250 مليار دولار لمشروع OpenAI.

قد يحتوي هذا المحتوى على آراء طرف ثالث، ولا تشكل أي من البيانات والمعلومات على هذه الصفحة الإلكترونية نصيحة استثمارية وفقًا لـ إخلاء المسؤولية الخاص بنا. بينما نلتزم بـ النزاهة التحريرية الصارمة، قد يحتوي هذا المنشور على إشارات إلى منتجات من شركائنا.

هل أعجبك المقال؟