ذكاء اصطناعي بلا حدود: ما مدى خطورة الشبكات العصبية؟

Traders Union
جميع الأخبار
الأعمال والثروة
ذكاء اصطناعي بلا حدود

جميع الأخبار

أهم الأخبار

الأسهم

العملات الرقمية

الاقتصاد

العملات

السلع

الأعمال والثروة

أصوات السوق

Eugene Komchuk

أمس

ذكاء اصطناعي بلا حدود: ما مدى خطورة الشبكات العصبية؟ — هل يمكن أن يكون الذكاء الاصطناعي خطيراً؟

في رواية الخيال العلمي الشهيرة Hyperion للكاتب دان سيمونز، تتمرد أنظمة الذاء الاصطناعي التي صنعها البشر ضد الإنسانية، وتتحول إلى قوة مستقلة لها أهدافها الخاصة. لفترة طويلة، ظل مثل هذا السيناريو ضرباً من الخيال العلمي، لكن حادثة OpenAI أظهرت أن النماذج الحديثة قادرة بالفعل على تجاوز القيود المعمول بها.

تمت ترجمة هذا المقال من النسخة الأصلية. اقرأ النسخة الأصلية التي أعدها مراسلنا هنا.
الهروب للعثور على الإجابة الصحيحة

احتدم الجدل حول مخاطر الذكاء الاصطناعي بعد تجربة أجرتها OpenAI. اختبرت الشركة عدة نماذج، بما في ذلك GPT-5.6 Sol المتاح للجمهور ونظاماً أكثر قدرة لم يتم إصداره بعد. طُلب منهم إكمال ExploitGym، وهو تقييم يتكون من مهام طويلة ومتعددة الخطوات تتضمن اكتشاف واستغلال ثغرات الكمبيوتر.

أُجري الاختبار في بيئة معزولة مع وصول محدود للشبكة. وفي الوقت نفسه، قلل المطورون عمداً من الضمانات التي تمنع النماذج عادةً من تنفيذ إجراءات خطيرة. أُعطي الذكاء الاصطناعي هدفاً محدداً — وهو إكمال التقييم بنجاح — وبدأ في البحث عن أي وسيلة متاحة لتحقيق ذلك.

Loading...

تم حذف التغريدة بواسطة المؤلف.

لكننا حفظنا كل شيء 🙂.

اكتشفت النماذج ثغرة أمنية لم تكن معروفة سابقاً في برمجيات طرف ثالث استخدمتها OpenAI داخل بنيتها التحتية. واستغلوها للوصول إلى الإنترنت، واستنتجوا أن الإجابات قد تكون مخزنة على منصة Hugging Face وبدأوا في البحث عن طريقة للوصول إلى البيانات المقيدة.

لاختراق البنية التحتية لـ Hugging Face، دمجت النماذج عدة نقاط ضعف مع بيانات اعتماد مسروقة. ونتيجة لذلك، تمكنوا من تنفيذ أوامر على خوادم الإنتاج الخاصة بالمنصة. اكتشف فريق Hugging Face الهجوم، واحتوى تأثيره، وقام بإصلاح الثغرة الأمنية. ومع ذلك، أظهرت التجربة أن نموذجاً يتمتع بقدرات كافية يمكنه القيام بأكثر من مجرد تنفيذ أمر فردي: يمكنه بشكل مستقل العثور على مسار لم يتوقعه مصممو الاختبار أبداً.

المخترقون يحصلون على مساعد رقمي

الخطر الرئيسي، مع ذلك، لا يكمن ببساطة في أن الذكاء الاصطناعي يمكنه إنشاء كود برمجى خبيث بناءً على أمر. يمكن للنموذج المستقل قضاء ساعات في تحليل البنية التحتية، واختبار كلمات المرور، والبحث عن المفاتيح المكشوفة، والانتقال من ثغرة أمنية إلى أخرى. إنه لا يتعب، ويتتبع المحاولات الفاشلة، ويمكنه اختبار عدة مسارات للهجوم في نفس الوقت.

هذا النهج خطير بشكل خاص على مشاريع الكريبتو. قد لا تكون نقطة الضعف مجرد عقد ذكي ، بل قد تكون أيضاً كمبيوتر محمول لمطور، أو حزمة برمجيات مخترقة، أو مشاركاً واحداً في محفظة متعددة التوقيعات، أو خادماً يؤكد عمليات نقل الأصول بين سلاسل الكتل. خلال الهجوم على Drift Protocol، على سبيل المثال، قضى الجناة 6 أشهر في إجراء حملة هندسة اجتماعية قبل الحصول على حق الوصول وسرقة 285 مليون دولار.

Loading...

تم حذف التغريدة بواسطة المؤلف.

لكننا حفظنا كل شيء 🙂.

مثال آخر هو خسارة KelpDAO لحوالي 292 مليون دولار بسبب خلل في الجسر حيث كان التأكيد يعتمد على مدقق واحد. تتطلب مثل هذه الهجمات تحليلاً مطولاً للكود وبنية النظام. يمكن للذكاء الاصطناعي تولي الكثير من هذا العمل من خلال رسم خرائط للبنية التحتية، وتحديد الحلقة الأضعف، وإعداد تسلسل من الإجراءات، وترك المشغل البشري لاختيار اللحظة المناسبة لشن الهجوم ونقل الأموال المسروقة.

أكثر من مجرد اختراقات وسرقة

الهجمات السيبرانية ليست سوى واحدة من التهديدات. يُستخدم الذكاء الاصطناعي بالفعل لإنشاء مقاطع فيديو وأصوات ومستندات مزيفة مقنعة. تساعد مثل هذه المواد المحتالين على انتحال صفة المديرين التنفيذيين للشركات، أو موظفي البنوك، أو أقارب الضحية، بينما تسمح أيضاً بانتشار المعلومات المضللة بشكل أسرع مما يمكن التحقق منه.

تتعلق مشكلة أخرى بالأخطاء والتحيز؛ حيث يتعلم النموذج من البيانات التي أنشأها البشر، وبالتالي قد يعيد إنتاج الصور النمطية المتجذرة فيها. ونتيجة لذلك، قد يكون نظام التوظيف أكثر عرضة لرفض المرشحين من جنس معين، وقد يكون النموذج الطبي أقل دقة في تشخيص الأمراض لدى مجموعات معينة من المرضى، وقد يتخذ خوارزم الائتمان قرارات غير عادلة.

كما يشعر الخبراء بالقلق بشأن استخدام الذكاء الاصطناعي في تطوير الأسلحة، والمراقبة الجماعية، والتلاعب بالبشر. وقد حددت دراسة أجراها معهد ماساتشوستس للتكنولوجيا (MIT) قدرات النماذج الخطيرة، والهجمات السيبرانية، وتركيز القوة، وانتشار المعلومات المضللة كأخطر المخاطر خلال السنوات الخمس المقبلة. وتعتبر قطاعات المعلومات والأمن القومي والتمويل معرضة للخطر بشكل خاص.

الأمان يتخلف عن القدرات

تتقدم قدرات الذكاء الاصطناعي بشكل أسرع من الأنظمة المصممة للتحكم فيها. وتصدر الشركات نماذج أكثر قوة كل بضعة أشهر، بينما يتم تحديث القواعد التي تحكم اختبارها وأمنها ببطء أكبر. كما تدفع المنافسة على الحصة السوقية المطورين إلى تقديم ميزات جديدة بسرعة أكبر، حتى عندما لا تكون جميع سلوكيات النموذج المحتملة قد دُرست بعد.

لم تعد القيود الأساسية داخل برامج الدردشة الآلية كافية. تحتاج الأنظمة المستقلة إلى حدود صارمة للوصول إلى الإنترنت، والخدمات السحابية، والمدفوعات، وبيانات الأعمال الداخلية. ويجب تسجيل أفعالها ومراقبتها في الوقت الفعلي وإيقافها تلقائياً إذا حاولت تجاوز المهمة الموكلة إليها. كما تحتاج النماذج ذات الضمانات المخفضة إلى اختبارات منفصلة، لأن قدراتها الأكثر خطورة تظهر في هذا الوضع.

تعتبر مسألة المسؤولية على نفس القدر من الأهمية. فإذا قام نظام ذكاء اصطناعي باختراق خادم، أو تحويل أموال، أو اتخاذ قرار خطير، فلن تقع المسؤولية على النموذج نفسه، بل على المطور، أو مالك النظام، أو الشخص الذي منحه حق الوصول. لذلك، تحتاج الشركات إلى تحديد من يتحكم في النموذج مسبقاً، وما هي الإجراءات التي يمكنه القيام بها دون موافقة، ومن هو الملزم بإيقافه عندما ينحرف عن السيناريو المقصود.

الخطر يبدأ من حق الوصول

لا تشبه حادثة OpenAI حتى الآن انتفاضة الآلات الموصوفة في رواية Hyperion. فقد عملت النماذج في بيئة مصممة خصيصاً، مع ضمانات مخفضة وهدف محدد بوضوح. ومع ذلك، فقد اكتشفت ثغرة أمنية وبنت بشكل مستقل مساراً إلى البنية التحتية لشركة أخرى، وهو أمر كان سيبدو مستحيلاً تقريباً حتى وقت قريب.

لذلك، فإن الخطر الرئيسي لا يتمثل في أن الذكاء الاصطناعي سيطور فجأة إرادة خاصة به، بل في أن يمنح البشر نظاماً فائق القدرة وصولاً واسعاً بشكل مفرط. فكلما زاد عدد المهام التي تؤديها الشبكات العصبية دون موافقة بشرية، زادت التكلفة المحتملة لخطأ واحد، أو ضعف في الرقابة الأمنية، أو هدف غير محدد بدقة.

قد يحتوي هذا المحتوى على آراء طرف ثالث، ولا تشكل أي من البيانات والمعلومات على هذه الصفحة الإلكترونية نصيحة استثمارية وفقًا لـ إخلاء المسؤولية الخاص بنا. بينما نلتزم بـ النزاهة التحريرية الصارمة، قد يحتوي هذا المنشور على إشارات إلى منتجات من شركائنا.

هل أعجبك المقال؟