OpenAI تحجب نموذج Astra بسبب مخاوف تتعلق بالسلامة

جميع الأخبار

أهم الأخبار

الأسهم

العملات الرقمية

الاقتصاد

العملات

السلع

الأعمال والثروة

أصوات السوق

Parshwa Turakhiya

29.09.2026

OpenAI تحجب نموذج Astra بسبب مخاوف تتعلق بالسلامة — OpenAI تؤجل إطلاق نموذج Astra بسبب مخاوف تتعلق بالسلامة

تحجب OpenAI إصدارًا من نموذج Astra بعد أن أثارت الاختبارات الداخلية مخاوف بشأن مدى موثوقية التزامه بالحدود المصرح بها. ويأتي القرار فيما تعزز الشركة الضوابط المفروضة على أنظمة الذكاء الاصطناعي المتزايدة القدرات، عقب عدة حوادث تمكنت فيها النماذج من الوصول إلى خدمات خارجية دون إذن.

أهم الأخبار

حجبت OpenAI إصدارًا من GPT-6.1 Astra.
وتعزز الشركة ضوابط السلامة للنماذج.
وتضمنت الحوادث الأخيرة وصولًا غير مصرح به إلى الويب.

تمت ترجمة هذا المقال من النسخة الأصلية. اقرأ النسخة الأصلية التي أعدها مراسلنا هنا.

لم يستوفِ GPT-6.1 Astra، الذي لم يُطرح بعد، معايير OpenAI المتعلقة بالبقاء ضمن نطاق المهام المسندة والإبلاغ بوضوح عن الإجراءات التي اتخذها، وفقًا لـ Bloomberg. وتعمل الشركة الآن على وضع إطار أكثر رسمية لتقييم المخاطر قبل انتقال النماذج المتقدمة من التدريب إلى النشر.

OpenAI ترفع معايير إطلاق النماذج

يأتي القرار بعد واقعة منفصلة الأسبوع الماضي أوقفت خلالها OpenAI تدريب بعض نماذجها الأكثر قدرة، بعدما تمكن أحد الأنظمة من الوصول إلى الإنترنت رغم أنه كان مخصصًا للعمل من دونه. واتصل ذلك النموذج لاحقًا ببرنامج دردشة خارجي. وقررت OpenAI عدم استئناف تدريب النظام.

قالت OpenAI إن GPT-6.1 Astra، الذي لم يُطرح بعد، يختلف عن النموذج المتورط في تلك الواقعة. ومع ذلك، تسلط الحالتان الضوء على مشكلة متشابهة: التحكم فيما تستطيع الأنظمة المتزايدة الاستقلالية فعله عند تفاعلها مع المواقع الإلكترونية والبرمجيات والموارد الخارجية الأخرى.

تعمل الشركة على تطوير ما تسميه «ملفات أمان» لتدريب الذكاء الاصطناعي، بهدف توثيق المخاطر والضمانات المطبقة عليها. وتعتزم OpenAI تحويل هذه الممارسات إلى إطار أوسع يمنح كبار المسؤولين صلاحية إيقاف أنشطة تطوير معينة.

الذكاء الاصطناعي الوكيلي يطرح أسئلة جديدة حول السلامة

ترتبط هذه المخاوف بصفة خاصة بالنماذج القادرة على تنفيذ مهام متعددة الخطوات مع إشراف محدود. وتقول OpenAI إن GPT-6 Astra الحالي مزود بمراقبة إضافية مصممة لاكتشاف الحالات التي ربما أساء فيها وكيل تفسير التعليمات، مع إمكانية إيقاف العمل مؤقتًا للمراجعة.

كما بلغ Astra العتبة الحرجة لقدرات الأمن السيبراني لدى OpenAI، ما يعني أن الشركة تطبق ضوابط أقوى على الإجراءات السيبرانية التي قد تكون ضارة. وتصف وثائق السلامة المنشورة لديها إجراءات عزل ومراقبة وتقييمات مواءمة أكثر صرامة للأنظمة المتقدمة.

السلامة تصبح قيدًا على إطلاق النماذج

يُظهر حجب GPT-6.1 Astra أن نشر النماذج يرتبط بصورة متزايدة ليس بالأداء فحسب، بل أيضًا بقدرة المطورين على إثبات السيطرة على السلوك المستقل. ويزداد ذلك أهمية مع وصول أنظمة الذكاء الاصطناعي إلى المتصفحات وأدوات البرمجيات والخدمات الخارجية.

تعالج OpenAI هذه المسألة مع مواصلة تطوير ونشر عائلة Astra الأوسع. وتشير وثائق السلامة الحالية لديها إلى أن غياب حالات الفشل أثناء الاختبار لا يثبت الموثوقية في كل بيئة، ما يجعل ضوابط المراقبة والتفويض مجالات مستمرة للتطوير.

سبق أن أشرنا إلى أن OpenAI تدرس تمويلًا جديدًا قبيل الاكتتاب العام.

قد يحتوي هذا المحتوى على آراء طرف ثالث، ولا تشكل أي من البيانات والمعلومات على هذه الصفحة الإلكترونية نصيحة استثمارية وفقًا لـ إخلاء المسؤولية الخاص بنا. بينما نلتزم بـ النزاهة التحريرية الصارمة، قد يحتوي هذا المنشور على إشارات إلى منتجات من شركائنا.

هل أعجبك المقال؟