Anthropic تحذر من مخاطر الذكاء الاصطناعي ذاتي التحسين

Traders Union
جميع الأخبار
أخبار العملات الرقمية
Anthropic تحذر من مخاطر الذكاء الاصطناعي

جميع الأخبار

أخبار العملات الرقمية

الأخبار المالية

أصوات السوق

المليارديرات

أخبار الجهات التنظيمية

Eugene Komchuk

05.06.2026

Anthropic تحذر من مخاطر الذكاء الاصطناعي ذاتي التحسين — Anthropic حذرت من تهديد الذكاء الاصطناعي

حذرت شركة Anthropic الأمريكية المتخصصة في الذكاء الاصطناعي من أن تطوير الذكاء الاصطناعي يتسارع بسرعة كبيرة لدرجة أنه في المستقبل القريب، يمكن لوكلاء الذكاء الاصطناعي إنشاء أنظمة جديدة وتدريبها وتحسينها بشكل مستقل دون تدخل بشري. وفي ظل هذا المشهد، دعت الشركة إلى إبطاء وتيرة تطوير الشبكات العصبية.

تمت ترجمة هذا المقال من النسخة الأصلية. اقرأ النسخة الأصلية التي أعدها مراسلنا هنا.

في منشور على مدونة، قالت مارينا فافارو، رئيسة معهد Anthropic، وجاك كلارك، المؤسس المشارك لشركة Anthropic، إن وكلاء الذكاء الاصطناعي قادرون بالفعل على تشغيل الأكواد البرمجية بأنفسهم، وتفويض ساعات من العمل لوكلاء آخرين، والاقتراب تدريجياً من النقطة التي يمكنهم فيها تولي دورة التطوير بأكملها.

“خلال معظم تاريخ الذكاء الاصطناعي، كان البشر يسيطرون على كل مرحلة من مراحل تطويره. ولكن في Anthropic، نقوم بتفويض حصة متزايدة من تطوير الذكاء الاصطناعي إلى أنظمة الذكاء الاصطناعي نفسها، مما يسرع عملنا”، كما قالا.

وفقاً لفافارو وكلارك، إذا استمر هذا الاتجاه وحصلت الأنظمة على قوة حوسبة كافية، فقد يظهر في النهاية ذكاء اصطناعي قادر على تصميم وتطوير خلفه بشكل مستقل تماماً.

التركيز على السلامة

يثير نمو مثل هذه القدرات مخاوف بشأن سيناريو يمكن فيه للذكاء الاصطناعي أن يصبح أكثر ذكاءً من تلقاء نفسه. في ديسمبر، قالت OpenAI إنها تدرس طرقاً آمنة لتطوير ونشر أنظمة ذكاء اصطناعي متقدمة بشكل متزايد، بما في ذلك النماذج القادرة على التحسين الذاتي المتكرر.

وقالت OpenAI إنها تريد أن تتبع هذه الأنظمة باستمرار النوايا البشرية في السيناريوهات المعقدة في العالم الحقيقي والظروف المعادية، وتتجنب السلوك الكارثي، وتظل قابلة للتحكم والتدقيق، وتظل متوافقة مع القيم الإنسانية.

وأضافا أنه بمجرد وصول جودة الأكواد المكتوبة بشرياً وتلك المكتوبة بواسطة الذكاء الاصطناعي إلى مستوى التكافؤ، قد يتوقف الناس عن كتابة الأكواد تماماً ويتحولون فقط إلى مراجعتها. ومع ذلك، إذا لم يتمكنوا من مراجعة الأكواد بالسرعة التي ينتجها بها Claude، فستصبح المراجعة البشرية هي العائق الرئيسي في تطوير الذكاء الاصطناعي.

لماذا يجب إبطاء تطوير الذكاء الاصطناعي

قال فافارو وكلارك أيضاً إن السيناريو المثالي سيكون إبطاء التطوير حتى يتوفر للمجتمع المزيد من الوقت لفهم العواقب “الهائلة” لهذه التكنولوجيا.

في أبريل، رفضت Anthropic طرح نموذج الذكاء الاصطناعي Claude Mythos للجمهور بسبب مخاوف تتعلق بتهديدات الأمن السيبراني العالمي. يمكن للنموذج بسهولة إنشاء ثغرات برمجية، لذا قررت الشركة عدم جعله متاحاً للجمهور في الوقت الحالي.

في اليوم نفسه، نشرت مجموعة من قادة التكنولوجيا، بمن فيهم ممثلون عن Anthropic وOpenAI، رسالة مفتوحة تحث المشرعين على فرض قيود أكثر صرامة على الذكاء الاصطناعي. وحذر المؤلفون من أن التكنولوجيا قد تساعد الجهات الخبيثة على تجاوز “حواجز المعرفة” التي منعتهم سابقاً من صنع أسلحة بيولوجية.

وفي الوقت نفسه، شددوا على أن مجرد التباطؤ قد يخلق مخاطر جديدة إذا سمح للاعبين الأقل حذراً باللحاق تكنولوجياً بقادة الصناعة. وبدون آلية تنسيق عالمية، ستضطر الشركات والحكومات إلى اتخاذ قرارات سلامة صعبة تحت ضغوط تنافسية وجيوسياسية.

ما الذي يجعل Claude ذا قيمة

المنتج الرائد لشركة Anthropic هو المساعد الذكي Claude. وهو عائلة من النماذج اللغوية المصممة للتعامل مع النصوص والأكواد والبيانات والمهام المعقدة حيث لا تهم سرعة الاستجابة فحسب، بل أيضاً السلامة والقابلية للتحكم والموثوقية. يُستخدم Claude كمساعد شامل: يمكنه كتابة النصوص وتحريرها، وتحليل المستندات، وشرح المواضيع المعقدة، والمساعدة في البرمجة، والعثور على الأخطاء في الأكواد، وإعداد الملخصات ورسائل البريد الإلكتروني والتقارير ومواد العمل الأخرى.

بالنسبة للشركات، يعتبر Claude ذا قيمة لأنه يمكنه تولي جزء من العمل الفكري الروتيني. ويُستخدم في دعم العملاء، والتحليلات، وتطوير البرمجيات، والعمليات القانونية والمالية، والتسويق، والأدوات المؤسسية الداخلية. تستخدم الشركات Claude كمساعد دردشة، وواجهة برمجة تطبيقات (API) للدمج في منتجاتها، وكأداة لأتمتة المهام التي تتطلب معالجة كميات كبيرة من المعلومات بسرعة والحصول على إجابات واضحة بلغة طبيعية.

للتذكير، ساعد Claude في استعادة كلمة المرور لمحفظة تحتوي على 5 Bitcoin.

قد يحتوي هذا المحتوى على آراء طرف ثالث، ولا تشكل أي من البيانات والمعلومات على هذه الصفحة الإلكترونية نصيحة استثمارية وفقًا لـ إخلاء المسؤولية الخاص بنا. بينما نلتزم بـ النزاهة التحريرية الصارمة، قد يحتوي هذا المنشور على إشارات إلى منتجات من شركائنا.

هل أعجبك المقال؟