Dmytro Kharkov

دعوة Anthropic إلى الإبطاء: هل تستطيع السلامة كبح سباق الذكاء الاصطناعي دون التخلي عن الصدارة؟

دعوة Anthropic إلى الإبطاء: هل تستطيع السلامة كبح سباق الذكاء الاصطناعي دون التخلي عن الصدارة؟
دعوة Anthropic إلى الإبطاء.

لطالما قدّمت Anthropic نفسها كشركة ذكاء اصطناعي تركز على السلامة وتوازن بين تطوير النماذج والضمانات الصارمة. لكن دعوة الرئيس التنفيذي داريو أمودي الأخيرة إلى ضبط وتيرة مكاسب القدرات تثير تساؤلاً حول ما إذا كان ضبط النفس الفعّال يمكن أن يتعايش مع الريادة التجارية من دون التنازل عن أرضية لمنافسين آخرين أو للصين.

تمت ترجمة هذا المقال من النسخة الأصلية. اقرأ النسخة الأصلية التي أعدها مراسلنا هنا.

دعوة إلى ضبط وتيرة تطوير النماذج المتقدمة

أثناء الاستعداد لطرح عام أولي محتمل في ناسداك (من المتوقع أن يبلغ نحو 2 تريليون دولار)، دعا الرئيس التنفيذي داريو أمودي علناً مختبرات الذكاء الاصطناعي المتقدمة إلى «ضبط وتيرة تطوير النماذج المتقدمة». وتهدف خطته المكونة من 3 خطوات إلى إبطاء معدل التقدم في القدرات كي تتمكن تدابير السلامة من مواكبته. وأضاف المؤسس المشارك جاك كلارك أن الحكومات قد تحتاج إلى فرض مفاتيح إيقاف قابلة للتحقق للذكاء الاصطناعي. 

قبل ذلك بأيام قليلة، أصدرت الشركة تقريراً مفصلاً عن استخبارات التهديدات تضمّن أمثلة عديدة على محاولات أشخاص مختلفين إساءة استخدام Claude في عمليات سيبرانية وحتى في برمجيات الأسلحة. وحذّر أمودي أيضاً من أن «أسراب» الذكاء الاصطناعي الأكثر قدرة قد تتمكن من السيطرة على نسبة كبيرة من الإنترنت خلال 6–12 شهراً. كما أعرب سام ألتمان من OpenAI وإيلون ماسك عن آراء مماثلة بشأن المشكلة. وقال ألتمان إن OpenAI اتخذت بالفعل بعض الخطوات لإدخال ضبط الوتيرة داخلياً.

الربحية تلتقي بالحذر

من منظور مالي، تسجل Anthropic نتائج مالية قوية باستمرار. وتتوقع الشركة ربعاً ثانياً متتالياً من الدخل التشغيلي المعدل الإيجابي. وتتجاوز هوامش الربح الإجمالية 80 بالمئة قبل حصص إيرادات الشركاء وتكاليف التدريب. وبلغت إيرادات الربع الثاني نحو 11.5 مليار دولار، فيما وصلت الإيرادات السنوية إلى 65 مليار دولار بحلول نهاية يوليو. تفسر هذه الأرقام سبب الطرح العام الأولي المخطط له. وقد اختارت Anthropic ناسداك منصةً للإدراج وتستعد لإدراج محتمل في أكتوبر. 

تُعد الربحية المستدامة مهمة لتعزيز ثقة المستثمرين القلقين من حرق النقد المعتاد في مختبرات الذكاء الاصطناعي المتقدمة. ومع ذلك، يعتمد النمو السريع للإيرادات على استمرار التقدم في القدرات واعتماد الشركات لنماذج مثل Claude. وقد يمنح إبطاء وتيرة التطوير المنافسين مجالاً للحاق بالركب أو يتيح للشركات الصينية تقليص الفجوة. ويرى أمودي أن التقدم سيظل سريعاً في ظل نظام مضبوط الوتيرة، مع إمكانية منع معظم مخاطر السلامة.

مفاتيح الإيقاف ورقابة الأطراف الثالثة

زاد جاك كلارك من حدة النقاش. ففي حديثه إلى BBC، قال المؤسس المشارك في Anthropic إن معظم المختبرات لديها بالفعل قدرات داخلية لإيقاف الأنظمة. لكن السؤال الأصعب، بحسب رأيه، هو ما إذا كان ينبغي للحكومات أن تطلب مفاتيح إيقاف قابلة للتحقق يمكن تأكيدها من أطراف ثالثة مستقلة. ومن شأن هذه الآليات ضمان المساءلة الخارجية.  

وافقت Anthropic على مراجعة مستقلة من METR لحوادث سابقة وصلت فيها نماذج Claude إلى أنظمة خارجية أثناء الاختبارات. وتؤثر هذه الخطوات إيجاباً في علامة Anthropic المرتبطة بالسلامة، وقد تمنحها ميزة تنافسية أمام المنافسين الأسرع حركة. لكن هناك أيضاً تساؤلات جديدة بشأن العمليات الداخلية وتكاليف الامتثال، فضلاً عن المتطلبات التنظيمية.

الجغرافيا السياسية لضبط النفس

شدد أمودي على ضرورة أن تنسق الدول الديمقراطية ضبط النفس من دون التخلي عن الريادة التكنولوجية للصين. وتظهر الشركات الصينية والجهات المرتبطة بالدولة بصورة منهجية في تقارير Anthropic عن إساءة الاستخدام، بما يشمل محاولات تقطير النماذج وجمع المعلومات الاستخباراتية. واستشهد بعض المشرعين الأمريكيين بتحذيرات الباحثين، ويتفقون مع وجود مخاطر وجودية ويدافعون عن قواعد أشد صرامة. بينما يرى آخرون، بمن فيهم شخصيات مقربة من الإدارة، أن التوقفات المدفوعة باعتبارات السلامة هدية لبكين. 

أظهرت ضوابط التصدير وقيود الوصول الانتقائية إلى النماذج المتقدمة بالفعل الدور المتنامي للجغرافيا السياسية في هذا المجال. وقد يضع تباطؤ منسق ترفض الصين الانضمام إليه الشركات الأمريكية في وضع غير مواتٍ. وتظهر التقارير أن بعض الشركات، مثل Nvidia وPalantir وBooz Allen، قيّدت بعض نماذج Anthropic بسبب مخاوف تتعلق بالاحتفاظ بالبيانات والملكية الفكرية. لذلك، تؤثر حوادث السلامة أو تغييرات السياسات التي تظهر بشكل مباشر في الثقة على مستوى الشركات.

الموازنة بين العلامة التجارية والمنافسة

تستخدم Anthropic الذكاء الاصطناعي الدستوري والاختبارات الصارمة وتقارير التهديدات العامة لبناء صورة شركة مسؤولة والمساعدة في اجتذاب عملاء الشركات المتحفظين تجاه المخاطر. ويشير الإطلاق الأخير لـ Claude للمستشارين الماليين، مع موصلات إلى BlackRock وCharles Schwab وAddepar، إلى توسع تجاري حتى مع الدعوة إلى ضبط النفس. وإذا حقق المنافسون قفزات في القدرات واستحوذوا على حصة سوقية، فقد يفسر المستثمرون والعملاء الحذر على أنه تردد، لذا ينبغي للإدارة موازنة جميع المخاوف المناسبة في هذا الصدد.

أسفرت نقاشات السلامة السابقة على مستوى القطاع عن التزامات طوعية ثبتت صعوبة إنفاذها تحت الضغط التنافسي. وتحاول Anthropic حل تلك المشكلة عبر الريادة بالشفافية وإتاحة الوصول لأطراف ثالثة، مع الاستمرار في السعي إلى نمو قوي ترقباً لطرح عام أولي مستقبلي. وسيعتمد النجاح على ما إذا كان عدد كافٍ من الأقران سيتبعون النهج ذاته، وعلى ما إذا كانت الأسواق ستكافئ الحذر بقدر ما تكافئ القدرات.

قد يحتوي هذا المحتوى على آراء طرف ثالث، ولا تشكل أي من البيانات والمعلومات على هذه الصفحة الإلكترونية نصيحة استثمارية وفقًا لـ إخلاء المسؤولية الخاص بنا. بينما نلتزم بـ النزاهة التحريرية الصارمة، قد يحتوي هذا المنشور على إشارات إلى منتجات من شركائنا.