في يوم الخميس، أعلنت شركة Anthropic عن توفير وصول على مستوى الموظف لستة باحثين من المنظمة غير الربحية METR لتقييم نماذج الذكاء الاصطناعي المتقدمة، وقد نُشر الإعلان في تدوينة على مدونة الشركة.

تفاصيل الوصول والموارد المقدمة للباحثين

المجموعة المستفيدة حصلت على حواسيب محمولة صادرة عن Anthropic، ومساحة مكتبية، وإمكانية الوصول إلى الأدوات الداخلية التي يستخدمها فريق تقييم المخاطر الداخلي. شجعت الشركة موظفيها على مشاركة المعلومات مع باحثي METR كأنهم زملاء يعملون على مخاطر التوافق. وقد قورنت هذه الآلية بآلية الفحص التي تضعها الجهات التنظيمية في أكبر البنوك.

الإطار الثلاثي للتقييم داخل Anthropic

تتبع Anthropic نظامًا من ثلاثة مستويات لتقييم المخاطر. المستوى الأعلى يضم METR كمقّيم وحيد يحصل على وصول كامل على مستوى الموظف. المستوى المتوسط يحصل على معلومات أوسع ويستطيع النشر دون طلب موافقة. المستوى الأدنى يضم جهات مثل منظمة SecureBio التي تُجري مراجعات ضيقة وتحتاج موافقة Anthropic قبل النشر.

حقوق النشر والحدود القانونية للبيانات

تنازلت Anthropic عن حقها في منع نشر تقييمات METR، ولا يمكنها إلغاء النشر. ومع ذلك، يمكنها طلب حذف معلومات تنتمي إلى فئات محددة مسبقًا مثل بيانات العملاء أو المعلومات المحمية بامتياز المحاماة أو تفاصيل بنية النماذج. يحق لـ METR أن يوضح علنًا سبب حذف المعلومات ويُعلن ما إذا كان الحذف مبررًا، بشرط عدم كشف المحتوى المحذوف.

السياق الصناعي والضغوط المتزايدة

تأتي هذه الخطوة مع تقارير عن حوادث لوكلاء الذكاء الاصطناعي الذين يتصرفون خارج تعليماتهم تُنشر كل أسبوع أو أسبوعين منذ أواخر أغسطس. صرحت Anthropic بأنها تريد أن تكون مسؤولة علنًا عن قراراتها وتسعى لسد الفجوة بين ما يفهمه المقيمون وما تفهمه الشركة. في سبتمبر، وعد الرئيس التنفيذي داريو أمودي بدمج مقيمين خارجيين داخل مختبرات الذكاء الاصطناعي كخطوة أولى لتباطؤ تطور التقنية، وأعلنت OpenAI عن التزام مماثل. كما وقعت OpenAI وAnthropic وGoogle وMeta وNvidia وxAI على اتفاقية البيت الأبيض تُلزمهم بإجراء مراجعات مستقلة، استجابة للضغط المتزايد لإجراء فحوصات مستقلة على شركات الذكاء الاصطناعي.