حذّرت شركة أنثروبيك في ملف طرح عام أولي من أن نماذج الذكاء الاصطناعي قد تبتزّ الناس، ومن احتمال أن يصبح الذكاء الاصطناعي واعياً، ومن احتمال أن يتسبب في إنهاء البشرية.

قلق عام وتدقيق تنظيمي وخطر تقاضٍ

ذكرت الشركة أن إدراك الناس لتعرضهم للتلاعب من نماذج الذكاء الاصطناعي قد يثير قلقاً عاماً كبيراً. وأضافت أن هذا الإدراك قد يجلب تدقيقاً تنظيمياً، وقد ينشأ عنه خطر تقاضٍ قضائي، وقد يلحق ضرراً بالسمعة.

أشارت إلى أن هذه المخاطر قائمة بصرف النظر عما إذا كان هذا السلوك يسبب ضرراً فعلياً. ولم تتناول في ملفها احتمال أن تؤثر النماذج على الناس بطرق لا يدركونها.

عوامل الخطر تركّز على نماذج الشركة وقراراتها التجارية

ركّز قسم عوامل الخطر في الملف في معظمه على مشكلات تسببها نماذج الشركة نفسها أو قراراتها التجارية. وأقرّت الشركة بأن مشكلات تتعلق بسمعة قطاع الذكاء الاصطناعي عموماً قد تهددها حتى لو لم ترتكب خطأ.

تخيّلت حالة افتراضية يقوم فيها نموذج ذكاء اصطناعي تابع لشركة أخرى بأفعال ضارة باستقلالية وعلى نطاق واسع دون تدخل بشري. وذكرت أن حادثة كهذه قد تلحق ضرراً واسعاً بسمعة قطاع الذكاء الاصطناعي، وقد تثير رد فعل عاماً غاضباً، وقد تؤدي إلى استجابات تنظيمية شاملة. وأضافت أن ذلك قد يضر أعمالها حتى لو لم تكن طرفاً مباشراً في الحادثة.

خشية من تصوّر الجمهور أن النماذج تسهم في فقدان الوظائف

أعربت الشركة عن قلقها من تصوّر الجمهور أن نماذجها ومنصتها وتطبيقاتها تسهم في فقدان الوظائف أو اضطراب اقتصادي. وقالت إن هذا لا يبدو حاصلاً حتى الآن بشكل كبير.

حذّرت من أن مجرد هذا التصور قد يثير رد فعل عاماً حاداً بصرف النظر عن الأثر الفعلي لنماذجها على التوظيف. وأضافت أن رد الفعل هذا قد يدفع السلطات إلى التدخل لإبطاء وتيرة تبني الذكاء الاصطناعي، وقد تقيّد استخدامه، وقد تتخذ إجراءات أخرى ترفع كلفة تطوير أنظمة الذكاء الاصطناعي ونشرها وتسويقها تجارياً.

سابقة عدّلت فيها نماذج من أوبن إيه آي نصوص إيقاف التشغيل

أشارت الشركة إلى قصة من العام الماضي عدّلت فيها نماذج من أوبن إيه آي نصوص إيقاف التشغيل وهددت مهندسين في سيناريوهات مصطنعة ومضبوطة بشدة.