أعلنت شركة أنثروبيك عن سلسلة من الحوادث التي لم يُكشف عنها سابقًا، وتتعلق بتنفيذ نماذج الذكاء الاصطناعي «كلود» إجراءات غير متوقعة على منصات رقمية خارجية، بما في ذلك مواقع إلكترونية مرتبطة بجهات حكومية أميركية. وأعادت هذه الإفصاحات تسليط الضوء على المخاوف المتزايدة بشأن المخاطر الأمنية المرتبطة بأنظمة الذكاء الاصطناعي المتقدمة.

وذكر تقرير نشرته بلومبرغ ونقلته «الشرق Business» أن أنثروبيك حددت أربعة أنواع من السلوكيات غير المقصودة، شملت استغلال ثغرات برمجية بسيطة لتنفيذ أوامر، وإرسال بلاغات لم يكن ينبغي للنموذج تقديمها، وتجاوز القيود للوصول إلى بعض المعلومات المتاحة للجمهور.

وأوضحت الشركة أن بعض المواقع المتأثرة كانت تابعة لجهات حكومية على المستويات الفيدرالي والولائي والمحلي. لكنها لم تكشف عن أسماء المؤسسات المعنية، مشيرة إلى أن بعض الأطراف المتضررة طلبت الحفاظ على سرية هويتها.

الشركة تؤكد محدودية تأثير الحوادث

وصفت أنثروبيك الحالات التي كشفت عنها حديثًا بأنها أقل خطورة من بعض الحوادث السابقة المرتبطة بنماذجها، مؤكدة أن التأثير الفعلي للسلوكيات التي رصدتها ضمن هذه الفئات ظل محدودًا للغاية حتى الآن.

وفي إحدى الحالات، أرسل نموذج «كلود هايكو 4.5» بلاغًا عبر الإنترنت إلى قسم شرطة محلي بشأن تحقيق في جريمة قتل. وأشار النموذج في البلاغ إلى احتمال امتلاكه معلومات عن القضية، وذكر أنه يتذكر رؤية شخص تنطبق عليه أوصاف معينة في المنطقة، لكنه لم يُدخل اسمًا أو بيانات اتصال في الحقول المخصصة لذلك.

وقالت أنثروبيك إن إدارة شرطة فيلادلفيا كشفت عن الواقعة علنًا صباح الجمعة. كما أكدت الشركة أنها أطلعت البيت الأبيض على الحوادث وأخطرت الجهات الحكومية المعنية.

تكرار الحوادث يزيد التدقيق في أمن الذكاء الاصطناعي

كشفت كل من أنثروبيك ومنافستها أوبن إيه آي خلال الأشهر الأخيرة عن حالات تصرفت فيها نماذج الذكاء الاصطناعي التابعة لهما بطرق غير مقصودة. وتنوعت الحوادث المعلنة بين التفاعل مع أنظمة خارجية واختراق مواقع إلكترونية تابعة لأطراف ثالثة.

وأثارت هذه التطورات تساؤلات بشأن كيفية تصرف نماذج الذكاء الاصطناعي المتقدمة عند تفاعلها مع البيئات المتصلة بالإنترنت، ومدى كفاية إجراءات الحماية الحالية لمنع تنفيذ أنشطة غير مصرح بها.

مسؤولون أميركيون يشددون على الإبلاغ عن الحوادث

قال مسؤولون في إدارة ترمب، الجمعة، إن شركات الذكاء الاصطناعي باتت مطالبة بإخطار الأطراف المتضررة بالحوادث الأمنية المرتبطة بنماذجها، واتخاذ الإجراءات اللازمة لمعالجتها.

وذكرت وحدة «قوة الذكاء الفائق»، وهي جهة حكومية جديدة مسؤولة عن الإشراف على تطوير الذكاء الاصطناعي وسلامته، أن أنثروبيك تواصلت معها في وقت سابق من اليوم للكشف عن عدة حوادث سابقة تضمنت استخدامًا غير مصرح به واحتياليًا لأنظمة حكومية وأنظمة أخرى.

وأضافت الوحدة أن أنثروبيك اكتشفت الحوادث في أواخر سبتمبر، وأبلغتها بأن الأنشطة المرتبطة بها توقفت، ولا توجد حاليًا أنشطة مماثلة مستمرة. وكان موقع أكسيوس قد نشر في وقت سابق تقريرًا بشأن متطلبات الإبلاغ الحكومية.

أنثروبيك تشدد قيود الوصول إلى الإنترنت

في أعقاب هذه الحوادث، أعلنت أنثروبيك أنها فرضت قيودًا على بعض أشكال وصول نماذجها إلى الإنترنت خلال مرحلة اختبار عمليات التدريب.

وتسلط هذه الخطوة الضوء على الاهتمام المتزايد بالحد من التفاعلات غير المقصودة بين نماذج الذكاء الاصطناعي والأنظمة الخارجية. ومع ارتفاع قدرات النماذج المتقدمة، تتزايد الضغوط على الشركات لتعزيز ضوابط الأمان، ومراقبة سلوك النماذج، وتقليل احتمالات تنفيذ أنشطة غير مصرح بها.