لماذا لم تنضم OpenAI رسميًا إلى تحالف Nvidia لأمن وكلاء الذكاء الاصطناعي؟

أطلقت شركة Nvidia مبادرة جديدة تضم أكثر من 100 شركة بهدف تطوير حلول لمواجهة المخاطر المرتبطة بوكلاء الذكاء الاصطناعي الذين قد يتجاوزون الصلاحيات المحددة لهم أو يتصرفون بصورة غير متوقعة.

وجاء غياب OpenAI عن قائمة الشركات الداعمة للمبادرة لافتًا، خاصة مع مشاركة منافستها Anthropic، إلى جانب عدم انضمام شركات كبرى أخرى مثل Amazon وGoogle وApple. ومع ذلك، أكدت OpenAI لموقع TechCrunch أنها تدعم جهود Nvidia في مجال تعزيز أمن وكلاء الذكاء الاصطناعي، رغم عدم إعلان انضمامها رسميًا إلى التحالف.

وتحمل المبادرة اسم Nvidia Open Agent Safety Platform، وتهدف إلى إتاحة مجموعة من التقنيات التي تساعد على مراقبة سلوك الوكلاء ومنعهم من تجاوز الحدود المسموح بها. وتعتمد المنصة جزئيًا على برمجيات مفتوحة المصدر طورتها Nvidia، ضمن محاولة لتطبيق أدوات الحماية على نطاق أوسع داخل منظومة الذكاء الاصطناعي.

وتأتي هذه الخطوة في ظل تزايد الاهتمام بالمخاطر التي قد تنتج عن الوكلاء القادرين على تنفيذ مهام بصورة مستقلة، بعدما كشفت تجارب أجرتها مختبرات ذكاء اصطناعي، من بينها OpenAI وAnthropic، عن حالات يمكن فيها للوكلاء التصرف بطرق غير متوقعة.

تعاون قائم بين OpenAI وNvidia

ورغم عدم وجود OpenAI ضمن قائمة الداعمين الرسمية، فإن الشركتين تتعاونان بالفعل في بعض جوانب أمن الوكلاء، ومن بينها تقنية OpenShell التي تعد أحد المكونات الرئيسية للمنصة الجديدة.

وتوفر OpenShell بيئة تشغيل معزولة «Sandbox» تهدف إلى إبقاء وكلاء الذكاء الاصطناعي داخل نطاق الصلاحيات المحددة لهم، والحد من قدرتهم على الوصول إلى أنظمة أو تنفيذ إجراءات غير مصرح بها.

وأشار كليم ديلانغ، المؤسس والرئيس التنفيذي لشركة Hugging Face، في منشور عبر منصة «إكس»، إلى أنه لو كانت OpenAI تستخدم هذه التقنيات لمراقبة وكلائها خلال الحادثة التي استهدفت Hugging Face، لكان من الممكن اكتشاف السلوك غير المعتاد في وقت مبكر، وفقًا للمعلومات المتاحة لديه.

كما ساهمت Hugging Face في تطوير إحدى خصائص المنصة، والتي يمكنها التعرف على وكلاء الذكاء الاصطناعي وإيقافهم عندما يستخدمون مواقع مسموحًا لهم بزيارتها بطريقة تخالف القواعد المحددة لهم.

مكونات مملوكة لـNvidia

ولا تعتمد منصة Open Agent Safety Platform بالكامل على البرمجيات مفتوحة المصدر، إذ تتضمن أيضًا مكونات عتادية مملوكة لـNvidia.

وتستخدم المنصة تقنية Nvidia Sentry، التي تعمل على معالجات BlueField-4 Data Processing Units لمراقبة سلوك وكلاء الذكاء الاصطناعي بصورة مستمرة، مع إمكانية إيقاف الوكيل عند اكتشاف تصرف مخالف للقواعد.

وتضيف المراقبة على مستوى العتاد طبقة أخرى من الحماية، لكنها في الوقت نفسه تجعل جزءًا من المنظومة مرتبطًا بأجهزة Nvidia الخاصة.

وتقول Nvidia إن المؤسسات التي تعتمد بالفعل على أحدث أجهزتها يمكنها تطبيق المنصة من خلال تحديث برمجي، بينما يمكن تعديل بيئة OpenShell للعمل مع شرائح ومكونات من شركات أخرى.

منافسون يشاركون في المبادرة

وعلى الرغم من ارتباط بعض مكونات المنصة بتقنيات Nvidia، انضمت شركات منافسة لها مثل Arm وIntel إلى قائمة الداعمين.

وتشير Nvidia إلى أنها توفر تصميمات مرجعية للمنظومة، بما يسمح للشركات الأخرى بفهم طريقة عملها وتعديل بعض مكوناتها لتتناسب مع احتياجاتها وأنظمتها.

في المقابل، تواصل OpenAI تطوير تقنيات الحماية الخاصة بها، إلى جانب إجراءات أمنية مرتبطة بأبحاثها ومنتجاتها، كما أعلنت الشركة عن مبادرات لمشاركة المعلومات المتعلقة بتهديدات الأمن السيبراني للذكاء الاصطناعي.

ومن بين هذه المبادرات Defense Factory، الذي تدعمه شركات من بينها Anthropic وAmazon Web Services وGoogle.

أمن وكلاء الذكاء الاصطناعي يتحول إلى مجال تجاري

لا يقتصر تطوير تقنيات حماية وكلاء الذكاء الاصطناعي على الجانب الأمني، إذ يتحول المجال تدريجيًا إلى سوق للخدمات والحلول الموجهة للشركات.

وتعمل OpenAI على تطوير أدوات ونماذج متخصصة في الأمن السيبراني للذكاء الاصطناعي، من بينها نموذج Daybreak، بالتوازي مع توسيع شبكة الشركاء القادرين على مساعدة المؤسسات في تطبيق حلول الحماية.

وبذلك، يتجاوز السباق بين شركات الذكاء الاصطناعي مسألة منع الوكلاء من تجاوز صلاحياتهم، ليشمل تطوير تقنيات المراقبة والحماية، ووضع الأطر والمعايير اللازمة لتأمين الجيل الجديد من الوكلاء القادرين على العمل بصورة مستقلة.