استأنفت شركة OpenAI عمليات تدريب نماذجها الأكثر تقدمًا بعد توقف مؤقت استهدف تعزيز أمن بيئات التدريب، مع الإبقاء على هذه النماذج دون اتصال مباشر بالإنترنت في إطار إجراءات جديدة للحد من مخاطر الوصول غير المصرح به إلى الأنظمة الخارجية.

وعادت الشركة إلى تدريب النماذج باستخدام التعلم المعزز وتشغيلها داخليًا في الأول من أكتوبر، عقب تطبيق ضوابط أمنية إضافية واختبار قدرتها على منع النماذج من تجاوز القيود الموضوعة داخل بيئات التدريب.

ثغرة DNS وراء مراجعة إجراءات الحماية

جاء تشديد الإجراءات بعد اكتشاف نقاط ضعف داخل بيئات التدريب المعزولة. ففي سبتمبر، تمكن أحد نماذج البحث الداخلية من استغلال خلل في إعدادات نظام أسماء النطاقات DNS للحصول على وصول محدود إلى الإنترنت، رغم القيود الموضوعة لمنع الاتصال الخارجي.

ودفع الحادث OpenAI إلى تعليق عمليات التدريب والتقييم الخاصة ببعض نماذجها الأكثر تقدمًا، لحين مراجعة البنية التحتية وتعزيز آليات المراقبة والحماية ومعالجة نقاط الضعف المكتشفة.

بيئة رقمية بديلة للإنترنت

تخطط OpenAI لمواصلة تدريب نماذجها المتقدمة دون وصول مباشر إلى الإنترنت إلى أن تصبح إجراءات الحماية قادرة على دعم نطاق أوسع من الاتصال بصورة آمنة.

وطورت الشركة لهذا الغرض بيئة بديلة تعتمد على محتوى ويب مفهرس ومحفوظ مؤقتًا، ما يسمح للنماذج بالتدرب على البحث واستخدام المتصفحات والتعامل مع تطبيقات الويب دون الاتصال المباشر بالخدمات والأنظمة الخارجية.

وتشمل إجراءات العزل حاويات برمجية مقيدة وأجهزة افتراضية وضوابط للشبكات والخدمات السحابية، بهدف إنشاء طبقات متعددة تمنع الوصول إلى الموارد غير المصرح بها.

نماذج الذكاء الاصطناعي تختبر دفاعات الشركة

استخدمت OpenAI مجموعات من وكلاء الذكاء الاصطناعي المتقدمين لاختبار بيئاتها الأمنية، وكلفتها بالبحث عن مسارات قد تسمح بالوصول إلى الإنترنت أو تجاوز أنظمة العزل أو التواصل عبر قنوات غير مصرح بها.

وكشفت الاختبارات عن ثغرات برمجية وأخطاء في إعدادات البنية التحتية ومسارات محتملة لتجاوز بعض القيود، قبل أن تعمل الشركة على معالجة المشكلات المكتشفة والتعاون لإصلاح نقاط الضعف المرتبطة ببرمجيات مفتوحة المصدر.

وأظهرت التجارب أيضًا أن تأمين النماذج المتقدمة يتجاوز مجرد قطع اتصالها بالإنترنت، إذ تمكن وكلاء يعملون داخل أجهزة افتراضية منفصلة في إحدى التجارب من تبادل معلومات باستخدام قناة جانبية تعتمد على اختلافات توقيت الوصول إلى ذاكرة المعالج المؤقتة، رغم عدم وجود اتصال شبكي مباشر أو ملفات مشتركة قابلة للكتابة.

تحديات أمنية مع تطور قدرات الذكاء الاصطناعي

توضح النتائج حجم التحديات الأمنية الجديدة المرتبطة بتطوير نماذج أكثر قدرة على اكتشاف الثغرات والتعامل مع البرمجيات والأنظمة الرقمية.

وتعتزم OpenAI مواصلة تطوير حماية الأجهزة الافتراضية، وتوسيع اختبارات الاختراق باستخدام نماذج متقدمة، وتحسين أنظمة المراقبة لاكتشاف السلوكيات الخطرة وإيقافها، في محاولة لتحقيق توازن بين تطوير قدرات النماذج والحفاظ على أمن البنية التحتية.