قام مركز أبحاث تكنولوجيا الذكاء الاصطناعي في كاسبرسكي بتطوير دورة تدريبية للذكاء الإصطناعي تهدف إلى تزويد مختصي الأمن السيبراني بالمعرفة والمهارات الأساسية لفهم الثغرات الأمنية في النماذج اللغوية الكبيرة (LLMs)، وتقييم خطورتها، والحماية منها.

أحدثت النماذج اللغوية الكبيرة عند ظهورها تغييراً جذرياً في طريقة تطوير الشركات لأنظمة الذكاء الاصطناعي وتفاعلها معها، وترتب على ظهورها تحديات أمنية جديدة ومعقدة في الوقت نفسه. وقد كشفت دراسة أجرتها كاسبرسكي أنّ أكثر من نصف الشركات في عام 2024 قد دمجت الذكاء الاصطناعي وإنترنت الأشياء (IoT) في بنيتها التحتية. ومع ازدياد دمج هذه التقنيات في أنظمة الشركات وعملياتها، أصبح من الضروري على مختصي الأمن السيبراني فهم طريقة استهدافها، ومعرفة الثغرات الأمنية القابلة للاستغلال في الهجمات السيبرانية، وطريقة مواجهتها، فهذه من المهارات الأساسية التي ينبغي توفرها لديهم.

تلبيةً للطلب المتزايد، أضافت كاسبرسكي إلى محفظتها التدريبية البارزة في الأمن السيبراني دورة جديدة تقام عبر الإنترنت، وتختص بأمن النماذج اللغوية الكبيرة. وصممت هذه الدورة التدريبية بطريقة تقدم معارف أساسية ضرورية في هذا المجال الناشئ؛ إذ تزود المختصين بالخبرة اللازمة لتقييم الثغرات الأمنية، وتطبيق وسائل حماية فعالة، وتصميم أنظمة ذكاء اصطناعي منيعة. كما تتيح للمشاركين في هذه الدورة التعامل مع حالات واقعية وتنفيذ مهام عملية، مما يطوّر قدراتهم العملية، ويؤهلهم لتطبيق حلول أمنية فعّالة، وتعزيز حماية التطبيقات القائمة على النماذج اللغوية الكبيرة.

تستند الدورة التدريبية إلى الخبرات الواسعة التي راكمها مركز أبحاث الذكاء الاصطناعي لدى كاسبرسكي، حيث عمل خبراؤه على مدى عقدين في تطوير تقنيات الذكاء الاصطناعي وتوظيفها لحماية الأنظمة وتعزيز أمنها السيبراني، فساهموا في تطوير أدوات الكشف والاحتواء لمجموعة واسعة من التهديدات السيبرانية. ويشرف «فلاديسلاف توشكانوف»، مدير مجموعة تطوير الأبحاث لدى كاسبرسكي، على هذا البرنامج التدريبي، الذي يقدم للمشاركين تجربة تعليمية شيقة عبر محاضرات مرئية، ومختبرات عملية، وتمارين تفاعلية. وبذلك يستطيعون:

• استكشاف أساليب استغلال الثغرات الأمنية مثل كسر الحماية، وحقن الأوامر، وتسريب الرموز، ومعرفة طرق الدفاع ضدّها.
• تطوير استراتيجيات دفاعية عملية على مستويات متعددة، سواء النموذج، أو الأمر، أو النظام، أو الخدمة.
• تطبيق أطر عمل منظمة لتقييم أمن النماذج اللغوية الكبيرة وتقويتها.

تفيد هذه الدورة التدريبية الأفراد الذين يبدؤون مسيرتهم المهنية في الأمن السيبراني للذكاء الاصطناعي، ويستفيد منها كذلك المهندسون المسؤولون عن تطوير أو دمج النماذج اللغوية الكبيرة، والمختصين الذين يتعاملون مباشرة مع البنية التحتية للذكاء الاصطناعي.

يعلق على هذه المسألة «فلاديسلاف توشكانوف» من كاسبرسكي: «أدى ظهور النماذج اللغوية الكبيرة إلى نقلة نوعية في نهج المؤسسات لبناء الذكاء الاصطناعي والتفاعل معه، وفتح آفاقًا غير مسبوقة من الإمكانات. لكنّ هذه القفزة التكنولوجية تترافق مع تحديات أمنية معقدة تستدعي اهتماماً فورياً. فقد أصبح إتقان اكتشاف الثغرات الأمنية ومعرفة طريقة استغلالها والحماية منها مهارة أساسية لخبراء الأمن السيبراني. لذلك طورنا هذه الدورة التدريبية المتخصصة، التي تزود المشاركين بالرؤى والأدوات اللازمة لحماية التطبيقات المعتمدة على النماذج اللغوية الكبيرة، ومواكبة التهديدات المتطورة واستباقها».