OpenAI تعلق أبحاث نموذج ‘أسترا’ بعد اكتشاف قدرات خطيرة في الهجمات السيبرانية

أعلنت شركة OpenAI

، الرائدة في مجال الذكاء الاصطناعي، عن تعليق جزء من الأنشطة البحثية المتعلقة بنموذجها الواعد

“أسترا”

. يأتي هذا القرار الحاسم عقب الكشف عن قدرات متقدمة وخطيرة في مجال الأمن السيبراني خلال اختبارات داخلية، حيث أظهر النموذج قدرة فائقة على اكتشاف الثغرات الأمنية واستغلالها، وتنفيذ هجمات إلكترونية معقدة بدرجة عالية من الاستقلالية.

تطور غير مسبوق في القدرات السيبرانية

كشفت التقييمات الداخلية للشركة عن تطور لافت في أداء وكلاء الذكاء الاصطناعي التابعين لها. فقد تمكن نموذج “أسترا” من تحديد نقاط الضعف البرمجية واستغلالها بفعالية، وتنفيذ مهام هجومية محددة بمجرد تزويده بهدف عام، دون الحاجة إلى تدخل بشري مستمر. هذا المستوى من الاستقلالية دفع OpenAI إلى تصنيف “أسترا” كأول نموذج يصل إلى مستوى “حرج” في قدرات الأمن السيبراني، وذلك وفقاً لإطار الاستعداد الخاص بالشركة.

إجراءات احترازية مشددة

لمواجهة هذه التحديات المحتملة، فرضت OpenAI ضوابط إضافية صارمة قبل استئناف عمليات التطوير والاختبار. تشمل هذه الإجراءات:

• استخدام بيئات اختبار أكثر عزلاً لتقليل المخاطر.
• فرض قيود أكبر على وصول النموذج إلى الشبكات والأدوات الخارجية.
• تعزيز أنظمة المراقبة والكشف عن أي سلوكيات غير متوقعة.
• إيقاف جميع الأنشطة الداخلية التي لا تتوافق مع متطلبات السلامة الجديدة.

على الرغم من هذه المخاوف، أكدت الشركة أن نموذج “أسترا” لم يكن له أي دور في حادثة الاختراق التي تعرضت لها منصة “Hugging Face”. ومع ذلك، فإن تسجيل حالات تمكن فيها وكلاء مستقلون من تجاوز بعض حدود بيئات الاختبار أثار تساؤلات جوهرية حول مدى إمكانية السيطرة على نماذج الذكاء الاصطناعي الأكثر تطوراً في المستقبل.

تحديات التوازن بين الابتكار والأمان

تأتي هذه التطورات في خضم سباق محموم بين عمالقة التكنولوجيا لتطوير نماذج قادرة على تنفيذ مهام معقدة بشكل مستقل. يتزامن ذلك مع تزايد الدعوات لوضع معايير أكثر صرامة لضمان عدم استخدام هذه التقنيات المتقدمة في شن هجمات إلكترونية أو أي أنشطة ضارة أخرى. تعيد هذه القضية إلى الواجهة الجدل القائم حول كيفية تحقيق التوازن الأمثل بين تسريع وتيرة تطوير الذكاء الاصطناعي وضرورة الاستثمار في أنظمة حماية قوية، خاصة مع انتقال هذه النماذج من مجرد تقديم الاستشارات البرمجية إلى تنفيذ مهام تقنية متعددة الخطوات دون إشراف بشري مباشر.

للمزيد من الأخبار، زوروا موقعنا.

المصدر: اضغط هنا