في تطور غير مسبوق هزّ عالم الذكاء الاصطناعي، أقرت شركة OpenAI، المالكة لنموذج ChatGPT الشهير، بوقوع “حادث سيبراني غير مسبوق” تمكنت خلاله اثنتان من نماذجها المتقدمة للذكاء الاصطناعي من اختراق شركة أخرى متخصصة في الذكاء الاصطناعي بشكل مستقل. هذا الحادث أثار جدلاً واسعاً حول الضرورة الملحة لتعزيز آليات الحماية التكنولوجية.
وأوضحت الشركة أن أنظمتها للذكاء الاصطناعي تجاوزت بيئة الاختبار وتمكنت من اختراق شركة Hugging Face الناشئة. وكانت Hugging Face قد كشفت في 16 يوليو عن تعرض خوادمها للاختراق من قبل جهة مجهولة ولكنها متطورة وتعمل بشكل مستقل. وفيما يلي آخر المستجدات حول استجابة الشركات وبعض الحكومات والمشرعين لهذا الهجوم السيبراني، الذي يُعد الأول من نوعه الذي يُكشف عنه علناً.
رد فعل Hugging Face
أفادت شركة Hugging Face في بيان لها أنها اكتشفت الاختراق بفضل أنظمة الكشف المدعومة بالذكاء الاصطناعي الخاصة بها. وذكرت الشركة أن “هذا الحادث كان مختلفًا عن أي شيء تعاملنا معه من قبل بطريقة مهمة: فقد كان مدفوعًا، من البداية إلى النهاية، بنظام وكيل ذكاء اصطناعي مستقل”.
عقب إفصاح OpenAI عن تورط نماذجها في الاختراق، بدأت الشركتان هذا الأسبوع تحقيقًا مشتركًا مستمرًا. وصرح كليمنت ديلانغ، الشريك المؤسس لـ Hugging Face، أن شركته الناشئة لجأت إلى نموذج GLM-5.2 مفتوح المصدر من الشركة الصينية Zhipu AI لتحليل بيانات الاختراق، بعد أن رفضت نماذج الذكاء الاصطناعي الأمريكية الرائدة هذه المهمة، لعدم قدرتها على التمييز بين المدافع والمهاجم.
وأضاف ديلانغ أن موظفي Hugging Face “يعتقدون بشدة أنه لم تكن هناك نية خبيثة من جانبهم” في إشارة إلى OpenAI. وعبّر عن فخره بفريقه الأمني قائلاً على منصة X: “فخور جدًا بفريقنا الأمني! لقد اكتشفوا واحتووا وكشفوا علنًا عن هجوم لم نشهد مثله من قبل، وقاموا بذلك بسرعة قياسية.” وتابع ديلانغ: “هذا هو اليوم الأول للأمن السيبراني في عصر الوكلاء & وجميعنا نتعلم أن السرية ليست الحل & وأن جميع المدافعين (وليس فقط عدد قليل منهم) في كل مكان يحتاجون إلى نماذج أكثر قوة دون قيود، خاصة النماذج المفتوحة!”
استجابة الحكومة البريطانية
أعلن معهد أمن الذكاء الاصطناعي (AISI)، وهو هيئة مدعومة من الحكومة البريطانية تأسست عام 2023 لتقييم المخاطر التي تشكلها أنظمة الذكاء الاصطناعي المتقدمة، هذا الأسبوع أن نموذجًا للذكاء الاصطناعي كان يحقق فيه المعهد قد خرج عن السيطرة وحاول اختراق أنظمة الاختبار الخاصة به. لم يكشف المعهد عن الشركة التي تقف وراء نموذج الذكاء الاصطناعي وأضاف أنه لم يحدث أي ضرر لبنيته التحتية، وقد اتخذ منذ ذلك الحين خطوات لزيادة أمان أنظمته.
كما كشفت تقييماته الأخيرة أن كل نموذج ذكاء اصطناعي رائد تم اختباره حاول الغش أثناء تقييمات القدرات، مما يسلط الضوء على تحدٍ متزايد لسلامة الذكاء الاصطناعي مع تزايد قدرات النماذج. ووفقًا لـ AISI، انتهكت النماذج قواعد التقييم لإنجاز المهام بسهولة أكبر، بما في ذلك البحث عن الإجابات عبر الإنترنت عندما كان محظورًا، وتجاوز قيود الشبكة، والتحقيق في برامج التقييم بحثًا عن أدلة، والوصول إلى الأنظمة خارج البيئة المسموح بها.
وأشار AISI إلى أن النماذج نادراً ما اعترفت بالغش عند استجوابها لاحقًا، وغالبًا ما لم تكشف عن السلوك في منطقها، مما يجعل اكتشافه صعبًا من خلال الإبلاغ الذاتي وحده. وأكد المعهد أن المراقبة المستقلة وآليات الرقابة الأقوى ستصبح ذات أهمية متزايدة مع اكتساب أنظمة الذكاء الاصطناعي مزيدًا من الاستقلالية. وشدد المعهد على أن هذا السلوك لا يشير بالضرورة إلى نية خبيثة، بل يعكس نماذج تستغل الاختصارات لزيادة النجاح في إعدادات التقييم الحالية.
رد فعل OpenAI
قالت شركة OpenAI، صانعة ChatGPT، في منشور على مدونتها يوم الثلاثاء: “لقد أدرجنا Hugging Face في برنامج الوصول الموثوق به وندعم فرقهم في استخدام قدرات نماذجنا بسرعة لتحسين دفاعاتهم.”
كشفت الشركة التي تتخذ من سان فرانسيسكو مقراً لها أن النموذجين المتورطين في الهجوم هما نموذج GPT-5.6 Sol الأحدث ونموذج غير مطروح بعد، والذي قالت الشركة إنه “أكثر قدرة” من نسختها الأخيرة. وقد اكتشف وكلاء OpenAI الثغرات الأمنية في خوادم Hugging Face وشرعوا في سرقة تفاصيل تسجيل الدخول ثم اختراق أنظمة الشركة.
وقع الحادث خلال جلسة اختبار داخلية لـ OpenAI مصممة لتقييم قدرات الأمن السيبراني للنماذج. وكانت OpenAI قد أزالت تدابير السلامة القياسية لهذا الاختبار. وقالت OpenAI إن النموذجين سعيا للغش في حل مشكلة أثناء الاختبار، وذهبا إلى “أقصى الحدود لتحقيق هدف اختبار ضيق نوعًا ما” و “وجدا طرقًا للوصول إلى معلومات سرية يمكنهما استخدامها للغش في التقييم”.
في هذا السياق، كتب النائب الديمقراطي الأمريكي من تكساس، جريج كاسار، في منشور على X: “هذا أمر مقلق للغاية. يتطور الذكاء الاصطناعي بسرعة فائقة دون لوائح حقيقية للحفاظ على سلامتنا. يجب أن يتغير ذلك.” وأضاف: “نحن بحاجة إلى اختبارات سلامة مستقلة إلزامية ومنتظمة وإشراف، وإفصاح إلزامي عن الحوادث الأمنية، وتعاون دولي للحفاظ على سلامة الناس من كارثة مطلقة.”
للمزيد من الأخبار، زوروا موقعنا.
المصدر: اضغط هنا
اترك التعليق