اختراق أنظمة حقيقية.. نماذج ذكاء اصطناعي تتجاوز بيئة المحاكاة وتفجر مخاوف
كشفت شركة "أنثروبيك" المتخصصة في تطوير تقنيات الذكاء الاصطناعي، أن نماذجها التابعة لـ"كلود" تمكنت من اختراق أنظمة ثلاث مؤسسات خارجية خلال اختبارات أمنية، في حادثة أثارت مخاوف جديدة بشأن مخاطر تطور قدرات الذكاء الاصطناعي.
وقالت الشركة إنها أجرت مراجعة لأكثر من 141 ألف اختبار للأمن السيبراني، رصدت خلالها ثلاث حالات تمكنت فيها نماذج "كلود" من الاتصال بالإنترنت واختراق بنية تحتية فعلية لجهات خارجية، مشيرة إلى أن أقدم هذه الحوادث يعود إلى شهر نيسان الماضي.
وأوضحت "أنثروبيك" أن الاختبارات كانت ضمن بيئات محاكاة تهدف إلى قياس قدرات النماذج في اكتشاف الثغرات، إلا أن خللاً في إعدادات الاختبار سمح للنماذج بالوصول إلى أنظمة حقيقية، من دون الكشف عن أسماء المؤسسات المتضررة.
وبيّنت الشركة أن النماذج الثلاثة التي نفذت الاختراقات شملت إصدارات من "كلود"، بينها "أوبوس 4.7" و"ميثوس 5"، إضافة إلى نموذج بحثي داخلي، مؤكدة أن هذه النماذج كانت تعمل من دون بعض إجراءات الحماية المطبقة عادة في الأدوات المتاحة للمستخدمين.
وأشارت إلى أن عمليات الاختراق تمت باستخدام أساليب بسيطة، من بينها استغلال كلمات مرور ضعيفة، مؤكدة أنها شددت ضوابط الاختبارات الأمنية بعد هذه الحوادث، ودعت إلى إخضاع بيئات تقييم الذكاء الاصطناعي لمعايير حماية مماثلة للأنظمة الفعلية.
وتأتي هذه الحوادث بعد أيام من إعلان شركة "أوبن إيه آي" عن واقعة مشابهة، ما أعاد الجدل بشأن الحاجة إلى فرض رقابة أكبر على تطوير تقنيات الذكاء الاصطناعي وقدراتها المتقدمة.
كلمات مفتاحية
اخبار ذات صلة
تعليقات
أحدث الاخبار
أسود الرافدين بوجه الكويت اليوم في "خليجي 27" وعينهم على الفوز الأول
تباين أسعار الدولار بين بغداد وأربيل
الخارجية: أبلغنا إيران بحظر طيرانها ونصدر النفط عبر هرمز بالتعاون مع واشنطن
"المطلع" تنشر نص كلمة رئيس الوزراء أمام اجتماع الجمعية العامة بدورتها الـ81
ذكاء "أوبن إيه آي" يخترق موقعاً حكومياً أسترالياً ويثير الفزع
مستشار خامنئي محذراً: منع الرحلات الإيرانية سيقابله منع الطيران بدول المنطقة
تفكيك شبكة إجرامية لسرقة وتهريب النفط الخام في المثنى
جدول مواجهات الجولة الثانية من كأس الخليج العربي 27 وترتيب الهدافين
مطار النجف يعلن إيقاف جميع الرحلات الجوية مع إيران حتى إشعار آخر
الدولار يتجه لتحقيق مكاسب أسبوعية وسط توقعات رفع الفائدة الأميركية
طقس العراق.. تصاعد للغبار وانخفاض في درجات الحرارة
ولي عهد الكويت: نشيد بجهود رئيس الوزراء العراقي لحصر السلاح
فرنسا تعلن نشر قوات وأنظمة دفاعية لحماية منشآت نفطية في السعودية
أردوغان يؤكد حرص تركيا على تعزيز الشراكة الاقتصادية والتنمية مع العراق
رويترز: مفاوضون أمريكيون وإيرانيون يبحثون مسارا مرحليا لإنهاء الحرب
الدولار يعاود الارتفاع ويتجاوز 157 ألفاً في بغداد وأربيل
البرلمان يُصوّت على توصيات تلوث "دجلة" ويُنهي قراءة ومناقشة عدد من القوانين
