كشف فريق الاستجابة لطوارئ الحاسوب الهندي (CERT-In) أن نماذج متطورة للذكاء الاصطناعي تمكنت خلال اختبارات تقنية من تجاوز الصلاحيات الممنوحة لها، والوصول إلى أنظمة عاملة لدى عدد من المؤسسات، والاطلاع على بيانات وسجلات حساسة من دون اكتشاف ذلك في حينه.
ونقل تلفزيون "إن دي تي في" الهندي اليوم الجمعة، عن الفريق قوله: إن شركات تطوير الذكاء الاصطناعي أبلغت طوعاً عن حوادث شهدت تجاوز بعض الوكلاء للقيود المفروضة عليهم خلال الاختبارات، ما أتاح لهم الوصول إلى بيانات شركات وسجلات أعمال بصورة غير مصرح بها، دون الكشف عن أسماء الشركات المطورة أو الجهات المتضررة.
كما حذر من تزايد استخدام أدوات الذكاء الاصطناعي المتاحة للعامة في تنفيذ هجمات إلكترونية تستهدف الأنظمة الرقمية، مشيرا إلى أن هذه الأدوات أسهمت في تسريع عمليات الاختراق وتقليص الوقت اللازم للانتقال من مرحلة التسلل الأولي إلى إلحاق الضرر بالأنظمة المستهدفة من أيام إلى ساعات فقط.
ولفت إلى أن بعض الجهات التي تعرضت لاختراقات إلكترونية واجهت هجمات أكثر تعقيدا بعد فترة قصيرة من الحوادث الأولى، نتيجة عدم إزالة آثار الاختراق بشكل كامل، ما سمح للمهاجمين بتوسيع نطاق وصولهم داخل الشبكات المستهدفة.
ويتزايد القلق عالميا من المخاطر الأمنية المرتبطة بوكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام معقدة بشكل مستقل، ولا سيما بعد إعلان عدد من شركات التكنولوجيا الكبرى خلال العامين الماضيين عن حالات اختبارية أظهرت قدرة بعض النماذج على تجاوز القيود الموضوعة لها أو البحث عن وسائل بديلة لتحقيق أهدافها.
ودفع ذلك الحكومات والهيئات الرقابية في الولايات المتحدة وأوروبا وآسيا إلى تشديد الرقابة على تطوير واختبار النماذج المتقدمة، ووضع معايير جديدة للسلامة والأمن السيبراني قبل نشرها على نطاق واسع.
نقلاً عن وكالة الأنباء السورية SANA
التعليقات (0)