دعا نحو 400 عالم، من بينهم رائدا الذكاء الاصطناعي جيفري هينتون ويوشوا بنجيو، اليوم الثلاثاء، إلى إنشاء هيئة دولية للإشراف على معايير الاحتواء والإبلاغ عن الحوادث المتعلقة بأنظمة الذكاء الاصطناعي المتطورة القادرة على شن هجمات إلكترونية.
ووفقاً لوكالة “رويترز” قال الباحثون في رسالة مفتوحة: إن “نماذج الذكاء الاصطناعي المتطورة يجب عزلها مبدئياُ عن الشبكات الخارجية وإخضاعها لرقابة مستقلة”، مبررين ذلك بأن الالتزامات الطوعية من القطاع ليست كافية.
معايير احتواء وسجل حوادث
ومن المقرر أن تضع الهيئة المقترحة معايير احتواء على مستوى القطاع بأكمله، بالإضافة إلى الاحتفاظ بسجل للحوادث الأمنية المهمة ومن ثم إتاحتها للعامة.
ويأتي هذا الاقتراح بعد شهر من توقيع “أنثروبيك” و”أوبن إيه آي” و”جوجل” و”ميتا” و”إكس إيه آي” و”إنفيديا” على اتفاق البيت الأبيض، يلتزمون بموجبه باتخاذ تدابير أمان طوعية دون أي آلية إنفاذ رسمية.
تجاوزات واختراقات
وأضاف الباحثون أن سلسلة من الحوادث كشفت عن نقاط ضعف في كيفية اختبار أنظمة الذكاء الاصطناعي المتقدمة واحتوائها، بما في ذلك حالات تجاوزت فيها نماذج الذكاء الاصطناعي بيئات اختبار معزولة ولكن بنحو غير كافٍ، وأدت إلى اختراق أنظمة خارجية.
وقال موقعون من 34 دولة: إن “المنظمات التي تطور نماذج ذات قدرات على شن هجمات إلكترونية أو تختبرها يجب أن تعتمد على الفور معايير احتواء مضمونة، في حين تعمل الحكومات على وضع نظام رقابة أكثر رسمية”.
جدل دولي وتطورات أمريكية
ويتزايد الجدل بين صانعي السياسات بشأن كيفية الإشراف على أنظمة الذكاء الاصطناعي المتقدمة. وقالت النائبة التنفيذية للسيادة التكنولوجية والأمن والديمقراطية في الاتحاد الأوروبي هينا فيركونين لرويترز مؤخراُ: إن قانون الذكاء الاصطناعي الخاص بالتكتل كافٍ للتصدي للمخاطر الناجمة عن أنظمة الذكاء الاصطناعي المارقة.
ورفعت إدارة الرئيس الأمريكي دونالد ترامب أمس الأول الحظر المفروض على المختبرات الأمريكية، ما أتاح لمعهد أمن الذكاء الاصطناعي البريطاني الوصول المبكر إلى النماذج لإجراء اختبارات السلامة.
وكان ترامب عيّن مدير المخابرات الوطنية جاي كلايتون في الـ 4 من تشرين الأول الجاري مسؤولاُ عن ملف الذكاء الاصطناعي في الإدارة الأمريكية، في خطوة تهدف إلى تعزيز قدرات الولايات المتحدة في هذا المجال ومواجهة المخاطر المرتبطة بتطوره المتسارع.
نقلاً عن وكالة الأنباء السورية SANA
التعليقات (0)