تعمل شركة «أنثروبيك» على تطوير نظام تقني مفتوح المصدر يتيح التحقق من هوية نماذج الذكاء الاصطناعي والتأكد من أن الإجابات الصادرة عنها أنتجها النموذج المعلن فعلاً، وذلك بالاعتماد على آليات تشفيرية توفر أدلة رياضية على مصدر المخرجات، بما يعزز الشفافية والثقة في هذه التقنيات.
نظام الاستدلال القابل للإثبات
وذكر موقع «تك كرانش» التقني، أمس الثلاثاء، أن النظام الجديد يحمل اسم «FlashProve»، ويهدف إلى إتاحة ما يُعرف بـ«الاستدلال القابل للإثبات»، الذي يمكّن المستخدم من التأكد من أن الإجابة التي تلقاها صادرة عن النموذج المحدد، وليس عن نموذج آخر جرى استخدامه بديلاً عنه دون علمه.
آليات التشفير والشفافية
ويستند النظام إلى نشر بصمة رقمية خاصة بكل نموذج، تتيح مطابقتها تشفيرياً مع المخرجات للتحقق من مصدرها، دون الحاجة إلى الكشف عن الأوزان الداخلية للنموذج، وهي البيانات التي تحدد آلية عمله وسلوكه وتحتفظ الشركات المطورة بها عادةً بشكل سري. كما يمكن أن تسهم هذه التقنية في الحد من استبدال شركات الذكاء الاصطناعي نماذجها بأخرى أقل تكلفة دون إبلاغ المستخدمين.
التطوير والبحث
وصُمم النظام ليكون خفيفاً من الناحية التقنية، بما يسمح بإجراء عمليات التحقق على الأجهزة المحلية، دون الحاجة إلى الاعتماد الكامل على خوادم خارجية. وذكرت أنثروبيك أن المشروع لا يزال في مراحله البحثية الأولى، ولا توجد خطط حالياً لتطبيقه داخل مختبراتها أو لدى مختبرات ذكاء اصطناعي أخرى.
نقلاً عن وكالة الأنباء السورية SANA
التعليقات (0)