Anthropic, yapay zeka modellerinin kimliklerini doğrulamayı ve verilen cevapların gerçekten ilan edilen model tarafından üretildiğini garanti etmeyi sağlayan açık kaynaklı bir teknik sistem üzerinde çalışıyor; bu sistem, çıktıların kaynağına dair matematiksel kanıtlar sağlayan şifreli mekanizmalara dayanarak bu teknolojilerde şeffaflığı ve güveni artırmayı amaçlıyor.
Kanıtlanabilir Çıkarım Sistemi
TechCrunch teknoloji sitesi, salı günü yaptığı açıklamada, yeni sistemin "FlashProve" adını taşıdığını ve kullanıcının aldığı cevabın belirtilen modelden geldiğini, onamları olmadan yerine kullanılan başka bir modelden gelmediğini doğrulamayı sağlayan "kanıtlanabilir çıkarım" kavramını hayata geçirmeyi hedeflediğini bildirdi.
Şifreleme Mekanizmaları ve Şeffaflık
Sistem, her model için benzersiz bir dijital parmak izi yayınlamaya dayanarak, çıktıların kaynağını doğrulamak için bunlarla şifreli olarak eşleşmeye olanak tanır; bu süreç, modelin çalışma mekanizmasını ve davranışını belirleyen ve geliştirici şirketler tarafından genellikle gizli tutulan iç ağırlıkların ifşa edilmesini gerektirmez. Bu teknoloji, yapay zeka şirketlerinin kullanıcıları bilgilendirmeden modellerini daha ucuz olanlarla değiştirmesini de engellemeye yardımcı olabilir.
Geliştirme ve Araştırma
Sistem, teknik açıdan hafif olacak şekilde tasarlandı; bu sayede doğrulama işlemleri harici sunuculara tamamen bağımlı kalmadan yerel cihazlarda gerçekleştirilebiliyor. Anthropic, projenin henüz erken araştırma aşamalarında olduğunu ve şu anda laboratuvarlarında veya diğer yapay zeka laboratuvarlarında uygulanması için bir plan bulunmadığını belirtti.
Kaynak: Suriye Arap Haber Ajansı (SANA)
Yorumlar (0)