Yapay zeka öncüleri Geoffrey Hinton ve Yoshua Bengio'nun da aralarında bulunduğu yaklaşık 400 bilim insanı, salı günü, siber saldırılar başlatma yeteneğine sahip gelişmiş yapay zeka sistemleriyle ilgili sınırlama standartlarını gözetmek ve olayları bildirmek amacıyla uluslararası bir kurulun kurulmasını istedi.
Reuters'a göre araştırmacılar, açık mektupta "gelişmiş yapay zeka modelleri başlangıçta harici ağlardan izole edilmeli ve bağımsız gözetime tabi tutulmalıdır" diyerek, bunun gerekçesini özel sektörün gönüllü taahhütlerinin yetersiz olduğu şeklinde açıkladı.
Sınırlama standartları ve olay kaydı
Önerilen kurulun, tüm sektör genelinde sınırlama standartları belirlemesi ve ayrıca önemli güvenlik olaylarının bir kaydını tutarak bunları kamuoyuyla paylaşması bekleniyor.
Bu öneri, Anthropic, OpenAI, Google, Meta, xAI ve Nvidia'nın, herhangi bir resmi uygulama mekanizması olmadan gönüllü güvenlik önlemleri alma taahhüdünde bulundukları Beyaz Saray anlaşmasını imzalamasından bir ay sonra geldi.
Aşırılıklar ve ihlaller
Araştırmacılar, gelişmiş yapay zeka sistemlerinin nasıl test edildiği ve sınırlandığına dair zayıflıkları ortaya koyan bir dizi olay olduğunu ekledi; bunlar arasında yapay zeka modellerinin izole edilmiş test ortamlarını aşması ancak yetersiz şekilde kalması ve bunun sonucunda harici sistemlere ihlallerin gerçekleşmesi yer aldı.
34 ülkeden imzacılar, "siber saldırılar başlatma yeteneğine sahip modeller geliştiren veya test eden kuruluşlar derhal garanti edilmiş sınırlama standartlarını benimsemeli, hükümetler ise daha resmi bir gözetim sistemi oluşturma konusunda çalışmalıdır" dedi.
Uluslararası tartışma ve ABD'deki gelişmeler
Politika yapıcılar arasında gelişmiş yapay zeka sistemlerinin nasıl gözetileceği konusunda tartışmalar artıyor. Avrupa Birliği'nin Teknolojik Egemenlik, Güvenlik ve Demokrasi Başkan Yardımcısı Henna Verkonen, Reuters'a yaptığı açıklamada, birliğin Yapay Zeka Yasası'nın, kontrolsüz yapay zeka sistemlerinden kaynaklanan risklerle başa çıkmak için yeterli olduğunu belirtti.
ABD Başkanı Donald Trump'ın yönetimi, iki gün önce ABD laboratuvarlarına uygulanan yasağı kaldırarak, İngiliz Yapay Zeka Güvenliği Enstitüsü'nün güvenlik testleri yapmak üzere modellere erken erişim sağlamasına izin verdi.
Trump, 4 Ekim'de Ulusal İstihbarat Direktörü Jay Clayton'ı, ABD yönetimi yapay zeka dosyası sorumlu olarak atadı; bu hamle, ABD'nin bu alandaki yeteneklerini güçlendirmeyi ve hızlı gelişimle ilişkili risklerle mücadele etmeyi amaçlıyor.
Kaynak: Suriye Arap Haber Ajansı (SANA)
Yorumlar (0)