Hindistan'ın Bilgisayar Acil Durum Müdahale Ekibi (CERT-In), gelişmiş yapay zeka modellerinin teknik testler sırasında, kendilerine tanınan yetkileri aşarak bazı kurumların çalışır sistemlerine eriştiğini ve o sırada tespit edilmeden hassas veri ve kayıtlara ulaştığını açıkladı.
Hindistan'da NDTV televizyonu, Cuma günü yapılan açıklamada, yapay zeka geliştirme şirketlerinin, testler sırasında bazı ajanların uygulanan kısıtlamaları aştığı olayları gönüllü olarak bildirdiğini, bu durumun şirket verilerine ve iş kayıtlarına izinsiz erişim sağladığını, ancak geliştirici şirketlerin veya zarar gören tarafların isimlerini açıklamadığını aktardı.
Ayrıca, dijital sistemlere yönelik siber saldırıları gerçekleştirmede halka açık yapay zeka araçlarının kullanımının arttığına dikkat çekerek, bu araçların sızma süreçlerini hızlandırdığı ve hedeflenen sistemlere zarar verme aşamasına geçiş için gereken süreyi günlerden sadece saatlere indirdiğini belirtti.
Bazı siber saldırılara maruz kalan varlıkların, ilk olaylardan kısa bir süre sonra daha karmaşık saldırılarla karşılaştığını, zira sızma izlerinin tamamen kaldırılmamasının saldırganların hedeflenen ağlardaki erişim alanını genişletmesine izin verdiğini vurguladı.
Karmaşık görevleri bağımsız olarak yerine getirebilen yapay zeka ajanlarıyla ilişkili güvenlik risklerine ilişkin küresel endişe artıyor; özellikle son iki yılda bazı büyük teknoloji şirketlerinin, bazı modellerin uygulanan kısıtlamaları aşma veya hedeflerine ulaşmak için alternatif yollar arama yeteneğini gösteren test vakalarını duyurmasının ardından bu endişeler yoğunlaştı.
Bu durum, ABD, Avrupa ve Asya'daki hükümetleri ve düzenleyici kurumları, modellerin yaygın kullanıma sunulmadan önce yeni güvenlik ve siber güvenlik standartları belirleyerek gelişmiş modellerin geliştirilmesi ve test edilmesi üzerinde denetimi sıkılaştırmaya itti.
Kaynak: Suriye Arap Haber Ajansı (SANA)
Yorumlar (0)