Teknik araç, insan tarafından yeniden düzenlense bile yapay zeka tarafından üretilen fikirleri ortaya çıkarıyor

Maryland Üniversitesi, Google DeepMind ve Simon Fraser Üniversitesi'nden araştırmacılar, metinler içindeki yapay zeka tarafından üretilen fikirleri, insanlar kendi stilleriyle yeniden düzenlese bile tespit etmeyi amaçlayan "IdeaLens" adlı yeni bir teknik araç geliştirdi. Araç, kelimelere ve dilbilimsel yapıların ötesine geçerek temel fikirleri ve argümanları analiz ederek çalışır; amaç, insan fikirlerine dayalı metinlerle yapay zeka tarafından üretilen fikirlere dayanan metinleri, özellikle bilimsel araştırmalar ve eğitim belgeleri bağlamında birbirinden ayırmaktır.

Araştırmacılar, modellerini yaklaşık bir milyon önceden sınıflandırılmış belge kullanarak eğitmeye dayandırdı; metinleri, yazım tarzının etkisini azaltarak ana fikir ve argümanlara odaklanan özetlere dönüştürdüler. Bu yaklaşım, sistemin dil kalıplarına (yeniden düzenleme sırasında değişebilir) güvenmek yerine metnin içeriğini analiz etmesine yardımcı olur ve bu da onu tekrarlayan kalıplara ve ifadeleri aranan geleneksel tespit araçlarından ayırır.

Testler, aracın yapay zeka tarafından tamamen üretilen metinlerin yüzde 91'ini doğru bir şekilde tanımladığını, yalnızca yüzde 0,6'sının insan metninin yanlış sınıflandırıldığını gösterdi. Bu mekanizma, yapay zeka kullanımını gösterebilecek dil kalıpları ve tekrarlayan ifadeleri arayan geleneksel tespit araçlarından farklıdır; "IdeaLens", nihai kelimeleri formüle eden tarafı değil, fikirlerin kendilerinin kaynağını belirlemeyi hedefler.

Karşılaştırmalar, aracın performansının insan-yapay zeka işbirliği yöntemine göre değiştiğini gösterdi; bir insan fikir taslağını hazırlayıp metni yapay zeka yazdığında, geleneksel "Pangram" aracı yapay zeka katılımını vakaların yüzde 92'sinde tespit ederken, "IdeaLens" bunu yüzde 7 oranında tespit etti. Tersine, bir insan yapay zeka tarafından hazırlanan bir taslağa dayanarak metin yazdığında, "IdeaLens" yapay zeka etkisini vakaların yüzde 68'inde, "Pangram" ise yüzde 8'inde tespit etti.

Bu sonuçlara rağmen, araç daha fazla testlere ihtiyaç duymaktadır; en son yapay zeka modelleriyle başa çıkma konusunda zorluklar yaşadı ve sonuçları her fikrin kaynağını kesin olarak kanıtlamamaktadır, bu da eğitim kurumları ve bilimsel dergilerde kullanırken dikkatli olunmasını gerektirmektedir.

Kaynak: Suriye Arap Haber Ajansı (SANA)