ChatGPT Metinlerine Görünmez İşaret Koyacak
HABERRUS - OpenAI, ChatGPT’nin ürettiği metinlere görünmez bir “filigran” (watermark) yerleştireceğini duyurdu. “textGrain” adı verilen özelliğin yakın zamanda Avrupa Birliği kullanıcıları için devreye alınması planlanıyor. Şirket, bu adımla Avrupa’nın yapay zekâ düzenlemelerine uyum sağlamayı hedefliyor.
Filigran nasıl çalışıyor?
Habere göre model, metni üretirken kelimeleri istatistiksel olarak öyle seçecek ki çıktıda okunabilir bir sinyal oluşacak. Bu sinyal insan gözüyle fark edilmeyecek; yalnızca özel bir dedektörle tespit edilebilecek. Dedektöre erişimi ise OpenAI’nin kendisi sağlayacak.
Anthropic de benzer adım attı
Daha önce Anthropic, yeni Claude modellerine benzer bir araç entegre etmişti. Yapay zekâ girişimleri, Avrupa Birliği’nin yeni Yapay Zekâ Yasası’nda yer alan şeffaflık kuralları nedeniyle bu tür tespit sistemlerine yöneldi. Söz konusu kurallar, üretilmiş metinlerin makine tarafından tanınabilmesini öngörüyor.
Uzmanlar: Tespit etmek zor olabilir
Nevel.ai Genel Müdürü Aleksey Hahumov, düzenlemeyi Avrupa yasasına uyum çabası olarak değerlendirdi. Hahumov’a göre filigranı metinden çıkarmak oldukça zor; en sağlıklı yöntem başka bir model kullanmak. Ancak metin üzerinde değişiklik yapılırsa filigranın kaybolabileceğini belirtti.
Angel Relations Group Direktörü ve VŞE öğretim görevlisi Aleksey Karlov ise filigranın kelime dizilimini kodlamaya dayandığını söyledi. Karlov’a göre bir kişi paragrafın önemli bir kısmını yeniden yazar, kelimelerin yerini değiştirir veya anlam eklemeleri yaparsa filigran büyük olasılıkla korunmaz. İnsan ve yapay zekânın birlikte oluşturduğu metinlerde tespitin neredeyse imkânsız hale geldiğini vurguladı.
OpenAI: Değişiklik arttıkça tespit düşüyor
OpenAI’nin kendi verilerine göre, üretilen metnin yalnızca %10’u eş anlamlı kelimelerle değiştirilirse filigranın tespit olasılığı %92’den %66’ya düşüyor. Kelimelerin dörtte biri değiştirildiğinde ise tespit doğruluğu yalnızca %17’ye iniyor. Bu da filigranın, metin üzerinde ciddi düzenlemeler yapıldığında etkisini büyük ölçüde yitirdiğini gösteriyor.