The Wall Street Journal’a göre, OpenAI içinde ChatGPT tarafından üretilen metinleri test etmek için kullanılabilecek watermarking aracının yayınlanıp yayınlanmaması konusunda bir iç anlaşmazlık yaşanıyor. Bu araç, ChatGPT’nin ürettiği metinlerde, yalnızca özel bir araçla tespit edilebilecek bir iz bırakacak şekilde ChatGPT’ye ufak ayarlamalar yapılmasını gerektiriyor.
WATERMARKİNG SU İZİNE DAİR ENDİŞELER
OpenAI içindeki bazı çalışanlar bu aracın yayınlanmasını savunsa da, diğerleri bunun yanlış bir adım olacağını düşünüyor. Watermarking tespit aracının %99.9 doğruluk oranına sahip olduğu belirtilse de, küçük bir hata payı nedeniyle, yanlış etiketlenmiş metinlerin yol açabileceği sorunlar göz önüne alınıyor. Ayrıca, aracın su izi etiketlemesinin, ChatGPT’yi çeviri ya da yazı geliştirme amacıyla kullanan ana dili İngilizce olmayan kullanıcılar arasında damgalanmalara neden olabileceği belirtiliyor.
WATERMARKİNG BÜYÜK ÇIKMAZLAR GETİREBİLİR
OpenAI, mevcut watermarking teknolojisinin kötü niyetli kişiler tarafından atlatılabileceğini belirtti. Başka bir LLM metin üreticisi aracılığıyla ya da özel karakterler ekleyip sonradan bunları manuel olarak çıkararak su izinin geçersiz kılınabileceğini açıkladı. Ayrıca, ChatGPT kullanıcılarının %30’unun watermarking özelliği olan bir ChatGPT kullanmayı bırakacağını belirten bir anket sonucu da göz önüne alındı.
ALTERNATİF ÇÖZÜMLER ÜZERİNDE ÇALIŞILIYOR
OpenAI, watermarking özelliğini henüz yayınlamadı ve şimdilik çıktılara kriptografik olarak imzalanmış meta veriler eklemeyi içeren alternatif çözümler üzerinde çalışıyor. Bu yaklaşım, OpenAI’nin DALL-E 3 görsel jeneratörü ile içerik kökeni sorununu ele alışına benzer şekilde, içeriklerin nasıl ve ne zaman değiştirildiğini belirlemeyi sağlayacak.
