ChatGPT tarafından hazırlanan metinlere görünmez dijital işaretler yerleştirileceği iddiası teknoloji gündeminde tartışma yarattı. OpenAI'ın, yapay zekâ içeriklerinin kaynağını belirlemek amacıyla TextGrain adlı bir sistem üzerinde çalıştığı öne sürüldü.
Kelimelerin arasına gizli iz bırakılacak
İddiaya göre yeni teknoloji, metinlerdeki kelime seçimlerine istatistiksel işaretler ekleyerek içeriğin yapay zekâ tarafından oluşturulup oluşturulmadığının belirlenmesini hedefliyor.
Sistemin ilk aşamada Avrupa Birliği ülkelerindeki ChatGPT ve Codex kullanıcılarını kapsayacağı, API müşterilerine ise isteğe bağlı sunulacağı ileri sürüldü.
Kelimeler değişince tespit oranı düşüyor
Paylaşılan teknik test sonuçlarına göre 400 token uzunluğundaki metinlerde yüzde 95 olduğu belirtilen tespit başarısı, 200 tokenlik içeriklerde yüzde 80'e geriliyor.
Kelimelerin yüzde 10'unun değiştirilmesiyle oranın yüzde 66'ya, yüzde 25'inin değiştirilmesiyle de yüzde 17'ye düştüğü iddia ediliyor. Ancak bu oranların hangi bağımsız testlerle doğrulandığı net değil.
Herkes doğrulama yapamayacak
İddialarda, dijital işaretleri kontrol edecek aracın başlangıçta yalnızca onaylı araştırmacılar ve belirli kuruluşların erişimine açılacağı belirtiliyor.
Sistemin metinlerin doğruluğunu garanti etmediği, kullanıcıların kimlik veya hesap bilgilerini ortaya çıkarmadığı da aktarılan bilgiler arasında bulunuyor.
Resmî doğrulama bekleniyor
Avrupa Birliği'nin yapay zekâ içeriklerine ilişkin şeffaflık düzenlemeleri, teknoloji şirketlerinin bu alandaki çalışmalarını gündeme taşıyor.
Ancak TextGrain'in ChatGPT'de kullanıma alındığı ve tüm metinlere otomatik olarak uygulanacağı yönündeki bilgiler henüz doğrulanmış değil.
