ChatGPT filigranı uygulaması, textGrain altyapısıyla kelime seçimlerine minik istatistiksel sapmalar ekleyerek çalışıyor. Bu gizli desen, yazının akışını bozmadan arka planda sessiz bir kimlik kartı gibi işliyor.
Peki bu damga kullanıcıyı ele verir mi? Şüpheler haksız sayılmaz.
ChatGPT filigranı nasıl çalışıyor ve kullanıcı kimliğini açığa çıkarır mı?
ChatGPT filigranı, kelime seçimlerindeki olasılık dağılımını görünmez şekilde değiştirerek çalışır ve kullanıcı adı, hesap bilgisi veya sohbet geçmişi gibi kişisel verileri kesinlikle açığa çıkarmaz. Metne yabancı harf ya da gizli boşluk eklenmiyor. Yapay zeka sonraki kelimeyi seçerken gizli bir anahtarla minik olasılık tercihleri yapıyor. Özel kontrol yazılımları bu matematiksel ayak izini hemen yakalıyor.
Kullanıcı gizliliği konusunda OpenAI net bir çizgi çekiyor. Metne işlenen damga, yazıyı kimin ürettiğini veya hangi komutun verildiğini kaydetmiyor. Yalnızca cümlenin yapay zeka tezgahından çıkıp çıkmadığını kanıtlamaya yarıyor.
Düzenleme karşısında tespit başarısı ve sistemin zayıf halkası
Yapay zeka damgası aşılmaz bir kale sunmuyor. Metin kısaldıkça ya da üzerinde elle oynama yapıldıkça sistemin gücü hızla eriyor. Kelimelerin dörtte biri değiştirildiğinde veya cümleler başka dile tercüme edildiğinde izler neredeyse tamamen siliniyor.
Tespit araçlarına erişim şimdilik yalnızca onaylı akademik kurumlara tanınıyor. Sistemin temel direnç eşikleri şu şekilde sıralanıyor:
| Değerlendirme kriteri | Başarı ve durum oranı |
|---|---|
| Uzun metin başarısı (400 kelime üstü) | Yüzde 95 doğruluk |
| Kısa metin başarısı (200 kelime altı) | Yüzde 80 seviyesi |
| Kelime müdahalesi (yüzde 25 değişim) | Yüzde 17 seviyesine düşüş |
| Kişisel veri ve kimlik takibi | Sıfır veri sızıntısı |
| Tespit aracına genel erişim | Kapalı ve kontrollü |
Avrupa Birliği kuralları ve şeffaflık baskısı
Yeniliğin arkasındaki asıl itici güç Avrupa Birliği Yapay Zeka Yasası oldu. Brüksel yönetimi, internetteki yapay zeka içeriklerinin teknik yöntemlerle işaretlenmesini şart koşuyor. Şirket de ağır yasal yaptırımlarla karşılaşmamak adına adımı hızlandırdı.
Avrupa sahasında ChatGPT ve kod aracı Codex için zorunlu kılınan sistem, küresel geliştiricilere isteğe bağlı sunuluyor. Rakiplerin de benzer adımlar atmasıyla birlikte, internetteki yapay zeka metinlerini etiketleme yarışı yeni bir döneme kapı aralıyor.
