OpenAI, Avrupa Birliği'nin Yapay Zeka Yasası kapsamında yer alan şeffaflık yükümlülüklerine uyum sağlamak amacıyla ChatGPT ve Codex metin çıktılarına görünmez istatistiksel filigranlar eklemeye hazırlanıyor. Bu hamleyle şirket, geçtiğimiz aylarda benzer bir adım atan Anthropic'i takip etmiş oluyor.
Yapılan resmi açıklamaya göre, önümüzdeki haftalardan itibaren Avrupa Birliği sınırları içindeki ChatGPT ve Codex kullanıcılarının metin çıktılarına textGrain adı verilen görünmez istatistiksel işaretler dahil edilecek. Küresel ölçekteki API müşterileri belirli modeller için bugünden itibaren bu sistemi isteğe bağlı olarak etkinleştirebilecek, ancak özellik API üzerinde varsayılan olarak kapalı kalmayı sürdürecek. Ayrıca şirket, bulut ortakları aracılığıyla erişilen model çıktılarına da bu özelliğin entegre edilmesi için çalışmalarını devam ettiriyor.
TextGrain teknolojisi, modelin kelime seçimlerine insan gözüyle fark edilmesi mümkün olmayan istatistiksel sinyaller yerleştiriyor. Ancak sistem, metin üzerinde yapılan düzenlemeler karşısında belirgin zayıflıklar gösteriyor. Şirketin paylaştığı test sonuçlarına göre, 400 tokenlik metinlerde yüzde 95 seviyesinde olan tespit oranı, metindeki kelimelerin yüzde 10'u eşanlamlılarıyla değiştirildiğinde yüzde 66'ya, yüzde 25'i değiştirildiğinde ise yüzde 17 seviyesine kadar geriliyor. Bu teknolojik kısıtlar ve riskler nedeniyle OpenAI, tespit aracını doğrudan kamuoyunun erişimine açmayacağını ve doğrulama aracının yalnızca onaylanmış araştırmacılara sağlanacağını bildirdi.
Öte yandan şirket, Astra modeli üzerinde gerçekleştirdiği testlerde filigran uygulamasının çıktı kalitesinde anlamlı bir performans kaybına yol açmadığını duyurdu. OpenAI, görünmez işaretlerin metindeki insan katkısının oranını ölçmediğini, telif hakkı veya sorumluluk tayini yapmadığını ve metni üreten kullanıcıyı açığa çıkarmadığını özellikle vurguladı. Bir metinde filigran bulunmaması, o içeriğin kesinlikle insan tarafından yazıldığı anlamına da gelmiyor. Görsel ve sesli içeriklerde kullanılan SynthID ve C2PA standartlarına dayanan açık doğrulama araçlarının ise kamuya açık kalmaya devam edeceği ifade edildi.
