Anthropic, cevabı hangi modelin verdiğini kanıtlayan FlashProve'u açtı

Bir yapay zekâ servisine soru sorduğunda cevabı gerçekten reklamı yapılan modelin verdiğinden nasıl emin olursun? Şu an buna güvenmekten başka yolun yok. Bir şirket maliyeti düşürmek için sessizce daha ucuz bir modele geçebilir ya da ölçüm sonuçlarını şişirmek için daha güçlü bir model kullanabilir. Anthropic'in 3 Kasım'da duyurduğu FlashProve, tam bu boşluğu kapatmayı hedefleyen bir araştırma prototipi.

Fikir, e-postalardaki dijital imzaya benziyor. Önce model sahibi, modelin ağırlıklarına (modelin öğrendiği sayıların tamamına) bağlı kısa bir parmak izi, yani taahhüt yayımlıyor. Ağırlıkların kendisi gizli kalıyor. Sonra bir cevap üretildiğinde, bu cevabın o parmak izine ait modelden çıktığını gösteren kriptografik bir kanıt oluşturuluyor. Kanıtı kontrol etmek hafif bir iş; yerel bir cihazda bile yapılabilecek kadar.

Teknik tarafta sistem, bir tür sıfır bilgi kanıtı olan zkSNARK yöntemini kullanıyor. Bu yöntemde bir taraf, bilgiyi açıklamadan o bilgiyi bildiğini ispatlayabiliyor. Anthropic'in paylaştığı ilk sürüm, herkese açık bir model olan Llama 4 Maverick üzerinde çalışıyor. Kanıtlar yaklaşık 19 MB büyüklüğünde ve saniyeler içinde doğrulanabiliyor.

Bedeli ise yüksek: kanıt üretmek, normal çalıştırmaya göre yaklaşık 70 ila 95 kat daha fazla GPU zamanı istiyor. Bu yüzden Anthropic'in kendisi de bunu henüz hazır bir ürün olarak değil, ara aşamadaki bir çalışma olarak tanımlıyor. Şu an bu sistemi Anthropic'te ya da başka bir laboratuvarda kullanmaya yönelik bir plan yok.

Kod ve teknik belirtim GitHub'da açık kaynak lisansıyla yayımlandı. Araştırmacılar, başkalarının bu çalışmayı inceleyip geliştirmesini istiyor.