Mowa o otwartym systemie FlashProve, który wykorzystuje kryptografię do potwierdzania, z którego modelu AI pochodzi dana odpowiedź. Dzięki matematycznemu dowodowi użytkownik będzie mógł zweryfikować, czy wynik rzeczywiście wygenerował model wskazany przez dostawcę. Rozwiązanie ma też utrudnić podszywanie się pod inne modele, nawet samym firmom AI.
Badacze porównują tę metodę do podpisów kryptograficznych w wiadomościach e-mail, pozwalających potwierdzić tożsamość nadawcy. FlashProve ma być odporny na próby podszywania się pod inny model, nawet jeśli dopuściłaby się ich firma, która go stworzyła. Mogłoby to zapobiec sytuacjom, w których dostawca potajemnie zastępuje droższy model tańszym, by ograniczyć koszty, albo wykorzystuje inny model do sztucznego zawyżania wyników wydajności.
System mógłby też pomóc w weryfikacji deklaracji firm i innych podmiotów. Przykładowo, dostawca oprogramowania mógłby potwierdzić, że jego kod sprawdzono pod kątem luk bezpieczeństwa za pomocą zaawansowanego modelu AI. Podobnie firma mogłaby udowodnić, że jej biznesplan ocenił konkretny model, a nie mniej zaawansowane narzędzie.
Działanie FlashProve wymaga publikowania przez laboratoria AI kryptograficznych odcisków palca (ang. fingerprint) poszczególnych modeli. Można je następnie porównać z wynikami i zweryfikować ich pochodzenie. Sygnatury nie ujawniają przy tym wag modelu, czyli jego wewnętrznych parametrów. Firmy mogą więc udostępniać je bez odsłaniania technologii, którą traktują jako tajemnicę handlową. System zaprojektowano też tak, aby weryfikacja mogła odbywać się bezpośrednio na urządzeniu użytkownika.
Anthropic opublikował specyfikację techniczną i kod źródłowy poszczególnych elementów FlashProve w serwisie GitHub na licencji open source. Projekt jest jednak na wczesnym etapie. Firma nie zapowiada obecnie wdrożenia systemu ani u siebie, ani we współpracy z innymi laboratoriami. Badacze udostępniają wyniki prac, licząc na to, że społeczność będzie je testować i rozwijać.
