Anthropic ha presentado recientemente un sistema llamado FlashProve, diseñado para verificar la identidad de los modelos de inteligencia artificial (IA) que generan ciertos resultados. Este sistema ofrece lo que se denomina "inferencia demostrable", que proporciona una prueba criptográfica que garantiza que una salida específica proviene de un modelo determinado.
FlashProve permitirá a los usuarios confirmar que la respuesta que reciben corresponde realmente al modelo que creen estar utilizando. Esto es similar a las firmas criptográficas en correos electrónicos, que permiten a los destinatarios verificar que un mensaje proviene del remitente declarado. El sistema es robusto contra intentos de suplantación, incluso por parte del propio laboratorio que desarrolla el modelo.
Una de las aplicaciones más relevantes de FlashProve es evitar que las empresas de IA sustituyan un modelo costoso por uno más barato para reducir gastos, o viceversa, para inflar los resultados de rendimiento. Además, podrá servir para verificar afirmaciones de terceros sobre tareas realizadas por modelos avanzados, como la evaluación de vulnerabilidades de software o la validación de planes de negocio.
Para su funcionamiento, el sistema requiere que los laboratorios de IA publiquen una "huella digital" de cada modelo que lancen, la cual puede ser emparejada con salidas específicas y verificada criptográficamente. Estas huellas no revelan los pesos internos del modelo, lo que permite a los laboratorios compartir información sin comprometer su propiedad intelectual.
El sistema está diseñado para ser ligero, permitiendo que la verificación se realice en dispositivos locales. Anthropic ha hecho pública la especificación técnica y el código de trabajo de varios elementos del sistema bajo una licencia de código abierto en GitHub. Aunque la investigación continúa, no hay planes inmediatos para implementar FlashProve en Anthropic o en otros laboratorios, ya que se busca fomentar la colaboración y mejora del sistema por parte de la comunidad.
Comentarios