Desarrolladores de Ethereum sugieren usar tecnología ZK para anonimizar el uso de IA
El líder de IA de Ethereum Foundation, Davide Crapis, y el cofundador de Ethereum, Vitalik Buterin, han propuesto una manera de utilizar pruebas de conocimiento cero y otros métodos para asegurar que las interacciones de un usuario con modelos de lenguaje grandes sean privadas, mientras se previene el spam y el abuso.
Las llamadas API ocurren cada vez que un usuario envía un mensaje a una aplicación de software, como un chatbot de IA. Crapis y Buterin dijeron en una publicación de blog el miércoles que un desafío central tanto para usuarios como para proveedores es la privacidad, la seguridad y la eficiencia.
“Necesitamos un sistema donde un usuario pueda depositar fondos una vez y realizar miles de llamadas API de manera anónima, segura y eficiente”, afirmaron.
“El proveedor debe tener garantizado el pago y protección contra el spam, mientras que el usuario debe tener garantizado que sus solicitudes no pueden vincularse ni a su identidad ni entre sí”, agregaron.
Fuente: Con el aumento en el uso de chatbots de IA, las filtraciones de datos de los LLMs se han convertido en una preocupación creciente. Los chatbots a menudo manejan datos altamente sensibles, y vincular el uso con identidades puede crear riesgos significativos de privacidad, legales y de seguridad. Los registros de uso incluso pueden ser utilizados en procesos judiciales.
La solución de Crapis y Buterin para usuarios y proveedores
Crapis y Buterin dijeron que actualmente los proveedores se ven obligados a elegir entre dos “caminos subóptimos”, acceso basado en identidad con los usuarios obligados a entregar información sensible como un correo electrónico o tarjeta de crédito, lo que crea riesgos de privacidad, o pagos on-chain por cada solicitud, que son lentos, costosos y rastreables.
El dúo propone un sistema donde los usuarios depositan fondos en un smart contract y luego realizan llamadas API sin revelar su identidad ni vincular las solicitudes, aprovechando pruebas de conocimiento cero y anuladores de límite de tasa para pagos y aplicación anti-spam.
“Un usuario deposita 100 USDC en un smart contract y realiza 500 consultas a un LLM alojado. El proveedor recibe 500 solicitudes válidas y pagadas pero no puede vincularlas al mismo depositante ni entre sí, mientras que los mensajes del usuario permanecen desvinculados de su identidad”, dijeron Crapis y Buterin.
“El modelo garantiza la solvencia al requerir que el usuario demuestre que su gasto acumulado—representado por su índice de ticket actual—permanece estrictamente dentro de los límites de su depósito inicial y de su historial de reembolsos verificado.”
Hacer trampa en el sistema podría reducir tu depósito
Para disuadir a los estafadores, la generación de contenido ilegal, intentos de jailbreaking y otras violaciones de los términos de servicio, Crapis y Buterin proponen un sistema de doble staking.
Relacionado:
Si se detecta que un usuario intenta gastar doble, su depósito puede ser reclamado por cualquiera, incluido el servidor. Sin embargo, los usuarios que violen los términos de servicio tendrán su depósito enviado a una burn address y el evento de reducción quedará registrado on-chain.
“Por ejemplo, un usuario podría enviar una consulta pidiendo al modelo que genere instrucciones para construir un arma o que lo ayude a evadir controles de seguridad – solicitudes que violarían las políticas de uso de muchos proveedores”, dijeron Crapis y Buterin.
“Mientras la identidad del usuario permanece oculta, la comunidad puede auditar la tasa a la que el Servidor quema stakes y las pruebas presentadas para estas quemas.”
Revista:
Descargo de responsabilidad: El contenido de este artículo refleja únicamente la opinión del autor y no representa en modo alguno a la plataforma. Este artículo no se pretende servir de referencia para tomar decisiones de inversión.
También te puede gustar
Pisar el freno, pero OpenAI busca recaudar 20 mil millones más.
Resultados trimestrales por debajo de lo esperado y sin mejoras en los ingresos: Nike anuncia una nueva ronda de despidos y las acciones sufren el peor año de su historia, casi se reducen a la mitad | Informe financiero
Los ingresos trimestrales de Nike cayeron un 4% interanual y la guía anual quedó muy por debajo de las expectativas; la proyección de ganancias por acción es de solo 1,15-1,35 dólares, muy por debajo del pronóstico de los analistas de 1,68 dólares. El nuevo plan de recortes de personal "Pace" apunta a ahorrar 2.500 millones de dólares antes de 2031. Las calificaciones en Wall Street han caído a su nivel más bajo en 25 años y el precio objetivo de Bank of America es de solo 30 dólares, mientras que se postergan las expectativas de una recuperación en ventas hasta 2028.
La aparente calma de las acciones estadounidenses: los índices están a un paso de alcanzar nuevos máximos, pero casi todos los sectores han sufrido fuertes caídas.
El rendimiento de los bonos del Tesoro estadounidense a 10 años subió al 5,34%, generando una silenciosa fractura en el mercado: el índice S&P 500 está a menos del 2% de su máximo histórico, pero en el último mes, la mediana de las acciones que lo componen cayó un 5% y el índice equiponderado acumula siete semanas consecutivas en baja. Más de un tercio de las acciones de pequeña capitalización se convirtieron en “empresas zombi”, las acciones bancarias cayeron más del 12% desde su pico y las empresas de servicios públicos están a un paso de entrar en mercado bajista. Actualmente, el único sostén proviene de los gigantes tecnológicos de la inteligencia artificial: si las expectativas de rentabilidad de la IA se quiebran, el riesgo de un colapso generalizado saldrá a la luz de manera inmediata.
Precios de las criptos
Más
