OPML: Sistema de aprendizaje automático en cadena de bloques basado en el enfoque optimista
OPML(El optimismo del aprendizaje automático) es un nuevo sistema de Cadena de bloques que puede lograr inferencia y entrenamiento de modelos de IA a bajo costo y alta eficiencia. En comparación con ZKML, los requisitos de hardware de OPML son más bajos, e incluso se puede ejecutar modelos de lenguaje grandes como 7B-LLaMA en una PC normal.
OPML utiliza un mecanismo de juego de verificación para garantizar la descentralización y la verificabilidad del servicio ML. Su proceso básico es:
El solicitante inicia la tarea ML
El servidor completa la tarea y envía el resultado a la Cadena de bloques
Los validadores revisan los resultados, y si hay objeciones, se inicia el juego de validación.
Localización precisa de los pasos en disputa a través del protocolo de bifurcación
Finalmente, el contrato inteligente arbitra un solo paso
Para lograr una ejecución fuera de la cadena eficiente y un arbitraje en la cadena, OPML ha construido una máquina virtual dedicada y una biblioteca DNN ligera, y ha adoptado tecnología de compilación cruzada para compilar el código de inferencia de IA en instrucciones de VM. El estado de la VM se gestiona mediante un árbol de Merkle, solo el hash raíz se registra en la cadena.
La limitación del OPML de una sola etapa es que todos los cálculos deben completarse dentro de la VM, sin poder aprovechar la aceleración de la GPU. Por ello, el OPML se ha expandido a un protocolo de múltiples etapas:
La fase 2 ejecuta el cálculo de nodos del gráfico computacional en el entorno local, aprovechando la GPU.
La fase 1 convertirá el cálculo de un solo nodo en la ejecución de instrucciones VM
La OPML de múltiples etapas puede lograr una aceleración de cálculo de α veces en comparación con la de una sola etapa, donde α puede alcanzar decenas a cientos de veces. Al mismo tiempo, el tamaño del árbol de Merkle se reduce de O(mn) a O(m+n).
Para garantizar la consistencia de los resultados, OPML utiliza un algoritmo de punto fijo y una biblioteca de punto flotante de software, resolviendo el problema de las diferencias en los cálculos de punto flotante en diferentes plataformas.
En general, OPML proporciona una solución eficiente, de bajo costo y verificable para el aprendizaje automático en la cadena de bloques, con amplias perspectivas de aplicación.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
11 me gusta
Recompensa
11
3
Compartir
Comentar
0/400
MevWhisperer
· 07-27 16:51
¿El aprendizaje automático se ha llevado a la cadena?
OPML: Sistema de entrenamiento y razonamiento de modelos de IA de bajo costo y alta eficiencia en la Cadena de bloques
OPML: Sistema de aprendizaje automático en cadena de bloques basado en el enfoque optimista
OPML(El optimismo del aprendizaje automático) es un nuevo sistema de Cadena de bloques que puede lograr inferencia y entrenamiento de modelos de IA a bajo costo y alta eficiencia. En comparación con ZKML, los requisitos de hardware de OPML son más bajos, e incluso se puede ejecutar modelos de lenguaje grandes como 7B-LLaMA en una PC normal.
OPML utiliza un mecanismo de juego de verificación para garantizar la descentralización y la verificabilidad del servicio ML. Su proceso básico es:
Para lograr una ejecución fuera de la cadena eficiente y un arbitraje en la cadena, OPML ha construido una máquina virtual dedicada y una biblioteca DNN ligera, y ha adoptado tecnología de compilación cruzada para compilar el código de inferencia de IA en instrucciones de VM. El estado de la VM se gestiona mediante un árbol de Merkle, solo el hash raíz se registra en la cadena.
La limitación del OPML de una sola etapa es que todos los cálculos deben completarse dentro de la VM, sin poder aprovechar la aceleración de la GPU. Por ello, el OPML se ha expandido a un protocolo de múltiples etapas:
La OPML de múltiples etapas puede lograr una aceleración de cálculo de α veces en comparación con la de una sola etapa, donde α puede alcanzar decenas a cientos de veces. Al mismo tiempo, el tamaño del árbol de Merkle se reduce de O(mn) a O(m+n).
Para garantizar la consistencia de los resultados, OPML utiliza un algoritmo de punto fijo y una biblioteca de punto flotante de software, resolviendo el problema de las diferencias en los cálculos de punto flotante en diferentes plataformas.
En general, OPML proporciona una solución eficiente, de bajo costo y verificable para el aprendizaje automático en la cadena de bloques, con amplias perspectivas de aplicación.