OPML: Блокчейн система машинного навчання на основі оптимістичного підходу
OPML(оптимістичне машинне навчання)є новою системою Блокчейн, яка дозволяє здійснювати низькозатратне та високоефективне інференцію та навчання AI моделей. В порівнянні з ZKML, у OPML вимоги до апаратного забезпечення є нижчими, і навіть може працювати на звичайному ПК з великими мовними моделями, такими як 7B-LLaMA.
OPML використовує механізм верифікаційних ігор для забезпечення децентралізації та верифікації ML-сервісів. Його основний процес:
Запитувач ініціює ML завдання
Сервер завершив завдання та подав результати в Блокчейн
Верифікатори перевіряють результати, у разі незгоди запускається верифікаційна гра
Точно визначити спірні етапи за допомогою двійкового протоколу
Остаточно арбітраж окремого кроку здійснюється смарт-контрактом
Для забезпечення ефективного виконання поза ланцюгом та арбітражу в ланцюзі, OPML створив спеціалізовану віртуальну машину та легку бібліотеку DNN, а також використав технологію перехресної компіляції для компіляції коду AI-інференції в інструкції VM. Стан VM управляється за допомогою меркле-дерева, тільки корінний хеш потрапляє в ланцюг.
Обмеження одномоментного OPML полягає в тому, що всі обчислення повинні виконуватись всередині VM, неможливо використовувати прискорення GPU. Для цього OPML було розширено до багатоступеневої протоколу:
На другому етапі виконується обчислення графа вузлів в локальному середовищі, можна використовувати GPU
Перший етап перетворює обчислення одного вузла на виконання інструкцій VM
Багатоступеневий OPML може забезпечити прискорення обчислень в α разів порівняно з одноетапним, де α може досягати десятків до сотень разів. Одночасно розмір дерева Меркла зменшується з O(mn) до O(m+n).
Щоб забезпечити узгодженість результатів, OPML використовує фіксовану точку алгоритму та програмну бібліотеку з плаваючою комою, вирішуючи проблему відмінностей у обчисленнях з плаваючою комою на різних платформах.
В цілому, OPML забезпечує ефективне, економічне та перевіряне рішення для машинного навчання на Блокчейн, яке має широкі перспективи застосування.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
OPML: Система навчання та інференції моделей штучного інтелекту з низькою вартістю та високою ефективністю у блокчейні
OPML: Блокчейн система машинного навчання на основі оптимістичного підходу
OPML(оптимістичне машинне навчання)є новою системою Блокчейн, яка дозволяє здійснювати низькозатратне та високоефективне інференцію та навчання AI моделей. В порівнянні з ZKML, у OPML вимоги до апаратного забезпечення є нижчими, і навіть може працювати на звичайному ПК з великими мовними моделями, такими як 7B-LLaMA.
OPML використовує механізм верифікаційних ігор для забезпечення децентралізації та верифікації ML-сервісів. Його основний процес:
Для забезпечення ефективного виконання поза ланцюгом та арбітражу в ланцюзі, OPML створив спеціалізовану віртуальну машину та легку бібліотеку DNN, а також використав технологію перехресної компіляції для компіляції коду AI-інференції в інструкції VM. Стан VM управляється за допомогою меркле-дерева, тільки корінний хеш потрапляє в ланцюг.
Обмеження одномоментного OPML полягає в тому, що всі обчислення повинні виконуватись всередині VM, неможливо використовувати прискорення GPU. Для цього OPML було розширено до багатоступеневої протоколу:
Багатоступеневий OPML може забезпечити прискорення обчислень в α разів порівняно з одноетапним, де α може досягати десятків до сотень разів. Одночасно розмір дерева Меркла зменшується з O(mn) до O(m+n).
Щоб забезпечити узгодженість результатів, OPML використовує фіксовану точку алгоритму та програмну бібліотеку з плаваючою комою, вирішуючи проблему відмінностей у обчисленнях з плаваючою комою на різних платформах.
В цілому, OPML забезпечує ефективне, економічне та перевіряне рішення для машинного навчання на Блокчейн, яке має широкі перспективи застосування.