ZK a continué à être chaud depuis 2022, et sa technologie a fait de grands progrès, et les projets de la série ZK ont également continué à faire des efforts. Dans le même temps, avec la vulgarisation du Machine Learning (ML) et son application généralisée dans la production et la vie, de nombreuses entreprises ont commencé à créer, former et déployer des modèles de Machine Learning. Mais un problème majeur auquel est actuellement confronté l'apprentissage automatique est de savoir comment garantir la fiabilité et la dépendance à l'égard de données opaques. C'est l'importance de **ZKML : permettre aux personnes qui utilisent l'apprentissage automatique de comprendre pleinement le modèle sans révéler les informations du modèle lui-même. **
1. Qu'est-ce que ZKML
Qu'est-ce que ZKML, regardons-le séparément. ZK (Zero-Knowledge Proof) est un protocole cryptographique où le prouveur peut prouver au vérificateur qu'une déclaration donnée est vraie sans révéler aucune autre information, c'est-à-dire que le résultat peut être connu sans le processus.
**ZK a deux caractéristiques majeures : premièrement, il prouve ce qu'il veut prouver sans révéler trop d'informations au vérificateur ; deuxièmement, il est difficile de générer une preuve et il est facile de vérifier la preuve. **
Sur la base de ces deux caractéristiques, **ZK a développé plusieurs cas d'utilisation majeurs : extension de la couche 2, chaîne publique privée, stockage décentralisé, vérification d'identité et apprentissage automatique. ** L'objectif de recherche de cet article se concentrera sur ZKML (Zero-Knowledge Machine Learning).
Qu'est-ce que ML (Machine Learning), Machine Learning est une science de l'intelligence artificielle qui implique le développement et l'application d'algorithmes permettant aux ordinateurs d'apprendre et de s'adapter aux données de manière autonome, en optimisant leurs performances grâce à un processus itératif sans avoir besoin d'un processus de programmation. Il utilise des algorithmes et des modèles pour identifier les données afin d'obtenir les paramètres du modèle et enfin faire des prédictions/décisions.
** À l'heure actuelle, l'apprentissage automatique a été appliqué avec succès dans divers domaines. Avec l'amélioration de ces modèles, l'apprentissage automatique doit effectuer de plus en plus de tâches. Afin d'assurer un modèle de haute précision, la technologie ZK est requise : en utilisant le modèle public valide des données privées ou valide un modèle privé avec des données publiques. **
Le ZKML dont nous parlons jusqu'à présent crée des preuves sans connaissance des étapes d'inférence des modèles ML, et non de la formation des modèles ML.
2. Pourquoi ZKML est nécessaire
À mesure que la technologie de l'intelligence artificielle progresse, il devient plus difficile de faire la distinction entre l'intelligence artificielle et l'intelligence humaine et la génération humaine. Les preuves à connaissance nulle ont la capacité de résoudre ce problème. Cela nous permet de déterminer si un certain contenu est généré en appliquant un certain modèle. généré sans révéler aucune autre information sur le modèle ou l'entrée.
Les plates-formes d'apprentissage automatique traditionnelles exigent souvent que les développeurs soumettent leurs architectures de modèles à l'hôte pour vérification des performances. Cela peut entraîner plusieurs problèmes :
** Perte de propriété intellectuelle :** La divulgation de l'architecture complète du modèle peut révéler des secrets commerciaux ou des innovations précieux que les développeurs souhaitent garder confidentiels.
** Manque de transparence : ** Le processus d'évaluation peut ne pas être transparent et les participants peuvent ne pas être en mesure de vérifier le classement de leur modèle par rapport à d'autres modèles.
Problèmes de confidentialité des données : Les modèles partagés formés sur des données sensibles peuvent révéler par inadvertance des informations sur les données sous-jacentes, en violation des normes et réglementations en matière de confidentialité.
Ces défis ont créé un besoin de solutions capables de protéger la confidentialité des modèles d'apprentissage automatique et de leurs données de formation.
ZK propose une approche prometteuse pour relever les défis auxquels sont confrontées les plates-formes ML traditionnelles. En exploitant la puissance de ZK, ZKML fournit une solution préservant la confidentialité avec les avantages suivants :
* Confidentialité du modèle : les développeurs peuvent participer à la vérification sans divulguer l'intégralité de l'architecture du modèle, protégeant ainsi leur propriété intellectuelle.
Validation transparente : ZK peut vérifier les performances du modèle sans révéler les éléments internes du modèle, facilitant ainsi un processus d'évaluation transparent et sans confiance.
**Confidentialité des données : **ZK peut être utilisé pour vérifier des données privées à l'aide de modèles publics ou pour vérifier des modèles privés à l'aide de données publiques afin de s'assurer que des informations sensibles ne sont pas divulguées.
L'intégration de ZK dans le processus ML fournit une plate-forme sûre et préservant la confidentialité qui répond aux limites du ML traditionnel. Cela favorise non seulement l'adoption de l'apprentissage automatique dans l'industrie de la confidentialité, mais attire également des développeurs Web2 expérimentés pour explorer les possibilités au sein de l'écosystème Web3.
3. Applications et opportunités ZKML
Avec l'amélioration croissante de la cryptographie, de la technologie de preuve de connaissance zéro et des installations matérielles, de plus en plus de projets ont commencé à explorer l'utilisation de ZKML. L'écosystème de ZKML peut être grossièrement divisé en quatre catégories :
** Compilateur de vérification de modèles : ** Une infrastructure pour compiler des modèles à partir de formats existants (par exemple, Pytorch, ONNX, etc.) dans des circuits de calcul vérifiables.
Système de preuve généralisé : Un système de preuve conçu pour vérifier des trajectoires de calcul arbitraires.
**Système de preuve spécifique à ZKML : **Un système de preuve spécialement conçu pour vérifier la trajectoire de calcul des modèles ML.
Applications : Projets traitant de cas d'utilisation de ZKML.
Selon la catégorie écologique de ces applications ZKML, nous pouvons classer certains projets actuels appliqués ZKML :
Crédit image : @bastian_wetzel
ZKML est encore une technologie émergente, son marché est encore très précoce, et de nombreuses applications ne sont expérimentées que lors de hackathons, mais ZKML ouvre encore un nouvel espace de conception pour les contrats intelligents :
DeFi
** Les applications Defi paramétrées à l'aide de ML peuvent être plus automatisées. ** Par exemple, les protocoles de prêt peuvent utiliser des modèles ML pour mettre à jour les paramètres en temps réel. Actuellement, les protocoles de prêt font principalement confiance aux modèles hors chaîne gérés par des organisations pour déterminer les garanties, le LTV, les seuils de liquidation, etc., mais une meilleure alternative pourrait être un modèle open source formé par la communauté que tout le monde peut exécuter et vérifier. À l'aide d'un oracle ML hors chaîne vérifiable, les modèles ML peuvent traiter des données signées hors chaîne à des fins de prédiction et de classification. Ces oracles ML hors chaîne peuvent résoudre en toute confiance les marchés de prédiction du monde réel, les protocoles de prêt, etc. en vérifiant le raisonnement et en publiant des preuves en chaîne.
Social Web3
** Filtrer les médias sociaux Web3. **La nature décentralisée des applications sociales Web3 entraînera davantage de spam et de contenu malveillant. Idéalement, les plateformes de médias sociaux pourraient utiliser des modèles de ML open source convenus par la communauté et publier des preuves du raisonnement du modèle lorsqu'elles choisissent de filtrer les publications. En tant qu'utilisateur de médias sociaux, vous pouvez être disposé à afficher des publicités personnalisées, mais souhaitez garder les préférences et les intérêts de votre utilisateur privés des annonceurs. Ainsi, les utilisateurs peuvent choisir d'exécuter un modèle localement s'ils le préfèrent, qui peut être introduit dans des applications multimédias pour leur fournir du contenu.
GameFi
** ZKML peut être appliqué à de nouveaux types de jeux en chaîne et peut créer des jeux coopératifs d'intelligence humaine et artificielle et d'autres jeux innovants en chaîne. ** Dans lequel le modèle d'intelligence artificielle peut agir comme un PNJ, et chaque action entreprise par le NPC sera publié sur la chaîne, accompagné d'une preuve que n'importe qui peut vérifier pour déterminer le bon modèle en cours d'exécution. Dans le même temps, les modèles ML peuvent être utilisés pour ajuster dynamiquement l'émission de jetons, l'approvisionnement, la gravure, les seuils de vote, etc. Un modèle de contrat incitatif peut être conçu pour rééquilibrer l'économie du jeu si un certain seuil de rééquilibrage est atteint et la preuve de raisonnement vérifié.
Authentification
** Remplacez les clés privées par une authentification biométrique préservant la confidentialité. ** La gestion des clés privées reste l'un des plus gros problèmes du Web3. L'extraction de clés privées via la reconnaissance faciale ou d'autres facteurs uniques pourrait être une solution possible pour ZKML.
4. Défi ZKML
Bien que ZKML soit constamment amélioré et optimisé, le domaine en est encore aux premiers stades de développement, et il reste encore quelques défis de la technologie à la pratique :
Quantification avec une perte de précision minimale
la taille du circuit, surtout lorsqu'un réseau est composé de plusieurs couches
Preuve efficace de la multiplication matricielle
Attaque contradictoire
** Ces défis affectent premièrement la précision du modèle d'apprentissage automatique, deuxièmement son coût et sa vitesse de preuve, et troisièmement affectent le risque d'attaques de vol de modèle. **
Des améliorations à ces problèmes sont actuellement en cours, la démo ZK-MNIST de @0xPARC en 2021 a montré comment mettre en œuvre un modèle de classification d'images MNIST à petite échelle dans un circuit vérifiable ; Daniel Kang a fait de même pour le modèle à l'échelle ImageNet, actuellement à l'échelle ImageNet La précision de le modèle a été amélioré à 92 % et devrait être bientôt atteint avec une nouvelle accélération matérielle de l'espace ML plus large.
ZKML est encore au stade de développement précoce, mais il a commencé à montrer beaucoup de résultats, et nous pouvons nous attendre à voir des applications plus innovantes de ZKML sur la chaîne. Alors que ZKML continue de se développer, nous pouvons prévoir un avenir où l'apprentissage automatique préservant la confidentialité deviendra la norme.
Voir l'original
Le contenu est fourni à titre de référence uniquement, il ne s'agit pas d'une sollicitation ou d'une offre. Aucun conseil en investissement, fiscalité ou juridique n'est fourni. Consultez l'Avertissement pour plus de détails sur les risques.
Applications et potentiel de l'apprentissage automatique sans connaissance (ZKML)
Auteur : Callum@Web3CN.Pro
ZK a continué à être chaud depuis 2022, et sa technologie a fait de grands progrès, et les projets de la série ZK ont également continué à faire des efforts. Dans le même temps, avec la vulgarisation du Machine Learning (ML) et son application généralisée dans la production et la vie, de nombreuses entreprises ont commencé à créer, former et déployer des modèles de Machine Learning. Mais un problème majeur auquel est actuellement confronté l'apprentissage automatique est de savoir comment garantir la fiabilité et la dépendance à l'égard de données opaques. C'est l'importance de **ZKML : permettre aux personnes qui utilisent l'apprentissage automatique de comprendre pleinement le modèle sans révéler les informations du modèle lui-même. **
1. Qu'est-ce que ZKML
Qu'est-ce que ZKML, regardons-le séparément. ZK (Zero-Knowledge Proof) est un protocole cryptographique où le prouveur peut prouver au vérificateur qu'une déclaration donnée est vraie sans révéler aucune autre information, c'est-à-dire que le résultat peut être connu sans le processus.
**ZK a deux caractéristiques majeures : premièrement, il prouve ce qu'il veut prouver sans révéler trop d'informations au vérificateur ; deuxièmement, il est difficile de générer une preuve et il est facile de vérifier la preuve. **
Sur la base de ces deux caractéristiques, **ZK a développé plusieurs cas d'utilisation majeurs : extension de la couche 2, chaîne publique privée, stockage décentralisé, vérification d'identité et apprentissage automatique. ** L'objectif de recherche de cet article se concentrera sur ZKML (Zero-Knowledge Machine Learning).
Qu'est-ce que ML (Machine Learning), Machine Learning est une science de l'intelligence artificielle qui implique le développement et l'application d'algorithmes permettant aux ordinateurs d'apprendre et de s'adapter aux données de manière autonome, en optimisant leurs performances grâce à un processus itératif sans avoir besoin d'un processus de programmation. Il utilise des algorithmes et des modèles pour identifier les données afin d'obtenir les paramètres du modèle et enfin faire des prédictions/décisions.
** À l'heure actuelle, l'apprentissage automatique a été appliqué avec succès dans divers domaines. Avec l'amélioration de ces modèles, l'apprentissage automatique doit effectuer de plus en plus de tâches. Afin d'assurer un modèle de haute précision, la technologie ZK est requise : en utilisant le modèle public valide des données privées ou valide un modèle privé avec des données publiques. **
Le ZKML dont nous parlons jusqu'à présent crée des preuves sans connaissance des étapes d'inférence des modèles ML, et non de la formation des modèles ML.
2. Pourquoi ZKML est nécessaire
À mesure que la technologie de l'intelligence artificielle progresse, il devient plus difficile de faire la distinction entre l'intelligence artificielle et l'intelligence humaine et la génération humaine. Les preuves à connaissance nulle ont la capacité de résoudre ce problème. Cela nous permet de déterminer si un certain contenu est généré en appliquant un certain modèle. généré sans révéler aucune autre information sur le modèle ou l'entrée.
Les plates-formes d'apprentissage automatique traditionnelles exigent souvent que les développeurs soumettent leurs architectures de modèles à l'hôte pour vérification des performances. Cela peut entraîner plusieurs problèmes :
Ces défis ont créé un besoin de solutions capables de protéger la confidentialité des modèles d'apprentissage automatique et de leurs données de formation.
ZK propose une approche prometteuse pour relever les défis auxquels sont confrontées les plates-formes ML traditionnelles. En exploitant la puissance de ZK, ZKML fournit une solution préservant la confidentialité avec les avantages suivants :
* Confidentialité du modèle : les développeurs peuvent participer à la vérification sans divulguer l'intégralité de l'architecture du modèle, protégeant ainsi leur propriété intellectuelle.
L'intégration de ZK dans le processus ML fournit une plate-forme sûre et préservant la confidentialité qui répond aux limites du ML traditionnel. Cela favorise non seulement l'adoption de l'apprentissage automatique dans l'industrie de la confidentialité, mais attire également des développeurs Web2 expérimentés pour explorer les possibilités au sein de l'écosystème Web3.
3. Applications et opportunités ZKML
Avec l'amélioration croissante de la cryptographie, de la technologie de preuve de connaissance zéro et des installations matérielles, de plus en plus de projets ont commencé à explorer l'utilisation de ZKML. L'écosystème de ZKML peut être grossièrement divisé en quatre catégories :
Selon la catégorie écologique de ces applications ZKML, nous pouvons classer certains projets actuels appliqués ZKML :
Crédit image : @bastian_wetzel
ZKML est encore une technologie émergente, son marché est encore très précoce, et de nombreuses applications ne sont expérimentées que lors de hackathons, mais ZKML ouvre encore un nouvel espace de conception pour les contrats intelligents :
DeFi
** Les applications Defi paramétrées à l'aide de ML peuvent être plus automatisées. ** Par exemple, les protocoles de prêt peuvent utiliser des modèles ML pour mettre à jour les paramètres en temps réel. Actuellement, les protocoles de prêt font principalement confiance aux modèles hors chaîne gérés par des organisations pour déterminer les garanties, le LTV, les seuils de liquidation, etc., mais une meilleure alternative pourrait être un modèle open source formé par la communauté que tout le monde peut exécuter et vérifier. À l'aide d'un oracle ML hors chaîne vérifiable, les modèles ML peuvent traiter des données signées hors chaîne à des fins de prédiction et de classification. Ces oracles ML hors chaîne peuvent résoudre en toute confiance les marchés de prédiction du monde réel, les protocoles de prêt, etc. en vérifiant le raisonnement et en publiant des preuves en chaîne.
Social Web3
** Filtrer les médias sociaux Web3. **La nature décentralisée des applications sociales Web3 entraînera davantage de spam et de contenu malveillant. Idéalement, les plateformes de médias sociaux pourraient utiliser des modèles de ML open source convenus par la communauté et publier des preuves du raisonnement du modèle lorsqu'elles choisissent de filtrer les publications. En tant qu'utilisateur de médias sociaux, vous pouvez être disposé à afficher des publicités personnalisées, mais souhaitez garder les préférences et les intérêts de votre utilisateur privés des annonceurs. Ainsi, les utilisateurs peuvent choisir d'exécuter un modèle localement s'ils le préfèrent, qui peut être introduit dans des applications multimédias pour leur fournir du contenu.
GameFi
** ZKML peut être appliqué à de nouveaux types de jeux en chaîne et peut créer des jeux coopératifs d'intelligence humaine et artificielle et d'autres jeux innovants en chaîne. ** Dans lequel le modèle d'intelligence artificielle peut agir comme un PNJ, et chaque action entreprise par le NPC sera publié sur la chaîne, accompagné d'une preuve que n'importe qui peut vérifier pour déterminer le bon modèle en cours d'exécution. Dans le même temps, les modèles ML peuvent être utilisés pour ajuster dynamiquement l'émission de jetons, l'approvisionnement, la gravure, les seuils de vote, etc. Un modèle de contrat incitatif peut être conçu pour rééquilibrer l'économie du jeu si un certain seuil de rééquilibrage est atteint et la preuve de raisonnement vérifié.
Authentification
** Remplacez les clés privées par une authentification biométrique préservant la confidentialité. ** La gestion des clés privées reste l'un des plus gros problèmes du Web3. L'extraction de clés privées via la reconnaissance faciale ou d'autres facteurs uniques pourrait être une solution possible pour ZKML.
4. Défi ZKML
Bien que ZKML soit constamment amélioré et optimisé, le domaine en est encore aux premiers stades de développement, et il reste encore quelques défis de la technologie à la pratique :
** Ces défis affectent premièrement la précision du modèle d'apprentissage automatique, deuxièmement son coût et sa vitesse de preuve, et troisièmement affectent le risque d'attaques de vol de modèle. **
Des améliorations à ces problèmes sont actuellement en cours, la démo ZK-MNIST de @0xPARC en 2021 a montré comment mettre en œuvre un modèle de classification d'images MNIST à petite échelle dans un circuit vérifiable ; Daniel Kang a fait de même pour le modèle à l'échelle ImageNet, actuellement à l'échelle ImageNet La précision de le modèle a été amélioré à 92 % et devrait être bientôt atteint avec une nouvelle accélération matérielle de l'espace ML plus large.
ZKML est encore au stade de développement précoce, mais il a commencé à montrer beaucoup de résultats, et nous pouvons nous attendre à voir des applications plus innovantes de ZKML sur la chaîne. Alors que ZKML continue de se développer, nous pouvons prévoir un avenir où l'apprentissage automatique préservant la confidentialité deviendra la norme.