L'intérêt de zkML est de permettre aux personnes qui utilisent l'apprentissage automatique de comprendre pleinement le modèle sans révéler les informations du modèle lui-même.
Écrit par : Callum, Web3CN.Pro
ZK a continué à être chaud depuis 2022, et sa technologie a fait de grands progrès, et les projets de la série ZK ont également continué à faire des efforts. Dans le même temps, avec la popularité de l'apprentissage automatique (ML) et sa large application dans la production et la vie, de nombreuses entreprises ont commencé à créer, former et déployer des modèles d'apprentissage automatique. Mais un problème majeur auquel est actuellement confronté l'apprentissage automatique est de savoir comment garantir la fiabilité et la dépendance à l'égard de données opaques. C'est l'importance de ZKML : permettre aux personnes qui utilisent l'apprentissage automatique de comprendre pleinement le modèle sans révéler les informations du modèle lui-même.
Qu'est-ce que ZKML
Qu'est-ce que ZKML, regardons-le séparément. ZK (Zero-Knowledge Proof) est un protocole cryptographique où le prouveur peut prouver au vérificateur qu'une déclaration donnée est vraie sans révéler aucune autre information, c'est-à-dire que le résultat peut être connu sans le processus.
ZK a deux caractéristiques majeures : premièrement, il prouve ce qu'il veut prouver sans révéler trop d'informations au vérificateur ; deuxièmement, il est difficile de générer des preuves et il est facile de vérifier des preuves.
Sur la base de ces deux caractéristiques, ZK a développé plusieurs cas d'utilisation majeurs : extension de la couche 2, chaîne publique privée, stockage décentralisé, vérification d'identité et apprentissage automatique. L'axe de recherche de cet article portera sur le ZKML (Zero-Knowledge Machine Learning).
Qu'est-ce que ML (Machine Learning), Machine Learning est une science de l'intelligence artificielle qui implique le développement et l'application d'algorithmes permettant aux ordinateurs d'apprendre et de s'adapter aux données de manière autonome, en optimisant leurs performances grâce à un processus itératif sans avoir besoin d'un processus de programmation. Il utilise des algorithmes et des modèles pour identifier les données afin d'obtenir les paramètres du modèle et enfin faire des prédictions/décisions.
À l'heure actuelle, l'apprentissage automatique a été appliqué avec succès dans divers domaines. Avec l'amélioration de ces modèles, l'apprentissage automatique doit effectuer de plus en plus de tâches. Afin d'assurer des modèles de haute précision, cela nécessite l'utilisation de la technologie ZK : utiliser le modèle public vérification Données privées ou validation de modèles privés avec des données publiques.
Le ZKML dont nous parlons jusqu'à présent crée des preuves sans connaissance des étapes d'inférence des modèles ML, et non de la formation de modèles ML.
Pourquoi avons-nous besoin de ZKML
À mesure que la technologie de l'intelligence artificielle progresse, il devient plus difficile de faire la distinction entre l'intelligence artificielle et l'intelligence humaine et la génération humaine. Les preuves à connaissance nulle ont la capacité de résoudre ce problème. Cela nous permet de déterminer si un certain contenu est généré en appliquant un certain modèle. généré sans révéler aucune autre information sur le modèle ou l'entrée.
Les plates-formes d'apprentissage automatique traditionnelles exigent souvent que les développeurs soumettent leurs architectures de modèles à l'hôte pour vérification des performances. Cela peut entraîner plusieurs problèmes :
Perte de propriété intellectuelle : la divulgation de l'architecture complète du modèle peut révéler des secrets commerciaux précieux ou des innovations que les développeurs souhaitent garder confidentiels.
Manque de transparence : le processus d'évaluation peut ne pas être transparent et les participants peuvent ne pas être en mesure de vérifier le classement de leur modèle par rapport à d'autres modèles.
Problèmes de confidentialité des données : les modèles partagés formés sur des données sensibles peuvent révéler par inadvertance des informations sur les données sous-jacentes, enfreignant les normes et réglementations en matière de confidentialité.
Ces défis ont créé un besoin de solutions capables de protéger la confidentialité des modèles d'apprentissage automatique et de leurs données de formation.
ZK propose une approche prometteuse pour relever les défis auxquels sont confrontées les plates-formes ML traditionnelles. En exploitant la puissance de ZK, ZKML fournit une solution préservant la confidentialité avec les avantages suivants :
Confidentialité du modèle : les développeurs peuvent participer à la validation sans divulguer l'intégralité de l'architecture du modèle, protégeant ainsi leur propriété intellectuelle.
Vérification transparente : ZK peut vérifier les performances du modèle sans révéler les éléments internes du modèle, facilitant ainsi un processus d'évaluation transparent et sans confiance.
Confidentialité des données : ZK peut être utilisé pour vérifier des données privées à l'aide de modèles publics ou pour vérifier des modèles privés à l'aide de données publiques, en veillant à ce que les informations sensibles ne soient pas divulguées.
L'intégration de ZK dans le processus ML fournit une plate-forme sûre et préservant la confidentialité qui répond aux limites du ML traditionnel. Cela favorise non seulement l'adoption de l'apprentissage automatique dans l'industrie de la confidentialité, mais attire également des développeurs Web2 expérimentés pour explorer les possibilités au sein de l'écosystème Web3.
Applications et opportunités ZKML
Avec l'amélioration croissante de la cryptographie, de la technologie de preuve de connaissance zéro et des installations matérielles, de plus en plus de projets ont commencé à explorer l'utilisation de ZKML. L'écosystème ZKML peut être grossièrement divisé en quatre catégories :
Compilateur de vérification de modèle : Une infrastructure pour compiler des modèles à partir de formats existants (par exemple, Pytorch, ONNX, etc.) dans des circuits de calcul vérifiables.
Système de preuve généralisé : un système de preuve conçu pour vérifier des trajectoires de calcul arbitraires.
Système de preuve spécifique à ZKML : un système de preuve spécialement conçu pour vérifier les traces de calcul des modèles ML.
Applications : projets qui gèrent les cas d'utilisation de ZKML.
Selon les catégories écologiques de ces applications ZKML, nous pouvons classer certains projets actuels appliqués ZKML :
ZKML est encore une technologie émergente, son marché est encore très précoce, et de nombreuses applications ne sont expérimentées que lors de hackathons, mais ZKML ouvre encore un nouvel espace de conception pour les contrats intelligents :
DeFi
Les applications Defi paramétrées à l'aide de ML peuvent être plus automatisées. Par exemple, les protocoles de prêt pourraient utiliser des modèles ML pour mettre à jour les paramètres en temps réel. Actuellement, les protocoles de prêt font principalement confiance aux modèles hors chaîne gérés par des organisations pour déterminer les garanties, le LTV, les seuils de liquidation, etc., mais une meilleure alternative pourrait être des modèles open source formés par la communauté que tout le monde peut exécuter et vérifier. À l'aide d'un oracle ML hors chaîne vérifiable, les modèles ML peuvent traiter des données signées hors chaîne à des fins de prédiction et de classification. Ces oracles ML hors chaîne peuvent résoudre en toute confiance les marchés de prédiction du monde réel, les protocoles de prêt, etc. en vérifiant le raisonnement et en publiant des preuves en chaîne.
Réseaux sociaux Web3
Filtrer les médias sociaux Web3. La nature décentralisée des applications sociales Web3 conduira à plus de spam et de contenu malveillant. Idéalement, les plateformes de médias sociaux pourraient utiliser des modèles de ML open source convenus par la communauté et publier des preuves du raisonnement du modèle lorsqu'elles choisissent de filtrer les publications. En tant qu'utilisateur de médias sociaux, vous pouvez être disposé à afficher des publicités personnalisées, mais souhaitez garder les préférences et les intérêts de votre utilisateur privés des annonceurs. Ainsi, les utilisateurs peuvent choisir d'exécuter un modèle localement s'ils le préfèrent, qui peut être introduit dans des applications multimédias pour leur fournir du contenu.
GameFi
ZKML peut être appliqué à de nouveaux types de jeux en chaîne, en créant des jeux coopératifs humain-IA et d'autres jeux en chaîne innovants où le modèle d'IA peut agir comme un PNJ, et chaque action entreprise par le PNJ est publiée en chaîne avec toutes les preuves que n'importe qui peut vérifier pour déterminer le bon modèle est en cours d'exécution. Dans le même temps, les modèles ML peuvent être utilisés pour ajuster dynamiquement l'émission de jetons, l'approvisionnement, la gravure, les seuils de vote, etc. Un modèle de contrat incitatif peut être conçu pour rééquilibrer l'économie du jeu si un certain seuil de rééquilibrage est atteint et la preuve de raisonnement vérifié.
Authentification
Remplacez les clés privées par une authentification biométrique préservant la confidentialité. La gestion des clés privées reste l'un des plus gros problèmes du Web3. L'extraction de clés privées via la reconnaissance faciale ou d'autres facteurs uniques pourrait être une solution possible pour ZKML.
4. Défis ZKML
Bien que ZKML soit constamment amélioré et optimisé, le domaine est encore à un stade précoce de développement, et il reste encore quelques défis de la technologie à la pratique :
Quantification avec une perte de précision minimale
la taille du circuit, surtout lorsqu'un réseau est composé de plusieurs couches
Preuve efficace de la multiplication matricielle
Attaque contradictoire
Ces défis affectent d'abord la précision des modèles d'apprentissage automatique, ensuite leur coût et leur vitesse de preuve, et enfin le risque d'attaques par vol de modèle.
Des améliorations à ces problèmes sont actuellement en cours, la démonstration ZK-MNIST de @0xPARC en 2021 a montré comment mettre en œuvre un modèle de classification d'images MNIST à petite échelle dans un circuit vérifiable ; Daniel Kang a fait de même pour les modèles à l'échelle ImageNet, actuellement à l'échelle ImageNet. du modèle a été amélioré à 92 % et devrait être bientôt atteint avec une nouvelle accélération matérielle de l'espace ML plus large.
ZKML est encore au stade de développement précoce, mais il a commencé à montrer beaucoup de résultats, et nous pouvons nous attendre à voir des applications plus innovantes de ZKML sur la chaîne. Alors que ZKML continue de se développer, nous pouvons prévoir un avenir où l'apprentissage automatique préservant la confidentialité deviendra la norme.
Voir l'original
Le contenu est fourni à titre de référence uniquement, il ne s'agit pas d'une sollicitation ou d'une offre. Aucun conseil en investissement, fiscalité ou juridique n'est fourni. Consultez l'Avertissement pour plus de détails sur les risques.
En savoir plus sur les applications et le potentiel de l'apprentissage automatique sans connaissance zkML
Écrit par : Callum, Web3CN.Pro
ZK a continué à être chaud depuis 2022, et sa technologie a fait de grands progrès, et les projets de la série ZK ont également continué à faire des efforts. Dans le même temps, avec la popularité de l'apprentissage automatique (ML) et sa large application dans la production et la vie, de nombreuses entreprises ont commencé à créer, former et déployer des modèles d'apprentissage automatique. Mais un problème majeur auquel est actuellement confronté l'apprentissage automatique est de savoir comment garantir la fiabilité et la dépendance à l'égard de données opaques. C'est l'importance de ZKML : permettre aux personnes qui utilisent l'apprentissage automatique de comprendre pleinement le modèle sans révéler les informations du modèle lui-même.
Qu'est-ce que ZKML
Qu'est-ce que ZKML, regardons-le séparément. ZK (Zero-Knowledge Proof) est un protocole cryptographique où le prouveur peut prouver au vérificateur qu'une déclaration donnée est vraie sans révéler aucune autre information, c'est-à-dire que le résultat peut être connu sans le processus.
ZK a deux caractéristiques majeures : premièrement, il prouve ce qu'il veut prouver sans révéler trop d'informations au vérificateur ; deuxièmement, il est difficile de générer des preuves et il est facile de vérifier des preuves.
Sur la base de ces deux caractéristiques, ZK a développé plusieurs cas d'utilisation majeurs : extension de la couche 2, chaîne publique privée, stockage décentralisé, vérification d'identité et apprentissage automatique. L'axe de recherche de cet article portera sur le ZKML (Zero-Knowledge Machine Learning).
Qu'est-ce que ML (Machine Learning), Machine Learning est une science de l'intelligence artificielle qui implique le développement et l'application d'algorithmes permettant aux ordinateurs d'apprendre et de s'adapter aux données de manière autonome, en optimisant leurs performances grâce à un processus itératif sans avoir besoin d'un processus de programmation. Il utilise des algorithmes et des modèles pour identifier les données afin d'obtenir les paramètres du modèle et enfin faire des prédictions/décisions.
À l'heure actuelle, l'apprentissage automatique a été appliqué avec succès dans divers domaines. Avec l'amélioration de ces modèles, l'apprentissage automatique doit effectuer de plus en plus de tâches. Afin d'assurer des modèles de haute précision, cela nécessite l'utilisation de la technologie ZK : utiliser le modèle public vérification Données privées ou validation de modèles privés avec des données publiques.
Le ZKML dont nous parlons jusqu'à présent crée des preuves sans connaissance des étapes d'inférence des modèles ML, et non de la formation de modèles ML.
Pourquoi avons-nous besoin de ZKML
À mesure que la technologie de l'intelligence artificielle progresse, il devient plus difficile de faire la distinction entre l'intelligence artificielle et l'intelligence humaine et la génération humaine. Les preuves à connaissance nulle ont la capacité de résoudre ce problème. Cela nous permet de déterminer si un certain contenu est généré en appliquant un certain modèle. généré sans révéler aucune autre information sur le modèle ou l'entrée.
Les plates-formes d'apprentissage automatique traditionnelles exigent souvent que les développeurs soumettent leurs architectures de modèles à l'hôte pour vérification des performances. Cela peut entraîner plusieurs problèmes :
Ces défis ont créé un besoin de solutions capables de protéger la confidentialité des modèles d'apprentissage automatique et de leurs données de formation.
ZK propose une approche prometteuse pour relever les défis auxquels sont confrontées les plates-formes ML traditionnelles. En exploitant la puissance de ZK, ZKML fournit une solution préservant la confidentialité avec les avantages suivants :
L'intégration de ZK dans le processus ML fournit une plate-forme sûre et préservant la confidentialité qui répond aux limites du ML traditionnel. Cela favorise non seulement l'adoption de l'apprentissage automatique dans l'industrie de la confidentialité, mais attire également des développeurs Web2 expérimentés pour explorer les possibilités au sein de l'écosystème Web3.
Applications et opportunités ZKML
Avec l'amélioration croissante de la cryptographie, de la technologie de preuve de connaissance zéro et des installations matérielles, de plus en plus de projets ont commencé à explorer l'utilisation de ZKML. L'écosystème ZKML peut être grossièrement divisé en quatre catégories :
Selon les catégories écologiques de ces applications ZKML, nous pouvons classer certains projets actuels appliqués ZKML :
ZKML est encore une technologie émergente, son marché est encore très précoce, et de nombreuses applications ne sont expérimentées que lors de hackathons, mais ZKML ouvre encore un nouvel espace de conception pour les contrats intelligents :
DeFi
Les applications Defi paramétrées à l'aide de ML peuvent être plus automatisées. Par exemple, les protocoles de prêt pourraient utiliser des modèles ML pour mettre à jour les paramètres en temps réel. Actuellement, les protocoles de prêt font principalement confiance aux modèles hors chaîne gérés par des organisations pour déterminer les garanties, le LTV, les seuils de liquidation, etc., mais une meilleure alternative pourrait être des modèles open source formés par la communauté que tout le monde peut exécuter et vérifier. À l'aide d'un oracle ML hors chaîne vérifiable, les modèles ML peuvent traiter des données signées hors chaîne à des fins de prédiction et de classification. Ces oracles ML hors chaîne peuvent résoudre en toute confiance les marchés de prédiction du monde réel, les protocoles de prêt, etc. en vérifiant le raisonnement et en publiant des preuves en chaîne.
Réseaux sociaux Web3
Filtrer les médias sociaux Web3. La nature décentralisée des applications sociales Web3 conduira à plus de spam et de contenu malveillant. Idéalement, les plateformes de médias sociaux pourraient utiliser des modèles de ML open source convenus par la communauté et publier des preuves du raisonnement du modèle lorsqu'elles choisissent de filtrer les publications. En tant qu'utilisateur de médias sociaux, vous pouvez être disposé à afficher des publicités personnalisées, mais souhaitez garder les préférences et les intérêts de votre utilisateur privés des annonceurs. Ainsi, les utilisateurs peuvent choisir d'exécuter un modèle localement s'ils le préfèrent, qui peut être introduit dans des applications multimédias pour leur fournir du contenu.
GameFi
ZKML peut être appliqué à de nouveaux types de jeux en chaîne, en créant des jeux coopératifs humain-IA et d'autres jeux en chaîne innovants où le modèle d'IA peut agir comme un PNJ, et chaque action entreprise par le PNJ est publiée en chaîne avec toutes les preuves que n'importe qui peut vérifier pour déterminer le bon modèle est en cours d'exécution. Dans le même temps, les modèles ML peuvent être utilisés pour ajuster dynamiquement l'émission de jetons, l'approvisionnement, la gravure, les seuils de vote, etc. Un modèle de contrat incitatif peut être conçu pour rééquilibrer l'économie du jeu si un certain seuil de rééquilibrage est atteint et la preuve de raisonnement vérifié.
Authentification
Remplacez les clés privées par une authentification biométrique préservant la confidentialité. La gestion des clés privées reste l'un des plus gros problèmes du Web3. L'extraction de clés privées via la reconnaissance faciale ou d'autres facteurs uniques pourrait être une solution possible pour ZKML.
4. Défis ZKML
Bien que ZKML soit constamment amélioré et optimisé, le domaine est encore à un stade précoce de développement, et il reste encore quelques défis de la technologie à la pratique :
Ces défis affectent d'abord la précision des modèles d'apprentissage automatique, ensuite leur coût et leur vitesse de preuve, et enfin le risque d'attaques par vol de modèle.
Des améliorations à ces problèmes sont actuellement en cours, la démonstration ZK-MNIST de @0xPARC en 2021 a montré comment mettre en œuvre un modèle de classification d'images MNIST à petite échelle dans un circuit vérifiable ; Daniel Kang a fait de même pour les modèles à l'échelle ImageNet, actuellement à l'échelle ImageNet. du modèle a été amélioré à 92 % et devrait être bientôt atteint avec une nouvelle accélération matérielle de l'espace ML plus large.
ZKML est encore au stade de développement précoce, mais il a commencé à montrer beaucoup de résultats, et nous pouvons nous attendre à voir des applications plus innovantes de ZKML sur la chaîne. Alors que ZKML continue de se développer, nous pouvons prévoir un avenir où l'apprentissage automatique préservant la confidentialité deviendra la norme.