Si vous êtes familier avec l’apprentissage en profondeur, vous avez probablement entendu l’expression PyTorch contre TensorFlow plus d’une fois.
PyTorch et TensorFlow sont deux des frameworks d’apprentissage en profondeur les plus populaires. Ce guide présente un aperçu complet des principales caractéristiques de ces deux frameworks, pour vous aider à décider quel framework utiliser, pour votre prochain projet d’apprentissage en profondeur.
Dans cet article, nous allons d’abord présenter les deux frameworks : PyTorch et TensorFlow. Et puis résumez les fonctionnalités qu’ils offrent.
Commençons!
Table des matières
Qu’est-ce que PyTorch ?
PyTorch est un framework open source permettant de créer des modèles d’apprentissage automatique et d’apprentissage en profondeur pour diverses applications, notamment le traitement du langage naturel et l’apprentissage automatique.
C’est un framework Pythonic développé par Meta AI (que Facebook AI) en 2016, basé sur Torch, un package écrit en Lua.
Récemment, Meta AI a publié PyTorch 2.0. La nouvelle version offre une meilleure prise en charge de la formation distribuée, de la compilation de modèles et des réseaux de neurones graphiques (GNN), entre autres.
Qu’est-ce que TensorFlow ?
Introduit en 2014, TensorFlow est un framework d’apprentissage automatique de bout en bout open source de Google. Il contient de nombreuses fonctionnalités pour la préparation des données, le déploiement de modèles et les MLOps.
Avec TensorFlow, vous bénéficiez d’une assistance au développement multiplateforme et d’une assistance prête à l’emploi pour toutes les étapes du cycle de vie de l’apprentissage automatique.
PyTorch contre TensorFlow
PyTorch et TensorFlow sont des frameworks très populaires dans la communauté de l’apprentissage en profondeur. Pour la plupart des applications sur lesquelles vous souhaitez travailler, ces deux frameworks fournissent une prise en charge intégrée.
Source de l’image : star-history.com
Ici, nous résumerons les fonctionnalités clés de PyTorch et de TensorFlow et identifierons également les cas d’utilisation où vous pourriez préférer un framework à l’autre.
#1. Bibliothèque d’ensembles de données et de modèles pré-entraînés
Un cadre d’apprentissage en profondeur devrait être livré avec des piles incluses. Souvent, vous ne voudriez pas coder un modèle à partir de zéro. Vous pouvez plutôt tirer parti de modèles pré-formés et les ajuster à votre cas d’utilisation.
De même, nous voudrions que les ensembles de données couramment utilisés soient facilement disponibles. Cela nous permettrait de construire rapidement des modèles expérimentaux sans avoir à mettre en place un pipeline de collecte de données ou à importer et nettoyer des données provenant d’autres sources.
À cette fin, nous voudrions que ces cadres soient accompagnés à la fois d’ensembles de données et de modèles pré-entraînés afin que nous puissions obtenir un modèle de base beaucoup plus rapidement.
Ensembles de données et modèles PyTorch
PyTorch possède des bibliothèques telles que torchtext, torchaudio et torchvision pour les tâches de traitement NLP, audio et image, respectivement. Ainsi, lorsque vous travaillez avec PyTorch, vous pouvez tirer parti des ensembles de données et des modèles fournis par ces bibliothèques, notamment :
- torchtext.datasets et torchtext.models pour les ensembles de données et le traitement des tâches de traitement du langage naturel
- torchvision.datasets et torchvision.models fournissent des ensembles de données d’images et des modèles pré-entraînés pour les tâches de vision par ordinateur
- torchaudio.datasets et torchaudio.models pour les ensembles de données et les pondérations et utilitaires de modèle pré-entraînés pour l’apprentissage automatique sur l’audio
Ensembles de données et modèles TensorFlow
De plus, vous pouvez rechercher les modèles PyTorch et TensorFlow dans le HuggingFace Model Hub.
#2. Assistance au déploiement
Dans le débat PyTorch contre TensorFlow, la prise en charge du déploiement occupe souvent le devant de la scène.
Un modèle d’apprentissage automatique qui fonctionne parfaitement dans votre environnement de développement local est un bon point de départ. Cependant, pour tirer parti des modèles d’apprentissage automatique, il est important de les déployer en production et de les surveiller en permanence.
Dans cette section, nous examinerons les fonctionnalités offertes par PyTorch et TensorFlow pour déployer des modèles d’apprentissage automatique en production.
TensorFlow étendu (TFX)
TensorFlow Extended, abrégé en tfx, est une infrastructure de déploiement basée sur TensorFlow. Il fournit des fonctionnalités qui vous aident à orchestrer et à maintenir les pipelines d’apprentissage automatique. Il fournit des fonctionnalités pour la validation et la transformation des données, entre autres.
Avec TensorFlow Serving, vous pouvez déployer des modèles de machine learning dans des environnements de production.
TorcheServe
Il existe une opinion commune selon laquelle PyTorch est populaire dans la communauté de la recherche tandis que TensorFlow est populaire dans l’industrie. Cependant, récemment, ces deux cadres ont été largement utilisés.
Comme TensorFlow Serving, PyTorch fournit TorchServe, un cadre facile à utiliser qui facilite le service des modèles PyTorch en production. En outre, vous pouvez également utiliser TensorFlow Lite pour déployer des modèles d’apprentissage automatique sur des appareils mobiles et d’autres appareils périphériques.
Bien que les deux frameworks fournissent une prise en charge du déploiement, TensorFlow prend en charge nativement le déploiement de modèles. C’est donc le choix préféré dans les environnements de production.
#3. Fonctionnalités pour l’interprétabilité du modèle
Vous pouvez créer des modèles d’apprentissage en profondeur pour des applications utilisées dans des domaines tels que la santé et la finance. Mais si les modèles sont des boîtes noires qui produisent une étiquette ou une prédiction donnée, il est difficile d’interpréter les prédictions du modèle.
Cela a conduit à l’apprentissage automatique interprétable (ou ML explicable) pour proposer des approches permettant d’expliquer le fonctionnement des réseaux de neurones et d’autres modèles d’apprentissage automatique.
Par conséquent, l’interprétabilité est extrêmement importante pour l’apprentissage en profondeur et pour mieux comprendre le fonctionnement des réseaux de neurones. Et nous verrons quelles fonctionnalités PyTorch et TensorFlow offrent pour la même chose.
Captum PyTorch
PyTorch Captum, la bibliothèque d’interprétabilité des modèles pour PyTorch, fournit plusieurs fonctionnalités pour l’interprétabilité des modèles.
Ces fonctionnalités incluent des méthodes d’attribution telles que :
- Dégradés intégrés
- LIME, SHAP
- DeepLIFT
- GradCAM et variantes
- Méthodes d’attribution des calques
Expliquer TensorFlow (tf-expliquer)
Tensorflow Explain (tf-explain) est une bibliothèque qui fournit des fonctionnalités pour l’interprétabilité des réseaux de neurones, notamment :
- Dégradés intégrés
- GradCAM
- SmoothGrad
- Dégradés de vanille et plus encore.
Jusqu’à présent, nous avons vu les fonctionnalités d’interprétabilité. Passons à un autre aspect important – la confidentialité.
#4. Prise en charge de l’apprentissage automatique préservant la confidentialité
L’utilité des modèles d’apprentissage automatique dépend de l’accès aux données du monde réel. Cependant, cela a pour inconvénient que la confidentialité des données est perdue. Récemment, des progrès significatifs ont été réalisés dans le domaine des techniques d’apprentissage automatique préservant la confidentialité, telles que la confidentialité différentielle et l’apprentissage fédéré.
PyTorch Opacus
La formation différentielle de modèles privés garantit que les enregistrements individuels tout en apprenant des informations utiles sur l’ensemble de données dans son ensemble.
Et PyTorch Opacus vous permet de former des modèles avec une confidentialité différentielle. Pour savoir comment mettre en œuvre une formation de modèle privé différentiel, consultez l’introduction à Opacus.
TensorFlow fédéré
L’apprentissage fédéré élimine le besoin d’une entité centralisée de collecte et de traitement des données. Dans un cadre fédéré, les données ne quittent jamais le propriétaire ou les locaux. Par conséquent, l’apprentissage fédéré facilite une meilleure gouvernance des données.
TensorFlow Federated fournit des fonctionnalités pour former des modèles d’apprentissage automatique sur des données décentralisées.
#5. Facilité d’apprentissage
PyTorch est un framework Pythonic d’apprentissage en profondeur. Coder confortablement dans PyTorch nécessite une maîtrise intermédiaire de Python, y compris une bonne compréhension des concepts de programmation orientés objet tels que l’héritage.
D’autre part, avec TensorFlow, vous pouvez utiliser l’API Keras. Cette API de haut niveau fait abstraction de certains détails d’implémentation de bas niveau. Par conséquent, si vous débutez dans la création de modèles d’apprentissage en profondeur, vous trouverez peut-être Keras plus facile à utiliser.
PyTorch vs TensorFlow : un aperçu
Jusqu’à présent, nous avons discuté des fonctionnalités de PyTorch et TensorFlow. Voici une comparaison complète :
FonctionnalitéPyTorchTensorFlowEnsembles de données et modèles pré-formés en torchtext, touch audio et torchvisionBibliothèque d’ensembles de données et de modèles pré-formésEnsembles de données et modèles pré-formés en torchtext, torchaudio et torchvisionDéploiementTorchServe pour les modèles d’apprentissage automatique TensorFlow Serving et TensorFlow Lite pour les déploiements de modèlesInterprétabilité des modèlesPyTorch Captumtf-explain Privacy- Préserver l’apprentissage automatiquePyTorch Opacus pour l’entraînement de modèles privés différentielsTensorFlow Federated pour l’apprentissage automatique fédéréFacilité d’apprentissageNécessite une maîtrise intermédiaire de Python Relativement plus facile à apprendre et à utiliser
Ressources d’apprentissage
Enfin, terminons notre discussion en passant en revue quelques ressources utiles pour apprendre PyTorch et TensorFlow. Il ne s’agit pas d’une liste exhaustive, mais d’une liste de ressources triées sur le volet qui vous permettront de vous familiariser rapidement avec ces frameworks.
#1. Deep Learning avec PyTorch : un blitz de 60 minutes
Le tutoriel de 60 minutes sur le blitz sur le site officiel de PyTorch est une excellente ressource conviviale pour les débutants pour apprendre PyTorch.
Ce didacticiel vous aidera à vous familiariser avec les principes de base de Pytorch, tels que les tenseurs et les dédicaces, et à créer un réseau de neurones de classification d’images de base avec PyTorch.
#2. Apprentissage en profondeur avec PyTorch : de zéro à GAN
Deep Learning with PyTorch: Zero to GANs by Jovian.ai est une autre ressource complète pour apprendre l’apprentissage en profondeur avec PyTorch. Au cours d’environ six semaines, vous pouvez apprendre:
- Principes de base de PyTorch : tenseurs et gradients
- Régression linéaire dans PyTorch
- Construire des réseaux de neurones profonds, des ConvNets et des ResNets dans PyTorch
- Construire des réseaux antagonistes génératifs (GAN)
#3. Cours complet TensorFlow 2.0
Si vous cherchez à vous familiariser avec TensorFlow, le cours complet TensorFlow 2.0 sur le canal communautaire de freeCodeCamp vous sera utile.
#4. TensorFlow – API de réseau neuronal d’apprentissage en profondeur Python par DeepLizard
DeepLizard est un autre excellent cours TensorFlow pour les débutants. Dans ce cours TensorFlow adapté aux débutants, vous apprendrez les bases de l’apprentissage en profondeur, notamment :
- Chargement et prétraitement des ensembles de données
- Construire des réseaux de neurones vanille
- Construire des réseaux de neurones convolutifs (CNN)
Conclusion
En résumé, cet article vous a aidé à obtenir un aperçu de haut niveau de PyTorch et TensorFlow. Le choix du cadre optimal dépendra du projet sur lequel vous travaillez. De plus, cela vous obligerait à prendre en compte la prise en charge du déploiement, l’explicabilité, etc.
Êtes-vous un programmeur Python cherchant à apprendre ces frameworks ? Si tel est le cas, vous pouvez envisager d’explorer une ou plusieurs des ressources partagées ci-dessus.
Et si vous êtes intéressé par la PNL, consultez cette liste de cours de traitement du langage naturel à suivre. Bon apprentissage!