Ce cours de Deep learning fournit une introduction complète aux mécanismes d'attention et aux modèles transformateurs la base des systèmes GenAI modernes. Commencez par explorer le passage des réseaux neurones traditionnels aux architectures basées sur l'attention. Comprenez comment l'attention additive, multiplicative et l'auto-attention améliorent la précision du modèle dans les tâches de NLP et de vision. Plongez dans les mécanismes de l'auto-attention et la manière dont elle alimente des modèles tels que GPT et BERT. Progressez vers la maîtrise de l'attention multi-têtes et des composants de transformation, et explorez leur rôle dans la génération avancée de textes et d'images. Obtenez des aperçus du monde réel grâce à des démonstrations présentant GPT, DALL-E, LLaMa et BERT. Pour réussir ce cours, vous devez avoir une compréhension de base des réseaux neuronaux, des concepts d'apprentissage automatique et de la programmation Python. À la fin de ce cours, vous serez en mesure de : - Expliquer comment les mécanismes d'attention améliorent les modèles d'apprentissage profond - Mettre en œuvre et appliquer l'auto-attention et l'attention multi-têtes - Comprendre l'architecture des transformateurs et les cas d'utilisation du monde réel - Analyser les modèles génératifs de l'IA à travers la NLP et la génération d'images Idéal pour les développeurs de l'IA, les ingénieurs ML et les scientifiques des données.