Transform and Validate Real-Time Data Fast

Ce cours n'est pas disponible en Français (France)

Nous sommes actuellement en train de le traduire dans plus de langues.

Transform and Validate Real-Time Data Fast

Ce cours fait partie de Spécialisation "Real-Time, Real Fast: Kafka & Spark for Data Engineers"

Instructeur : Tom Themeles

Inclus avec

3 modules

Obtenez un aperçu d'un sujet et apprenez les principes fondamentaux.

niveau Intermédiaire

Expérience recommandée

5 heures à compléter

Planning flexible

Apprenez à votre propre rythme

3 modules

Obtenez un aperçu d'un sujet et apprenez les principes fondamentaux.

niveau Intermédiaire

Expérience recommandée

5 heures à compléter

Planning flexible

Apprenez à votre propre rythme

Ce que vous apprendrez

Transform nested and streaming data into analytics-ready tables using programming tools and platforms.
Implement automated data quality checks and integrate these checks into CI/CD pipelines to enforce quality gates.
Build and manage scalable real-time analytics pipelines that block low-quality data and connect curated datasets to Power BI dashboards.

Compétences que vous acquerrez

Catégorie : CI/CD
Catégorie : Data Visualization
Catégorie : Data Pipelines
Catégorie : Data Governance
Catégorie : Data Quality
Catégorie : Data Integrity
Catégorie : Data Validation
Catégorie : Performance Tuning
Catégorie : Real Time Data
Catégorie : Data Transformation
Catégorie : Business Intelligence

Outils que vous découvrirez

Catégorie : Dashboard
Catégorie : PySpark
Catégorie : Power BI

Détails à connaître

Certificat partageable

Ajouter à votre profil LinkedIn

Récemment mis à jour !

février 2026

Évaluations

1 devoir

Enseigné en Anglais

Découvrez comment les employés des entreprises prestigieuses maîtrisent des compétences recherchées

En savoir plus sur Coursera pour les affaires

logos de Petrobras, TATA, Danone, Capgemini, P&G et L'Oreal

Élaborez votre expertise du sujet

Ce cours fait partie de la Spécialisation "Real-Time, Real Fast: Kafka & Spark for Data Engineers"

Lorsque vous vous inscrivez à ce cours, vous êtes également inscrit(e) à cette Spécialisation.

Apprenez de nouveaux concepts auprès d'experts du secteur
Acquérez une compréhension de base d'un sujet ou d'un outil
Développez des compétences professionnelles avec des projets pratiques
Obtenez un certificat professionnel partageable

Il y a 3 modules dans ce cours

Imagine you’re tasked with solving a complex challenge that demands both strategic thinking and hands-on expertise. How do you approach it confidently? In this course, you will be guided through essential concepts and practical applications, empowering you to tackle real-world problems effectively. This course equips you with in-depth knowledge, interactive exercises, and actionable skills designed for immediate impact in your field. By the end of this course, you will have developed a robust understanding of key principles, gained experience with proven strategies, and be prepared to implement solutions in dynamic environments.

Learners should be familiar with basic Python, SQL, basic PySpark, data engineering fundamentals, streaming concepts, and data quality awareness. This course is designed for intermediate data engineers, analytics engineers, and BI professionals who want to build reliable real-time data pipelines with automated quality checks and executive-ready dashboards using Microsoft Fabric, PySpark, and Power BI. By the end of this course, you'll be ready to apply what you’ve learned to drive results and adapt to evolving challenges with confidence.

Learn to parse, flatten, and reshape real-time data streams into analytics-ready tables. Explore nested clickstream data, explode arrays, and pivot by category for efficient downstream analytics.

Inclus

4 vidéos2 lectures1 évaluation par les pairs

4 vidéos Total 32 minutes

Welcome to the Course 5 minutes
Introduction to Real-Time Data 6 minutes
Parsing and Exploding Nested JSON 11 minutes
Pivoting for Analytics 11 minutes

2 lectures Total 15 minutes

Welcome to the Course: Transform and Validate Real-Time Data Fast 5 minutes
Real Time Intelligence in Microsoft Fabric 10 minutes

1 évaluation par les pairs Total 20 minutes

Hands-On-Learning: Transform Data into Analytics-Ready Tables 20 minutes

In this module, learners will explore how to automate data validation using PyDeequ. They will learn to define and apply data quality constraints, integrate validation seamlessly into CI/CD pipelines, and implement mechanisms to block merges when thresholds are not met. This hands-on module emphasizes building robust, automated systems that safeguard data integrity in production environments.

Inclus

4 vidéos1 lecture1 évaluation par les pairs

4 vidéos Total 37 minutes

Benefits of Using PySpark 6 minutes
Integration of Deequ in CI/CD Workflow 11 minutes
Automating Data Quality Checks with CI/CD in Microsoft Fabric 10 minutes
Blocking Low-Quality Merges 11 minutes

1 lecture Total 5 minutes

Optimizing for CI/CD in Microsoft Fabric 5 minutes

1 évaluation par les pairs Total 30 minutes

Hands-On-Learning: Automate Data Quality Validation with PySpark and CI/CD Integration 30 minutes

This module guides learners through optimizing Microsoft Power BI dashboards with live data connections. It covers real-time data integration, performance strategies such as caching and incremental refresh, and visual design principles.

Inclus

5 vidéos1 lecture1 devoir2 évaluations par les pairs

5 vidéos Total 44 minutes

Connecting Power BI to Fabric 6 minutes
Building Interactive Dashboards 15 minutes
Optimizing Real-Time Performance 10 minutes
Optimizing Power BI for Clickstream Analytics 10 minutes
Course Wrap-up Video 3 minutes

1 lecture Total 5 minutes

Incremental Refresh and Real-Time Data for Semantic Models 5 minutes

1 devoir Total 20 minutes

Transform and Validate Real-Time Data Fast 20 minutes

2 évaluations par les pairs Total 90 minutes

Hands-On-Learning: Design and Optimize a Real-Time Dashboard in Power BI 30 minutes
Project: End-to-End Real-Time Data Engineering Pipeline 60 minutes

Obtenez un certificat professionnel

Ajoutez ce titre à votre profil LinkedIn, à votre curriculum vitae ou à votre CV. Partagez-le sur les médias sociaux et dans votre évaluation des performances.

Instructeur

Tom Themeles

Coursera

6 Cours 1 345 apprenants

Offert par

Coursera

En savoir plus sur Data Analysis

Coursera
Process & Analyze Real-Time Data Fast
Cours
Coursera
Process Real-Time Data with Spark Streams
Cours
Coursera
Transform Data: Cleanse, Encode, Validate
Cours
Coursera
Real-Time, Real Fast: Kafka & Spark for Data Engineers
Spécialisation

Pour quelles raisons les étudiants sur Coursera nous choisissent-ils pour leur carrière ?

Felipe M.

Étudiant(e) depuis 2018

’Pouvoir suivre des cours à mon rythme à été une expérience extraordinaire. Je peux apprendre chaque fois que mon emploi du temps me le permet et en fonction de mon humeur.’

Jennifer J.

Étudiant(e) depuis 2020

’J'ai directement appliqué les concepts et les compétences que j'ai appris de mes cours à un nouveau projet passionnant au travail.’

Larry W.

Étudiant(e) depuis 2021

’Lorsque j'ai besoin de cours sur des sujets que mon université ne propose pas, Coursera est l'un des meilleurs endroits où se rendre.’

Chaitanya A.

’Apprendre, ce n'est pas seulement s'améliorer dans son travail : c'est bien plus que cela. Coursera me permet d'apprendre sans limites.’

Ouvrez de nouvelles portes avec Coursera Plus

Accès illimité à 10,000+ cours de niveau international, projets pratiques et programmes de certification prêts à l'emploi - tous inclus dans votre abonnement.

Faites progresser votre carrière avec un diplôme en ligne

Obtenez un diplôme auprès d’universités de renommée mondiale - 100 % en ligne

Découvrir les diplômes

Rejoignez plus de 3 400 entreprises mondiales qui ont choisi Coursera pour les affaires

Améliorez les compétences de vos employés pour exceller dans l’économie numérique

Foire Aux Questions

To access the course materials, assignments and to earn a Certificate, you will need to purchase the Certificate experience when you enroll in a course. You can try a Free Trial instead, or apply for Financial Aid. The course may offer 'Full Course, No Certificate' instead. This option lets you see all course materials, submit required assessments, and get a final grade. This also means that you will not be able to purchase a Certificate experience.

When you enroll in the course, you get access to all of the courses in the Specialization, and you earn a certificate when you complete the work. Your electronic Certificate will be added to your Accomplishments page - from there, you can print your Certificate or add it to your LinkedIn profile.

Yes. In select learning programs, you can apply for financial aid or a scholarship if you can’t afford the enrollment fee. If fin aid or scholarship is available for your learning program selection, you’ll find a link to apply on the description page.