Formation Data Integration with Cloud Data Fusion
Informations générales
Prérequis
Pour suivre ce cours, vous devez déjà posséder les connaissances suivantes :
- Avoir suivi le cours « Google Cloud Platform - Les fondamentaux du Big Data et du Machine Learning » ou avoir des connaissances équivalentes
Public
Ce cours s'adresse avant tout aux personnes suivantes :
- Data Engineer
- Data Analysts
Programme de la formation
Ce cours de deux jours présente aux participants la capacité d’intégration de données de Google Cloud à l’aide de Cloud Data Fusion.
Dans ce cours, nous discutons des défis liés à l’intégration de données et de la nécessité d’une plate-forme d’intégration de données (middleware).
Nous discutons ensuite de la manière dont Cloud Data Fusion peut aider à intégrer efficacement des données provenant de diverses sources et formats et à générer des informations.
Nous examinons les principaux composants de Cloud Data Fusion et leur fonctionnement, comment traiter les données par lots et les données de diffusion en temps réel avec une conception de pipeline visuel, un suivi approfondi des métadonnées et de la lignée des données, et comment déployer des pipelines de données sur divers moteurs d’exécution.
Introduction à l’intégration de données et Cloud Data Fusion
- Intégration de données : quoi, pourquoi, défis
- Outils d’intégration de données utilisés dans l’industrie
- Personas utilisateur
- Introduction à la fusion de données cloud
- Capacités critiques d’intégration de données
- Composants de l’interface utilisateur Cloud Data Fusion
Construire des pipelines
- Architecture de Cloud Data Fusion
- Concepts de base
- Pipelines de données et graphes acycliques dirigés (DAG)
- Cycle de vie des pipelines
- Conception de pipelines dans Pipeline Studio
Construire des pipelines complexes
- Branchement, fusion et jointure
- Actions et notifications
- Gestion des erreurs et macros
- Configurations de pipeline, planification, importation et exportation
Environnement d’exécution du pipeline
- Horaires et déclencheurs
- Environnement d’exécution : profil de calcul et provisionneurs
- Surveillance des pipelines
Construire des transformations et préparer des données avec Wrangler
- Wrangler
- Directives
- Directives définies par l’utilisateur
Connecteurs et pipelines de streaming
- Comprendre l’architecture d’intégration de données.
- Lister les différents connecteurs.
- Utilisez l’API Cloud Data Loss Prevention (DLP).
- Comprendre l’architecture de référence des pipelines de streaming.
- Construire et exécuter un pipeline de streaming.
Métadonnées et lignage des données
- Métadonnées
- Lignage des données
Méthode pédagogique
Chaque participant travaille sur un poste informatique qui lui est dédié. Un support de cours lui est remis soit en début soit en fin de cours. La théorie est complétée par des cas pratiques ou exercices corrigés et discutés avec le formateur. Le formateur projette une présentation pour animer la formation et reste disponible pour répondre à toutes les questions.
Méthode d'évaluation
Tout au long de la formation, les exercices et mises en situation permettent de valider et contrôler les acquis du stagiaire. En fin de formation, le stagiaire complète un QCM d'auto-évaluation.
Mis à jour le 24/01/2024