Plan du cours
Introduction
Compréhension des mégadonnées
Aperçu de Spark
Aperçu de Python
Aperçu de PySpark
- Distribution des données à l'aide du framework Resilient Distributed Datasets (RDD).
- Distribution des calculs à l'aide des opérateurs de l'API Spark.
Configuration de Python avec Spark
Configuration de PySpark
Utilisation des instances Amazon Web Services (AWS) EC2 pour Spark
Configuration de Databricks
Configuration du cluster AWS EMR
Apprentissage des bases de la programmation Python
- Premiers pas avec Python
- Utilisation du notebook Jupyter
- Utilisation des variables et des types de données simples
- Travail avec les listes
- Utilisation des instructions if
- Utilisation des entrées utilisateur
- Travail avec les boucles while
- Implémentation de fonctions
- Travail avec les classes
- Travail avec les fichiers et les exceptions
- Travail avec des projets, des données et des API
Apprentissage des bases des DataFrames Spark
- Premiers pas avec les DataFrames Spark
- Implémentation d'opérations de base avec Spark
- Utilisation des opérations Groupby et Aggregate
- Travail avec les horodatages et les dates
Réalisation d'un exercice de projet sur un DataFrame Spark
Compréhension de l'apprentissage automatique avec MLlib
Travail avec MLlib, Spark et Python pour l'apprentissage automatique
Compréhension des régressions
- Apprentissage de la théorie de la régression linéaire
- Implémentation d'un code d'évaluation de régression
- Réalisation d'un exercice de régression linéaire exemple
- Apprentissage de la théorie de la régression logistique
- Implémentation d'un code de régression logistique
- Réalisation d'un exercice de régression logistique exemple
Compréhension des forêts aléatoires et des arbres de décision
- Apprentissage de la théorie des méthodes arborescentes
- Implémentation des codes des arbres de décision et des forêts aléatoires
- Réalisation d'un exercice de classification par forêt aléatoire exemple
Travail avec le clustering K-moyennes
- Compréhension de la théorie du clustering K-moyennes
- Implémentation d'un code de clustering K-moyennes
- Réalisation d'un exercice de clustering exemple
Travail avec les systèmes de recommandation
Implémentation du traitement automatique du langage naturel
- Compréhension du traitement automatique du langage naturel (NLP)
- Aperçu des outils NLP
- Réalisation d'un exercice NLP exemple
Diffusion de données en continu avec Spark sur Python
- Aperçu de la diffusion en continu avec Spark
- Exercice de diffusion en continu Spark exemple
Remarques de clôture
Pré requis
- Compétences générales en programmation.
Public visé
- Développeurs
- Professionnels de l'informatique
- Scientifiques des données
Nos clients témoignent (6)
J'ai aimé qu'il soit pratique. J'ai adoré appliquer les connaissances théoriques avec des exemples pratiques.
Aurelia-Adriana - Allianz Services Romania
Formation - Python and Spark for Big Data (PySpark)
Traduction automatique
Le cours portait sur une série de sujets très complexes et interconnectés, et Pablo maîtrise chaque domaine en profondeur. Parfois, les nuances étaient perdues dans la communication et/ou à cause des contraintes de temps, ce qui a pu entraîner un écart entre les attentes et la réalité. Il y avait également quelques problèmes d'installation avec UHG/Azure Databricks, mais Pablo et UHG les ont résolus rapidement une fois qu'ils sont devenus apparents - cela témoigne à mes yeux d'un haut niveau de compréhension et de professionnalisme entre UHG et Pablo,
Michael Monks - Tech NorthWest Skillnet
Formation - Python and Spark for Big Data (PySpark)
Traduction automatique
Attention individuelle.
ARCHANA ANILKUMAR - PPL
Formation - Python and Spark for Big Data (PySpark)
Traduction automatique
Formation pratique..
Abraham Thomas - PPL
Formation - Python and Spark for Big Data (PySpark)
Traduction automatique
Les leçons ont été dispensées dans un notebook Jupyter. Les sujets étaient structurés de manière logique et contribuaient naturellement à développer la session des parties les plus simples aux plus complexes. Étant déjà un utilisateur avancé de Python avec une formation en apprentissage automatique, j'ai trouvé le cours plus facile à suivre que, possiblement, certains de mes camarades qui ont suivi la formation. J'apprécie que certaines des notions les plus élémentaires aient été omises et qu'il se soit concentré sur les questions les plus importantes.
Angela DeLaMora - ADT, LLC
Formation - Python and Spark for Big Data (PySpark)
Traduction automatique
tâches de pratique
Pawel Kozikowski - GE Medical Systems Polska Sp. Zoo
Formation - Python and Spark for Big Data (PySpark)
Traduction automatique