À propos de Baligh
Français
Bilingue ou natif
Anglais
Capacité professionnelle complète
Expériences
- DbexMigration de données publicitaires vers la base SAPE-COMMERCEjanvier 2023 - Aujourd'hui (3 ans et 5 mois)Paris, FranceREALISATIONS :Participer à la définition des besoins fonctionnelles et conception du modèleConfiguration d’un cluster Azure Databricks et mise en place d’un Datalake (DBFS) pour le stockage des donnéesIngestion multiple des données (CSV, JSON) dans la Data Lake DBFSGestion de l’ordre des générations de fichiers pour garantir l’intégrité de données en se basant sur des workflows DatabricksDéveloppements des règles de gestions et des transformations : PySpark et Spark ScalaDévelopper des jobs basés sur des notebooks (Pyspark , Spark Scala) par Databricks WorkflowsDéveloppement et optimisation de pipelines avec Azure Data Factory pour l'ingestion de données publicitaires et le chargement dans un entrepôt de données Azure SQL Data Warehouse."Orchestration de flux de données complexes en utilisant Azure Data Factory pour automatiser la transformation de donnéesUtilisation de déclencheurs et de planifications dans Azure Data Factory pour exécuter les pipelines de manière régulière et en réponse à des événements spécifiques."Surveillance des workflows de donnéesImport de données dans la base SAP : bcp et Powershell
- DBEXConsultant BI/Big DataAGENCE & SSIIavril 2019 - Aujourd'hui (7 ans et 2 mois)Champigny-sur-Marne, FrancePROJET 1 : Développement d’une solution antifraude à la base du Framework HadoopCONTEXTE PROJET :Ma mission consiste à :Développer une architecture dédiée à notre solution basée sur une étude comparative entre des outils Hadoop ayant les mêmes fonctions.Contrôler les compatibilités entre les outils Hadoop.Intégration et visualisation des données.REALISATIONS :
- Collecter des données à partir de sources multiples.
- Importer les fichiers dans un DataLake (HDFS).
- Création des tables Hive avec HiveQL.
- Charger les fichiers dans les tables.
- Intégration Spark avec Hive et traitement des requêtes.
- Intégration entre Hadoop et Power BI et Visualisation des données.
METHODOLOGIE :Agile (SCRUM)ENVIRONNEMENT TECHNIQUE :CentOS 7, Python 3.5, XShell, Power BI, Hadoop-3.0.0, Hive-3.0.0, Spark-2.4.0, HiveQL.
Recommandations
Soyez le premier à recommander Baligh
Contribuez à la réussite de ce freelance en partageant votre expérience de collaboration avec lui.
Ces profils de freelance correspondent également à vos critères
Agatha Frydrych
Backend Java Software Engineer
4.7
(3)
2
Baptiste Duhen
Fullstack developer
4.6
(4)
5
Amed Hamou
Senior Lead Developer
4
(2)
7
Audrey Champion
Web developer
4.3
(3)
4