Spark 3 : Adaptive Query Execution, explication et optimisation
J’ai assisté à un webinar Cloudera sur le tuning des performances d’applications Spark proposé par François Reynald, un des Senior Technical Instructor de Cloudera, il a d’ailleurs écrit cet article sur comment Spark 3 améliore les performances des SQL workloads. Et dans l’un des précédents articles du blog Cyrès, j’avais évoqué les principales nouveautés de …
Continuer la lecture de « Spark 3 : Adaptive Query Execution, explication et optimisation »
Cas d’usage Nifi : pagination REST, Jolt et monitoring
Contexte A Cyrès, nous gérons la saisie des temps via un outil pratique et puissant : Toggl. Dans le cadre de l’amélioration du reporting, m’est venu l’idée d’intégrer les rapports CSV de cet outil, au sein de notre plateforme interne Cloudera. L’objectif de ce cas d’usage Nifi étant de pouvoir faire gagner du temps aux responsables …
Continuer la lecture de « Cas d’usage Nifi : pagination REST, Jolt et monitoring »
Gouvernance des données : CDP et Ranger, le Data Masking simplement
Introduction Que vos bases de données contiennent des données sensibles liées au bancaire, à la santé, aux données personnelles d’utilisateurs ou que vous ayez simplement à cœur de mettre en place une bonne gouvernance des données, vous allez sans doute devoir anonymiser vos données. Le data masking est une pratique qui peut être difficile à …
Continuer la lecture de « Gouvernance des données : CDP et Ranger, le Data Masking simplement »
Monitoring Nifi via streaming de bulletin dans Hive 3
Contexte Dans le cadre du suivi de production et le monitoring Nifi, je vais vous présenter un moyen que nous utilisons pour sauvegarder l’ensemble des évènements « bulletin » au sein d’un cluster Nifi. Après avoir évoqué les enjeux, je vous présenterai l’implémentation technique ainsi qu’une alternative avec Impala. Composants utilisés CDP Private Cloud 7.1.2 …
Continuer la lecture de « Monitoring Nifi via streaming de bulletin dans Hive 3 »
Architecture Druid
Apache Druid est une base de données analytique axé temps réel offrant la possibilité de persister des quantités de données immenses et d’en extraire de l’information à une vitesse hallucinante, le tout couvrant de nombreux use cases, Druid aurait donc tout pour plaire. Creusons l’architecture d’apache Druid ensemble. La dernière version stable de Druid est …
Surdimensionnement de l’infrastructure : un facteur contre-productif en Big Data et Datascience
Dans le Big Data, la tendance dans les entreprises est de se concentrer sur les aspects d’analyse de la donnée, sans beaucoup se préoccuper du « moteur ». Pourtant, l’infrastructure est un élément tout à fait essentiel pour qui entend réussir sur le long terme.
La Cloudera Data Platform va plaire, mais à quel prix ?
Cloudera a depuis quelques mois sorti sa nouvelle plateforme Cloud native : Cloudera Data Platform. Elle se décline en plusieurs parties : de la gouvernance via SDX, une partie Cloud, piloté par Cloudera et déployable sur AWS et Azure (bientôt GCP) et enfin une partie hébergeable sur des serveurs chez soi avec une possibilité d’hybridation, possédant des capacités de déport de calcul dans un environnement conteneurisé Openshift.
Attention ! Les conteneurs sont à l’honneur pour ces offres attractives mais attention aux coûts cachés. Passons en revue ces différentes offres pour y voir plus clair
GitLab version 13.5, quoi de neuf ?
La collaboration entre les utilisateurs est l’une des valeurs fondamentales de GitLab, et l’un des éléments clé du DevOps. Ce mois-ci, GitLab propose pas moins de 60 améliorations, dont plusieurs fonctionnalités destinées à la collaboration entre votre équipe, vos outils et vos pairs.
GitLab version 13.4, quoi de neuf ?
Sortie le 22 septembre dernier, la dernière version de GitLab apporte son lot de nouveautés pour réduire les risques et accroître l’efficacité des équipes, améliorer l’expérience utilisateur et accélérer la CI/CD.
Python 3.9, tour d’horizon et nouveautés
Python 3.9, tour d’horizon Python 3.9 vient d’être annoncé le 6 Octobre 2020. Cette version amène plusieurs fonctionnalités très prometteuses. Corrige des bugs et se positionne par rapport à l’avenir du langage. A Cyrès, nous constatons une augmentation des développements Python, que ce soit dans le domaine du Big Data, des containeurs ou DevOps, Des …
Continuer la lecture de « Python 3.9, tour d’horizon et nouveautés »
Page Linkedin Cyrès
[Spark 3]
L'arrivée de Spark 3 courant 2020 a changé la donne en matière de moteur de traitement de données dédié au Big Data. Dans cet article nous abordons en détail le fonctionnement de l'AQE (Adaptive Query Execution), la nouveauté de #Spark 3. https://t.co/qPGGBnv1iC https://t.co/ic9MT5C6jK
Voici l'article le plus vu (et lu) de notre site web ces 2 dernières années.
Il comptabilise même plus de vues que la homepage du site sur la période.
Ce sujet faisait déjà parti de nos préoccupations majeures, avant même l'arrivée du #COVID.
https://t.co/2VHPnpl3Gz
#OVH #PRA