Category: Big Data

Spark 3 : Adaptive Query Execution, explication et optimisation

Spark 3 : Adaptive Query Execution, explication et optimisation

Publié le Modifié le

J’ai assisté à un webinar Cloudera sur le tuning des performances d’applications Spark proposé par François Reynald, un des Senior Technical Instructor de Cloudera, il a d’ailleurs écrit cet article sur comment Spark 3 améliore les performances des SQL workloads. Et dans l’un des précédents articles du blog Cyrès, j’avais évoqué les principales nouveautés de …

Lire la suite

Cas d’usage Nifi : pagination REST, Jolt et monitoring

Cas d’usage Nifi : pagination REST, Jolt et monitoring

Publié le Modifié le

Contexte A Cyrès, nous gérons la saisie des temps via un outil pratique et puissant : Toggl. Dans le cadre de l’amélioration du reporting, m’est venu l’idée d’intégrer les rapports CSV de cet outil, au sein de notre plateforme interne Cloudera. L’objectif de ce cas d’usage Nifi étant de pouvoir faire gagner du temps aux responsables …

Lire la suite

Gouvernance des données : CDP et Ranger, le Data Masking simplement

Gouvernance des données : CDP et Ranger, le Data Masking simplement

Publié le Modifié le

Introduction Que vos bases de données contiennent des données sensibles liées au bancaire, à la santé, aux données personnelles d’utilisateurs ou que vous ayez simplement à cœur de mettre en place une bonne gouvernance des données, vous allez sans doute devoir anonymiser vos données. Le data masking est une pratique qui peut être difficile à …

Lire la suite

Monitoring Nifi via streaming de bulletin dans Hive 3

Monitoring Nifi via streaming de bulletin dans Hive 3

Publié le Modifié le

Contexte Dans le cadre du suivi de production et le monitoring Nifi, je vais vous présenter un moyen que nous utilisons pour sauvegarder l’ensemble des évènements « bulletin » au sein d’un cluster Nifi. Après avoir évoqué les enjeux, je vous présenterai l’implémentation technique ainsi qu’une alternative avec Impala. Composants utilisés CDP Private Cloud 7.1.2 …

Lire la suite

Architecture Druid

Architecture Druid

Publié le Modifié le

Apache Druid est une base de données analytique axé temps réel offrant la possibilité de persister des quantités de données immenses et d’en extraire de l’information à une vitesse hallucinante, le tout couvrant de nombreux use cases, Druid aurait donc tout pour plaire. Creusons l’architecture d’apache Druid ensemble. La dernière version stable de Druid est …

Lire la suite

La Cloudera Data Platform va plaire, mais à quel prix ?

La Cloudera Data Platform va plaire, mais à quel prix ?

Publié le Modifié le

Cloudera a depuis quelques mois sorti sa nouvelle plateforme Cloud native : Cloudera Data Platform. Elle se décline en plusieurs parties : de la gouvernance via SDX, une partie Cloud, piloté par Cloudera et déployable sur AWS et Azure (bientôt GCP) et enfin une partie hébergeable sur des serveurs chez soi avec une possibilité d’hybridation, possédant des capacités de déport de calcul dans un environnement conteneurisé Openshift.
Attention ! Les conteneurs sont à l’honneur pour ces offres attractives mais attention aux coûts cachés. Passons en revue ces différentes offres pour y voir plus clair

Lire la suite

GitLab version 13.5, quoi de neuf ?

GitLab version 13.5, quoi de neuf ?

Publié le Modifié le

La collaboration entre les utilisateurs est l’une des valeurs fondamentales de GitLab, et l’un des éléments clé du DevOps. Ce mois-ci, GitLab propose pas moins de 60 améliorations, dont plusieurs fonctionnalités destinées à la collaboration entre votre équipe, vos outils et vos pairs.

Lire la suite

GitLab version 13.4, quoi de neuf ?

GitLab version 13.4, quoi de neuf ?

Publié le Modifié le

Sortie le 22 septembre dernier, la dernière version de GitLab apporte son lot de nouveautés pour réduire les risques et accroître l’efficacité des équipes, améliorer l’expérience utilisateur et accélérer la CI/CD.

Lire la suite

Python 3.9, tour d’horizon et nouveautés

Python 3.9, tour d’horizon et nouveautés

Publié le Modifié le

Python 3.9, tour d’horizon Python 3.9 vient d’être annoncé le 6 Octobre 2020. Cette version amène plusieurs fonctionnalités très prometteuses. Corrige des bugs et se positionne par rapport à l’avenir du langage. A Cyrès, nous constatons une augmentation des développements Python, que ce soit dans le domaine du Big Data, des containeurs ou DevOps, Des …

Lire la suite

Page Linkedin Cyrès

Facebook

Twitter

03/22/2021 @ 12:58
[Spark 3]
L'arrivée de Spark 3 courant 2020 a changé la donne en matière de moteur de traitement de données dédié au Big Data. Dans cet article nous abordons en détail le fonctionnement de l'AQE (Adaptive Query Execution), la nouveauté de #Spark 3. https://t.co/qPGGBnv1iC https://t.co/ic9MT5C6jK
cyresgroupe photo
03/10/2021 @ 12:25
Voici l'article le plus vu (et lu) de notre site web ces 2 dernières années.
Il comptabilise même plus de vues que la homepage du site sur la période.
Ce sujet faisait déjà parti de nos préoccupations majeures, avant même l'arrivée du #COVID.

https://t.co/2VHPnpl3Gz

#OVH #PRA