Aller au contenu
Entreprise et emplois

Qu’est‑ce que Hortonworks et comment peut‑il aider votre entreprise ?

Hortonworks était l’un des principaux éditeurs d’une distribution Hadoop open source pour stocker, traiter et gouverner de très grands volumes de données. Depuis sa fusion avec Cloudera en 2019, une entreprise ne doit plus lancer un nouveau projet « Hortonworks », mais évaluer son parc HDP existant et sa cible de migration.

Publié le
Temps de lecture
12 min · 2 642 mots
Rubrique
Entreprise et emplois
Deux ingénieurs analysent une infrastructure de données dans une salle serveurs

Un environnement de données distribué exige autant de gouvernance et d’exploitation que de capacité de calcul.

Sommaire · 7 sections

La réponse courte : Hortonworks est historique, HDP peut rester en production

Hortonworks n’est plus une entreprise indépendante. L’éditeur a fusionné avec Cloudera en janvier 2019. Son produit phare, Hortonworks Data Platform ou HDP, était une distribution d’outils Apache destinée au stockage et au traitement distribué de données : journaux applicatifs, données de capteurs, transactions, fichiers, données clients ou catalogues produits. Une entreprise qui possède déjà un environnement HDP peut encore devoir l’exploiter, le sécuriser et le faire évoluer. En revanche, pour un projet neuf, « installer Hortonworks » n’est plus la bonne question : il faut choisir une cible actuelle selon les données, le cloud éventuel et les compétences disponibles.

HDP aidait surtout les organisations confrontées à des données trop nombreuses ou trop hétérogènes pour être traitées confortablement dans une base relationnelle unique. Son intérêt ne résidait pas dans un tableau de bord prêt à l’emploi : il fournissait une infrastructure de données sur laquelle les équipes pouvaient ingérer, conserver, préparer, interroger et gouverner les données à grande échelle.

Trois repères pour situer Hortonworks

2011

année de création de Hortonworks

Janvier 2019

fusion finalisée avec Cloudera

3 copies

facteur de réplication HDFS souvent configuré par défaut

Ce que contenait Hortonworks Data Platform (HDP)

HDP assemblait, configurait et supportait des projets Apache qui peuvent être utilisés séparément. L’idée était de répartir le stockage et les calculs sur plusieurs machines plutôt que de dépendre d’un serveur unique. La plateforme pouvait être administrée par Apache Ambari, qui centralisait le déploiement, la configuration et la surveillance des services. Hortonworks proposait aussi, selon les besoins, des briques de flux de données regroupées autour de Hortonworks DataFlow (HDF).

Traitement distribué
Mode de traitement dans lequel un jeu de données et les calculs sont répartis entre plusieurs serveurs reliés en réseau. La capacité augmente en ajoutant des nœuds, mais l’exploitation devient aussi plus exigeante : réseau, disques, versions logicielles, sécurité et supervision doivent rester cohérents.
Les briques HDP les plus souvent rencontrées dans un parc historique
BriqueRôle principalCe qu’elle apporte au métier
HDFSStockage distribué de fichiersConserver de gros jeux de données sur plusieurs nœuds
YARNAllocation des ressources de calculFaire cohabiter plusieurs traitements sans monopoliser le cluster
HiveRequêtes SQL sur des données massivesDonner un accès analytique aux équipes data et BI
SparkCalcul distribué en mémoire ou par lotsPréparer les données et exécuter des traitements complexes
RangerAutorisations et auditDéfinir qui accède à quelles données et conserver des traces
AtlasCatalogue, métadonnées et lignageIdentifier l’origine d’une donnée et ses transformations
La composition réelle varie selon la version de HDP et les choix effectués par l’entreprise. Kafka, NiFi ou d’autres composants peuvent être présents sans faire partie du même périmètre d’installation.

HDFS découpe les fichiers et les distribue entre les nœuds. Avec une réplication configurée à trois exemplaires, 100 To de données utiles peuvent demander environ 300 To de capacité brute, avant la marge d’exploitation et selon la compression utilisée. Cette redondance limite l’impact de la panne d’un disque ou d’un serveur, mais elle a un coût matériel et énergétique. Ce n’est pas un détail à découvrir après le dimensionnement.

Quels problèmes Hortonworks pouvait résoudre en entreprise ?

Dans son contexte d’origine, HDP répondait à quatre besoins concrets. D’abord, rassembler des sources très différentes sans imposer un schéma rigide dès l’entrée : fichiers CSV, événements web, exports métiers, données machine ou archives. Ensuite, traiter des volumes importants en parallèle, par exemple pour recalculer chaque nuit des indicateurs sur plusieurs années. Troisième usage : fournir une couche SQL, notamment avec Hive, aux analystes qui n’écrivent pas de code distribué. Enfin, Ranger et Atlas pouvaient renforcer la gouvernance lorsque plusieurs équipes partageaient le même patrimoine de données.

  • Détecter des anomalies dans des millions de relevés, d’événements applicatifs ou de transactions, après préparation des données.
  • Construire un lac de données interne réunissant des données commerciales, logistiques et numériques auparavant isolées.
  • Préparer des jeux de données pour la prévision, la segmentation ou des modèles de machine learning ; la plateforme ne fournit pas, à elle seule, le modèle métier.
  • Conserver les traces d’accès, attribuer des droits par utilisateur ou groupe et documenter la provenance d’une table analytique.
  • Exécuter des traitements par lots longs sans saturer la base de production qui sert le site web, l’ERP ou les applications métiers.

Le mot « scalable » doit être manié avec précision. Ajouter des nœuds permet généralement d’augmenter la capacité de stockage ou de calcul, mais cela ne rend pas automatiquement un traitement plus rapide. Une requête SQL mal écrite, des fichiers trop petits, une clé de jointure déséquilibrée ou un réseau saturé peuvent dégrader les performances. L’intérêt économique et technique doit donc être démontré par un cas d’usage mesurable, pas par le seul volume de données.

Quand Hadoop/HDP est un mauvais choix

Un petit volume de données n’interdit pas Hadoop, mais il le justifie rarement. Si une équipe traite quelques gigaoctets à quelques centaines de gigaoctets, avec des requêtes SQL classiques et peu de sources, un entrepôt de données, une base relationnelle bien conçue ou un service d’analyse managé sera souvent plus simple à sécuriser et à exploiter. HDP n’est pas non plus la base adaptée aux transactions courantes d’un site e-commerce ou d’un ERP : ces applications demandent des écritures rapides, cohérentes et prévisibles.

HDP historique ou plateforme actuelle : quelle option choisir ?

Conserver HDP ou basculer vers une cible actuelle

Parc Hortonworks HDP existant

Une plateforme à maintenir pendant la transition, pas un choix de départ pour une nouvelle architecture.

Ce qui joue en sa faveur

  • Les traitements, scripts Hive ou Spark et droits existants restent utilisables.
  • Évite une migration précipitée d’un processus métier critique.
  • Permet d’inventorier les dépendances avant de changer de socle.

Ce qui joue contre

  • Technologies et versions peuvent être en fin de maintenance selon le contrat.
  • Exploitation lourde : nœuds, disques, correctifs, sécurité et compétences spécialisées.
  • Les choix d’architecture hérités peuvent freiner les nouveaux usages cloud.

Cible moderne : CDP, cloud managé ou lakehouse

Un choix à faire après un cadrage fonctionnel, juridique et financier, pas sur la seule notoriété d’un éditeur.

Ce qui joue en sa faveur

  • Services et intégrations plus actuels, notamment pour des environnements hybrides ou cloud.
  • Possibilité de réduire l’administration de l’infrastructure avec une offre managée.
  • Occasion de supprimer les flux inutiles et de documenter les données sensibles.

Ce qui joue contre

  • Migration des données, requêtes, droits et orchestrations à financer et tester.
  • Coût récurrent potentiellement variable selon le stockage et la puissance consommée.
  • Risque de dépendance au fournisseur si les formats et services sont trop propriétaires.

Notre lectureConservez temporairement HDP si des traitements critiques y fonctionnent, si les données et dépendances sont connues et si votre contrat de support le permet ; préparez alors une trajectoire de sortie. Pour un nouveau besoin ou une évolution importante, choisissez une plateforme actuelle, Cloudera si l’écosystème et l’exploitation hybride correspondent à votre contexte, ou une solution cloud/lakehouse si elle réduit réellement la charge d’administration.

Cloudera propose aujourd’hui des offres regroupées sous l’appellation Cloudera Data Platform (CDP). Cela ne signifie pas qu’un passage de HDP à CDP soit un simple changement de nom : compatibilité des versions, système d’exploitation, métadonnées Hive, règles Ranger, scripts, connecteurs et modes de déploiement doivent être examinés. Selon le cas, une cible sur stockage objet et moteur SQL distribué, un entrepôt cloud ou une architecture lakehouse peut être plus adaptée qu’un cluster Hadoop administré en interne.

Comment auditer un environnement Hortonworks et préparer la suite

Une migration ou une remise à niveau réussie commence par l’inventaire, pas par l’installation d’un nouvel outil. Il faut mobiliser à la fois les équipes data, infrastructure, sécurité, métier et, lorsque des données personnelles sont concernées, le délégué à la protection des données. Voici une méthode utilisable pour un parc HDP existant comme pour le cadrage d’un remplacement.

Plan d’action en six étapes

  1. Inventorier les composants et leurs versions

    Recensez les nœuds, versions HDP et système, services actifs, volumes HDFS, bases Hive, flux d’ingestion, planifications et comptes techniques. L’étape est réussie lorsque chaque traitement critique possède un propriétaire, une fréquence et une dépendance identifiée.

  2. Classer les données et les obligations

    Distinguez données personnelles, données confidentielles, secrets techniques, données soumises à conservation et données jetables. Relevez les droits Ranger, les comptes à privilèges et les emplacements de stockage. Le résultat attendu est une liste des données sensibles avec leur base de traitement, leur durée de conservation et leur responsable.

  3. Vérifier le support et les risques de version

    Contrôlez la version exacte auprès de votre fournisseur, les conditions de votre abonnement et les correctifs applicables. Vérifiez aussi les versions Java, système d’exploitation et connecteurs. Cette étape est validée quand vous connaissez précisément ce qui est supporté, ce qui doit être corrigé et la date cible de décision.

  4. Choisir une cible par cas d’usage

    Pour chaque flux, comparez exécution sur HDP, plateforme Cloudera actuelle, service managé ou refonte plus simple. Intégrez latence, souveraineté, coûts de sortie, compétences et exigences d’audit. Le choix est solide lorsqu’il est justifié par des critères mesurables, et non par une promesse de capacité théorique.

  5. Tester avec des données représentatives

    Lancez un pilote sur un volume significatif, avec les transformations, les droits d’accès et les erreurs réelles. Mesurez les temps de traitement, les coûts, les résultats de requêtes et les contrôles de sécurité. La preuve est faite si les résultats sont réconciliés avec l’ancien système par comptages, échantillons et, si nécessaire, empreintes de fichiers.

  6. Migrer, basculer puis décommissionner

    Planifiez les reprises historiques, les doubles écritures éventuelles, un gel des changements et un plan de retour arrière. Après bascule, surveillez les jobs et les habilitations avant de supprimer les anciennes données. L’environnement source ne doit être arrêté qu’après validation métier, sauvegarde contrôlée et respect des durées de conservation.

Sécurité, RGPD et coûts : les points qui décident vraiment

Ranger permet de définir des politiques d’accès détaillées et d’enregistrer des audits, tandis qu’Atlas peut documenter le lignage d’une donnée. Ces mécanismes sont utiles pour répondre à une demande d’audit ou comprendre pourquoi un indicateur a changé. Ils ne rendent pas une organisation conforme au RGPD par eux-mêmes. La conformité dépend aussi de la finalité du traitement, de la minimisation des données, de l’information des personnes, de la durée de conservation, des sous-traitants et de l’exercice des droits.

Pour les données sensibles, contrôlez en priorité l’authentification centralisée, le moindre privilège, le chiffrement en transit et au repos, la rotation des secrets, les journaux d’audit et la procédure de restauration. Une sauvegarde jamais restaurée en test n’est pas une garantie opérationnelle. Les accès de comptes de service méritent autant d’attention que les comptes administrateurs : ce sont souvent eux qui alimentent ou extraient les données automatiquement.

Questions à trancher avant de conserver ou remplacer HDP

  • La version exacte de HDP et chaque composant actif sont‑ils connus et couverts par un support adapté ?
  • Peut‑on nommer un responsable métier pour chaque jeu de données et chaque traitement critique ?
  • Les données personnelles, sensibles ou confidentielles sont‑elles localisées et soumises à des droits vérifiés ?
  • Le coût total inclut‑il les serveurs ou services cloud, le stockage répliqué, le réseau, les licences éventuelles et l’astreinte ?
  • Les traitements ont‑ils un objectif de délai mesuré : temps réel, horaire, quotidien ou mensuel ?
  • Existe‑t‑il un test de restauration et un plan de retour arrière documenté avant toute bascule ?

Le coût réel ne se limite jamais au prix du logiciel. Dans un cluster exploité en interne, il faut compter les serveurs, la capacité disque multipliée par la réplication, le réseau, les sauvegardes, l’électricité, les mises à jour et le temps d’équipes capables de diagnostiquer un échec de job ou une saturation. Dans le cloud, l’administration peut diminuer, mais le stockage, les requêtes, les transferts de données et les ressources de calcul variables doivent être suivis. Un tableau de bord FinOps ou, au minimum, un suivi mensuel par flux évite de découvrir la facture après l’industrialisation.

La bonne prochaine étape selon votre situation

Si votre entreprise n’a pas de plateforme Hortonworks, formulez d’abord le problème métier et testez une solution actuelle sur un flux précis. Si vous exploitez déjà HDP, établissez dans les prochaines semaines un inventaire technique et un état des données sensibles, puis comparez les scénarios de maintien, de modernisation et de simplification. Le choix le plus sûr est souvent celui qui réduit le nombre de composants à administrer tout en conservant les contrôles d’accès, la traçabilité et les délais réellement nécessaires aux équipes métier.

Questions fréquentes

Hortonworks existe‑t‑il encore ?

Non, Hortonworks n’existe plus comme éditeur indépendant. La fusion avec Cloudera a été finalisée en janvier 2019. Le nom reste très présent parce que de nombreuses entreprises utilisent encore Hortonworks Data Platform (HDP). Pour savoir ce qui est maintenu dans votre cas, vérifiez la version précise installée, votre contrat et la documentation de cycle de vie fournie par votre prestataire ou Cloudera.

Quelle différence entre Hadoop et Hortonworks Data Platform ?

Hadoop désigne un écosystème de projets open source, notamment le stockage distribué HDFS et l’ordonnancement YARN. Hortonworks Data Platform, ou HDP, était une distribution qui regroupait plusieurs de ces projets, avec des versions testées ensemble, des outils d’administration et du support commercial. On peut donc utiliser Hadoop sans avoir utilisé Hortonworks.

Hortonworks était‑il vraiment gratuit parce qu’il était open source ?

Le code de nombreuses briques utilisées par HDP était open source, ce qui ne signifie pas qu’un environnement professionnel n’avait aucun coût. Les entreprises payaient potentiellement le support, les serveurs, les disques, le réseau, les sauvegardes et surtout l’exploitation par des équipes qualifiées. L’open source réduit parfois les coûts de licence, mais ne supprime pas les coûts d’infrastructure et de compétences.

Peut‑on migrer HDP vers une autre plateforme sans interruption ?

Oui, une migration avec interruption très limitée est parfois possible, mais elle dépend des flux et de leur tolérance au retard. Les données historiques peuvent être copiées avant la bascule, puis synchronisées jusqu’au changement final. Les traitements, métadonnées, règles d’accès et résultats doivent être validés. Pour un flux critique, prévoyez un plan de retour arrière plutôt qu’une bascule irréversible.

Hortonworks est‑il conforme au RGPD ?

Non, aucune plateforme ne peut être déclarée « conforme au RGPD » à elle seule. HDP peut fournir des moyens techniques utiles, comme les habilitations, les journaux d’audit et le catalogue de données. La conformité relève aussi de l’organisation : finalité, information des personnes, base juridique, sous-traitants, conservation, sécurité et gestion des demandes de droits.

Quelles compétences faut‑il pour administrer un environnement HDP ?

Il faut au minimum combiner administration Linux, réseau, stockage, sécurité des identités et compétences data sur SQL, Hive ou Spark selon les usages. Une équipe doit aussi savoir surveiller les jobs, gérer les capacités et appliquer les correctifs. Si ces compétences ne sont pas disponibles durablement, un service managé ou une architecture plus simple mérite d’être comparé avant de conserver un cluster complexe.

Autres recherches sur ce sujet

  • Hortonworks est‑il encore supporté
  • différence entre Hortonworks et Cloudera
  • comment migrer Hortonworks HDP vers CDP
  • Hadoop ou lakehouse pour une entreprise
  • à quoi sert Apache Ranger
  • comment sécuriser un data lake RGPD
Partager