Choisir entre lake, lakehouse et warehouse

Résumé

Un lakehouse se justifie quand les données sont modifiées souvent (mises à jour, CDC, suppressions), que plusieurs moteurs lisent les mêmes tables, ou que la maîtrise du stockage compte (souveraineté, coût de sortie). Sinon, un lac bien organisé ou un entrepôt managé est plus simple. Le lakehouse échange un coût d’éditeur contre un coût d’exploitation : voir Maintenance d’un lakehouse.

Prérequis

Data lake vs lakehouse pour les définitions et les composants.

Logique de décision

flowchart TD
    A{"Mutations fréquentes ?<br/>MERGE, CDC, suppressions"} -- non --> L["Lac organisé<br/>fichiers + partitionnement"]
    A -- oui --> B{"Plusieurs moteurs<br/>sur les mêmes tables ?"}
    B -- oui --> H["Lakehouse<br/>format de table + catalogue"]
    B -- non --> C{"Un moteur managé<br/>couvre-t-il tout le besoin ?"}
    C -- oui --> W["Warehouse managé"]
    C -- non --> H
    H --> D{"Équipe capable d'exploiter<br/>catalogue et maintenance ?"}
    D -- oui --> SH["Lakehouse auto-hébergé"]
    D -- non --> MG["Lakehouse managé<br/>par un éditeur"]

Le diagramme suppose de gros volumes bruts ; à petit volume et avec une équipe réduite, le tableau « Cas typiques » ci-dessous oriente plutôt vers un warehouse managé.

Critères

CritèreVers le lacVers le lakehouseVers le warehouse
MutationsRares, ajouts seulsFréquentesFréquentes, un seul moteur
Nombre de moteursUnPlusieurs sur les mêmes tablesUn
VolumétrieTrès gros volumes brutsGros volumes avec historiqueTous volumes (les warehouses cloud gèrent des pétaoctets)
ÉquipePetite, peu d’exploitationCapable d’exploiter ou offre managéeVeut zéro exploitation
Format de stockageOuvertOuvertSouvent propre au produit
Souveraineté et localisationAu choixAu choix, données portablesDépend de l’éditeur
CatalogueSans objetManagé, sinon à auto-hébergerIntégré
Adapter dbtSans objetÀ vérifier selon le moteur (voir dbt et le lakehouse)Souvent first-party

Cas typiques

SituationOrientation
Données brutes massives, peu de mutationsLac organisé
CDC, historique long, plusieurs moteursLakehouse
ML sur données non structurées et BILakehouse
Petit volume, une équipe, besoin de simplicitéWarehouse managé
Brut en stockage maîtrisé et BI exigeanteMontage mixte : lakehouse pour l’historique, moteur dédié pour le service BI
Latence inférieure à la secondeHors sujet pour un lakehouse : base opérationnelle ou moteur de streaming (Kafka, Flink), non traités dans ce vault

Choisir son format de table

  • Iceberg par défaut quand moteurs et catalogues doivent rester ouverts.
  • Delta quand l’écosystème est Databricks ou Spark ; UniForm expose des métadonnées Iceberg en lecture.
  • Hudi ou Paimon quand le besoin dominant est l’upsert fréquent ou le streaming, et que les moteurs retenus les supportent.

Offres managées

Les trois grands éditeurs proposent un lakehouse managé autour d’Iceberg, avec un catalogue intégré, ce qu’un fournisseur comme Scaleway ne propose pas (voir Lakehouse auto-hébergé sur Scaleway). Leur valeur : le catalogue et la maintenance automatisée. Leur coût : le couplage à un éditeur, une région et une juridiction.

Maillage entre éditeurs

La documentation dbt décrit des maillages entre plateformes (Snowflake avec Databricks via Unity Catalog, avec Athena via Glue, avec BigQuery via le catalogue BigLake) : deux plateformes pointent vers la même table Iceberg. Écrire dans un catalogue externe est généralement plus lent et peut poser des problèmes de fiabilité à grande échelle. Le plus sûr : un catalogue maître par table et un seul moteur qui écrit.

Ce que cela change pour le choix

  • Données et équipes déjà chez un éditeur : ses tables Iceberg managées apportent l’ouverture du format sans exploitation supplémentaire, au prix de son catalogue comme point de coordination.
  • Contrainte de souveraineté ou de coût de sortie : object storage européen plus format ouvert gardent les données portables, mais la charge du catalogue et de la maintenance revient à l’équipe.
  • Offres européennes managées : OVHcloud présente un service Lakehouse Manager sur Iceberg ; son statut n’est pas confirmé (seule la variante serverless est présentée comme « coming soon »).

Notes liées