Flux de référence

Suivez les données. Examinez les décisions.

Explorez comment Flower® gère un flux d’Amazon S3 vers Azure Blob : validation de fichiers CSV compressés, conversion en Parquet et politiques de reprise ou de quarantaine. Sélectionnez un scénario pour suivre les décisions.

Parlons de votre flux ↗

01Explorer la politique de reprise

Explorer la politique de repriseorders-001.csv.gz
  1. 01SourceAmazon S3CSV · gzip
  2. 02Valider, filtrer, agréger et transformerFlowerCSV → Parquet
  3. 03DestinationAzure BlobParquet
Livré

L’échantillon passe la validation et est converti en Parquet. L’illustration montre la livraison terminée ; les contrôles réels dépendent de l’endpoint et de la transformation configurés.

02À vérifier dans votre environnement

À vérifier dans votre environnement
ScénarioContrôle d’acceptation
Livraison normaleVérifiez que le résultat Parquet est lisible et respecte le schéma convenu et les enregistrements attendus après transformation.
Panne temporaireRendez la destination temporairement indisponible. Observez les tentatives et délais bornés pour les opérations répétables, puis vérifiez l’escalade lorsque la politique est épuisée.
Fichier invalideSoumettez un fichier contenant un enregistrement qui enfreint une règle. Vérifiez la mise en quarantaine du fichier entier avec le motif de l’échec et l’absence de livraison des données invalides.
Reprise dans les limites de la politiqueRétablissez la destination dans la fenêtre de reprise et vérifiez le résultat final. Contrôlez la conservation ou le nettoyage de la source selon sa politique distincte.

03De l’illustration au flux de production

Pour S3 vers Azure, convenez des permissions, de la décompression, du schéma CSV, des règles, du mapping Parquet et de la quarantaine. Testez les pannes séparément des données malformées. La vérification dépend du chemin de copie et du fournisseur ; les données transformées exigent un contrôle du résultat.

Parlons de votre flux de données

Transformez le besoin en un flux de production fiable.

Décrivez la source, la destination, le volume, les contraintes ou le mode de défaillance. Vous échangerez directement avec l'équipe qui développe Flower.

Parler à l'équipe Flower