Referenzfluss

Folgen Sie den Daten. Prüfen Sie die Entscheidungen.

Erkunden Sie, wie Flower® einen Datenfluss von Amazon S3 zu Azure Blob verarbeitet: komprimierte CSV-Dateien prüfen, in Parquet umwandeln und Regeln für Recovery oder Quarantäne anwenden. Wählen Sie ein Szenario, um die Entscheidungen nachzuvollziehen.

Datenfluss besprechen ↗

01Recovery-Regeln erkunden

Recovery-Regeln erkundenorders-001.csv.gz
  1. 01QuelleAmazon S3CSV · gzip
  2. 02Prüfen, filtern, aggregieren und transformierenFlowerCSV → Parquet
  3. 03ZielAzure BlobParquet
Geliefert

Die Beispieldaten bestehen die Prüfung und werden in Parquet umgewandelt. Die Illustration zeigt die Lieferung; tatsächliche Abnahmeprüfungen hängen von Endpunkt und Transformation ab.

02Was in Ihrer Umgebung zu prüfen ist

Was in Ihrer Umgebung zu prüfen ist
SzenarioAbnahmeprüfung
Normale LieferungPrüfen Sie, ob die Parquet-Ausgabe lesbar ist und nach der Transformation dem vereinbarten Schema und den erwarteten Datensätzen entspricht.
Temporärer AusfallMachen Sie das Ziel vorübergehend unerreichbar. Prüfen Sie begrenzte Versuche und Wartezeiten für sicher wiederholbare Operationen sowie die Eskalation nach Ausschöpfen der Regeln.
Ungültige DateiÜbergeben Sie eine Datei mit einem regelwidrigen Datensatz. Prüfen Sie die Quarantäne der gesamten Quelldatei mit Fehlergrund und dass ungültige Daten nicht weitergegeben werden.
Innerhalb der Wiederholungsregeln wiederhergestelltStellen Sie das Ziel innerhalb des Wiederholungsfensters wieder her und prüfen Sie die fertige Ausgabe. Kontrollieren Sie Aufbewahrung oder Bereinigung der Quelle anhand ihrer separat konfigurierten Regeln.

03Von der Illustration zum Produktivfluss

Vereinbaren Sie für S3 nach Azure Berechtigungen, Dekomprimierung, CSV-Schema, Prüfregeln, Parquet-Mapping und Quarantäne. Testen Sie Ausfälle getrennt von fehlerhaften Daten. Abschlussprüfungen hängen von Kopierpfad und Anbieter ab; transformierte Daten benötigen eine Ergebnisprüfung statt eines angenommenen Byte-Abgleichs.

Sprechen wir über Ihren Datenpfad

Machen Sie aus der Anforderung einen zuverlässigen Produktionsfluss.

Beschreiben Sie Quelle, Ziel, Volumen, Einschränkungen oder Fehlermodus. Sie sprechen direkt mit dem Team, das Flower entwickelt.

Mit dem Flower-Team sprechen