Ein Kunde konfrontierte uns mit der Anforderung, Daten zwischen zwei verschiedenen Speicherkonten zu kopieren. In Summe ging es um mehrere Terabyte (TB) an Daten, hauptsächlich inkrementelle Backups verschiedener Systeme, als BLOB gespeichert, die verlustfrei zu transportieren waren. Die Speicherkonten lagen darüberhinaus in verschiedenen Abonnements (Subscriptions), was den Transfer nicht einfacher gestaltete.
Möglichkeiten
Grundsätzlich gab es mehrere Möglichkeiten:
- Download der Daten und neuer Upload: Aufgrund des Datenvolumens hätte diese Option trotz schneller Internetanbindung mehrere Tage gedauert
- Transfer mit AzCopy, wie beispielsweise hier beschrieben
- Nutzung der Azure DataFactory
Lösung
Wir entschieden uns gemeinsam mit dem Kunden, die einmalige Datenübertragung mittels der Azure DataFactory durchzuführen.
Die DataFactory selbst war schnell angelegt, da ein Administrator Zugriff auf beide Subscriptions hatte.
Es folgte der (einmalig auszuführende) Copy-Job, welcher über das grafische Portal der DataFactory ebenfalls in wenigen Minuten angelegt war.
Als Source wurde das alte Speicherkonto in der ersten Subscription ausgewählt, als Destination das neue Speicherkonto in der zweiten Subscription. Der betroffene Container in der Source wurde markiert, die rekursive Übertragung des darin liegenden Inhalts wurde ausgewählt. Die Übertragungsart wurde auf „binär“ eingestellt. Datentransformationen zur Destination waren in diesem Fall nicht notwendig.
Die Übertragung der Daten wurde direkt gestartet und der Auftrag in die Warteschlange gestellt:
Nach rund vier Stunden waren mehrere TeraByte erfolgreich kopiert, so dass mittels der Backup-Software, die natürlich auf das neue Speicherkonto umgestellt werden musste, ein erfolgreicher Testzugriff erfolgen konnte.
Ergebnis
Die Azure DataFactory stellt eine sehr schnelle und effiziente Möglichkeit dar, Daten zwischen verschiedenen Speicherkonten hin und her zu kopieren. Das funktioniert sogar sogar zwischen verschiedenen Abonnements.