Dołącz do międzynarodowego projektu realizowanego w obszarze platform danych i rozwiązań AI, którego celem jest migracja środowiska danych z infrastruktury on-premise do Google Cloud Platform. Projekt obejmuje transformację istniejącej platformy opartej o technologie Hadoop do nowoczesnej, chmurowej architektury danych.
responsibilities :
Udział w migracji platformy danych z środowiska on-premise do Google Cloud Platform
Analiza istniejących rozwiązań legacy oraz rekomendowanie docelowej architektury danych w chmurze
Projektowanie i implementacja pipeline’ów danych (batch i streaming) w środowisku produkcyjnym
Praca z usługami GCP, w szczególności Dataproc, Dataflow, BigQuery, Cloud Composer
Automatyzacja procesów przetwarzania danych oraz orkiestracja workflow
Współpraca z zespołami międzynarodowymi oraz zewnętrznym partnerem technologicznym
Udział w warsztatach technicznych, przeglądach architektury i pracach koncepcyjnych
Zapewnienie skalowalności, bezpieczeństwa oraz efektywności kosztowej rozwiązań
requirements-expected :
Minimum 5 lat komercyjnego doświadczenia na stanowisku Data Engineer lub podobnym
Bardzo dobra znajomość Google Cloud Platform, w szczególności Dataproc, Dataflow, BigQuery oraz Cloud Composer