Projekt dotyczy modernizacji i migracji istniejącej platformy danych do środowiska opartego na Databricks, z naciskiem na automatyzację, skalowalność i bezpieczeństwo. Zespół pracuje nad usprawnieniem procesów przetwarzania danych oraz wdrożeniem nowoczesnych rozwiązań CI/CD i monitoringu dla środowisk chmurowych.
Projekt dotyczy modernizacji i migracji istniejącej platformy danych do środowiska opartego na Databricks, z naciskiem na automatyzację, skalowalność i bezpieczeństwo. Zespół pracuje nad usprawnieniem procesów przetwarzania danych oraz wdrożeniem nowoczesnych rozwiązań CI/CD i monitoringu dla środowisk chmurowych.
,[Wspieranie migracji z Azure Synapse do Databricks poprzez budowanie i utrzymywanie stabilnej infrastruktury i pipeline’ów wdrożeniowych. , Automatyzacja provisioning’u, konfiguracji i monitorowania środowisk Databricks w wielu strumieniach danych. , Zapewnienie sprawnych procesów CI/CD dla zadań data engineering, w tym: automatyzacji inicjalnych załadunków danych wdrażania warstw data marts i warstw konsumpcyjnych , integracji z raportowaniem i rozwiązaniami Power BI , Współpraca z Data Engineerami, zespołami produktowymi i interesariuszami biznesowymi w celu zapewnienia niezawodnej i bezpiecznej dostawy danych. , Optymalizacja wydajności, skalowalności i kosztów środowisk chmurowych. Implementacja monitoringu, alertowania i logowania w celu utrzymania wysokiej dostępności systemów. , Tworzenie i utrzymanie Infrastructure as Code (IaC) dla powtarzalnych i kontrolowanych wersjami wdrożeń. , Szybkie diagnozowanie i rozwiązywanie problemów związanych ze środowiskiem, pipeline’ami i integracjami. , Śledzenie najlepszych praktyk DevOps oraz nowych technologii w obszarze chmury i danych. Requirements: Python, Bash, powershell, Grafana, Prometheus, Azure Monitor, CI/CD, Docker, Kubernetes, Terraform, Azure, Databricks