Regular GCP Data Engineer Miejsce pracy: Warszawa Technologies we use Expected Apache Kafka Apache Spark Cloudera Hadoop stack SQL PL/SQL Python Linux Bash ETL SFTP MQ APIs file shares Google Cloud Platform Optional Scala Operating system Linux About the project Migration of an Oracle Data Warehouse to GCP (Google Cloud Platform). Your responsibilities Building and maintaining data ingestion processes from various sources into a Data Lake. Designing, developing, and optimizing complex data pipelines to ensure reliable data flow. Creating, developing, and maintaining frameworks that facilitate the construction of data pipelines. Implementing comprehensive testing frameworks for data pipelines. Collaborating with data analysts and data scientists to ensure the delivery of high-quality data. Ensuring robust data management, security, and compliance practices. Researching and implementing new technologies to improve data pipeline performance. Utilizing and integrating data from various types of source systems, including Kafka, MQ, SFTP, databases, APIs, and file shares. Our requirements Key Skills: GCP, PL/SQL, SQL, Python Proficiency in cloud platforms and services (GCP) – MUST HAVE Bachelor’s or Master’s degree in Data Science, Statistics, Computer Science, Economics, or a related field Minimum 3 years of experience as a Data Analyst or Data Quality Analyst in a data-driven organization Proven experience in data quality management and data governance practices Strong database expertise, including advanced SQL and PL/SQL Proficiency in Python; experience with Scala is a plus Experience with Linux and Bash scripting Solid understanding of the Cloudera Hadoop technology stack (Apache Spark, Apache Kafka) Knowledge of data processing principles, including ETL processes and real-time data processing Optional Experience with CI/CD pipelines and automation tools Strong understanding of data governance principles, including metadata management and data quality frameworks Ability to work with and understand various source system types (Kafka, MQ, SFTP, databases, APIs, file shares) Experience in international or multi-country data projects Strong communication skills with the ability to translate technical findings into business-oriented insights Fluent English, both written and spoken Self-starter with a continuous learning mindset and strong attention to detail This is how we organize our work This is how we work agile scrum SQUARE ONE RESOURCES sp. z o.o. At Square One Poland we link IT experts with the business. With over 25 years of experience, we specialize in recruitment processes on a global scale. Despite years of experience, we still have a startup DNA and this is our advantage. Our offices are located in London and Warsaw, however, we can reach clients from all over the world, from start-ups to big worldwide corporations. Klikając w przycisk „Aplikuj” lub w inny sposób wysyłając zgłoszenie rekrutacyjne, zgadzasz się na przetwarzanie Twoich danych osobowych przez SQUARE ONE RESOURCES sp. z o.o. z siedzibą w: Puławska 2, 02-566 Warszawa (Pracodawca), jako administratora danych osobowych w celu przeprowadzenia rekrutacji na stanowisko wskazane w ogłoszeniu. Twoje dane osobowe będą przetwarzane w oparciu o następujące podstawy prawne: (a) aby podjąć działania na Twoje żądanie przed zawarciem umowy (np. informacje o oczekiwanym wynagrodzeniu i dostępności do rozpoczęcia pracy); (b) w oparciu o nasz prawnie uzasadniony interes (np. imię, nazwisko, data urodzenia, dane kontaktowe, wykształcenie, kwalifikacje zawodowe, przebieg dotychczasowego zatrudnienia); c) w oparciu o Twoją zgodę, która wyrażona jest poprzez przeslanie dokumentów aplikacyjnych zawierających takie informacje jak np. wizerunek czy zainteresowania.Podanie wszystkich danych osobowych, o których mowa powyżej jest dobrowolne, natomiast dane wymienione w lit. a) i b) są niezbędne do wzięcia udziału w rekrutacji. Niepodanie danych skutkuje brakiem możliwości rozpatrzenia kandydatury. Podanie pozostałych danych jest dobrowolne, ale może pomóc w sprawnym przeprowadzeniu procesu rekrutacji.Masz prawo żądać dostępu do Twoich danych (w tym uzyskania ich kopii), sprostowania danych, ich usunięcia, ograniczenia przetwarzania, przeniesienia, jak również wniesienia sprzeciwu wobec ich przetwarzania. Masz także prawo wniesienia skargi do Prezesa Urzędu Ochrony Danych Osobowych.Twoje dane osobowe mogą zostać przekazane dostawcom usługi publikacji ogłoszeń o pracę, dostawcom systemów do zarządzania rekrutacjami, dostawcom usług IT (hosting), dostawcom systemów informatycznych.Podane przez Ciebie dane osobowe nie będą wykorzystywane w celu profilowania albo podejmowania decyzji w sposób zautomatyzowany.Twoje dane osobowe będą przetwarzane przez okres maks. 1 roku od zakończenia publikacji ogłoszenia, chyba, że wyraziłeś odrębną zgodę na wykorzystanie Twoich danych osobowych w przyszłych rekrutacjach.W celu realizacji praw lub w przypadku jakichkolwiek pytań związanych z przetwarzaniem Twoich danych osobowych skontaktuj się z nami pod adresem: DeliveryTeam@squareoneresources.com.