Randlab
Projekt realizowany jest w obszarze budowy i utrzymania Customer Data Platform (CDP) opartej o architekturę Data Lakehouse w środowisku Google Cloud Platform (GCP).Zakres współpracy obejmuje tworzenie i rozwój potoków danych batch/stream, integracje CDC (Change Data Capture) oraz budowę warstw danych Bronze / Silver / Gold w BigQuery.Priorytetem jest jakość danych, zgodność z regulacjami RODO oraz utrzymanie pełnego data lineage.Twój zakres obowiązków Projektowanie i rozwój potoków danych (ETL/ELT) w GCP: Dataflow (Apache Beam, Python), Composer (Airflow), Pub/Sub. Implementacja i utrzymanie strumieniowania/CDC (np. MySQL → Datastream → BigQuery). Modelowanie danych w BigQuery (partycje, klastrowanie, optymalizacja zapytań) i praca w warstwach Bronze/Silver/Gold. Zarządzanie katalogiem/metadanymi, DQ i lineage (Dataplex) oraz transformatami SQL (Dataform). Współpraca z IT/PM, code review, CI/CD, monitoring i alertowanie w chmurze. Nasze wymagania Doświadczenie jako Data Engineer w kilku projektach cloud (preferencyjnie GCP). GCP: BigQuery, Cloud Storage, Dataflow (Beam, Python), Composer (Airflow), Pub/Sub, Datastream, Dataplex, Dataform. Bardzo dobra znajomość Python oraz SQL (dialekt BigQuery). Doświadczenie z MySQL jako źródłem danych (transakcyjne), praktyka w CDC. Architektura Medalionowa (Bronze/Silver/Gold), ETL/ELT. Data Governance/RODO, Data Quality, Data Lineage, deduplikacja klientów, wersjonowanie danych. Git i CI/CD (np. Cloud Build), monitoring/logging w GCP. Komunikacja i współpraca w zespole, angielski do pracy w środowisku międzynarodowym. Mile widziane Doświadczenie z PostgreSQL/MS SQL jako dodatkowymi źródłami. Optymalizacja kosztów BigQuery (partycjonowanie/klastrowanie, MV). Praktyka w projektowaniu kontraktów danych i testów w Dataform/dbt-like.
| Opublikowana | 5 dni temu |
| Wygasa | za 25 dni |
| Rodzaj umowy | B2B |
| Tryb pracy | Hybrydowa |
| Źródło |
Milczenie jest przytłaczające. Wysyłasz aplikacje jedna po drugiej, ale Twoja skrzynka odbiorcza pozostaje pusta. Nasze AI ujawnia ukryte bariery, które utrudniają Ci dotarcie do rekruterów.
Nie znaleziono ofert, spróbuj zmienić kryteria wyszukiwania.