Návrh Školení

Úvod

Přehled Spark Streaming Funkce a architektura

  • Podporované zdroje dat
  • Základní rozhraní API

Příprava prostředí

  • Závislosti
  • Jiskra a kontext streamování
  • Spojení s Kafkou

Zpracování zpráv

  • Analýza příchozích zpráv jako JSON
  • ETL procesy
  • Spuštění kontextu streamování

Provádění okna Stream Processing

  • Interval snímku
  • Konfigurace doručení kontrolního bodu
  • Spuštění prostředí

Prototypování kódu zpracování

  • Připojení ke kafkovskému tématu
  • Načítání JSON ze zdroje dat pomocí Paw
  • Variace a dodatečné zpracování

Streamování kódu

  • Proměnné řízení práce
  • Definování hodnot, které se mají shodovat
  • Funkce a podmínky

Získávání datového toku

  • Počítadla
  • Kafkův výstup (shodný a neshodný)

Odstraňování problémů

Shrnutí a závěr

Požadavky

  • Zkušenosti s Python a Apache Kafka
  • Znalost platforem stream-processingu

Publikum

  • Datoví inženýři
  • Datoví vědci
  • Programátoři
 7 hodiny

Počet účastníků


Price per participant

Reference (5)

Upcoming Courses

Související kategorie