Návrh Školení

Úvod do optimalizace velkých modelů

  • Přehled architektur velkých modelů
  • Výzvy při dolaďování velkých modelů
  • Význam nákladově efektivní optimalizace

Distribuované tréninkové techniky

  • Úvod do datového a modelového paralelismu
  • Rámce pro distribuované školení: PyTorch a TensorFlow
  • Škálování napříč více GPUs a uzly

Kvantování a prořezávání modelu

  • Pochopení kvantizačních technik
  • Použití prořezávání ke zmenšení velikosti modelu
  • Kompromisy mezi přesností a účinností

Optimalizace hardwaru

  • Výběr správného hardwaru pro doladění úkolů
  • Optimalizace GPU a využití TPU
  • Použití specializovaných akcelerátorů pro velké modely

Efektivní Data Management

  • Strategie pro správu velkých datových sad
  • Předzpracování a dávkování pro výkon
  • Techniky rozšiřování dat

Nasazení optimalizovaných modelů

  • Techniky pro nasazení vyladěných modelů
  • Monitorování a udržování výkonu modelu
  • Reálné příklady nasazení optimalizovaného modelu

Pokročilé optimalizační techniky

  • Zkoumání adaptace nízké úrovně (LoRA)
  • Použití adaptérů pro modulární jemné doladění
  • Budoucí trendy v optimalizaci modelů

Shrnutí a další kroky

Požadavky

  • Zkušenosti s rámcem hlubokého učení, jako je PyTorch nebo TensorFlow
  • Seznámení s velkými jazykovými modely a jejich aplikacemi
  • Pochopení konceptů distribuovaných výpočtů

Publikum

  • Inženýři strojového učení
  • Specialisté na cloudovou AI
 21 hodiny

Počet účastníků


Price per participant

Upcoming Courses

Související kategorie