Thank you for sending your enquiry! One of our team members will contact you shortly.
Thank you for sending your booking! One of our team members will contact you shortly.
Návrh Školení
Úvod do optimalizace velkých modelů
- Přehled architektur velkých modelů
- Výzvy při dolaďování velkých modelů
- Význam nákladově efektivní optimalizace
Distribuované tréninkové techniky
- Úvod do datového a modelového paralelismu
- Rámce pro distribuované školení: PyTorch a TensorFlow
- Škálování napříč více GPUs a uzly
Kvantování a prořezávání modelu
- Pochopení kvantizačních technik
- Použití prořezávání ke zmenšení velikosti modelu
- Kompromisy mezi přesností a účinností
Optimalizace hardwaru
- Výběr správného hardwaru pro doladění úkolů
- Optimalizace GPU a využití TPU
- Použití specializovaných akcelerátorů pro velké modely
Efektivní Data Management
- Strategie pro správu velkých datových sad
- Předzpracování a dávkování pro výkon
- Techniky rozšiřování dat
Nasazení optimalizovaných modelů
- Techniky pro nasazení vyladěných modelů
- Monitorování a udržování výkonu modelu
- Reálné příklady nasazení optimalizovaného modelu
Pokročilé optimalizační techniky
- Zkoumání adaptace nízké úrovně (LoRA)
- Použití adaptérů pro modulární jemné doladění
- Budoucí trendy v optimalizaci modelů
Shrnutí a další kroky
Požadavky
- Zkušenosti s rámcem hlubokého učení, jako je PyTorch nebo TensorFlow
- Seznámení s velkými jazykovými modely a jejich aplikacemi
- Pochopení konceptů distribuovaných výpočtů
Publikum
- Inženýři strojového učení
- Specialisté na cloudovou AI
21 hodiny