DeepSpeed for Deep Learning Počítačový Kurz
DeepSpeed je knihovna pro optimalizaci hlubokého učení, která usnadňuje škálování modelů hlubokého učení na distribuovaném hardwaru. DeepSpeed, vyvinutý společností Microsoft, se integruje s PyTorch a poskytuje lepší škálování, rychlejší školení a lepší využití zdrojů.
Toto živé školení vedené instruktorem (online nebo na místě) je zaměřeno na začátečníky až středně pokročilé datové vědce a inženýry strojového učení, kteří chtějí zlepšit výkon svých modelů hlubokého učení.
Na konci tohoto školení budou účastníci schopni:
- Pochopit principy distribuovaného hlubokého učení.
- Nainstalujte a nakonfigurujte DeepSpeed.
- Škálujte modely hlubokého učení na distribuovaném hardwaru pomocí DeepSpeed.
- Implementujte a experimentujte s funkcemi DeepSpeed pro optimalizaci a efektivitu paměti.
Formát kurzu
- Interaktivní přednáška a diskuze.
- Spousta cvičení a cvičení.
- Praktická implementace v prostředí živé laboratoře.
Možnosti přizpůsobení kurzu
- Chcete-li požádat o školení na míru pro tento kurz, kontaktujte nás a domluvíme se.
Návrh Školení
Zavedení
- Přehled problémů škálování hlubokého učení
- Přehled DeepSpeed a jeho funkcí
- DeepSpeed vs. jiné distribuované knihovny hlubokého učení
Začínáme
- Nastavení vývojového prostředí
- Instalace PyTorch a DeepSpeed
- Konfigurace DeepSpeed pro distribuované školení
Funkce optimalizace DeepSpeed
- Tréninkový kanál DeepSpeed
- ZeRO (optimalizace paměti)
- Kontrolní bod aktivace
- Přechodový kontrolní bod
- Rovnoběžnost potrubí
Měřítko modelů s DeepSpeed
- Základní škálování pomocí DeepSpeed
- Pokročilé techniky škálování
- Úvahy o výkonu a osvědčené postupy
- Techniky ladění a odstraňování problémů
Pokročilá témata DeepSpeed
- Pokročilé optimalizační techniky
- Použití DeepSpeed se smíšeným tréninkem přesnosti
- DeepSpeed na různém hardwaru (např. GPUs, TPU)
- DeepSpeed s více tréninkovými uzly
Integrace DeepSpeed s PyTorch
- Integrace DeepSpeed s pracovními postupy PyTorch
- Použití DeepSpeed s PyTorch Lightning
Odstraňování problémů
- Ladění běžných problémů DeepSpeed
- Monitorování a protokolování
Shrnutí a další kroky
- Shrnutí klíčových pojmů a funkcí
- Doporučené postupy pro používání DeepSpeed v produkci
- Další zdroje informací o DeepSpeed
Požadavky
- Středně pokročilá znalost principů hlubokého učení
- Zkušenosti s PyTorch nebo podobnými rámci hlubokého učení
- Znalost programování Python
Publikum
- Datoví vědci
- Inženýři strojového učení
- Vývojáři
Open Training Courses require 5+ participants.
DeepSpeed for Deep Learning Počítačový Kurz - Booking
DeepSpeed for Deep Learning Počítačový Kurz - Enquiry
DeepSpeed for Deep Learning - Consultancy Enquiry
Consultancy Enquiry
Upcoming Courses
Související kurzy
Advanced Stable Diffusion: Deep Learning for Text-to-Image Generation
21 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na středně pokročilé až pokročilé datové vědce, inženýry strojového učení, výzkumníky hlubokého učení a odborníky na počítačové vidění, kteří si chtějí rozšířit své znalosti a dovednosti v oblasti hlubokého učení. pro generování textu na obrázek.
Na konci tohoto školení budou účastníci schopni:
- Pochopte pokročilé architektury hlubokého učení a techniky pro generování textu na obrázek.
- Implementujte složité modely a optimalizace pro vysoce kvalitní syntézu obrazu.
- Optimalizujte výkon a škálovatelnost pro velké datové sady a složité modely.
- Vylaďte hyperparametry pro lepší výkon modelu a zobecnění.
- Integrujte Stable Diffusion s dalšími rámci a nástroji hlubokého učení
AlphaFold
7 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na biology, kteří chtějí porozumět tomu, jak AlphaFold funguje, a používat modely AlphaFold jako průvodce ve svých experimentálních studiích.
Na konci tohoto školení budou účastníci schopni:
- Pochopte základní principy AlphaFold.
- Přečtěte si, jak funguje AlphaFold.
- Naučte se interpretovat AlphaFold předpovědi a výsledky.
Applied AI from Scratch
28 hodinyToto je 4denní kurz představující AI a její aplikaci. Po dokončení tohoto kurzu je možné mít další den na provedení projektu AI.
Deep Learning for Vision with Caffe
21 hodinyCaffe je rámec pro hluboké učení vytvořený s ohledem na výraz, rychlost a modularitu.
Tento kurz zkoumá aplikaci Caffe jako rámce hlubokého učení pro rozpoznávání obrazu na příkladu MNIST
Publikum
Tento kurz je vhodný pro Deep Learning výzkumníky a inženýry, kteří se zajímají o využití Caffe jako frameworku.
Po absolvování tohoto kurzu budou delegáti schopni:
- porozumět struktuře a mechanismům nasazení Caffe provádět instalace / produkční prostředí / úkoly architektury a konfigurace hodnotit kvalitu kódu, provádět ladění, monitorovat implementovat pokročilou produkci, jako jsou tréninkové modely, implementace vrstev a protokolování
Deep Learning Neural Networks with Chainer
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na výzkumníky a vývojáře, kteří chtějí používat Chainer k budování a trénování neuronových sítí v Python a zároveň usnadňovat ladění kódu.
Na konci tohoto školení budou účastníci schopni:
- Nastavte potřebné vývojové prostředí pro zahájení vývoje modelů neuronových sítí.
- Definujte a implementujte modely neuronových sítí pomocí srozumitelného zdrojového kódu.
- Provádějte příklady a upravujte stávající algoritmy, abyste optimalizovali tréninkové modely hlubokého učení a zároveň využili GPU pro vysoký výkon.
Using Computer Network ToolKit (CNTK)
28 hodinyComputer Network ToolKit (CNTK) je Microsoft vysoce účinný RNN tréninkový systém strojového učení pro řeč, text a obrázky s otevřeným zdrojovým kódem, vícestrojový, vícenásobnýGPU.
Publikum
Tento kurz je zaměřen na inženýry a architekty, kteří chtějí využít CNTK ve svých projektech.
Computer Vision with Google Colab and TensorFlow
21 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na pokročilé profesionály, kteří chtějí prohloubit své porozumění počítačovému vidění a prozkoumat možnosti TensorFlow pro vývoj sofistikovaných modelů vidění pomocí Google Colab.
Na konci tohoto školení budou účastníci schopni:
- Vytvářejte a trénujte konvoluční neuronové sítě (CNN) pomocí TensorFlow.
- Využijte Google Colab pro škálovatelný a efektivní vývoj cloudových modelů.
- Implementujte techniky předběžného zpracování obrazu pro úlohy počítačového vidění.
- Nasaďte modely počítačového vidění pro aplikace v reálném světě.
- Použijte přenosové učení ke zvýšení výkonu modelů CNN.
- Vizualizujte a interpretujte výsledky modelů klasifikace obrázků.
Deep Learning with TensorFlow in Google Colab
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na středně pokročilé datové vědce a vývojáře, kteří chtějí porozumět a aplikovat techniky hlubokého učení pomocí prostředí Google Colab.
Na konci tohoto školení budou účastníci schopni:
- Nastavte a procházejte Google Colab pro projekty hlubokého učení.
- Pochopit základy neuronových sítí.
- Implementujte modely hlubokého učení pomocí TensorFlow.
- Trénujte a vyhodnocujte modely hlubokého učení.
- Využijte pokročilé funkce TensorFlow pro hluboké učení.
Deep Learning for NLP (Natural Language Processing)
28 hodinyV tomto živém školení pod vedením instruktora v České republice se účastníci naučí používat knihovny Python pro NLP při vytváření aplikace, která zpracovává sadu obrázků a generuje titulky.
Na konci tohoto školení budou účastníci schopni:
- Návrh a kód DL pro NLP pomocí knihoven Python.
- Vytvořte Python kód, který čte v podstatě obrovskou sbírku obrázků a generuje klíčová slova.
- Vytvořte Python kód, který generuje titulky ze zjištěných klíčových slov.
Edge AI with TensorFlow Lite
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na středně pokročilé vývojáře, datové vědce a odborníky na umělou inteligenci, kteří chtějí využít TensorFlow Lite pro aplikace Edge AI.
Na konci tohoto školení budou účastníci schopni:
- Pochopte základy TensorFlow Lite a její roli v Edge AI.
- Vyvíjejte a optimalizujte modely umělé inteligence pomocí TensorFlow Lite.
- Nasaďte modely TensorFlow Lite na různá okrajová zařízení.
- Využijte nástroje a techniky pro konverzi a optimalizaci modelů.
- Implementujte praktické aplikace Edge AI pomocí TensorFlow Lite.
Accelerating Deep Learning with FPGA and OpenVINO
35 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na datové vědce, kteří chtějí urychlit aplikace strojového učení v reálném čase a nasadit je ve velkém měřítku.
Na konci tohoto školení budou účastníci schopni:
- Nainstalujte sadu nástrojů OpenVINO.
- Urychlete aplikaci počítačového vidění pomocí FPGA.
- Proveďte různé vrstvy CNN na FPGA.
- Škálujte aplikaci napříč více uzly v clusteru Kubernetes.
Distributed Deep Learning with Horovod
7 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na vývojáře nebo datové vědce, kteří chtějí použít Horovod k provádění distribuovaných školení hlubokého učení a rozšířit je tak, aby probíhaly paralelně v několika GPU .
Na konci tohoto školení budou účastníci schopni:
- Nastavte potřebné vývojové prostředí, abyste mohli zahájit školení hlubokého učení.
- Nainstalujte a nakonfigurujte Horovod pro trénování modelů s TensorFlow, Keras, PyTorch a Apache MXNet.
- Škálujte trénink hlubokého učení pomocí Horovod tak, aby běžel na více GPUs.
Deep Learning with Keras
21 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na technické osoby, které chtějí aplikovat model hlubokého učení na aplikace pro rozpoznávání obrázků.
Na konci tohoto školení budou účastníci schopni:
- Nainstalujte a nakonfigurujte Keras.
- Rychle vytvořte prototyp modelů hlubokého učení.
- Implementujte konvoluční síť.
- Implementujte rekurentní síť.
- Spusťte model hlubokého učení na CPU i GPU.
Introduction to Stable Diffusion for Text-to-Image Generation
21 hodinyToto živé školení vedené instruktorem (online nebo na místě) je zaměřeno na datové vědce, inženýry strojového učení a výzkumníky počítačového vidění, kteří chtějí využít Stable Diffusion k vytvoření vysoce kvalitních obrázků pro různé případy použití.
Na konci tohoto školení budou účastníci schopni:
- Pochopte principy Stable Diffusion a jak to funguje pro generování obrázků.
- Vytvářejte a trénujte Stable Diffusion modely pro úlohy generování obrázků.
- Aplikujte Stable Diffusion na různé scénáře generování obrázků, jako je malování, překreslování a překlad z obrázku na obrázek.
- Optimalizujte výkon a stabilitu Stable Diffusion modelů.
Tensorflow Lite for Microcontrollers
21 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na inženýry, kteří chtějí psát, načítat a spouštět modely strojového učení na velmi malých vestavěných zařízeních.
Na konci tohoto školení budou účastníci schopni:
- Nainstalujte TensorFlow Lite.
- Nahrajte modely strojového učení do vestavěného zařízení, aby bylo možné detekovat řeč, klasifikovat obrázky atd.
- Přidejte AI do hardwarových zařízení, aniž byste se spoléhali na síťové připojení.