Návrh Školení
Úvod do optimalizace a nasazení modelu
- Přehled DeepSeek modelů a výzev při nasazení
- Pochopení efektivity modelu: rychlost vs. přesnost
- Klíčové metriky výkonu pro modely AI
Optimalizace DeepSeek modelů pro výkon
- Techniky pro snížení inferenční latence
- Kvantování modelu a strategie prořezávání
- Použití optimalizovaných knihoven pro modely DeepSeek
Implementace MLOps pro modely DeepSeek
- Kontrola verzí a sledování modelu
- Automatizace rekvalifikace a nasazení modelu
- CI/CD potrubí pro aplikace AI
Nasazení DeepSeek modelů v cloudových a on-premise prostředích
- Výběr správné infrastruktury pro nasazení
- Nasazení pomocí Docker a Kubernetes
- Správa přístupu a ověřování API
Škálování a monitorování nasazení AI
- Strategie vyvažování zátěže pro služby AI
- Monitorování posunu modelu a degradace výkonu
- Implementace automatického škálování pro aplikace AI
Zajištění bezpečnosti a souladu při nasazení AI
- Správa ochrany osobních údajů v pracovních postupech AI
- Soulad s předpisy podnikové AI
- Osvědčené postupy pro bezpečné nasazení AI
Budoucí trendy a strategie optimalizace AI
- Pokroky v technikách optimalizace modelu AI
- Nové trendy v MLOps a infrastruktuře AI
- Vytvoření plánu nasazení AI
Shrnutí a další kroky
Požadavky
- Zkušenosti s nasazením modelu AI a cloudovou infrastrukturou
- znalost programovacího jazyka (např. Python, Java, C++)
- Pochopení MLOps a optimalizace výkonu modelu
Publikum
- Inženýři AI optimalizují a nasazují DeepSeek modelů
- Datoví vědci pracující na ladění výkonu AI
- Specialisté na strojové učení spravující cloudové systémy umělé inteligence
Reference (2)
the ML ecosystem not only MLFlow but Optuna, hyperops, docker , docker-compose
Guillaume GAUTIER - OLEA MEDICAL
Kurz - MLflow
I enjoyed participating in the Kubeflow training, which was held remotely. This training allowed me to consolidate my knowledge for AWS services, K8s, all the devOps tools around Kubeflow which are the necessary bases to properly tackle the subject. I wanted to thank Malawski Marcin for his patience and professionalism for training and advice on best practices. Malawski approaches the subject from different angles, different deployment tools Ansible, EKS kubectl, Terraform. Now I am definitely convinced that I am going into the right field of application.