Thank you for sending your enquiry! One of our team members will contact you shortly.
Thank you for sending your booking! One of our team members will contact you shortly.
Návrh Školení
Vstup do QLoRA a kvantizace
- Přehled o kvantizaci a její roli v optimalizaci modelů
- Vstup do rámce QLoRA a jeho přínosy
- Klíčové rozdíly mezi QLoRA a tradičními metodami fine-tuningu
Základy Large Language Models (LLMs)
- Vstup do LLMs a jejich architektury
- Překážky při škálování fine-tuningu velkých modelů
- Jak pomáhá kvantizace překonat výpočetní omezení při fine-tuningu LLMs
Implementace QLoRA pro Fine-Tuning LLMs
- Nastavení rámce a prostředí QLoRA
- Příprava datových sad pro fine-tuning pomocí QLoRA
- Krok za krokem: implementace QLoRA na LLMs s využitím Python a PyTorch/TensorFlow
Optimalizace výkonu Fine-Tuning pomocí QLoRA
- Jak zohlednit rovnováhu mezi přesností modelu a jeho výkonností s kvantizací
- Téchniky pro snižování výpočetních nákladů a spotřeby paměti během fine-tuningu
- Strategie pro minimalizaci požadavků na hardwar při fine-tuningu
Hodnocení fine-tunovaných modelů
- Jak hodnotit efektivitu fine-tunovaných modelů
- Běžné metriky hodnocení pro jazykové modely
- Optimalizace výkonu modelu po tune a řešení problémů
Nasazování a škálování fine-tunovaných modelů
- Nejlepší postupy pro nasazování kvantizovaných LLMs do produkčních prostředí
- Škálování nasazení na zpracování reálně časových požadavků
- Nástroje a rámce pro nasazování a monitorování modelů
Příklady ze skutečného života Use Case a případové studie
- Případová studie: Fine-tuning LLMs pro podporu zákazníků a úlohy NLP
- Ukázky fine-tuningu LLMs v různých odvětvích, jako je zdravotnictví, finance a e-commerce
- Naučené lekce ze skutečného nasazení modelů založených na QLoRA
Souhrn a další kroky
Požadavky
- Poznání základů strojového učení a neuronových sítí
- Zkušenosti s přesměrováním modelu a přenosovým učením
- Znalost velkých jazykových modelů (LLMs) a hlubokého učení rámci (např. PyTorch, TensorFlow)
Cílová skupina
- Inženýři strojového učení
- Vývojáři umělé inteligence
- Specialisté na analýzu dat
14 hodiny
