Fondamenti di quantizzazione con Hugging Face e Quanto

Questo corso di solo testo ti introduce ai principi fondamentali della quantizzazione dei modelli, consentendoti di eseguire modelli su hardware con risorse limitate. Inizierai comprendendo la matematica fondamentale dietro la compressione prima di passare all'implementazione pratica.Impara a caricare, analizzare e quantizzare i modelli utilizzando Hugging Face Transformers e la libreria Quanto. Cosa imparerai: Comprendere i concetti fondamentali di quantizzazione post-allenamento, calibrazione e perdita di precisione; Padroneggiare l'implementazione di tecniche di quantificazione a 8 bit e 4 bit; Applicare la libreria Quanto per comprimere modelli open source; Configurare Hugging Face Transformers per caricare i pesi quantizzati in modo efficiente; Esercitare la risoluzione dei problemi comuni Questo corso inizia con la terminologia essenziale e le basi matematiche della mappatura di precisione prima di guidarti attraverso le esercitazioni passo-passo del codice scritto. È progettato per ingegneri del software, scienziati dei dati e principianti del machine learning che desiderano ottimizzare i modelli senza bisogno di hardware costoso.Inizia a imparare oggi e rendi i tuoi modelli di machine learning più veloci e leggeri.