Progettazione di Architetture Scalabili per il Serving di Modelli ML

Spostare un modello di machine learning da un ambiente locale a un sistema di produzione affidabile richiede una profonda comprensione dell'infrastruttura e della progettazione di sistemi. Scegliere la strategia di serving sbagliata può portare a latenza elevata, costi cloud fuori controllo o previsioni obsolete. Questo corso basato su testo ti guida attraverso i concetti fondamentali del serving ML, aiutandoti a valutare i compromessi tra diversi modelli architetturali. Acquisirai le capacità decisionali necessarie per implementare modelli veloci, convenienti e altamente scalabili. Cosa imparerai: - Comprendere la terminologia chiave dei sistemi ML, inclusi latenza, throughput e freschezza dei dati. - Confrontare le API sincrone che utilizzano FastAPI o gRPC con i flussi di lavoro asincroni basati su code. - Analizzare le architetture in streaming per previsioni di modelli in tempo reale e guidate dagli eventi. - Applicare strategie di ottimizzazione dei costi e principi di allocazione delle risorse per le implementazioni di modelli containerizzate. - Valutare i modelli di serving moderni, inclusa l'inferenza serverless e le strategie di base di caching dei modelli. Iniziamo con le definizioni fondamentali del serving dei modelli prima di approfondire i modelli architetturali, gli scenari di progettazione e l'analisi dei compromessi. Leggerai spiegazioni strutturate e analizzerai progetti architetturali per costruire un modello mentale robusto di MLOps in produzione. Questo corso è progettato per ingegneri del software, data scientist e aspiranti professionisti MLOps che comprendono i concetti base del machine learning ma sono nuovi all'architettura dei sistemi di produzione. Non è richiesta alcuna esperienza pregressa di ingegneria dei sistemi. Inizia oggi a costruire sistemi di machine learning resilienti e pronti per la produzione.