Fondamenti di Deep Learning: Meccanismi di Attenzione e Transformer

L'intelligenza artificiale moderna è guidata dall'architettura transformer, tuttavia capire come questi modelli elaborano effettivamente le informazioni può sembrare opprimente. Questo corso basato su testo demistifica il funzionamento interno dei meccanismi di attenzione e dei transformer, scomponendo concetti matematici complessi in spiegazioni chiare e leggibili e implementazioni di codice strutturate. Transiterai dalla comprensione delle reti neurali di base al lavoro sicuro con modelli di sequenza all'avanguardia. Cosa imparerai: * Comprendere le meccaniche fondamentali dell'auto-attenzione e dell'attenzione multi-testa; * Implementare blocchi transformer da zero utilizzando PyTorch e fastai; * Applicare tecniche di ottimizzazione moderne e flussi di lavoro di addestramento a compiti sequence-to-sequence; * Praticare la tokenizzazione e le pipeline di preparazione dei dati per l'elaborazione del linguaggio naturale; * Configurare maschere di attenzione e codifiche posizionali per gestire dati sequenziali. Il corso inizia con definizioni fondamentali e contesto storico prima di guidarti passo dopo passo nella costruzione, addestramento e fine-tuning delle architetture transformer. Progettato specificamente per programmatori e appassionati di dati nuovi al deep learning, questo corso richiede solo conoscenze di base di Python e nessuna esperienza precedente di machine learning. Inizia a leggere oggi per sbloccare le meccaniche dell'IA moderna.