(Inggris) Quantization Model GenAI dengan Python

Menggunakan model AI generatif yang canggih memerlukan sumber daya komputasi yang besar, sehingga membuat pelaksanaannya menjadi mahal dan lambat. Kuantisasi menyelesaikan hal ini dengan kompresi model dengan kehilangan akurasi yang minimal, sehingga memungkinkan mereka untuk berjalan secara efisien pada perangkat keras standar. Dalam kursus ini, Anda akan melakukan transisi dari memahami struktur model dasar ke kompresi aktif model AI generatif menggunakan Python. Anda akan belajar cara mengurangi jejak memori dan mempercepat kecepatan inferensi, sehingga aplikasi AI Anda menjadi lebih praktis, hemat biaya, dan siap untuk diluncurkan. Apa yang akan kau pelajari: - Mengerti matematika dasar dan konsep di balik model kuantisasi, termasuk format presisi seperti FP16, INT8, dan INT4. - Terapkan Post-Training Quantization (PTQ) untuk kompresi model bahasa besar menggunakan perpustakaan Python open-source. - Konfigurasi teknik kuantisasi modern seperti GPTQ, AWQ, dan GGUF untuk deploymen lokal dan awan yang efisien. - Implementasi 8-bit dan 4-bit presisi loading untuk menjalankan model besar pada perangkat keras terbatas. - Evaluasi kinerja, penggunaan memori, dan kebingungan dari model terkompresi untuk memastikan kualitas generasi tetap tinggi. Perjalanan belajar Anda dimulai dengan konsep dasar berat dan presisi jaringan saraf sebelum beralih ke aliran kerja kompresi Python yang praktis. Anda akan membaca penjelasan langkah demi langkah, menganalisis blok kode yang dioptimalkan, dan berlatih menerapkan strategi kuantisasi pada model dunia nyata. Kursus ini dirancang untuk pengembang Python, insinyur AI bercita-cita, dan ilmuwan data yang ingin mengoptimalkan model AI. Pemahaman dasar Python dan konsep machine learning direkomendasikan, tetapi tidak diperlukan pengalaman sebelumnya dengan model optimization atau quantization. Mulai mengoptimalkan model AI generatif Anda hari ini dan buat aplikasi yang lebih cepat dan ringan.