Asas Keselamatan Agen AI

Memandangkan agen AI menjadi bahagian teras perisian moden, melindunginya daripada jenis kerentanan baharu adalah penting. Tanpa pertahanan yang betul, model bahasa boleh dimanipulasi untuk membocorkan data atau melaksanakan arahan yang tidak diingini. Kursus ini menyediakan pemahaman asas tentang keselamatan aplikasi AI. Anda akan meneroka cara mengenal pasti ancaman biasa dan menggunakan mekanisme pertahanan praktikal untuk memastikan sistem anda selamat. Dengan memberi tumpuan kepada konsep asas, anda akan mendapat keyakinan untuk membina aliran kerja AI yang berdaya tahan. Apa yang anda akan pelajari: • Memahami terminologi teras AI dan cara model bahasa memproses arahan • Mengenal pasti dan mencegah percubaan prompt injection dan jailbreaking • Melaksanakan guardrails yang teguh untuk mengesahkan input dan menapis output model • Mengamankan saluran paip Retrieval-Augmented Generation (RAG) daripada data berniat jahat • Menggunakan prinsip sandboxing untuk mengasingkan dan mengawal tindakan agen AI • Mereka bentuk seni bina selamat untuk aplikasi model bahasa moden. Kurikulum bermula dengan definisi penting dan mekanik asas model bahasa sebelum membimbing anda melalui kerentanan khusus dan strategi pertahanan. Anda akan membaca penjelasan terperinci dan meneroka corak kod bertulis untuk memahami cara amalan keselamatan digunakan dalam senario dunia sebenar. Direka untuk pembangun dan jurutera perisian yang merupakan pemula dalam keselamatan AI, kursus ini tidak memerlukan pengalaman keselamatan siber atau pembelajaran mesin lanjutan sebelum ini. Ambil langkah pertama ke arah membina aplikasi AI yang selamat dan boleh dipercayai hari ini.