Customizing and Evaluating LLMs Using Amazon SageMaker JumpStart (Bahasa Indonesia)

Dalam kursus ini, Anda belajar tentang menyesuaikan dan mengevaluasi model bahasa besar (LLM) menggunakan Amazon SageMaker JumpStart. Amazon SageMaker JumpStart adalah hub machine learning (ML) dengan model fondasi, algoritma bawaan, dan solusi ML bawaan yang dapat Anda deploy dengan beberapa klik. Anda akan mempelajari alternatif untuk penyetelan mendetail termasuk dasar-dasar rekayasa perintah dan retrieval augmented generation (RAG). Anda juga akan belajar menyempurnakan, men-deploy, dan mengevaluasi model-model yang disempurnakan yang tersedia di SageMaker JumpStart.

Dengan menggunakan akun AWS Anda sendiri dan notebook yang disediakan, Anda dapat berlatih membangun aplikasi RAG menggunakan integrasi Amazon SageMaker-LangChain. Anda juga dapat melakukan penyetelan mendetail model Llama3 dan mengevaluasinya menggunakan metrik evaluasi. Anda dapat mempraktikkan salah satu aspek AI yang bertanggung jawab dengan bantuan notebook yang membahas stereotip prompt. Atau, Anda dapat menonton demonstrasi video menjalankan notebook.

• Tingkat kursus: Lanjutan
• Durasi: 4 jam

Catatan: Kursus ini memiliki transkrip/subtitle lokal. Narasi disampaikan dalam bahasa Inggris. Untuk menampilkan subtitle, klik tombol CC di sudut kanan bawah pemutar.

Aktivitas

Kursus ini mencakup presentasi, demonstrasi, dan penilaian.

Tujuan kursus

Dalam kursus ini, Anda akan melakukan hal berikut:

• Jelaskan teknik yang berbeda untuk menyesuaikan LLM.
• Jelaskan kapan menggunakan rekayasa perintah dan retrieval augmented generation sebagai opsi penyesuaian.
• Menunjukkan penggunaan integrasi Amazon SageMaker-LangChain untuk membangun aplikasi RAG menggunakan model Falcon.
• Jelaskan penggunaan adaptasi domain dan penyetelan mendetail instruksi.
• Tunjukkan cara menyempurnakan dan men-deploy model dari hub SageMaker JumpStart ML.
• Tunjukkan penggunaan SageMaker Python SDK untuk penyetelan mendetail LLM menggunakan Parameter Efficient Fine-Tuning (PEFT).
• Mengevaluasi model fondasi dengan menggunakan konsol SageMaker JumpStart dan pustaka fmeval.

Audiens

Kursus ini ditujukan untuk peran pekerjaan berikut:

• Data scientist
• Teknisi machine learning

Prasyarat

Kami menyarankan agar peserta kursus ini memiliki hal berikut:

• Lebih dari 1 tahun pengalaman dengan pemrosesan bahasa alami (NLP)
• Lebih dari 1 tahun pengalaman dengan pelatihan dan penyetelan model bahasa
• Kemahiran tingkat menengah dalam pemrograman bahasa Python
• AWS Technical Essentials 
• Dasar-Dasar Amazon SageMaker JumpStart

Kerangka kursus

Modul 1: Pengantar Menyesuaikan LLM

• Menyesuaikan LLM
• Memilih metode penyesuaian

Modul 2: Rekayasa yang Cepat dan RAG untuk Menyesuaikan LLM

• Menggunakan rekayasa perintah
• Menggunakan Retrieval Augmented Generation (RAG)
• Menggunakan pola RAG lanjutan

Demo 1: Buat aplikasi RAG menggunakan integrasi Amazon SageMaker-LangChain dan model Falcon 7B dari SageMaker JumpStart

Modul 3: Menyesuaikan dan Men-deploy Model Fondasi

• Sesuaikan model fondasi menggunakan penyetelan mendetail
• Cara menggunakan konsol SageMaker JumpStart untuk penyetelan mendetail dan men-deploy LLM

Demo 2: Sempurnakan model Llama 3 yang tersedia di SageMaker JumpStart menggunakan Amazon SageMaker Python SDK

Modul 4: Mengevaluasi Model Fondasi

• Diskusikan metrik evaluasi model
• Mengevaluasi model fondasi menggunakan konsol Amazon SageMaker JumpStart

Demo 3: Evaluasi stereotip prompt model Falcon-7B menggunakan pustaka fmeval

Modul 5: Sumber Daya

• Pelajari Selengkapnya
• Hubungi Kami