MLOPS LLMs - Converting Microsoft Phi3 to GGUF Format with LLaMA.cpp
The Machine Learning Engineer via YouTube
The Fastest Way to Become a Backend Developer Online
AI, Data Science & Cloud Certificates from Google, IBM & Meta
Overview
Google, IBM & Meta Certificates – 40% Off
One plan covers every Professional Certificate on Coursera.
Unlock All Certificates
Aprende a cuantizar el modelo original Phi3 mini a diferentes tipos de datos como bf16, fp16 o q8_0 utilizando LLama.cpp en este tutorial en video de 31 minutos. Explora el proceso paso a paso para convertir el modelo Microsoft Phi3 al formato GGUF, una técnica esencial en el campo de MLOps para LLMs. Accede a los notebooks proporcionados en GitHub para seguir la demostración práctica y aplicar estos conocimientos en tus propios proyectos de aprendizaje automático y ciencia de datos.
Syllabus
MLOPS LLM,s : Convertir Microsoft Phi3 a formato GGUF con LLaMA.cpp #machinelearning #datascience
Taught by
The Machine Learning Engineer