MLOPS LLMs - Converting Microsoft Phi3 to GGUF Format with LLaMA.cpp
The Machine Learning Engineer via YouTube
Python, Prompt Engineering, Data Science — Build the Skills Employers Want Now
Master Windows Internals - Kernel Programming, Debugging & Architecture
Overview
Google, IBM & Meta Certificates — All 10,000+ Courses at 40% Off
One annual plan covers every course and certificate on Coursera. 40% off for a limited time.
Get Full Access
Aprende a cuantizar el modelo original Phi3 mini a diferentes tipos de datos como bf16, fp16 o q8_0 utilizando LLama.cpp en este tutorial en video de 31 minutos. Explora el proceso paso a paso para convertir el modelo Microsoft Phi3 al formato GGUF, una técnica esencial en el campo de MLOps para LLMs. Accede a los notebooks proporcionados en GitHub para seguir la demostración práctica y aplicar estos conocimientos en tus propios proyectos de aprendizaje automático y ciencia de datos.
Syllabus
MLOPS LLM,s : Convertir Microsoft Phi3 a formato GGUF con LLaMA.cpp #machinelearning #datascience
Taught by
The Machine Learning Engineer