Quantization for GenAI Models

سرفصل های دوره

Unlock the power of model optimization! Learn how to apply quantization and make your GenAI models efficient with Python

1 - Introduction

1 -Introduction

2 - Gen AI model optimisation techniques

1 -Introduction to Gen AI models

2 -Model optimisation techniques - Introduction

3 -Introduction to Pruning

4 -Introduction to Knowledge Distillation

5 -Introduction to Quantization

3 - Data Types and Number Representation

1 -Data Types and Number Representation

2 -Integer Data types

3 -Integer Data typesin PyTorch

4 -8-Bit Fixed-Point Numbers

5 -Floating-Point Numbers

6 -Other Floating-Point formats

7 -Floating Point data types in PyTorch

8 -Other formats

4 - Quantization

1 -Downcasting FP32 to BF16

2 -Downcasting of tensors in Python

3 -Downcasting of an ML model in Python

4 -Downcasting FP32 to INT8

5 -Symmetrics quantization

6 -Asymmetrics quantization

7 -GPT Neo 125 quantization

“Zero to Hero in Ollama: Create Local LLM Applications” به سبد خرید شما اضافه شد. مشاهده سبد خرید

189,000 تومان

افزودن به سبد خرید

خرید دانلودی فوری

در این روش نیاز به افزودن محصول به سبد خرید و تکمیل اطلاعات نیست و شما پس از وارد کردن ایمیل خود و طی کردن مراحل پرداخت لینک های دریافت محصولات را در ایمیل خود دریافت خواهید کرد.

تولید کننده: Udemy