timdettmers (Tim Dettmers)

published an article over 2 years ago

Article

Making LLMs even more accessible with bitsandbytes, 4-bit quantization and QLoRA

May 24, 2023

• 168

published an article over 2 years ago

Article

用 bitsandbytes、4 比特量化和 QLoRA 打造亲民的 LLM

May 24, 2023

published an article over 2 years ago

Article

用 bitsandbytes、4 比特量化和 QLoRA 打造亲民的 LLM

May 24, 2023

published an article over 2 years ago

Article

用 bitsandbytes、4 比特量化和 QLoRA 打造亲民的 LLM

May 24, 2023

published an article over 2 years ago

Article

用 bitsandbytes、4 比特量化和 QLoRA 打造亲民的 LLM

May 24, 2023

published an article over 2 years ago

Article

用 bitsandbytes、4 比特量化和 QLoRA 打造亲民的 LLM

May 24, 2023

published an article about 3 years ago

Article

A Gentle Introduction to 8-bit Matrix Multiplication for transformers at scale using transformers, accelerate and bitsandbytes

Aug 17, 2022

• 112

published an article about 3 years ago

Article

大规模 Transformer 模型 8 比特矩阵乘简介 - 基于 Hugging Face Transformers、Accelerate 以及 bitsandbytes

Aug 17, 2022

• 1

published an article about 3 years ago

Article

大规模 Transformer 模型 8 比特矩阵乘简介 - 基于 Hugging Face Transformers、Accelerate 以及 bitsandbytes

Aug 17, 2022

• 1

published an article about 3 years ago

Article

大规模 Transformer 模型 8 比特矩阵乘简介 - 基于 Hugging Face Transformers、Accelerate 以及 bitsandbytes

Aug 17, 2022

• 1

published an article about 3 years ago

Article

大规模 Transformer 模型 8 比特矩阵乘简介 - 基于 Hugging Face Transformers、Accelerate 以及 bitsandbytes

Aug 17, 2022

• 1

published an article about 3 years ago

Article

大规模 Transformer 模型 8 比特矩阵乘简介 - 基于 Hugging Face Transformers、Accelerate 以及 bitsandbytes

Aug 17, 2022

• 1

Tim Dettmers

AI & ML interests

Organizations

Making LLMs even more accessible with bitsandbytes, 4-bit quantization and QLoRA

用 bitsandbytes、4 比特量化和 QLoRA 打造亲民的 LLM

用 bitsandbytes、4 比特量化和 QLoRA 打造亲民的 LLM

用 bitsandbytes、4 比特量化和 QLoRA 打造亲民的 LLM

用 bitsandbytes、4 比特量化和 QLoRA 打造亲民的 LLM

用 bitsandbytes、4 比特量化和 QLoRA 打造亲民的 LLM

A Gentle Introduction to 8-bit Matrix Multiplication for transformers at scale using transformers, accelerate and bitsandbytes

大规模 Transformer 模型 8 比特矩阵乘简介 - 基于 Hugging Face Transformers、Accelerate 以及 bitsandbytes

大规模 Transformer 模型 8 比特矩阵乘简介 - 基于 Hugging Face Transformers、Accelerate 以及 bitsandbytes

大规模 Transformer 模型 8 比特矩阵乘简介 - 基于 Hugging Face Transformers、Accelerate 以及 bitsandbytes

大规模 Transformer 模型 8 比特矩阵乘简介 - 基于 Hugging Face Transformers、Accelerate 以及 bitsandbytes

大规模 Transformer 模型 8 比特矩阵乘简介 - 基于 Hugging Face Transformers、Accelerate 以及 bitsandbytes

Tim Dettmers

AI & ML interests

Organizations

timdettmers's activity

Making LLMs even more accessible with bitsandbytes, 4-bit quantization and QLoRA

用 bitsandbytes、4 比特量化和 QLoRA 打造亲民的 LLM

用 bitsandbytes、4 比特量化和 QLoRA 打造亲民的 LLM

用 bitsandbytes、4 比特量化和 QLoRA 打造亲民的 LLM

用 bitsandbytes、4 比特量化和 QLoRA 打造亲民的 LLM

用 bitsandbytes、4 比特量化和 QLoRA 打造亲民的 LLM

A Gentle Introduction to 8-bit Matrix Multiplication for transformers at scale using transformers, accelerate and bitsandbytes

大规模 Transformer 模型 8 比特矩阵乘简介 - 基于 Hugging Face Transformers、Accelerate 以及 bitsandbytes

大规模 Transformer 模型 8 比特矩阵乘简介 - 基于 Hugging Face Transformers、Accelerate 以及 bitsandbytes

大规模 Transformer 模型 8 比特矩阵乘简介 - 基于 Hugging Face Transformers、Accelerate 以及 bitsandbytes

大规模 Transformer 模型 8 比特矩阵乘简介 - 基于 Hugging Face Transformers、Accelerate 以及 bitsandbytes

大规模 Transformer 模型 8 比特矩阵乘简介 - 基于 Hugging Face Transformers、Accelerate 以及 bitsandbytes