Instructions to use yuna1126/Tema_Q-X-4B-GGUF with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use yuna1126/Tema_Q-X-4B-GGUF with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf yuna1126/Tema_Q-X-4B-GGUF:Q4_K_M # Run inference directly in the terminal: llama cli -hf yuna1126/Tema_Q-X-4B-GGUF:Q4_K_M
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf yuna1126/Tema_Q-X-4B-GGUF:Q4_K_M # Run inference directly in the terminal: llama cli -hf yuna1126/Tema_Q-X-4B-GGUF:Q4_K_M
Build from source code
git clone https://github.com/ggml-org/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-app # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama serve -hf yuna1126/Tema_Q-X-4B-GGUF:Q4_K_M # Run inference directly in the terminal: ./build/bin/llama cli -hf yuna1126/Tema_Q-X-4B-GGUF:Q4_K_M
Use Docker
docker model run hf.co/yuna1126/Tema_Q-X-4B-GGUF:Q4_K_M
- Llama new
- LM Studio
- Jan
- vLLM
How to use yuna1126/Tema_Q-X-4B-GGUF with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "yuna1126/Tema_Q-X-4B-GGUF" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "yuna1126/Tema_Q-X-4B-GGUF", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker
docker model run hf.co/yuna1126/Tema_Q-X-4B-GGUF:Q4_K_M
- Ollama
How to use yuna1126/Tema_Q-X-4B-GGUF with Ollama:
ollama run hf.co/yuna1126/Tema_Q-X-4B-GGUF:Q4_K_M
- Unsloth Desktop
- Docker Model Runner
How to use yuna1126/Tema_Q-X-4B-GGUF with Docker Model Runner:
docker model run hf.co/yuna1126/Tema_Q-X-4B-GGUF:Q4_K_M
- Lemonade
How to use yuna1126/Tema_Q-X-4B-GGUF with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull yuna1126/Tema_Q-X-4B-GGUF:Q4_K_M
Run and chat with the model
lemonade run user.Tema_Q-X-4B-GGUF-Q4_K_M
List all available models
lemonade list
- Atomic Chat
🚀 Tema_Q-X-Instruct
🔥 モデル概要
Tema_Q-X(天馬求) は、Alibabaが開発した高性能なオープンモデル Qwen 3 4B を基盤にした、日本語、英語向けの改良版大規模言語モデル(LLM)です。
通常のQwenモデルでは回答が難しいプロンプトに対しても、より自由で有用な応答を生成できるよう設計されています。クリエイティブな執筆、複雑なプログラミングタスク、ディープな知識探求など、あらゆる分野でAIの可能性を最大限に引き出したいユーザーに最適です。
Tema_Q-X is an improved large-scale language model (LLM) for Japanese and English based on the high-performance open model Qwen 3 4B developed by Alibaba.
It is designed to generate more flexible and useful responses to prompts that are difficult to answer using the standard Qwen model. It is ideal for users who want to maximize the potential of AI in all fields, including creative writing, complex programming tasks, and deep knowledge exploration.
| 項目 | 詳細 |
|---|---|
| ベースモデル | Qwen3-4B-Instruct-2507 |
| モデル名 | Tema_Q-X-4B-Instruct |
| 対応言語 | 日本語 (JA), 英語 (EN) |
| モデルサイズ | 4 Billion Parameters |
| ライセンス | Qwenのライセンスに準拠 |
| 開発 | KY, TY, HY, N, K |
🛡️ 責任あるAI利用と学習データの安全性
⚠️ 責任ある利用の徹底
- ユーザーの責任: モデルの利用者は、生成されたコンテンツが、適用される法律、規制、およびHugging Faceの利用規約/コンテンツポリシーに準拠することを全面的に保証する必要があります。
- 禁止事項: このモデルを、いかなる差別、ハラスメント、暴力、違法行為、および有害な目的のために利用することを固く禁じます。
- Downloads last month
- 49
2-bit
4-bit
16-bit
