kdrhnn/turkce-secme-klasikler-1
Viewer • Updated • 3.71k • 15
How to use kdrhnn/turkce-edebi-stil-v1 with PEFT:
Task type is invalid.
Bu model, Google Gemma 2 (9B) tabanlıdır ve Türk edebiyatının önde gelen yazarlarının (Hakan Günday, İhsan Oktay Anar, Tezer Özlü, Haruki Murakami vb.) üslubunu taklit etmek üzere Unsloth kütüphanesi ile fine-tune edilmiştir.
Sıradan, günlük dille yazılmış bir metni alır ve seçtiğiniz yazarın edebi üslubuyla (kelime seçimi, cümle yapısı, ruh hali) yeniden yazar.
unsloth/gemma-2-9b-it-bnb-4bitfrom unsloth import FastLanguageModel
# 1. Modeli Yükle
model, tokenizer = FastLanguageModel.from_pretrained(
model_name = "kdrhnn/turkce-edebi-stil-v1",
max_seq_length = 2048,
dtype = None,
load_in_4bit = True,
)
FastLanguageModel.for_inference(model)
# 2. Mesajı Hazırla
msg = [
{"from": "human", "value": "Bu metni Hakan Günday stilinde yeniden yaz.\n\nİlgili Metin:\nSabah uyandım, işe gittim. Hayat çok monoton."},
]
# 3. Üret
inputs = tokenizer.apply_chat_template(msg, tokenize=True, return_tensors="pt", add_generation_prompt=True).to("cuda")
outputs = model.generate(inputs, max_new_tokens=256, repetition_penalty=1.2)
print(tokenizer.batch_decode(outputs)[0])