LM Studio, kullanıcı dostu arayüzüyle yerel dil modellerini çalıştırmanızı sağlayan bir uygulamadır. Ancak, doğrudan kendi modelinizi sıfırdan eğitmek için tasarlanmamıştır. Bunun yerine, mevcut modelleri fine-tuning (ince ayar) yaparak özelleştirebilirsiniz. İşte adım adım süreç:
LM Studio'da bir modeli kendi verilerinizle eğitmek için:
LM Studio (Son sürüm) - İndirme Linki
Özel veri setiniz (TXT, JSON veya CSV formatında)
En az 8GB RAM (16GB+ önerilir)
NVIDIA GPU (CUDA desteği için)
Model Seçimi:
LM Studio'yu açın ve "Download Model"e tıklayın.
TheBloke'dan bir GGUF formatında model indirin (örneğin, Mistral-7B-Instruct
).
Veri Hazırlama:
Modelinizi eğitmek için bir metin dosyası (dataset.txt
) hazırlayın.
Örnek format:
python convert.py --input-model ./output --output-model ./custom-model.gguf
Oluşan custom-model.gguf
dosyasını LM Studio'ya sürükleyip bırakın.
LM Studio sıfırdan model eğitimi yapmaz, ancak aşağıdaki araçlarla kendi dil modelinizi oluşturabilirsiniz:
Adımlar:
Veri Toplama: Kendi metin verilerinizi .txt
dosyasına kaydedin.
Tokenization:
from transformers import AutoModelForCausalLM, TrainingArguments model = AutoModelForCausalLM.from_pretrained("TinyLlama/TinyLlama-1.1B") training_args = TrainingArguments(output_dir="./my-model", per_device_train_batch_size=2) trainer = Trainer(model=model, args=training_args, train_dataset=dataset) trainer.train()
NVIDIA GPU gerektirmeden küçük veri setleriyle model özelleştirme:
!pip install peft from peft import LoraConfig, get_peft_model lora_config = LoraConfig(task_type="CAUSAL_LM", r=8, lora_alpha=16) model = get_peft_model(model, lora_config) model.train()
GGUF Formatına Dönüştürme:
python llama.cpp/convert.py --input-model ./my-model --output-model ./my-model.gguf
LM Studio'ya Yükleme:
my-model.gguf
dosyasını LM Studio'ya sürükleyin.
Artık kendi özel modelinizle sohbet edebilirsiniz!
🔹 LM Studio doğrudan model eğitimi yapmaz, ancak fine-tuning yapılmış modelleri çalıştırabilir.
🔹 Sıfırdan model eğitmek için TinyLlama, LoRA veya Colab kullanabilirsiniz.
🔹 Eğitilmiş modeli GGUF formatına çevirip LM Studio'da kullanabilirsiniz.
💡 Ek Kaynaklar: