Büyük Dil Modeli (LLM) Nedir, Nasıl Eğitilir?

Her gün ChatGPT, Claude ya da açık kaynaklı Llama modelleriyle sohbet ediyoruz. Kod yazdırıyor, karmaşık metinleri özetletiyor, bazen de sadece merak ettiğimiz teknik veya felsefi bir konuyu tartışıyoruz. Dışarıdan bakıldığında ekranın diğer ucunda insan gibi düşünen, ne dediğini anlayan bir bilinç var gibi duruyor. Oysa perde arkasında sihir yok; muazzam miktarda veri, devasa işlem gücü ve istatistiksel olasılık hesapları var. Peki, son birkaç yılda teknoloji dünyasını baştan aşağı değiştiren büyük dil modeli nedir ve bu sistemler sıfırdan nasıl eğitilir?

LLM Nedir? Bir Cümle Tamamlama Makinesinden Fazlası mı?

İngilizce açılımı Large Language Model olan LLM nedir sorusuna en yalın yanıt: Metin tabanlı veriler arasındaki örüntüleri, dilbilgisi kurallarını ve kavramsal ilişkileri öğrenerek bir sonraki kelimeyi tahmin etmek üzere tasarlanmış derin öğrenme modelleridir.

Telefonunuzun klavyesindeki otomatik tamamlama özelliğini düşünün. "Yarın ofise..." yazdığınızda size "gideceğim" önerisinde bulunur. LLM’ler bu mantığın petabaytlarca internet verisiyle beslenmiş, milyarlarca kuralı aynı anda işleyen devasa versiyonlarıdır. Aradaki temel fark ise ölçek ve bağlam kurma kabiliyetidir.

Bu dönüşümün temeli 2017 yılında yayımlanan ve doğal dil işlemeyi (NLP) kökünden değiştiren Attention Is All You Need makalesine dayanır. Araştırmacılar, kelimeleri sırayla işlemek yerine aynı anda tüm cümlenin bağlamını okuyabilen "Transformer" mimarisini geliştirdi. Bu sayede bir model, metnin başındaki bir özne ile sayfalar sonraki bir zamir arasındaki bağı koparmadan takip edebilir hale geldi. Bugün gelinen noktada, yazılım dünyasında rekabet avantajı elde etmek isteyen profesyoneller için LLM teknolojilerine hakim olmak yalnızca bir artı değil, temel bir mühendislik gereksinimi haline dönüştü.

Temel Yapı Taşları: Token Nedir ve Parametre Neyi İfade Eder?

Bir LLM'in nasıl çalıştığını kavramak için modellerin dünyayı nasıl algıladığını bilmek gerekir. Bilgisayarlar bizim gibi harfleri veya kelimeleri doğrudan okuyamaz; sayıları işler.

Token Nedir?

Bilgisayarlar metinleri doğrudan işleyemediği için metinler önce "token" adı verilen en küçük anlamlı parçalara bölünür. Token nedir sorusunun pratik cevabı; bazen tek bir kelime, bazen bir hece veya kelime kökü, bazen de bir noktalama işaretidir.

Örneğin İngilizcede 1000 kelimelik bir metin ortalama 1300–1400 tokene karşılık gelir. Türkçe gibi eklemeli dillerde kelimeler birden fazla ek aldığı için tek bir kelime birkaç farklı tokene ayrılabilir ("kitap-lar-ımız-dan" gibi). Bir modelin eğitim maliyeti, API ücretlendirmesi ve bağlam penceresi (context window) doğrudan bu token sayıları üzerinden hesaplanır.

Parametre Nedir?

Modellerden bahsederken sıkça duyduğumuz "8B", "70B" ya da "405B" gibi ifadeler modelin büyüklüğünü gösterir. Parametre nedir dediğimizde, insan beynindeki nöronlar arasındaki sinapsların dijital karşılığını düşünebiliriz.

Parametreler, yapay sinir ağının eğitim sırasında optimize ettiği ağırlıklar (weights) ve sapmalardır (biases). Model eğitildikçe bu ağırlıklar ayarlanır ve kelimeler arasındaki anlamsal ilişkiler bu sayılarda saklanır. Parametre sayısı arttıkça modelin soyutlama, mantık yürütme ve karmaşık problemleri çözme yeteneği genellikle artar; ancak buna paralel olarak ihtiyaç duyulan donanım maliyeti ve gecikme süresi de katlanır.

Adım Adım: Bir Dil Modeli Nasıl Eğitilir?

Bir büyük dil modelini sıfırdan alıp canlıya almak aylar süren yoğun veri mühendisliği ve yüksek işlem gücü gerektirir. Dil modeli nasıl eğitilir sürecini 4 ana aşamada özetleyebiliriz:

1. Veri Toplama ve Temizleme (Data Preprocessing)

Her şey internetin taranmasıyla başlar: Web siteleri, açık kaynaklı kod depoları, akademik makaleler, kitaplar ve forumlar taranarak toplanır. Ancak internet verisi doğrudan kullanılamaz; ciddi bir temizlik gerekir:

• Yinelenen (duplicate) içerikler ayıklanır.

• HTML etiketleri ve anlamsız karakter dizileri temizlenir.

• Toksik, nefret söylemi içeren ve kişisel veri barındıran kısımlar filtrelenir.

Eğitim verisinin kalitesi, modelin başarısını doğrudan belirler. Veri bilimi dünyasındaki "çöp girerse çöp çıkar" kuralı büyük dil modellerinde de aynen geçerlidir.

2. Ön Eğitim (Pre-Training)

Sürecin en pahalı, en uzun ve enerji tüketimi en yüksek aşamasıdır. Binlerce yüksek performanslı GPU haftalarca, bazen aylarca aralıksız çalışır.

Bu aşamada model denetimsiz (unsupervised) olarak eğitilir. Modele trilyonlarca kelimelik metin verilir; metindeki bazı kelimeler gizlenir ve modelden bir sonraki kelimeyi tahmin etmesi istenir. Model milyarlarca kez hata yapar, geriye yayılım (backpropagation) ile parametre ağırlıklarını günceller ve zamanla dilbilgisini, cümle akışını ve genel dünya bilgisini öğrenir. Ön eğitim bittiğinde elimizde henüz bir asistan gibi davranmayan bir "Temel Model" (Base Model) bulunur.

3. İnce Ayar (Supervised Fine-Tuning - SFT)

Temel model dili çok iyi bilse de iyi bir asistan değildir. Ona "Fransa'nın başkenti neresidir?" diye sorduğunuzda soruyu yanıtlamak yerine "Almanya'nın başkenti neresidir?" şeklinde soruyu devam ettirebilir. Çünkü tek bildiği metni uzatmaktır.

SFT aşamasında modele soru-cevap formatında kaliteli veri setleri sunulur:

• Kullanıcı: Python'da liste nasıl ters çevrilir?

• Asistan: list.reverse() metodunu veya [::-1] dilimleme yöntemini kullanabilirsiniz.

Bu talimat eğitimi sayesinde model bir soruya doğrudan yanıt vermeyi, kod açıklamayı veya metin özetlemeyi öğrenir.

4. Hizalama (Alignment: RLHF ve DPO)

Model artık talimatları anlıyor olsa da yanıltıcı veya saldırgan çıktılar üretebilir. İşte bu noktada insan devreye girer. Hugging Face LLM Alignment Rehberi gibi kaynaklarda detaylandırılan RLHF (Reinforcement Learning from Human Feedback) ve DPO (Direct Preference Optimization) yöntemleri uygulanır.

İnsan etiketleyiciler, modelin ürettiği alternatif yanıtları karşılaştırarak en güvenli ve en doğru olanı puanlar. Model, bu geri bildirimleri ödül/ceza mekanizmasıyla öğrenerek kullanıcıya faydalı, tarafsız ve zararsız yanıtlar sunmaya başlar. Öte yandan modellerin ürettiği bu yanıtların güvenilirliğini ve olgusal doğruluğunu test etmek için DeepMind SAFE sistemi gibi otomatik denetim mekanizmaları devreye girerek halüsinasyon riskini en aza indirmeyi amaçlar.

Modelleri Özelleştirmek ve Geliştirici Dünyası

Günümüzde büyük dil modellerini kullanmak için yalnızca dev teknoloji şirketlerinin bulut servislerine bağımlı değiliz. Açık kaynaklı ekosistemin büyümesiyle birlikte geliştiriciler, quantization (nicemleme) teknikleri sayesinde 8-bit veya 4-bit seviyesine indirgenmiş modelleri kendi yerel donanımlarında çalıştırabiliyor.

LoRA (Low-Rank Adaptation) gibi parametre verimli ince ayar (PEFT) teknikleri ise devasa modellerin tamamını yeniden eğitmek yerine yalnızca küçük bir adaptör katmanını güncelleyerek kurumlara özel dikey modeller üretmeyi mümkün kılıyor. Bu dönüşümü kendi projelerine taşımak isteyen mühendisler için LLM ekosistemi ve geliştirici eğitimleri, modelleri API'lar, açık kaynak kütüphaneler ve RAG (Retrieval-Augmented Generation) mimarileriyle harmanlama noktasında kritik bir rol üstleniyor.

Büyük dil modelleri sihirli birer bilinç değil; insanlığın yazılı mirasını matematiksel ağırlıklara dönüştüren devasa optimizasyon sistemleridir. Tokenizasyon, ön eğitim ve hizalama mantığını kavramak, bu araçları yalnızca kullanan değil, onları yöneten ve projelerine entegre eden tarafta yer almanın ilk adımıdır.