Büyük dil modeli nedir?

Model metni token adı verilen küçük parçalara böler. Bir token bir sözcük, bir sözcük parçası ya da tek bir karakter olabilir. Model bir cümleyi bu parçaların dizisi olarak okur ve yazar.

Eğitimin ilk aşaması ön eğitimdir. Model çok büyük bir metin derleminde, önceki metne bakarak sıradaki parçayı tahmin etmeyi öğrenir. Günümüzdeki modeller transformer adlı bir mimariyle kurulur. Bu mimari dikkat (attention) yöntemine dayanır; yöntem her parçanın öbür parçalarla ilişkisini tartar.

Ön eğitimden çıkan model soru yanıtlamakta ve talimat izlemekte kendiliğinden iyi değildir. İkinci aşamada model, insanların yazdığı örnek cevaplarla ince ayardan geçer. Ardından insanların cevapları sıraladığı geri bildirimle yeniden eğitilir; bu yönteme insan geri bildirimiyle pekiştirmeli öğrenme (RLHF) denir.

Cevap yazılırken model her adımda sıradaki parçanın olasılığını hesaplar ve bir parça seçer. Sıcaklık (temperature) adı verilen ayar bu seçimin ne kadar serbest olacağını belirler. En düşük ayarda bile aynı soruya her seferinde birebir aynı cevap gelmeyebilir.

Model en çok girdisi ve çıktısı metin olan görevlerde işe yarar. Gelen e-postayı konusuna göre ayırmak, uzun bir sözleşmeyi özetlemek ve serbest yazılmış bir talepten ad, tarih ve tutar çıkarmak tipik örneklerdir. Teklif, yanıt ve rapor için ilk taslağı yazmak da aynı gruptadır.

Model yeni bir işi, yeniden eğitilmeden de öğrenebilir. İsteğin içine yazılan talimat ve birkaç örnek, modele işin ne olduğunu gösterir. Böylece aynı model, her görev için ayrı talimatla birden çok işte kullanılır.

Sohbet robotu ve yapay zekâ ajanı da bu modelin üstüne kurulur. Sohbet robotu modeli müşteriyle yazışmada kullanır. Yapay zekâ ajanı ise modeli araçlara bağlar ve işi adım adım yürütür. İkisi de ayrı birer uygulamadır; büyük dil modeli onların ortak parçasıdır.

Modelin genel bilgisi eğitim verisinden gelir. İşletmenin fiyat listesi, müşteri kaydı ya da iç prosedürü bu bilginin içinde yer almaz; bu yüzden istek sırasında modele verilir. Modelin bir seferde okuyabildiği metin miktarı sınırlıdır; bu sınıra bağlam penceresi denir.

İşletme verisini modele ulaştırmak için kullanılan yöntemin adı kaynak getirmeli üretimdir (RAG). Soru geldiğinde önce belge deposunda ilgili pasaj aranır. Bulunan pasaj soruyla birlikte modele verilir ve model cevabı o pasaja dayanarak yazar. Yöntem güncel bilgi, alana özgü bilgi ve kaynak gösterilmesi gereken işlerde kullanılır.

Cevabın kalitesi kaynağın kalitesine bağlıdır. Belge eski, eksik ya da çelişkiliyse cevap da öyle olur. Bu yüzden hangi belgenin asıl kaynak sayılacağı ve ne zaman güncelleneceği kurulumda yazılır. Modeli ek veriyle yeniden eğitmek (ince ayar) ayrı bir yoldur; bu yol, modeli bir alana, bir göreve ya da bir yazım biçimine uydurmak gerektiğinde seçilir.

İlk sınır uydurma cevaptır. Model emin olmadığı yerde akıcı ve inandırıcı ama yanlış bir cümle kurabilir; bu duruma halüsinasyon denir. 2025 tarihli bir araştırma bunun nedenini eğitim ve değerlendirme biçiminde görür. Yaygın değerlendirme testlerinde tahmin yürüten model, bilmediğini söyleyen modelden daha yüksek puan alır.

Anthropic, belgelerinde riski azaltan yolları sıralar. Modele bilmediğini söyleme izni vermek, cevabı verilen belgeden alıntıyla desteklemek ve her iddia için kaynak istemek bu yolların başında gelir. Bu yollar riski azaltır ama tamamen ortadan kaldırmaz; kritik bilgi ayrıca doğrulanır.

İkinci sınır güncel olmayan bilgidir. Modelin bilgisi eğitim verisinin kesildiği tarihte kalır ve sonraki fiyat, mevzuat ya da ürün değişikliğini kapsamaz. Model üreticileri bu tarihi her model için ayrıca yayımlar. Güncel bilgi gereken işte cevap kaynaktan getirilir.

Üçüncü sınır tutarsızlıktır. Aynı soruya iki ayrı denemede farklı cevap gelebilir. Tutar, tarih ve hesap gibi kesin alanlar ayrıca denetlenir. Müşteriye giden, ödeme yapan ya da kayıt silen adımlar insan onayına bağlanır.

Modele gönderilen metin, modeli çalıştıran sağlayıcının altyapısında işlenir. Bu yüzden ilk konu hangi verinin dışarı çıktığıdır. Kişisel veri gerekmedikçe metinden çıkarılır ve dışarıya yalnız soru ve soruyla ilgili pasaj gönderilir.

İkinci konu model eğitimidir. Anthropic, ticari ürünlerinden gelen girdi ve çıktıları varsayılan olarak model eğitiminde kullanmadığını yazar. OpenAI da API'ye gönderilen verinin, müşteri açıkça izin vermedikçe eğitimde kullanılmadığını belirtir. Tüketici uygulamalarında ayar farklı olabilir; çalışanların kişisel hesapla şirket verisi yüklemesi bu yüzden ayrıca düzenlenir.

Üçüncü konu KVKK yükümlülükleridir. Verinin hangi sağlayıcıya ve hangi ülkeye aktarıldığı aydınlatma metninde yazılır; yurt dışına aktarım KVKK'nın 9. maddesi açısından değerlendirilir. Saklama süresi ve erişim yetkisi işletmenin saklama ve imha politikasında yer alır. Bazı sağlayıcılar veriyi belirli bir bölgede işleme seçeneği sunar; seçilen bölge sözleşmede belirtilir.

Seçim işin niteliğiyle başlar. Kısa mesajları sınıflandıran bir iş ile uzun belge okuyan bir iş aynı modeli gerektirmez. Üreticiler aynı aile içinde hızlı ve hafif modellerle daha yavaş ama daha kapsamlı modelleri birlikte sunar; hız, maliyet ve doğruluk dengesi her iş için ayrı kurulur.

Karar işletmenin kendi örnekleriyle verilir. Gerçek taleplerden bir deneme seti hazırlanır, aday modeller aynı sorularla denenir ve cevaplar okunur. Model değiştiğinde aynı set yeniden çalıştırılır.

Bağlantı API üzerinden kurulur. Model CRM'e, e-posta kutusuna ya da belge deposuna bağlanır ve mevcut sistemler yerinde kalır. Her çalıştırma bir kayıt defterine işlenir. ALTAI Digital, yapay zekâ entegrasyonu hizmetinde modelin neden seçildiğini yazar ve kurulumu belgesiyle teslim eder.