Mistral Large 4 Kurum İçi Mimari ve Lisans Rehberi: 1 Trilyon Parametreli MoE Gerçekte Ne İster?

Mistral AI tarafından şirket içinde “Le Chonk” kod adıyla geliştirilen ve 29 Ekim 2026’da açık ağırlıklı olarak Hugging Face üzerinde yayınlanan Mistral Large 4, yaklaşık 1 trilyon parametreli MoE (Mixture of Experts) mimarisinde çok modlu (multimodal) ve akıl yürütme (reasoning) yeteneklerini tek modelde birleştirerek resmi FP8 ve Blackwell NVFP4 formatlarıyla kurum içi veri merkezlerine taşıyor. Hassas dokümanlarını, kaynak kodlarını veya müşteri kayıtlarını yurt dışı bulut API servislerine gönderemeyen regüle kurumlar için bu sürüm, açık ağırlıklı sınır modellerde yılın en büyük ölçek sıçramalarından biridir.

Bununla birlikte 1 trilyon parametreli bir MoE ağırlık paketini kurum içi sunucu odasına indirmek, tek bir GPU kartında 8B veya 32B yerel LLM ayağa kaldırmaya benzemez. vLLM ile örnek inference kurulumundaki 8 adet NVIDIA H200 GPU gereksinimi, Mistral’in milyon token başına 0,70 / 2,10 dolarlık düşük bulut API fiyatı ve değiştirilmiş MIT lisansındaki üçüncü taraf Model-as-a-Service (MaaS) koşulu (ayrı ticari lisans şartı) yan yana konulduğunda; altyapı ve mimari ekiplerinin donanım siparişi vermeden önce soğukkanlı bir maliyet ve kapasite hesabı yapması gerekir. Bu rehber, 44. Hafta Kurumsal Yapay Zeka Bültenimizdeki özeti saha mühendisliği detayıyla genişletir.

Bilgilendirme: Aşağıdaki teknik veriler Mistral AI’ın resmi duyurusu, model dokümantasyonu ve Hugging Face ortak teknik yazısından derlenmiştir. Lisans değerlendirmeleri mühendislik ve satın alma farkındalığı içindir; hukuki danışmanlık yerine geçmez. Kurum içi altyapı ve görev odaklı küçük modellerle ilgili bölümlerde RuneLab’ın kendi ürünlerine ve açık ağırlıklı modellerine şeffaf biçimde bağlantı verilmiştir.

• Mimari gerçekler ve doküman farkları: ~1 trilyon toplam parametre (~49B–52B aktif), metin + görsel girdi, 1 milyon token bağlam ve Low/Medium/High akıl yürütme (reasoning) modları.
• VRAM ihtiyacı ve toplam sahip olma maliyeti (TCO) hesabı: Resmi FP8 örnek kurulumunun neden 8x H200 düğümü istediği, Unsloth’un 233 GB’lık 1-bit GGUF denemesinin neyden feragat ettiği ve 0,70/2,10 dolar API fiyatıyla yatırım karşılaştırması.
• Küçük yerel modeller nerede daha iyi sonuç verir: Türkçe SQL, hukuk RAG ve departman asistanlarında tek sunuculuk 9B–70B modeller ile trilyon ölçekli MoE modellerin hibrit kurgusu.

Mistral AI, Mistral Large 4’ü 6 Ekim’de genel önizlemeye açtı ve 29 Ekim’de açık ağırlıklı olarak yayımladı; yayına resmi duyuru, model dokümantasyonu ve Hugging Face teknik rehberi eşlik etti. Model, görsel anlama, kodlama ve derin akıl yürütmeyi ayrı modellere bölmek yerine Avrupa’da sıfırdan eğitilmiş, şirketin tek ve ana (amiral) modeli olarak sunuluyor.

Mistral’in kendi duyuru yazısı ile Hugging Face ortak blog yazısını satır satır karşılaştıran ekipler, bazı ortak kıyaslama testlerinde küçük puan farklılıkları da görecektir (değerlendirme betiği sürümü, örnekleme sıcaklığı veya muhakeme modu farklarından kaynaklanan tipik sapmalar). İngilizce leaderboard’lardaki (sıralama tablolarındaki) virgülden sonraki farkları tartışmak yerine bu detayı net bir mühendislik ilkesi olarak okuyun: Türkçe performansı ayrıca raporlanmamış hiçbir açık ağırlıklı model için kendi veri setinizde test yapmadan altı haneli GPU yatırımı onaylamayın.

MoE mimarisiyle yeni tanışan karar vericiler çoğu zaman “50 milyar aktif parametre” ifadesini duyduğunda modelin iki adet 48 GB kart üzerinde yoğun (dense) bir 50B model gibi çalışacağını varsayar. Etkileşimli quantization rehberimizde ayrıntılı gösterdiğimiz üzere MoE modelleri token başına işlem (FLOP) ile bellek kapasitesini birbirinden ayırır: tek bir tokenda yalnızca ~49B–52B parametre devreye girse bile, yönlendiricinin (router) PCIe/CPU darboğazına takılmadan uzmanlar arasında milisaniyelik seçim yapabilmesi için yaklaşık 1 trilyon parametrenin tamamının yüksek bant genişlikli GPU HBM belleğinde hazır beklemesi gerekir.

Bu fiziksel kural, bu hafta konuşulan üç farklı kurulum profilini doğrudan açıklar:

• Resmi FP8 üretim kurulumu (8x NVIDIA H200): Parametre başına 1 bayt hesabıyla yalnızca ham ağırlıklar bile aktivasyonlar, görsel kodlayıcı tamponları ve KV önbelleği hariç yaklaşık 1 TB bellek kaplar. Bu nedenle Hugging Face üzerindeki referans vLLM örnek kurulumu 8 adet H200 GPU (8 × 141 GB = 1.128 GB HBM3e) kullanır ve bağlam uzunluğunu teorik 1 milyon yerine 131.072 token olarak sınırlar.
• Blackwell NVFP4 ve ince ayar (fine-tuning) profili: Resmi NVFP4 checkpoint’leri Blackwell nesli tensör çekirdeklerinde ağırlıkların bellekte kapladığı yeri yaklaşık yarıya indirirken, yayınlanan referans fine-tuning (ince ayar) betiği 8 adet NVIDIA B300 GPU hedefler.
• Unsloth deneysel 1-bit GGUF (233 GB): Sürümün hemen ardından Unsloth ekibi dinamik 1-bit/karma hassasiyetli GGUF paketiyle ~1,1 TB’lık boyutu yaklaşık %80 küçülterek 233 GB seviyesine indirdi ve kendi testlerinde %91 top-1 doğruluk korunduğunu bildirdi. Tek iş istasyonunda Ar-Ge incelemesi için etkileyici bir mühendislik başarısı olsa da 2-bit altı aşırı sıkıştırma ilk olarak nadir token hatırlamasını, Türkçe gibi sondan eklemeli dillerdeki ek hassasiyetini ve çok basamaklı finansal/hukuki rakam tutarlılığını aşındırır. Regüle üretim ortamında 1-bit ağırlıkları alan bazlı regresyon testinden geçirmeden devreye almayın.

Varsayılan muhakeme ayarındaki gizli maliyete dikkat edin: Mistral Large 4 varsayılan olarak High (yüksek) muhakeme modunda açılır. Basit bir JSON sınıflandırma servisinde parametreyi Low veya Medium yapmayı unutursanız üretilen token sayısı ve gecikme süresi hızla katlanır.

Standart 8B–70B yerel modellerin yetersiz kaldığı ve Mistral Large 4 ölçeğindeki bir kurum içi modelin gerçekten fark yarattığı üç kurumsal senaryo vardır:

1. Görsel, tablo ve taranmış ekler içeren 100K+ tokenlık çoklu dosya sentezi: Şirket birleşme/satın alma (M&A) veri odaları, yüzlerce sayfalık teknik ihale şartnameleri ve karmaşık ticari hasar dosyaları; mühendislik şemaları ile çapraz referanslı ekleri bir arada barındırır. Küçük yoğun modeller 32K–64K bağlamdan sonra talimat takibini kaybederken 1T MoE mimarisi uzun bağlam muhakemesini korur.
2. Dış ağa kapalı ortamlarda çok araçlı karmaşık ajan orkestrasyonu: Kurum ağından dışarı tek bayt çıkamayan bir mühendislik veya analist ajanının beşten fazla katı şemalı iç API aracını zincirleme planlaması gerektiğinde büyük MoE modeller hatalı parametre tekrarlarını belirgin biçimde azaltır.
3. Kurum içi model damıtma (distillation) için “öğretmen model” kullanımı: En verimli kurumsal yaklaşımlardan biri, 1 trilyonluk modeli 5.000 çalışanın anlık sohbet trafiğine doğrudan bağlamak yerine; kapalı kümede sentetik veri üretimi ve kalite puanlama için öğretmen model olarak kullanıp model distillation yöntemiyle tek GPU’da koşan hızlı görev modelleri eğitmektir.

Buna karşılık günlük kurumsal yapay zeka taleplerinin büyük çoğunluğu için Mistral Large 4 aşırı büyük ve maliyetlidir. İlişkisel veritabanı üzerinde Türkçe doğal dilden raporlama yapacaksanız tek bir GPU’nun küçük bir diliminde çalışan 9B parametreli Hati Glint SQL çok daha pratik bir çözümdür. Hukuk veya uyum ekibiniz Türkçe mevzuat ve sözleşmeler üzerinde kaynak doğrulamalı yanıt arıyorsa başarıyı trilyonluk üretici modelden çok tablo duyarlı doküman ayrıştırma, Kenning Turkish Legal gibi alan odaklı embedding modelleri ve doğru boyutlandırılmış RuneBox sunucuları üzerinde çalışan RuneDesk RAG mimarisi belirler.

Satın alma veya altyapı yatırımına geçmeden önce üç dağıtım yolunu maliyet ve lisans sınırlarıyla yan yana değerlendirin:

Özellikle B2B yazılım üreticileri, sistem entegratörleri ve holding bünyesindeki grup teknoloji şirketleri Mistral Ecosystem Open-Weight License metnindeki MaaS ayrımına dikkat etmelidir. Lisans metni “API’yi yeniden satmayın” demekten daha geniştir: lisans sahibi veya bağlı şirketlerinden biri Model as a Service işi yürütüyorsa, lisans sahibinin modeli veya türevlerini herhangi bir ticari amaçla kullanmadan önce Mistral ile ayrı ticari lisans imzalaması gerekir. Model as a Service, üçüncü bir tarafa örneğin API veya barındırılan uç nokta üzerinden çıkarım ya da eğitim sonrası ince ayar erişimi verilmesi ve bu tarafın girdiler, parametreler veya eğitim verisi üzerinde anlamlı kontrol kurabilmesi demektir. Model yeteneklerinin yalnızca belirli özelliklere veya arayüzlere gömüldüğü son kullanıcı ürünleri ile başkalarının barındırdığı modellere istek iletmekten ibaret hizmetler bu tanımın dışındadır. Modeli veya türevlerini üçüncü taraflara açmayan şirket içi kullanım ise muaftır. Bu nedenle bir holdingin iki soruyu yanıtlaması gerekir: Grup şirketlerinden biri model erişimi satıyor mu ve bu kurulum lisans sahibi dışında birine ulaşıyor mu? Holding içi faturalama ve çok kiracılı B2B SaaS yapılarının bu tanımlarla ilişkisini kurumsal hukuk müşavirinizle mutlaka teyit edin.

Milyon tokenda $0,70 girdi ve $2,10 çıktı fiyatıyla Mistral API üzerinde harcayacağınız 5.000 ABD doları, 3:1 girdi-çıktı oranıyla (milyonda 1,05 dolar karma fiyat) yaklaşık 4,8 milyar token satın alır. Sekiz adet H200 rafını tartışmadan önce ilk 50 dolarlık anonim Türkçe kıyaslama testini mutlaka çalıştırın.

1. Önce API üzerinden 100 soruluk Türkçe + çok modlu test koşun: Hassas veri içermeyen anonimleştirilmiş Türkçe finansal tablolar, taranmış formlar, sözleşme maddeleri ve çok adımlı araç çağrılarıyla Mistral Large 4’ü RuneGate gibi OpenAI uyumlu bir ağ geçidi arkasında Low, Medium ve High muhakeme modlarında ölçün.
2. Tek sunuculuk referans yığınla kıyaslayın: Aynı 100 soruyu güçlü erişim katmanı ve speculative decoding hızlandırmasıyla çalışan 27B–70B sınıfı bir açık ağırlıklı modelle karşılaştırın; kalite farkının 8 kat GPU yatırımına değip değmediğini rakamla görün.
3. KV önbelleğini gerçek eşzamanlı kullanıcıya göre boyutlandırın: Donanımı yalnızca statik ağırlık boyutuna göre değil; eşzamanlı istek sayısı × ortalama bağlam (ör. 64K vs. 256K) × gecikme SLA hedefine göre hesaplayın. Uygulamalı Local LLM ve On-Premise AI Eğitimi müfredatımızda vLLM ve SGLang kapasite formüllerini uçtan uca çalışıyoruz.
4. İstemlerin yalnızca %15’i dev model istiyorsa hibrit yönlendirme kurun: Rutin RAG ve veri çıkarım trafiğinin %85’ini kompakt kurum içi GPU’larda tutup yalnızca en zorlu muhakeme çağrılarını üst katmana aktarın veya uçtan uca küme boyutlandırma için RuneLab NexTech ekibiyle çalışın.

Hugging Face üzerinde sınır sınıfı büyük bir açık ağırlık yayınlandığında altyapı ekipleri ile bütçe sahipleri arasında kapasite hedefi ile sunucu maliyeti dengesi gündeme gelir. Sahada gördüğümüz üç somut mimari desen, yanlış donanım yatırımlarını en baştan önler.

Tek bir iş biriminin dahili soru-cevap asistanı için 8 adet H200 GPU’lu bir sunucu satın alındığında, 24 saatlik ortalama GPU kullanım oranı çoğu zaman çok düşük kalır ve güçlü bir model atıl veri merkezi maliyetine dönüşür.

1 trilyon parametreli kurum içi kurulumun yatırım getirisini kanıtladığı yer; hukuk sözleşme incelemesi, kredi komitesi dosya sentezi ve kurum içi yazılım geliştirme gibi birden fazla regüle birimin aynı ortak GPU havuzunu paylaştığı büyük banka, telekom, savunma veya sanayi platformlarıdır.

Holding çatısı altındaki bir teknoloji iştiraki bu ortak kümeyi grup şirketlerine faturalandırıyorsa, grup içi maliyet paylaşımının Mistral lisansı açısından şirket içi kullanım sayıldığını hukuk birimiyle baştan yazılı netleştirmelidir: lisans, kardeş şirketin üçüncü taraf sayılıp sayılmadığını belirtmez ve herhangi bir bağlı şirketteki MaaS işi ayrı lisans şartını devreye sokar. Tek departmanlı projelerde ise 1–2 GPU’luk bu işe ayrılmış sunucular çok daha hızlı geri dönüş sağlar.

Yalnızca metin okuyan yerel LLM kurulumları; enerji, üretim, inşaat ve savunma ihalelerinde 200 sayfalık Türkçe idari şartname ile taranmış teknik şemaların, tolerans tablolarının ve saha muayene fotoğraflarının tek dosyada birleştiği işlerde sınıra dayanır.

Ayrı OCR, görsel açıklama ve metin muhakeme modellerini uç uca eklemek, teknik çizimdeki bir parça numarası ile otuz sayfa sonraki cezai şart maddesi arasındaki görsel-metinsel bağı sıklıkla koparır.

Tutarlılığın kritik olduğu bu tür ihale ve kalite dosyalarında Mistral Large 4’ü kurum ağında çalıştırmak görsel tablolarla Türkçe şartname maddelerini tek geçişte çapraz doğrulamayı mümkün kılar; ancak eşzamanlı kullanıcıların KV önbelleğini tüketmemesi için istek başına bağlam tavanını 64K–128K bandında sınırlandırmak gerekir.

Muhakeme (reasoning) destekli MoE modellerde yapılan en yaygın işletim hatası, her API çağrısında en yüksek muhakeme modunu (High) açık bırakmaktır. Uzun iç düşünme zincirleri hem yanıt süresini uzatır hem de bekleyen diğer kullanıcıların GPU bellek bant genişliğini tüketir.

Deneyimli platform ekipleri Mistral Large 4’ü kurum içi ağ geçidi arkasında Low, Medium ve High akıl yürütme bütçelerine karşılık gelen üç ayrı model takma adıyla (alias) sunar.

Rutin JSON veri çıkarımı ve özetleme istekleri varsayılan olarak Low modunda, kod inceleme ve SQL doğrulama görevleri Medium modunda çalışır; High modu ise yalnızca çoklu belge çelişki analizi veya kök neden incelemelerine ayrılır.

Kademeli muhakeme bütçesini aynı iç ağdaki küçük uzman modellerle birleştirmek, gereğinden fazla GPU rafı satın almadan en zor problemlerde sınır model kalitesi almanızı sağlar.

Hugging Face üzerinde yayınlanan resmi FP8 vLLM örnek kurulumu (131.072 token bağlam uzunluğunda) 8 adet NVIDIA H200 GPU kullanıyor. Blackwell mimarisi için resmi NVFP4 ağırlıkları da sunulmuştur; Unsloth topluluğunun deneysel 1-bit GGUF sürümü boyutu 233 GB seviyesine indirse de üretim ortamındaki Türkçe ve sayısal hassasiyet için kapsamlı doğrulama şarttır.

Evet, değiştirilmiş MIT tabanlı bu lisans ticari kullanıma, model ağırlıklarını özelleştirmeye ve ince ayar (fine-tuning) yapmaya izin verir. Temel koşul şudur: lisans sahibi veya bağlı şirketlerinden biri Model-as-a-Service (MaaS) işi yürütüyorsa, modeli ticari amaçla kullanmadan önce Mistral AI’dan ayrı ticari lisans alması gerekir. Modeli üçüncü taraflara açmayan şirket içi kullanım bu koşuldan muaftır.

Mistral Large 4 yaklaşık 1 trilyon toplam parametreye sahip bir MoE (Mixture of Experts) modelidir. Aktif parametre sayısı Hugging Face lansman yazısında ~49 milyar, Mistral resmi dokümantasyonunda ise 52 milyar olarak bildiriliyor.

Mistral API fiyatı 1 milyon girdi tokenında 0,70 ABD doları ve çıktıda 2,10 ABD doları gibi oldukça rekabetçi bir seviyededir. Sekiz adet H200 sınıfı sunucu yatırımı yalnızca verinin kurum ağından çıkmasının yasak olduğu regüle iş yüklerinde veya çok yüksek, kesintisiz 7/24 token hacmi bulunan kurumsal platformlarda ekonomik başabaş noktasına ulaşır.