Neyle Karşı Karşıyayız?
Arkadaşlar, elimizde 120B parametreli bir dev var. 120B ne demek biliyor musunuz? Sizin emektar bilgisayarın VRAM’inin “abi beni sal artık” diye ağlaması demek. Ama şaka bir yana, 1M token context window (bağlam penceresi) olayı tam bir çılgınlık. Kitapları, repo’ları, tüm dökümantasyonu at içine; “Hacı, 452. sayfadaki dipnotta ne diyordu?” diye sor, çat diye söylesin.
“Tam” Açık Kaynak Ne Demek?
Hani bazıları “Açık kaynak yaptık” deyip sadece modelin ağırlıklarını (weights) atıp kaçıyor ya? NVIDIA burada racon kesmiş. Veri seti burada, eğitim tarifi (training recipe) şurada… Yani “Alın, nasıl yaptığımı da görün, siz de yapın” demiş. İşte biz buna “Open Source” değil, “Full-Frontal Open Source” diyoruz.
Neden Önemli?
NVIDIA’nın stratejisi dâhiyane. “Eğer ben en iyi açık kaynak modeli verirsem, kimse gidip kapalı modellere (OpenAI, Anthropic vs.) para ödemez. Ama bu dev modeli çalıştırmak için kime gelecekler? Tabii ki benim DGX Spark cihazlarıma.” Yani adamlar yazılımı bedava verip, “E bu motoru çalıştırmak için benim benzinimden lazım” diyorlar.
Türkçe desteğinin de “mükemmel” olması, yerli projeler için Ollama veya LM Studio üzerinden lokalde koşturulacak efsane bir alternatif yaratıyor.
Sonuç:
Açık kaynak dünyası NVIDIA sayesinde vites büyüttü. Erhan Meydan’a bu güzel pas için teşekkürlerimizi iletelim; biz de gidip bir yerlerden RAM/VRAM dilenmeye başlayalım.