Bölüm 3.2’de beş dakikada gelen prototipi konuşmuş, sözü şuraya bağlamıştım: bir sonraki bölümde buluta hiç uğramadan çalışmayı konuşacağız. Sözümü tutuyorum. Lokal LLM meselesi sahada genelde iki cümleye sıkışıyor: “Kod benim makinemden çıkmaz” ve “jeton parası ödemem”. İkisi de doğru. Kimsenin söylemediği üçüncü cümle şu: kabloyu şebekeden çektiğiniz anda elektriği, jeneratörü ve bakımı da siz üstlenirsiniz. […]
Bir sayfayı modele yedirme işini çoğumuz aynı şekilde çözüyoruz: file_get_contents, biraz strip_tags, üstüne iki regex, sonra gönder gitsin. Sonuç da hep aynı oluyor. Model cevabın yarısını üst menüden, çeyreğini KVKK metninden topluyor, geri kalanı da “Sepetim (0)” yazısından ibaret kalıyor. Geçen aylarda modelin hafızasının Dory’ye dönmesini konuşmuştuk. Bu haftanın radar konusu aynı balık metaforunun öbür […]
Production ortamında karmaşık bir log silsilesini çözmesi için güvendiğim bir yapay zeka ajanıyla çalışıyordum. İlk beş dakika her şey harikaydı; mimariyi anladı, kodun zayıf noktalarını buldu. Ancak on beşinci dakikaya ve yirminci prompta geldiğimizde, o dahi yapay zeka abimiz aniden Finding Nemo’daki Dory’ye dönüştü. Bana en başta kendi verdiğim parametreleri, hatta ne yapmaya çalıştığımızı sormaya başladı.
Hepimiz NVIDIA’yı o “ekran kartı stokta yok” dönemlerinden, stokçularla verdiğimiz amansız mücadelelerden tanıyoruz. Ama Jensen Huang abimiz bu sefer bambaşka bir şey deniyor. Erhan Meydan’ın da radarımıza soktuğu gibi; NVIDIA, Nemotron 3 Super ile “Ben sadece fırıncı değilim, ekmeğin en hasını da ben yaparım” dedi.