Bulut yapay zeka her kesintiye uğradığında aynı manzara tekrarlanıyor: ekran kararıyor, açık kalan işler donuyor, herkes aynı anda “ne oldu” diye arama yapıyor. Sonra hizmet geri geliyor ve mesele unutuluyor. Oysa sorulması gereken soru “yedeği var mı” değil. Neye bağımlı hale geldim?
Bu yazı kurulum anlatmıyor. Bir karar çerçevesi kuruyor: yapay zekayı kiralamak mı, sahibi olmak mı, yoksa ikisini nasıl bölüştürmek mi doğru.
- Bulut yapay zeka kiralamaktır. Erişim, fiyat ve kurallar kiraya verenin elindedir. Bu kötü niyet değil, kiracı olmanın doğasıdır.
- Yerel yapay zeka sahip olmaktır. Kesinti yok, abonelik yok, veri dışarı çıkmaz. Karşılığında tavan daha alçak ve kurulum emeği sizde.
- Doğru cevap ikisinden biri değil. İşi ikiye ayırmak: rutin ve hassas olan yerelde, ağır muhakeme gerektiren bulutta.
- Ayırma kriteri üç soru: iş ne kadar kritik, veri ne kadar hassas, muhakeme ne kadar derin.
- Denemek için yeni donanım almak gerekmiyor. Elinizdeki bilgisayar büyük ihtimalle yeterli.
Kesinti bir arıza değil, modelin kendisi
Bir hizmeti kiraladığınızda üç şey karşı tarafın elinde kalır. Bunları tek tek görmek, riski duygusal olmaktan çıkarıp yönetilebilir hale getirir.
Erişim. Sunucu çöktüğünde, kota dolduğunda, bölgenizde kısıt uygulandığında ya da hesabınız herhangi bir sebeple askıya alındığında iş durur. Kararı siz vermezsiniz, haberi sonradan alırsınız.
Fiyat. Bugünkü aylık ücret makul olabilir. Ama fiyatı belirleyen siz değilsiniz. İş akışınızı bir hizmetin etrafına kurduktan sonra fiyat değişirse pazarlık gücünüz kalmaz.
Kural. Model sürümü sessizce güncellenir, davranış değişir, dün işe yarayan komut bugün başka sonuç verir. Kullanım politikası değişir, bir kullanım biçimi kapanır. Üstüne kurduğunuz otomasyon haber vermeden bozulur.
Bunların hiçbiri hizmet sağlayıcının kusuru değil. Kiracı olduğunuzda evin duvarını boyayamazsınız, kirayı da siz belirlemezsiniz. Mesele beklentiyi doğru kurmak.
Sahip olmak neyi çözer, neyi çözmez
Yerel yapay zeka, modeli kendi bilgisayarınızda çalıştırmak demek. İnternet bağlantısı gerekmiyor, abonelik gerekmiyor, sorduğunuz hiçbir şey dışarı çıkmıyor. Bu üç cümle tek başına çekici geliyor ama madalyonun diğer yüzünü görmeden karar vermek yanlış olur.
Kesintisizlik
Sunucu çökmesi, kota, bölge kısıtı sizi ilgilendirmez. Bilgisayarınız açıksa yapay zeka çalışıyordur.
Veri sınırı
Müşteri bilgisi, sözleşme metni, sağlık notu, mali tablo. Hiçbiri cihazınızdan çıkmaz. Gizlilik taahhüdüne değil, fiziksel gerçeğe dayanır.
Sürüm kontrolü
Modeli siz güncellersiniz. Beğendiğiniz sürümü yıllarca kullanabilirsiniz. Akışınız haber vermeden bozulmaz.
Şunu net söyleyeyim: yerel bir model, bugünün en güçlü bulut modelinin birebir yerini tutmuyor. Çok uzun belgeleri bir arada tutmakta, çok adımlı derin muhakemede ve internete bağlanıp araştırma yapmakta bulut hâlâ önde. Yerel modeli “bedava ChatGPT” diye kurarsanız hayal kırıklığı yaşarsınız. Doğru beklenti şu: işlerinizin büyük bölümü zaten o derinliği gerektirmiyor.
Hangi iş nerede yapılmalı?
Karar tek bir soruyla verilmez. Üç ölçüt var ve çoğu iş bu ölçütlerle kolayca bir tarafa düşüyor.
| İş türü | Nerede | Neden |
|---|---|---|
| Müşteri verisi, sözleşme, mali tablo içeren metinler | Yerel | Veri hiçbir sunucuya gitmez, taahhüde değil fiziksel sınıra dayanır |
| Günlük e-posta, teklif taslağı, toplantı notu | Yerel | Rutin iş, orta seviye model fazlasıyla yeterli |
| Özetleme, yeniden yazma, çeviri | Yerel | Hacimli ve tekrarlayan iş, aylık kota yakar |
| İnternet bağlantısının olmadığı ortamda çalışma | Yerel | Tek seçenek |
| Stratejik analiz, çok adımlı muhakeme | Bulut | Tavan yüksekliği burada fark yaratır |
| Yüzlerce sayfalık dokümanla birlikte çalışma | Bulut | Uzun bağlam kapasitesi |
| Güncel bilgi gerektiren araştırma | Bulut | İnternet erişimi ve araç kullanımı |
| Teslimatı kritik, kesintiye tahammülü olmayan iş | İkisi birden. Yedeksiz tek kaynağa bağlanmayın. | |
Asıl cevap: melez kurulum
Tartışma genelde “hangisi daha iyi” diye kuruluyor. Yanlış soru. Pratikte işleyen düzen şu: hacimli ve hassas işler yerelde, seyrek ve ağır işler bulutta.
Kendi günlük kullanımınıza dürüstçe bakın. Yapay zekaya sorduklarınızın çoğu muhtemelen bir metni toparlamak, bir e-postayı düzeltmek, bir notu özetlemek, bir listeyi düzenlemek. Bunlar için en güçlü modele ihtiyacınız yok. Gerçekten derinlik isteyen soru haftada birkaç kez geliyor.
Bu bölüşmenin üç sonucu var. Abonelik sayınız artmıyor, çoğu zaman tek abonelikle idare ediyorsunuz. Hassas veri hiçbir zaman dışarı çıkmıyor. Ve bulut hizmeti kesildiğinde işiniz durmuyor, sadece yavaşlıyor.
Maliyete doğru yerden bakmak
Kiralama aylık gider, sahiplik tek seferlik yatırım. Ama bu karşılaştırma çoğu kişi için yanıltıcı, çünkü yatırımı zaten yapmışsınız. Yeni bilgisayar almanız gerekmiyor, masanızdaki makine büyük olasılıkla yeterli.
| Elinizdeki makine | Ne çalışır | Ne yapabilirsiniz |
|---|---|---|
| 8 GB RAM, ekran kartı yok | Küçük modeller | Hızlı sohbet, kısa özet, basit yeniden yazma |
| 16 GB RAM, 8 GB ekran kartı belleği | Orta boy modeller | E-posta, rapor özeti, günlük asistan işleri |
| 32 GB RAM, 16 GB ekran kartı belleği | Büyük modeller | Kod yazma, analiz, çok adımlı düşünme |
Alt satırdaki makineye sahip değilseniz bile üst satır bugün elinizde. Denemenin maliyeti sıfır. Beğenmezseniz kaldırırsınız, kaybettiğiniz tek şey yarım saat olur.
Nereden başlanır
Teknik kurulumdan önce yapılması gereken dört adım var. Hiçbiri bilgisayar bilgisi gerektirmiyor.
- Bir hafta boyunca not tutun. Yapay zekaya ne sorduğunuzu tek tek yazın. Tahmin etmeyin, kaydedin. Sonuç çoğu kişiyi şaşırtıyor.
- Listeyi ikiye ayırın. Bir tarafa rutin ve hassas olanları, diğer tarafa gerçekten derin düşünme isteyenleri koyun.
- Rutin tarafı yerele taşıyın. Tek bir modelle başlayın. Aynı anda beş model denemek karar vermeyi zorlaştırır.
- Bir ay sonra aboneliğinize bakın. Hâlâ gerekiyor mu, yoksa ayda üç kez mi açıyorsunuz? Karar o zaman kendiliğinden netleşir.
Kurulumun teknik tarafı bu yazının konusu değil. Ollama ve LM Studio ile adım adım kurulum, hangi modeli nereden indireceğiniz ve bellek kullanımını yarıya indiren ayar ayrı bir rehberde: Yerelde çalışan yapay zeka kurulum rehberi.
Sık sorulan sorular
Yerel yapay zeka bulut modelleri kadar iyi mi?
Genel olarak hayır. En üst seviye bulut modelleri uzun bağlam, çok adımlı muhakeme ve araç kullanımında önde. Ancak günlük işlerin büyük bölümü bu derinliği gerektirmiyor. Doğru soru “hangisi daha güçlü” değil, “bu iş için yeterli mi”.
Ekran kartım yok, yine de çalışır mı?
Çalışır. Küçük modeller yalnızca işlemci ve sistem belleğiyle çalışabiliyor. Yanıtlar daha yavaş gelir ama iş görür. Sohbet ve kısa özet için fazlasıyla yeterli.
Şirket verisi için gerçekten güvenli mi?
Model cihazınızda çalıştığı için veri hiçbir sunucuya gitmiyor. Bu, bir gizlilik sözleşmesine güvenmekten farklı bir güvence: teknik olarak dışarı çıkacak bir yol yok. Buna karşılık cihazın kendi güvenliği artık tamamen sizin sorumluluğunuzda.
Aboneliğimi tamamen iptal edebilir miyim?
Çoğu kişi için tavsiyem hayır. Melez düzen daha sağlıklı: rutin işleri yerele taşıyın, derin muhakeme için tek bir abonelik tutun. İptal kararını bir ay ölçüm yaptıktan sonra verin.
Bu bir moda mı, kalıcı mı?
Yön belli: modeller küçülürken yetenekleri artıyor, aynı işi daha az bellekle yapan sürümler çıkıyor. Bir yıl önce güçlü bir makine isteyen model bugün sıradan bir dizüstünde çalışıyor. Bu eğilim tersine dönmüyor.
Özet
Bulut yapay zeka kolaylık satıyor ve bu kolaylık gerçek. Ama kolaylığın bedeli bağımlılık. Kesinti olduğunda hissettiğiniz çaresizlik, aslında o bağımlılığın faturası.
Çözüm bulutu terk etmek değil. Elinizde bir alternatif bulundurmak, hassas işleri kendi cihazınızda tutmak ve hangi işin nerede yapılacağına bilinçli karar vermek. Bunu bir kez kurduğunuzda bir sonraki kesinti sizin için haber olmaktan çıkıyor.
Devamı:
- Yerelde çalışan yapay zeka: Ollama ve LM Studio ile kurulum rehberi (adım adım teknik anlatım, model eşleştirme tablosu ve sık sorulan sorular)
