AI hayallerinizdeki asıl darboğaz o devasa LLM’ler değil, onları ayakta tutan sallanan Python iskeleti mi?
C++17’de geliştirilen kilit-siz bir ajan çalışma zamanı bunu kanıtladı — saniyede 25 bin oturum patlatıyor, LangChain ise 10-50 arasında tıngır mıngır gidiyor. Forge, bu çılgın açık kaynak canavarı, bir oyuncak kıyaslama değil. ReAct döngüleri, araç çağrıları ve akış API’leri için tam teşekküllü bir orkestratör, hepsi kilit-siz ve fırtına gibi hızlı.
Şunu düşünün: Python’un Global Interpreter Lock’u (GIL) şehrin en popüler kulübündeki kıskanç bir kapı görevlisi gibi — içeride aynı anda tek bir misafir, dışarıda kuyruk sokaklara sarsa da. 64 çekirdek boş boş bekliyor, aksiyon dileniyor ama nafile. Her 5 ms’de bir herkesi dışarı atıp anlamsız bir karıştırma yapıyor. İşte AI ajan çerçeveniz bu orkestrasyon yükü altında nefes nefese kalıyor.
Forge mu? Kapı görevlisi yok, direkt VIP listesi. Saf paralel iş parçacıkları, atomik takaslarla veri elektronlar gibi süper iletkende zıplıyor. Mutex kılıç tokuşturmaları yok, çekişten kaynaklı kernel panikleri yok. Saf donanım gücü serbest.
Python Neden AI Ajanlarında Boğuluyor?
Her ünlü çerçeve — LangChain, CrewAI, AutoGen — Python’un kuyruğuna yapışmış. Prototipleme cenneti, evet. Ama üretim? Felaket. Tekil sohbet botları sorunsuz akar. Yüzlerce eşzamanlı oturuma ölçeklendiğinde — müşteri desteği sürüleri, kod inceleme hatları — patlama. Çerçeve erir.
LLM sağlayıcısı değil. Kopuk ağlar değil. Orkestrasyon katmanı kendisi. Prompt şablonlama, JSON ayrıştırma, geri çağrı zincirleri — hepsi o lanet GIL tarafından sıralı hale getiriliyor.
asyncio yardım ediyormuş gibi yapıyor, kafeinli bir cambaz gibi görevleri iç içe geçiriyor. Ama paralellik? Unut gitsin. CPU bağımlı işler tek iş parçacıklı kalıyor. LangChain’in AgentExecutor’u nesne ağaçlarıyla şişiyor: LLM sarmalayıcılar, mesaj yer tutucuları, çıktı ayrıştırıcıları, geri çağrı yöneticileri. Oturum başına binlerce yığın ayırma, her biri malloc partisi sonrası çöp toplama sarhoşluğu.
Forge her şeyi soyuyor. Bir Session yapısı? Düz 104 bayt. Atomik durum geçişleri. Görev itme? İki makine talimatı:
void push(T value) { auto node = new Node(std::move(value)); Node prev = head_.exchange(node, std::memory_order_acq_rel); // ONE atomic instruction prev->next.store(node, std::memory_order_release); // ONE store }
Hepsi bu. Görev başına 307 nanosaniye. LangChain? 50-100 mikrosaniye. Gerçek iş akışlarında katlanan 200-300 kat fark.
Kıyaslamalar — gerçek olanlar, aynı ReAct döngüsü (LLM çağrısı, araç, LLM, cevap) sahte sunucuya karşı:
Ölçüt Forge (C++17) LangChain (Python) Fark Görev başına zamanlama yükü 307 ns ~50-100 us 200-300x Oturum verimliliği 25.000/sn ~10-50/sn 500-2500x Oturum başına bellek 0.8 KB ~2-5 MB 2500-6000x Eşzamanlı ölçekleme Çekirdeklerle doğrusal GIL sınırlı YOK
Akıl almaz. Çekirdeklerle doğrusal ölçekleme — neden olmasın ki?
Kilit-Siz C++ AI Altyapı Devrimi mi?
Kilit-siz programlama büyücülük gibi geliyor — iş parçacıklarının ayak basmadan dans ettiği veri yapıları. Kilit yok, engel yok. İş parçacıkları kullanıcı alanında dönüyor, atomikler donanım bellek modelleriyle tutarlılık sağlıyor. Forge Michael-Scott kuyrukları, tehlike işaretçileri kullanıyor, hepsi ThreadSanitizer altında savaş testli.
Ama işte kimsenin söylemediği sıcak görüşüm: Bu 90’ların veritabanı savaşlarını andırıyor. PostgreSQL ve MySQL’in Oracle’ın şişmanlığını zayıf C koduyla aşmasını hatırlayın? Python web’in yükselişini betikledi, evet — Django, Flask prototiplemeyi domine etti. Şimdi AI ölçeği aynı dönüşümü emrediyor. C++ ölmedi; Redis’in, Envoy vekillerinin sessiz motoru ve yakında ajan çalışma zamanlarınızın.
Forge hibrit geleceği öngörüyor: Yapıştırma için Python, sıcak yol için C++. Cesur mu? Evet. Ama 2500 kat verimlilik yalan söylemez. ‘Kurumsal LangChain’ diye öven şirketler PR masalları uyduruyor — bu imparatorun yavaş kıyafetlerini ifşa ediyor
