Bir geliştirici bir yapay zekâ ajanına kodlama görevi verdiğinde, ajan bir kez cevap vermekten daha fazlasını yapar. Planlar, kod üretir, testleri çalıştırır ve hataları düzeltmek için süreci tekrarlar. Tek bir görev, temel bir sohbet isteminden 10 ila 50 kat daha fazla token kullanabilir. Ajan ne kadar faydalı olursa, o kadar çok çağrı yapar. Token başına fiyatlandırmayla, en çok değer yaratan iş akışları aynı zamanda en pahalı olanlar haline gelebilir.
Finansal baskı zaten görünür. Uber’in, Claude Code kullanımını genişletmesinin ardından 2026 yapay zekâ bütçesinin tamamını Nisan ayında tükettiği bildiriliyor. GitHub Copilot sabit fiyatlandırmadan ölçülen kredilere geçti. Gartner, yapay zekâ kodlama token maliyetlerinin 2028’e kadar ortalama geliştirici maaşlarını aşacağını öngörüyor.
Doğal tepki, kullanım sınırları, koltuk limitleri ve geliştiricilerin ajanları başlatmadan önce onaylar gibi kısıtlamalar getirmektir. Ancak genel sınırlar değer üreten iş akışlarını kısıtlayabilir. Ayrıca yanlış sayıyı optimize ederler. Token başına maliyet tüketimi ölçer, sonucu ölçmez. Bazı harcamalar yeniden denemeler ve kontrolden çıkan döngüler dahil israfı yansıtır. Bazıları yazılımın gönderilmesinin işidir. Bir sayaç onları ayırt edemez ve harcama limiti de edemez.
Teslim edilen yazılımı ölçün
Daha iyi bir ölçüt, maliyet başına birleştirilmiş pull requesttir: toplam yapay zekâ destekli geliştirme maliyeti, incelemeden geçen ve birleştirilen değişiklik sayısına bölünür. Yanında yeniden çalışmayı ve hataları da takip edin, böylece daha ucuz değişiklikler daha düşük kaliteyi gizlemesin.
Eğer bu maliyet yapay zekâ kullanımı artarken düşerse ve kalite bozulmazsa, geliştiriciler daha fazla tüketimi kullanışlı yazılıma dönüştürüyor demektir. Soru, kaç token kullandıkları değil, yatırımın ne kadar bitmiş iş ürettiğidir.
Bu denklemi iyileştirmek iki değişiklik gerektirir: pahalı çıkarımı ihtiyacı olan görevler için ayırın ve rutin işlerin maliyetini düşürün.
Modeli göreve uydurun
Ajanlı kodlama her adımda en güçlü modeli gerektirmez. Zor planlama ve yeni akıl yürütme için öncü bir model kullanın ya da politika gerektiriyorsa şirket içi amiral gemisi. Kod üretimi, test oluşturma ve tekrarlı yeniden düzenlemeler dahil uygun işleri kendiniz işlettiğiniz açık ağırlıklı modellere yönlendirin.
Bir geçit, görev karmaşıklığına, veri hassasiyetine, maliyete ve gecikmeye göre istekleri yönlendirebilir. Bu, prim çıkarımını tüm iş akışına uygulamak yerine haklı kıldığı anlar için saklar. İş yükünü değil istisnayı ölçün.
Açık ağırlıklı modeller bu ayrımı giderek daha uygulanabilir kılıyor. Yazılım mühendisliği kıyaslamaları, önde gelen açık ağırlıklı modellerin bazı görevlerde öncü performansa yaklaşabildiğini gösteriyor. Bu, her depo veya iş akışı için eşdeğerlik kurmaz. Üretim işine atamadan önce adayları kendi kodunuza, testlerinize ve kabul kriterlerinize göre değerlendirin.
Tekrarlı kullanımın ekonomisini değiştirin
Sonra kapasitenin kimin sahibi olacağına karar verin. Kiralık çıkarımda her çağrı faturaya eklenir. Sahip olunan kapasitede maliyetin çoğu önceden taahhüt edilir, böylece her ek çağrı kullanım arttıkça ucuzlar.
Ekonomi basittir: token başına fiyatlandırma ağır kullanımı daha pahalı yapar, sahip olunan kapasite ise ekipler daha fazla kullandıkça daha verimli hale gelir. Sahiplik ücretsiz değildir. Güç, operasyon, bakım ve amortisman da dikkate alınmalıdır. Önemli olan sayı, birleştirilmiş pull request başına tam yüklenmiş maliyettir.
Sahip olunan kapasite ayrıca faturada hiç görünmeyen bir değer türü de sunar: hassas kod üzerinde kontrol. Kod üretimi ve testler şirket içinde çalıştığında, tescilli kod kuruluşun içinde kalır. Sadece onaylanmış planlama istemleri ve yönetilen istisnalar bir geçitten dış modellere gider, kuruluş kontrol eder. Bu, güvenliği genellikle benimsemeyi durdurduğu hassas depoları açar ve en büyük kazançların beklediği yer burasıdır.
Operasyon modelini test edin
HPE’de hibrit bir yapay zekâ platformu, 150’den fazla dahili uygulamadan rutin iş yüklerini açık ağırlıklı modellere yönlendiriyor, bunlar şirket içinde çalışıyor ve HPE Private Cloud AI üzerinde de bulunuyor. Sonuç: token maliyetleri yüzde 30 ila 50 düştü.
İşte hibritin amacı bu. HPE Private Cloud AI ile çıkarımı sahiplenmek, öncü modellerden vazgeçmek anlamına gelmez. Hacmi sahip olduğunuz kapasitede çalıştırın ve en zor işi bir geçidin göndermesine izin verin.
Veriler ayrıca harcamayı tetikleyenin lisanslı personel sayısının değil kullanımın olduğunu gösteriyor. Kullanıcıların en üst yüzde 5’i tüketimin çoğunu oluşturdu ve en ağır kullanıcılar aynı lisans üzerinde en hafif olanlardan yaklaşık 450 kat daha fazla kullandı. Güç kullanıcıları küçük bir azınlıktan iş gücünün yarısına çıkarsa, sabit personel sayısıyla aylık harcama yaklaşık 4,4 kat artabilir. Sizin karışımınız farklı olacak, bu yüzden ölçmeniz gerekiyor.
HPE iki metrik takip ediyor ve müşterilerin de aynısını yapmasını öneriyor. İlk olarak, tüm lisanslar üzerinden ortalama yapmanın harcama yaratan güç kullanıcılarını gizlemesi nedeniyle aktif geliştirici başına maliyeti takip ediyor. İkinci olarak, yapay zekâ harcamasını gönderilen yazılımla bağladığı için birleştirilmiş pull request başına maliyeti takip ediyor.
Altyapıyı değiştirmeden önce her iki maliyeti de baz alın. Ardından sahip olunan kapasitede tam bir geliştirme döngüsü çalıştırın. Her iki metrik de kullanım arttıkça iyileşmezse, mevcut modeliniz hâlâ daha iyi seçim olabilir.
Kısıtlamaya değil benimsemeye göre inşa edin
Sahip olunan kapasite herkes için değildir. Düşük veya öngörülemeyen kullanım, boş altyapıda sermaye bağlı kalmadan API’leri tercih eder. Sahiplik, sürekli talep onu meşgul tuttuğunda karşılığını verir. Çoğu kuruluş hibrit çalışacak: talepkar veya aralıklı iş için öncü API’ler, tekrarlanabilir hacim için sahip olunan kapasite. Yönetilen bir geçit neyin binayı terk edeceğine karar verir, böylece öncü modellere sahip olursunuz ama kodunuzun egemenliğinden vazgeçmezsiniz.
Geliştiriciler kod ajanlarına daha fazla yaslandıkça kullanım artmaya devam edecek. Gerçek seçim, bu büyümenin daha büyük değişken maliyet faturası olarak mı yoksa sahip olduğunuz kapasitede gönderilen daha fazla yazılım olarak mı ortaya çıkacağıdır. Yapay zekâ destekli geliştirmede lider olacak şirketler maliyetleri kontrol etmek için benimsemeyi kısıtlamayacak. Daha fazla yapay zekâ kullanımının ekonomiyi zayıflatmak yerine iyileştirdiği bir operasyon modeli kuracaklar.
