Yapay zeka entegrasyonu yapan bir şirket seçerken bakmanız gereken şey demonun ne kadar etkileyici olduğu değil, sistemin üretimde nasıl ölçüleceği, nasıl güvence altına alınacağı ve nasıl sürdürüleceğidir. İyi bir partner önce kullanım senaryonuzu netleştirir, doğruluğu bir test setiyle sayıya döker, verinizin nereye gittiğini açıkça gösterir ve modelden bağımsız bir mimari kurar. Bu dört konuda somut cevap veremeyen bir ekiple başlanan proje büyük olasılıkla pilot aşamasında kalır.
Bu rehber, kurumsal yapay zeka çözümleri için tedarikçi değerlendiren yöneticiler, ürün sahipleri ve teknik liderler için hazırlandı. Önce hangi tür projeye ihtiyacınız olduğunu, ardından bir entegrasyon partnerinin göstermesi gereken yetkinlikleri, görüşmede sorulacak soruları ve demonun neden üretime geçmediğini ele alıyoruz.
Önce hangi tür yapay zeka projesine ihtiyacınız var?
"Şirketimize yapay zeka entegre edelim" bir proje tanımı değildir. Tedarikçiyle konuşmadan önce ihtiyacınızın hangi kategoriye girdiğini belirleyin, çünkü her kategori farklı bir uzmanlık, farklı bir risk profili ve farklı bir başarı ölçütü ister.
- Şirket dokümanları üzerinde soru-cevap (RAG): Sözleşmeler, prosedürler, teknik dokümanlar veya bilgi bankası üzerinden kaynak göstererek cevap veren sistemler. Başarı, doğru pasajın bulunup bulunmadığına ve her cevabın hangi belgeye dayandığının gösterilmesine bağlıdır.
- Doküman ve süreç otomasyonu: PDF, taranmış form veya e-posta ekinden alan alan yapılandırılmış veri çıkarmak, belgeleri sınıflandırmak, özetlemek. Burada kritik olan, düşük güvenli kayıtların insan onayına gitmesidir.
- Sistemlerde işlem yapan ajanlar: Veritabanı sorgulayan, API çağıran, kayıt oluşturan veya güncelleyen ajanlar. Risk en yüksek bu kategoridedir, çünkü model artık sadece metin üretmiyor, iş yapıyor.
- Müşteri destek otomasyonu: Sık sorulan soruları yanıtlayan, talepleri sınıflandıran ve gerektiğinde insana devreden asistanlar. Marka dili, yanlış bilgi riski ve devretme kuralları belirleyicidir.
- Kurum içi asistanlar (copilot): Ekibin günlük işinde taslak hazırlayan, kayıt özetleyen, doğal dille arama yapan yardımcılar. Kullanıcı yetkilerine göre sadece görmesi gereken veriyi görmesi şarttır.
Bazı problemler ise dil modeli gerektirmez. Talep tahmini, anomali tespiti veya sayısal skorlama gibi işlerde klasik makine öğrenmesi hem daha ucuz hem daha isabetli olabilir. Bunu size açıkça söyleyen bir tedarikçi, her işe büyük dil modeli (LLM) öneren bir tedarikçiden daha güvenilirdir.
Yetkin bir yapay zeka entegrasyon partneri neyi gösterebilmeli?
Doğruluğu nasıl ölçtüğünü gösterebilmeli
En önemli kriter budur. Yetkin bir ekip, sizin gerçek sorularınızdan ve kabul ettiğiniz cevaplardan oluşan bir test seti (golden set) hazırlar ve her değişiklikte bu seti otomatik olarak yeniden çalıştırır. Prompt değiştiğinde, model sürümü güncellendiğinde veya arama ayarı değiştiğinde skorun düşüp düşmediği görülür. Sorulacak sorular şunlardır: Doğruluk hangi set üzerinde, hangi yöntemle ölçülüyor? Halüsinasyon, yani modelin kaynağı olmayan bilgi uydurması nasıl tespit ediliyor? Model emin olmadığında ne yapıyor? Kritik akışlarda hangi noktada bir insan onay veriyor (human-in-the-loop)?
"Genelde doğru cevap veriyor" bir gözlemdir. "Bu set üzerinde bu skoru ölçtük, şu sorularda başarısız oluyor" ise karar verebileceğiniz bir veridir.
Verinizin nereye gittiğini açıklayabilmeli (KVKK ve veri güvenliği)
Bir kullanıcı sorusu sisteme girdiğinde hangi servislere uğradığını, hangi ülkede işlendiğini ve ne kadar süre saklandığını tedarikçi bir şemayla anlatabilmelidir. Kişisel veri içeren akışlarda KVKK açısından yurt dışına aktarım, açık rıza ve veri işleme sözleşmesi konuları baştan netleşmelidir. İyi bir partner şu seçenekleri size karşılaştırmalı olarak sunar:
- Hangi model sağlayıcısının kullanılacağı ve sağlayıcının veriyi eğitimde kullanıp kullanmadığı
- Kurumsal API anlaşmaları, bölgesel barındırma veya açık ağırlıklı (open-weight) modellerle kendi sunucunuzda (on-prem) çalıştırma seçenekleri
- Log ve prompt kayıtlarında kişisel verinin maskelenmesi
- Kayıtların saklama süresi ve silme prosedürü
Bu soruya "merak etmeyin, güvenli" diye cevap veren bir ekip, muhtemelen veri akışını kendisi de çizmemiştir.
Ajanların erişimini sınırlayabilmeli
Ajan sistemlerinde asıl soru modelin ne kadar akıllı olduğu değil, neye erişebildiğidir. Yetkin bir partner en az yetki ilkesiyle çalışır: ajan sadece işi için gereken araçlara, sadece okuma veya sadece belirli kayıtlara yazma izniyle erişir. Silme, ödeme, toplu güncelleme gibi geri alınamaz işlemler insan onayına bağlanır. Her çalıştırma adım adım denetim kaydı (audit log) bırakır: hangi araç hangi girdiyle çağrıldı, ne döndü, karar hangi adımda verildi. Bu konuyu ayrıntılı olarak yapay zeka ajanlarını üretime alırken güvenli sistem erişimi yazımızda anlattık.
Mevcut sistemlerinizle entegre olabilmeli
Yapay zeka katmanı ERP, CRM, doküman yönetimi veya kendi uygulamanızla konuşmadığı sürece ayrı bir oyuncak olarak kalır. Tedarikçiye mevcut API'lerinizle nasıl çalışacağını, kimlik doğrulamayı nasıl yöneteceğini ve verinin güncelliğini nasıl koruyacağını sorun. Model ile iç sistemler arasında standart bir bağlantı katmanı kurmak için Model Context Protocol (MCP) giderek yaygınlaşıyor. Bunun kurumsal entegrasyonda neyi değiştirdiğini MCP nedir, kurumsal entegrasyonda ne değiştiriyor yazısında inceledik.
Çıkarım maliyetini kontrol edebilmeli
Bir yapay zeka özelliğinin geliştirme maliyetinden çok, her istekte harcadığı çalışma maliyeti önemlidir. Bu maliyeti belirleyen başlıca etkenler şunlardır: istek hacmi, modele gönderilen bağlamın uzunluğu, seçilen model sınıfı, tekrar eden içerik için önbellek kullanımı ve basit işlerin daha küçük modellere yönlendirilmesi. Yetkin bir partner istek başına bir bütçe belirler, maliyeti izler ve kullanım arttığında faturanın nasıl davranacağını önceden öngörebilir. "Kullanıma göre değişir" dışında bir şey söyleyemeyen ekip, maliyeti izlemiyor demektir.
Üretimde izleme kurabilmeli
Canlıya alınan bir yapay zeka sistemi yazılır ve unutulmaz. Yanıt süresi, istek başına maliyet, hata ve reddetme oranları, kullanıcı geri bildirimleri ve düşük güvenli cevapların oranı sürekli izlenmelidir. Model sağlayıcısı sürüm güncellediğinde test seti yeniden çalıştırılmalı ve skor düşüşü alarm üretmelidir. İzleme panelini ve alarm kurallarını demo aşamasında göremiyorsanız, üretimde de göremeyeceksiniz.
Tek bir model sağlayıcısına bağlamamalı
Model pazarı hızlı değişiyor. Bugün uygun olan model yarın pahalı, yavaş veya yetersiz kalabilir. Modelden bağımsız (model-agnostic) bir tasarımda model çağrıları tek bir katmanın arkasındadır; sağlayıcı değiştirmek uygulamayı yeniden yazmayı gerektirmez. Bu geçişi güvenle yapmanızı sağlayan şey yine test setidir: yeni modeli aynı set üzerinde ölçer, sonucu karşılaştırır ve öyle karar verirsiniz.
Prompt, kod ve test setlerinin kime ait olduğunu netleştirmeli
Sözleşmede kaynak kodun, promptların, değerlendirme setlerinin, veri işleme hatlarının ve altyapı tanımlarının size ait olduğu açıkça yazmalıdır. Promptları kendi platformunda kilitli tutan veya test setini "şirket içi araç" diye teslim etmeyen bir tedarikçiyle çalışmak, sistemi başka bir ekibe devretmenizi imkansız hale getirir. Teslimatta ekibinizin kodu gerçekten anladığından da emin olun; yapay zeka destekli geliştirmede biriken bilgi borcu ileride bakımı zorlaştıran gizli bir maliyettir.
Tedarikçi görüşmesinde hangi soruları sormalısınız?
Aşağıdaki tablo, yapay zeka entegrasyonu yapan şirketlerle yapılan ilk görüşmelerde kullanabileceğiniz bir kontrol listesidir.
| Sorulacak soru | İyi cevap | Uyarı işareti |
|---|---|---|
| Doğruluğu nasıl ölçüyorsunuz? | Gerçek sorularınızdan bir test seti kuruyoruz, her değişiklikte otomatik çalışıyor, sonuçları rapor olarak paylaşıyoruz. | "Denedik, gayet iyi çalışıyor." Ölçüm yöntemi ve set yok. |
| Model bilmediği bir şeyi sorulduğunda ne olur? | Kaynak bulamazsa bunu söylüyor, düşük güvenli cevaplar insana yönleniyor. | "Model zaten çok akıllı, uydurmaz." |
| Verimiz hangi servislere ve hangi ülkeye gidiyor? | Veri akış şeması, sağlayıcı seçenekleri, saklama süresi ve KVKK değerlendirmesi. | Belirsiz güvenceler, şema yok. |
| Ajan hangi yetkilerle çalışacak? | En az yetki, geri alınamaz işlemlerde onay, her adım için denetim kaydı. | Ajana yönetici hesabı veya tam veritabanı erişimi verilmesi. |
| Model sağlayıcısını değiştirmek istersek ne olur? | Model çağrıları soyutlanmış, yeni model aynı test setiyle ölçülüp geçiş yapılabilir. | Tek sağlayıcıya özel araçlara derinden bağlı mimari. |
| Çalışma maliyetini nasıl kontrol ediyorsunuz? | İstek başına bütçe, önbellek, model yönlendirme, maliyet izleme paneli. | Maliyetin sadece "kullanıma bağlı" olduğunun söylenmesi. |
| Canlıda neyi izliyorsunuz? | Yanıt süresi, maliyet, hata oranı, kullanıcı geri bildirimi, skor düşüşü alarmları. | İzleme planının "sonra bakarız" diye ertelenmesi. |
| Prompt, kod ve test setleri kimin olacak? | Hepsi sizin, sözleşmede yazılı, depo erişimi baştan sizde. | Promptların tedarikçinin platformunda kilitli kalması. |
Demo ile üretim arasındaki fark nedir?
Bir yapay zeka demosu kolaydır, çünkü sadece bir kez, tek bir senaryo için çalışması yeterlidir. Üretimdeki sistem ise her gün, binlerce farklı girdiyle, maliyeti bilinen ve hataları sayılan bir şekilde çalışmak zorundadır. Pek çok yapay zeka projesinin pilotta takılıp kalmasının nedenleri genellikle teknik değil, yapısaldır:
- Başarı tanımı yok: Neyin "yeterince doğru" sayılacağı baştan kararlaştırılmadığı için pilotun bitip bitmediğine kimse karar veremez.
- Ölçüm yok: Test seti olmadan her iyileştirme bir tahmindir ve her model güncellemesi bir risktir.
- Gerçek veriye ve yetkilere erişim çözülmemiş: Demo örnek dosyalarla çalışır, üretim ise erişim izinleri, kişisel veri ve dağınık kaynaklarla uğraşmak zorundadır.
- İş sürecine yerleşmemiş: Çıktının hangi ekranda, kimin onayından sonra kullanılacağı tasarlanmamıştır.
- Maliyet sürprizi: Gerçek kullanım hacminde çalışma maliyeti öngörülmediği için ölçeklemek riskli görünür.
- Geri dönüş planı yok: Yapay zeka katmanı kapandığında sürecin eskisi gibi çalışıp çalışmayacağı bilinmez.
Tedarikçiye "bu demoyu üretime almak için geriye ne kaldı?" diye sorun. Cevap, yukarıdaki maddeleri tek tek sayıyorsa doğru ekiple konuşuyorsunuz.
Detartech'te yapay zeka projelerine nasıl yaklaşıyoruz?
Detartech olarak sıfırdan model eğitmiyoruz. Mevcut dil modellerini, zaten kullandığınız ürünün ve ekibinizin izlediği sürecin içine yerleştiriyoruz. İki koşulumuz var: sonuç ölçülebilir olmalı ve geri alınabilir olmalı. Ölçülebilir, doğruluğun bir test seti üzerinde sayı olarak izlenmesi demek. Geri alınabilir, yapay zeka katmanı kapatıldığında sürecin eskisi gibi çalışmaya devam etmesi demek.
Projeleri kavram kanıtı, pilot ve üretim olarak üç aşamada yürütüyoruz. İki haftalık sprintlerle çalışıyor, her sprinti çalışan bir sürüm ve ölçüm sonucuyla kapatıyoruz. Kod eş incelemesinden geçiyor, dağıtımlar otomatik CI/CD ile yapılıyor ve canlıya çıkıştan sonra 30 günlük destek sürece dahil. İşimizden bir örnek, yapay zeka destekli hukuki doküman yönetimi platformu Lextum AI. RAG, doküman otomasyonu ve ajan tabanlı iş akışları hakkında daha fazlasını yapay zeka çözümleri sayfamızda bulabilirsiniz.
Aklınızda bir kullanım senaryosu varsa, hızlı teklif formunu doldurun. Ücretsiz ön görüşmede senaryonuzun hangi kategoriye girdiğini, neyin ölçüleceğini ve verinizin nasıl korunacağını birlikte netleştirelim; 24 saat içinde dönüş yapıyoruz.
Sıkça Sorulan Sorular
Yapay zeka entegrasyonu yapan bir yazılım şirketi nasıl seçilir?
Önce kullanım senaryonuzu belirleyin, sonra tedarikçiden doğruluğu hangi test setiyle ölçtüğünü, verinizin nereye gittiğini, ajan yetkilerini nasıl sınırladığını ve model değiştirmenin ne kadar kolay olduğunu göstermesini isteyin. Prompt, kod ve test setlerinin size ait olduğunu sözleşmeye yazdırın. Bu sorulara somut cevap veren ekip, demo yerine üretim sistemi kurmaya odaklanıyordur.
Kurumsal yapay zeka projesinde KVKK açısından nelere dikkat edilmeli?
Kişisel verinin hangi model sağlayıcısına, hangi ülkeye gittiği ve ne kadar süre saklandığı netleşmelidir. Yurt dışına aktarım, veri işleme sözleşmesi ve log kayıtlarında maskeleme baştan değerlendirilmelidir. Hassas verilerde açık ağırlıklı modellerle kendi sunucunuzda çalışmak da bir seçenektir.
Yapay zeka projeleri neden pilot aşamasında kalıyor?
Çoğu zaman başarı tanımı ve ölçüm yöntemi baştan belirlenmediği, gerçek veriye erişim ve yetki konuları çözülmediği ve çıktı iş sürecine yerleştirilmediği için. Demo tek bir senaryoda çalışır, üretim ise her gün farklı girdilerle, bilinen bir maliyetle çalışmak zorundadır.
RAG nedir ve ne zaman gerekir?
RAG (retrieval-augmented generation), modelin cevap vermeden önce sizin dokümanlarınızdan ilgili bölümleri bulup bunlara dayanarak yanıt ürettiği yöntemdir. Şirket içi bilgiye dayalı, kaynağı gösterilebilen cevaplar gerektiğinde kullanılır. Başarısı büyük ölçüde doğru pasajın bulunmasına bağlı olduğu için arama kalitesi ayrıca ölçülmelidir.
Kendi yapay zeka modelimizi eğitmemiz gerekir mi?
Kurumsal projelerin büyük çoğunluğunda gerekmez. Mevcut dil modelleri doğru veri erişimi, doğrulama ve iş akışıyla birleştirildiğinde ihtiyacı karşılar. Sıfırdan model eğitmek ancak çok özel bir alan ve yeterli etiketli veri olduğunda değerlendirilmesi gereken, maliyetli bir yoldur.
