Yapay zekâ hangi sürece uygulanmalı?
Pilot genelde en gösterişli süreçle başlar, en uygun olanla değil. Uygunluğun üç ölçütü vardır: iş yeterince sık tekrar ediyor mu, hatanın maliyeti taşınabilir mi, ve sonucun doğru olup olmadığı ölçülebiliyor mu?
Üçü birden sağlanmayan bir süreçte model ne kadar iyi çalışırsa çalışsın yatırım gerekçesi doğmaz. Ayda üç kez yapılan bir işi otomatikleştirmek, kurulum ve işletme maliyetini karşılamaz.
Bu yüzden hazırlık değerlendirmesinin ilk çıktısı süreç seçimidir ve bazen cevabı “şu an gerek yok” olur.
Yapay zekânın doğruluğu nasıl ölçülür? (eval)
Pilotta kalite kanaatle değerlendirilir: birkaç örnek denenir, sonuç iyi görünür. Üretimde bu yetmez, çünkü sistem her gün yüzlerce farklı girdiyle karşılaşır.
Ölçüm olmadan şu soruların cevabı yoktur: promptu değiştirdik, kalite düştü mü? Model sürümü güncellendi, hâlâ aynı işi yapıyor mu? Geçen ay çalışan bir senaryo bu ay bozuldu mu?
Kurumsal bir yapay zekâ sisteminin şartı, gerçek sorulardan oluşan sabit bir değerlendirme setidir. Her değişiklik o sete göre puanlanır ve eşiğin altındaki sürüm yayına çıkmaz. Bu kurulmadan üretim kararı vermek, ölçüsüz bir yapıyı canlıya almak demektir.
Yapay zekâ sınır katmanı (guardrail) nedir?
Pilotta modele kimse zor soru sormaz, çünkü herkes ne yapmaya çalıştığını bilir. Üretimde ise gerçek kullanıcı, sınırı bilmediği için sınırı zorlar.
Modelin neyi söyleyemeyeceği, hangi konuda yönlendirme yapamayacağı, kişisel veriyi nasıl maskeleyeceği ve bilmediği bir şeyi nasıl bilmediğini söyleyeceği yazılı olmalıdır. Bu katman olmadan bir gün kurumsal bir risk üretilir ve o gün proje kapanır.
Halka arz uygulamamızda bu sınır şöyle kurulmuştu: yalnızca sağlanan veriyle konuşulur, rakam ve oran uydurulmaz, eksik bilgi eksik olarak yazılır ve yatırımcı hiçbir zaman al ya da sat yönünde yönlendirilmez.
Yapay zekâda veri güvenliği ve KVKK nasıl çözülür?
Pilot bilgi işlemin ya da bir birimin inisiyatifiyle yürür. Üretim kararı ise hukuk ve bilgi işlemin masaya oturmasıyla verilir ve orada dört soru sorulur: veri nereye gidiyor, ne kadar saklanıyor, modelin eğitiminde kullanılıyor mu, kimin neye eriştiği kayıt altında mı?
Bu soruların yazılı cevabı yoksa proje ilerlemez. Cevapları pilot bittikten sonra aramak da genelde mimariyi yeniden kurmayı gerektirir; bu yüzden veri yerleşimi ve denetim kaydı en baştan tasarlanmalıdır.
Yapay zekâ maliyeti nasıl hesaplanır?
Pilotun kullanım hacmi düşük olduğu için maliyet görünmez. Üretimde işlem başına maliyet bilinmiyorsa bütçe onayı çıkmaz.
Bunun cevabı pilotu gerçek hacimde ölçmek ve işlem başına maliyeti çıkarmaktır. Uzun bağlam ve uzun cevap doğrudan maliyettir; işe göre farklı model kullanmak ve gereksiz bağlamı kesmek çoğu sistemde maliyeti kat kat düşürür.