Çalışanların gerekçesini kavrayamadığı yapay zekâ kararlarını geçersiz kılarak manuel müdahalede bulunması, yapay zekâdan yatırım getirisi bekleyen kurumları zorluyor. Sahada sistemleri devre dışı bırakan bir numaralı etken "açıklanamayan kararlar" olurken; kurumlar güven ve kârlılık sağlayacak veri altyapısından yoksun. Türkiye'de ise denetim yatırımlarının %17'ye gerilemesi ve her projede veri kalitesini şart koşan kurum oranının yalnızca %1,9'da kalması, kontrol açığını derinleştiriyor.

IDC’nin araştırma içgörüleriyle desteklenen yeni SAS raporu, yapay zekâ yatırımlarını kâra dönüştürme yarışında öne geçen kurumların arkasındaki temel itici gücü gözler önüne seriyor: Güvenilir yapay zekâ standartlarını benimsemek. Güvenilir YZ uygulamalarını hayata geçiren kurumların, YZ projelerinden güçlü yatırım getirisi (ROI) elde ettiğini bildirme olasılığı 15 kat daha yüksek çıktı.

Bu yıl ikincisi yayımlanan Veri ve Yapay Zekâ Etki Raporu: Güvenin Yeni Ekonomisi (Data and AI Impact Report: The New Economics of Trust) başlıklı çalışmaya göre; yönetişim, veri kalitesi ve denetlenebilirlik pratiklerini en güçlü şekilde uygulayan kurumlar, rakiplerini istikrarlı biçimde geride bırakarak yapay zekâ projelerinden en az iki kat daha fazla ROI elde ettiğini belirtiyor..

“Yapay zekâ amaçlandığı gibi çalıştığında muazzam bir etki yaratıyor,” diyen SAS CTO’su Bryan Harris, sözlerini şöyle sürdürdü: “Bununla birlikte, en gelişmiş yapay zekâ ajanlarının karmaşık görevlerde hata oranlarının %25'i aşabildiği iyi biliniyor; bu oran, kritik öneme sahip karar alma süreçleri için kabul edilemez. Doğruluk ve tutarlılık sağlamak isteyen kuruluşların, insanları yönetişim ve denetim süreçlerinin merkezinde tutarken alan uzmanlığını da ajan tabanlı iş akışlarına entegre etmesi gerekiyor. Bunu başarıyla gerçekleştiren kuruluşlar, yapay zekâya duyulan güven açığını kapatarak pazarda rekabet avantajı elde edecek.”

Türkiye Küresel Eşiği Aştı: Pilot Aşaması Geride Kaldı 

Türkiye’deki kuruluşların yarısından fazlası (%52,8), yapay zekâyı operasyonel iş akışlarına ve günlük iş süreçlerine tamamen entegre ettiğini belirtiyor.

Yapay zekânın iş süreçlerinde yaygınlaşması, şirketlerin finansal sonuçlarına da yansıyor. Kuruluşların yaklaşık üçte biri (%32), yapay zekâ yatırımlarından güçlü veya yüksek düzeyde yatırım getirisi (ROI) elde ettiğini ifade ediyor. Bu somut kazanımlar, yapay zekâ yatırımlarına yönelik iştahı da destekliyor. Kuruluşların dörtte üçü (%75,5), önümüzdeki 12 ay içinde yapay zekâ bütçelerini artırmayı planlıyor.

Türkiye, yapay zekâ modellerini üretim ortamına taşıma konusunda küresel ortalamaların önüne geçerken, veri kalitesi ve denetim mekanizmalarının geliştirilmesi aynı hızda ilerlemiyor. Kuruluşların düzenli denetimler ve etki değerlendirmeleri yerine yeni modelleri devreye almaya öncelik vermesi, bugün elde edilen ticari kazanımların yeterince sağlamlaştırılmamış bir temel üzerinde ilerlemesi riskini beraberinde getiriyor.

SAS Türkiye ve Orta Asya Genel Müdürü Rasim Eğri: ‘’Türkiye’deki şirketler, yapay zekâ konusunda yalnızca deneme ve pilot uygulamalarla sınırlı kalmayıp, bu teknolojiyi doğrudan gelir yaratan üretim süreçlerine entegre ederek önemli bir yenilikçilik kapasitesi ortaya koyuyor. Ancak önümüzde hâlâ aşılması gereken bazı önemli noktalar var. Yönetişim, denetim ve veri kalitesi gibi konular, ihtiyaç ortaya çıktığında ele alınan başlıklar olmaktan çıkmalı ve kurum kültürünün ayrılmaz bir parçası hâline gelmeli. Şirketlerin bağımsız olarak karar alıp işlem gerçekleştirebilen otonom yapay zekâ ajanlarını kullanmaya başladığı bir ortamda, yeterince izlenmeyen sistemler ve açıklanamayan kararlar, bugüne kadar elde edilen ticari kazanımları kısa sürede riske atabilir. Bu nedenle önceliğimiz; denetim, veri kalitesi ve hesap verebilirlik mekanizmalarını güçlendirmek olmalı.”

Çalışmanın öne çıkardığı sonuçlar, iş dünyası açısından üç kritik gerçeğe işaret ediyor:

Gerekçesini Açıklayamayan Yapay Zekâ, Ciddi Bir Ticari Risk Kaynağı

Araştırmacılar, doğru çıktılar sunamayan veya kararların nasıl alındığını açıklayamayan sistemlere çalışanların giderek daha temkinli yaklaştığını ortaya koydu. Yapay zekâ daha otonom hale geldikçe, açıklanabilirlik de giderek daha kritik bir unsur haline geliyor.

Rapor, yapay zekânın benimsenmesindeki en büyük engellerden birini de irdeliyor: Çalışanların yapay zekâ kararlarına güven duymaması, manuel müdahalelere ve düzeltmelere yol açıyor. Bu durum yapay zekâ kararlarına güven açığını kronikleştirirken; kurumlara zaman, üretkenlik ve kârlılık kaybı olarak yansıyor. Yapay zekânın karar kalitesi ancak dayandığı verinin niteliği kadar iyi olabileceğinden, manuel müdahale oranlarını düşürmek isteyen kurumlar için güçlü bir veri temeli oluşturmak kritik önem taşıyor.

Öne çıkan bulgular:

• Kullanıcıların %97,2’si en azından bazı senaryolarda yapay zekânın sunduğu önerileri geçersiz kılarak müdahalede bulunuyor. 
• Çıktının doğru kabul edilip edilmemesinden bağımsız olarak, çalışanların yapay zekâ kararlarına müdahale etmesindeki bir numaralı etken, sistemin kararının arkasındaki mantığı açıklayamaması oldu. 
• Güven oranının üretken yapay zekâda (generative AI) %76 iken, ajan tabanlı yapay zekâda (agentic AI) %66’ya gerilemesi; sistemler daha fazla özerklik kazandıkça artan kaygıları gözler önüne seriyor. 
• Bu tablo Türkiye’deki çalışanların yapay zekâ çıktılarında yaptığı düzeltmelerin neredeyse yarısı (%47,1), yeterli açıklama sunulmamasından kaynaklanıyor. Düzeltmelerin %27,5’i iş bağlamının yeterince dikkate alınmaması nedeniyle yapılırken, %9,8’i ise olgusal hatalardan kaynaklanıyor.

Güvenilir Yapay Zekâ Uygulamaları Ticari Başarıyı Beraberinde Getiriyor

Rapor, yapay zekâdan elde edilen yatırım getirisi (ROI) makasının giderek açıldığını gösteriyor; bu durum yapay zekâdan en yüksek değeri elde eden kurumların farklı teknolojiler kullanmaktan ziyade yapay zekâyı farklı bir anlayışla yönettiğine işaret ediyor.

Temel bulgular:

• Güvenilir yapay zekâ uygulamalarına yatırım yapan kuruluşların, yapay zekâ projelerinden güçlü veya yüksek ROI elde ettiklerini bildirme olasılığı 15 kat daha yüksek (%62'ye karşı %4).
• Güvenilir yapay zekâ uygulamalarında en güçlü performansı gösteren kuruluşlar; gelir artışı, maliyet tasarrufu ve müşteri deneyimi dahil olmak üzere 13 farklı iş sonucunda 1,85 kat daha yüksek kazanım elde ediyor.
• Güvenilir yapay zekâ uygulamalarında lider konumda olan kuruluşların %85'i, bu alandaki yatırımlarını bu yıl %10'dan fazla artırıyor ve böylece performans farkını daha da açıyor.
• Türkiye’deki işletmelerin %32’si yapay zekâdan güçlü veya yüksek düzeyde yatırım getirisi (ROI) elde ettiğini bildiriyor. Temel boyutların beşinden dördünde yıl boyunca iyileşme kaydedildi. Bu gelişime en fazla katkı sağlayan alanlar Açıklanabilirlik (Explainability), Model Yönetişimi (Model Governance) ve Veri Kalitesi (Data Quality) olurken, Sorumlu Yapay Zekâ Politikası (Responsible AI Policy) alanında hafif bir gerileme görüldü. Aynı dönemde yeterli ilerleme kaydedilmeyen tek alan ise Denetim ve Hesap Verebilirlik (Audit and Accountability) oldu.

Birçok Kurum Zayıf Veri Temeli Nedeniyle Zaman ve Para Kaybediyor

Birçok kuruluş, yapay zekâyı yeterince geliştirilmemiş veya güncelliğini yitirmiş veri ve veri altyapıları üzerinde kullanıma alıyor. Bu durum, yapay zekânın etkin şekilde yönetilmesini ve yatırımlardan değer elde edilmesini sınırlandırıyor.

Temel bulgular:

• Kuruluşların yalnızca %17,5'i, ajan tabanlı yapay zekânın gerektirdiği olgunluk düzeyine ulaşmış, tamamen optimize edilmiş bir veri altyapısına sahip. Bu eksiklik, performansı olumsuz etkiliyor.
• Optimize edilmiş bir veri altyapısına sahip kuruluşların, yapay zekâ projelerinden güçlü ROI bekleme olasılığı 4 kat daha yüksek. Ayrıca bu kuruluşların, güven oluşturmak için gerekli veri kalitesi ve açıklanabilirlik kontrollerini zorunlu kılma olasılığı 6 kat daha yüksek.
• Türkiye’nin Güvenilirlik Endeksi 60,8 puana yükselmiş olsa da veri kalitesi, küresel karşılaştırma ölçütünün 6,4 puan gerisinde kalarak pazardaki en zayıf boyut olmayı sürdürüyor. Şirketlerin yalnızca %1,9’unda veri kalitesinin her projede zorunlu bir kriter olarak uygulanması dikkat çekerken, düzenli denetim ve etki değerlendirmelerine yönelik yatırımların da %17’ye gerilemesi bu alandaki eksikliklerin devam ettiğine işaret ediyor.

Sektörel Analizler: Bankacılık Yönetişimde Öncü Rol Üstleniyor

Bulgular, kuruluşların veri ve yapay zekâ girişimleri hakkında bilgi sahibi olan veya bu girişimleri etkileyen 2.699 karar vericiyle gerçekleştirilen küresel bir araştırmaya dayanıyor. 28 ülkede ve bankacılık, sigortacılık, yaşam bilimleri ve kamu olmak üzere dört sektörde gerçekleştirilen araştırma, liderlerin yapay zekâya farklı sektörlerde nasıl yaklaştığını ortaya koyan sektörel kullanım örnekleri ve bulgular sunuyor.

Öne çıkan bulgular:

• Bankacılık liderleri yasal uyumluluğun ötesine geçerek güçlü yapay zeka yönetişimini operasyonel bir gereklilik ve rekabet avantajı olarak ele alıyor; lider bankaların %85’i yerleşik yönetişim çerçevelerine sahipken, bu oran geride kalan kurumlarda yalnızca %29’da kalıyor. 
• Kamu sektörü liderlerinin %41’i önümüzdeki yıl güvenilir yapay zeka yatırımlarını %20’den fazla artırmayı planlıyor; bu oran en yüksek yatırım hedefine sahip sektörlerle başa baş ilerliyor. 
• Yaşam bilimleri kuruluşlarının %23’ü yapay zekayı kurum genelinde ölçeklendirmiş durumda; bu oran araştırmadaki tüm sektörler arasındaki en yüksek seviyeyi temsil ediyor. 

Kaynak: (BYZHA) Beyaz Haber Ajansı