Sorumlu yapay zekâ: artık opsiyon değil

Yapay zekâ sigorta sektöründe artık yalnızca verimlilik ve hız meselesi değil. Asıl soru şu: bu karar neden böyle alındı ve bunu kime, nasıl anlatacağız? Risk değerlendirmesi, fiyatlama, hasar triyajı, sahtecilik analizi, müşteri etkileşimi; yapay zekâ bugün sigortanın karar mekanizmasının tam merkezinde. İşte tam bu noktada sorumlu yapay zekâ kavramı kritik hâle geliyor.

Üstelik bu sorular her geçen gün daha sık soruluyor. Yapay zekânın verdiği karar sayısı arttıkça, açıklanamayan her karar küçük bir risk biriktiriyor. Bir insan eksperin yılda verdiği kararı, bir model bir günde verebilir; dolayısıyla bir hata da artık tek tek değil, ölçekli biçimde tekrarlanır. Sorumlu yapay zekâ, işte bu ölçek riskini yönetmenin adı.

Neden sorumlu yapay zekâ?

Finans ve sigorta gibi regülasyonu yoğun sektörlerde yapay zekânın başarısı doğrulukla değil, güvenle ölçülüyor. Yanlış ya da açıklanamayan tek bir yapay zekâ kararı; müşteri güvenini, regülatörle ilişkiyi, hatta şirketin itibarını bir anda riske atabiliyor. Yani mesele modelin ne kadar güçlü olduğu değil, çıktısının ne kadar savunulabilir olduğu.

Apple Card dersi

2019’da Apple ve Goldman Sachs’ın kredi limiti algoritması, aynı evde yaşayan eşlere belirgin biçimde dengesiz limitler verdi. Olay, algoritmik önyargı ve şeffaflık eksikliği sorunlarını gün yüzüne çıkardı; regülatörler bu tür sonuçların ayrımcılık yasalarına aykırı olabileceğine dikkat çekti. En çarpıcı tarafı şuydu: algoritma çalışıyordu, ama neden öyle çalıştığını kimse açıklayamıyordu. Sigortada da kâbus tam olarak budur.

Apple Card örneğinin sigortaya çevirisi basit: bir hasar reddini ya da yüksek bir primi müşteriye “sistem böyle hesapladı” diyerek açıklayamazsınız. Çünkü güven yıllarda kurulur, tek bir açıklanamayan kararla yıkılır. Sigortacının elindeki en kıymetli varlık poliçe değil, müşterinin “bunlar bana haksızlık etmez” inancıdır; ve bu inanç, kara kutu bir modelle kolayca aşınır.

Dört kritik başlık

Sigorta perspektifinden sorumlu yapay zekâ dört başlıkta toplanıyor:

• Açıklanabilirlik: “Yapay zekâ böyle dedi” artık geçerli bir gerekçe değil. Prim neden yükseldi, hasar neden reddedildi? Bu soruların insan dilinde cevabı olmak zorunda.
• Adillik: Tarihsel veri önyargı içeriyorsa, yapay zekâ bunu çoğaltır. Bu da fiyatlamada ve kabul-ret süreçlerinde sistematik bir risktir.
• Hesap verebilirlik: Yapay zekâ bir araçtır; sorumluluk devredilemez. Kararın arkasında hâlâ kurum vardır.
• Baştan uyum: GDPR bugün, AI Act ve DORA yarın. Sistemler sonradan uyarlanan değil, en baştan uyumlu tasarlanmalı.

Bu dört başlık kulağa teknik gelse de aslında tamamı bir güven meselesi. Müşteri, regülatör ve toplum karşısında savunabildiğiniz bir yapay zekâ, size güç katar; savunamadığınız bir yapay zekâ ise en hızlı modeli kurmuş olsanız bile bir yük hâline gelir.

Türkiye açısından bu başlıkların ayrı bir anlamı var. KVKK bugün yürürlükte; Avrupa’daki AI Act ve benzeri düzenlemeler ise er ya da geç bizim gündemimize de girecek. Bu, geç kalmış bir yük gibi görünebilir; ama tersinden bakınca bir avantaj. Sistemlerini henüz yeni kuran kurumlar, açıklanabilirliği ve denetlenebilirliği baştan tasarıma gömme şansına sahip. Sonradan uyarlamak zordur; baştan doğru kurmak ise sadece bir tercih meselesidir.

Adillik başlığı sigortada özellikle sinsi. Bir model ırkı ya da cinsiyeti hiç görmese bile, posta kodu, meslek ya da alışveriş geçmişi gibi masum görünen değişkenler üzerinden aynı sonucu üretebilir. Buna “dolaylı ayrımcılık” deniyor ve fark edilmesi çok daha zor. Bu yüzden adillik, modele iyi niyetle bakmakla değil, çıktısını sistematik biçimde test etmekle sağlanır; niyet değil, sonuç denetlenir.

Hesap verebilirlik ise bir yönetişim meselesi. Bir kararın arkasında hangi modelin, hangi veriyle, kimin onayıyla durduğu belli olmalı; model zamanla kayarsa bunu kimin izleyip düzelteceği önceden tanımlanmalı. Sorumluluğu “yapay zekâ”ya yıkmak hukuken de işlemez, ticari olarak da. Karar otomatik olabilir, ama sahibi her zaman bir insandır.

Allianz–Anthropic örneği: sınır nerede?

Bu yaklaşımın sektörde nasıl somutlaştığını Allianz ile Anthropic’in 2026 başında duyurduğu ortaklık iyi gösteriyor. Mesaj net: yapay zekâyı agresif biçimde kullanacağız, ama sorumlu şekilde. Duyuru metinlerine yakından bakınca dikkatle çizilmiş bir sınır görülüyor. Yapay zekâ öneriyor, özetliyor, sıralıyor ve çok adımlı süreçleri orkestre ediyor.

Ama aynı metinler bir şeyi de net biçimde söylüyor: yapay zekâ nihai underwriting kararını vermiyor, hasar reddi gibi hukuki sonuç doğuran kararı sahiplenmiyor, sözleşmesel irade oluşturmuyor ve regülatör karşısında karar verici rolü üstlenmiyor. Kısacası yapay zekâ kararın kendisi değil, karar altyapısı. Her kritik noktada aynı vurgu var: insan döngüde kalır, sorumluluk her zaman insanda.

Bu tesadüf değil. AI Act ve benzeri Avrupa düzenlemeleri kapıdayken, böyle bir ortaklık aynı zamanda güçlü bir önleyici pozisyon alma hamlesi. Büyük grupların bugünkü duruşu şu cümlede özetlenebilir: yapay zekâ ölçeklenebilirlik ve verimlilik sağlar; kurumsal irade, hukuki sorumluluk ve regülasyon uyumu ise insanlarda kalır.

Bunu somutlaştırmak gerekirse: açıklanabilir bir sistemde müşteri, priminin neden arttığını “geçen yıl iki hasarınız oldu ve aracınızın bulunduğu bölgede risk yükseldi” gibi insan diline çevrilmiş bir gerekçeyle öğrenebilmeli. Aynı mantık hasar reddi için de geçerli. Müşteri kararı beğenmese bile, gerekçesini anladığında çoğu zaman süreci kabul eder. Açıklanamayan bir ret ise, haklı olsa bile bir şikâyete, hatta bir itibar krizine dönüşür.

Kısa vadede güvenli, ama yeterli mi?

Bu yaklaşım kısa vadede güvenli. Uzun vadede ise sigortada yapay zekânın gerçek etkisini belirleyecek olan şey, bu sınırların yalnızca net çizilmesi değil, ne kadar bilinçli biçimde yeniden tanımlandığı olacak. Bugün “insan her kararı verir” demek kolay; ama hacim büyüdükçe, hangi kararların gerçekten insan yargısı gerektirdiğini ve hangilerinin güvenle otomatikleşebileceğini ayırt etmek asıl ustalık olacak.

Bir InsurTech kurucusu olarak bu meseleye sahadan bakıyorum. Model kurmak bugün hiç olmadığı kadar kolay; zor olan, o modeli müşterinin, regülatörün ve kendi ekibinizin güvenebileceği bir yapıya oturtmak. Açıklanabilirlik bir yavaşlatıcı değil; aksine, ürünü gönül rahatlığıyla ölçeklemenin tek yolu. Çünkü güvenmediğiniz bir sistemi büyütemezsiniz.

Sorumlu yapay zekâyı bir uyum yükü gibi görmek de yanlış olur. İyi tasarlanmış bir açıklanabilirlik altyapısı, sadece regülatörü değil, müşteriyi ve ekibi de rahatlatır; itirazları azaltır, kararları savunulabilir kılar, kurum içinde güven üretir. Yani sorumluluk, hızdan feragat değil; hızı sürdürülebilir kılan zemindir.

Çünkü sigortanın özünde bir söz var: zor anında yanında olma sözü. Bu sözü tutmanın yolu, kararları hızlandırırken anlaşılır ve adil tutmaktan geçiyor. Yapay zekâ bu sözü ölçeklemenin en güçlü aracı olabilir; yeter ki güveni değil, yalnızca verimi büyütmek için kullanılmasın.

Net mesaj

Benim duruşum şu: geleceğin kazananları en karmaşık modeli kuranlar ya da en hızlı otomasyonu yapanlar değil; en açıklanabilir, denetlenebilir ve güven veren yapay zekâ mimarisini kuranlar olacak. Sorumlu yapay zekâ, inovasyonun freni değil; sürdürülebilir büyümenin altyapısı. Sigortada artık soru “yapabilir miyiz” değil; “bunu doğru, adil ve açıklanabilir biçimde yapabiliyor muyuz”. Bu soruya net cevap verebilenler, önümüzdeki dönemin gerçek liderleri olacak.