Yapay Zekâ CEO'yu İzlerse Vekâlet Maliyeti Düşer mi?
Yapay zekâ binlerce işlemi tarayıp yöneticinin göremediğimiz kararlarını görünür kılabilir. Fakat modeli, veriyi ve alarm eşiğini yine yönetim belirliyorsa gerçekten kimi izliyoruz?
Bir denetim komitesine her ay kırk sayfalık rapor gidiyor. Aynı şirketteki yapay zekâ sistemi ise satın alma işlemlerini her gece tarıyor ve yetki sınırının hemen altında bölünmüş faturaları sabaha kadar işaretliyor.
İlk bakışta sorun çözülmüş görünüyor: pay sahibi artık yöneticiyi ay sonunu beklemeden izleyebiliyor. Ancak sistemin alarm eşiğini kim belirledi? Hangi veriler modele hiç girmedi? Bir uyarıyı “yanlış pozitif” diye kapatma yetkisi kimde?
Yapay zekâ, vekâlet sorununu ortadan kaldırmıyor. Görünmeyen davranışı görünür kılarken gözetimin arkasına yeni bir karar katmanı ekliyor.
Elli Yıllık Sorunun Üç Maliyeti
Jensen ve Meckling'in 1976'da sistemleştirdiği vekâlet teorisi, sahiplik ile kontrol ayrıldığında ortaya çıkan çıkar çatışmasını açıklar. Pay sahibi asil, şirketi onun adına yöneten kişi vekildir. Yönetici, pay sahibinden daha fazla bilgiye sahip olabilir ve kararlarını şirket değerinden farklı bir amaca yöneltebilir.
Teori bu çatışmanın bedelini üçe ayırır:
- İzleme maliyeti: Yönetim kurulu, iç kontrol, iç denetim, bağımsız denetim ve raporlama için harcanan kaynak.
- Bağlanma maliyeti: Yöneticinin pay sahibinin çıkarına uygun davranacağını göstermek için üstlendiği raporlama ve sözleşme yükü.
- Artık kayıp: Bütün kontrollere rağmen yöneticinin kararı ile pay sahibi açısından en uygun karar arasında kalan değer farkı.
Yapay zekânın ilk etkisi bu üç kalemin tamamında değil, özellikle izleme maliyetinde görülür. Bir insanın örneklemle ve dönemsel olarak inceleyebildiği işlem havuzu, otomasyonla daha sık ve daha geniş taranabilir. Bu, izlemeyi ucuzlatabilir; ama maliyeti sıfırlamaz. Veri hazırlığı, model doğrulaması, yanlış alarmların incelenmesi ve uzman gözetimi yeni maliyetler doğurur.
Daha önemlisi, görünürlük çıkar uyumunun yerine geçmez. Yapay zekâ yöneticinin ne yaptığını daha erken gösterebilir; yöneticinin neden o kararı verdiğini veya hedefinin pay sahibinin hedefiyle örtüşüp örtüşmediğini tek başına çözemez.
Temsili Vaka: 500 Bin Liralık Yetki Sınırı
Hayali bir üretim şirketi düşünelim. Marmara Parça A.Ş.'de genel müdür (CEO), 500.000 TL'ye kadar satın alma işlemlerini tek başına onaylayabiliyor. Bu tutarın üzerindeki işlemler ise yatırım komitesine gidiyor.
Şirketin yapay zekâ destekli izleme sistemi son on sekiz aylık satın alma verisini tarıyor ve aynı tedarikçiye kısa aralıklarla kesilmiş on bir fatura buluyor. Her fatura 500.000 TL sınırının biraz altında. Sistem ayrıca üç faturadan hemen önce tedarikçinin banka hesabının değiştiğini ve bazı onayların hafta sonu verildiğini gösteriyor.
Bu uyarı, klasik aylık raporda kaybolabilecek bir örüntüyü birkaç dakika içinde görünür hâle getiriyor. İzleme güçleniyor. Fakat uyarının varlığı tek başına iyi yönetişim anlamına gelmiyor.
Birinci senaryoda sistem finans direktörüne bağlı. Alarm eşiklerini aynı ekip değiştiriyor, kapatılan uyarılar için gerekçe aranmıyor ve denetim komitesi yalnızca “bu ay 146 alarm üretildi” bilgisini görüyor. Çok veri var; fakat bağımsız gözetim yok.
İkinci senaryoda modelin iş sahibi finans birimi, teknik sahibi bilgi teknolojileri, bağımsız doğrulayıcısı ise iç denetim. Eşik değişiklikleri kayıt altına alınıyor. Yüksek riskli uyarılar gerekçesiz kapatılamıyor. Denetim komitesi alarm sayısını değil, soruşturmaya dönüşen uyarıları, yönetimce geçersiz kılınan sonuçları ve bu müdahalelerin gerekçelerini görüyor.
Aynı model, aynı veri ve aynı on bir fatura. Farkı yaratan algoritmanın gücü değil, etrafındaki yönetişim mimarisidir.
Yapay Zekâ İkinci Bir Vekil mi?
“Yapay zekâ yeni vekildir” benzetmesi dikkat çekici ama eksiktir. Modelin kendi çıkarı yoktur; buna karşılık insanlar tarafından belirlenen amaçları, eşikleri ve verileri ölçekli biçimde uygular. Bu nedenle yeni risk, makinenin kişisel çıkarından değil, karar zincirinin parçalanmasından doğar.
Modeli geliştiren başka, satın alan başka, kullanan başka, sonucundan etkilenen başka olabilir. Bir hata çıktığında herkes kendi parçasını doğru yaptığını söyleyebilir. Böylece eski asil–vekil ilişkisine yeni halkalar eklenir: yönetim kurulu, yönetici, model sağlayıcı, veri sahibi, kullanıcı ve doğrulayıcı.
Bu zinciri yönetmek için “insan gözetimi var” demek de yeterli değildir. İnsan yalnızca ekrandaki sonucu onaylıyorsa gözetim biçimsel kalır. Gerçek gözetim; sistemi durdurma, kararı değiştirme, gerekçe isteme ve itirazı inceleme yetkisi gerektirir.
2026'da Tartışma Artık Teorik Değil
2 Ağustos 2026'dan itibaren Avrupa Birliği Yapay Zekâ Tüzüğü'nün belirli sistemlere yönelik şeffaflık kuralları uygulanmaya, Avrupa Yapay Zekâ Ofisi ile ulusal otoritelerin denetim yetkileri işlemeye başladı. Yüksek riskli sistemlere ilişkin kuralların önemli bir bölümü daha ileri tarihlerde uygulanacak olsa da yön bellidir: yapay zekâ yalnızca performansıyla değil, izlenebilirliği ve sorumluluk zinciriyle de değerlendirilecektir.
NIST Yapay Zekâ Risk Yönetimi Çerçevesi bu işi dört fiille kuruyor: yönet, bağlamı haritala, ölç ve riski ele al. ISO/IEC 42001:2023 ise yapay zekâyı tek tek modellerden önce bir yönetim sistemi konusu olarak ele alıyor. Her iki yaklaşım da aynı noktaya çıkıyor: model envanteri, açık sorumluluk, yaşam döngüsü boyunca izleme ve belgelendirme.
Bu çerçeveler Türkiye'deki her şirket için aynı hukuki yükümlülüğü doğurmayabilir. Fakat AB ile çalışan, yapay zekâ kullanan veya bu sistemleri müşterilerine sunan şirketler açısından yönetim kurulunun “hangi modeli kullanıyoruz?” sorusuyla yetinmesi artık zayıf kalır.
Yönetim Kurulunun Bakacağı Altı İz
| Soru | Zayıf yönetişim | İşleyen yönetişim |
|---|---|---|
| Sistem envanteri | Birimler araçları kendi başına kullanır. | Kullanılan modeller, amaçları ve sahipleri kayıtlıdır. |
| Karar yetkisi | Model önerir, insan otomatik onaylar. | Öneri, onay ve uygulama yetkileri ayrı tanımlanır. |
| Veri ve eşikler | Değişiklikleri modeli kullanan ekip yapar. | Değişiklikler kayıtlı, gerekçeli ve bağımsız gözden geçirmeye açıktır. |
| İnsan müdahalesi | “İnsan döngüde” ifadesiyle yetinilir. | Durdurma, düzeltme ve itirazı inceleme yetkisi açıkça atanır. |
| Performans ölçümü | Üretilen alarm sayısı raporlanır. | Doğrulanan alarm, yanlış pozitif ve değişen karar birlikte izlenir. |
| Olay yönetimi | Hata çıkınca sorumlu aranır. | Hata, itiraz, geri alma ve sistemi devreden çıkarma süreci önceden yazılıdır. |
Bu tablo, yapay zekânın iyi çalışıp çalışmadığından önce şirketin onu yönetip yönetemediğini gösterir. Model başarımı teknik bir ölçüdür; hesap verebilirlik ise kurumsal bir tasarım meselesidir.
Pratikte Ne Yapmalı?
- Envanteri çıkarın: Finans, insan kaynakları, satış ve denetimde kullanılan her yapay zekâ sisteminin amacını, sahibini ve veri kaynağını kayda alın.
- Yetki sınırını yazın: Sistem yalnızca öneri mi üretiyor, işlemi onaylıyor mu, yoksa doğrudan uyguluyor mu? Her kullanım için bu sınırı ayrı belirleyin.
- Üç hattı ayırın: Modeli kullanan, teknik olarak yöneten ve bağımsız doğrulayan taraf aynı ekip olmasın.
- Müdahaleyi izleyin: Yönetimin geçersiz kıldığı uyarıları, değiştirilen eşikleri ve kapatılan vakaları gerekçeleriyle raporlayın.
- Sonucu ölçün: “Kaç alarm üretti?” yerine “hangi karar değişti, hangi kayıp önlendi, hangi yanlış alarm tekrarlandı?” sorularını sorun.
- Çıkış planı kurun: Model hatalı veya bağlam dışı sonuç verdiğinde sistemi durduracak kişi, yedek süreç ve kayıt düzeni önceden belli olsun.
İtimat Global'de otonom sistemler kurarken benim için temel ayrım burada oluşuyor: otomasyon, kontrolün kendisi değildir. İyi tasarlanırsa denetçinin ve yönetim kurulunun görüş alanını genişletir; kötü tasarlanırsa yalnızca daha hızlı üretilmiş bir güven duygusu yaratır.
Bu nedenle yapay zekâ bağımsız denetçinin veya yönetim kurulunun yerini almaz. Onların daha geniş veriyi daha erken sorgulamasını sağlar. Mesleki yargıyı kaldırmaz; yargının nereye yöneltileceğini değiştirir.
Yapay zekâ yöneticinin görünmeyen kararlarını görünür kılabilir. Fakat modeli kimin kurduğunu, eşiği kimin değiştirdiğini ve alarmı kimin kapattığını göremiyorsak vekâlet sorunu çözülmüş değil, yalnızca yer değiştirmiştir.