Yapay zekânın uydurduğu bilgilerden kim sorumlu?

Halüsinasyon nedir, neden artık hukuki bir mesele?

Yapay zeka halüsinasyonu, bir dil modelinin gerçekte var olmayan veya doğrulanamayan bir bilgiyi — bir tarih, bir rakam, bir mevzuat maddesi, bir mahkeme kararı, bir alıntı — kendinden emin bir dille üretmesidir. Model bilinçli olarak "yalan söylemez"; olasılıksal olarak akla yatkın gelen metni üretir ve bu metin her zaman doğru olmaz. Asıl risk, çıktının ikna edici, akıcı ve yetkin görünmesidir.

Bu kusur uzun süre bir "kullanıcı deneyimi sorunu" olarak görüldü. Ancak yapay zeka çıktıları giderek müşteriye giden yanıtlarda, resmi belgelerde ve karar süreçlerinde kullanıldıkça, hatalı bilginin yarattığı zarar da somutlaştı. Nitekim 2026 ortasında, yapay zeka çıktılarındaki hatalı bilgiden doğan sorumluluğa dair kamuoyuna yansıyan mahkeme tartışmaları — bunların arasında Münih'te bir arama motoru sağlayıcısını ilgilendiren bir dosyanın gündeme gelmesi — sorunun artık yalnızca etik değil, hukuki bir zemine taşındığını gösteren işaretler oldu. Tekil kararların ayrıntısı ne olursa olsun, yön açık: "yapay zeka öyle söyledi" bir savunma değil.

Sorumluluk kime ait?

Sorumluluk tek bir tarafa yıkılabilecek kadar basit değil; genellikle katmanlıdır. Uygulamada üç halka öne çıkar:

• Modeli sağlayan: Temel modeli geliştiren ve sunan taraf — modelin sınırları, uyarıları ve amaçlanan kullanımı bakımından.
• Çözümü kuran / uygulayan: Modeli bir iş sürecine yerleştiren, veriyle besleyen ve çıktıyı biçimlendiren taraf.
• Çıktıyı kullanan kurum: Üretilen bilgiyi müşteriye ileten, belgeye döken veya karara dayanak yapan taraf.

Genel eğilim, yapay zekâ kullanmanın kurumun kontrol ve özen yükümlülüğünü ortadan kaldırmadığı yönünde. Yapay zeka bir aracı; hesap tablosu ya da danışman gibi. Aracı kullanmak, sonucun doğruluğunu denetleme ve nihai kararı verme sorumluluğunu üstlenene bırakmaktan kurtarmaz. Bu yüzden asıl mesele "suçlu aramak" değil, çıktının denetlenebilir ve gerekçelendirilebilir olmasıdır. (Bu yazı genel bir değerlendirmedir; belirli bir olaya ilişkin hukuki görüş yerine geçmez.)

Düzenlenen sektörlerde risk katlanır

Finans, bankacılık, hukuk ve sağlık gibi düzenlenen alanlarda halüsinasyonun bedeli çok daha ağırdır. Yanlış bir tutar, uydurma bir mevzuat maddesi ya da temelsiz bir gerekçe; hem müşteriye zarar verir hem de kurumu regülatif riske sokar.

• KVKK ve otomatik kararlar: KVKK, ilgili kişiye tamamen otomatik işlenen kararlara itiraz ve bunları gerekçesiyle öğrenme hakkı tanır. Dayanağı gösterilemeyen bir yapay zeka kararı bu hakla çelişir.
• AI Act ve şeffaflık: Avrupa yapay zeka düzenlemesi, yapay zeka ile üretilen içeriğin kullanıcıya şeffaf biçimde bildirilmesini öngörür. Şeffaflık, hesap verebilirliğin ön koşuludur.
• Sektörel beklentiler: Düzenleyiciler, modelin ürettiği kararların açıklanabilir ve izlenebilir olmasını bekler; "kara kutu" bir çıktı denetimde savunulabilir değildir.

finhouse yaklaşımı: halüsinasyonu tasarımdan azaltmak

Halüsinasyonu tümüyle sıfırlamak mümkün değil — ama doğru mimariyle riski belirgin biçimde düşürmek ve her çıktıyı hesap verebilir kılmak mümkün. finhouse'un kurumsal yapay zeka platformu FirmaAI, bu ilkeler üzerine kuruludur:

• Yerel / egemen yapay zeka: Model kurumun kendi altyapısında (on-premise) çalışabilir; veri kurumdan çıkmaz. Bu hem KVKK uyumunu kolaylaştırır hem de modeli kurumun gerçek verisine kalibre eder.
• Kaynak-temelli yanıt (RAG + atıf): Yanıtlar serbest üretim yerine kurumun kendi belgelerine ve mevzuata dayandırılır; dayanağı olmayan bilgi üretmek kısıtlanır ve cevabın kaynağı gösterilir.
• İnsan-döngüde onay (HITL): Kritik aksiyonlar — bir mailin gönderilmesi, bir kararın uygulanması — otomatik gerçekleşmez; bir onay kuyruğundan geçer. Nihai karar her zaman insanda kalır.
• AI Act Madde 50 şeffaflığı: Yapay zeka ile üretilen içerik açıkça işaretlenir; örneğin üretilen belgelerde "Yapay zeka ile oluşturuldu" ibaresi yer alır.
• Denetlenebilirlik ve iz: Her yanıtın hangi kaynağa dayandığı kayıt altına alınır; kararın gerekçesi sonradan gösterilebilir. Açıklanabilirlik, tasarımın bir parçasıdır.

Kısacası soru "yapay zeka hata yapar mı?" değil — yapar. Doğru soru şu: kurum bu hatayı fark edecek, sınırlayacak ve hesabını verebilecek bir mimariye sahip mi? finhouse'un cevabı, zekâyı hızdan değil, güvenden ve denetlenebilirlikten yana kurmaktır.

Kurumunuz için güvenli yapay zeka

Verisi kurumdan çıkmayan, yanıtını kaynağa dayandıran ve kararı insana bırakan bir yapay zeka altyapısını konuşalım.