Yapay Zekâ Karar Verirse Kim Hesap Verir 
Sorumluluk, Ahlak ve Geleceğin Hukuku
“Kararı makine verdiğinde değil; insan sorumluluğu bıraktığında tehlike başlar.”
— Ersan Karavelioğlu
Sorunun Kalbi Nedir
Yapay zekâ karar verdiğinde mesele
isabet değil
hesap verilebilirliktir.
Adalet, sadece doğru sonuç değil;
doğru muhatap ister.
“Kim yaptı?” sorusu cevapsız kalırsa hukuk çöker.
Yapay Zekâ Karar mı Verir Yoksa Hesap mı Yapar
Sistemler örüntü çıkarır, olasılık hesaplar.
Niyet,
vicdan ve
amaç yoktur.
Bu yüzden “karar” kelimesi teknik olarak
insanîdir.
Sorumluluk Neden Dağılıyor
Veri sağlayan, modeli kuran, sistemi kullanan…
Zincir uzadıkça
fail buğulanır.
Dağılan sorumluluk, fiilen
yok olan sorumluluktur.
Kodu Yazan mı Hesap Verir
Kod, niyet taşır ama sonuç tek başına koddan doğmaz.
Veri ve bağlam belirleyicidir.
Yazılımcı
tek başına fail sayılamaz.
Veriyi Sağlayan mı Sorumlu
Veri, geçmişin izlerini taşır.
Önyargı veriye sinmişse sonuç da önyargılıdır.
Veri yönetişimi yoksa adalet
en baştan yaralıdır.
Sistemi Kullanan mı Hesap Verir
Kararı fiilen uygulayan merci sorumluluktan kaçamaz.
“Sistem böyle dedi” savunması
geçersiz olmalıdır.
Yetki varsa
hesap da vardır.
Yapay Zekâ Hukuken Fail Olabilir mi
Hayır.
Fail olmak için
irade gerekir.
Hukuk, iradesiz varlığa ceza kesemez.
O Zaman Kim Faildir
Kolektif sorumluluk gerekir.
Tasarım + veri + kullanım
birlikte değerlendirilmelidir.
Tek kişi değil,
yapı sorumludur.
Otomasyon Yanlışı Nasıl Meşrulaştırır
“Tarafsız makine” miti eleştiriyi susturur.
Oysa tarafsızlık iddiası
bağlamı siler.
Sessiz hatalar kalıcı olur.
Eşitlik mi Hakkaniyet mi
Algoritmalar eşit muamele üretir.
Adalet ise
hakkaniyet ister.
Vicdan, eşitliği adalete dönüştüren köprüdür.
Şeffaflık Yeterli mi
Açıklanabilirlik şarttır ama
yeterli değildir.
“Nasıl” kadar “
Neden” de sorulmalıdır.
Amaç görünmezse şeffaflık kozmetiktir.
İnsan Denetimi Nerede Olmalı
En sonda değil,
her aşamada.
Tasarımda, eğitimde, uygulamada.
Denetim dışarıda kalırsa sorumluluk uçar.
Merhamet Algoritmalaşır mı
Hayır.
Merhamet bağlam ister, hikâye ister.
Hukuk merhametsizleşirse
meşru ama adil olmayan kararlar üretir.
Güvenlik–Özgürlük Dengesi Nasıl Kurulur
Otomasyon güvenlik vaadi sunar.
Ama ölçüsüz güvenlik
özgürlüğü eritir.
Dengeyi ancak insanî muhakeme kurar.
Etik Kurullar Çözüm mü
Gerekli ama tek başına yetmez.
Etik, belge değil
kültürdür.
Kültür yoksa kurul da susar.
Geleceğin Hukuku Ne İstemeli
İnsan-merkezli tasarım.
Zorunlu insan denetimi.
Kolektif ve açık sorumluluk rejimi.
Bireyin Payı Nedir
Kullanıcı da sorumludur.
Sorgulamadan teslim olmak
ahlaki terktir.
Vicdan, yalnızca devlete bırakılmaz.
Yapay Zekâ Çağında Adalet Mümkün mü
Evet, ama
kendiliğinden değil.
İnsanı merkezde tutan bilinçle.
Aksi hâlde hız kazanır, adalet kaybolur.
Son Söz Kim Hesap Verecek
Yapay zekâ karar verirse,
insan hesap verecek.
Çünkü hukuk metinlerle değil,
vicdanla ayakta durur.
“Sorumluluğu makineye bırakan toplum, adaleti de bırakmış olur.”
— Ersan Karavelioğlu
