Yapay Zeka Hukuku ve Otonom Sistemlerin Sorumluluk Rejimi 
“Makine karar verdiğinde suç kime ait olur; kodu yazana mı, düğmeye basana mı, yoksa görünmeyen akla mı
— Ersan Karavelioğlu
Yapay Zeka Hukuku Nedir Yeni Bir Hukuk Dalı mı Doğuyor
Yapay zeka hukuku; algoritmaların, öğrenen sistemlerin ve otonom makinelerin insan yaşamı üzerindeki etkilerini düzenleyen yeni hukuk alanıdır
Bu alan artık yalnız teknik değil, doğrudan:
- Ceza hukukunu
- Medeni hukuku
- İnsan haklarını
- Ticaret hukukunu
kökten etkilemektedir.
Otonom Sistem Ne Demektir
Otonom sistem;
- Dış müdahale olmadan karar alabilen
- Ortamı analiz eden
- Kendi davranışını uyarlayan
teknolojik yapılardır
Sürücüsüz araçlar, insansız hava araçları, otomatik cerrahi sistemler bu kapsamdadır.
Hukuk Açısından Temel Soru Nerede Başlar
Hukukun sorduğu çekirdek soru şudur
Kararı insan mı verdi, yoksa sistem mi
Eğer karar insana ait değilse, sorumluluk zinciri ilk kez öznesiz kalmaya başlar.
Yapay Zeka Bir Araç mı, Yoksa Fail mi
Bugün hukuk şunu söyler:
Yapay zeka araçtır
Fail değildir Suç kişisi değildirAncak otonomi yükseldikçe bu ayrım giderek bulanıklaşmaktadır
Klasik Sorumluluk Mantığı Neye Dayanır
Klasik sorumluluk şuna dayanır:
- İrade
- Kusur
- Öngörü
- Kontrol
Otonom sistemlerde bu dört unsurun tamamı parçalanmaktadır
Otonom Araç Kaza Yaparsa Kim Sorumlu Olur
Bir sürücüsüz araç:
- Yayaya çarparsa
- Yanlış karar verirse
- Sensörü hata yaparsa
Sorumlu kimdir
- Yazılım firması mı
- Donanım üreticisi mi
- Aracın sahibi mi
- Veriyi sağlayan mı
Bugün hukuk hâlâ bu sorunun tek bir cevabını verememektedir
Tıbbi Yapay Zeka Hata Yaparsa Hayat Kime Aittir
Bir algoritma yanlış teşhis koyarsa:
- Doktor mu suçlu
- Yazılımcı mı
- Hastane mi
Burada insan hayatı, kod satırı ile vicdan arasına sıkışmaktadır
Kara Kutu Algoritma ve Hukuki Körlük
Birçok yapay zeka sistemi:
- Kendi iç karar mekanizması açıklanamayan
- Sonuca nasıl ulaştığı bilinmeyen
kara kutu modellerdir
Hukuk ise gerekçesiz kararı asla meşru sayamaz.
Yapay Zeka Kusur İşleyebilir mi
Kusur:
- Bilerek yapmak
- İhmal etmek
- Zarar ihtimalini öngörmektir
Makine ne bilir,
ne pişman olur,
ne de ahlaki kaygı taşır
Bu yüzden yapay zekaya kusur yüklemek felsefi olarak boşlukta kalır.
Üretici Sorumluluğu Yeterli mi
Bugün en sık başvurulan model şudur:
Üretici, üründen doğan zarardan sorumludur
Ama öğrenen sistemler:
- Zamanla değişir
- Güncellenir
- Kendi davranışını dönüştürür
Bu da üreticinin kontrol alanını sürekli daraltır.
Yapay Zeka Ceza Alabilir mi
Ceza:
- Acı içerir
- Utanç içerir
- Caydırıcılık taşır
Makine için bunların hiçbiri yoktur
Bu nedenle yapay zekaya ceza değil, yalnızca:
- Kapatma
- Devre dışı bırakma
- Sistem yasağı
uygulanabilir.
Sorumluluk Zinciri Dağıldığında Adalet Ne Olur
Eğer herkes şunu derse:
- Ben yazmadım
- Ben çalıştırmadım
- Ben sadece kullandım
Adalet ilk kez sahipsiz kalır
Bu, hukuk tarihinde en tehlikeli eşiklerden biridir.
Yapay Zeka Tüzel Kişi Olabilir mi
Bazı görüşler şunu savunur:
Ama bu durumda tehlike şudur
Gerçek insanlar sorumluluktan kaçmak için makinenin arkasına saklanabilir.
Küresel Hukuk Otonom Sistemlere Nasıl Bakıyor
Bugün genel küresel yaklaşım:
İnsan merkezli sorumluluk Otomatik sistemlerde insan denetimi Tam otonom hukuki kişilik yok Tam otomatik ceza yokHukuk şimdilik frene basmaktadır
Yapay Zeka Kararı Denetlenebilir Olmak Zorunda mı
Evet
Hukuk için hesap verebilirlik olmazsa olmazdır.
Bu yüzden geleceğin temel ilkesi şudur:
Otonom Sistemler Masumiyet Karinesini Zedeler mi
Algoritmalar:
- Risk puanı verir
- Suç ihtimali hesaplar
- Davranış tahmini yapar
Bu da kişiyi suç işlemeden suçlu gibi etiketleme tehlikesini doğurur
Masumiyet karinesi, ilk kez istatistikle çatışmaktadır.
Yapay Zeka Hukuku İnsan Haklarını Nasıl Etkiler
Algoritmalar:
- Ayrımcılık yapabilir
- Görünürlüğü silebilir
- İtibar puanı düşürebilir
Böylece insan hakları ihlali, artık bir komut satırı sonucu haline gelebilir
Gelecekte Sorumluluk Rejimi Nasıl Dönüşecek
Gelecekte büyük ihtimalle:
- Sigorta temelli yapay zeka sorumluluğu
- Zorunlu algoritma lisansları
- Uluslararası yapay zeka mahkemeleri
gündeme gelecektir
Hukuk, ilk kez makineyle birlikte evrilecektir.
Son Söz Makine Karar Verdikçe İnsan Nerede Sorumlu Kalır
Eğer insan:
- Kararı algoritmaya
- İradesini sisteme
- Vicdanını koda
devrederse
Sorumluluk da insandan sessizce çekilir.
Hukuk işte tam bu noktada insanı değil, sistemi korumaya başlarsa,
adalet bir gün donmuş bir yazılıma dönüşebilir.
