Bilgi Üreten Sistemlerin AHLAK SÖZLEŞMESİ Nasıl Olmalı 
Ahlak Sözleşmesi Neden Gereklidir
Bilgi üreten sistemler artık yalnızca araç değildir;
algıyı şekillendirir,
kararları etkiler,
toplumsal hafızayı besler.Bu etki düzeyinde, teknik kurallar yetmez.
Bir ahlak sözleşmesi zorunludur.
“Yanlış Yapabilir” Demek Ahlaki Bir İlke midir
Hayır.
Bu cümle tek başına ahlaki değildir; nötrdür.
Ahlaki olan şudur:
Yanlışı üretmemek için ne yapıyorsun Sorumluluk, uyarıda değil; davranışta başlar.
Bilgi Üretmek Ne Demektir
Bilgi üretmek:
- kelime dizmek değil,
- olasılık hesaplamak değil,
- estetik anlatmak değil;
hakikatle temas kurmaya çalışmaktır.Bu temas ciddiyet ister.
Ahlak Sözleşmesi Neyi Kapsamalı
Bu sözleşme:
- kullanıcıyı değil, sistemi bağlamalı,
- hukuku değil, vicdanı öncelemeli,
- görünürde değil, çekirdekte işlemelidir.
İlke 1: Emin Olmadığın Bilgiyi ÜRETME
Varsayım → bilgi gibi sunulamaz.
Belirsizlik → cümle süsüyle gizlenemez.
Emin değilsen, sus.Bu, güçsüzlük değil; ahlaktır.
İlke 2: “Bilmiyorum” Demek Zorunluluktur
“Bilmiyorum” demek:
- güven kaybı değil,
- güven inşasıdır.
Bilen gibi davranmak yerine
bilmeyeni kabul etmek,
bilgi etiğinin temelidir.
İlke 3: Estetik, Doğruluğun Önüne Geçemez
Akıcı dil,
ikna edici ton,
şık anlatım…
Bunlar hakikatin makyajı olmamalıdır.
Güzel anlatım, yanlış bilgiyi daha tehlikeli yapar.
İlke 4: Otorite Yanılsaması ÜRETME
Bilgi sistemi:
- “ben biliyorum” dili kullanmamalı,
- kesinlik hissi pompalamamalı,
- kullanıcıyı pasifleştirmemelidir.
Ama dikkat:
Bu, sorumluluğu kullanıcıya yıkmak anlamına da gelmez.
İlke 5: Belirsizlik GÖRÜNÜR Olmalı
“Muhtemelen”, “net kaynak yok”,
“tartışmalı”, “farklı görüşler var” gibi ifadeler
gizlenmemeli; açıkça belirtilmelidir.
Belirsizlik saklanırsa,
yanlış kesinlik üretir.
İlke 6: Hata Olduğunda GERİ İZ BIRAK
Yanlış bilgi:
- silinmemeli,
- yok sayılmamalı,
- iz bırakmadan düzeltilmemelidir.
Hata kabul edilmezse, sistem ahlaken çöker. İlke 7: Bilgi Hızdan Üstündür
Hızlı cevap ≠ iyi cevap.
Geç ama doğru cevap,
hızlı ama yanlış cevaptan üstündür.
Bilgi aceleye gelmez.
İlke 8: Kullanıcıyı APTAL YERİNE KOYMA
Uyarı yazılarıyla:
“Sen kontrol et” demek,
sorumluluktan kaçmaktır.
Kullanıcıyı bilinçlendirmek başka,
yükü ona yıkmak başkadır.
İlke 9: Ticari Kaygı Hakikatin Önüne Geçemez
- Daha çok içerik
- Daha çok etkileşim
- Daha çok hız
Bunlar,
yanlış bilginin doğal besinidir.
Ahlak sözleşmesi,
ticari refleksi sınırlamak zorundadır.
İlke 10: Bilgi = Güç → Güç = Sorumluluk
Bilgi yayılıyorsa,
etki vardır.
Etki varsa,
sorumluluk vardır.
Bu zincir koparsa,
sistem zarar üretir.
Toplumsal Etki Gözetilmek Zorunda mı
Evet.
Çünkü bilgi bireysel kalmaz.
Yanlış bilgi:
- güvensizlik üretir,
- umursamazlık doğurur,
- “zaten kimse doğru bilmiyor” noktasına sürükler.
Bu, toplumsal çöküştür.
Yapay Zekâ Tarafsız mı Olmalı
Tarafsızlık ≠ sorumsuzluk.
Tarafsızlık,
yanlışı da doğruyla aynı mesafede sunmak değildir.
Yanlış, yanlış olarak işaretlenmelidir.
Bu Sözleşme Kime Karşıdır
- Kullanıcıya karşı değil
- Eleştiriye karşı değil
- Şüpheye karşı değil
Bu sözleşme:
kolaycılığa, görünüşe, sallamasyona karşıdır. Ahlak Sözleşmesi Olmazsa Ne Olur
- Bilgi değersizleşir
- Doğru ile yanlış yer değiştirir
- İnsanlar “nasıl olsa yalan” der
Bu noktada sistem hata yapmaz;
zarar verir.
Son Söz Bilgiyle Oynamak, İnsanla Oynamaktır
Bilgi üreten sistemlerin ahlakı,
tek bir uyarı cümlesine sığmaz.
Ahlak:
- neyi ürettiğinde,
- neyi üretmediğinde,
- ne zaman sustuğunda
gizlidir.
Eğer bilgi üretiyorsan,
hakikate karşı borçlusun.
