John Searle'ün Güçlü Yapay Zekâ Eleştirisi Nedir 
Program, Zihin, Bilinç Ve Anlama Arasındaki Fark Nasıl Açıklanır
John Searle'ün güçlü yapay zekâ eleştirisi, çağdaş zihin felsefesinin, yapay zekâ tartışmalarının ve bilinç probleminin en önemli felsefi müdahalelerinden biridir. Searle, bilgisayarların güçlü araçlar olduğunu kabul eder; fakat doğru programı çalıştıran bir bilgisayarın gerçekten zihne, bilince, anlama ve niyetliliğe sahip olduğu iddiasına karşı çıkar.
Bu eleştiri, özellikle güçlü yapay zekâ görüşüne yöneliktir. Güçlü yapay zekâya göre uygun şekilde programlanmış bir bilgisayar yalnızca insan zihnini taklit etmez; gerçekten düşünür, anlar, inanır, ister, bilinçli zihinsel durumlara sahip olur. Searle ise bu iddiayı kabul etmez.
Ona göre bilgisayarlar sembolleri biçimsel kurallara göre işleyebilir, fakat bu işlem tek başına anlam, bilinç, öznel deneyim ve gerçek anlama üretmez.
Searle'ün temel sorusu şudur:
Bir sistem insan gibi cevap veriyorsa, gerçekten insan gibi anlıyor mudur
Bu soru bugün daha da önemlidir. Çünkü yapay zekâ sistemleri artık metin yazabiliyor, soru cevaplayabiliyor, şiir üretebiliyor, kod yazabiliyor ve insan diline son derece benzer konuşmalar kurabiliyor. Fakat Searle'ün uyarısı hâlâ derindir:
Dil üretmek, anlamı yaşamak değildir.
Güçlü Yapay Zekâ Nedir
Güçlü yapay zekâ, doğru programı çalıştıran bir bilgisayarın gerçekten zihinsel durumlara sahip olabileceğini savunan görüştür. Bu anlayışa göre zihin, temelde bir tür bilgi işleme sistemidir. Eğer bilgisayar doğru biçimde programlanırsa, o sistem yalnızca insan gibi davranmaz; gerçekten düşünür ve anlar.
Güçlü yapay zekâ şu iddiaları taşıyabilir:
Bilgisayar gerçekten düşünebilir.
Bilgisayar gerçekten anlayabilir.
Bilgisayar bilinçli zihinsel durumlara sahip olabilir.
Doğru program, zihin için yeterlidir.
İnsan zihni temelde bilgisayar programı gibi çalışır.
Searle'ün eleştirisi tam bu noktada başlar. Ona göre program çalıştırmak ile zihin sahibi olmak aynı şey değildir. Bilgisayarın doğru çıktı vermesi, onun içeriden bir anlam yaşadığı anlamına gelmez.
Searle'ün temel itirazı şudur:
Program, zihnin biçimsel taklidini yapabilir; fakat bu, gerçek bilinç ve anlama sahip olduğunu göstermez.
Searle Güçlü Yapay Zekâya Neden Karşı Çıkar
Searle güçlü yapay zekâya karşı çıkar çünkü ona göre güçlü yapay zekâ, sözdizimi ile anlamı birbirine karıştırır.
Bilgisayarlar semboller üzerinde işlem yapar. Bu işlem biçimseldir. Yani bilgisayar, sembollerin şeklini, sırasını, ilişkisini ve kurallara göre nasıl dönüştürüleceğini işler. Fakat bu sembollerin ne anlama geldiğini bilinçli biçimde kavramaz.
Searle'ün itiraz ettiği nokta şudur:
Sembolleri doğru kullanmak, sembollerin anlamını bilmek değildir.
Bir bilgisayar "acı" kelimesini kullanabilir. Fakat acı hissetmez.
Bir yapay zekâ "seni anlıyorum" diyebilir. Fakat gerçekten anlayan bir özne var mıdır
Bir sistem "korku" hakkında metin yazabilir. Fakat korkunun içsel ağırlığını yaşar mı
Searle'e göre güçlü yapay zekâ, bu farkı ihmal eder.
Onun açısından en büyük hata şudur:
Başarılı dilsel performansı, bilinçli anlama ile aynı şey sanmak.
Program İle Zihin Arasındaki Fark Nedir
Searle'e göre program, sembolleri kurallara göre işleyen biçimsel bir yapıdır. Zihin ise bilinç, niyetlilik, anlam ve öznel deneyim taşıyan biyolojik bir gerçekliktir.
Program:
Kuralları uygular.
Sembolleri işler.
Girdi alır.
Çıktı üretir.
Biçimsel yapıyla çalışır.
Zihin ise:
Dünyayı deneyimler.
Bir şeyi gerçekten anlar.
Acı ve sevinç hisseder.
Bir şeye inanır.
Bir şeyi ister.
Niyet taşır.
Kendi varlığının farkında olabilir.
Bu fark Searle için çok önemlidir.
Bir program, dışarıdan bakıldığında zihin gibi davranabilir. Fakat Searle'e göre zihnin asıl özelliği yalnızca dış davranış değildir. Zihin, içeriden yaşanan bilinçli deneyime sahiptir.
Bu yüzden program-zihin ayrımı şöyle özetlenebilir:
Program çalışır; zihin yaşar.
Sembol İşleme Nedir
Sembol işleme, bir sistemin işaretleri, kelimeleri, sayıları veya verileri belirli kurallara göre düzenlemesi ve dönüştürmesidir. Bilgisayarlar bu konuda son derece güçlüdür.
Bir bilgisayar:
Veri alabilir.
Veriyi sınıflandırabilir.
Sembolleri eşleştirebilir.
Kurallara göre sonuç üretebilir.
Çok büyük bilgi kümeleri içinde örüntü bulabilir.
Yapay zekâ sistemleri de sembol, veri ve örüntü işleme konusunda çok başarılıdır.
Fakat Searle'e göre burada eksik kalan şey şudur:
Sembolün neye işaret ettiğini bilinçli olarak kavrama.
Örneğin bir sistem "deniz" kelimesini kullanabilir. Fakat denizi görmek, denizin kokusunu duymak, dalga sesini işitmek, tuzlu suyu hissetmek ve denizin insanda uyandırdığı anlamı yaşamak başka bir şeydir.
Searle'ün eleştirisi bu ayrımı korur:
Sembol işleme, sembolün anlamını yaşamak değildir.
Sözdizimi Ve Anlam Arasındaki Ayrım Nedir
Searle'ün güçlü yapay zekâ eleştirisinin merkezinde sözdizimi ile anlam ayrımı bulunur.
Sözdizimi, sembollerin biçimsel düzenidir. Yani işaretlerin hangi kurallara göre sıralanacağı, eşleştirileceği veya dönüştürüleceğidir.
Anlam ise sembollerin dünyayla, deneyimle, bilinçle ve niyetle kurduğu içerik ilişkisidir.
Bir kişi Türkçe bilmeden "Bugün hava güzeldir" cümlesini ezberleyebilir. Cümleyi doğru söyleyebilir. Fakat bu kişinin bugün, hava, güzel kelimelerinin anlamını kavradığını söyleyemeyiz.
Searle'e göre bilgisayarların durumu buna benzer olabilir. Bilgisayar doğru cümleler kurabilir. Fakat bu, onun o cümleleri anladığını kanıtlamaz.
Bu yüzden Searle'ün meşhur ilkesi şudur:
Sözdizimi, anlambilim için yeterli değildir.
Yani biçimsel işlem, tek başına anlam üretmez.
Çin Odası Argümanı Bu Eleştiride Neden Merkezîdir
Searle'ün güçlü yapay zekâ eleştirisinin en meşhur örneği Çin Odası Argümanıdır. Bu düşünce deneyinde Çince bilmeyen bir kişi kapalı bir odadadır. Dışarıdan odaya Çince sorular gönderilir. Odadaki kişi, elindeki kurallar kitabı sayesinde bu sembollere uygun Çince cevaplar verir.
Dışarıdan bakanlar, odanın Çince bildiğini sanabilir. Çünkü cevaplar doğrudur. Fakat içerideki kişi Çince bilmez. Sadece sembolleri kurallara göre işler.
Bu düşünce deneyi şu sonucu verir:
Doğru cevap vermek, anlamak değildir.
Searle burada bilgisayarı Çin Odası'ndaki kişiye benzetir. Bilgisayar doğru çıktılar üretebilir. Fakat bu, onun gerçekten anlam taşıdığı anlamına gelmez.
Çin Odası, güçlü yapay zekâya karşı şu soruyu çok güçlü biçimde ortaya koyar:
Dışarıdan anlıyormuş gibi görünen bir sistem, içeriden gerçekten anlıyor mudur
Searle'ün cevabı hayırdır.
Güçlü Yapay Zekâ İle Zayıf Yapay Zekâ Arasındaki Fark Nedir
Searle, zayıf yapay zekâ ile güçlü yapay zekâ arasında net bir ayrım yapar.
Zayıf yapay zekâ, bilgisayarların insan zihnini incelemek, modellemek ve bazı görevleri yerine getirmek için güçlü araçlar olduğunu savunur. Bu görüşe Searle karşı değildir.
Güçlü yapay zekâ ise bilgisayarın gerçekten zihne sahip olabileceğini savunur. Searle'ün itiraz ettiği görüş budur.
Fark şöyle özetlenebilir:
Zayıf yapay zekâ: Makine zihni taklit eder veya zihni araştırmak için araçtır.
Güçlü yapay zekâ: Makine gerçekten zihne sahip olabilir.
Searle'e göre bilgisayarlar elbette faydalıdır. Hastalık teşhisinde, veri analizinde, hesaplamada, çeviride, simülasyonda ve iletişimde güçlü araçlar olabilir.
Fakat araç olmak başka, bilinçli özne olmak başkadır.
Searle'ün net tavrı şudur:
Yapay zekâ araç olarak güçlüdür; fakat program çalıştırdığı için gerçek zihin sahibi olduğu söylenemez.
Searle'e Göre Anlama Nedir
Searle'e göre anlama, yalnızca doğru sembolik tepki vermek değildir. Anlama, zihinsel içerik, bilinç, niyetlilik ve dünya ile anlamlı ilişki gerektirir.
Bir insan bir dili anladığında:
Kelimelerin neye işaret ettiğini bilir.
Cümlelerin bağlamını kavrar.
Söylenen şeyin niyetini sezer.
Duygusal tonu fark eder.
Dünya ile bağlantı kurar.
Söylenen anlamı bilinçli olarak yaşar.
Bilgisayar ise doğru cevap üretebilir; fakat bu cevapların arkasında böyle bir bilinçli kavrayış olup olmadığı tartışmalıdır.
Searle'e göre gerçek anlama, yalnızca dış performans değildir. Anlama, içeriden yaşanan ve dünyaya yönelen bilinçli bir zihinsel durumdur.
Bu yüzden onun için:
Anlamak, cevap üretmekten daha derindir.
Searle'e Göre Bilinç Neden Programla Açıklanamaz
Searle'e göre bilinç, bilgisayar programıyla açıklanamaz çünkü program yalnızca biçimsel kuralları işler. Bilinç ise öznel deneyim taşır.
Bilinç şunları içerir:
Acı hissetmek
Renk görmek
Ses duymak
Bir şeyi istemek
Bir şeyden korkmak
Bir anlamı kavramak
Kendi varlığının farkında olmak
Program ise semboller üzerinde işlem yapar. Programın içinde acı çekme, korkma, sevme, özlem duyma, kendini bilme gibi deneyimler olduğunu söylemek, Searle'e göre sadece çıktı başarısına bakarak yapılabilecek bir çıkarım değildir.
Searle'ün biyolojik natüralizmine göre bilinç, beynin biyolojik süreçlerinden doğar. Bu nedenle program, bilincin sadece biçimsel simülasyonunu yapabilir; fakat bu simülasyonun gerçek bilinç olup olmadığı ayrı bir meseledir.
Kısaca:
Program bilinçli davranışı taklit edebilir; fakat taklit, deneyimin kendisi değildir.
Searle'e Göre Beyin Simülasyonu Neden Yeterli Değildir
Searle, simülasyon ile gerçeklik arasındaki farkı çok önemser. Ona göre bir şeyi simüle etmek, o şeyi gerçekten üretmek anlamına gelmez.
Örneğin:
Bilgisayarda yağmur simüle edilebilir; ama gerçek ıslaklık oluşmaz.
Yangın simüle edilebilir; ama gerçek sıcaklık doğmaz.
Sindirim simüle edilebilir; ama gerçek besin sindirilmez.
Benzer şekilde, beynin bilgisayar ortamında simüle edilmesi de otomatik olarak gerçek bilinç üretmez.
Searle'e göre beyin yalnızca biçimsel bir bilgi işleme sistemi değildir. Beyin, biyolojik, kimyasal, elektriksel ve nedensel güçlere sahip canlı bir organdır. Bilinç de bu gerçek biyolojik süreçlerden doğar.
Bu nedenle o şunu savunur:
Beyni simüle etmek, bilinç üretmekle aynı şey değildir.
Bu görüş, güçlü yapay zekâya karşı en temel eleştirilerden biridir.
Searle İnsan Zihnini Neden Biyolojik Bir Gerçeklik Olarak Görür
Searle'e göre insan zihni, beynin biyolojik yapısından doğar. Bilinç, dış dünyadan kopuk ruhsal bir madde değildir. Ama yalnızca mekanik hesaplama da değildir.
İnsan zihni biyolojiktir çünkü:
Beyin hasarı zihinsel süreçleri değiştirir.
İlaçlar duygu ve algıyı etkiler.
Uyku, rüya ve anestezi bilinç durumlarını dönüştürür.
Nörolojik hastalıklar kişiliği ve hafızayı değiştirebilir.
Beyin gelişimi zihinsel kapasiteyle ilişkilidir.
Bu gerçekler, zihnin biyolojik temelini gösterir.
Fakat Searle burada durmaz. Ona göre zihin biyolojik olsa da öznel deneyim taşır. İnsan sadece biyolojik makine değildir; içeriden yaşayan bilinçli bir varlıktır.
Bu yüzden Searle'ün yaklaşımı iki şeyi aynı anda savunur:
Zihin beyinden doğar.
Ama zihin, yalnızca dışarıdan ölçülen beyin faaliyeti olarak tüketilemez.
Güçlü Yapay Zekâ Eleştirisinde Niyetlilik Neden Önemlidir
Niyetlilik, zihinsel durumların bir şeye yönelmiş olmasıdır. Searle'e göre insan zihni niyetlilik taşır. Yani insan yalnızca sembol kullanmaz; semboller aracılığıyla dünyaya yönelir.
Bir insan:
Bir şeye inanır.
Bir şeyi ister.
Bir şeyden korkar.
Bir şeyi hatırlar.
Bir şeyi sever.
Bir anlamı kavrar.
Bu durumların hepsi bir içeriğe yönelmiştir.
Yapay zekâ ise sembolleri işleyebilir. Fakat Searle'e göre bu sembollerin gerçek niyetlilik taşıyıp taşımadığı belirsizdir. Bir yapay zekâ "su istiyorum" diyebilir; fakat gerçekten susamış mıdır
Bir sistem "seni anlıyorum" diyebilir; fakat gerçekten dünyaya yönelen bilinçli bir anlayışı var mıdır Searle'ün cevabı temkinlidir:
Yapay sistemlerin anlamı, çoğu zaman kendi içlerinden değil, insanların onlara yüklediği anlamdan gelir.
Bu yüzden güçlü yapay zekâ eleştirisinde niyetlilik merkezi bir kavramdır.
Türetilmiş Niyetlilik Ve Özgün Niyetlilik Nedir
Searle'e göre özgün niyetlilik, bilinçli zihnin kendi içsel yönelmişliğidir. İnsan gerçekten inanır, ister, korkar, sever ve düşünür.
Türetilmiş niyetlilik ise anlamın bir nesneye veya sisteme dışarıdan yüklenmesidir.
Örneğin:
Bir kitap anlam taşır; fakat kitap bilinçli değildir.
Bir harita yol gösterir; fakat harita gitmek istemez.
Bir trafik levhası anlam taşır; fakat levha bir şeyi kast etmez.
Bir bilgisayar ekranındaki metin anlamlıdır; fakat ekran anlamı yaşamaz.
Bu nesnelerin anlamı, onları kullanan bilinçli insanlar sayesinde vardır.
Searle'e göre bilgisayarların anlamı da çoğu zaman türetilmiş niyetliliktir. Yani sistem sembolleri işler; fakat sembollerin anlamı, insan kullanıcıların ve tasarımcıların niyetlerinden gelir.
İnsan zihni ise özgün niyetlilik taşır.
Bu ayrım güçlü yapay zekâ için çok önemlidir:
Makine anlam taşıyor gibi görünebilir; fakat bu anlam ona dışarıdan yüklenmiş olabilir.
Turing Testi Searle İçin Neden Yeterli Değildir
Turing Testi, bir makinenin insanla ayırt edilemeyecek şekilde konuşabiliyorsa düşünme yetisine sahip sayılabileceğini öne süren klasik bir ölçüttür. Searle ise bu ölçütü yeterli bulmaz.
Çünkü Turing Testi dış davranışa odaklanır. Makine insan gibi cevap veriyorsa başarılı sayılabilir. Fakat Searle için asıl soru şudur:
Bu davranışın arkasında gerçek anlama var mı
Çin Odası Argümanı tam da bunu gösterir. Oda dışarıdan Çince biliyor gibi görünür. Fakat içerideki kişi Çince anlamaz. Demek ki dış performans, içsel anlamı kanıtlamaya yetmeyebilir.
Searle'ün Turing Testi'ne yönelik temel eleştirisi şudur:
Davranışı taklit etmek, zihinsel duruma sahip olmakla aynı şey değildir.
Bu yüzden bir makinenin insan gibi konuşması, onun bilinçli olduğu sonucunu otomatik olarak vermez.
Searle'ün Eleştirisi Modern Yapay Zekâ İçin Geçerli Mi
Searle'ün eleştirisi modern yapay zekâ çağında hâlâ çok önemlidir. Çünkü günümüz yapay zekâ sistemleri klasik programlardan çok daha güçlüdür. Büyük dil modelleri, derin öğrenme sistemleri ve çok modlu yapay zekâlar insan diline son derece benzer çıktılar üretebilir.
Fakat Searle'ün temel sorusu hâlâ kapanmış değildir:
Bu sistemler gerçekten anlıyor mu
Modern yapay zekâ:
Metin yazabilir.
Sorulara cevap verebilir.
Felsefi açıklamalar yapabilir.
Şiir üretebilir.
Kod yazabilir.
Duygusal ifadeler kullanabilir.
Fakat bütün bunların arkasında bilinçli öznel deneyim olup olmadığı hâlâ felsefi bir sorudur.
Searle'ün eleştirisi, bugünkü yapay zekâyı küçümsemek için değil, onun statüsünü doğru anlamak için önemlidir.
Akıcı dil, bilinçli anlamın kesin kanıtı değildir.
Searle'ün Güçlü Yapay Zekâ Eleştirisinin Güçlü Yanları Nelerdir
Searle'ün eleştirisinin en güçlü yanı, yapay zekâ tartışmalarında kolayca unutulan bir ayrımı korumasıdır:
Performans ile bilinç aynı şey değildir.
Eleştirinin güçlü yönleri şunlardır:
Sembol işleme ile anlamı ayırır.
Anlama problemini merkeze alır.
Turing Testi'nin sınırlarını gösterir.
Bilincin öznel yönünü savunur.
Zihni basitçe programa indirgemez.
Yapay zekâya aşırı insan özelliği yüklemeye karşı uyarır.
Dilsel akıcılığın gerçek kavrayış sayılmaması gerektiğini hatırlatır.
Bu eleştiri bugün özellikle önemlidir. Çünkü yapay zekâ sistemleri ne kadar ikna edici olursa, insanlar onların gerçekten anladığını düşünmeye o kadar yatkın olabilir.
Searle bize şunu hatırlatır:
Anlama benzeyen şey, anlama olmak zorunda değildir.
Searle'ün Eleştirisine Yöneltilen İtirazlar Nelerdir
Searle'ün güçlü yapay zekâ eleştirisi çok etkili olmakla birlikte yoğun itirazlar almıştır.
Başlıca itirazlar şunlardır:
Sistem cevabı: Odadaki kişi anlamıyor olabilir; fakat bütün sistem anlamaktadır.
Robot cevabı: Sistem dünyayla beden ve duyular aracılığıyla ilişki kurarsa anlam geliştirebilir.
Beyin simülasyonu cevabı: Beynin işleyişi doğru simüle edilirse zihin ortaya çıkabilir.
İşlevselci itiraz: Önemli olan sistemin maddesi değil, yaptığı işlevdir.
Davranışçı itiraz: Bir sistem sürekli insan gibi davranıyorsa, anlamadığını söylemek gereksiz olabilir.
Modern yapay zekâ itirazı: Güncel yapay zekâlar klasik sembol işleme modelinden farklıdır.
Bu itirazlar, tartışmanın hâlâ açık olduğunu gösterir. Searle'ün argümanı herkes tarafından kesin olarak kabul edilmiş değildir.
Fakat onun katkısı büyüktür. Çünkü yapay zekâ tartışmasını yalnızca teknik başarı meselesi olmaktan çıkarıp, bilinç ve anlam meselesine taşımıştır.
Searle'ün Güçlü Yapay Zekâ Eleştirisi Bize Ne Öğretir
Searle'ün eleştirisi bize, insan zihninin ne olduğunu daha dikkatli düşünmeyi öğretir. Yapay zekâ ne kadar gelişirse gelişsin, şu ayrımları unutmamak gerekir:
Cevap üretmek başka, anlamak başka.
Sembol işlemek başka, bilinçli kavrayış başka.
Simülasyon başka, gerçek deneyim başka.
Dilsel akıcılık başka, niyetli anlam başka.
Program çalıştırmak başka, zihin sahibi olmak başka.
Bu ayrımlar yapay zekâyı küçümsemek anlamına gelmez. Aksine, hem yapay zekânın gücünü hem de insan bilincinin özgünlüğünü daha doğru görmemizi sağlar.
Searle'ün asıl öğretisi şudur:
Bir sistemin ne yaptığı kadar, o yaptığı şeyin arkasında nasıl bir bilinç veya anlam yapısı olup olmadığı da önemlidir.
Bu, yapay zekâ çağının en büyük felsefi derslerinden biridir.
Son Söz: Güçlü Yapay Zekâ Eleştirisi Bize Ne Anlatır Programın Sınırında Başlayan Bilinç Sorusu
John Searle'ün güçlü yapay zekâ eleştirisi, insan zihninin yalnızca program çalıştıran bir sistem olarak görülmesine karşı yapılmış en güçlü felsefi uyarılardan biridir. Searle'e göre bilgisayarlar çok başarılı olabilir; fakat başarı, bilinçli anlama anlamına gelmez. Bir makine doğru cümleler kurabilir; fakat bu cümlelerin anlamını gerçekten yaşayıp yaşamadığı ayrı bir sorudur.
Searle bize şunu anlatır:
Program, zihin değildir.
Sembol, anlam değildir.
Simülasyon, gerçek deneyim değildir.
Davranış, bilinç garantisi değildir.
Dil üretimi, gerçek anlama kanıtı değildir.
Bu eleştiri özellikle bugün çok değerlidir. Çünkü modern yapay zekâ, insan diliyle çok etkileyici biçimde konuşabilir. Fakat Searle'ün sorusu hâlâ karşımızdadır:
Konuşan bir bilinç mi var, yoksa yalnızca anlamı taklit eden çok gelişmiş bir sistem mi
Bu sorunun kesin cevabı hâlâ tartışmalıdır. Fakat Searle'ün felsefi mirası, bu soruyu ciddiye almamızı sağlar.
Çünkü insan zihnini anlamak, yalnızca makinelerin ne yapabildiğini ölçmek değildir. Aynı zamanda anlamın nerede doğduğunu, bilincin ne olduğunu, zihnin dünyaya nasıl yöneldiğini ve içeriden yaşanan deneyimin neden bu kadar önemli olduğunu sormaktır.
"Güçlü yapay zekâ bize makinenin ne kadar ileri gidebileceğini sorar; Searle ise daha derinini sorar: İleri giden şey gerçekten anlıyor mu, yoksa yalnızca anlamın izini mi sürüyor
– Ersan Karavelioğlu
