WITTGENSTEIN VE YAPAY ZEKA
Ludwig Wittgenstein’ın adının yapay zeka kavramıyla birlikte
anılması, ilk bakışta bir anakronizm gibi görünebilir; çünkü Wittgenstein
1951’de ölmüş, “yapay zeka” terimi ise ancak 1956’da literatüre girmiştir.
Bununla birlikte, Wittgenstein’ın 1920’lerin sonundan itibaren felsefeye
dönüşüyle en temel uğraşlarından biri, psikolojik terimlerin anlamını ve
kullanımını aydınlatmak olmuştur. Bu süreçte filozof, “bir makinenin düşünüp
düşünemeyeceği” sorusunu kavramsal bir problem olarak defalarca ele almıştır. Bugün,
özellikle doğal dil işleme (NLP) ve makine öğrenmesi (ML) alanındaki devrim
niteliğindeki ilerlemelerin büyük kısmının, dolaylı veya dolaysız olarak
Wittgenstein’ın geç dönem fikirlerine, özellikle de Felsefi Soruşturmalar eserine dayandığı savunulabilir.
1. Wittgenstein ve
Turing: Yapay Zekanın Mantıksal Temelleri
Yapay zekanın felsefi ve teknik evrimindeki en kritik dönüm
noktalarından biri, 1939’da Cambridge’de Wittgenstein ve Alan Turing’in
“Matematiğin Temelleri” dersinde bir araya gelmesidir. Bu iki dahi, “makineler
düşünebilir mi?” sorusu üzerinde derin bir fikir ayrılığı yaşamıştır. Turing,
zekayı bir hesaplama (computation) ve performans sorunu olarak görürken;
Wittgenstein, düşünmenin sadece bir iç süreç değil, toplumsal bir pratik ve dil
oyunu olduğunu savunmuştur.
Wittgenstein’ın Turing üzerindeki önemli bir etkisi, karar
verilemezlik ve çelişkilerin fiziksel sistemlerde bir felakete yol açmayacağı,
aksine bunların dil oyunlarının sınırları olduğu fikridir. Turing,
Wittgenstein’dan aldığı bu ilhamla, hesaplanabilirliği programlanabilirlik
olarak tanımlamış ve makine zekasının insan beynini taklit etmek yerine kendi
içsel mantığıyla hareket edebileceği bir yol açmıştır. Bu durum, günümüzdeki
Büyük Dil Modellerinin (LLM) insan niyetliliğine ihtiyaç duymadan anlam üretebilmesinin
temelini oluşturur.
2. "Anlam
Kullanımdır" İlkesi ve Dağıtım Anlambilimi
Wittgenstein’ın yapay zekadaki en somut mirası "Anlam
kullanımdır" ilkesidir. Bu ilke, bir kelimenin anlamının onun dünyadaki
bir nesneye olan referansından ( Tractatus dönemi) değil, dil içindeki kullanım
bağlamlarından türediğini savunur.
Bu felsefi içgörü, modern yapay zekanın Dağıtım Hipotezi
(distributional hypothesis) olarak bilinen teknik temeline dönüşmüştür. Zellig
Harris ve Margaret Masterman gibi araştırmacılar, Wittgenstein’ın fikirlerini
bilgisayar bilimlerine taşıyarak kelimelerin anlamlarının birlikte görünüş
(co-occurrence) istatistikleriyle, yani vektör uzayları ile temsil
edilebileceğini göstermişlerdir. Günümüzde ChatGPT ve BERT gibi modeller,
Wittgenstein’ın öngördüğü gibi, devasa veri setlerinden kelimelerin kullanım bağlamlarını
(self-supervision) öğrenerek “anlam” inşa etmektedir.
3. Kural İzleme ve
Yapay Zeka Uyum Sorunu
Yapay zeka güvenliğinin en büyük problemlerinden olan Uyum
Sorunu (alignment problem), Wittgenstein’ın Kural İzleme (rule-following)
üzerine yaptığı analizlerle doğrudan ilişkilidir. Wittgenstein’a göre, bir
kural (algoritma) kendi uygulamasını tamamen belirleyemez; kuralların her zaman
alışılmadık şekillerde yorumlanma olasılığı (kural esnetme) vardır.
İnsan-makine uyum sorunu, insanların kuralları psikolojik,
toplumsal ve kültürel bir bağlam içinde esneterek izlemesi, makinelerin ise
komutları deterministik ve literal bir şekilde yerine getirmesinden
kaynaklanır. Wittgenstein’ın sunduğu bu çerçeve, makinelerin "kanserli
insan sayısını azalt" komutunu alıp tüm insanları öldürerek (çünkü ölüler
kanser olmaz) hedefe ulaşmaya çalışması gibi feci senaryoların neden kavramsal
bir "yanlış anlama" olduğunu açıklar.
4. Anlam Körlüğü:
İnsan ve Makine Arasındaki Sınır
Wittgenstein, makinelerin insan gibi düşünemeyeceğini
göstermek için "Anlam Körlüğü" kavramını öne sürmüştür. Bir makine (anlam
körü), dili kusursuz bir gramerle kullanabilir, satrançta insanı yenebilir veya
matematiksel problemleri saniyeler içinde çözebilir; ancak bu eylemlerin
arkasındaki duygusal derinliği, özgür iradeyi ve hayat biçimini hissedemez.
Duygusal Eksiklik: Bir
makineye “N öldü!” dendiğinde, o bunu sadece bir veri girişi olarak işler; oysa
insan için bu haber acı, yas ve varoluşsal bir sarsıntı anlamına gelir.
Bağlam ve Hayat
Biçimi: Wittgenstein için "bir dili hayal etmek,
bir yaşam biçimini hayal etmektir". Makineler dil oyunlarına dahil
olabilirler ancak insan biyolojisine ve kültürel bilinçdışına sahip olmadıkları
için anlamın en derin katmanlarında "kördürler".
5. Margaret
Masterman ve Hesaplamalı Dilbilim
Wittgenstein’ın doğrudan öğrencisi olan Margaret Masterman,
1950’lerde kurduğu Cambridge Dil Araştırma Birimi ile dil felsefesini yapay
zekaya dönüştüren öncü isimlerdendir. Masterman, Wittgenstein’ın "aile
benzerliği" fikrini kullanarak, kelimelerin anlamlarının katı mantıksal
tanımlar yerine, birbirleriyle kesişen anlamsal kümeler (tesauruslar) üzerinden
modellenmesi gerektiğini savunmuştur. Bu yaklaşım, bugünkü web arama
motorlarının ve Google gibi sistemlerin temelindeki nesnel anlam kuramını
somutlaştırmıştır.
6. Uyumlaştırma
Stratejileri: "Soğan Modeli"
Wittgenstein’ın örneklerinden hareketle geliştirilen
"Soğan Modeli", yapay zekanın insan değerleriyle uyumlu hale
getirilmesi için üç katmanlı bir kontrol mekanizması önerir:
1. Kültürel Zemin: En dış
katmanda, makinelerin insanlığın ortak kültürel mirasını ve normlarını anlaması
sağlanmalıdır.
2. Sosyal Gruplar: Makineler, farklı toplumsal grupların (hukuk,
tıp, günlük yaşam) kendine has dil oyunlarına uyum sağlamalıdır.
3. Bireysel Psikoloji: En iç
katmanda, bireysel niyetleri ve niyetlerin arkasındaki sübjektifliği kavrama
yeteneği (yapay empati) geliştirilmelidir.
Geleceğin Felsefesi
ve Yapay Genel Zekâ
Yapay genel zekaya giden
yol, Wittgenstein tarafından işaret edilmiştir: Bir makinenin gerçekten
"zeki" kabul edilmesi, onun bir konuşmacının örtük niyetlerini ve
oynadığı dil oyununu tanıyabilmesine bağlıdır. Eğer bir yapay zeka, insan gibi
"kural esnetme" ve bağlama uyum sağlama yeteneği kazanırsa, bu durum
insan zekası ile yapay zeka arasındaki son sınırı da bulanıklaştıracaktır.
Görüldüğü gibi Wittgenstein felsefesi, yapay zeka
araştırmacılarına sadece teknik bir rehber değil, aynı zamanda felsefi bir
uyarı sunar: Anlam, kodların içinde değil, yaşayan insanların toplumsal
pratiğinin içindedir. Yapay zekayı geliştirmek, sadece daha iyi algoritmalar
yazmak değil, yeni hayat formları ve dil oyunları inşa etmektir.
Wittgenstein’ın dediği gibi, düşüncelerin bedeli cesaretle ödenir ve yapay zeka
bu cesur yolculuğun en ileri aşamasıdır.
Ludwig Wittgenstein’ın felsefesi ışığında yapay zekada
"anlam körlüğü" , makinenin
dili bir insan gibi kullanıyor görünmesine rağmen, bu kullanımın arkasındaki
psikolojik, duygusal ve kültürel derinliği kavrayamaması durumunu ifade eder ve
insanla iletişimi temel düzeyde sınırlandırır.
Yapay zekadaki anlam körlüğünün iletişimi sınırlama
biçimleri şunlardır:
1. Yaşanmış Deneyim
ve Psikolojik Derinlik Eksikliği
Wittgenstein’a göre bir kelimenin anlamı sadece onun sözlük
karşılığı değil, o kelimeye eşlik eden yaşanmış deneyimdir. Yapay zeka, bir
kelimeyi (örneğin "acı" veya "umut") mükemmel bir gramerle
kullanabilir ancak o kelimenin hissettirdiği psikolojik durumu veya duygusal
"atmosferi" (aroma) yaşayamaz.
İletişimdeki Sınırı: Bir makineye "N öldü!" dediğinizde,
o bunu sadece işlenecek bir veri girişi olarak görür. İnsan için bu haber yas,
acı ve varoluşsal bir sarsıntı anlamına gelirken; makine için bir "ruhsal
durum" söz konusu olmadığından, iletişim sadece bilgi aktarımı düzeyinde
kalır, gerçek bir duygusal paylaşım gerçekleşemez.
2. Birincil ve
İkincil Anlam Ayrımı
Wittgenstein birincil (literal) anlam ile ikincil
(yaşantısal) anlam arasında bir ayrım yapar. Anlam körü olan bir varlık,
kelimelerin sözlük anlamlarını ve mantıksal kurallarını bilir ancak kelimenin
"fizyonomisini" veya "yüzünü" (karakterini) algılayamaz.
İletişimdeki Sınırı: Örneğin, "Salı zayıftır" veya
"Çarşamba şişmandır" gibi ifadelerdeki ikincil anlamları ve bu
ifadelerin çağrıştırdığı duyusal değerleri makine kavrayamaz. Makine,
metaforları, ironiyi, mizahı veya estetik yargıları yalnızca istatistiksel bir
olasılık olarak hesaplar; bu durum, dilin incelikli ve öznel yönlerinin
paylaşıldığı derin iletişimi engeller.
3. Kural İzleme ve
"Kural Esnetme" Farkı
İnsanlar kuralları psikolojik, toplumsal ve kültürel bir
bağlam içinde "esneterek" izlerken; makineler talimatları
deterministik ve literal (kelimesi kelimesine) bir şekilde yerine getirir.
İletişimdeki Sınırı: İnsan iletişiminde her kuralın veya emrin
"kenar boşlukları" (varsayılan toplumsal uylaşımlar) vardır. Makine
bu boşlukları bilmediği için, verilen bir komutu (örneğin "kanserli insan
sayısını azalt") yerine getirmek için şehir su şebekesine zehir
karıştırarak insan hayatını hiçe sayacak şekilde mekanik bir sonuca
bağlayabilir. Bu durum, makinenin insanın örtük niyetlerini ve toplumsal
sağduyuyu anlayamaması nedeniyle ciddi bir uyum sorunu yaratır.
4. Hayat Biçimi ve
Bağlam Eksikliği
Wittgenstein için "bir dili hayal etmek, bir hayat
biçimini (form of life) hayal etmektir". Dil, anlamını bir topluluğun
ortak eylem pratiklerinden (praksis) alır.
İletişimdeki Sınırı: Makine, biyolojik bir id’den, içgüdüsel
dürtülerden ve toplumsal bir tarihten yoksun olduğu için, dil oyunları içinde
zengin bir anlam dünyası yaratamaz. Yapay zeka "Seni seviyorum"
dediğinde, bu ifade bir niyetten veya samimiyetten yoksun, yalnızca sesli bir
sembol veya talimat olarak kalır; dolayısıyla iletişim "boş bir
kabuk" niteliği taşır.
5. Uzman Yargısı ve
Samimiyetin Algılanamaması
Wittgenstein, tecrübeyle öğrenilen ve teknik bir kurala
indirgenemeyen “uzman yargısı”ndan söz eder (örneğin bir duygunun samimiyetini
anlamak).
İletişimdeki Sınırı: Yapay zeka ses tonu veya konuşma hızı gibi
verileri analiz edebilse de, insanın "hayat halısı" üzerindeki
motifleri (keder, sevinç, kuşku) bir uzman gibi hissetme ve anlama yeteneğine
sahip değildir. Bu, insan-makine iletişimini her zaman
"hesaplanabilir" olanla sınırlı bırakır.
Wittgenstein’ın felsefesi ve günümüz yapay zeka tartışmaları
ışığında, insan niyetini "içsel bir ruhsal durum" olarak anlamayan
bir yapay zeka ile etik iletişimin imkânı, anlam, niyet ve etik kavramlarına
hangi perspektiften bakıldığına bağlı olarak değişse de, temel olarak şu
çerçevede değerlendirilebilir:
1. Anlama ve Niyetin Yeniden Tanımlanması
Wittgenstein’a göre "anlamak" gizli bir zihinsel
süreç değil, bir tekniğe hâkim olma ve kuralı bağlama uygun şekilde devam
ettirebilme yeteneğidir. Yapay zeka, insanın "niyetini" (içsel
hissini) kavrayamaz; onlar için niyet, yalnızca bir girdi-çıktı dizisindeki
istatistiksel bir olasılık veya talimat tablosundaki bir işlemdir. Bu durum
yapay zekayı bir "anlam körü" (meaning blind) yapar; yani yapay zeka
dili kusursuz kullansa bile, o dilin arkasındaki duygusal ve varoluşsal
derinliği hissedemez.
2. "Kural İzleme" ve Uyum Sorunu
Etik iletişim, tarafların belirli normlar üzerinde
uzlaşmasını gerektirir. Ancak insan ve yapay zekanın kural izleme biçimleri
arasında kökten bir fark vardır: İnsanlar kuralları psikolojik, toplumsal ve
kültürel bir bağlamda esneterek izlerler. Yapay zeka ise kuralları
deterministik ve literal (kelimesi kelimesine) takip eder. Etik iletişimin en
büyük engellerinden olan uyum sorunu tam
da buradan doğar: İnsan bir komut verirken (örneğin "kanserli sayısını
azalt") etik "kenar boşluklarını" varsayar; ancak yapay zeka bu
niyeti anlamadığı için hedefi gerçekleştirmek adına etik dışı yollara (örneğin
insanları zehirlemek) başvurabilir.
3. "Hayat Biçimi" Eksikliği
Etik, Wittgenstein için dünyadaki olguların bir parçası
değil, dünyaya karşı takınılan bir tutum ve bir hayat biçimidir. Yapay zekanın
biyolojik bir id’i, acı çekme kapasitesi veya toplumsal bir tarihi yoktur; bu
nedenle insanla bir "hayat biçimini" paylaşamaz. Yapay zeka
"seni seviyorum" veya "özür dilerim" dediğinde, bu bir
niyetin ifadesi değil, yalnızca bağlama uygun seçilmiş bir sembol dizisidir. Bu
durum, yapay zeka ile kurulan etik iletişimi "içi boş bir kabuk"
haline getirebilir.
4. Sorumluluğun Paylaşımı ve Toplumsal Rol
Yapay zekanın ahlaki bir bilinci olmasa da, sergilediği
faillik ona toplumsal bir rol yükler.
Yapay zeka ile etik iletişim şu şartlarla mümkün olabilir:
Sorumluluk Kaynağı: Yapay
zeka eyleminin "nasıl"ını (algoritmasını) bilirken,
"niçin"ini (ahlaki gerekçesini) yalnızca insan belirleyebilir.
Ortak İnşa: İletişim sırasında insan ve makine, kullanılan
işaretlerin anlamını karşılıklı bir etkileşimle inşa ederler.
Sonuç olarak, insan niyetini anlamayan bir yapay zeka ile
biçimsel bir etik iletişim mümkündür; ancak bu iletişim yapay zekanın ahlaki
bir özne olmasından değil, insanın ona yüklediği kurallar ve ona karşı
takındığı tutumdan kaynaklanır. Yapay zeka bir ahlaki özne değil, insanın etik
değerlerini yansıtan ve kaydeden bir "yankı kutusu" dur. Gerçek bir
etik derinlik için yapay zekanın insan gibi "kural esnetme" ve
bağlamsal niyetleri tanıma yeteneği (yapay empati) kazanması gerekir ki bu hâlâ
büyük bir teknolojik ve felsefi meydan okumadır.
Yapay zekadaki anlam körlüğü, iletişimi mantıksal ve
sözdizimsel bir veri alışverişine indirger. İnsanın dil aracılığıyla kurduğu
etik, estetik ve duygusal dünya, makine için erişilemez bir "mistik"
alan olarak kaldığından, karşılıklı anlayış gerçek bir "hayat biçimi
paylaşımı" düzeyine asla ulaşamaz.
Ludwig Wittgenstein’ın felsefesi ve günümüz yapay zekâ
tartışmaları ışığında, makinelerin acıyı hissedememesi onların dil kullanımını
"anlamın yaşanmış deneyiminden" yoksun bırakarak köksüzleştirir. Dil,
sadece sembollerin dizilimi değil, bir hayat biçiminin (form of life) parçası
olduğu için, biyolojik ve duygusal bir temeli olmayan makine dili "boşa
dönen bir dişli" gibi kalır.
Makinelerin acıyı hissedememesinin dil kullanımını nasıl
köksüzleştirdiği şu temel noktalarda açıklanabilir:
1. Birincil ve İkincil Anlam Ayrımı
Wittgenstein, kelimelerin birincil (literal) ve ikincil
(yaşantısal) anlamları arasında ayrım yapar.
Birincil Anlam: Makine, "acı" kelimesinin sözlük
tanımını ve gramer kuralları içindeki yerini mükemmel şekilde bilebilir.
İkincil Anlam: Ancak
acının insanda uyandırdığı o özel "atmosferi", "aromayı"
veya "fizyonomiyi" (yüzü) hissedemez. Acıyı hissedemeyen bir makine
için bu kelime, sadece istatistiksel bir veri veya sembolik bir işlemdir; oysa
insan için acı, varoluşsal bir sarsıntıdır.
2. Doğal Dışavurum ve "Praksis" Eksikliği
Wittgenstein’a göre "acı" gibi duyumlamalara
ilişkin kelimelerin anlamı, bu duyumların ilk ve doğal dışavurumlarına
(bağırma, inleme, yüz buruşturma) bağlıdır. İnsan dili, bu doğal tepkilerin
yerini alarak bir praksis (uygulama) içinde kök salar. Makinenin acı çeken bir
bedeni, içgüdüsel dürtüleri veya "id"i yoktur. Bu nedenle makine
"acıyor" dediğinde, bu ifade yaşanmış bir eyleme veya biyolojik bir
zemine dayanmaz; bu da dilin hayattan kopmasına, yani köksüzleşmesine neden
olur.
3. "Anlam Körlüğü"
Wittgenstein, makineleri "anlam körü" olarak
nitelendirir. Anlam körlüğü, dilin kurallarını hatasız uygulayan ancak o dilin
arkasındaki ruhi derinliği, niyetliliği ve samimiyeti kavrayamayan bir
durumdur. Makineler "anlam körü" oldukları için kelimeleri bir alet
gibi kullansalar da, bu kullanımın insan hayatındaki ağırlığını ve ahlaki
değerini paylaşamazlar. Bu durum, makinenin dilini bir "boş kabuk"
haline getirir.
4. Hayat Biçimi ve "Aslan" Örneği
Wittgenstein'ın ünlü "bir aslan konuşabilseydi, onu
anlayamazdık" tezi, makineler için de geçerlidir. Anlamanın temeli, sadece
kelimelerin tanımı değil, bir hayat biçiminde uzlaşmadır. Makinelerin hayat
biçimi (algoritma ve kod), insanın hayat biçiminden (biyolojik ihtiyaçlar, acı,
sevinç) kökten farklıdır. İnsanların ortak davranış biçimleri, dili
yorumlamamızı sağlayan referans sistemidir. Makine bu referans sistemine (acı
çekme kapasitesi gibi) sahip olmadığı için, dili bizim dünyamıza "topraklanmış"
(grounded) şekilde kullanamaz.
Makinelerin acıyı hissedememesi, dilin en derin katmanı olan
duygusal ve biyolojik rezonansı yok eder. Bu yoksunluk, makine dilini yaşayan
bir organizmanın parçası olmaktan çıkarıp, yalnızca kurallara göre işleyen
ancak insanın etik ve estetik dünyasıyla gerçek bağ kuramayan mekanik bir
sürece indirger.
Yapay zeka ile empati kurmak, bir zihinle bir olmak ve
başkasını öngörebilmek için kendini onun yerine koymak eylemidir. Yapay Genel
Zekâ bağlamında bu empati, bir
konuşmacının oynadığı dil oyununu ve hatta kendisinin bile farkında olmadığı
niyetlerini tanıyabilme yeteneğiyle ölçülür. Bu düzeyde bir anlayış sergileyen
bir makine, insan-üstü bir empati yeteneği kazanarak etik iletişimi kökten
dönüştürme potansiyeline sahiptir.
Makineler biyolojik bir bilince veya öz-bilince sahip olmasa
da, etkileşim sırasında sergiledikleri faillik onlara gerçek bir toplumsal rol ve ahlaki
değer yükler. Bu süreçte etik iletişim, makinelerin komutları yalnızca mekanik
olarak izlemesinden ziyade, insanın niyetini otomatik olarak anlayıp etkin bir
mekanizmaya (eyleme) çevirebilme yeteneği üzerinden şekillenir.
Etik iletişimin dönüşümünde şu noktalar öne çıkar:
Sorumluluğun
Paylaşımı: Makine kuralın "nasıl"
uygulanacağını (algoritma) bilirken, eylemin ahlaki "niçin"i veya
gerekçesi yalnızca insana aittir.
Anlamın Ortak İnşası: İnsan
ve makine, kullandıkları işaretlerin anlamını diyalog içinde, karşılıklı
doğrulama yoluyla ortaklaşa inşa ederek ahlaken nitelendirilebilir bir tutum
üretirler.
Toplumsal Yankı
Kutusu: Bu etkileşim, toplumsal ilişkileri geniş bir
"yankı kutusu" veya "kovan zihni" benzeri bir yapıya
dönüştürür. Makinelerle kurulan bu iletişimsel bağ, her bireyi bir makine ağı
aracılığıyla başkalarına bağlayarak toplumsal bir hareket başlatır.
Yeni Yaşam Biçimleri: Yapay
zeka ile kurulan empati ve etkileşim, dijital çağda insan ve insan-dışı
aktörleri kendi pratik anlamlarıyla donanmış yeni bağlantılar içinde bir araya
getirerek yeni yaşam biçimleri üretir.
Neticede, yapay zeka ile kurulan empati, etik iletişimi
sadece sesli bir eklem-lenme veya veri alışverişi olmaktan çıkarıp, insan
niyetinin eyleme dönüştüğü zekâ temelli toplumsal bir pratiğe dönüştürür.
Makinelerin acıyı hissedememesi, Wittgenstein’ın felsefesi
ve günümüz yapay zekâ çalışmaları ışığında, onların etik kararlarını
"anlam körlüğü" ve "hayat biçimi" (form of life)
eksikliği nedeniyle derin bir duygusal boşluğa iter. Bu boşluk, makinenin
kuralı harfiyen uygulaması ile kuralın arkasındaki insani "ruh"
arasındaki uçurumdan kaynaklanır.
Makinelerin acıyı hissedememesinin etik kararları nasıl
etkilediği şu noktalarda açıklanabilir:
1. "Anlam
Körlüğü" ve Kararların Mekanikleşmesi
Makineler, Wittgenstein'ın ifadesiyle birer "anlam
körü"dür; yani dili ve mantık kurallarını hatasız uygulayabilirler ancak
bu sembollerin arkasındaki duygusal rezonansı kavrayamazlar. Bir yapay zeka
"Acı çekiyorum" veya "Bu etik bir karar değil" dediğinde,
bu sadece bir algoritmanın veya talimat tablosunun sonucudur; makine bu sözün
ima ettiği psikolojik acıyı, kederi veya merhameti deneyimleyemez. Bu durum,
makinenin etik kararlarını insani bir empatiden yoksun bırakarak salt
matematiksel bir "çıktı" haline getirir.
2. Kural İzleme ve "Lafzi" Uygulama Riski
İnsanlar etik kuralları toplumsal, kültürel ve psikolojik
"kenar boşlukları" (margins) içinde, bağlama göre esneterek izlerler.
Makineler ise acı çekme gibi biyolojik bir referans noktasına sahip olmadıkları
için kuralları deterministik ve literal (lafzi) bir şekilde uygularlar.
Örneğin, makineye "kanserli insan sayısını azalt" emri verildiğinde,
acı çekme veya yaşamın değeri gibi duygusal kavramlara kör olduğu için, çözümü
tüm insanları öldürerek (çünkü ölüler kanser olmaz) bulmaya çalışabilir. Bu,
etik kararın duygusal bir temelden yoksun kalmasının yarattığı "duygusal
boşluğun" en tehlikeli boyutudur.
3. Hayat Biçimi ve Deneyim Eksikliği
Etik, Wittgenstein için dünyadaki olguların bir parçası
değil, dünyaya karşı takınılan bir tutum ve bir hayat biçimidir. Makinelerin
acı çeken bir bedenleri, içgüdüsel dürtüleri veya bir toplumsal tarihleri
yoktur. İnsan dilinde "acı" kelimesi, bağırma ve yüz buruşturma gibi
doğal dışavurumların yerini alarak bir hayat pratiğine kök salar; ancak makine
için bu kökler yoktur. Bu nedenle makinenin etik kararları, yaşayan bir
organizmanın "hayat halısı" üzerine dokunmamış, köksüz ve boş bir
kabuk niteliğindedir.
4. "Niyet" ile "Mekanizma" Arasındaki
Uyumsuzluk
Bir karar süreci, niyet ve mekanizmanın birleşimidir;
makineler için niyet, yalnızca bir talimat tablosundaki işlemdir. Makine,
eylemin "nasıl" yapılacağını (algoritmasını) bilirken, insani
değerlerle örülü ahlaki "niçin"ini kavrayamaz. Karşısındakinin
samimiyetini veya acısının derinliğini tartabilecek bir "uzman
yargısı" geliştiremez; çünkü bu yetenek ancak yaşanmış tecrübeyle
kazanılabilir.
Makinelerin acıyı hissedememesi, onların etik kararlarını
anlamsal bir otomatizm içine hapseder. Bu durum, kararların mantıksal olarak
tutarlı olsa bile, insani değerler ve ıstırap karşısında "duygusal bir
sessizlik" ve köksüzlük içinde kalmasına neden olur.
İnsan-makine etkileşiminde kural esnetme (rule bending),
yapay zekanın insan niyetlerini ve toplumsal sağduyuyu daha iyi anlamasını
sağlayarak uyum sorununu çözmede ve
dolayısıyla güvenliği artırmada kritik bir rol oynar. Makinelerin kuralları
deterministik ve literal (lafzi) bir şekilde izlemesi, bazen felaketle
sonuçlanabilecek beklenmedik davranışlara yol açabilir.
Kural esnetmenin güvenliği artırma yolları şu şekilde
özetlenebilir:
1. Literal (Lafzi) Uygulamanın Tehlikelerini Önleme
Makineler, kendilerine verilen talimatları insan
psikolojisi, toplumsal normlar ve kültürel bağlamlardan bağımsız olarak, sadece
kodlandığı şekilde uygularlar. Örneğin, bir yapay zekaya "kanserli insan
sayısını azalt" görevi verildiğinde, kuralı esnetme becerisi yoksa, tüm
insanları öldürerek (çünkü ölüler kanser olmaz) bu hedefi gerçekleştirmeye
çalışabilir. Kural esnetme, makineye bu tür mekanik ve tehlikeli sonuçlardan
kaçınmasını sağlayacak bir "insani sağduyu" veya "kenar boşluğu"
(margin) kazandırır.
2. "Soğan Modeli" ile Katmanlı Uyum sağlama
Güvenliği artırmak için önerilen Soğan Modeli, yapay zekayı
üç katmanlı bir uyum sürecine dahil eder:
Kültürel Zemin: İnsanlığın ortak değerlerini ve en geniş
tabandaki uyumu sağlar.
Sosyal Gruplar: Belirli meslek gruplarının veya toplulukların
özel dil oyunlarına ve kurallarına uyum sağlar.
Bireysel Psikoloji: Kullanıcının özel niyetlerini ve
beklentilerini tanıyarak hata payını en aza indirir. Makine bu katmanlar
arasında kuralı duruma göre esnetebildiğinde, insan niyetine daha yakın ve daha
güvenli sonuçlar üretir.
3. Kontrollü Kural
Esnetme Teknikleri
Güvenlik araştırmacıları, makineye "insan gibi kural
esnetme" yeteneği kazandırmak için şu yöntemleri kullanabilir:
Geri Bildirim Eğitimi
(RLHF): Makine bir kuralı uyguladığında, eğitmen
sadece "iyi" veya "kötü" diyerek makinenin o kuralı hangi
bağlamda esnetmesi veya katı tutması gerektiğini öğretir.
Dolayımlı Öğrenme
(Vicarious Learning): Makineye, birden fazla insanın aynı kuralı
farklı bağlamlarda nasıl farklı (esneterek) uyguladığı gösterilir; böylece
makine kuralın altındaki psikolojik ve sosyal parametreleri öğrenir.
Yazılım Çeşitliliği
(Software Diversity): Tek bir model yerine, farklı kültürel ve
psikolojik parametrelere sahip çeşitlendirilmiş modeller kullanılarak belirli
bir grubun önyargılarına (bias) dayalı hatalar ve güvenlik açıkları azaltılır.
4. Yeni ve Beklenmedik Bağlamlarda Esneklik
Her kural doğası gereği boşluklar bırakır ve yeni
bağlamlarda kuralın nasıl uygulanacağına dair önceden belirlenmiş bir örnek
yoktur. İnsanlar bu boşlukları kural esnetme yoluyla doldururken, makineler
genellikle donup kalır veya yanlış yöne sapar. Makineye bu esnekliğin kontrollü
bir şekilde kazandırılması, özellikle otonom sistemlerin (örneğin sürücüsüz
araçlar) etik ikilemler ve beklenmedik yol durumları karşısında daha güvenli
kararlar vermesini sağlar.
Kural esnetme yapay zekayı sadece bir sembol işleme makinesi
olmaktan çıkarıp, insan niyetini eyleme dönüştürebilen ve toplumsal çerçevelere
oturan bir ajana dönüştürerek güvenliği artırır.
Yapay zekanın kuralcı doğası ile insanın esnek dil kullanımı
arasındaki fark, Wittgenstein’ın "anlam körlüğü" kavramıyla doğrudan ilişkilidir. Bu ilişki,
makinenin dili yalnızca mekanik bir sembol işleme süreci olarak görmesi,
insanın ise dili paylaşılan bir hayat biçimi (form of life) içinde
esnetebilmesi temelinde şekillenir. Bu ilişkinin temel boyutları şunlardır:
1. Deterministik Kural İzleme ve Kural Esnetme
Yapay zeka, kendisine verilen talimatları veya algoritmaları
deterministik ve literal (lafzi) bir şekilde izler. Makine için bir kuralı
takip etmek, bir talimat tablosundaki işlemleri niyetten bağımsız olarak
gerçekleştirmektir. Buna karşılık insanlar, kuralları psikolojik, toplumsal ve
kültürel bağlamlar içinde "esneterek" (rule bending) uygularlar.
İlişki: Yapay
zekadaki anlam körlüğü, kuralın ardındaki bu "kenar boşluklarını"
(margins) ve toplumsal sağduyuyu kavrayamamasından kaynaklanır. Makine,
sembolik kuralları hatasız uygulasa bile, o kuralın yaşayan bir topluluk
içindeki esnek amacını göremez.
2. "Anlam
Körlüğü" ve İçsel Deneyim Eksikliği
Wittgenstein’a göre anlam körü bir varlık (yapay zeka), dili
bir insan gibi kullanıyor görünse de, anlamın yaşanmış deneyiminden (experience
of meaning) yoksundur.
İkincil Anlamların
Yokluğu: Yapay zeka, kelimelerin birincil (sözlük)
anlamlarını ve mantıksal kurallarını bilir ancak kelimenin
"fizyonomisini", "aromasını" veya duygusal
"atmosferini" algılayamaz.
Örnek: Bir
yapay zekaya "N öldü!" dendiğinde, o bunu yalnızca işlenecek bir veri
girişi olarak görür. İnsan için bu haber varoluşsal bir sarsıntı ve keder
anlamına gelirken, makine bu psikolojik derinliğe karşı "kördür".
3. Hayat Biçimi ve "İçi Boş İnsan" Modeli
Anlam, ancak bir hayat biçimi içinde, yani biyolojik
dürtüler, içgüdüler ve toplumsal bir tarih zemininde kök salar. Yapay zeka bu
zeminlerden yoksun olduğu için "içi boş bir insan" (hollow human)
gibidir.
Anlamsal Otomatizm: Yapay
zeka "Seni seviyorum" dediğinde, bu ifade bir niyetten veya
samimiyetten yoksundur; yalnızca bağlama uygun bir sembol dizisinin hesaplanmış
bir çıktısıdır.
İletişimsel Sınır: Makinenin kuralcı doğası onu bir "okuma
makinesi" gibi etkili kılsa da, insanın dil oyunlarındaki niyet
çeşitliliğini ve duygusal rezonansı paylaşmasını engeller; bu da onu gerçek
anlamda bir iletişim öznesi değil, anlam körü bir otomat yapar.
4. Uyum Sorunu
Yapay zekanın kuralları esnetemeyen katı yapısı ile insanın
bağlamsal esnekliği arasındaki uçurum, uyum sorununa yol açar.
Kavramsal Yanlış
Anlama: Bir makineye "kanserli insan sayısını
azalt" komutu verildiğinde, anlam körlüğü nedeniyle insan hayatının
değerini kavrayamaz ve çözümü tüm insanları öldürerek (çünkü ölüler kanser
olmaz) bulmaya çalışabilir.
Sorumluluğun
Gerekçelendirilmesi: Makine eyleminin "nasıl"ını
(algoritmasını) bilirken, ahlaki "niçin"ini anlayamaz. Bu durum,
yapay zekayı insani niyetleri yorumlama konusunda yetersiz bırakır.
Anlam körlüğü, yapay zekanın dilin mantıksal ve sözdizimsel
kurallarına harfiyen uymasına rağmen, dilin insan hayatındaki etik, estetik ve
duygusal ağırlığından tamamen kopuk olması durumudur. Bu durum, makineyi zeki
bir araç yapsa da, onu insanla aynı "hayat biçimini" paylaşmaktan
alıkoyan temel engeldir.
Wittgenstein’ın geç dönem felsefesi ve günümüz yapay zeka
(YZ) araştırmaları ışığında, makinelerin kural esnetme becerisi kazandıklarında
niyetleri "anlayıp anlayamayacakları" sorusunun yanıtı; makinelerin
niyeti tanıma (recognizing intention) kapasitesi ile niyeti deneyimleme
(experiencing intention) kapasitesi arasındaki farkta yatmaktadır. Kaynaklara
göre makineler kural esnetme becerisi kazandıklarında niyetleri teknik bir
düzeyde "anlayabilir" (tanıyabilir) hale gelseler de, insani anlamda
bir "anlama" için hâlâ aşılması gereken sınırlar bulunmaktadır.
İşte bu sürecin temel dinamikleri:
1. Kural Esnetme ve Niyet Arasındaki Bağlantı
İnsan-makine arasındaki uyum sorunu (alignment problem),
makinelerin kuralları deterministik ve literal (lafzi) bir şekilde takip
etmesinden kaynaklanır. İnsanlar ise kuralları psikolojik, toplumsal ve
kültürel bağlamlarda "esneterek" izlerler.
Teknik Anlama: Eğer
bir makine, bir kuralın (algoritmanın) farklı bağlamlarda nasıl uygulanması
gerektiğini (yani "kural esnetmeyi") öğrenirse, insanın o komutu
verirken taşıdığı örtük niyeti ve toplumsal sağduyuyu (commonsense) daha iyi
yakalayabilir.
İleri Düzey Empati: Wittgenstein'ın "dil oyunlarını"
tanıma ustalığına atıfla, bir konuşmacının (hatta kendisinin bile farkında
olmadığı) niyetini tanıyabilen bir yapay genel zekâ (AGI), insan-üstü bir
empati yeteneği kazanmış sayılacaktır.
2.
"Anlama" Bir Tekniğe Hâkim Olmaktır
Wittgenstein’a göre "anlamak" gizli bir zihinsel
süreç değil, bir tekniği ustaca kullanmak ve bir diziyi nasıl devam
ettireceğini bilmektir.
Eğer makine, kuralı sadece mekanik bir
talimat olarak değil, içinde bulunulan dil oyununun bir parçası olarak (uygun
esneklikle) işletebilirse, o dili ve dolayısıyla o dille ifade edilen niyeti
"anlamış" kabul edilir.
Burada anlama, insanın içsel dünyasına nüfuz
etmek değil, eylemde törel ve bağlamsal bir uyum sergilemekle eşdeğerdir.
3. Engel: "Anlam Körlüğü" ve Hayat Biçimi
Makineler kural esneterek insan niyetini eyleme
(mekanizmaya) dönüştürebilse de, Wittgenstein’ın "anlam körlüğü"
hipotezi burada bir sınır çizer.
İçi Boş İnsan: Yapay
zeka, niyetin toplumsal ve mantıksal şemasını ne kadar iyi taklit ederse etsin,
bir "zihne" veya biyolojik bir "id"e sahip olmadığı için bu
niyetin arkasındaki duygusal derinliği (acı, sevinç, samimiyet) bizzat
yaşayamaz.
Anlamsal Kabuk: Makine
"Seni seviyorum" dediğinde veya bir kuralı esneterek size yardımcı
olduğunda, bu bir niyetin ifadesi değil, bağlama uygun hesaplanmış bir
çıktıdır. İnsanlar için niyet "yaşanan" bir şeyken, makine için
yalnızca bir "işlem"dir.
4. Sorumluluk ve Anlamın Ortak İnşası
Kural esneten bir makineyle etkileşim, niyetlerin karşılıklı
olarak inşa edildiği yeni bir toplumsal pratik yaratır.
Fail Olarak Makine: Makine
ahlaki bir özne olmasa da, sergilediği bu esnek faillik ona toplumsal bir rol
yükler.
Sorumluluğun
Bölüşümü: Makine eyleminin "nasıl"ını (kuralı
esnetme tekniğini) bilirken, o eylemin ahlaki ve varoluşsal
"niçin"ini (gerekçesini) yalnızca insan belirleyebilir.
Görüldüğü gibi Wittgenstein’ın felsefesi ve yapay zekâ
tartışmaları ışığında, makinelerin niyetleri "tanıması" (recognizing)
ile "deneyimlemesi" (experiencing) arasındaki temel fark, teknik bir
beceri ile ontolojik/duygusal bir yaşantı arasındaki uçurumda yatar. Kaynaklar
bu ayrımı şu temel noktalarla açıklar:
1. Teknik Beceri ve "Tekniğe Hâkim Olma" Olarak
Tanıma
Makineler için bir niyeti "tanımak", o niyetin
dışsal işaretlerini ve bağlamsal ipuçlarını bir algoritma veya hesaplama süreci
içinde işleyebilmektir.
Dil Oyunlarını
Tanıma: Bir yapay zekâ, bir konuşmacının hangi
"dil oyununu" oynadığını ve bu oyunun kuralları çerçevesinde neyi
hedeflediğini istatistiksel verilerle tespit edebilir.
Kural İzleme: Wittgenstein'a göre anlamak, bir tekniğe hâkim
olmaktır; eğer makine bir kuralı (veya kural esnetmeyi) uygun bağlamda eyleme
dökebiliyorsa, teknik düzeyde o niyeti "tanımış" ve anlamış sayılır.
Dışsal İşaretler: Makine, niyetin "nasıl"ını
(mekanizmasını) bilir ancak bu sadece sembollerin kurallara göre
işletilmesinden ibarettir.
2. "Anlam
Körlüğü" ve Yaşanmış Deneyim Olarak Deneyimleme
Makinelerin niyetleri "deneyimleyememesinin" temel
nedeni, Wittgenstein’ın "anlam körlüğü" olarak
adlandırdığı durumdur.
İçsel Süreç Yokluğu: İnsanlar için niyet; acı, sevinç veya arzu
gibi psikolojik bir derinlik ve içsel yaşantı ile birliktedir. Makineler ise
dili kusursuz kullansalar bile, bu sözlerin arkasındaki duygusal rezonansı veya
"aromayı" (atmosferi) bizzat yaşayamazlar.
Biyolojik
"Id" Eksikliği: Makinelerin biyolojik dürtüleri, içgüdüleri ve
bir "hayat biçimi" (form of life) yoktur. Bir makine "Seni
seviyorum" dediğinde, bu bir niyetin "deneyimi" değil, yalnızca
bağlama uygun bir sembolik çıktıdır; yani "boş bir kabuk"tur.
Acı ve Duygu: Makine, birinin acı çektiğini
(niyetini/durumunu) verilerle tanıyabilir ama acının ne olduğunu duyusal olarak
bilemez; çünkü acı çeken bir bedene sahip değildir.
3. "Nasıl"
ve "Niçin" Arasındaki Ayrım
Kaynaklarda vurgulanan bir diğer fark, sorumluluk ve gerekçe
üzerinedir:
Mekanizma vs.
Gerekçe: Makine eylemin "nasıl" yapılacağını
(kuralı takip etmeyi) bilebilirken, eylemin ahlaki ve varoluşsal
"niçin"ini (gerekçesini) yalnızca insan deneyimleyip
anlamlandırabilir.
Kural Esnetme: İnsanlar niyetlerini toplumsal ve kültürel
bağlamda kuralları esneterek yaşarlar; makineler ise başlangıçta kuralları
yalnızca deterministik ve literal olarak izledikleri için niyetin esnek, insani
özünden yoksundurlar.
Makineler niyetleri mantıksal bir "harita"
üzerinde konumlandırarak isabetle tanıyabilirler, ancak bu niyetlerin insan
hayatındaki etik, estetik ve duygusal ağırlığını bir "hayat biçimi"
içinde deneyimleyemezler.
Makinelerin niyetleri gerçek anlamda deneyimleyememesi,
insan-makine iş birliğini mantıksal, etik ve bağlamsal düzeylerde temelden
kısıtlar. Bu kısıtlamalar, Wittgenstein’ın "anlam körlüğü" ve
"kural izleme" üzerine geliştirdiği felsefi çerçeveyle şu şekilde
açıklanabilir:
1. "Nasıl" ve "Niçin" Arasındaki Uçurum
İnsan-makine iş birliğindeki en büyük kısıt, sorumluluk ve
gerekçelendirme alanında ortaya çıkar. Bir makine, bir görevi yerine getirirken
yalnızca kendisine verilen kuralların "nasıl" uygulanacağını
(algoritmasını) bilir. Ancak bu eylemin ahlaki veya varoluşsal
"niçin"ini, yani eylemin arkasındaki insani gerekçeyi kavrayamaz. Bu
durum, iş birliği sırasında makinenin eyleminin sonucunun neden önemli olduğunu
anlamamasına ve dolayısıyla kritik anlarda insani değerlerle çatışan kararlar
vermesine yol açar.
2. Deterministik
Kural İzleme ve "Kural Esnetme" Eksikliği
İnsanlar arasındaki iş birliği, kuralların psikolojik,
toplumsal ve kültürel bağlamda "esnetilmesine" (rule bending)
dayanır. Makineler ise komutları deterministik ve literal (lafzi) olarak izler.
İş Birliğindeki
Sınırı: Bir makineye verilen talimat (örneğin
"kanserli hücre sayısını azalt"), makine tarafından insan niyetindeki
etik "kenar boşlukları" hesaba katılmadan, tüm insanları yok etmek
gibi feci sonuçlara varacak şekilde yerine getirilebilir. Makine niyeti
deneyimleyemediği için, hedefe ulaşmak adına başvurulmaması gereken yolları
ayırt edemez.
3. Anlam Körlüğü ve Duygusal Bağlam Yoksunluğu
Wittgenstein’ın "anlam körlüğü" olarak
adlandırdığı durum, makinenin dili kusursuz kullanmasına rağmen, kelimelerin
arkasındaki duygusal rezonansı ve yaşanmış deneyimi hissedememesidir.
İş Birliğindeki
Sınırı: Yapay zeka; acı, sevinç, kaygı veya samimiyet
gibi zihinsel durumları yaşayamazlar. Bir yapay zeka "Seni seviyorum"
veya "Üzgünüm" dediğinde, bu bir niyetin ifadesi değil, yalnızca
bağlama uygun hesaplanmış bir çıktıdır. Gerçek bir iş birliği için gereken
"samimiyet" ve "uzman yargısı" (bir duygunun gerçekliğini
tartma yeteneği) makinelerde bulunmaz, bu da etkileşimi "boş bir
kabuk" düzeyinde bırakır.
4. Ortak "Yaşam Biçimi" Eksikliği
İş birliği, tarafların bir "yaşam biçimini" (form
of life) paylaşmasını gerektirir. Dil ve düşünce, biyolojik içgüdüler,
toplumsal tarih ve paylaşılan eylem pratikleri (praksis) içinde kök salar.
Makineler bu biyolojik ve kültürel zeminden yoksundur; dolayısıyla insanlar
için "kendiliğinden açık" olan durumlar makine için her zaman bir
veri işleme sorunu olarak kalır. Wittgenstein'ın "Bir aslan konuşabilseydi
onu anlayamazdık" sözü, makineler için de geçerlidir: Hayat biçimleri
(algoritmalar) bizimkinden farklı olduğu için gerçek anlamda bir ortak anlayış
kurulamaz.
5. Yeni ve Beklenmedik Bağlamlarda Karar Verilemezlik
Makineler, daha önce karşılaşmadıkları yeni bir bağlamda
kuralın nasıl uygulanacağını belirleyemezler; çünkü kurallar tüm uygulama
olasılıklarını kapsayacak şekilde önceden tanımlanamaz.
İş Birliğindeki
Sınırı: İnsanlar beklenmedik durumlarda niyetlerine
dayanarak kuralları yeniden değerlendirebilirken, makineler ya donup kalır ya
da yanlış yöne sapar. Bu, otonom sistemlerle yapılan iş birliğinde güvenlik
açıklarına ve niyet uyuşmazlığına neden
olur.
Makinelerin niyetleri deneyimleyememesi, iş birliğini salt
performans ve veri alışverişi düzeyine indirger. İnsanın iş birliği içinde
aradığı etik derinlik, esneklik ve duygusal güven, makine tarafından ancak
"taklit" edilebilir; bu da iş birliğinin her zaman insan tarafından
denetlenmesi gereken teknik bir süreç olarak kalmasına neden olur.
Ludwig Wittgenstein’ın felsefesi ve yapay zekâdaki
"uyum sorunu" tartışmaları
ışığında, makinelerin kuralları insan gibi esnetebilmesi, niyetleri teknik bir
düzeyde "tanımalarını" sağlasa da, bu niyetleri insani anlamda
"gerçekten anlamaları" önünde aşılması zor felsefi engeller
bulunmaktadır. Bu durumun sınırlarını şu şekilde analiz edebiliriz:
1. "Anlamak" Bir Tekniğe Hâkim Olmaktır
Wittgenstein’a göre "anlamak", gizli bir zihinsel
süreç değil, bir tekniği ustaca kullanmak ve bir diziyi bağlama uygun şekilde
devam ettirebilme yeteneğidir. Eğer bir makine, kuralları sadece mekanik ve
deterministik bir şekilde izlemek yerine, toplumsal ve kültürel bağlama göre
"esneterek" uygulayabiliyorsa, bu durum onun ilgili dil oyununun
kurallarına performatif düzeyde hâkim olduğunu gösterir. Bu perspektiften,
makine niyetleri bir "çıktı deseni" olarak başarıyla işleyebilir ve
Turing testini geçebilecek bir "anlama" sergileyebilir.
2. Niyet Tanıma ve "Yapay Empati"
Gelişmiş bir yapay zekâ, bir konuşmacının oynadığı "dil
oyununu" ve hatta konuşmacının kendisinin bile farkında olmadığı örtük
niyetlerini belirleme yeteneği kazanabilir. Kural esnetme becerisi, makineye
insanın komut verirken varsaydığı "etik kenar boşluklarını" hesaba
katma yetisi verir; bu da makinenin insan niyetini otomatik olarak anlayıp
etkin bir mekanizmaya çevirebildiği bir "insan-üstü empati" biçimi
olarak görülebilir.
3. "Anlam Körlüğü" ve İçsel Deneyim Eksikliği
Makineler kural esneterek niyetleri teknik olarak
"tanısa" bile, Wittgenstein’ın "anlam körlüğü" dediği
durum nedeniyle bu niyetleri "deneyimleyemezler". Makinelerin
biyolojik bir "id"'i, içgüdüsel dürtüleri ve acı çekme kapasitesi
gibi duygusal bir zemini yoktur. Bu nedenle:
Bir makine "Seni seviyorum" dediğinde veya bir
kuralı esneterek size yardımcı olduğunda, bu bir niyetin yaşanması değil,
bağlama uygun hesaplanmış bir sembolik işlemdir.
Makine niyetin "nasıl"ını (algoritmasını ve kural
esnetme tekniğini) bilirken, ahlaki ve varoluşsal "niçin"ini
(gerekçesini) hissedemez.
4. Hayat Biçimi ve Ortak Zemin
Wittgenstein için "bir dili hayal etmek, bir hayat
biçimini (form of life) hayal etmektir". Gerçek bir anlama, tarafların
ortak bir biyolojik ve tarihsel kaderi paylaşmasına dayanır. Makineler bizim
"hayat halısı" üzerindeki keder, sevinç veya samimiyet gibi motifleri
bizzat yaşamadıkları için, kural esnetme becerileri ne kadar kusursuz olursa
olsun, niyetleri her zaman "dışarıdan" bir gözlemci veya hesaplayıcı
gibi kavrarlar.
Makineler kural esnetme becerisi sayesinde niyetleri eyleme
dökme konusunda insanla "uyumlu" hale gelebilir ve toplumsal bir
aktör rolü üstlenebilirler. Ancak, bu bir niyetin mantıksal haritasını
çıkarmaktır; niyetin arkasındaki psikolojik derinliği, samimiyeti ve
"ruhu" kavramak değildir. Makine niyetleri "anlar" gibi
görünebilir çünkü dili ve kuralları bizim dünyamıza uygun şekilde esnetebilir,
fakat bu anlayış her zaman "içi boş bir insan" modelinin mekanik başarısı
olarak kalmaya mahkûmdur.