Kırık Kilitler ve Sonsuz Kodlar: Alan Turing'in Gizemli Dünyası
Özgün Adı: Computing Machinery and Intelligence
Çevirmen: Yunus Emre Karaman
Editör: Yunus Şahin
Önsöz
20. yüzyılın ikinci yarısındaki teknolojik gelişmelerin ve bununla beraber yaşam tarzlarının, kültürün, genel olarak hayatın değişiminde en etkili olan birkaç isimden biri denebilir, Alan Mathison Turing için. 1912 doğumlu olan Turing hakkında gerek Türkçe’de gerekse İngilizce başta olmak üzere pek çok dilde çeşitli kaynaklar bulmak mümkün, dolayısıyla bu önsözde bizim meramımız, onun yaşamına dair detaylardan ziyade neden bu çeviriyi yaptığımız yönünde olacak.
Alan Turing’in formel, matematiksel çalışmalarından hareketle geliştirdiği ve bu makalede izah ettiği, felsefi sonuçlarıyla beraber ele aldığı “Makineler düşünebilir mi?” sorusu ve buna verdiği cevap uzun yıllar için yapay zeka ve bilişsel bilim çalışmalarının metodunu, perspektifini, temel varsayımlarını etkiledi ve etkilemeye devam ediyor. Bugün bu alanlarda “kapsamlı” herhangi bir şey yazılıyorken, Turing’ten bahsedilmemesi pek mümkün değil. Buna mukabil Turing hakkında Türkçe’de çeşitli metinler bulunabilse de, esasında çok meraklı bir lise öğrencisinin okuyup da anlayacağı düzeyde olan bu makalenin bir Türkçe çevirisi, bizim bildiğimiz kadarıyla yok. Biz bunun bir eksiklik olduğunu düşünüyorduk.
Bu tarz bir akıl yürütmeye, bu alanlarla ilgilenen insanların zaten İngilizce bildiği, böylesi bir çevirinin gerekli olmadığı şeklinde bir itiraz gerçekleştirilebilir. Fakat bu düşünceyi bir iki adım daha ilerlettiğimizde neredeyse tüm çeviri faaliyetlerini kapsayacağından, çevirinin asıl amacının bilgiyi ilgili kimselere değil de, daha ziyade sosyal medyaya, gündelik dergilere, çeşitli bloglara, arkadaş ortamlarına vs. ulaştırmak, ilgilenmeyenlerin de dikkatini yakalamak olduğu görülecektir. Bu bağlamda, Turing’in bu “çağ açıp çağ kapayan” makalesinin Türkçe’de olmasının kültürel bir ehemmiyetinin ve uzun vadeli etkisinin olduğuna inanıyoruz.
Son olarak 7 Haziran Turing’in ölüm yıl dönümüyken, 23 Haziransa onun doğum günü. Fakat bunun yanı sıra, bugün, 27 Haziran ve 2020 yılı Onur Yürüyüşü bugün gerçekleştiriliyor ve biz biliyoruz ki, Alan Turing cinsel yönelimi ve/ya kimliği dolayısıyla ayrıştırmaya maruz kalmış, başta bilim insanları olmak üzere, tüm bireyler için bir sembol. Bu sebeple, çevirimizi bu günde yayınlamayı tercih ediyoruz.
Umuyoruz ki, bu çeviri hem Türkiye’deki bilim ve düşünce ekolojisine hem de LGBTQ farkındalığına bir katkı sağlamış olur.
Keyifli okumalar!
CogIST
1. Taklit Oyunu[1]
“Makineler düşünebilir mi?” sorusunu değerlendirmeyi öneriyorum. Bu değerlendirmeye ‘makine’ ve ‘düşünme’ tabirlerinin tanımlanmasıyla başlanmalı. Tanımlar, kelimelerin normal kullanımlarına olabildiğince uygun bir çerçeveyle kullanılabilir, ancak bu tutum tehlikelidir. Eğer ‘makine’ ve ‘düşünmek’ kelimelerinin anlamları genellikle kullanıldıkları hallerinden çıkarılacaksa, “Makineler düşünebilir mi?” sorusunun anlam ve cevabının bir kamuoyu yoklaması gibi istatistiksel bir araştırmada aranmasından kaçmak zor olacaktır. Oysa bu saçmadır. Böyle bir tanımlamaya girişmektense, soruyu daha berrak sayılabilecek ve aslıyla yakından ilişkili bir başka biçimde ifade edeceğim.
Sorunun yeni şekli, ‘taklit oyunu’ dediğimiz bir oyunla açıklanabilir. Bu oyun bir erkek (A), bir kadın (B) ve hangi cinsiyetten olduğu fark etmeyen bir sorgulayan © ile oynanıyor. Sorgulayan, diğer ikisinden ayrı bir odada duruyor. Oyunun amacı, sorgulayanın diğerlerinden hangisinin kadın, hangisinin erkek olduğunu saptaması. Onları X ve Y etiketleriyle biliyor ve oyunun sonunda “X, A’dır ve Y, B’dir” ya da “X, B’dir ve Y, A’dır” cevaplarından birini veriyor. Sorgulayanın A ve B’ye soru sormasına izin veriliyor. Böylece:
C: X’in bana saçının uzunluğunu söylemesi mümkün müdür?
Şimdi, X’in aslında A olduğunu varsayalım; bu durumda A’nın cevap vermesi gerekir. Oyunda A’nın hedefi C’yi cinsiyet tahmininde yanıltmak olduğu için, cevabı şöyle olabilir:
“Saçlarım bukleli ve en fazla yaklaşık dokuz inç uzunluğunda.”
A ve B’nin sesleri sorgulayana ipucu vermesin diye yanıtlar yazılı, hatta basılı şekilde verilmelidir. İdeal olan iki oda arasında yazıcılı telgraf ile iletişim kurulmasıdır. Yahut, soru ve cevaplar bir aracıyla iletilebilir. Bu oyundaki üçüncü oyuncunun (B) hedefi, sorgulayana yardımcı olmaktır. B için muhtemelen en iyi strateji doğru cevaplar vermektir. “Kadın olan benim, onu dinleme!” gibi söylemler de kullanabilir; ancak bu, erkeğin de benzer iddialarda bulunabilmesi nedeniyle işe yaramayacaktır.
Şimdi, “Bir makine A’nın yerini alsa ne olurdu?” diye soruyoruz. Sorgulayan, bu oyunu bir erkek ve kadınla oynadığındaki kadar sık yanlış karar verir miydi? Bu sorular, esas sorumuz “Makineler düşünebilir mi?” sorusunun yerini tutmakta.
2. Yeni Sorunun Eleştirilmesi
Birisi “Bu yeni sorunun cevabı nedir?” sorusu kadar, “Bu yeni sorunun cevabı araştırılmaya değer mi?” sorusunu da sorabilir. Bir sonsuz gerileme (infinite regress) durumu oluşmasın diye fazla uzatmadan, son sorunun cevabını arayalım.
Yeni problem, insanın fiziksel ve akli kapasiteleri arasına yeterince keskin bir hat çekiyor. Hiçbir mühendis ya da kimyager, insan cildinden ayırt edilemeyen bir materyal üretebileceğini iddia etmiyor. Bunun bir gün yapılabileceğini söylemek mümkün; ancak materyalin icat edildiğini varsaysak dahi, bir ‘düşünen makineye’ yapay vücut giydirerek onu daha insanca kılma çabasının pek anlamlı olmayacağını sezmeliyiz. Problemi kurgulama şeklimiz, sorgulayanın katılımcıları görmesini veya onlara dokunmasını, ya da seslerini duymasını önlemesiyle bu durumu yansıtıyor. Öne sürülen kriterin bazı diğer avantajları örneklerle gösterilebilir. Şöyle ki:
Soru (S): Lütfen Forth Köprüsü’ne dair bir sone yaz.
Yanıt (Y): Beni pas geç. Hiçbir zaman şiir yazamadım.
S: 70764’e 34957 ekle.
Y: (Yaklaşık 30 saniye bekleyip yanıtı verir) 105621.
S: Satranç oynar mısın?
Y: Evet.
S: Şahım K1’de ve başka taşım yok. Senin şahın K6’da ve R1’de ise bir kalem var. Sıra sende. Ne hamle yaparsın?
Y: (15 saniyelik bir bekleyiş sonrası) Kale-R8 mat.
Soru-cevap yöntemi, neredeyse insanların uğraş verdiği alanlar arasından istediğimiz herhangi biri için uygun görünüyor. Ne makineyi güzellik yarışmalarının yıldızı olmadı diye, ne de insanı bir uçakla yarışıp kaybettiği için suçlarız. Oyunumuzun şartları bu başarısızlıkları konumuzun dışında bırakıyor. A ve B, uygun bulmaları halinde cazibeleriyle, kuvvetleriyle ya da kahramanlıklarıyla övünebilir; fakat sorgulayan bunları göstermelerini talep edemez.
Oyun, makinenin aleyhine olduğu iddiasıyla eleştirilebilir belki. Eğer insan bir makine rolü yapmayı deneyecek olsa, çok cılız bir performans sergilerdi. Aritmetikteki yavaşlığı ve isabetsizliği onu hemen ele verirdi. Makineler düşünmek olarak tanımlanması gereken, ancak bir insanın yaptığından oldukça farklı bir şey yapıyor olamaz mı? Bu oldukça güçlü bir itiraz; ama yine de en azından bir makine taklit oyununu bir şekilde oynayacak biçimde oluşturulabilirse, bu itirazdan endişelenmemiz gerekmez.
Aklımızın, “taklit oyununda” makine için muhtemel en iyi stratejinin, bir erkeğin davranışları dışında bir şeyleri taklit etmesi olacağı fikrine kayması mümkün. Bu doğru olabilir; ancak böyle bir şeyin büyük etkiler yaratmasına pek ihtimal vermiyorum; hiçbir şekilde buradaki amacımız oyunun teorisini irdelemek değil. Bir insanın doğallıkla vereceği yanıtları sağlamaya çalışmak, en iyi strateji sayılacaktır.
3. Oyunda Yer Alan Makineler
1. bölümde ortaya koyduğumuz soru, “makine” sözcüğüyle ne kastettiğimizi açmadığımız sürece netleşmeyecek. Makinelerimizde her tür mühendislik tekniğinin kullanılabilmesini istememiz doğal. Aynı zamanda bir mühendis yahut mühendis takımının çalışan bir makine inşa etmesini, ama makinenin işlem biçimini açıkça anlatamamalarını istiyoruz, çünkü büyük oranda deneysel bir metot uyguladılar. Son olarak, makine kelimesinin, normal yollarla doğan insanları kapsamamasını istiyoruz… Tanımları bu üç koşulu kapsayacak şekilde sınırlandırmak zor. Örneğin, biri mühendis takımının tümünün tek cinsiyetten olması gerektiğini ileri sürebilir; lakin bu, (diyelim ki) bir erkeğin tek bir deri hücresinden bütün bir birey yetiştirmek mümkün olduğundan pek yeterli olmazdı. Böyle bir şey en takdire şayan biyoloji tekniklerini gerektiren bir beceri olurdu, ama bunu ‘düşünen bir makine inşa etmek’ olarak saymaya yanaşmazdık. Bu, bizi her çeşit tekniğe izin verilmesi gerekliliğini terk etmeye sevk ediyor. ‘Düşünen makinelere’ duyulan ilginin belli bir makine türü, genellikle ‘elektronik bilgisayar’ veya ‘dijital bilgisayar’ denen bir makine olduğu gerçeği göz önünde bulundurulursa, bunu yapmaya hazırdan da ötedeyiz. Bu önermeyi takip etmekle yalnızca dijital bilgisayarların oyunumuzun bir parçası olmasına izin veriyoruz. [2]Bu kısıtlama ilk bakışta oldukça katı duruyor. Bunun aslında böyle olmadığını göstermeye çalışacağım. Bu da bilgisayarların doğasını ve özelliklerini kısaca izah etmeyi gerektiriyor.
Ayrıca, makinelerin dijital bilgisayarlarla özdeşleştirilmesinin sadece, ‘düşünme’ hakkındaki kriterimizde de olduğu gibi, dijital bilgisayarların oyunda iyi bir performans göstermemesi durumunda hoşnutsuzluk yaratacağı söylenebilir.
Çalışan birtakım dijital bilgisayar halihazırda mevcut olduğundan, “Neden deneyi hemen yapmayalım? Oyunun koşullarını sağlamak kolay olurdu. Birkaç sorgulayan kullanılabilirdi ve başarı oranlarını gösteren istatistikler tutulabilirdi.” denebilir. Kısa cevap şu: Tüm dijital bilgisayarların, ya da mevcut bilgisayarların oyunda iyi olup olmayacağını sormuyoruz; iyi bir performans gösterebilecek hayali bir bilgisayar olup olmadığını soruyoruz. Lakin bu sadece kısa cevap. Bu soruyu ileride başka bir şekilde ele alacağız.
4. Dijital Bilgisayarlar
Dijital bilgisayarların altında yatan fikir, bu makinelerin bir insan saymanca[3] yapılabilecek tüm işlemleri yapma amacı taşımalarıyla açıklanabilir. Saymandan belirli kurallar takip etmesi beklenir, onlardan biraz olsun sapmamalıdır. Bu kuralların, ne zaman yeni bir işe koyulsa ona göre değişen bir kitapla verildiğini farz edelim. Aynı zamanda hesaplamalarını yaptığı kağıt istihkakı sınırsız olsun. Ayrıca çarpma ve toplama işlemlerini bir “masa makinesinde”[4] yapabilir, fakat bunun bir önemi yok.
Eğer yukarıdaki açıklamayı bir tanım olarak kullanırsak, argümanın döngüselleşmesi tehlikesini yaratırız. Bundan, istenen sonuca / etkiye ulaşmamızı sağlayacak yöntemlerin dış hatlarını belirleyerek kaçınıyoruz. Genellikle bir dijital bilgisayarın üç parçadan oluştuğu kabul edilebilir:
- Depo. (Store)
- Yürütme ünitesi. (Executive unit)
- Kontrol. (Control)
Depo, bir enformasyon deposudur ve saymanın hem kurallarının yazıldığı, hem de hesaplarını yaptığı kağıtlara karşılık gelir. Saymanın işlemlerin bir kısmını aklından hesapladığı durumda, deponun bir kısmı da saymanın belleğine denk gelecek.
Yürütme ünitesi, bir hesaplamanın bağımsız işlemlerini (individual operations) yürüten kısımdır. Bu bağımsız işlemlerin niteliği, makineden makineye değişecektir. “3540675445 ile 7076345687’yi çarp” gibi oldukça uzun işlemleri genellikle yapabiliyorlarsa da, bazı makinelerde sadece “0 yaz” gibi çok basit işlemler mümkündür.
Deponun bir kısmının bilgisayarda ‘kurallar kitabı’ yerine geçtiğinden bahsetmiştik. Bundan sonra ona ‘yönergeler tablosu’ diyeceğiz. Yönergelerin doğru ve sırasıyla gerçekleşmesine eşlik etmek kontrolün görevi. Kontrol, bunu mecburi kılacak şekilde yapılandırıldı.
Depodaki bilgi, genellikle biraz küçükçe paketlere bölünür. Mesela bir makinede, bir paket, onluk tabandan on tane rakam içerebilir. Sayılar, çeşitli enformasyon paketlerinin saklandığı depo parçalarına sistematik biçimde atanır. Tipik bir yönerge şöyle söyleyebilir:
“6809 konumunda depolanan numarayı 4302’dekine ekle ve sonucu ikincisinin depolama konumuna yaz.”
Bunun makinedeki ifadesinin İngilizce olmayacağını söylemeye gerek yok. Daha ziyade 6809430217 gibi bir biçimde kodlanmış olacaktır. Buradaki 17, çeşitli / olası işlemlerden hangisinin iki sayıya uygulanacağını söylüyor. Buna göre yukarıda anlatılan işlem, “…sayısını ekle” şeklinde de ifade edilebilir. Yönergenin 10 hane sınırında kalarak enformasyon paketine dönüştüğü açıkça fark edilebiliyor. Kontrol, normalde yönergelerin depolandıkları konumlara göre sırayla takip edilmesini sağlayacaktır, ama bazen;
“Şimdi konum 5606’daki yönergeyi izle ve oradan devam et”, yahut
“Eğer 4505 konumu 0 barındırıyorsa, sonrasında 6707’de tutulan yönergeyi izle, aksi takdirde düz sırayı izle.” yönergeleriyle karşılaşılabilir.
Son ikisi gibi olan yönerge türleri çok önemlidir, çünkü birtakım koşullar yerine getirilinceye dek bir dizi işlemin tekrar tekrar yapılmasını mümkün kılarlar; fakat buna böyle uymak her tekrarlamada yeni yönergeleri değil, aynılarını tekrar edip durmak demektir. Günlük hayattan bir örnek verelim. Annesinin, Tommy’ye, okula giderken her sabah ayakkabıcıya uğramasını ve ayakkabılarının tamir edilip edilmediğine bakmasını söylediğini varsayalım. Bunu Tommy’ye her sabah söyleyebilir; ya da Tommy’nin evden çıkarken göreceği bir yere ayakkabıcıya uğramasını, eğer ayakkabıları getirmişse notu çöpe atmasını söyleyen tek bir not yapıştırabilir.
Okuyucu kabul etmelidir ki, betimlediğimiz ilkelere dayalı dijital bilgisayarlar yapılabilir ve aslında yapıldılar; gerçekten de saymanların eylemlerini epey yakından taklit edebiliyorlar.
Saymanımızın kullandığını söylediğimiz kurallar kitabı tabii ki yalnızca işe yarar bir kurgu. Gerçek hayattaki saymanlar ne yapacaklarını bizzat hatırlar. Biri eğer saymanın kompleks işlemlerdeki davranışını taklit eden bir makine yapmak istiyorsa, saymana bunun nasıl yapıldığını sormalı, sonra da yanıtı yönerge tablosuna uygun bir hale getirmelidir. Yönerge tablosu yapmak genellikle ‘programlama’ olarak adlandırılır. “Bir makineyi A işlemini yürütmek üzere programlamak”, A’yı yapacağı şekilde uygun yönerge tablosunu makineye koymak anlamına gelir.
Dijital bilgisayar fikrindeki ilginç bir değişken, “rastgelelik unsuru olan bir dijital bilgisayar” düşüncesidir. Bunlar bir zarın atılmasını ya da eşdeğeri elektronik işlemleri (processes) içeren yönergelerdir; örneğin böylesi bir yönerge, “Zarı at ve sonucunu konum 1000’e yaz.” olabilir. Bazen böyle bir makine, (kendim bu ifadeyi kullanmasam da) özgür iradeli olarak tanımlanabilir. Normalde bir makineyi gözlemleyerek onun bir rastgelelik unsuru barındırıp barındırmadığını saptamak mümkün değildir; bu tür cihazlarda benzer bir etki, seçimleri pi sayısının ondalık rakamlarına bağlanarak oluşturulabilir.
Dijital bilgisayarların ekseriyeti sınırlı bir depoya sahip. Sınırsız depoya sahip bir bilgisayar fikrinde teorik olarak bir zorluk bulunmuyor. Elbette ki aynı anda sadece sınırlı bir kısım kullanılabilir. Benzer şekilde, kurulabilecek depo miktarı da ancak sınırlı olabilir, ama biz gerektikçe dahasının eklendiğini hayal edebiliriz. Böyle bilgisayarlara özel teorik ilgi alanından sonsuz kapasiteli bilgisayarlar (infinitive capacity computers) olarak bahsedilecek.
Dijital bilgisayar fikri eski bir fikirdir. . Cambridge’in 1828–1839 yılları arasındaki Lucasian Matematik Profesörü[5] Charles Babbage[6] böyle bir makine planladı ve adına Analitik Motor (Analytical Engine) dedi, ancak bu makine tamamlanmadı. Her ne kadar Babbage tüm temel fikirlere sahip olsa da, makinesi o dönem pek ilgi görmedi. Sahip olabileceği hız kesinlikle bir saymanınkinden yüksek olacaktıysa da modern makineler arasında yavaş kalan Manchester makinesinden yaklaşık 100 kat daha yavaş olurdu. Deposu çarklar ve kartlar kullanan, bütünüyle mekanik bir tasarımı vardı.
Babbage’ın Analitik Motor’unun tümüyle mekanik oluşu, bir batıl inançtan kurtulmamıza yardım ediyor. Hem modern dijital bilgisayarların, hem de sinir sisteminin elektriksel olmasına sıklıkla önem atfedilmekte. Babbage’ın makinesi elektriksel olmadığı ve tüm dijital bilgisayarlar bir bakıma denk olduğu için, elektrik kullanımının teorik bakımdan bir öneme sahip olamayacağını görüyoruz. Elbette ki, hızlı sinyalleşmenin olduğu yerlerde çoğu zaman elektrik öne çıkar, bu yüzden onu her iki yapıda da görmemiz bir sürpriz değil. Sinir sisteminde kimyasal fenomenler, en az elektriksel olanlar kadar önemli ve belli bilgisayarlarda depolama sistemi temel olarak akustik. Bu nedenle, elektriği kullanma özelliği yalnızca epey yüzeysel bir benzerlik gibi görünüyor. Eğer bu tür benzerlikler bulmayı umuyorsak daha ziyade işlevlerindeki matematiksel analojilere bakmalıyız.
5. Dijital Bilgisayarların Evrenselliği
Son bölümde değerlendirilen dijital bilgisayarlar, “ayrışık evre makineleri” (discrete state machines) sınıfında konumlandırılabilir. Bunlar, oldukça belirli bir evreden diğerine ani sıçramalar ya da tıklamalarla geçen makinelerdir. Bu ‘evreler, birbirleriyle karışma ihtimalini göz ardı etmeye yetecek denli farklıdır. Somut konuşmak gerekirse böyle bir makine yoktur. Gerçekte her şey süreklilikle hareket eder; ama ‘ayrışık evre makineleri’ düşünülebilecek pek çok makine türü vardır. Mesela, bir ışıklandırma sisteminin düğmelerini düşündüğümüzde bu, her düğmenin kesinlikle açık ya da kesinlikle kapalı olduğu, uygun bir kurgudur. Ara pozisyonlar olmak zorundaysa da pek çok nedenden dolayı onları boş verebiliriz. Bir ayrışık evre makinesi örneği olarak saniyede bir 120°’lik dönüp klikleyen, ancak dışarıdan kontrol edilebilen bir kol ile durdurulabilen bir çark düşünebiliriz; ek olarak, bir lamba çarkın konumlarında birinde yanacak. Bu makine aşağıdaki gibi soyut olarak tasvir edilebilir: Makinenin iç evresi (çarkın konumuyla tanımlanan) q1, q2 ya da q3 olabilir. i0 ya da i1 şeklinde bir sinyal girdisi vardır (kolun konumu). İç evre, tabloya göre, herhangi bir anda son durum ve sinyal girdisine göre belirlenir:
Çıktı sinyalleri, iç evrenin dışarıdan görünebilen tek belirteciyle (lamba) şöyle tablolanır:
Durum
Bu, ayrışık evre makineleri için tipik bir örnektir. Yalnızca sınırlı sayıda evrelere sahip olduklarından, olasılıkları böyle tablolarla betimlenebilir.
Makinenin başlangıç durumu ve girdi sinyallerinin bilindiği düşünüldüğünde, gelecek durumların tamamı öngörülebilirmiş gibi durabilir. Bu, Laplace’ın evrendeki tüm taneciklerin hız ve konumlarının bilinmesiyle açıkladığı, evrenin o andaki durumunun bütününden yola çıkılarak tüm gelecek durumların öngörülebileceği görüşüne benzer. Ancak sözünü ettiğimiz öngörü, Laplace’ın bahsettiğine nazaran daha uygulanabilirdir. Evren, ‘bütünüyle’ öyle bir sistemdir ki, ilk konumdaki çok küçük hatalar ileride devasa etkilere yol açabilir. Bir tek elektronun anlık konumunun milyarda bir santimetre yanlış olması, birinin o andan bir yıl sonra çığ altında kalması ile kaçması arasındaki farkı yaratabilir. Bu olgunun meydana gelmemesi, “ayrışık evre makineleri” diye adlandırdığımız mekanik sistemlerin önemli bir niteliğidir. İdealleştirilmiş makineler yerine gerçek fiziksel makineleri ele aldığımızda bile, bir andaki durumun makul düzeyde isabetli bir bilgisi, sonraki herhangi bir adımın yine makul düzeyde isabetli bir bilgisini sağlayacaktır.
Bahsettiğimiz üzere, dijital bilgisayarlar ayrışık evre makineleri sınıfında yer alır; ama böyle bir makinenin muktedir olduğu evre sayısı genellikle muazzamdır. Sözgelimi, şu an Manchester’da çalışmakta olan bir makine için bu sayı 2 üzeri 165000, yani yaklaşık olarak 10 üzeri 50000’dir. Bunu yukarıdaki üç konumlu klikleme çarkı örneğimizle kıyaslayın. Evre sayısının neden bunca büyük olduğunu görmek zor değil. Bilgisayar, saymanın kullandığı kağıda mukabil bir depoya sahip. Kağıda yazılabilecek sembol kombinasyonlarının her birini depoya yazmak mümkün olmalı. Basit olsun diye, sembol olarak sadece 0’dan 9’a rakamların kullanıldığını düşünün. El yazılarının çeşitliliğini ihmal edin. Bilgisayara her biri 30 rakamlık 50 satıra sahip 100 sayfalık bir istihkak verildiğini varsayın. O halde durumların sayısı 10 üzeri 100X50X30, diğer bir deyişle 10 üzeri 150000’dir. Bu, üç Manchester makinesinin durum sayılarının toplamı kadardır. Sayının 2 tabanında logaritması genellikle makinenin “depolama kapasitesi” olarak adlandırılır. Böylece Manchester makinesi, 165000 kadar depolama kapasitesine sahiptir; çark makinesi örneğimizin kapasitesi ise yaklaşık 1,6’dır[7] . Eğer iki makine bir araya getirilirse, sonuçta ortaya çıkan makinenin kapasitesini elde etmek için, onu oluşturan makinelerin kapasiteleri toplanmalıdır. Bu, “Bir Manchester makinesi, her birinin kapasitesi 2560 olan 64 manyetik yol ile 1280 kapasiteli 8 elektronik tüp taşır. Muhtelif depolama miktarı yaklaşık 300, toplamda 174380 yapıyor.” sonucuna çıkar.
Bir ayrışık evre makinesine karşılık gelen tablo göz önünde bulundurulduğunda, ne yapacağını öngörmek mümkündür. Bu hesaplamanın bir dijital bilgisayar aracılığıyla gerçekleştirilmemesi için bir neden bulunmuyor. Yeterince çabuk şekilde yürütümü sağlanırsa, dijital bilgisayar herhangi bir ayrışık evre makinesinin davranışını taklit edebilir. Taklit oyunu, böylece sorgulanan makine (B olarak) ve taklit eden dijital bilgisayar (A olarak) ile oynandığında, sorgulayan ikisini ayırt edemeyebilir. Tabii ki dijital bilgisayar yeterli depolama kapasitesine sahip olmalı ve yeterince hızlı çalışmalı. Dahası, taklit etmesi istenen her yeni makine için baştan programlanmalı.
Dijital bilgisayarların bu özel nitelikleri, yani herhangi bir ayrışık evre makinesini taklit etme yetenekleri, onların evrensel makineler olması şeklinde tanımlanır. Bu nitelikteki makinelerin varlığının önemli sonucu, hız değerlendirmeleri bir yana, çeşitli kompütasyon işlemlerini (computing processes) yapmak üzere yeni makineler tasarlanması gerekmemesidir. Hepsi de her bir durum için uygun şekilde programlanan bir dijital bilgisayarla yapılabilir. Buradan hareketle görülecektir ki tüm dijital bilgisayarlar bir anlamda denktir.
Şimdi 3. bölümün sonunda işaret edilen noktayı tekrar değerlendirebiliriz. “Makineler düşünebilir mi?” sorusunun, çekingenlikle, “Taklit oyununu iyi oynayabilecek, tahayyül edilebilir dijital bilgisayarlar var mıdır?” sorusuyla değiştirilmesi önerilmişti. Eğer bunu yüzeysel bir açıdan daha genel hale getirebilmeyi istiyorsak “İyi oynayabilecek ayrışık evre makineleri var mıdır?” diye sorarız; ama evrensellik niteliği görüşü bakımından bu soruların ikisinin de şuna denk olduğunu görürüz: “Dikkatimizi, belirli bir dijital bilgisayar C’ye odaklayalım. Bu C bilgisayarı, üstünde yeterli depolamaya sahip olacağı şekilde değişiklikler yapılması, aksiyon hızının uygun biçimde arttırılması ve uygun bir programla donatılması halinde taklit oyunundaki A rolünü, B rolü bir erkek tarafından üstlenildiği takdirde tatmin edici şekilde oynayabilir mi?” [8]
6. Ana Soruya Karşıt Görüşler
Artık zemin “Makineler düşünebilir mi?” sorumuzun ve beşinci bölümün sonunda alıntılanan türevinin tartışılmasına hazır denebilir. Gelen görüşler, kullanılan temsilin asıl soruya uygunluğuna göre değişeceğinden, asıl soruyu tamamen terk edemeyiz ve bu bağlamda söylenen şeylere en azından kulak vermemiz gerekmektedir.
İlk önce benim bu konudaki kanılarımı açıklamam, konuyu okuyucu için basitleştirecektir. Önce sorunun daha isabetli şeklini düşünün. İnanıyorum ki yaklaşık elli yıl içinde, 10 üzeri 9’a yakın bir depolama kapasitesi olan ve ortalama bir sorgulayanın beş dakikadan uzun bir sorguda %70 üstü doğrulukla tahmin yürütemediği bir başarıyla taklit oyunu oynayacak bilgisayarlar programlamak mümkün olacaktır. Asıl soru olan “Makineler düşünebilir mi?” sorusunun, tartışılmayı hak etmek için oldukça anlamsız kalacağına inanıyorum. Yine, inanıyorum ki, asrın sonunda kelimelerin kullanımı ve eğitimlilerin genel görüşü öyle değişecek ki, kişi hiçbir zıtlaşma beklemeden makinelerin düşünüşünü konuşabilecek. Dahası, bu inançları gizlemenin hiçbir lüzumu olmadığına inanıyorum. Bilim insanlarının kanıtlanmamış zanların etkisinde kalmadan, iyi kanıtlanmış bir olgudan bir başkasına direkt geçtiği popüler görüşü oldukça yanlış. Hangilerinin kanıtlanmış olgular, hangilerinin zanlar olduğu netleştirildiğinde bunun bir zararı yoktur. Zanlar, kullanışlı araştırma kulvarları sundukları için büyük öneme sahiptirler.
Şimdi devam edip benimkine zıt fikirleri değerlendireceğim.
(1) Teolojik İtiraz
Düşünmek, insanın ölümsüz ruhunun bir işlevidir. Tanrı tüm erkek ve kadınlara ölümsüz bir ruh vermiştir, başka hiçbir hayvan ya da makineye değil. Bu nedenle hiçbir hayvan ya da makine düşünemez.
Bunun hiçbir kısmını kabul edemiyorum ama teolojik terimlerle yanıtlamaya çalışacağım. Eğer hayvanlar insanlarla birlikte sınıflandırılsaydı bu argümanı daha inandırıcı bulurdum; çünkü bana göre, tipik canlı ile cansız arasında, insan ve diğer hayvanlar arasındakine nazaran daha büyük bir fark var. Ortodoks görüşün bu keyfi niteliği, eğer başka bir dini topluluğun ferdine nasıl gözükeceği üstünden düşünürsek, daha net anlaşılır. Hristiyanlar, Müslümanların ‘kadınların ruhu olmadığı’ görüşü hakkında ne düşünür?[9] Ama bu argümanı bir kenara koyup ana tartışmaya dönelim. Bana öyle geliyor ki, yukarıda alıntılanan argüman, tanrının her şeye kadirliğinde ciddi kısıtlamalar olduğunu ima ediyor. Biri ikiyle denkleştirmek gibi belli başlı şeyleri yapamadığı kabul edilmiş bir şey, ama onun uygun görürse bir file ruh bahşetmekte hür olduğuna inanmamalı mıyız? Yalnızca o, bu gücü, filin beynini ruhun gerekliliklerine uygunca geliştirecek bir mutasyona eşlik ederek kullanırdı. Bunun tıpkısı bir argüman şekli makinelerin durumuna da uyarlanabilir. Farklı gelebilir, çünkü “hazmetmesi” daha zor; ancak bu gerçekte yalnızca bizim, tanrının ruh bahşederken yaptığı değerlendirmelere makineyi uygun bulmasını beklemediğimiz anlamına gelir. Sorgu mevzuu olan koşullar bu makalenin kalanında tartışılıyor. Böyle makineler yaparken tanrının gücünü çocuk yaptığımızdan daha büyük bir ayıpla gasp ediyor olamayız: Bundan ziyade, her iki durumda da onun yarattığı ruhlara konaklar sağlayan, onun istencinin enstrümanlarıyız.
Yine de bu bir spekülasyondan ibaret. Her neyi desteklemekte kullanılırlarsa kullanılsınlar teolojik argümanlardan pek etkilenmem. Böyle argümanlar geçmişte sıklıkla yetersiz bulunmuştur. Galileo’nun zamanında “Ve güneş sabit durdu … ve bir tam gün boyunca aşağı inmekte acele etmedi” (Joshua x. 13) ve “O, dünyanın temellerini dizdi ki hiçbir zaman hareket etmesin” (Psalm cv. 5) pasajlarının, Kopernik’in teorisine karşı yeterli bir tekzip olduğu ileri sürülüyordu. Şimdiki bilgimizle, böyle bir argüman sunmak nafile duruyor. Bu bilgiye erişilemeyen zamanlardaysa bu argüman oldukça farklı bir etki yaratmıştı.
(2) ‘Kafayı Kuma Gömme’ İtirazı
“Makinelerin düşünmesinin sonuçları dehşet verici olabilir. Umalım ve inanalım ki bunu yapamasınlar.”
Bu argüman nadiren bu denli açıkça ifade edilir; ama üstüne düşündüğümüzde neredeyse hepimizi etkilemektedir. İnsanın diğer yaratılmışlara üstün olduğuna inanmayı severiz. Eğer üstünlüğünün bir gereklilikten doğduğu gösterilebiliyorsa bu en iyisidir, çünkü o zaman insanın hakimiyetini kaybetme tehlikesi kalmaz. Teolojik argümanın popülaritesi açıkça bu duyguyla bağlantılıdır. Düşüncenin gücünü diğerlerinden daha üstte tuttukları ve insanın üstünlüğünü bu gücüne bağlamaya yatkın olduklarından, bunun entelektüel kişilerde oldukça güçlü olması daha muhtemeldir.
Bu argümanın çürütülmek için yeterince kayda değer olduğunu düşünmüyorum. Teselli daha uygun olabilir: Belki de bunu ruh göçünde aramalı.
(3) Matematiksel İtiraz
Ayrışık evre makinelerinin güçlerinin sınırları olduğunu göstermekte kullanılabilecek birtakım matematiksel mantık çıkarımları bulunuyor. Bu çıkarımların en bilineni olan Gödel’in teoremi gösteriyor ki, yeterli güce sahip herhangi bir mantıksal (logical) sistemin durumları, muhtemelen sistemin kendisi tutarsız olmadıkça, sistem içinde ne ispatlanabilen (prove) ne de ispatlanamayan şekillerde formüle edilebilir. Buna bazı açılardan benzeyen, Church, Kleene, Rosser ve Turing’e bağlı başka çıkarımlar da var. Diğerleri sadece nispeten dolaylı yollardan kullanılabilirken o doğrudan makinelere yönelik olduğundan, son çıkarım değerlendirmeye en uygun olanı: Örnek olarak, eğer Gödel’in teoreminin kullanılması söz konusuysa, mantıksal sistemleri makineler yönünden ve makineleri de mantıksal yönden anlatan bazı başka araçlara daha ihtiyaç duyarız. Sözü geçen çıkarımın bahsettiği makine tipi, temelde sonsuz kapasiteye sahip bir dijital bilgisayar. Çıkarım, böyle bir makinenin yapamadığı belli şeyler olduğunu belirtiyor. Eğer taklit oyunundaki gibi yanıtlar vermeye uyarlanırsa, ya hatalı cevaplayacağı ya da cevaplamayı hiçbir zaman başaramayacağı bazı sorular olacaktır. Elbette böyle pek çok soru olabilir ve bir makine tarafından yanıtlanamayan sorular bir başkasınca tatmin edici bir şekilde yanıtlanabilir. Tabii ki şu an soruların “Picasso hakkında ne düşünüyorsun?” gibi sorulardan ziyade “Evet” veya “Hayır” ile cevaplanmaya uygun olan sorular olduğunu varsayıyoruz. Makineleri başarısız kılması gerektiğini bildiğimiz sorular, “Sorunun devamındaki gibi bir makine düşün… . Bu makine hiç herhangi bir soruya ‘Evet’ cevabı verecek mi?” türünden. Üç nokta bırakılan kısım, 5. bölümde yer alana benzer standart biçimde bir makine tanımıyla değiştirilecek. Tanımlanan makine, sorgulanan makineyle belli bir benzerliğe sahip olduğunda yanıtın ya yanlış olduğu ya da erişilebilir olmadığı gösterilebilir. Bu, matematiksel çıkarımdır: Makinelerin, insan aklında bulunmayan bir engeli olduğunu kanıtladığı savunulur.
Bu argümanın kısa cevabı, herhangi belli bir makinenin güçlerinin sınırları olacağı kesinse de, insan aklının böyle sınırlara sahip olamayacağı fikrinin hiçbir kanıt sunulmadan öylece belirtildiğidir; ama ben bu görüşün öyle kolayca saf dışı bırakılabileceğini düşünmüyorum. Ne zaman bu makinelerden birine, böyle bir eleştiriye elverişli bir soru sorulsa ve makine net bir yanıt verse, bu yanıtın yanlış olması gerektiğini biliriz ve bu bize kesin bir üstünlük duygusu verir. Bu duygu aldatıcı mıdır? Hiç şüphe yok ki içten bir duygu ama fazla önem yüklenmemesi gerektiğini düşünüyorum. Makinelerin yanılabilirliğinin, bu tür kanıtlarından aldığımız zevki hak edemeyeceğimiz kadar fazla sıklıkla sorulara yanlış cevaplar veriyoruz. Dahası, üstünlüğümüz yalnızca cılız zaferimizi elde ettiğimiz o bir makineye ilişkin durumlarda hissedilebilir. Sürekli tüm makinelere galip gelmek fikri söz konusu olamaz. Öyleyse, kısacası, herhangi belli bir makineden daha zeki insanlar olabilir, ama yine, daha da zeki başka makineler olabilir. Bu böyle gider.
Matematiksel argüman yandaşları, bence, taklit oyununu bir tartışma zemini olarak kabul etmeye büyük oranda gönüllü olacaktır. Önceki iki itiraza inananlar muhtemelen hiçbir kriterle ilgilenmez.
(4) Bilinçten Türetilen Argüman
Bu argümanı Profesör Jefferson, Lister Nutuğu’nda[10] çok güzel bir şekilde ifade etti: “Bir makinenin, sembollerin denk düşmesinden değil, düşünceler ve hissedilen duygular nedeniyle bir şiir yazması, yahut bir konçerto bestelemesi söz konusu olmadıkça makinenin beyne denk olduğunu kabul edemeyiz: bu, yalnızca onu yazmak değil, onu yazmış olduğunu bilmektir. Hiçbir mekanizma başarılarında tatmin hissedemez (ve yalnızca yapay olarak sinyalleyebilir kolaycı bir cihaz), valfleri eridiğinde kederlenemez, övüldüğünde içi ısınamaz, hatalarıyla aşağılanamaz, seks ona cazip gelemez, istediğini elde edemediğinde öfkelenemez ya da bunalamaz.”
Bu argüman, testimizin geçerliliğinin bir reddi gibi durmakta. Bu görüşün en uçtaki hali, bir makinenin düşünebildiğinden emin olmanın tek yolunun o makine olmak ve düşündüğünü hissetmek olduğu fikridir. Kişi sonrasında hislerini dünyaya açıklayabilse de, tabii ki kimsenin bu açıklamaları dikkate alması mantıklı olmazdı; aynı şekilde bu görüşe göre bir insanın düşündüğünü bilmek için o insan olmak gerekir. Bu aslında solipsist bir bakış açısı. Savunması en mantıklı bakış açısı olabilir ama fikirleri bağdaştırmayı zorlaştırıyor. A, “A düşünür ama B düşünmez” fikrine bağlıyken, B, “B düşünür ama A düşünmez” fikrine inanıyor. Sürekli bu nokta üstünde tartışmak yerine, herkesin düşündüğü fikrinde uzlaşmak zarif bir adettir.
Profesör Jefferson’ın, görüşün uç ve solipsist halini benimsemek istemediğine eminim. Muhtemelen taklit oyununu bir test olarak kabul etmeye epeyce istekli olurdu. Oyun (B oyuncusu katılmadan) pratikte viva voce adı altında, birinin bir şeyi gerçekten anladığını mı, yoksa ‘papağan misali mi öğrendiğini’ keşfetmekte sıklıkla kullanılır. Böyle bir viva voce’den bir kısım dinleyelim:
Sorgulayan: Şiirinin ilk dizesinde “Seni bir yaz günüyle kıyaslayacak mıyım?” yazıyor, ‘bir bahar günü’ de uyar mıydı, veya daha iyi olur muydu?
Sorgulanan: Ölçüsü uymazdı.
Sorgulayan: ‘Bir kış günü’ nasıl? Ölçüye uyuyor.
Sorgulanan: Evet, ama kimse bir kış günüyle kıyaslanmayı istemez.
Sorgulayan: Bay Pickwick sana Noel’i çağrıştırıyor mu?
Sorgulanan: Bir bakıma.
Sorgulayan: Noel bir kış günü olsa da, Bay Pickwick’in kıyaslanmaktan rahatsız olacağını düşünmüyorum.
Sorgulanan: Bence ciddi değilsin. Kişi, kıştan bir kesitle, Noel gibi özel bir günden ziyade sıradan bir kış gününü kasteder.
Böyle devam ediyor. Profesör Jefferson, eğer şiir-yazan makine bu viva voce’deki gibi cevaplar verebiliyor olsa ne derdi? Bu makineye, cevapları ‘yalnızca yapay olarak sinyallediği’ muamelesi yapar mıydı bilmiyorum, ama eğer yanıtlar yukarıdaki pasajdaki şekilde tatmin edici ve sürdürülebilirse bunu ‘kolaycı bir cihaz’ olarak tanımlayacağını düşünmüyorum. Zannımca böylesi bir deyiş, birinin şiir okuma kaydını taşıyan ve zaman zaman çalmasını sağlayan uygun bir anahtara sahip makinelere bu tür cihazları dahil etmeye yönelik.
O halde kısaca, bilinçten türetilen bu argümanı destekleyenlerin çoğunun solipsist bir konumda yer almaya zorlanmaktansa, argümandan caymaya ikna edilebileceğini düşünüyorum. Böylece muhtemelen testimizi kabul etmeye istekli olurlar.
Bilinç hakkında hiçbir gizem olmadığını düşündüğüm izlenimini vermek istemem. Söz gelimi, yerini saptamak konusunda bir tür gizem var; ama bu gizemlerin, bu makalede ilgilendiğimiz soruyu yanıtlamadan önce çözülmelerinin şart olduğunu düşünmüyorum.
(5) Çeşitli Yetersizliklerden Gelen Argümanlar
Bu argümanlar, “Makinelerin, bahsettiğin her şeyi yapmalarını sağlayabileceğin konusunda hakkını teslim ediyorum, ama birinin X’i yapmasını asla sağlayamazsın” şeklindedir. Bu bağlamda pek çok X özelliği ileri sürüldü. Bir seçki sunuyorum:
İyi, maharetli, güzel, arkadaş canlısı olmak girişimci olmak, mizah anlayışının olması, doğruyu yanlışı ayırabilmesi, hatalar yapması, aşık olması, çilek ve krema sevmesi, birinin ona aşık olmasını sağlaması, tecrübeden ders çıkarması, kelimeleri usulüne uygun kullanması, kendi düşüncesinin öznesi olması , bir insanınki kadar davranış çeşitliliği olması, gerçek anlamda yeni bir şey yapması. (Bu yetisizliklerin bazıları, sayfa numaralarıyla belirtildiği üzere özel değerlendirmelere sahip.)[11]
Genelde bu beyanları destekleyecek bir şey sunulmaz. İnanıyorum ki çoğu, bilimsel tümevarım prensibine dayandırılarak kuruluyor. Bir insan hayatı boyu binlerce makine görür. Onlarda gördüklerinden birtakım genellemeler çıkarır. Çirkinlerdir, her biri oldukça sınırlı amaçlar için tasarlanmıştır, azıcık farklı bir amaçla kullanılmaları gerektiğinde kullanışsızlardır, herhangi birinin davranış çeşitliliği çok kısıtlıdır, vesaire, vesaire. Doğal olarak, kişi bunların makinelerin zaruri nitelikleri olduğuna kanaat getirir. Bu kısıtlılıkların bir çoğu, makinelerin çoğunda oldukça az olan depolama kapasiteleriyle alakalıdır. (Depolama kapasitesi fikrinin, ayrışık evre makineleri dışındaki makineleri de kapsayacak bir şekilde genişlediğini varsayıyorum. Şu anki incelemede matematiksel doğruluk (accuracy) iddiası olmadığından, net tanım yapıp yapmamak mühim değil. Dijital bilgisayarlara dair çok az şeyin bilindiği birkaç sene önce, eğer birisi dijital bilgisayarların özelliklerinden yapılarını açıklamadan söz ediyorsa, söylenenlerden şüphe duymak mümkündü. Bu tahminimce, bilimsel tümevarımın benzer bir şekilde uygulanmasına bağlıydı. Prensibin bu uygulamaları tabii ki büyük oranda farkında olmaksızın gelişiyor. Bir çocuk yandığında ateşten korkar ve bu korkusunu ateşten kaçınarak gösterirse; belirtmeliyim ki, çocuk bilimsel tümevarım uyguluyordur. (Tabii bu davranışı başka pek çok yolla açıklayabilirim.) İnsanlığın yapıtları ve alışkanlıkları, bilimsel tümevarımın bir nesnesi olmaya çok uygun bir alan gibi görünmüyor. Eğer amaç güvenilir sonuçlar elde etmekse, uzay-zamanın epeyce geniş bir bölümü araştırılmalı. Diğer türlü (İngiliz çocuklarının çoğu gibi) dünyadaki herkesin İngilizce konuştuğuna ve Fransızca öğrenmenin ahmakça olduğuna kanaat getirebiliriz.
Yine de sözü geçen yetisizliklerin birçoğu hakkında belirtilecek özel şeyler var. Çilek ve kremadan zevk alma yoksunluğu, okuyucuya ehemmiyetsiz gelebilir. Muhtemelen, bir makineye lezzetli balıktan keyif aldırılabilir, ama ona böyle bir şey yaptırmak aptalca olurdu. Bu yetersizlikte önemli olan, başka yetersizlikleri, örneğin, insanla makine arasında, iki beyaz adam yahut iki siyah adam arasındaki arkadaşlıkla benzer bir arkadaşlığın gelişmesindeki zorluğu arttırıyor olmasıdır.
-Son cümle çok güç anlaşılıyor düzeltmek lazım. -
“Makineler hata yapamaz” iddiası merak uyandırıcı görünüyor. Kişinin hemen “Bu onları daha kötü mü yapar?” diyesi geliyor ama anlayışlı bir tavır takınalım ve gerçekte kastedileni görmeyi deneyelim. Bana göre bu eleştiri taklit oyunu kapsamında açıklanabilir. Denebilir ki, sorgulayanın, makineyi insandan basitçe ayırmak için, ikisinden birtakım aritmetik problemi çözmelerini isteyebilir. Makinenin foyası, şaşmaz isabetliliği nedeniyle ortaya çıkardı. Bunun cevabı basit. Oyunu oynamak üzere programlanan makine, aritmetik problemlerine doğru yanıtları verme çabasına girmemeye programlanabilir, sorgulayanın kafasını karıştıracak bir şekilde kasten hesaplanmış hatalar öne sürebilirdi. Mekanik bir hata, muhtemelen aritmetikte insanın yapacağı türden bir hataya benzemeyerek kendini ele verirdi. Eleştirinin bu yorumu bile yeterince anlayışlı değil, ama daha da derinlerine inme fırsatımız yok. Bana öyle geliyor ki, bu eleştiri iki tür hata arasındaki karışıklığa dayanıyor. Bu hata türlerini ‘işleyiş hataları’ ve ‘çıkarım (conclusion) hataları’ olarak adlandırabiliriz. İşleyiş hataları, makinenin yapmak üzere tasarlandığından farklı davranmasına yol açan bazı mekanik ya da elektriksel hatalardan ötürü oluşur. Felsefi tartışmalarda kişi böyle hataların gelişmesi ihtimalini yok saymaya meyyaldir; bu yüzden kişi “soyut makinelerden” bahsetmektedir. Bu soyut makineler, fiziksel objelerden ziyade matematiksel kurgulardır. Tanımlanışları gereği işleyiş hatalarının öznesi olamazlar. Bu bakımdan, samimiyetle ‘makinelerin asla hata yapamayacağını’ söyleyebiliriz. Çıkarım hataları, yalnızca makineden gelen çıktı sinyallerine bir anlam yüklendiğinde vuku bulur. Mesela makine, matematiksel denklemler ya da İngilizce cümleler yazabilir.
