“Yapıt var olduğu andan itibaren yazar ölecektir” diyor ünlü edebiyat eleştirmeni Roland Barthes, günümüzdeyse yapay zekâ ile yazar ölemiyor çünkü doğmuyor da. Yazarın işini bir robot yapıyor, belirli algoritmalar yardımıyla roman, öykü yazıyor; kitapları Amazon.com gibi sitelerde satışa bile çıkarılıyor hatta fark edilemese ödül alacak kadar ileriye gidebiliyor. Hollywood senaristlerini bile greve götüren ve tüm devrelerimize pardon sinirlerimize kadar nüfuz eden yapay zekânın edebiyatla “yolculuğunun” 5N1K’sını ChatGPT’yle değil konuyu bilenlerle konuştum.
MURAT GÜLSOY, AKADEMİSYEN, YAZAR
Yapay zekâ sizin yazı arkadaşınız da olabilir, size geri bildirimde de bulunabilir
İnsanlık Orhun Abideleri’nde taşa çiviyle yazı yazdı ama şimdiye geldiğimizde ortada ne çivi var ne taş var hatta yazar bile yok. Yazma aracı burada bir robot oldu…
Teknolojiyle edebiyatın, sanatın çok yakın bir ilişkisi var. Birbirinden asla kopuk değiller örneğin matbaanın icat edilmesiyle birlikte 1500’lerden itibaren 1600’lere geldiğimizde roman türünün ortaya çıktığını görüyoruz. Matbaanın icat edilmesi ve aynı zamanda burjuva sınıfının ortaya çıkması, belli bir sermaye birikimine sahip bir okuryazar kitle oluşturdu. Bunun yanında bir de matbaa var yani ucuza çoğaltma tekniği… Matbaadan önce kitap yok mu? Var ama kimin kitabını çok pahalı yöntemlerle çoğaltabilirsiniz: Aristo’nun kitabını, İncil’i, kutsal kitapları fakat sıradan insanın hayallerini, hikâyelerini anlatabilmeleri için ve bunları çoğaltıp yaymak için matbaanın ortaya çıkması gerekiyordu. Öykü, gazete ve derginin, süreli yayının 19. yüzyılda yükselmesiyle ortaya çıktı. Bakın, sürekli yeni türler ortaya çıkıyor… Fotoğraf, daha sonra hareketli fotoğraflar derken sinema… Şundan korkuldu: Sinema tiyatronun yerini alacak. Tiyatro ölecek mi, ölüyor mu? Sonra TV çıktı aynı şeyler sinema için söylendi fakat farkındaysanız “hiçbirisi ölmedi” tam tersi her biri kendi içerisinde evrimler geçiriyor… Günümüzde yapay zekâ başka bir durum yarattı. Yapay zekânın bir yaratıcılığı var mı yok mu? Bir kere bunun tartışılması gerekir. Bu çok önemli bir nokta. Gerçekten yapay zekânın yaptığı şey sanat mı değil mi?
Walter Benjamin bir makalesinde çoğaltma tekniklerinden bahsediyor, orijinal bir resmi çoğaltıp herkesin eline geçtikten sonra o sanat eserinin aurasının yok olduğunu söylüyor. O aurayı da şöyle tarif ediyor: Mona Lisa’yı Leonardo da Vinci yaptı. O sanat eseri biricik ve bütün, o anı kendi içinde taşıyor ama çoğalttığınız zaman yine Mona Lisa’ya bakıyorsunuz ama bir şey eksik. Kendi deneyimimi de aktararak yapay zekâya dönelim. Ressam Vasıf’ın Gizli Aşklar Tarihi adında bir roman yazdım. 2022’nin yaz aylarında da bitirdim. Tabii “Kapak ne olabilir?” diye düşünüyordum. Ben de Midjourney’i deneyeyim dedim. Hakikaten çok detaylı bir şekilde komutlar verdiğimde 5 dakika sonra belirmeye başladı ekranda ve o anda aura kavramını hatırladım. Çok etkilendim ama burada eksik olan bir şey var: İnsani deneyim. Bunun arkasında insani deneyim var mı? Yok. Onu bir insan yapmıyor bir algoritma bütün internet evrenindeki eriştiği tüm görsellerden kendisine bir öğrenme yoluyla eser çıkarıyor, eser diyebiliriz ama kişisel bir deneyim yok. Buradan bu eksik bir şey mi diye düşündüğümde, aklıma şu geldi: Tamam da o da başka insanların deneyimlerinden öğrendi tıpkı bir ressamın başka ressamlardan öğrendiği gibi tıpkı bir yazarın başka yazarlardan edebiyatı öğrendiği gibi. Ahmet Hamdi Tanpınar’ı okuruz ama aynı zamanda onun içinde Kafka da vardır, Virginia Woolf da vardır, bir sürü sayamayacağımız kadar insan vardır. Dolayısıyla o zaman bu yapay zekânın ürettiği eserin içinde başka insanların deneyimleri var.
Roman yazma sürecini konuşalım. Bu süreçte yapay zekânın nasıl bir işleyiş mekanizması var?
Metinleri sayıyor diyelim, okuma demek biraz tuhaf çünkü okuma eylemi bir anlamayı gerektirir ama yapay zekânın burada yaptığı iş bu değil tam olarak. İstatiksel olarak geziniyor ve bu sözden sonra hangi söz geliyor, hangisi cümle yapısına iyi gider gibi bir mantığı var anladığım kadarıyla. Yapay zekâ çalışmalarında felsefi olarak iki görüş vardır: Bir güçlü yapay zekâyı savunanlar bir de zayıf. Güçlü yapay zekâyı savunanlara göre “Evet bir gün insan gibi düşünen bir robotu yapmanın önünde bir engel yok.”
Duygular da dâhil olmak üzere mi?
Her şey, öteki taraf da bunun mümkün olmadığını söylüyor çünkü bunun biyolojik bir tabanı olması lazım. İki tarafın da kendine göre haklı tarafları olmakla beraber bir gün bizim karşımıza bir robot gelse ve dese ki “Benim düşüncelerim var, benim duygularım var, senden çok hoşlandım, şu anda da çok üzgünüm” karşılığında biz ona şöyle mi diyeceğiz: “Hayır sen bunları hissedemezsin, içinde entegre devreler var, bir program gereği söylüyorsun?” Sonunda “Sizin içinizde sinir hücreleri var onlar da ne yaptıklarının farkında mı?" cevabını mı alacağız? (Gülüşmeler.) Burada o zaman Turing devreye giriyor. Allan Turing bir test icat ediyor ve diyor ki bunu ölçmenin yolu şu: Bir perdenin arkasına koyun insan ve aleti, diğer tarafta da klavyeyle yazışın, sorular sorun, ekrandan cevaplar gelsin. Bu cevapları veren bir insan mı yoksa bir makine mi? Bunu ayırt edebiliyorsan tamam ama ayırt edemediğin zaman yapay zekâ bu sınavı geçer, ona düşünemiyorsun diyemezsin. Şimdi burada sanat yapıtına geldiğimiz zaman diyelim ki bir resmi koyduk, bir müzik parçasını dinlettik, bir şiiri ve öyküyü okuttuk. Okurlar, izleyiciler bunu ayırt edebiliyorlar mı edemiyorlar mı? Bizim yazma sürecimize nasıl etki eder sorusuna geri döneyim. Ben bunu yapay zekâyla yarışmak gibi düşünmüyorum. Hızlı koşan biri varsa biz koşmayı bırakmayız ya da araba var diye yürümekten vazgeçelim diye bir durum yok. Önemli olan sanatsal süreçte benim kişisel deneyimimdir.
Şunu mu anlayalım: Tamam yeni bir teknoloji var karşımızda, bu çok önemli ama bu yazar olarak benim değerimden bir şey götürmüyor.
Götürmüyor. Çünkü sanatçının birinci motivasyonu bu eseri satıp da bundan gelir elde etmek değil, bunu yapıyor olmak. Elbette ki ondan bir telif kazanması gerekir ama başat amaç bu değil. Gerçekten de mesleği yazı olan yani metin yazarları ya da illüstratörler tehdit altında ama sanatsal süreci bir kişisel deneyim olarak yaşayanları tehdit etmez tam tersine yoldaş da olabilir. Yapay zekâ sizin bir yazı arkadaşınız da olabilir, size geri bildirimde de bulunabilir ileride, yazar koçunuz olabilir. Mesela dizi senaryolarını tek kişi yazmıyor ki çoğu zaman bir ekip bunu yapıyor. Yapay zekâ bu konuda size yardımcı olabilir. Daha ilginç şeyler de olabilir mesela ölmüş yazarların yazmamış oldukları eserleri yazdıracağız. Ben de denedim. Kafka hikâyesi olsun, İstanbul’da 1945 yılında geçsin, hikâyenin konusu da şu olsun ama Kafka yazmış gibi olsun dediğimde bir şeyler çıkıyor. Hatta daha tuhafını söyleyeyim Kafka ve Virginia Woolf karışımı bir üslupla yaz dediğim zaman da yazıyor yani melezleme. Bunlar beni çok heyecanlandıran şeyler. Bunun gibi ilginçlikler de bizi bekliyor ve tanık oluyoruz. Şöyle bir durum var. Google’da bir arama yaptığınız zaman sizi götürdüğü sitelerin hangisinin güvenilir olup olmadığını tespit edebilirsiniz. Wikipedia’nın sürekli kendini doğruya evrilten bir sistemi var ama ChatGPT öyle değil, bir şey sorduğunuz zaman cevap uydurma, ben bunu edebiyattaki güvenilmez anlatıcıya benzetiyorum mesela adam üçkâğıtçıdır ona güvenmezsiniz ama o anlatır hikâyeyi... Ben kendimi soruyorum, bir hayat hikâyesi çıkarıyor ki benim olası yaşamlarımdan biri gibi.
Ben kendimi sorduğumda Orhan Pamuk’un eserini benim yazdığımı iddia etti (gülüşmeler). Yazma sürecinin odak noktasında doğal olarak dil bulunuyor, edebî eserler birçok dile çevriliyor ve yapay zekâ buna da el attı. Bunu değerlendirirken bir de yapay zekânın milliyetinin olmaması sonuç olarak ulussuz bir edebiyat doğurur mu diye sormak isterim.
Çeviri konusunda en önemli tartışmalardan biri çeviri algoritmaları. Bunlar gitgide daha iyi çeviriyor, eskiden çeviremiyordu çünkü farklı bir mantıkla programı yazıyorlardı: Türkçenin yapısını çözelim, İngilizcenin çözelim, bu yapıyı buna dönüştürelim. Sonra bıraktılar bunu, onun yerine ne yaptılar biliyor musun? Sanki doğal dil öğrenirmiş gibi bol sayıda çeviri gösterdiler programa. Tıpkı bir çocuğun öğrenmesi gibi, nasıl öğreniyor bir çocuk dili? Biz grameri öğretmiyoruz hatta belki anne babası grameri bilmiyor bile. Doğal dili konuşuyor, duyuyor, nesnelerle, eylemlerle, deneyimlerle birleştiriyor ve anlayarak dili öğreniyor. Yapay zekâ ise istatiksel olarak “Ha hep bundan sonra bu geliyor, en iyisi bu” diyerek böyle öğreniyor dolayısıyla daha önce yapılmış olan bütün bu çevirilerden öğrendiği deneyimle istatiksel olarak bir cevap çıkarıyor. Dünyada sadece İngilizce konuşulan ülkeler çeviri konusunda avantajlı onun dışında herkes dezavantajlı. İngiltere’de yayımlanan bir kitabın ancak yüzde 10’luk kısmı çevrilir, ABD’de de öyle ve sizin bu yüzde 10’luk kısma tüm dünyayla girmeniz gerekiyor. Sinemada öyle değil, filminizi festivale gönderiyorsunuz altyazıyla ve sonuçta bütün dünyaya ulaşabiliyor ama bir edebiyatçının bütün dünyaya ulaşması söz konusu değil. Dolayısıyla mükemmele yakın bir çeviri algoritması çalışırsa o zaman edebiyatçılar açısından başka yerlerde okunmak bir sorun olmaktan çıkar ama sizin sorunuzda başka bir şey var: Ulussuz bir edebiyat olabilir mi? Yapay zekâ kendi başına bir şey çıkarabilir mi? Çıkarabilir ama zaten var ve biz ona havaalanı edebiyatı diyoruz aslında. Havaalanlarında siz kitapçıya girdiğinizde oradaki kitaplar neredeyse her yerde tüketilebilecek hikâyeler anlatır.
AHMET ÜMİT, YAZAR
Yapay zekâ sadece sayılabilir şeyleri yapabilir. Sanat sayılabilir bir şey değil
Son dönemde yapay zekânın gelişimi gözle görülür boyutlara ulaştı. Edebiyat da bundan nasibini aldı. Siz bir yazarın inşaat işçisi gibi çalışması gerektiğini söyleyen bir edebiyatçısınız. Yapay zekâ ise yazarı ortadan kaldırıyor. Kendinizi tehdit altında hissediyor musunuz?
Hayır, tehdit altında hissetmiyorum çünkü yapay zekâ dediğimiz şey şimdiye dek yazılmış tüm romanların verilerine sahip. Hikâyesi, kurgusu, dil yapısı hepsini yüklüyorlar. Buradan bir algoritma çıkıyor ve yapay zekâ bu sayede eser çıkarabiliyor ama bu bir olur, iki olur. Orijinal fikirler üretilmesi için insan ruhuna ihtiyaç var. Değişen koşullarla birlikte yeni eserler ortaya çıkıyor. Bu veriler olmadan yapay zekânın eser üretmesi imkânsız. Onu çalıştıran şey bizim ürettiklerimiz. Yani bir genelleme yapıyor aslında. Sanat ise genelleme değildir, sanat ayrıntıdır.
Robot Sofia’ya bir algoritma yükleyip tablo yaptırmışlar ve insanlar tabloları çok estetik bulmuş. İnsanın yeteneği ve sanata yatkınlığı noktasıyla, romancının yeteneğine de değinerek sorayım, sizce yapay zekânın yeteneği insana alternatif oluşturabilir mi?
Çizim belki daha kolay olabilir ama romanda giderek birbiriyle aynı şeyler ortaya çıkar. Dolayısıyla sürdürülebilir olacağını düşünmüyorum. Yapay zekâ ancak Hollywood’daki üçüncü sınıf filmler gibi üretimde bulunabilir. İnsanı insan yapan en yüksek etkinlik sanattır. Picasso, Tolstoy, Shakespeare gibi bir üretim yapılabileceğini sanmıyorum. Sanatı değerli kılan biricik olmasıdır. Tolstoy, Kafka, Dickens gibi yazmanın bir anlamı yok. Onları özel kılan kimsenin öyle yazmamış olması, özel olmasıdır.
Sosyal medyada denk geldim: Biri Kuru Otlar Üstüne filmini Mars’ta kurgulamış yapay zekâyla. Sizce sanat, edebiyat hatta dil yapay zekâyla boyunduruk altına alınmaya mı çalışılıyor?
Hayır, bu komplo teorisi olur. Bilgisayar konusunda bilgili ve ilgili insanlar hayatın sırrını çözdüğünü zannediyor. Bu yeni değil, Kant felsefesinde her şeyi akılla çözmeye çalışma vardır. Bunu hayatın kendisi olarak görüyorlar. Sosyal medyada olduğu gibi: İnsanlar yaşamıyorlar, yaşıyor gibi görünüyorlar. İmaj dünyası içerisindeyiz ama hakikat bunun temelinde duruyor ve duracak. Ne sanattır ne sanat değildir tartışmaları doğuyor. Büyük resme bakarsak her dönemin böyle uçuk fikirleri olacaktır. Diğer yandan da yapay zekânın başka alanlarda katkıları vardır, bunu da söylemek lazım. Örneğin sağlık alanı. Çağımız bilinmezlik çağı. Herkes kendi alanında uzmanlaşıyor ve kimse hayatın büyüklüğünü göremiyor. Sanat bunun için var. Tiyatro, sinema, edebiyat bunu göstermek için var. Mağaraya resim yaptığımızdan beri varız. Gelişerek devam edecek sanat. Bu tartışmalar olur ama bilim asla sanatı öldüremez. Bilimin bir zaafı var: Bilim parçalara ayırır; sanat ise bütünleştirir.
Yapay zekâ konusunda bilgi sahibi olan bir kesimin yapay zekâdan korkmadığını ve hemfikir olduğunu görüyorum. Siz yapay zekânın çok büyütülecek bir yanı olmadığını düşünüyorsunuz.
Evet. Yapay zekânın yaptığı bir resmi duvarınıza asabilirsiniz ama yazdığı herhangi bir şeyi Nâzım Hikmet şiiri gibi, Sait Faik öyküsü gibi, Çehov’un bir eseri gibi okuyamazsınız. Olmaz, olamaz. Organik olmaz. Bu konuyla ilgili bir roman yazıldı. Frankestein bir korku romanı gibi adlandırılır ve bu tamamen yanlıştır. Doktor bir canlı yaratır. Sorun bu canlının yaratılmasında değil, sorun yaratıkta da değil. Sorun o canlıyı yaratan insanın buna hazır olmamasında. Yapay zekâyla ilgili asıl sorun insan denen mahlukun teknolojiyle başa çıkabilecek etik değerlere sahip olmaması. Yani insanın ahlaki olarak gelişmemiş olması. Asıl problem burada yatıyor yani insan yarattığı bilimsel teknoloji kadar ruhunu da geliştirebilseydi, burada etik değerlerden bahsediyorum, bugün biz bunları konuşmuyor olurduk. İnsan bunları yaparken etik değerlerde, hayat görüşünde böyle bir ilerleme yapamadı. Bizi kaygılandıran da bu. Söyleşimizin konusu insanın ahlaki olarak noksanlığıdır aslında.
Sizce yapay zekânın yazdığı romanda düşünsel anlamda ne gibi boşluklar oluşur?
Yarattığı ürünün hayattaki karşılığı ne olur, buna bakmak lazım. Biz bir roman yazarız ama hayattaki karşılığı ne olur? Çok okunmasından bahsetmiyorum. Yüzyıllar boyunca okunacak önemli bir şeyi anlatmaktan söz ediyorum. Örneğin Homerus’un Ilyada’sında savaşın yıkıcılığını görüyoruz. Savaş devam ettiği sürece Homeros okunacak. Homeros bunu anlatırken bir şeylerden duyduğu rahatsızlığı anlatır. Yapay zekânın bir şeylerden rahatsızlık duyması için insanın bunu yüklemesi lazım yani “bu kaygı ile bu kitabı yaz” dürtüsünü ona yüklemeniz lazım. Örneğin ben şu anda bir roman yazıyorum ve yazarken bir Başkomiser Nevzat romanı yazayım diye yazmıyorum. Şu anda Türkiye’de uyuşturucu almış başını gidiyor. Çocukların uyuşturucudan öldüğünü, anne babalarını öldürdüklerini görüyorum. Bu beni rahatsız ettiği için bir sanatçı olarak ben bunu yazıyorum ama yapay zekâ böyle düşünmez ki. Yapacağı en iyi şey bir önceki yaptığından daha iyisini ortaya koymak olur. Hiçbir zaman sanatın temel kaygısı olan yazarın derdi, kaygısı, problemi onda olmaz, benimseyemez. Bu yapı sakat doğacaktır. Uçak yapabilirsin ama uçağın sayılabilir hedefi var. Sanatın hedefi yoktur. Bir eseri okurken o eserin okurun dünyasını altüst etmesidir başarı. Bu sayılabilir bir şey değil ki. Yapay zekâ sadece sayılabilir şeyleri yapabilir. Sanat sayılabilir bir şey değil.
AFŞİN KUM, YAZAR
Makinenin duyguları olmaz ama “-mış gibi” yapabilir
"2020’de yayımlanan ikinci romanım Kübra, bir ‘genel’ yapay zekânın, yani belli bir konu üzerine değil algılanabilen doğanın bütünüyle eğitilen bir yapay zekânın insanın kadim tabiatıyla çarpışması üzerine kurulu bir hikâye anlatıyordu. Kitabı yazarken bu teknolojinin hayal olmadığını biliyordum. Ancak ilk versiyonu 2022’de çıkan ve performansıyla dünyayı şaşkına çeviren ChatGPT, geleceğin beklenenden çabuk geleceğini gösterdi. Beni de 2016’da çıkan ve dünya çapında bir salgını anlatan ilk romanım Sıcak Kafa’dan sonra bir kez daha ‘kâhin’ konumuna getirdi.
İnsan zekâsı yetkinliğinde yapay zekâlar uzun süredir kurmacada kendine yer bulmakta. Hatta genellikle bilimkurgunun ilk örneği sayılan Frankenstein dahi bir açıdan yapay zekâ hikâyesidir. Canavarın kendini eğitmesiyle ilgili bölümler, bugünkü yapay zekâların eğitim sürecini andırıyor. Edebiyatın, bu teknolojinin gerçekleşmesine ne kadar katkısı olmuştur bilemiyorum ancak tersi yani yeni teknolojinin kurmacaya el atması şimdiden gündemde. Bilgisayarlar roman yazabilir mi? Yapay zekâ sanat üretebilir mi? Mevcut denemeler, şu an olmasa bile yakın gelecekte, insan elinden çıkma olanlardan ayırt edilemeyecek eserlerin makineler tarafından üretilebileceğinin ipucunu veriyor.
Yine de sanatla yoğun bir ilişki içinde olanların çoğu, bu soruya ‘asla’ demek için büyük bir arzu duyar. Sanat makineleşemeyecek kadar gizemli ve karmaşıkmış gibi gelir.
Bu tartışmada ‘duygu’ kavramı öne çıkar. Yapay zekâ, doğal zekâ seviyesine ulaşsa bile, sanat salt zekâ işi değildir, duygular da önemlidir. Bu, çekici olsa da kendi başına yeterli bir açıklama değil. Bir sanat eserinin insanda bir duygu uyandırmasını bekleriz ama bunu başarmak için bu duyguyu bizzat deneyimlemek gerektiğini söyleyemeyiz. Yazarlar, kendilerini çok farklı insanların yerine koyarak kendi deneyimlemedikleri pek çok şeyi anlatabilirler. Aynı şeyi makinenin yapmasının önünde bir engel yok. Makinenin duyguları olmaz ama ‘-mış gibi’ yapabilir. Bunu ayırt edilemeyecek kadar iyi yapmayı başardığında, ürettiği eseri de gerçek insanlarınkinden ayırt edemeyiz. Yani asıl soru, bunun olup olmayacağı değil, ne zaman olacağı.
Tartışmaya makine açısından bakıldığında, bütün mesele veridir. Yazı, zaten hâlihazırda sayısallaştırılmış bir veridir. Hangi alfabeyle yazılırsa yazılsın, belli sayıda birbirinden ayrı işaretle yazılır. Ara değerler yoktur. Dolayısıyla makine açısından işlemesi kolaydır. Oysa insan zekâsı, daha çok gördükleriyle, duyduklarıyla, hissettikleriyle beslenir. Bilgisayarlar metin işlemede şaşırtıcı başarılar elde etseler de görsel veriyi işleme konusunda insan beyninin çok çok gerisindeler. Hatta ‘duygu’ dediğimiz şey de bir veridir aslında, kendi vücudunuzun deneyimlediğiniz durumlar karşısında hormonlar aracılığıyla beyninize gönderdiği sinyallerdir. Yani bilgisayarlar, makine oldukları için değil, ellerindeki veri ve onu işleme kapasitesi henüz insan beyninin çok gerisinde olduğu için daha uzun bir süre insan sanatçılar yetkinliğinde sanat eserleri üretemeyecekler gibi görünüyor. Ama unutulmaması gerekir ki insan beyninin biyolojik bir sınırı vardır, bilgisayarlarsa teorik olarak sonsuza kadar büyüyebilir.
Elbette, insan beyninin sınırı vardır derken ‘şu an için’ diye eklemeliyiz. Zira teknoloji, insanın biyolojik varlığına da el atmak için avuçlarını ovuşturmakta. Transhümanizm tartışmaları şimdiden kafaları karıştırıyor. İnsanın fiziksel veya zihinsel becerilerini arttıracak mekanik implantlar veya CRISPR benzeri gen düzenleme teknolojileri sayesinde yaratılabilecek ‘üstün’ insanlar, gelecekte gayet mümkün görünüyor.
Yapay zekâ destekli insan zekâsı, her iki zekâ türünün de açıklarını diğeriyle kapatacağı için, her ikisinden de üstün olacaktır. Teknoloji bu seviyeye ulaştığında, etik veya dinsel nedenlerle kendi biyolojik varlığına sadık kalmak isteyenler muhtemelen çıkacaktır ama bunlar, ‘siborglaşan’ komşularından her açıdan o kadar geride kalacaklardır ki bir süre sonra soylarının tükenmesini bekleyebiliriz. Yani aslında, yapay zekâ insan zekâsını aşabilir mi sorusu da bir süre sonra pek bir anlam ifade etmez olacak çünkü ikisi arasındaki ayrım giderek bulanıklaşacak, sonunda insan ve makine birbirlerinden ayırt edilemez hâle gelecek. Dahası, bu kaçınılmaz geleceği engelleyecek hiçbir doğa kuvveti ortalıkta görünmüyor."
