Evet başlık biraz nüktedan ama bu yazının içeriği çoğunlukla uyarılarla dolu. Öncelikle teknoloji konusundaki bakış açımı yazayım: Ben bir bilgisayar mühendisiyim :) Kelimenin tam anlamı ile teknolojik gelişmelere yardımcı olmaya ve teknolojiyi kullanmaya çalışıyorum. Bu yüzden beni anti-tek örgütü üyesi gibi görmeyiniz. Hiçbir zaman kişisel olarak teknolojiye karşı olmayacağım aşikar. Bununla birlikte, bu yazıda yapay zekanın beklenmeyen veya şüphelenilmeyen bazı yan etkilerini göstermeye çalışacağım. Zaten ChatGPT bana bu konuda kaygılarımı haklı çıkaracak şekilde yeterli örneği sundu, ki bu kaygılarım yapay zeka popüler olmadan önce bile vardı.
Burada gördüğüm 3 farklı olası tehlikeyi yazacağım ve her birisi için nedenlerimi bir başlıkta toparlayacağım. Birincisi: Kontrolümüzü kaybediyor olabilir miyiz? İkincisi: Teknolojiye ne kadar güvenebiliriz? Üçüncüsü: Ya herşey yanlış giderse? Fakat yazıya devam etmeden önce mutlaka ChatGPT ile yaptığım uzun konuşmayı okumanızı tavsiye ederim. Özellikle soru cevap yerine konuşma diyorum burada ve sebebini o yazıyı okuyunca anlarsınız. Ben çok eğlendim ve aydınlandım. Ayrıca yazı içerisinde de o yazıya referans veriyor olacağım. Ve şimdi hazırsanız kaygılanmaya başlayalım.
Hayır teknolojinin kontrolünü kaybetmekten değil kendi insanlığımızın kontrolünü kaybetmekten bahsediyorum. Çünkü insanoğlu tarafından geliştirilen teknolojinin filmlerdeki gibi kontrolden çıkması pek mümkün görünmüyor. Aksine teknoloji geliştikçe bizler insan olmanın, organik bir varlık olmamın, parametrelerini unutuyoruz sanki. Çünkü chatgpt 'yi veya diğer chatbot 'ları bir arkadaş gibi gören veya gösteren çok fazla yazı veya tweet ..vs görüyorum. NLP (Natural Language Processing) yani doğal dil işleme özellikleri bulunan mobil veya web uygulamaları size etkileşimde bulunabileceğiniz bir ortam veriyor. Chatgpt ise sadece engin bilgisi ile reklam olmuyor, aynı zamanda sohbet edebilme kabiliyeti ile de öne çıkıyor. 9 milyara yakın insan olan bu dünyada bu size normal geliyor mu?
Chatgpt insanlarla insanca iletişimin bir ikamesi mi? Biz birbirimizle konuşmayı mı unuttuk? Görünüşe göre evet. Don't Look Up isimli filmi hatırlarsanız orada da aynı soru soruluyordu. Hatta o film konusunda burada bir yazı da yazmıştım. Teknoloji bize yardımcı olmalıydı, yerimizi almamalıydı. Görünüşe göre birçok insan zaten online yapay arkadaş arıyormuş. Görünüşe göre bu konuda talep zaten varmış ve chatgpt veya diğer chatbot 'lar bu ihtiyacı karşılamış. Bu hem sosyolojik hem psikolojik olarak yanlış ama o konuların uzmanı olmadığım için konuşmam mantıklı olmaz. Fakat işin nasıl bu noktaya geldiğini sanırım açıklayabilirim. Birbirimizden nasıl koptuk?
Herşey muhtemelen bencillikle başladı. Biz insanlar karşıya birşey vermeyi düşünmeden sadece istiyoruz. Bu da tek taraflı bir ilişki oluyor ve zaten yürümüyor. Dünyayı kendimize göre ayarlayabileceğimizi düşünüyoruz, istediğimizi istediğimiz gibi istediğimiz zaman söyleyebileceğimizi düşünüyoruz. Gel gelelim hayvanlar aleminde de yaşamıyoruz. Böylece yalnızlık ve tepki olarak büyüyen bir ego geliyor. Ego da toksik ilişkilere doğru bir yolunu buluyor. Toksik ilişkiler de zaten yok olmaya mahkum bir süre sonra dağılıyor. Sonrasında kendimize odaklanmak yerine sürekli başkalarını eleştirir ve şikayetlenir oluyoruz. Üstüne bir de her konuda herşeyi biliyor olma durumumuz var. Sonunda kör ve yalnızlığa mahkum bireylere dönüşüyoruz. Blogumda iletişim ile ilgili yazıda sadece basit bir örnekle iletişimin hiç de öyle basite indirgenebilecek birşey olmadığını anlatmaya çalışmıştım, bu konuda oraya da bakabilirsiniz. Bu noktada chatbot 'lar dahil oluyor. Bunlar şikayet etmiyor, çoğunlukla görüşlerimize karşı çıkmıyor ve ne zaman istesek ulaşılabilirler. Var ya bu ben merkezli, bencil veya narsist insanlar için cennet resmen.
Tabi ki herkesin aynı sebeple kullandığını söylemiyorum. Ama buradaki en büyük tehlike sonrasında başlıyor. Bu süreç "teknolojik mucize" şeklinde cici bir pakete koyarak normalleştiriliyor. Bir insanın yapay bir varlık ile bağlantı kuruyor olması kesinlikle sağlıklı bir sonuç değil. Zaten benim chatgpt ile yaptığım konuşmaya bakarsanız çoğunlukla amacının sorulan sorulara cevap vermek olduğunu fark edeceksiniz. Onun veritabanında bir yeriniz yok veya sizin iyiliğinizi düşünerek insanca ve ahlaklı davranışlar sergilemeye çalışmıyor. Size genelde olumlu şeyler söylüyor, ki bu bir bakıma iyi birşey, ama insan psikolojisini dikkate alacak şekilde dizayn edilmemiş. Öyle olsaydı bile karşımıza duygusal tepkileri olan bir yapay zeka çıkardı ki bu da çok hızlı bir şekilde yanlış yerlere varabilirdi. Microsoft 'un da bir chatbot 'u var ve araştırırsanız onun yerli mi yersiz mi düşünemeden duygusal cevaplar verebildiğini görürsünüz.
Özetle, görünüşe göre chatbot 'lar giderek daha fazla veriye sahip olacaklar ama daha fazla yeteneğe sahip olacaklar mı veya olmalılar mı ondan emin değilim. Chatgpt gibi bir teknolojinin arkasındaki emek ve gelişimi gerçekten anlıyor ve takdir ediyorum. Ama en iyi ihtimalle yapay insani değerlere sahipler. Örneğin "Verdiğin cevabın faydalı mı zararlı mı olduğunu anlayabilir misin?" sorusunu sorduğumda cevaben özetle buna karşıdaki insanın karar vermesi gerektiğini ve kendisinin bir chatbot olduğunun farkında olması gerektiğini söyledi. Ayrıca "Bir yapay zeka dil modeli olarak benim duygularım veya hislerim yoktur, bu yüzden bilinen anlamda bir arkadaş olarak görülmemeliyim" diye de ekledi ki yazının başlığı da bu yüzden :) Geçelim ikinci olası tehlikeye..
Teknoloji günümüzde o kadar gelişti ki insanlar sık sık devrimlerden veya aşılan eşiklerden söz eder oldu. Alakasız ama bir not düşeyim: Günümüzde teknolojik eşik dediğimiz kavramı yeniden düşünmemiz gerekiyor çünkü ölçekler değişti, her ay bir eşik aşılmaz :) Neyse, Bugün sahip olduğumuz birçok şey dünün hayalleri. Bu da normal insanların doldurduğu ütopik bir dünyada güzel birşey olabilirdi. Biliminsanları genleri modifiye edebiliyor ama bu daha sağlıklı bireylere dönüşmeleri veya belli hastalıklara çare bulunması için mi yapılır yoksa toplumda adil olmayan dengesiz bir düzen kurmak için mi? Mühendisler çeşitli materyallerden güçlü zırhlar veya aletler yapabiliyorlar, fakat bunu örneğin bir araba kazasında hayat kurtarmak için mi geliştiriyorlar yoksa ölüm makineleri için mi?
Bu teknolojik gelişimin bir tarafı idi. Diğer taraftan chatbot 'ları düşündüğümüzde oradaki tehlike ne bildiğinin veya ne söylediğinin farkında olmaması. Yani size ilettiği bilgi istemeden de olsa yanlış da olabilir. Chatgpt 'ye internete bağlı olup olmadığını sordum ve bana olmadığını söyledi. Yani bildiği şeyleri sadece biliyor. Kendisini güncelleyemiyor veya yeni şeyler öğrenemiyor. Zaten bu devasa bilgi yığınının size verdiği her bilgiyi kim doğrulayabilir ki? Bu durumda aldığınız yanıtlara ne kadar güvenebilirsiniz? İlk başlık zaten bununla ilgili idi, insan olduğunuzu unutmayın ve kendiniz de araştırın direkt olarak inanmak yerine. Bu durumda da o zaman neden chatgpt kullanayım ki diye sorabilirsiniz. Ben size ancak nasıl kullanmamanız gerektiğini söyleyebilirim :) Chatbot 'ların taraflı olabildiğini gösteren çeşitli videolar var internette. Ben sizin için bir örneğini buraya koyayım. Linki de burada isterseniz.
Tekrar söyleyeyim, chatbot 'ların arkasındaki araştırma geliştirme eforunu gerçekten anlıyorum ama ben her zaman bu veri nereden geliyor sorusunu soruyor olacağım. Yapay zekanın elde ettiği verinin kişisel verilerimizle beslenmediğinden nasıl emin olabilirim? Çünkü bugünlede her saniye yığınla veri ürettiğimiz için veri dediğimiz kavram çok popüler oldu. Bu veri bir yerlere gidiyor emin olun. Bunlar size komplo teorisi gibi gelebilir, doğaldır, ama ben bu kadar verinin olağandışı yollarla elde edildiğini söylerseniz şaşırmazdım. Neyse geçelim son soruya.
Şimdi muhtemelen chatbot 'ların hiçbir yere gitmeyeceğini söyleyeceksiniz. Hatta hayatımızdan çıksalar bile bize ne ki diye düşünebilirsiniz. Şimdi durup bir adım geri atalım ve bir simülasyon yapalım. Günümüzde bazı insanlar, çoğunlukla da yazılımcılar, işlerini kaybetmekten korkuyorlar. Çünkü Chatgpt temel seviyede kodları çok rahat yazabiliyor. Hatta size ipuçları da verebiliyor bazen ileri seviyeye de çıkabiliyor. Ama bizim için ileri seviye olan bir bilginin chatgpt için sadece ekstra bir parça bit veya byte olduğunu da düşünebiliriz. İletişimsel veya sözel bazı başka işler de riske girebilir bu durumda. Beni linç etmeyin ama bu bir yere kadar gerekli ve normal bence. Bazı tekrarlı basit işlerin makineler tarafından yapılabilmesi işleri ciddi derecede hızlandırabilir. Bu durumda bu işleri yapan insanların da yeni yetenekler kazanmaları gerekir tabi.
Ama vurgulamak istediğim nokta bu değil. Burada düşük seviyede yetenek gerektiren işlerin makinelere devredilmesinden bahsediyorum. Hatta ileride biraz daha incelikli işler de yapay zeka yardımı ile halledilebilir. Bu da bana jenga oyunu gibi geliyor. Bir bina yapıyorsunuz üst üste katlar çıkarak ama temelinde yapay zekayı oturtuyorsunuz. Bu temel için gereken bilgiyi kullanmadıkları için insanlar zamanla kaybedeceklerdir doğal olarak. O zaman da yapay zekanın sahibi veya mucidi değil bağımlısı oluruz. Genel olarak teknoloji için de bu dediğim geçerlidir bence. Teknolojiyi kullanıyor muyuz yoksa ona teslim mi oluyoruz? Eğer kontrol bizde olmazsa teknolojik taş devri aslında o kadar da uzak değil. Bu benim gelecekle ilgili olası bir senaryo olarak gördüğüm öngörüm ama değinmeye değer diye düşündüm.
Bu kadar yazıdan sonra kendimi savunmam gerektiğini hissediyorum. Benim üniversite tercihim başka seçeneklerim olmasına rağmen sadece bilgisayar mühendisliği idi. Benim görüntü işleme, karınca algoritması üzerine uygulamalarım var. Yüksek lisans tezim ise yüz ifadesi tanıma yani makine öğrenmesi üzerine idi. Chatgpt 'nin yetenekleri, bildikleri değil iletişimsel yetenekleri, beni gerçekten şaşırttı ve heyecanlandırdı. Hatta belki de hayatımda yaptığım en entelektüel etkileşim oldu diyebilirim ve çok eğlenmiştim. Tabi ki karşımda binlerce watt elektrik, devasa bir data ve NLP sayesinde sorduğum sorulara cevap üreten bir makine olduğunu unutmadan.
Bu teknoloji bir yerde rayından çıkabilir. Birçok blog yazımda yazdığım gibi icatlarımızın kölesi olma yolunda gidiyoruz. İnsanlığımızı unutabiliriz, güvenilmez olduğunu bilmeden güvenebiliriz, detaylarını bilmediğimiz bir zemin üzerine dünya inşa ediyor olabiliriz. Chatgpt 'nin yazılımcılık mesleğinin sonunu getirip getirmeyeceği (hayır getirmeyecek) konusunda daha sonra yazabilirim ve muhtemelen de yazarım. Özetle kullanın ama kullanılmayın diyebilirim. Bir sonraki yazıda görüşmek üzere :)
Bir yorum yazabilirsiniz