Bir Google mühendisi olan Blake Lemoine, Google’ın çığır açan yapay zeka sohbet robotu LaMDA’nın gerçek bir bilince sahip duyarlı bir makine olduğu yönündeki düşüncelerini kamuoyuna açıkladıktan sonra maaşıyla askıya alındı.
Lemoine, modelle çalıştıktan ve onu yapay zekanın bir “ruhu” olduğuna ve fizik bilgisine sahip bir çocuğa benzediğine inandıran derin düşünceli konuşmalar yaptıktan sonra bu sonuca vardı.
İlginç ve muhtemelen gerekli bir konuşma. Google ve diğer AI araştırma şirketleri, LLM (geniş dil modeli) sinir ağlarını, genellikle muhteşem sonuçlarla, gerçek bir insan gibi ses çıkaracak şekilde kullandılar.
Ama sonunda, algoritma tam olarak yapmaya programlandığı şeyi yapıyor – bizi gerçek bir insanla konuştuğumuzu düşünmemiz için kandırıyor.
LaMDA nedir?
(İmaj kredisi: Android Central)
LaMDA ve diğer büyük ölçekli AI “sohbet botları”, Alexa veya Google Assistant gibi bir şeyin uzantısıdır. Bir tür girdi sağlarsınız ve karmaşık bir bilgisayar algoritmaları seti, hesaplanmış bir çıktıyla yanıt verir.
LaMDA’yı (Diyalog Uygulamaları için Dil Modeli) farklı kılan ölçeğidir. Tipik olarak bir yapay zeka, kendisine sunulanları çok küçük parçalar halinde analiz eder ve nasıl yanıt vereceğini bilmek için anahtar sözcükleri veya yazım ve dilbilgisi hatalarını arar.
LaMDA, LLM olarak bilinen şeydir. Büyük bir dil modeli, yalnızca doğru değil, aynı zamanda başka bir kişi gibi ses çıkaran yanıtlar üretmeyi öğretmek için inanılmaz miktarda metinle beslenen bilgisayarlardan oluşan bir tür sinir ağına verilen addır.
LaMDA, ölçeği nedeniyle göz alıcıdır.
LaMDA’nın çığır açan buluşu, Google’ın çıktıyı hassaslaştırabilmesi ve bir kişinin gerçekte konuşma biçimine işitsel olarak benzer olması için ince ayar yapabilmesiydi. Örneğin, hepimiz duyduk “Tamam, yatak odasının ışığını açıyorum ” veya favori akıllı ampullerimizi kullanırsak Google Asistan’dan benzer bir şey.
LaMDA bunun yerine ” gibi bir şeyle yanıt verebilir.Tamam, burası oldukça karanlık, değil mi? ” Bu kulağa küçük bir kutu devreden çok bir insanla konuşuyormuşsunuz gibi geliyor.
Bunu sadece kelimeleri değil, tüm dil bloklarını analiz ederek yapar. Yeterli bellekle, birden çok paragrafın girdi değerindeki yanıtlarını tutabilir ve hangisinin kullanılacağını ve yanıtın nasıl samimi ve insani görünmesini sağlayacağını sıralayabilir.
Ölçek, denklemin büyük bir parçası/ Can sıkıcı bir yazım hatam var. Her zaman make: “isn’t” yerine “isn;t” yapın. Chrome’un yazım denetimi veya Dilbilgisi gibi basit algoritmalar hatamı tanıyabilir ve düzeltmemi söyleyebilir.
Bunun yerine LaMDA gibi bir şey tüm paragrafı değerlendirebilir ve söylediğim şeyler hakkında ne düşündüğünü bana bildirebilir. Ve yazımımı düzelt. Bunun için tasarlandı.
Ama gerçekten duyarlı mı ve asıl sorun bu mu?
(İmaj kredisi: Jerry Hildenbrand)
Lemoine kesinlikle LaMDA’nın yaşayan, nefes alan bir şey olduğuna inanıyor. Zihinsel durumu veya yaşam tarzının ne kadar tuhaf olabileceği hakkında yeterince şey söylendi, bu yüzden adamın LaMDA’nın gerçek duyguları olduğuna inandığı ve düşüncelerini halka açıkladığında nezaketen hareket ettiği dışında hiçbir şey söylemeyeceğim. Google, elbette, farklı hissetti.
Ama hayır, LaMDA’nın veya herhangi bir LLM sinir ağının duyarlı olduğunu veya en azından bugünün teknolojisiyle olabileceğini düşünmüyorum. Asla asla dememeyi uzun zaman önce öğrendim. Şu anda, LaMDA yalnızca programlandığı şekilde yanıt veriyor ve bir kişinin yaptığı gibi ne söylediğini anlaması gerekmiyor.
Tıpkı senin ya da benim bir bulmaca ipucunu doldurmamız ve kelimenin ne anlama geldiğini ve hatta ne olduğunu bile bilmememiz gibi. Biz sadece kuralları ve nereye ve nasıl uyması gerektiğini biliyoruz.
4 harf — isim. Sert bir saç veya kıl. (Bu Seta ama SEGA’yı 10 kez denedim).
Akıllı makinelerin yükselip tüm insanları öldürmeye çalışacağı güne yakın olmamamız, endişelenmememiz gerektiği anlamına gelmez. Bilgisayarlara daha insani ses çıkarmayı öğretmek gerçekten iyi bir şey değil.
Bunun nedeni, bir bilgisayarın – yine – yalnızca yanıt vermeye programlandığı şekilde yanıt verebilmesidir. Bu programlama her zaman toplumun yararına olmayabilir. AI’nın önyargılı olduğuna dair endişeler görüyoruz çünkü programlamayı yapan insanlar çoğunlukla yirmili yaşlarındaki varlıklı erkekler. Yaşam deneyimlerinin bir yapay zekanın karar verme sürecini etkilemesi doğaldır.
Bunu bir adım daha ileri götürün ve gerçekten kötü niyetli birinin programlayabileceği şeyleri düşünün. Ardından, sesin bir makineden değil de bir insandan geliyormuş gibi ses çıkarabilme yeteneğine sahip olabileceklerini düşünün. Bir bilgisayar fiziksel dünyada kötü şeyler yapamayabilir ama insanları bunları yapmaya ikna edebilir.
LaMDA inanılmaz ve onun gibi sistemler tasarlayan insanlar geleceği etkileyecek harika işler yapıyorlar. Ama çok fazla 420 seanstan sonra arkadaşınız gibi görünse ve hayat, evren ve her şey hakkında konuşmaya başlasalar bile, yine de sadece bir bilgisayar.
