Amazon, Alexa'nın ölü akrabalarınızı taklit etmesini istiyor çünkü bu hiç de ürkütücü değil

Ne bilmek istiyorsun

Amazon’un yıllık makine öğrenimi konferansı, 21 Haziran – 24 Haziran tarihleri arasında Las Vegas’ta gerçekleşiyor.
Şirket kısa süre önce Alexa’nın ölen bir akrabanın sesini taklit ettiğini gösterdi.
Özellik şu anda geliştirme aşamasındadır, ancak Amazon cihazlarda ne zaman kullanılabilir olacağını söylemedi.

Hiç şüphe yok ki Amazon’un Alexa sesli asistanı etkileyici ve oldukça yardımcı olabilir. Ancak yapay zeka gelişmeye devam ettikçe, teknolojinin bizi duraksatabileceği yollara ilişkin örnekler bulmak daha kolay hale geliyor. Amazon’un son Alexa gösterimi tartışmasız bunlardan biri.

Şirket şu anda Makine öğrenimi, Otomasyon, Robotlar ve Uzay (re:MARS) için yıllık konferansına ev sahipliği yapıyor. İkinci gün açılış konuşmasında, Amazon’un Alexa ve AI baş bilimcisi Rohit Prasad, şirketin üzerinde çalıştığı ve “kalıcı sanal ilişkiler sağlayabileceğini” söylediği yeni bir yetenek gösterdi.

Bir çocuğun Alexa konuşmacısına büyükannesinin onlara bir hikaye okumayı bitirip bitiremeyeceğini sorduğu bir video oynuyor. Alexa kabul eder ve çocuğa büyükannesinin sesiyle bir hikaye okumaya başlar. Aşağıdaki videoyu izleyebilirsiniz:

Bu özellik, özellikle bağlamı dışında bazılarına sevimli görünse de, Prasad klibin başında devam eden COVID-19 salgını boyunca kaç kişinin sevdiklerini kaybettiğinden bahsetti. “Yapay zeka, bu kayıp acısını ortadan kaldıramasa da, kesinlikle anılarını kalıcı hale getirebilir.”

Buradaki fikir, Alexa’nın bir dakikadan daha az kayıt kullanarak ölen sevilen birinin sesini taklit edebilmesidir. Çevrimiçi tepkiler, onu bir Black Mirror bölümüyle karşılaştırarak şimdiden “ürkütücü” buldu. Prasad, yapay zekanın “hayallerimizin ve bilim kurgumuzun gerçeğe dönüştüğü” bir noktaya ulaştığını kendisi söylüyor. Bu bilim kurgu filmlerinin çoğu pek iyi bitmiyor.

Ancak tüyler ürpertici faktörün ötesinde, bu özelliğin etik ve güvenlik kaygıları doğururken kötüye kullanılma olasılığı da vardır.

Profesör Tama Leaver, “Ölen insanların verilerini hem bir yandan ürkütücü, hem de son derece etik olmayan bir şekilde kullanma konusunda gerçekten kaygan bir eğim var, çünkü bu izlerin bu şekilde kullanıldığını asla düşünmediler.” Avustralya’daki Curtin Üniversitesi’nde internet eğitimi, Washington Post’a söyledi. Leaver, sevilen birinin sesini kullanıyorsa, bir Amazon ürünüyle konuştuğunuzu potansiyel olarak unutabileceğinizi söylüyor.

Amazon, geliştirmesiyle ilgili pek fazla ayrıntı sağlamadı ve kullanıcıların özelliğin ne zaman kullanıma sunulmasını bekleyebileceğinden bahsetmedi.

Ne yazık ki bu, endişeye neden olan son AI ilerlemelerinin ilk (veya son) örneği değil. Son zamanlarda bir Google çalışanı, şirketin LaMDA yapay zekasının duyarlı olduğunu iddia ederek durumun gerçekten böyle olup olmadığına dair spekülasyonlara kapı açtı. Elbette, Google’ın yapay zekası bilinçli değildir; bunun yerine, başkalarını gerçek bir insan olduğuna ikna etmek için mükemmel bir iş çıkarır.