Google çok aptalca şeyler yapıyor. Bütün dev şirketler bu konuda aynı. Ama gerçekten korkunç bir şey yapmak özel bir çaba gerektirir. Google’ın Project Nimbus’unun spektruma girdiği yer burasıdır.
Project Nimbus, Google, Amazon ve İsrail hükümetinin, gelişmiş makine öğrenimi modellerinin kullanımı yoluyla fütürist gözetleme yetenekleri sağlayan ortak bir çabasıdır. Beğenin ya da beğenmeyin, bu, devlet güvenliğinin geleceğinin bir parçası ve diğer birçok benzer projeden daha korkunç değil. Hatta birçoğumuz evimizin içinde ve çevresinde benzer teknolojiler kullanıyoruz.
(İmaj kredisi: Chris Wedel/Android Central)
İşlerin karanlık ve çirkin hale geldiği noktada, Google, Project Nimbus’un şirketin teknolojisini kullanan yetenekleri hakkında şunları söylüyor:
Nimbus eğitim belgeleri, “Google’ın Cloud Vision API’sinin ‘yüzler, mimik işaretleri, duygular’ algılama yeteneklerini” vurgular ve bir Nimbus eğitim web seminerinde, bir Google mühendisi İsrailli bir müşteri için “Nimbus aracılığıyla veri işlemenin” mümkün olacağını doğruladı. birinin yalan söyleyip söylemediğini anlamak için”.
Evet, bize son derece kötü YouTube algoritmalarını veren şirket, şimdi birinin polise yalan söyleyip söylemediğini belirlemek için algoritmalar satmak istiyor. Bu, Microsoft’un terk ettiği bir bilim dalıdır. (yeni sekmede açılır) doğuştan getirdiği sorunlar nedeniyle.
Ne yazık ki Google, şirkette kendisine karşı çıkan insanlara karşı misillemede bulunacak kadar aynı fikirde değil.
Bu tür bir teknolojiyi herhangi bir ölçekte herhangi bir hükümete sağlamak için iyi bir neden yoktur.
Burada oynanan siyasete fazla girmeyeceğim, ancak tüm proje, İsrail hükümetinin yaptıklarını gizleyebilmesi için tasarlandı. The Intercept’e göre Google Enterprise’ın eski Güvenlik başkanı Jack Poulson’a göre, Nimbus Projesi’nin ana hedeflerinden biri “Alman hükümetinin Uluslararası Ceza Mahkemesi için İsrail Savunma Kuvvetleri ile ilgili verileri talep etmesini engellemek”. (Bazılarının yasalara ilişkin yorumlarına göre, İsrail’in Filistinlilere karşı insanlığa karşı suçlar işlediği söyleniyor.)
Gerçekten de, İsrail ile Filistin arasındaki çatışma hakkında ne düşündüğünüzün bir önemi yok. Bu tür bir teknolojiyi herhangi bir ölçekte herhangi bir hükümete sağlamak için iyi bir neden yoktur. Bunu yapmak, Google’ı fenalık .
Google’ın Cloud Vision API’si her zaman %100 doğru olsa bile, Nimbus’un sözde yetenekleri korkutucu. Sizi suçlayıp tutuklamamaya karar vermek için AI kullanan polis vücut kameralarını hayal edin. Yine de makine öğrenimi görüntü sistemlerinin işleri ne sıklıkta yanlış yaptığını düşündüğünüzde her şey korkunç bir hal alıyor.
Bu sadece bir Google sorunu değil. Tek yapılması gereken YouTube, Facebook veya Twitter’da içerik denetlemeye bakmak. İlk işin %90’ı, çok sık yanlış kararlar veren denetleme algoritmaları kullanan bilgisayarlar tarafından yapılır. Nimbus Projesi, alaycı yorumunuzu silmekle kalmaz, hayatınıza mal olabilir.
(İmaj kredisi: Jerry Hildenbrand)
Hiçbir şirketin, teknoloji asla yanlış olmadığı ve asla olmayacağı bir duruma gelene kadar bu tür bir yapay zeka sağlama işi yoktur.
Bak, ben de herkes gibi kötü adamları bulup onlar hakkında bir şeyler yapmaktan yanayım. İster yerel bir polis teşkilatı ister IDF olsun, kolluk kuvvetlerinin gerekli bir kötülük olduğunu anlıyorum. Bunu yapmak için AI kullanmak bir gereksiz fenalık.
Google’ın sadece sevdiğiniz telefonlara güç sağlayan yazılımı yazmaya devam etmesi ve dallanmaya çalışmaması gerektiğini söylemiyorum. Sadece bir doğru ve bir yanlış yol olduğunu söylüyorum — Google burada yanlış yolu seçti ve şimdi sıkıştı çünkü anlaşmanın şartları Google’ın katılımını durdurmasına izin vermiyor.
Kendi fikirlerinizi oluşturmalı ve internette sabun kutusu olan birini asla dinlememelisiniz. Ama “Kötülük Etme” ilkesiyle kurulmuş bir şirket tam tersine dönüp bizi uyardığı kötülüğe dönüştüğünde de bilgi sahibi olunmalıdır.
