Malumunuz çeşitli çeşitli sensör, kamera ve algoritmalarla tüm davranışlarımız izlenip bu davranışlarımız üzerinden analizler yapılabilmekte yıllardır. Özellikle internet çağında bu izleme-dinleme faaliyetleri başka bir boyuta geçerken hepimiz dijital gözetimle tanışmış olduk. Çok uzak örneklere gerek yok. Arkadaşınızla olan sağlıklı beslenme üzerine yaptığınız, örneğin prebiyotiğin hazım üzerine etkileri üzerine sohbetiniz sonrasında, hemen ertesi gün gün, hatta birkaç saat içinde, telefonunuzda kullandığınız bir uygulamada karşınıza kefir reklamı çıkması artık kimilerini şaşırtmıyor olsa gerek. Hatta büyük teknoloji devlerinin geliştirdiği uygulamalarda vakit geçirdikçe ciddi anlamda geleceğe yönelik öngörülerde isabet daha da artıyor. Bunu yapabilen uygulamaların bizi ne kadar rahat manipüle de edebileceğini düşünmenizi istiyorum. Çoğumuzun buna benzer tanıklıkları var. Sosyal medya uygulamalarının bilerek ya da bilmeyerek izin verdiğimiz izleme faaliyetlerinden sadece birisi pasif dinleme özelliği. Bu süreçte cihazlarımızın mikrofonları sürekli açık hâlde kalıyor. Bir bir çoğumuz için korkutucuyken bir çoğumuz için ise pek önemsemediğimiz ve alışılmış bir detaydan öteye gidemiyor bu durum. Sosyal medya platformunu verilerimizi kullanırken ve iliğimizi kemiğimizi sömürecek kadar verilerimizi de bu şirketlerin toplayıp sonsuza kadar kullanmalarına izin vermeye devam ediyoruz. Bu şirketler bu verileri sadece uygulamaları daha da çıkarlarına yönelik geliştirmek için kullanmıyorlar, ayrıca defalarca ve defalarca kez reklam veren şirketlere veriyorlar. Eğer reklamınızı doğru zamanda doğru kişiye ulaştırmak istiyorsanız bana güvenin diyor. Görüldüğü üzere sağlıklı beslenme üzerine sohbet ederken kullandığınız anahtar sözcükler üzerinden sizi dinleyen cihazınızdaki uygulama, sonrasında reklam verenin ürününü siz internette gezinirken gözünüzün içine sokacak şekilde de yerleştiriyor.
Bu maalesef günümüzün gerçeği. Bunun getirdiği güncelik ve toplumsal değişimleri de daha hisseder hâle geldik. Yeni medya ve üretkenlik uygulamaları son dönemde, siz bize daha iyi hizmet olarak algılayın, ben bizi daha rahat manipüle edecek diyeyim, vites artıran bir sürece doğru ilerlemekte.
Duygularımız izleniyor
Duygu tanıma teknolojileri her geçen gün bir çok platformda daha çok kullanılmaya başladı. Duygu tanıma teknolojileri odaklı sistemler, insan duygularının kendisi ve insanın bu duyguları dışsal olarak ifade etmeleri arasında ilişkileri tasnif ederek bu verileri anlamlı bir şekilde yönetme süreçlerinden oluşuyor. Ses veya video kayıtları ya da anlık izleme teknolojileriyle bu veriler toplanıyor. Sonrasında bu veriler çeşitli algoritmalarla amaca bağlı olarak kullanılıyor. Sistem kabaca bu.
Örneğin bazı mağazalarda optik tanıma sistemleri ile müşterilerin hareketlerini, hangi reyonda ne kadar durduklarını analiz edebiliyor. Bu analizler sonucunda pazarlama stratejileri geliştirebiliyor, hatta kameraların optik tanımlama sistemleri sayesinde, müşterilerin yüz ifadeleri de değerlendirilebiliyordu. Hatta çoğunuz fark etmiştir, yürürken önümüzü kesmesiyle meşhur reklam panelleri bir hayli kalınlaştı değil mi? Dikkat ederseniz köşelerinde kocaman siyah çukurlar var. Çoğunda kamera bulunuyor bu panellerin. Mağazalardaki işlevi görüyorlar işte.
Duygularımız ve kimliğimiz taklit ediliyor
Görsel türetme odaklı bir makine öğrenme tekniği olan ‘çekişmeli üretici ağ‘ın (GAN: Generative Adversarial Networks) ve yapay sinir ağları sentezleme teknolojileriyle ses ve video görüntülerimiz rahatlıkla istenildiği şekilde yeniden üretilip paylaşılabilen bir döneme girmiş durumdayız. Bu teknolojilerin uygulandığı ses kliplerine ve videoloara kabaca deep-fake deniyor. 2017’nin sonunda “Sahte Obama: Distopya mı, kolaylık mı?” adlı makalemde bu konuyla ilgili bir hâyli ilginç bir yönden dikkat çekmeye çalışmıştım. Washington Üniversitesi’ndeki bilim insanları o dönemde eski ABD Başkanı’nın yayınlanmış konuşmaları ve ses kayıtlarından örnekler seçerek yapay sinir ağları kullanarak Obama’nın birebir ağız yapısını modellediler. Ardından da bu modeli Obama’nın yüzüne haritalandırdılar. 14 saatlik bir çalışmayla neredeyse gerçeğinden ayırmak imkânsız olan sahte bir başkanın konuşmasını izlemiştik. Şöyle bir not düşmüştüm. “Üst düzey bir siyasetçinin ve devlet görevlisinin bile bu kadar kusursuz taklidinin olması, özellikle toplumsal olaylarda yaşanabilecek manipülasyonun öngörülemez boyutlarını düşündürtüyor”. Bu teknoloji artık basit mobil uygulamalarla bile kullanılabilinirken sosyal ve kültürel hayatımıza da girmiş durumda. Film endüstrisi de bu gelişmelerden bir hâylice faydalanıyor. Türkiye’de belki bu teknolojiyle çekilen bir reklam filmiyle en geniş kesimlere bu teknolojiyle neler yapılabileceği tekrar gösterildi. Bir banka yıldönümü vesilesiyle çektiği reklam filminde Kemal Sunal’ı deep-fake teknolojisiyle tekrar canlandırarak filminde oynattı.
Ve duygularımızla oynama dönemi başlıyor
İnsanların davranışları, örneğin birbirine sarılması, sigara içmesi, kavga etmesi veya içki içmesi gibi belirli olayları tespit eden, insanın veya özellikle takip edilen bireyin eğer gündelik hayatının akışına uygun olmayan “anormallikleri” otomatik olarak tespit eden yapay zeka destekli yazılımlarla çalışan kameraları bir düşünün. Bu teknolojiler yanlış yöne giden bir arabayı hemen tespit edip, bunu şüpheli bulup ilgili birimlere ilettiğini düşünün. Belirli saatlerde ıssız olan bir sokakta, tam da o saatlerde birinin dolaşmasını ve bunun gibi olağan akıştan sapan olayların analiz edilerek bir yerlerde depolanıp veya iletilmesini hâyal edin. Dünya nereye gidiyor di mi? Ders dinlerken öğrencilerin dersten verim alıp almadığını yüz ifadelerinden anlayan ve bunu okul müdürüne raporlanmasının yapıldığını bir dönemdeyiz. Evet, kameraların başında insanlar değil, yapay zeka destekli yazılımlar mikrofon ve kameralarla bunları tespit edip analizlerini gerçekleştiriyor. Yok artık daha neler diyenler için başka bir örnek vereyim. Associated Press‘in haberine göre, Çin makamları sokaklarda kitlesel gözetleme için bir çeşit “yürüyüş tanıma” yazılımı kullanılıyor. Bu yazılımda insanları vücut şekilleri ve yürüyüş biçimleriyle tanımlayan bir yapay zeka kullanılıyor. Yani artık sadece izleme yapılmıyor, yürüyüş şeklininiz kimliğinizin bir parçası ve yapay zeka destekli gözetim teknolojileri milyarlarca insandan sizi ayırt edebilecek kapasitede.
Teknoloji şirketleri pandoranın kutusu açan patentleri bu aralar toplamaya devam ediyor. Bu şirketlerden biri Facebook. 2018’yılında yazdığım “Facebook’un patent başvuruları: Her şeyimizi izlemeye and içmişler” adlı makalede, şirketin birçok patent başvurusunda bulunduğunu hatta göz bebeği ve korneaya özel kızılötesi LED’ler yönelterek göz hareketlerinizi bile takip etmek istediğini yazmıştım. Şirket, göz hareketlerini izleme kontrolü sistemleri ve yöntemleri üzerine çalışıyordu o zamanlar.
Duygularımızı “tamamen duygusal” bir ilgiyle takip eden bir diğer şirkette bir çoğumuzun kullandığı müzik akış uygulaması Spotify. Şirket sunduğu müziği “daha iyi bir şekilde iyileştirmek için” kullanıcıların konuşmalarını ve arka plan gürültüsünü analiz etmeyi amaçlayan bir teknoloji patenti aldı. Patent başvurusuna göre şirket, “konuşmacının duygusal durumunun tespit edilmesine ve kategorize edilmesine” izin verecek “tonlama, vurgu, ritim ve benzeri konuşma birimlerini” tespit eden bir teknoloji geliştiriyor. Tabii bir kullanıcının dinleme geçmişinden ve geçmiş isteklerinden gelen diğer verilerle de bu bilgileri birleştirilecek. Böylece şirketin platformu üzerinden müzik dinlerken çalma sırasına duygu durumumuza en uygun müzik parçası otomatikman eklenmiş olacak ya da önerilecek. Duygusal durumlarımızı ses tonuyla tanımayı amaçlayan teknolojiyi giderek daha fazla araştırılmakta. Örneğin Amazon’un Halo ürününün fitness uygulaması, tüm yaşamsal aktivitelerinizi izlerken ayrıca ses tonunuzu analiz ederek size duygu durumu bildirimi yapıyor ve yapmanız gereken şeyleri öneriyor. Bununla ilgili GQ yazarının deneyimlerini paylaştığı yazıda tüm bu sürecin ne kadar korkutucu olduğunu belirtmesiyle durumu öğrenmiş oldum.
Teknoloji şirketlerinin kar maksimizasyonu için bizden talep ettiği veriler ve bu verileri devretmek için bizden aldığı rızalar arttıkça kullandığımız yazılımların gelişimi için çalışan ve bu yazılımları üreten şirketlerin her geçen gün daha fazla köleleri olmaya başladığımızı hissediyor, gündelik hayatımızın ve ilişkilerimizin ise daha da sıradanlaştığını, mekanikleşmeye başladığını düşünüyorum. Bu gidişat hayra alamet değil sayın okur.
Bu yazı ilk olarak bu link üzerinde Reportare‘de yayımlanmıştır.
