Yapay zekayla birlikte, toplu gözetim uygulamaları, veri gözetimi (dataveillance) ile doruğuna ulaşmış durumda. Yapay zekanın bir başka kullanım alanı, çalışanları, yurttaşları ve tüketicileri gözetleme biçiminde. İşveren bunu verimi arttırmakla, devlet, kamu güvenliğiyle, şirketler, kazançlarını ençoklama güdüsüyle gerekçelendirecek. Yapay zekanın var olan demokrasiyi ya da demokrasi kırıntılarını aşındırma olasılığı bulunuyor (Feldstein, 2019). Yapay zeka, demokrasi güçlerinin yokluğunda ya da zayıflığında, egemen sınıflar için daha fazla özgürlük, ezilenler için daha fazla insan hakları ihlali getirecek.
Prangalı Çalışma
Mavi yakalı işlerde gün geçtikçe, giyilebilir teknolojiler yoluyla daha fazla denetim ve gözetim geliyor (Moro ve ark., 2019). Bu teknolojilerin elde edeceği veriler, iş değiştirirken kullanılacak girdiler olacak. Beyaz yakalı işlerdeyse, yoğun bir kameralanma görüyoruz. Yapay zeka, toplanan verilerden birtakım tahminlerde bulunacak. Örneğin sendika üyesi olma eğilimi (Bales & Stone, 2020). Bir aday, işe alım sürecinde buna göre işe girebilecek ya da giremeyecek. Bu ve benzeri teknolojiler, ileri teknoloji olarak sunulup göklere çıkarılacak. İşverenin çıkarına olan uygulamalar, tüm toplumun çıkarınaymış gibi sunulacak. Nasılsa üretim artıyor, bedeli kimin umurunda… Daha şimdiden birçok uygulama hayata geçirilmiş durumda. Örneğin, fabrikalarda işçilerin her anını izlemek için taktırılan elektronik pranga ya da kelepçe (1).
Amazon’da Çifte Gözetleme
Dünyanın en zengini olan Amazon’un sahibi, işyerindeki çalışma koşulları için ne kadar övünse azdır; çünkü son gözetleme teknolojileri ona milyarlar kazandırıyor. Amazon çalışanları içinse bu hızlı çalışma ve gözetlenme düzeni, robotlaşma ve zombileşmeyle özdeş sayılıyor (bkz. Hanley & Hubbard, 2020). Amazon’un bilişim şirketiyle sahip olduğu ortak özellikler arasında çifte gözetim öne çıkıyor: Amazon, içeride çalışanlarını, dışarıda müşterileri gözetliyor (West, 2019).
Toplu Gözetleme
Yapay zekanın çıkışından önce, yalnızca ‘olağan şüpheliler’ gözetlenirdi. Şimdiyse, Snowden’ın bize gösterdiği gibi (bkz. Bauman ve ark., 2014), herkes veri düzeyinde gözetleniyor. Bu durum, yurttaşların özel yaşam hakkıyla çatışıyor (bkz. Prudentov, 2020). Toplu gözetlemeye karşı yurttaşlar kendilerini çaresiz hissediyorlar. “Biri bizi sürekli izliyorsa/dinliyorsa ve bunu önleyemiyorsak niye bunu dert edelim; yapacak birşey yok” biçiminde düşünüyorlar (Ellis, 2020). Bu, elbette bir öğrenilmiş çaresizlik örneği. Kitle örgütlerinin, binbir gündem maddesine ek olarak veri demokrasisine vakit ayırması zor görünüyor. Durum, otoriter rejimlere özgü de değil; demokratik olarak tariflenen devletlerde de herkesi gözetleme durumu baskın (Mills, 2019). Hatta bu nedenle, küresel Batı ülkeleri için ‘post-demokrasi’ sözünü kullananlar var (örneğin Van Buuren, 2014).
Kazanç İçin Gözetleme
Üçüncü olarak, şirketlerin tüketicileri daha fazla kazanç için gözetlemesi söz konusu. İş çevreleri için veri bir meta; alınıp satılabiliyor (West, 2019). Veri kapitalizminde orada burada sürekli bir reklam bombardımanına tutuluruz, bunlardan kimileri satın aldığımız ürün için bıraktığımız telefon numarası ya da e-posta aracılığıyla bize gelir. Ancak, verinin bir de öngörme boyutu var: “Bunu alan bunu da aldı” üzerinden bizim bundan sonra neler satın alabileceğimizi öngörüyor. Bebek giysileri mi almaya başladık, buradan yakında doğum beklentisi olduğunu çıkarsayabiliyor (elbette hediyelik de alınabilir, ancak çok sayıda alınıyorsa bu çıkarsama doğru olabilir); buna göre önerilerde bulunuyor. Kimi şirketler, kayıtlı kullanıcılara mağazaya yaklaştıklarında reklam iletisi gönderiyor.
İçkisinden Elektrikli Süpürgeye…
Gelecekte herşey kayıt altında olacak. Kimin ne satın aldığı belli olacak ve bu veri, devletçe kolaylıkla erişilebilecek. Örneğin, kimler içki satın alıyor? Nesnelerin interneti de bu sorunu derinleştirecek: Elektrikli süpürgenin çalışma sayısından evin ne kadar temizlendiği çıkarsanacak; belki ona göre belli ürünler önerilecek. Daha da kötüsü, belki işe alım sürecinde bu verilere de bakılacak; çünkü burada sıraladığımız üçlü gözetim düzeni birbirinden bağımsız değil (Gezgin, baskıda).
Yapay Zekanın Aydınlık ve Karanlık Yüzleri
Kısacası, ilerleyen yıllarda çalışan, yurttaş ve tüketici olarak daha çok gözetleneceğiz ve bizi gözetleyenler insan bile olmayacak. Yapay zekalar bizi gözetleyip durumumuzu raporlayacak. Yapay zekanın getirecekleri yanında götürecekleri de bir hayli fazla. Konuya coşkuyla ya da tersine korkuyla değil, gerçekçi bir biçimde yaklaşmak gerekiyor. Medya okuryazarlığı gibi yapay zeka okuryazarlığı kazanmamız gerekiyor.
İnsan haklarına aykırı gözetleme uygulamaları son bulmalı. Gözetlemenin zorunlu olduğu durumlarda ise, gözetleyenin şeffaflığı sağlanmalı. Algoritmalar da şeffaf olmalı. Bu koşullar sağlandığında, yapay zekanın aydınlık yüzünü göreceğiz. Ancak karanlık yüzünden çıkar sağlayanlar varken, yapay zeka bize neden aydınlık yüzünü çevirsin… Bu nedenle, daha fazla eleştirel düşünmeye gereksinim duyuyoruz, yapay zeka yüceltmelerine değil…
Dipnotlar
-
Salgın gerekçesiyle uygulamaya konan, ‘kriz fırsatçılığına örnek’ sayılan ve pranga ya da tasma olarak da adlandırılan elektronik kelepçeler için bkz.
Birleşik Metal-iş Sendikası (2020). Hedeflenen mesafe değil, denetimdir… İşçilerin gözetlenmesine ve denetlenmesine hayır. Birleşik Metal-İş, 11.06.2020.
http://www.birlesikmetalis.org/index.php/tr/guncel/basin-aciklamasi/1491-mess-safe
Evrensel (2020). İzole üretim üsleri ve elektronik kelepçe: “Patron babalar” prangalı çalışma istiyor. Evrensel Gazetesi, 18.05.2020.
Kaynakça
Bales, R. A., & Stone, K. V. (2020). The Invisible Web at Work-Artificial Intelligence and Electronic Surveillance in the Workplace. Berkeley Journal of Employment & Labor Law, 41(1), 1-62.
Bauman, Z., Bigo, D., Esteves, P., Guild, E., Jabri, V., Lyon, D., & Walker, R. B. (2014). After Snowden: Rethinking the impact of surveillance. International Political Sociology, 8(2), 121-144.
Ellis, D. (2020). Techno-securitisation of everyday life and cultures of surveillance-apatheia. Science as Culture, 29(1), 11-29.
Feldstein, S. (2019). How Artificial Intelligence Systems Could Threaten Democracy. The Conversation.
Gezgin, U.B. (baskıda). Zeka Feşizmine Karşı: Yapay Zeka, Büyük Veri, Bilişsel Bilim ve Gelecekbilim Üzerine.
https://ulasbasargezginkulliyati.blogspot.com/p/zeka-fesizmine-kars-yapay-zeka-buyuk.html
Hanley, D. A., & Hubbard, S. (2020). Eyes Everywhere: Amazon’s Surveillance Infrastructure and Revitalizing Worker Power.
Mills, A. (2019). Now You See Me–Now You Don’t: Journalists’ Experiences With Surveillance. Journalism Practice, 13(6), 690-707.
Moro, A., Rinaldini, M., Staccioli, J., & Virgillito, M. E. (2019). Control in the era of surveillance capitalism: an empirical investigation of Italian Industry 4.0 factories. Journal of Industrial and Business Economics, 46(3), 347-360.
Prudentov, R. V. (2020). Private Life and Surveillance in a Digital Era: Human Rights in European Perspective. Digital Law Journal, 1(2), 41-52.
Van Buuren, J. (2014). From oversight to undersight: The internationalization of intelligence. Security and Human Rights, 24(3-4), 239-252.
West, E. (2019). Amazon: Surveillance as a service. Surveillance & Society, 17(1/2), 27-33.
West, S. M. (2019). Data capitalism: Redefining the logics of surveillance and privacy. Business & Society, 58(1), 20-41.