Silikon Vadisi’ni kuran kişinin en derin tutkusu yarı iletkenler oluşturmak değil, soy arıtımıydı. Transistör icadı nedeniyle 1956 yılında Nobel Fizik ödülünü kazanan William Shockley onlarca yılını IQ farklılıkları hakkındaki ırkçı kuramlarını tanıtmak ve beyaz üstünlüğünü desteklemek için harcamıştı. Shockley, nihayetinde başarısız sonuçlanan, aralarında YZ alanının kurucularından biri olan John McCarthy’nin de olduğu Stanford profesörlerini kendi mücadelesine katılmaya ikna etme kampanyasına öncülük etmişti...
İki önemli Yapay Zekâ (YZ) firmasının başkanı bu ay[i] aşırı sağ örgütlerle bağları nedeniyle kamu denetiminin hedefi oldular. OneZero’da Matt Stroud’ın bir haberi gözetim firması Banjo’nun kurucusu ve CEO’su Damien Patton’u Ku Klux Klan’ın Dixie Şövalyeleri’nin eski bir üyesi olarak tanımladı, şövalyeler 1990 yılında bir Sinagog’a ateşli saldırıdan dolayı nefret suçuyla suçlanmıştı. Haber, Utah Başsavcılık dairesinin şirketle en azından 750.000 dolarlık bir sözleşmeyi askıya almasına yol açtı ve söylentilere göre firma ayrıca Kamu Güvenliği Bakanlığından 20,8 milyon dolarlık bir sözleşmeyi de kaybetti.
Sadece bir hafta önce Huffington Post’tan Luke O’Brien, Clearview AI şirketinin kurucusu Cam-Hoan Ton-That’ın, eski Breitbart yazarı Chuck Johnson, Pizzagate komplo teorisyeni Mike Cernovich ve neo-Nazi bilgisayar korsanı Andrew ‘weev’ Auernheimer gibi aşırı uç sağcılarla ilişkili olduğunu ortaya çıkarmıştı. Ayrıca gazeteciler Ton-That’ın Johnson ve diğerleriyle Clearview AI yazılımında işbirliği yaptığına ilişkin kanıtlar da buldu.
Bu haber özünde şok edici, çünkü aşırı sağ ile kolluk kuvvetleri ve kent-devlet yönetimleriyle sözleşmeler yapan YZ’ye dayalı gözetim firmaları arasındaki derin ve kapsamlı bağlantıyı açığa çıkarıyor. Ancak aynı zamanda acilen sormamız gereken bazı ciddi sorulara da yol açıyor: teknoloji sanayisinde şu an tezahür eden sağ kanat ve gerici politika eğiliminin sürekliliği nedir? Bu YZ kurucularının taşıdığı görüşler, inşa ettikleri ve dünyaya getirdikleri teknolojiler hakkında bize ne söylüyor? Ve en önemlisi, bu konu hakkında ne yapmalıyız?
Bunlar halkın faaliyetleri hakkındaki kapsamlı veriye erişime sahip olan firmalar. Örneğin Utah eyaleti, diğer şeylerle birlikte eyaletin trafik kameralarının, CCTV ve 911 acil durum sistemlerinin gerçek zamanlı akış verilerini Banjo’nun erişimine açmıştır, şirket de bu verileri sosyal medya ve diğer hassas veri kaynaklarıyla birleştiriyor. Şirket, gerçek dünyadaki, kendi deyimiyle “anomalileri tespit etmek” için bu kaynakları didik didik inceliyor.
Birçok YZ sisteminin ırkçı yanlılık içeren toplumsal eşitsizlik kalıplarını yeniden ürettiğini biliyoruz. Örneğin, birçok öngörücü polislik sistemi güvenilmez veriden yararlanıyor: AI Now Enstitüsü’ndeki meslektaşlarımın gösterdiği gibi, kolluk kuvvetinin yargısı için, kusurlu, ırksal olarak yanlı ve kimi zaman kanunsuz polislik uygulamaları sırasında üretilen veri bu sistemlerin eğitiminde kullanılıyor. Beklenildiği gibi bunun anlamı ırksal yanlılığın “suç önleme” analiz sistemlerine endemik olduğudur: Sarah Brayne’nin öngörücü polislik üzerine yaptığı araştırmasının işaret ettiğine göre, beyaz olmayan toplumlara yönelik aşırı polislik ve gözetimi kötüleştiren bu veri uygulamaları mevcut eşitsizlik kalıplarını yeniden kaydediyor.
Fakat burada gördüğümüz bu durumdan oldukça farklı bir şey. Clearview AI, açıkça ırkçı bir kullanım göz önünde tutularak tasarlanmış gibi gözüküyor: Huffington Post haberine göre, Chuck Johnson 2017 yılının Ocak ayında “sınır dışı etme ekiplerinin bütün yasa dışı göçmenlerin kimliğini tespit etmesine yönelik algoritma oluşturma’da yer aldığını duyurdu ve üzerinde çalıştığı yüz tanıma yazılımının yeteneklerinden övünerek söz etti.
Clearview AI, Göçmenlik ve Gümrük Muhafaza[ii] (ICE) ile şimdi ücretli bir sözleşme imzaladı, onlar da öngörücü analiz ve yüz tanıma yazılımını tam da şu anda etrafımızda bir salgın yayılırken Birleşik Devletlerdeki belgesiz insanların gözaltına alınması ve sınır dışı edilmesini hızlandırmak için kullanıyorlar.
Yakında milyonlarca insanın gündelik yaşamı hakkındaki oldukça mahrem ayrıntının sırdaşı haline gelebilirler: şirket, COVID-19 temas takibi için yüz tanıma araçları sağlamak üzere eyalet ve federal kuruluşlarla sözleşme arayışında. ICE’deki müşterilerinin, temas takibi çalışmalarından yararlanmalarını engelleyecek güçlü önlemlerin olacağını nasıl bilebiliriz? Clearview AI’nin faaliyetlerinin suistimal ile dolu olduğunu, “sınır dışı etme ekiplerine” yardım etme yönündeki ilgilerine yönelik haberlerden bile önce, kapsamlı gazetecilik sayesinde zaten biliyorduk.
Clearview AI ve Banjo, çok daha derin ve çok daha kapsamlı bir sorunun göstergeleridir. Teknoloji sanayinin bazı üyeleri arasındaki aşırı sağ düşkünlüğüne uzunca ve dikkatlice bakmamız, YZ sistemleri oluşturan ve onlardan çıkar sağlayanların politikalarını ve ağlarını çözümlememizin merkezine yerleştirmemiz gerekiyor. Ve kendimizi hazırlamalıyız: karşılaştıklarımız hoşumuza gitmeyecektir.
Silikon Vadisi’ni kuran kişinin en derin tutkusu yarı iletkenler oluşturmak değil, soy arıtımıydı[iii]. Transistör icadı nedeniyle 1956 yılında Nobel Fizik ödülünü kazanan William Shockley onlarca yılını IQ[iv] farklılıkları hakkındaki ırkçı kuramlarını tanıtmak ve beyaz üstünlüğünü desteklemek için harcamıştı. Shockley, nihayetinde başarısız sonuçlanan, aralarında YZ alanının kurucularından biri olan John McCarthy’nin de olduğu Stanford profesörlerini kendi mücadelesine katılmaya ikna etme kampanyasına öncülük etmişti. Shockley yalnız değildi: yıllarca sonra, kendisi de soy arıtımı araştırmaları taraftarı olan Jeffrey Epstein, MIT Medya Lab’ının kilit fon sağlayıcısı haline geldi ve YZ araştırmacısı Marvin Minsky’nin çalışmalarını desteklemek için 100.000 dolar sağladı.
McCarthy 2004 yılında bir denemesinde kadınların bilim ve matematiğe erkeklere göre biyolojik olarak daha az yatkın olduğunu ve sadece teknolojik takviye ile kadınların erkeklerle eşitliğe erişebileceğini öne sürdü. Bakış açısı tuhaf bir şekilde James Damore’nin, Google’da iken çeşitlilik karşıtı notunda özetlediği ve alternatif sağ üyelerince desteklenen görüşleriyle aynı şekilde çınlıyor: “erkeklerin ve kadınların tercihlerinin ve yeteneklerinin dağılımı kısmen biyolojik nedenlerden dolayı farklıdır ve … bu farklılıklar teknoloji ve yönetimde kadınların eşit temsilini neden görmediğimizi de açıklayabilir”. Farkına vardığımıza göre, Damore yalnız olmaktan oldukça uzak.
Bu olayların her biri arasında ayrımlar olsa da, berraklaşan şey yapay zekâ alanındaki güçlü şahsiyetler içerisindeki sağ kanat ve açıkça ırkçı ve cinsiyetçi politikaların sürekliliğidir. Oldukça uzun bir süre bu mirası göz ardı ettik, halbuki etkilerinin belirtileri yükseliyordu: 1960’lardakine göre bugün çeşitliliğin çok daha az olduğu bir sanayi ve ırkçı ve yanlı varsayımların kodlandığı, mevcut ayrımcı biçimleri, tespit edilmelerini ve azaltılmalarını gittikçe daha da zorlaştırırken, iyice kötüleştiren teknolojiler.
Irkçı uygulamaları destekleyen veya bu uygulamalarla ilişkili firmaların oluşturduğu teknolojilerin, yaşamlarımız (sağlığımız, emniyetimiz ve güvenliğimiz) hakkında önemli kararlar almak için kullanılması kabul edilemez. Bu şirketlerin (ve onları kiralayan müşterilerinin) yayınladıkları görüşler için sorumlu tutulmalarını güvence altına almamız gerekiyor.
Çevirenin notları:
[i] Mayıs 2020.
[ii] Immigration and Customs Enforcement.
[iii] “eugenics”, öjenik ilk kullanımı Platon’a kadar gitse de, modern anlamıyla ilk olarak Sir Francis Galton tarafından ortaya atılmış, sağlıksız ceninleri ayırıp, sağlıklı ceninler yetiştirmenin yollarını arayan, bilimselliği tartışmalı bir toplumsal akım veya toplumsal felsefe.
[iv] zekâ katsayısı, zekâyı ölçme amaçlı birkaç farklı standartlaştırılmış testlerden çıkarılan değer.
[medium.com’daki İngilizce orijinalinden Tahir Emre Kalaycı tarafından Sendika.Org için çevrilmiştir]
İki önemli Yapay Zekâ (YZ) firmasının başkanı bu ay[i] aşırı sağ örgütlerle bağları nedeniyle kamu denetiminin hedefi oldular. OneZero’da Matt Stroud’ın bir haberi gözetim firması Banjo’nun kurucusu ve CEO’su Damien Patton’u Ku Klux Klan’ın Dixie Şövalyeleri’nin eski bir üyesi olarak tanımladı, şövalyeler 1990 yılında bir Sinagog’a ateşli saldırıdan dolayı nefret suçuyla suçlanmıştı. Haber, Utah Başsavcılık dairesinin şirketle en azından 750.000 dolarlık bir sözleşmeyi askıya almasına yol açtı ve söylentilere göre firma ayrıca Kamu Güvenliği Bakanlığından 20,8 milyon dolarlık bir sözleşmeyi de kaybetti.
Sadece bir hafta önce Huffington Post’tan Luke O’Brien, Clearview AI şirketinin kurucusu Cam-Hoan Ton-That’ın, eski Breitbart yazarı Chuck Johnson, Pizzagate komplo teorisyeni Mike Cernovich ve neo-Nazi bilgisayar korsanı Andrew ‘weev’ Auernheimer gibi aşırı uç sağcılarla ilişkili olduğunu ortaya çıkarmıştı. Ayrıca gazeteciler Ton-That’ın Johnson ve diğerleriyle Clearview AI yazılımında işbirliği yaptığına ilişkin kanıtlar da buldu.
Bu haber özünde şok edici, çünkü aşırı sağ ile kolluk kuvvetleri ve kent-devlet yönetimleriyle sözleşmeler yapan YZ’ye dayalı gözetim firmaları arasındaki derin ve kapsamlı bağlantıyı açığa çıkarıyor. Ancak aynı zamanda acilen sormamız gereken bazı ciddi sorulara da yol açıyor: teknoloji sanayisinde şu an tezahür eden sağ kanat ve gerici politika eğiliminin sürekliliği nedir? Bu YZ kurucularının taşıdığı görüşler, inşa ettikleri ve dünyaya getirdikleri teknolojiler hakkında bize ne söylüyor? Ve en önemlisi, bu konu hakkında ne yapmalıyız?
Bunlar halkın faaliyetleri hakkındaki kapsamlı veriye erişime sahip olan firmalar. Örneğin Utah eyaleti, diğer şeylerle birlikte eyaletin trafik kameralarının, CCTV ve 911 acil durum sistemlerinin gerçek zamanlı akış verilerini Banjo’nun erişimine açmıştır, şirket de bu verileri sosyal medya ve diğer hassas veri kaynaklarıyla birleştiriyor. Şirket, gerçek dünyadaki, kendi deyimiyle “anomalileri tespit etmek” için bu kaynakları didik didik inceliyor.
Birçok YZ sisteminin ırkçı yanlılık içeren toplumsal eşitsizlik kalıplarını yeniden ürettiğini biliyoruz. Örneğin, birçok öngörücü polislik sistemi güvenilmez veriden yararlanıyor: AI Now Enstitüsü’ndeki meslektaşlarımın gösterdiği gibi, kolluk kuvvetinin yargısı için, kusurlu, ırksal olarak yanlı ve kimi zaman kanunsuz polislik uygulamaları sırasında üretilen veri bu sistemlerin eğitiminde kullanılıyor. Beklenildiği gibi bunun anlamı ırksal yanlılığın “suç önleme” analiz sistemlerine endemik olduğudur: Sarah Brayne’nin öngörücü polislik üzerine yaptığı araştırmasının işaret ettiğine göre, beyaz olmayan toplumlara yönelik aşırı polislik ve gözetimi kötüleştiren bu veri uygulamaları mevcut eşitsizlik kalıplarını yeniden kaydediyor.
Fakat burada gördüğümüz bu durumdan oldukça farklı bir şey. Clearview AI, açıkça ırkçı bir kullanım göz önünde tutularak tasarlanmış gibi gözüküyor: Huffington Post haberine göre, Chuck Johnson 2017 yılının Ocak ayında “sınır dışı etme ekiplerinin bütün yasa dışı göçmenlerin kimliğini tespit etmesine yönelik algoritma oluşturma’da yer aldığını duyurdu ve üzerinde çalıştığı yüz tanıma yazılımının yeteneklerinden övünerek söz etti.
Clearview AI, Göçmenlik ve Gümrük Muhafaza[ii] (ICE) ile şimdi ücretli bir sözleşme imzaladı, onlar da öngörücü analiz ve yüz tanıma yazılımını tam da şu anda etrafımızda bir salgın yayılırken Birleşik Devletlerdeki belgesiz insanların gözaltına alınması ve sınır dışı edilmesini hızlandırmak için kullanıyorlar.
Yakında milyonlarca insanın gündelik yaşamı hakkındaki oldukça mahrem ayrıntının sırdaşı haline gelebilirler: şirket, COVID-19 temas takibi için yüz tanıma araçları sağlamak üzere eyalet ve federal kuruluşlarla sözleşme arayışında. ICE’deki müşterilerinin, temas takibi çalışmalarından yararlanmalarını engelleyecek güçlü önlemlerin olacağını nasıl bilebiliriz? Clearview AI’nin faaliyetlerinin suistimal ile dolu olduğunu, “sınır dışı etme ekiplerine” yardım etme yönündeki ilgilerine yönelik haberlerden bile önce, kapsamlı gazetecilik sayesinde zaten biliyorduk.
Clearview AI ve Banjo, çok daha derin ve çok daha kapsamlı bir sorunun göstergeleridir. Teknoloji sanayinin bazı üyeleri arasındaki aşırı sağ düşkünlüğüne uzunca ve dikkatlice bakmamız, YZ sistemleri oluşturan ve onlardan çıkar sağlayanların politikalarını ve ağlarını çözümlememizin merkezine yerleştirmemiz gerekiyor. Ve kendimizi hazırlamalıyız: karşılaştıklarımız hoşumuza gitmeyecektir.
Silikon Vadisi’ni kuran kişinin en derin tutkusu yarı iletkenler oluşturmak değil, soy arıtımıydı[iii]. Transistör icadı nedeniyle 1956 yılında Nobel Fizik ödülünü kazanan William Shockley onlarca yılını IQ[iv] farklılıkları hakkındaki ırkçı kuramlarını tanıtmak ve beyaz üstünlüğünü desteklemek için harcamıştı. Shockley, nihayetinde başarısız sonuçlanan, aralarında YZ alanının kurucularından biri olan John McCarthy’nin de olduğu Stanford profesörlerini kendi mücadelesine katılmaya ikna etme kampanyasına öncülük etmişti. Shockley yalnız değildi: yıllarca sonra, kendisi de soy arıtımı araştırmaları taraftarı olan Jeffrey Epstein, MIT Medya Lab’ının kilit fon sağlayıcısı haline geldi ve YZ araştırmacısı Marvin Minsky’nin çalışmalarını desteklemek için 100.000 dolar sağladı.
McCarthy 2004 yılında bir denemesinde kadınların bilim ve matematiğe erkeklere göre biyolojik olarak daha az yatkın olduğunu ve sadece teknolojik takviye ile kadınların erkeklerle eşitliğe erişebileceğini öne sürdü. Bakış açısı tuhaf bir şekilde James Damore’nin, Google’da iken çeşitlilik karşıtı notunda özetlediği ve alternatif sağ üyelerince desteklenen görüşleriyle aynı şekilde çınlıyor: “erkeklerin ve kadınların tercihlerinin ve yeteneklerinin dağılımı kısmen biyolojik nedenlerden dolayı farklıdır ve … bu farklılıklar teknoloji ve yönetimde kadınların eşit temsilini neden görmediğimizi de açıklayabilir”. Farkına vardığımıza göre, Damore yalnız olmaktan oldukça uzak.
Bu olayların her biri arasında ayrımlar olsa da, berraklaşan şey yapay zekâ alanındaki güçlü şahsiyetler içerisindeki sağ kanat ve açıkça ırkçı ve cinsiyetçi politikaların sürekliliğidir. Oldukça uzun bir süre bu mirası göz ardı ettik, halbuki etkilerinin belirtileri yükseliyordu: 1960’lardakine göre bugün çeşitliliğin çok daha az olduğu bir sanayi ve ırkçı ve yanlı varsayımların kodlandığı, mevcut ayrımcı biçimleri, tespit edilmelerini ve azaltılmalarını gittikçe daha da zorlaştırırken, iyice kötüleştiren teknolojiler.
Irkçı uygulamaları destekleyen veya bu uygulamalarla ilişkili firmaların oluşturduğu teknolojilerin, yaşamlarımız (sağlığımız, emniyetimiz ve güvenliğimiz) hakkında önemli kararlar almak için kullanılması kabul edilemez. Bu şirketlerin (ve onları kiralayan müşterilerinin) yayınladıkları görüşler için sorumlu tutulmalarını güvence altına almamız gerekiyor.
Çevirenin notları:
[i] Mayıs 2020.
[ii] Immigration and Customs Enforcement.
[iii] “eugenics”, öjenik ilk kullanımı Platon’a kadar gitse de, modern anlamıyla ilk olarak Sir Francis Galton tarafından ortaya atılmış, sağlıksız ceninleri ayırıp, sağlıklı ceninler yetiştirmenin yollarını arayan, bilimselliği tartışmalı bir toplumsal akım veya toplumsal felsefe.
[iv] zekâ katsayısı, zekâyı ölçme amaçlı birkaç farklı standartlaştırılmış testlerden çıkarılan değer.
[medium.com’daki İngilizce orijinalinden Tahir Emre Kalaycı tarafından Sendika.Org için çevrilmiştir]
