Yapay Zeka'daki ilerlemelerden yalnızca Silikon Vadisi'ndeki dahi erkeklerin sorumlu olduğu efsanesi, bilgisayar dünyasındaki gizli figürler olan kadınların katkıları daha görünür hale geldikçe tamamen çürütüldü. Ada Lovelace'ın 1800'lerde ilk bilgisayar programını yazdığı , Joan Clarke'ın 2. Dünya Savaşı sırasında kriptoloji becerilerini kullanarak batılı müttefiklere yardım ettiği ve Katherine Johnson gibi "(insan) bilgisayarların" ırk ayrımcılığının üstesinden gelerek matematiksel dehalarını kullanarak 1900'lerde ilk Amerikalıyı uzaya gönderdiği artık yaygın olarak kabul ediliyor.
Silikon Vadisi'ndeki güçlü ve zengin adamlar, yapay zekanın gelecekteki varoluşsal riskleri hakkında nutuk çekerken, aynı zamanda yapay zeka savaşlarından kâr elde ediyorlar. Dünya çapındaki marjinal topluluklardan birçok kadın ve diğerleri, insanlığı pervasızca geliştirilen ve kullanılan yapay zekanın zararlarından korumak için zorlu bir mücadele veriyor.
İlk "Yapay Zeka Etiğinde 100 Harika Kadın" listesi 2018'de yayınlandı ve o zamandan beri, belirsizlik içinde çabalayan çeşitli sesleri tanımak için her yıl bir liste yayınladık . Son gelişmeler göz önüne alındığında, onların temel katkılarını ve en önemlisi, yapay zeka abartısının satıcıları tarafından yaratılan medya çılgınlığı tarafından sıklıkla gölgede bırakılan fedakarlıklarını belgelemek daha da kritik hale geldi.
2011
Karën Fort ve meslektaşları, kalabalık çalışmada sömürü riskleri üzerine önemli bir makale olan “ Son Sözler: Amazon Mechanical Turk: Altın madeni mi, kömür madeni mi? ” ve Fransızca Amazon Mechanical Turk platformları üzerine bir pozisyon belgesi olan “ Un turc mécanique pour les ressources linguistiques: critique de la myriadisation du travail parcellisé ” adlı makaleyi yazarak araştırmacıları bilgilendirip, tam bilgi sahibi olarak seçimlerini yapmalarını ve etik ve yasal suiistimal risklerini sınırlayarak yeni dil kaynaklarının geliştirilmesini iyileştirmek için pratik ve örgütsel çözümler önermelerini amaçlamışlardır.
2014
Frankofon Doğal Dil İşleme (NLP) araştırma topluluğu, etik ve NLP üzerine bu atölye çalışması gibi etkinliklere ev sahipliği yapan ilk topluluktu .
Cynthia Dwork, bireyler hakkında elektronik verilerin giderek daha güçlü bir şekilde toplanmasını sağlayan teknolojiyle birlikte, gizliliğin sağlam, anlamlı ve matematiksel olarak kesin bir tanımının yanı sıra hesaplama açısından zengin bir algoritma sınıfına olan ihtiyacı ele almak için “ Diferansiyel Gizliliğin Algoritmik Temelleri ” başlıklı makalenin ortak yazarlığını yaptı.
Danielle Citron, tahmin algoritmalarının adilliğini ve doğruluğunu garanti altına almak için resmi güvenlik önlemlerinin alınması gerektiğini savunan “ The Scored Society: Due Process for Automated Predictions ” adlı araştırma makalesinin ortak yazarıdır.
2016
Julia Angwin ve ProPublica ekibi, algoritmaların Amerikan yaşamındaki güçlü ancak büyük ölçüde gizli etkisinin daha geniş bir incelemesinin parçası olarak risk puanları üzerine yaptıkları çalışmayı yayınladı ve ceza önerilerinde önemli ırksal farklılıklar buldu.
Cathy O'Neil'in "Matematiksel Yıkım Silahları" adlı kitabı, algoritmaların toplumsal zararları konusunda kamuoyunun farkındalığını artırmada ve bu konunun ana akım tartışmalara dahil edilmesinde etkili oldu.
Gender Shades Projesi, Dr. Joy Buolamwini'nin yüz tanıma sistemleriyle ilgili mücadelesinden ilham alarak MIT'de hazırladığı yüksek lisans tezinin odak noktası olarak 2016 yılında başladı .
2017
Shannon Spruit, Margaret Mitchell, Emily M. Bender, Hanna Wallach ve meslektaşları, Doğal Dil İşlemede Etik Konulu İlk ACL Çalıştayına ev sahipliği yaptı .
Tarihçi Mar Hicks , İngiltere'nin bilişimdeki erken hakimiyetini, en kalifiye çalışanları olan kadınlara karşı sistematik ayrımcılık yaparak nasıl kaybettiğini anlatan belgelenmiş bir tarih olan " Programlanmış Eşitsizlik "i yayınladı.
Meredith Whittaker ve Kate Crawford tarafından yayınlanan AI Now 2017 Raporu , ortaya çıkan zorlukları belirledi, yapay zekanın faydalarının geniş çapta paylaşılmasını ve risklerin belirlenip azaltılabilmesini sağlamak için önerilerde bulundu.
Lina Khan'ın Amazon'un Antitröst Paradoksu başlıklı makalesi Yale Hukuk Dergisi'nde yayımlandı ve makalede şu ifadelere yer verildi: "On yıllardır teknokratların ilgi alanına giren antitröst ve rekabet politikaları bir kez daha kamuoyunun endişe konusu haline geldi."
2018
Joy Buolamwini ve Timnit Gebru , Adalet, Hesap Verebilirlik ve Şeffaflık Konferansı'nda "Cinsiyet Tonları: Ticari Cinsiyet Sınıflandırmasında Kesişimsel Doğruluk Farklılıkları" başlıklı makalelerini sundular .
Margaret Mitchell , Inioluwa Deborah Raji , Timnit Gebru ve diğer araştırmacılar, yapay zeka teknolojisinin ne kadar iyi çalıştığına dair şeffaflığı artırarak makine öğrenimi ve ilgili yapay zeka teknolojisinin sorumlu bir şekilde demokratikleştirilmesine doğru bir adım olarak eğitilmiş makine öğrenimi modellerini belgelemek için “ Model Raporlaması için Model Kartları ” çerçevelerini tanıttılar.
Google, teknoloji çalışanlarının öncülük ettiği çeşitli protestolarla sarsıldı. Bunların arasında , Google'ın kadın iş arkadaşlarını cinsel taciz eden erkekleri koruması ve ödüllendirmesi tepkisi olarak çoğunluğu kadınların öncülük ettiği bir iş bırakma eylemi de vardı .
Lucy Suchman ve Lilly Irani, Google'ın gözetleme videolarını analiz etmek için yapay zeka geliştirmeyi amaçlayan tartışmalı bir ABD askeri girişimi olan Project Maven üzerindeki çalışmalarını sonlandırması ve otonom silah sistemlerini yasaklayan uluslararası bir anlaşmayı desteklemesi çağrısında bulunan açık bir mektup yazan yüzlerce Google çalışanı ve akademisyen arasındaydı . Google daha sonra Project Maven konusundaki duruşundan geri adım attı ve şirketin askeri projelere gelecekteki katılımını yönetecek yeni yapay zeka ilkelerini duyurdu.
Araştırmacı gazeteci ve köşe yazarı Carole Cadwalladr , milyonlarca Facebook kullanıcısına ait kişisel verilerin, çoğunlukla siyasi reklamcılık amacıyla kullanılmak üzere İngiliz danışmanlık firması tarafından, kullanıcıların izni olmadan toplandığı Facebook-Cambridge Analytica veri skandalını ifşa etti.
Safiya Umoja Noble, kapsamlı bir araştırmanın ürünü olan “Algorithms of Oppression” adlı kitabında , Google gibi arama motorlarının her türlü fikir, kimlik ve faaliyet için eşit bir oyun alanı sunduğu fikrine meydan okudu. Virginia Eubanks'in “Automating Inequality” adlı kitabı , veri madenciliğinin, politika algoritmalarının ve öngörücü risk modellerinin yoksullar ve işçi sınıfı üzerindeki etkilerini araştırarak kamu hizmetlerinde kullanılan algoritmaların Amerika'daki en savunmasız kesimleri sıklıkla başarısızlığa uğrattığını buldu.
2019
Joy Buolamwini, ABD Kongresi'nde yüz tanıma teknolojisinin sınırlamaları hakkında ifade verdi ve Kongre'yi kolluk kuvvetlerinin yüz tanıma veya diğer yüz analiz teknolojilerini kullanmasını yasaklayan bir moratoryum benimsemeye çağırdı." Inioluwa Deborah Raji ile birlikte taraflı yapay zeka sistemlerinin performans sonuçlarının kamuya açık bir şekilde adlandırılması ve ifşa edilmesinin etkisini analiz eden bir takip makalesinin ortak yazarlığını yaptı.
İş bırakma eyleminin organizatörleri Meredith Whittaker ve Claire Stapleton, daha sonra 2018'deki işçi protestolarındaki rollerinden dolayı misilleme olarak görevden alındıklarını veya başka görevlere atandıklarına dair yazmışlardı.
2007'de Stanford ve Princeton'daki araştırmacılar tarafından oluşturulan Imagenet , görüntü veritabanları için altın standart olarak kabul edilir. Kate Crawford, ırkçı ve cinsiyetçi içerikleri ortaya çıkaran ve veritabanından yarım milyondan fazla görüntünün kaldırılmasına yol açan Imagenet Roulette projesine ortak liderlik etti.
Mary L. Gray , teknoloji alanındaki "zekanın" büyük bir kısmının, geniş ve görünmez bir insan iş gücünün sömürülmesinin sonucu olduğunu ortaya koyan " Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass " adlı kitabı ortaklaşa yazdı .
Sarah T. Robertson'ın sekiz yıllık araştırması, içerik moderasyonunun neredeyse hiç maaş almayan, görünmez bir iş gücü üzerindeki duygusal yükünü kapsamlı bir şekilde belgeleyen " Ekranın Arkasında: Sosyal Medyanın Gölgesinde İçerik Moderasyonu " adlı kitapta sonuçlandı.
Shoshana Zuboff'un " Gözetim Kapitalizminin Çağı: Gücün Yeni Sınırlarında İnsanlığın Geleceği İçin Mücadele " adlı kitabı, Google ve Amazon'un iş modellerinin yeni bir "gözetim kapitalizmi" biçimini temsil ettiğini öne sürüyor.
Ruha Benjamin, “ Teknoloji Sonrası Irk: Yeni Jim Kodu İçin Kölelik Karşıtı Araçlar ” adlı kitabında , bir dizi ayrımcı tasarımın ırksal hiyerarşileri açıkça güçlendirerek nasıl eşitsizliği kodladığını ortaya koyuyor.
2020
Google, Timnit Gebru'yu, Margaret Mitchell, Emily Bender ve Angelina McMillan-Major ile birlikte yazdığı ve büyük beğeni toplayan " Stokastik Papağanların Tehlikeleri Üzerine: Dil Modelleri Çok Büyük Olabilir mi? " başlıklı makalesi (Mart 2021'de yayınlanmıştır) nedeniyle işten çıkardı. Makale, büyük makine öğrenimi modelleriyle ilişkili olası riskleri vurguladı ve bu riskleri azaltmak için çözümlerin araştırılmasını önerdi. İşten çıkarıldıktan sonra Dr. Gebru, Twitter'daki anonim hesaplar tarafından desteklenen uzun ve acımasız bir taciz kampanyasının hedefi oldu.
Abeba Birhane ve Vinay Prabhu, binlerce AI algoritması ve sistemi geliştirmek için kullanılan devasa veri kümelerinin ırkçı ve kadın düşmanı etiketler ve hakaretler ile saldırgan görüntüler içerdiğini bulan " Büyük görüntü veri kümeleri: Bilgisayar görüşü için bir piros zaferi mi? " adlı araştırma makalelerini yayınladılar . MIT ve Microsoft da dahil olmak üzere diğerleri araştırmacılar için ayrılmış veritabanlarını kaldırdı , ancak verileri hala çevrimiçi olarak kalıyor .
Amazon, araştırmacıların bulgularına ilk başta itiraz ettikten sonra, yüz tanıma teknolojisinin polis tarafından kullanılmasını durdurdu. Aynı yıl içinde, IBM'in ilk renkli CEO'su Arvind Krishna da şirketin yüz tanıma işinden çekildiğini duyurdu .
Facebook, Cambridge Analytica skandalından 2 yıl sonra ilk Denetim Kurulu'nu duyurdu . Buna karşılık, Shoshana Zuboff, Carole Cadwalladr, Safiya Noble, Ruha Benjamin ve diğerleri de dahil olmak üzere bir grup endüstri uzmanı, Facebook'un içerik denetleme kararlarını, politikalarını ve diğer platform sorunlarını analiz etmek ve eleştirmek için "Gerçek Facebook Denetim Kurulu"nu başlattı.
Sasha Costanza-Chock , tasarımın marjinal topluluklar tarafından nasıl yönlendirilebileceğini, yapısal eşitsizliği nasıl ortadan kaldırabileceğini ve kolektif kurtuluşu ve ekolojik hayatta kalmayı nasıl ilerletebileceğini inceleyen güçlü bir çalışma olan “ Tasarım Adaleti: İhtiyacımız Olan Dünyaları İnşa Etmek İçin Topluluk Liderliğindeki Uygulamalar ”ı yayınladı.
Sasha (Alexandra) Luccioni, makine öğrenimi süreçlerinin karbon etkisini tahmin etmek için bir araç olan “Makine Öğrenmesi Emisyon Hesaplayıcısı”nı geliştirdi ve bu aracı, “ Yapay Zekanın Karbon Emisyonlarının Tahmini ” başlıklı bu makalede ilgili sorunlar ve zorluklarla birlikte sundu.
2021
Google, Timnit Gebru ile birlikte Google'ın araştırma ekibinde daha fazla çeşitlilik çağrısında bulunan ve şirketin ürünlerini eleştiren araştırmaları sansürlemeye başladığından endişe duyduğunu dile getiren etik yapay zeka ekibinin eş başkanı Margaret Mitchell'i kovdu .
Gebru, görevden alınmasının birinci yıl dönümünde, Büyük Teknoloji'nin yapay zekanın araştırılması, geliştirilmesi ve dağıtımı üzerindeki yaygın etkisini dengelemek üzere tasarlanmış, bağımsız ve topluluk temelli bir enstitü olan Dağıtık Yapay Zeka Araştırma Enstitüsü'nü (DAIR) kurdu .
Emily Denton, Alex Hanna ve meslektaşları, veri seti geliştirme, ilk fikir/tasarım aşaması, oluşturma ve toplama aşamaları ve sonraki bakım ve depolama aşamaları sırasında refleksif müdahaleler önermek için “ Makine öğrenimi veri setlerinin soyağacı üzerine: ImageNet'in kritik tarihi” adlı çalışmayı yayınladılar.
Lina Khan, Federal Ticaret Komisyonu (FTC) Başkanı olarak atandı ve gayriresmî Yapay Zeka Strateji Grubu'nun bir parçası olarak Meredith Whittaker, Amba Kak ve Sarah Myers West de dahil olmak üzere FTC Politika Planlama Ofisi'ne birkaç yeni ekleme yapıldığını duyurdu.
FTC , Kongre'ye çevrimiçi sorunlarla mücadelede yapay zekanın kullanılması konusunda uyarıda bulunan ve politika yapıcıları, yapay zekaya bir politika çözümü olarak güvenme konusunda "çok dikkatli" olmaya çağıran bir rapor yayınladı.
Facebook'ta eski bir veri bilimcisi olan muhbir Frances Haugen, ABD Senatosu'ndaki bir duruşmada ifade verdi ve "Facebook'un algoritmasının yanlış bilgileri artırdığını" ve "platformlarında güvenlik önlemleri uygulamak yerine sürekli olarak büyümesini en üst düzeye çıkarmayı tercih ettiğini" söyledi.
Kaliforniya valisi, eyalet senatörü Connie Leyva tarafından kaleme alınan ve Pinterest muhbiri Ifeoma Ozoma tarafından başlatılan, gizlilik anlaşması (NDA) imzalamış olsalar bile taciz ve ayrımcılık hakkında konuşan çalışanları korumak için " Silenced No More Act "i imzaladı. Ozoma ayrıca teknoloji muhbirleri için " The Tech Worker Handbook " adlı ücretsiz bir çevrimiçi kaynak rehberi başlattı.
2022
Kamuoyuna yönelik bir yıllık etkileşim ve yapay zeka uzmanlarıyla yapılan tartışmaların ardından Dr. Alondra Nelson ve Başkan Biden'ın Beyaz Sarayı, Yapay Zeka Hakları Bildirgesi Taslağını yayınladı .
Londra merkezli bir STK olan Foxglove'daki Cori Crider ve ekibi, Doğu ve Güney Afrika'da yaşayan kullanıcıların güvenliğini önceliklendirerek Facebook'un algoritmasında köklü bir değişiklik talep eden büyük bir yeni davaya desteklerini duyurdu. Başarılı olursa, bu bir davanın Facebook'un algoritmasında değişiklik yapmaya zorladığı ilk sefer olacak. Grubu ayrıca 2019'dan beri Facebook içerik moderatörleriyle birlikte çalışarak sömürüye son vermelerine yardımcı oluyor ve Amazon'un güvenli olmayan depoları ve algoritmaya göre yönetimi hakkındaki mitlerini çürütmek için bir brifing hazırlıyor .
2023
Hilke Schellmann , Guardian'ın sosyal medya platformları tarafından kullanılan yapay zeka algoritmalarına ilişkin araştırmasına eş başkanlık etti ve bu algoritmaların çoğunun cinsiyet ayrımcılığı yaptığını ve kadın bedeni fotoğraflarının erişimini sansürleyip engellemiş olabileceğini tespit etti.
Stochastic Parrots'un yazarları, "AI duraklaması" açık mektubuna , "Sözde AI'nın zararları gerçek ve mevcuttur ve otomatik sistemler kullanan insanların ve şirketlerin eylemlerinden kaynaklanmaktadır. Düzenleyici çabalar şeffaflığa, hesap verebilirliğe ve sömürücü işgücü uygulamalarını önlemeye odaklanmalıdır." ifadeleriyle yanıt verdi.
-devam edecek…-
Kaynak: https://womeninaiethics.org/the-ai-ethics-revolution-a-brief-timeline/
