Yapay zek teknolojileri, uretken araclarla akıllı telefonlarımızda bile kullanabileceğimiz hÂle gelmiş ve milyarlarca kişinin hizmetine sunulmuş olsa da aslında yıllardır hayatımızda buyuk bir paya da sahipler. Bircok sektorde bu teknolojiler, guvenlik, ongoru, işleyiş ve kolaylaştırma amaclı kullanılıyor.
Tabii bazı kullanımlar, zaman zaman tartışmalara yol acabiliyor; ABD ’de polis guclerinin bu sistemleri yuz tanıma icin kullanması gibi. Daha once bu teknoloji yuzunden haksız yere suclanan vatandaşlar gormuştuk. Bunlar arasına yakın zamanda bir yenisi daha katıldı.
Yanlış gozaltıyla yaşananlar:
İki cocuk sahibi ve ucuncu cocuğuna 8 aylık hamile olan 32 yaşındaki siyahi kadın Porcha Woodruff, evinde cocuklarını okula gondermeye hazırlanırken kapısını polisler caldı. Ekip, Woodruff ’ı araba hırsızlığı suclamasıyla evinden aldı.
Woodruff, bu karşılaşma sırasında “Şaka mı yapıyorsunuz?” sorusunu sorup karnına işaret ederek suc işleyecek durumda bile olmadığını anlatmaya calışsa da işe yaramadı. Detroit Gozaltı Merkezi ’ne goturuldu ve burada 11 saat tutuldu.
Gozaltı sırasında telefonu aranmak uzere elinden alındı, kendisi de işlemediği bir suc icin sorguya cekildi. Ustelik gozaltında kaldığı hucre icinde sırt ağrısı cekti, kasılmalar yaşadı. Daha da ustune, serbest kalabilmesi icin 100 bin dolarlık kefalet ongoruldu.
Tabii iş burada bitmedi. Gozaltından cıkan Woodruff, doğrudan hastaneye gitti. Burada kendisine susuzluk teşhisi kondu ve damar yoluyla sıvı takviyesi yapıldı.
Bir sonraki gun polis departmanına giderek telefonunu aldı, ilerleyen zamanlarda iki kez Zoom uzerinden mahkemeye cıktı. Fakat yargıc, yetersiz delil gerekcesiyle davayı duşurdu.
Fakat tum bunlar, sadece yanlış calışan bir yuz tanıma sistemi nedeniyle gercekleşti ve gectiğimiz şubat ayında yaşandı.
Yapay zekÂ, altıncı kez yanlış kişinin gozaltına alınmasına/tutuklanmasına yol actı: Hepsinin bir ortak noktası var! Woodruff, ABD ’de yapay zek nedeniyle gozaltına alındığı bilinen altıncı kişi ve ilk kadın oldu. Bu altı kişinin tek ortak noktasıysa siyahi olmalarıydı. Vaka, Detroit Polis Departmanı icinse ucuncu vaka oldu.
Şehir polisi, DataWorks Plus tarafından sağlanan bir yuz tanıma sistemini kullanıyor.
Woodruff, bu hafta Detroit şehrine dava actı: Yaşanan olayların uzerine Woodruff, salı gunu Detroit şehrine karşı dava actı. Davanın acılmasıyla birlikte Detroit polisinden de acıklama geldi. Şef James E. White, The New York Times ’a yaptığı acıklamada durumu ciddiye aldıklarını ifade etti:
“Davada yer alan iddiaları inceledim. Cok endişe vericiler. Bu konuyu cok ciddiye alıyoruz ancak ek soruşturma gereği nedeniyle şu anda daha fazla yorum yapamıyoruz.” Yuz tanıma sisteminin yanlış calışma mantığı:
Woodruff'ın yanlış eşleştirilmesine yol acan fotoğrafı (sol) ve şimdiki hali (sağ). Woodruff ’ın yuzunun asıl sucluyla eşleştirilmesinin nedeni, yapay zek icin geliştirilen sistemdeki acık verebilecek uygulamaydı. Sistem, kişileri daha once kriminal aktiviteleri olan kişilerle karşılaştırıyordu. Sistemden gelen eşleştirmelerin son onayı ise bir insan tarafından veriliyordu.
Woodruff ’ın gozaltına alınmasına neden olan olayı inceleyen analist de eşleşmeyi doğru buldu ve Woodruff ’ın adını dedektife gonderdi. Woodruff ’ın bu sistemde yuzunun olma nedeni ise 2015 yılında ehliyetsiz arac kullanmaktan goz altına alınmasıydı.
Ancak tek suc sistemde de değil: Eşleştirmeyi doğru bulan analistin yanı sıra arac hırsızlığının mağduru olan kişi de aralarında Woodruff ’ın yer aldığı 6 kişiyi kendi gozuyle gordu, suclu olarak Woodruff ’a işaret etti. Kadının gozaltına alınmasını sağlayan son faktor de aslında buydu.
Detroit polisi, 2020 ’de yeniden gundemdeydi: Sadece Detroit değil, ABD ’nin farklı bir yerinde daha benzer bir olay yaşanmıştı: Webtekno'yu Threads'de takip et, haberleri kacırma