The Guardian’da yer alan haberde, resmi rakamlara göre, son üç yılda Çalışma ve Emeklilik Bakanlığı’nın (DWP) otomatik sistemi tarafından potansiyel olarak yüksek riskli olarak işaretlenen taleplerin üçte ikisi aslında yasaldı. Bu, her ay binlerce hanenin taleplerini yanlışlıkla yüksek riskli olarak tanımlayan bir algoritmanın hatalı kararına dayanarak konut yardımı taleplerinin gereksiz yere soruşturulduğu anlamına geliyor. Ayrıca, bu yanlış soruşturmalar için yetkililere yaklaşık 4,4 milyon sterlin harcandığı ortaya çıktı.
Rakamlar ilk olarak sivil özgürlükler ve mahremiyet kampanya grubu Big Brother Watch tarafından elde edildi. Grup, DWP’nin yeni teknolojilere aşırı güvenmesinin, zaten dezavantajlı, marjinal ve savunmasız olan insanların haklarını arka plana attığını belirtti. DWP, seçim öncesi dönemde yorum yapamayacağını söyledi.
Sosyal Yardımda Algoritma Kullanımı:” Zarar Kanıtı Yok, Ancak Etkililik Tartışmalı”
Geçen yıl 11 yerel yönetim tarafından kullanılan algoritmalar ve benzer sistemlere ilişkin yapılan soruşturmada, sosyal yardım ve sosyal bakım sektöründe bu teknolojilerin kullanımının hak sahiplerine herhangi bir zarar veya mali kayba yol açtığını gösteren bir kanıt bulunmadı. Ancak, sosyal yardıma muhtaç kişilere destek sağlayan Turn2us, bu verilerin hükümetin otomasyonun insanların lehine işlemesi için gerçek kullanıcılarla daha yakın çalışması gerektiğini gösterdiğini belirtti.
DWP, yüksek riskli olarak işaretlenen vakaların %64’ünün gerçekten de yanlış yardım aldığını gösteren bir pilot uygulamanın ardından, yapay zeka veya makine öğrenimi kullanmayan bu otomatik aracı kullanmaya karar verdi. Ancak, hak sahiplerinin daha sonra karşılaştıkları vaka incelemeleri çok daha az sahtekarlık ve hata ortaya çıkardı. Şüpheli vakaların yalnızca %37’si 2020-21’de, %34’ü 2021-22’de ve %37’si 2022-23’te yanlıştı. Bu, öngörülenin neredeyse yarısı kadar etkiliydi.
Editör: 
Yorumlar