İngiltere polisi 101 çağrı robotunun aksanlarla başa çıkamayacağından endişeli

BBC’ye göre; planın hassas teknik ayrıntıları yanlışlıkla internette yayınlandı.

Belgede, “Amy101” olarak adlandırılan sistemin yerel “brummie” aksanlarını anlayıp anlamayacağı da dahil olmak üzere yapay zekanın potansiyel riskleri ortaya kondu.

West Midlands Polisi “sağlam güvenlik önlemlerinin” mevcut olduğu konusunda ısrar etti.

Amazon’un popüler sesli asistanı Alexa’nın arkasındaki teknolojiye dayanan deneme, yapay zekanın polisin artan çağrı hacimleriyle başa çıkmasına nasıl yardımcı olabileceğini ve potansiyel olarak farklı dillerde yanıt gibi yeni hizmetler sunabileceğini araştırdı.

Planın ayrıntılarını içeren bir belge, West Midlands Polis ve Suç Komiseri (PCC) Ofisi tarafından yanlışlıkla internette yayınlandı. “Resmi hassas” olarak işaretlenen ve “kamuya açıklanmaması” gerektiği yönünde uyarılar içeren belge daha sonra kaldırıldı.

Amy101, arayanların sorularıyla ilgilenmek için konuşmak ya da mesajlaşmak üzere tasarlandı ve günde yaklaşık 200 çağrıyı karşılaması bekleniyordu.

Uygulanabilirliği iki ay denenen proje ulusal düzeyde finanse edildi.

Belge, yapay zeka destekli bir aracın arayanlarla konuşacağı bu türden ilk proje olduğunu, ancak diğer ekiplerin de teknolojinin kullanımını araştırdığını öne sürüyordu.

Belgeye göre Amy101, aile içi şiddet gibi anahtar kelimeleri arayarak, kişileri bir insan çağrı operatörüne öncelikli olarak bağlayacak yeteneğe sahipti.

West Midlands Polisi BBC’ye yaptığı açıklamada denemenin 19 Aralık 2023’te başladığını ve şu anda sona erdiğini söyledi

‘Brummie’ önyargısı

PCC ve Emniyet Müdürüne danışmanlık yapan etik gözetim komitesi için hazırlanan belge, teknolojinin yerel aksanla başa çıkıp çıkamayacağı da dahil olmak üzere Amy101 ile ortaya çıkabilecek potansiyel sorunları ortaya koyuyor.

“Amy” sisteminin aksanlı çağrılarda işe yarayıp yaramayacağı, örneğin “Brummie” aksanını anlayıp anlayamayacağı sorgulanıyor.

Alexa küresel olarak kullanıldığından ve bir dizi aksan ve dille başa çıkabildiğinden, bu tür önyargıların ortadan kaldırılması umuluyordu. Ve eğer çağrılar anlaşılamazsa, bir insan operatör için sıraya aktarılacaklardı.

Gillet, emniyet teşkilatının sıradan dili anlayabilen teknolojilerin “kusursuz olmadığını” ve bu nedenle aksanlarla mücadele edebileceğini kabul ettiğini söyledi.

Sonuç olarak emniyet güçleri “bu önyargıyı azaltmak için” “büyük ölçekli” bir sistem kullandı.

Amy101’in arkasındaki Lex V2 adlı Amazon AI sisteminin eğitilmesine yardımcı olmak için çağrıların kullanılması riski de dahil olmak üzere, verilerin korunmasına ilişkin potansiyel sorunlar da işaret edildi.

Belgede dile getirilen endişelerin gerçekleşip gerçekleşmediği belli değil, ancak polis denemenin sonucu hakkında olumlu bir not düştü:

Gillett, “Yapay zeka daha verimli ve sağlam bir hizmet sunmak için bazı potansiyel fırsatlar sunuyor” dedi.

Gillett, denemesinin sona ermesiyle birlikte polis teşkilatının “sonuçları ve çıktıları ulusal ölçekte paylaşacağını” da sözlerine ekledi.

Belgeye göre hükümet de denemeyle ilgileniyor; bir İçişleri Bakanlığı ekibinin daha geniş kullanım amacıyla denemeyi “yakından izlediği” belirtildi.