İnsan hakları örgütlerinden Zoom’a açık mektup: “Bu planınızdan hemen vazgeçin!”

insan haklari orgutlerinden zooma acik mektup bu planinizdan hemen vazgecin Awm9eOe2

insan haklari orgutlerinden zooma toplu mektup oBz8

Kar maksadı gütmeyen dijital haklar vakfı Fight for the Future ve 27 insan hakları kuruluşu, Zoom’a açık bir mektup yazarak şirketten görüntü konferans platformunda hisleri tahlil edebilen AI kullanımını araştırmayı durdurmasını istedi. Kümeler, Zoom’un gelecekte duygusal yapay zekayı eserine nasıl dahil edeceğini etkin olarak araştırdığını söyleyen bir Protokol haberine karşılık olarak mektubu yazdığını söylüyor.

Bu araştırma, şirketlerin, satış görüşmeleri sırasında potansiyel bir müşterinin duygusal durumunu tespit etmek için yapay zekayı nasıl kullanmaya başladığını inceleyen daha büyük bir uğraşın modülü.

Salgının başlaması ile bir arada görüntü konferanslar dünya çapında çok daha yaygın hale geldi. Satış vazifelileri, beden lisanlarını ekrandan okuma yeteneği olmadan, potansiyel müşterilerin eser ve hizmetlerine ne kadar açık olduklarını ölçmekte zorlanıyorlar. Şirketler, aramalar sırasında insanların ruh hallerini tahlil etme yeteneğine sahip teknolojiyi kullanmaya başladılar ve Protokol, Zoom’un birebir hizmeti sağlamayı planladığını söylüyor.

Fight for the Future ve öteki insan hakları örgütleri, davetlerinin Zoom’a planlarından vazgeçmesi için baskı yapmasını umuyor. Teknolojiyi “ayrımcı, manipülatif, potansiyel olarak tehlikeli ve tüm insanların birebir yüz tabirlerini, ses kalıplarını ve vücut lisanını kullandığı varsayımlarına dayalı” olarak tanımlıyorlar.

Ayrıyeten bu kümeler; teknolojinin, tıpkı yüz tanıma üzere, tabiatı gereği önyargılı ve ırkçı olduğuna dikkat çekti. Özelliği dahil ederek Zoom’un belli etnik kökenlere ve engelli bireylere karşı ayrımcılık yapacağını tez ediyorlar. Yanlış duyguyu sergiledikleri takdirde öğrencileri yahut çalışanları cezalandırmak için kullanılabilmesi de mümkün olabilir.

2021’de Cambridge Üniversitesi profesörü Alexa Hagerty tarafından yönetilen bir proje, his tanıma AI’larının sonlarını ve onları kandırmanın ne kadar kolay olduğunu göstermişti. Daha evvelki çalışmalar da his tanıma programlarının ırksal önyargı testinde başarısız olduğunu ve siyahi yüzleri okumakta zorlandığını söylüyordu.

Küme, Zoom’un yüz izleme özelliklerinin kullanıma sunulmasını iptal etme kararından bahsederek ve bunu kullanıcıları için gerçek olanı yapmak için öteki bir fırsat olarak nitelendirerek mektubu sonlandırdı. Artık Zoom’dan 20 Mayıs 2022’ye kadar eserinde his AI uygulamama taahhüdünde bulunmasını istiyorlar.