Parlamento komitesi Ottawa’yı yüz tanıma kullanımını durdurmaya çağırıyor

Bir meclis komitesi, şirketler ve devlet kurumları tarafından yüz tanıma teknolojisi kullanımının sıkı bir şekilde kontrol edilmesi gerektiğini söylüyor.

Bu hafta Meclis’e sunulan bir rapordaAvam Kamarası etik ve gizlilik komitesi, biri yüz tanıma ve yapay zeka için yasal bir çerçeve oluşturulması da dahil olmak üzere 19 öneride bulundu.

Komite, bir tane oluşturulana kadar hükümetin, özellikle federal polis hizmetleri için yüz tanıma teknolojisinin kullanımına “ulusal bir duraklama” uygulaması gerektiğini söyledi.

Komite, daha da ileri giderek, hükümete, insanlar tercih etmedikçe, şirketlerin herhangi bir biyometrik bilgiyi (bir bina veya alışveriş merkezindeki insanların fotoğrafları gibi) otomatik olarak toplamasını yasaklamasını tavsiye etti ve şirketlerin mal veya hizmet tedarikini tedarik şartına bağlamasını yasaklamalıdır. biyometrik bilgi.

Federal gizlilik komiseri Philippe Dufresne raporu memnuniyetle karşıladı. Bir açıklamada Yüz tanıma ve yapay zeka gibi mahremiyet açısından etkili teknolojilerin Kanadalıların temel mahremiyet hakkını koruyacak ve geliştirecek şekilde uygun şekilde düzenlenmesini sağlamanın acil gerekliliğini teyit ve yinelediğini söyledi.

Mayıs ayında, Kanada gizlilik komisyoncuları, Parlamentonun Kanada polisinin yüz tanıma teknolojisini ciddi suçların soruşturulması gibi yakından tanımlanmış koşullarla sınırlandırması gerektiğini söyledi.

Komitenin başlıca tavsiyeleri arasında, Ottawa’nın

– Gizlilik Komiseri Ofisi ile teyit edilmiş istişarelerde veya adli yetkilendirme yoluyla uygulanmadıkça, federal polis teşkilatları ve firmaları tarafından yüz tanıma teknolojisinin kullanımına federal bir moratoryum uygulamak;

– yüz tanıma teknolojisinin kullanımları, yasakları, gözetimi ve mahremiyeti ile ilgili aktif olarak düzenleyici bir çerçeve geliştirmek. Bu gözetim, proaktif görev önlemlerini, program düzeyinde yetkilendirmeyi veya kullanımdan önce önceden bildirimde bulunmayı ve denetleme ve sipariş verme yetkilerini içermelidir. Çerçeve ayrıca “polis tarafından yapılan ihlaller için net cezalar belirlemeli”;

Quebec, yüz tanıma teknolojilerini içeren biyometriyi özel olarak ele alan bir yasa çıkaran tek yargı yetkisidir. Kuruluşların bir biyometrik veri tabanını uygulamadan önce il Komisyonu d’accès à l’information’ı bilgilendirmesini gerektirir.

– havalimanlarının ve endüstrilerin, gözlem alanında ve sahada belirgin bir şekilde sergilenen tabelalar da dahil olmak üzere, yüz tanıma teknolojisinin kullanımını kamuya açıklamasını sağlamak seyahat.gc.ca İnternet sitesi;

-askeri veya istihbarat operasyonlarında yüz tanıma teknolojisinin kullanımını veya devlet tarafından yüz tanıma teknolojisinin diğer kullanımlarının ulusal güvenlikle ilgili sonuçları olduğunda, çalışma için Ulusal Güvenlik ve İstihbarat Parlamenterler Komitesi’ne başvurun;

– federal satın alma politikalarını, yüz tanıma teknolojisi veya diğer algoritmik araçlar edinen devlet kurumlarının – ücretsiz denemeler de dahil olmak üzere – bu satın alma işlemini ulusal güvenlik endişelerine tabi olarak halka açık hale getirmesini gerektirecek şekilde değiştirin.

Bu, en az bir Kanada polis departmanının Clearview AI yüz tanıma uygulamasını üstlerinin bilgisi olmadan test ettiğini kabul etmesinden sonra geldi.

-Kanada’da faaliyet gösteren herhangi bir kuruluş tarafından kullanılan tüm algoritmik araçların listelendiği, ulusal güvenlik endişelerine tabi olarak, halka açık bir AI kaydı oluşturmak;

-hükümet tarafından kullanılan yüz tanıma teknolojisinde var olabilecek ırk, yaş veya diğer bilinçsiz önyargıların, test senaryoları veya teknolojinin canlı uygulamaları bağlamında önyargı bulunduğu anda, tam ve şeffaf bir şekilde ifşa edilmesini sağlamak; ulusal güvenlik endişeleri;

– Kanada İnsan Hakları Yasasını, yüz tanıma teknolojisi ve diğer yapay zeka teknolojilerinin kullanımından kaynaklanan ayrımcılığa uygulanmasını sağlayacak şekilde güncellemek;

– hizmet sağlayıcıların, sosyal medya platformlarının ve Kanada’da faaliyet gösteren diğer çevrimiçi kuruluşların, kullanıcıların kullanımı sona erdirdikten sonra belirli bir süre sonra tüm kullanıcıların kişisel bilgilerini silmelerini zorunlu kılarak bir silme hakkı (unutulma hakkı olarak da adlandırılır) oluşturmak; ancak bunlarla sınırlı olmamak üzere yüklenen fotoğraflar, ödeme bilgileri, adres ve iletişim bilgileri, gönderiler ve anket girişleri;

Yüz tanıma sorunları

Yüz tanıma, makine öğrenimi yoluyla dijital görüntüleri karşılaştırarak bir yüzü tanımlama sürecidir. Dünya çapında çeşitli şekillerde kullanılmıştır: Sınır teşkilatları bunu bir ülkeye girmesi yasak olan kişileri belirlemek için kullanır. Polis teşkilatları bunu bir şüpheliyi tanımlamak için kullanır. Örneğin, Toronto Polisi etik komiteye mevcut trafik, iş veya ev video kameralarından görüntüler aldığını ve bunları bir şüphelinin fotoğrafıyla karşılaştırdığını söyledi. Taşıma şirketleri, tıkanıklığı azaltmak için kullanabilir. Etik komiteye hastanelerin hastaları izlemek ve durumlarının değişmediğinden emin olmak için kullandığı söylendi. Özel şirketler, yasaklı insanları binalardan uzak tutmak, insanların veri merkezleri gibi hassas alanlara girmesine izin vermek veya alışveriş yapanlara özel reklamlar beslemek için kullanabilir. Kanadalı emlak geliştiricisi Cadillac Fairview bunu pazarlama için kullandı, ancak federal gizlilik komisyoncusu bu görüntülerin insanların rızası olmadan çekildiğini söyledi.

Yüz tanıma teknolojisinin kullanımı yeni değil. British Columbia Insurance Corporation, sürücü belgelerinin ve eyalet kimlik kartlarının hileli olarak alınmasını ve kullanılmasını engellemek için 20 yıldan fazla bir süre önce kullanmaya başladı. Ancak şirket 2011’de Vancouver polisinin Stanley Cup isyancılarını tespit etmesine yardımcı olacak teknolojiyi ödünç vermeyi teklif ettiğinde eyalet gizlilik komiseri, BC’nin gizlilik tüzüğü uyarınca buna izin verilmediğini söyledi. (Sadece bu değil, diye ekledi komiser, sigorta şirketi yüz tanımayı uyguladığında tüm yasal gereklilikleri tam olarak yerine getirmemişti.)

Federal Liberal Parti kullandı aday adaylık toplantılarında çevrimiçi oy kullanan üyeleri doğrulamak için British Columbia’da.

Ve elbette, birçok akıllı telefon ve bilgisayar sahibi, cihazlarının kilidini açmak için yüz tanıma özelliğini kullanabilir.

Polis teşkilatları arasında yüz tanıma teknolojisinin kullanımı, uzmanların renkli insanların görüntüleriyle kullanıldığında yanlış olduğunu belirttiğinde tartışmalı hale geldi. Önyargı, bir sistemin eğitim için kullandığı girdilere bağlı olabilir. Etik komiteye, araştırmacıların yüz tanımanın Siyah ve Asyalı bireyleri yanlış tanımlama olasılığının 100 kat daha fazla olduğunu bulduğu söylendi. Üç koyu tenli kadından birden fazlasını yanlış tanımlıyor.

Bir uzman etik komiteye yüz tanımanın ölümcül bir kusuru olduğunu söyledi: Bu, ırk ve cinsiyet gibi sosyal yapıların bir kişinin yüzünde makine tarafından okunabilir olduğunu varsayar.

Bu arada Clearview AI, karşılaştırmalı veritabanını doldurmak için internetten insanların görüntülerini topladığı için eleştirildi. Federal gizlilik komiseri buna “kitlesel gözetim” adını verdi. Şirket yetkilileri, web’deki görüntülerin özel olmadığını savundu, federal gizlilik komisyoncusu tarafından reddedilen bir iddia.

Sorunu çözmek için, etik komite hükümetten federal Kişisel Bilgi Gizliliği ve Elektronik Belgeler Yasası’nı (PIPEDA) Kanadalıların yüz tanıma veri tabanı oluşturmak amacıyla internetten veya kamusal alanlardan fotoğraf çekmeyi yasaklayacak şekilde değiştirmesini özellikle istedi. yapay zeka algoritmaları.

Geçen yıl, bir dizi Kanadalı PIPEDA kapsamında Clearview AI’ye karşı bir toplu dava açarak Federal Mahkemeden Clearview’in kişisel bilgilerini gizlilik haklarını ihlal ederek yasa dışı bir şekilde topladığı, kopyaladığı, sakladığı, kullandığı ve ifşa ettiği yönünde bir beyan talep etti. Yanıt olarak Clearview, PIPEDA’nın bölümlerinin anayasaya uygunluğuna meydan okuyor. Toplu dava henüz onaylanmadı ve mahkeme anayasal itirazı dinlemeyi onaylamadı.

Bu yılın başlarında, İngiltere bilgi komisyoncusu, o ülkenin gizlilik yasasını ihlal ettiği için Clearview AI’yi para cezasına çarptırdı.

Komite raporu, yüz tanıma teknolojilerinin yasaklanmasını önermiyor. Aslında, eski federal gizlilik komiseri Daniel Therrien’in yüz tanımanın “sorumlu bir şekilde kullanılırsa topluma önemli faydalar sağlayabileceğini” söylediğinden alıntı yapıyor.

Raporda ayrıca Therrien’in “son derece müdahaleci olabileceğini, yaygın gözetimi mümkün kılabileceğini, önyargılı sonuçlar sağlayabileceğini ve insan haklarını aşındırabileceğini de kaydetti.
demokratik yaşama, gözetim olmaksızın özgürce katılma hakkı.”

Etik kurulun duyduğu endişelerden biri, kamu veya özel sektör tarafından bir amaç için oluşturulan biyometrik veritabanlarının bireyin bilgisi olmadan başka amaçlar için kullanılabileceğidir.