Yapay zeka sistemleri, insan haklarını tehdit ediyor mu?

Birleşmiş Milletler (BM), Uluslararası Af Örgütü (Amnesty International) ve İnsan Hakları İzleme Örgütü (Human Rights Watch) gibi kuruluşların raporlarına göre; ‘denetimsiz’ yapay zeka uygulamaları ifade özgürlüğünden mahremiyete, ayrımcılıktan adil yargılanma hakkına kadar pek çok hak için tehlike oluşturabiliyor.

Yüz tanıma teknolojileri

Kamusal alanlarda ‘yüz tanıma’ teknolojileriyle yapılan gözetim sistemleri yapay zekanın en tartışmalı kullanım alanlarının başında geliyor. Çin başta olmak üzere çok sayıda ülkede bu teknolojiler ‘kitlesel gözetim’ için kullanılıyor. Human Rights Watch’a göre, Çin’in Sincan bölgesinde yaşayan Uygur Türkleri, yapay zeka destekli gözetim sistemleri aracılığıyla izleniyor. Söz konusu durum, dini ve etnik özgürlüklerin ihlali anlamına geliyor.

“Ayrımcılığa yol açıyor”

Amnesty International’ın 2023 tarihli raporuna göre; bazı yapay zeka sistemleri ırk, cinsiyet veya ekonomik durum temelinde ayrımcılık yapma riski taşıyor. Örneğin, ABD’de bazı mahkemelerde kullanılan risk değerlendirme yazılımları, siyah vatandaşlara yönelik fazla yüksek risk puanları vererek adil yargılanma hakkına zarar verebiliyor. Bu tür sistemler, geçmişteki önyargılı verilerle eğitildikleri için mevcut eşitsizlikleri tekrar üretebiliyor.

İfade özgürlüğü ihlal ediliyor mu?

Sosyal medya platformlarında kullanılan ‘içerik filtreleme’ algoritmaları eleştirilerin odağında yer alıyor. Electronic Frontier Foundation gibi dijital haklar kuruluşları, bu algoritmaların azınlık grupların seslerini duyurmasının kısıtlanabileceğini ve otomatik moderasyon süreçlerinin ifade özgürlüğünü ihlal edebileceğini belirtiyor. Bazı kullanıcılar, algoritmaların sansüründen kaçınmak için otosansür uygulamaya başlıyor.

BM’den ‘insan haklarına uygunluk denetimi yapılsın’ çağrısı

2021’de yayımladığı raporla yapay zekanın insan hakları üzerindeki etkilerine dikkat çeken Birleşmiş Milletler İnsan Hakları Yüksek Komiserliği (OHCHR), tüm devletlere yapay zeka sistemlerinin geliştirilme ve uygulanma süreçlerinde ‘insan haklarına uygunluk denetimi’ yapılması çağrısında bulundu. Aynı zamanda algoritmaların şeffaf olması ve hesap verebilirliğin sağlanması gerektiğinin altı çizildi.

Hukuki düzenlemeler

Avrupa Birliği, yapay zekayı risk temelli bir perspektifte düzenlemeyi amaçlayan AI Act (Yapay Zeka Yasası) ile bu alanda öncülük ediyor. Bu yasa, biyometrik gözetim gibi yüksek riskli uygulamalara ciddi kısıtlamalar getiriyor. UNESCO da üye ülkelere, etik yapay zeka kullanımına yönelik birtakım yönlendirmelerde bulunuyor.

Kaynaklar:

Agora Ajansı

AGORA AJANSI  -  CHANNEL24