✕
İnsan Hakları Araştırma ve Uygulama Merkezi

YZ Çağında İnsan Hakları

Paylaş

YAPAY ZEKÂ ETİĞİ TAVSİYE KARARI

UNESCO tarafından yayımlanan Yapay Zekâ Etiği Tavsiye Kararı (Recommendation on the Ethics of Artificial Intelligence) belgesinin insan hakları bağlamındaki temel belirlemeleri şunlardır:

1. İnsan Hakları Merkezli Yaklaşımın Temeli

  • UNESCO’nun Kasım 2021’de 193 üye devlet tarafından kabul edilen çerçevesi, yapay zekâ teknolojilerinin tasarımından kullanım dışı bırakılmasına kadar her aşamada insan onurunun, insan haklarının ve temel özgürlüklerin korunmasını temel dayanak olarak belirler (UNESCO, 2023, s. 4-5).
  • Yapay zekâ sistemlerinin mevcut toplumsal eşitsizlikleri derinleştirme, önyargıları pekiştirme ve kırılgan gruplara zarar verme ihtimali doğrudan insan hakları tehdidi olarak ele alınır (UNESCO, 2023, s. 4).

2. Normatif Sınırlar ve Koruma İlkeleri

  • Kitlesel Gözetim ve Sosyal Puanlama Yasağı: Belge, uluslararası düzeyde yapay zekânın kitlesel gözetim ve toplumsal puanlama amacıyla kullanılmasına açıkça karşı çıkan ilk normatif belgedir (UNESCO, 2023, s. 6).
  • Ölçülülük ve Zarar Vermeme: Yapay zekâ sistemlerinin meşru bir amaca ulaşmak için gereken sınırın ötesine geçmemesi ve hak ihlallerini önleyici risk değerlendirmelerine tabi tutulması şart koşulur (UNESCO, 2023, s. 6).
  • Mahremiyet ve Veri Koruması: Bireylerin çevrim içi davranışsal verilerinin gözetlenmesi ya da manipülasyon amacıyla işlenmesine karşı, yapay zekâ döngüsünün bütününde özel hayatın gizliliği ve veri güvenliği güvence altına alınmalıdır (UNESCO, 2023, s. 6).
  • Adillik ve Ayırımcılık Yasağı: Algoritmik önyargıların engellenmesi, sistemlerin marjinalleştirilmiş kesimler aleyhine sonuç üretmemesi ve adaletin gözetilmesi zorunludur (UNESCO, 2023, s. 9).

3. İnsan Denetimi, Hesap Verilebilirlik ve Şeffaflık

  • İnsani Belirleyicilik ve Denetim: Yapay zekâ sistemleri hiçbir koşulda nihai insani sorumluluğu ve hesap verebilirliği ortadan kaldıramaz; kritik kararlarda insanın gözetim ve müdahale yetkisi saklı kalmalıdır (UNESCO, 2023, s. 7-8).
  • Şeffaflık ve Açıklanabilirlik: Bireyler bir kararın yapay zekâ tarafından verildiğini bilme hakkına sahiptir. Kararın ardındaki mantığın ve etkenlerin etkilenen kişilerce anlaşılabilir biçimde sunulması gerekir (UNESCO, 2023, s. 8).
  • Hesap Verilebilirlik ve İtiraz Hakkı: Hak ihlali doğuran ya da hatalı çalışan sistemlere karşı izlenebilirlik, denetim mekanizmaları ve açık başvuru/itiraz yolları tanımlanmalıdır (UNESCO, 2023, s. 7).

4. Uygulama Araçları

  • Etik Etki Değerlendirmesi: Kamu ve özel sektör aktörlerinin devreye alacakları yapay zekâ uygulamalarının temel haklar ve etik ilkeler üzerindeki etkilerini önceden tespit edip zararları önlemeleri için geliştirilmiş adım adım değerlendirme aracıdır (UNESCO, 2023, s. 15).
  • Hazırlık Değerlendirme Metodolojisi: Üye ülkelerin mevcut mevzuat, altyapı ve kurumsal kapasitelerini etik standartlar ve insan hakları ışığında test etmelerini sağlayan tanısal mekanizmadır (UNESCO, 2023, s. 14).

Yapay Zekâ Etiği Tavsiye Kararı (Recommendation on the Ethics of Artificial Intelligence) metninin tamamına ulaşmak için tıklayın.

***

TEMEL İLKELER: YAPAY ZEKÂYA İNSAN HAKLARI TEMELLİ BİR YAKLAŞIM

UNESCO, Kasım 2021’de düzenlenen 41. Genel Konferansında 193 üye ülkenin oybirliğiyle Yapay Zekâ Etiği Tavsiye Kararını (Recommendation on the Ethics of Artificial Intelligence) kabul etmiştir (UNESCO, 2021). Bu belge, yapay zekânın yaşam döngüsünü insan hakları, temel özgürlükler, insan onuru ve çevresel sürdürülebilirlik ilkeleri ekseninde ele alan, evrensel nitelikteki ilk küresel normatif metindir (UNESCO, 2021). Tavsiye kararında ortaya konan on temel ilke yapay zekâ teknolojilerinin araştırılması, tasarlanması, geliştirilmesi, konuşlandırılması ve denetlenmesi aşamalarında uluslararası insan hakları hukukunu operasyonel kılmayı hedefleyen ortak bir etik çerçeve çizmektedir (UNESCO, 2021).

ON TEMEL İLKE

Bu ilkeler, yapay zekâ etiğine insan hakları merkezli bir yaklaşımın ana hatlarını çizer. Yapay zekânın geliştirilmesi, yaygınlaştırılması ve yönetimine rehberlik edecek ortak bir etik zemin sunar:

  1. Ölçülülük ve Zarar Vermeme

Yapay zekâ sistemlerinin kullanımı, meşru bir amaca ulaşmak için gereken sınırları aşmamalıdır. Bu tür kullanımlardan doğabilecek zararları önlemek adına risk değerlendirmesine başvurulmalıdır.

  1. Emniyet ve Güvenlik

Yapay zekâ aktörleri, istenmeyen zararları (emniyet riskleri) ve saldırılara açık zayıf noktaları (güvenlik riskleri) bertaraf etmeli ve bunlara yönelik tedbir almalıdır.

  1. Gizlilik Hakkı ve Veri Koruması

Gizlilik, yapay zekânın bütün ömrü boyunca korunmalı ve desteklenmelidir. Ayrıca yeterli veri koruma çerçeveleri kurulmalıdır.

  1. Çok Paydaşlı, Uyarlanabilir Yönetişim ve İş Birliği

Veri kullanımında uluslararası hukuka ve ulusal egemenliğe saygı gösterilmelidir. Buna ek olarak, yapay zekâ yönetişimine kapsayıcı yaklaşımlar getirebilmek adına farklı paydaşların katılımı şarttır.

  1. Sorumluluk ve Hesap Verebilirlik

Yapay zekâ sistemleri denetlenebilir ve izlenebilir olmalıdır. İnsan hakları normlarıyla yaşanacak çatışmaları ve çevresel refaha yönelik tehditleri engellemek amacıyla gözetim, etki değerlendirmesi, denetim ve durum tespiti mekanizmaları devrede bulunmalıdır.

  1. Şeffaflık ve Açıklanabilirlik

Yapay zekâ sistemlerinin etik biçimde uygulanması, bunların şeffaflığına ve açıklanabilirliğine bağlıdır. Şeffaflık ve açıklanabilirlik seviyesi bağlama uygun olmalıdır. Çünkü bu gereklilikler ile gizlilik, emniyet ve güvenlik gibi diğer ilkeler arasında gerilimler doğabilir.

  1. İnsani Gözetim ve Karar Alma Gücü

Üye devletler, yapay zekâ sistemlerinin nihai insani sorumluluğun ve hesap verebilirliğin yerini almasını engellemelidir.

  1. Sürdürülebilirlik

Yapay zekâ teknolojileri, BM Sürdürülebilir Kalkınma Amaçları kapsamında belirlenen hedefler de dâhil olmak üzere, sürekli gelişen bir hedefler bütünü şeklinde tanımlanan sürdürülebilirlik üzerindeki etkileri dikkate alınarak değerlendirilmelidir.

  1. Farkındalık ve Okuryazarlık

Kamuoyunun yapay zekâyı ve veriyi kavraması açık ve erişilebilir eğitim, yurttaş katılımı, dijital beceriler, yapay zekâ etiği eğitimi ile medya ve bilgi okuryazarlığı yoluyla teşvik edilmelidir.

  1. Adillik ve Ayırımcılık Yapmama

Yapay zekâ aktörleri; yapay zekânın getirdiği faydaların herkes için erişilebilir olmasını sağlamak adına kapsayıcı bir tutum takınırken, sosyal adaleti, hakkaniyeti ve ayırımcılık gözetmemeyi güçlendirmelidir.

Kaynak: https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

***

İNSAN HAKLARI VE YAPAY ZEKÂ EL KİTABI

Avrupa Konseyi İnsan Hakları Yönlendirme Komitesi tarafından hazırlanan İnsan Hakları ve Yapay Zekâ El Kitabı (Handbook on Human Rights and Artificial Intelligence), yapay zekâ sistemlerinin Avrupa İnsan Hakları Sözleşmesi (AİHS), Avrupa Sosyal Şartı (ASŞ) ve Avrupa Konseyi Yapay Zekâ Çerçeve Sözleşmesi ekseninde insan haklarına etkilerini sistematik biçimde inceler (Avrupa Konseyi, 2024, s. 1-8).

1. Genel Standartlar ve Pozitif Yükümlülükler

  • Devletlerin Pozitif Yükümlülükleri: Devletler, yapay zekâ kaynaklı hak ihlallerinden yalnızca doğrudan kaçınmakla (negatif yükümlülük) yetinemez; özel sektör ve üçüncü taraflardan kaynaklanabilecek insan hakları ihlallerini önlemek, tespit etmek, durdurmak ve telafi mekanizmaları kurmakla da (pozitif yükümlülük) yükümlüdür (Avrupa Konseyi, 2024, s. 20, 30).
  • İnsan Hakları Etki Değerlendirmesi: Yapay zekâ uygulamaları kamu veya özel sektör eliyle devreye alınmadan önce, insan hakları, demokrasi ve hukukun üstünlüğü üzerindeki muhtemel riskleri belirleyen kapsamlı risk ve etki değerlendirmelerine tabi tutulmalıdır (Avrupa Konseyi, 2024, s. 37-38).
  • Etkili Başvuru ve Hesap Verilebilirlik: Yapay zekâ kullanımından olumsuz etkilenen bireylerin itiraz edebileceği, şeffaf, erişilebilir ve bağımsız yargısal/idari başvuru yolları temin edilmelidir (Avrupa Konseyi, 2024, s. 28-29).

2. Çekirdek Haklar Açısından Tehditler ve İlkeler

  • Ayırımcılık Yasağı ve Eşitlik: Algoritmik modeller, geçmişe ait önyargılı verilerle beslendiğinde dolaylı ya da dolaysız ayırımcılığı pekiştirebilmektedir. Özellikle doğrudan korunan özelliklerin yerine geçen görünüşte nötr değişkenler üzerinden “dolaylı/vekil yoluyla ayırımcılık” riski doğmaktadır (Avrupa Konseyi, 2024, s. 24-25).
  • Özel Hayatın Gizliliği ve Kişisel Verilerin Korunması: Geniş ölçekli veri madenciliği, kestirim ve profil çıkarma faaliyetleri, bireyin mahremiyet alanına ve AİHS Madde 8 kapsamındaki haklarına ciddi müdahale oluşturur. Veri minimizasyonu, amaçla sınırlılık ve yasal güvenceler zorunludur (Avrupa Konseyi, 2024, s. 24, 46).
  • Şeffaflık ve Açıklanabilirlik: “Kara kutu” modelleri, idari ve yargısal kararların gerekçesini denetlenemez kılarak hak arama hürriyetini zaafa uğratmaktadır. Kişiler aleyhlerine tesis edilen kararların mantığını ve hangi parametrelerle üretildiğini anlama hakkına sahiptir (Avrupa Konseyi, 2024, s. 13-14).
  • İnsani Özerklik ve Denetim: Yapay zekâ sistemleri insan iradesini, seçim özgürlüğünü ve özerkliğini zedeleyecek biçimde manipülatif tasarlanamaz; kritik eşiklerde nihai karar yetkisi ve gözetim insanda kalmalıdır (Avrupa Konseyi, 2024, s. 22).

3. Sektörel ve Tematik Alanlarda İnsan Hakları Riskleri

  • Yargı ve Adalet Sistemi (AİHS Madde 6-Adil Yargılanma):
    • Risk değerlendirme ve ceza kestirim araçları masumiyet karinesini, silahların eşitliği ilkesini ve çelişmeli yargılama hakkını aşındırma tehlikesi taşır (Avrupa Konseyi, 2024, s. 41-43).
    • Hâkimin takdir yetkisi ve nihai karar verme sorumluluğu yapay zekâya devredilemez; sistemler yalnızca yardımcı nitelikte kalmalıdır (Avrupa Konseyi, 2024, s. 40, 48).
  • Kolluk Kuvvetleri ve Güvenlik:
    • Canlı yüz tanıma ve kitlesel biyometrik gözetim teknolojileri, hem özel hayatın gizliliğini (Madde 8) hem de toplanma ve ifade özgürlüğünü (Madde 10 ve 11) orantısız biçimde daraltma riski taşır (Avrupa Konseyi, 2024, s. 49, 52-53).
    • Suç tahmini yöntemleri belirli etnik veya sosyoekonomik grupları orantısız hedef alarak ayırımcılık üretmemelidir (Avrupa Konseyi, 2024, s. 52-55).
  • Göç, İltica ve Sınır Yönetimi:
    • Sınır kontrollerinde kullanılan yalan tespiti, otomatik risk profilleme ve biyometrik tarama sistemleri, sığınma hakkını ve kitlesel sınır dışı etme yasağını ihlal edebilir; kırılgan konumdaki sığınmacıların itiraz haklarını güçleştirebilir (Avrupa Konseyi, 2024, s. 56-59).
  • Demokratik Katılım ve Seçimler:
    • Dezenformasyon üreten üretken yapay zekâ, “deepfake” içerikler ve mikro hedeflemeli siyasi manipülasyonlar, seçmenin serbest kanaat edinme hakkını ve serbest seçim hürriyetini (1 No’lu Protokol Madde 3) tehdit etmektedir (Avrupa Konseyi, 2024, s. 63-68).
  • Sağlık, Sosyal Güvenlik ve Sosyal Hizmetler:
    • Sağlık hizmetlerine erişimde algoritmik önceliklendirmeler ayırımcılık yaratmamalı, yaşlılar ve engelliler gibi grupların eşit erişimini kısıtlamamalıdır (Avrupa Konseyi, 2024, s. 75-76).
    • Sosyal yardım tahsisinde kullanılan otomatik puanlama sistemleri yoksul kesimleri cezalandırıcı bir denetim mekanizmasına dönüşmemelidir (Avrupa Konseyi, 2024, s. 80-83).
  • Eğitim ve Çalışma Yaşamı:
    • Eğitimde öğrenci takip ve gözetim sistemleri çocukların gelişim ve mahremiyet haklarını zedelememeli; dijital eşitsizlikler eğitime erişimi engellememelidir (Avrupa Konseyi, 2024, s. 87-90).
    • İstihdamda otomatik işe alım, performans ölçümü ve çalışan gözetimi; sendikal hakları, eşit muamele ilkesini ve işyeri mahremiyetini zedelemeyecek sınırlara tabi olmalıdır (Avrupa Konseyi, 2024, s. 94-98).

İnsan Hakları ve Yapay Zekâ El Kitabı’na (Handbook on Human Rights and Artificial Intelligence) ulaşmak için tıklayın.