AI Act’te insan gözetimi nedir?
İnsan gözetimi; yüksek riskli yapay zeka sistemlerinin, kullanım sırasında gerçek kişilerce etkin biçimde gözetilebilecek şekilde tasarlanmasını ve geliştirilmesini gerektiren m. 14 kuralıdır: amaç, sağlık, güvenlik ve temel haklara yönelik riskleri önlemek veya asgariye indirmektir. Önlemler gözetmenlerin sistemin kapasite ve sınırlarını anlamasını, otomasyon yanlılığına karşı uyanık kalmasını, çıktıları doğru yorumlamasını, çıktıyı kullanmamaya veya göz ardı etmeye karar verebilmesini ve sisteme müdahale edip durdurabilmesini sağlamalıdır.
Bölüştürülmüş sorumluluk
- Sağlayıcı: gözetimi ürüne kurar: arayüz imkânları, güven sinyalleri, durdurma kontrolleri ve insan rolünü belirleyen talimatlar;
- Kullanıcı: gözetimi yetkinliği, eğitimi, yetkisi ve zamanı olan kişilere atar (m. 26): eğitimsiz bir “onay tıklayıcı” sayılmaz;
- Uzaktan biyometrik kimlik tespitinde kural olarak en az iki kişinin doğrulaması aranır.
Neden önemli?
“İnsan döngüde” iddiaları denetimlerde, FRIA’larda ve tedarikçi anketlerinde bu kriterlere karşı test edilir: klasik bulgu, lâstik damga iş akışlarıdır. KVKK’nın otomatik kararlara ilişkin korumaları da aynı yönü gösterir. İlgili: uygunluk değerlendirmesi.
Bu konuda mı çalışıyorsunuz? Vircon Legal Startup Hukuku ve Startup Hukuku Türkiye rehberi alanlarında danışmanlık veriyor. Bize ulaşın →
Bu konu masanızdaysa
Kurucu Akademisi'nde şablonlar ve kontrol listeleri ücretsiz; spesifik bir durum için 30 dakikalık ön görüşme planlayabilirsiniz.
Kurucu AkademisiGörüşme planlayın