AI Act’te insan gözetimi nedir?
İnsan gözetimi; yüksek riskli yapay zeka sistemlerinin, kullanım sırasında gerçek kişilerce etkin biçimde gözetilebilecek şekilde tasarlanmasını ve geliştirilmesini gerektiren m. 14 kuralıdır; amaç, sağlık, güvenlik ve temel haklara yönelik riskleri önlemek veya asgariye indirmektir. Gözetim önce bir tasarım özelliği, sonra bir kadro sorusudur: Tüzük, organizasyon şemasında birinin adının yazılı olmasına değil, bir kişinin sistemi gerçekten denetleyip denetleyemeyeceğine bakar.
Etkin gözetim ne gerektirir?
Önlemler, sistemi gözeten kişilerin şunları yapabilmesini sağlamalıdır:
- sistemin kapasite ve sınırlarını anlamak ve işleyişini izlemek;
- makine çıktısına aşırı güvenme eğilimi olan otomasyon yanlılığına karşı uyanık kalmak;
- çıktıları doğru yorumlamak; sistemi kullanmamaya veya çıktıyı göz ardı etmeye, geçersiz kılmaya ya da geri çevirmeye karar verebilmek;
- bir durdurma kontrolü veya benzeri bir usulle sisteme müdahale etmek veya sistemi durdurmak.
Hukuki boyut: bölüştürülmüş sorumluluk
- Sağlayıcı: gözetimi ürüne kurar — arayüz imkânları, güven sinyalleri, durdurma kontrolleri ve insan rolünü belirleyen talimatlar;
- Kullanıcı (deployer): gözetimi yetkinliği, eğitimi, yetkisi ve zamanı olan kişilere atar (m. 26) — eğitimsiz bir “onay tıklayıcı” sayılmaz;
- uzaktan biyometrik kimlik tespitinde kural olarak en az iki kişinin doğrulaması aranır.
“İnsan döngüde” iddiaları denetimlerde, temel haklar etki değerlendirmelerinde ve tedarikçi anketlerinde bu kriterlere karşı test edilir; klasik bulgu, her çıktının incelenmeden onaylandığı lâstik damga iş akışıdır. Gözetim kanıtı uygunluk değerlendirmesini de besler.
Türkiye bağlamı
Türkiye’de m. 14’ün yürürlükte bir karşılığı yok; KVKK’nın otomatik işlemeyle üretilen kararlara ilişkin korumaları aynı yönü gösterir ve ilgili kişiye itiraz zemini verir. Gözetmen personelin eğitilmesi, m. 4 kapsamındaki yapay zeka okuryazarlığı göreviyle de örtüşür. AB kapsamına giren Türk kullanıcılar için pratik iş aynıdır: adı konmuş gözetmenler, gerçek yetki, eğitim kayıtları — ve bunların denetimde gösterilebilecek biçimde belgelenmesi.
Yapın: gözetmenleri isimlendirin, onlara durdurma yetkisi verin ve müdahalelerini kayda geçirin — kayıt sizin kanıtınızdır. Yapmayın: tek tıkla onay kuyruğunu insan gözetimi diye sunmayın; fiilen reddedemeyen inceleyiciler m. 14’ü kendi ölçütlerinde karşılamaz.
Kaynak. (AB) 2024/1689 sayılı Yapay Zekâ Tüzüğü (AI Act).