AB AI Act’te “deployer” (kullanıcı) nedir?
Deployer (kullanıcı/işleten); bir yapay zeka sistemini mesleki faaliyet kapsamında kendi yetkisi altında kullanan gerçek veya tüzel kişi, kamu kurumu veya kuruluştur; kişisel, mesleki olmayan kullanım kapsam dışıdır. Deployer, Tüzüğün kullanım tarafıdır: işe alım aracını, skorlama modelini veya chatbotu kendi operasyonunda çalıştıran şirket, sistemi geliştirip piyasaya süren sağlayıcının karşısındaki rol. Çoğu şirket Tüzükle önce bu rolde karşılaşır: yapay zeka satın almak, geliştirmekten çok daha yaygındır.
Başlıca kullanıcı yükümlülükleri
- Yüksek riskli sistemleri sağlayıcının talimatlarına uygun kullanmak;
- Yetkin insan gözetimi atamak ve girdi verisinin kalitesini kontrol etmek;
- İşleyişi izlemek, otomatik üretilen logları saklamak ve ciddi olayları bildirmek;
- Yüksek riskli yapay zekayı işyerinde devreye almadan önce çalışanları ve temsilcilerini bilgilendirmek;
- Kredi skorlama, hayat ve sağlık sigortası fiyatlaması ile kamu hizmeti kullanımında temel haklar etki değerlendirmesi yapmak;
- İlgili hallerde etkilenen kişilere karşı m. 50 şeffaflık görevlerini yerine getirmek.
Etiket neden önemli?
AB dışında yerleşik kullanıcılar, sistemin çıktısı AB’de kullanıldığında kapsamda kalır; şirketleri AB’de hiçbir yapılanma olmadan Tüzüğe çeken hüküm budur. Kendinize “sadece kullanıcıyız” demek bir şey değiştirmez: görevler etikete değil işleve bağlanır. Sınır da sabit değildir: sistemi esaslı değiştirmek veya kendi adınız altında pazarlamak, kullanıcıyı beraberindeki daha ağır yükümlülüklerle sağlayıcıya dönüştürür.
Türkiye bağlamı
Çıktı hükmü, Türkiye merkezli şirketlerin AI Act ile buluştuğu güzergâhtır: skorlama modeli, işe alım aracı veya chatbotu AB’de kullanılan çıktı üreten Türk şirketi, AB’de bağlı ortaklık olmadan da kapsamda bir kullanıcıdır. Yurt içinde yürürlükte yapay zekaya özgü bir kanun yoktur; kişisel veri tarafını KVKK (6698 sayılı Kanun), kalanını iş hukuku ve genel sorumluluk kuralları yönetir. Özellik düzeyinde bir sınıflandırma memosu (hangi özellikler yapay zeka sistemi, hangileri yüksek riskli, siz hangi roldesiniz) makul başlangıç belgesidir.
Yapın: kullanımdaki her yapay zeka sistemini envantere alın, her biri için hangi rolde olduğunuzu kaydedin; gözetim ve log düzenini düzenleyici veya müşteri sormadan kurun. Yapmayın: satın alınmış bir sistemi, sağlayıcısına dönüşüp dönüşmediğinizi kontrol etmeden değiştirmeyin veya yeniden markalamayın.
İlgili rehberler: Sınıflandırma Memosu.
Kaynak. (AB) 2024/1689 sayılı Yapay Zekâ Tüzüğü (AI Act).