“Yüksek riskli AI sistemi” (AB AI Act) nedir?
Bir yüksek riskli AI sistemi, AB AI Act’in merkezi düzenleyici kategorisidir — kullanımı gerçek kişilerin sağlığı, güvenliği veya temel haklarına önemli riskler oluşturan AI sistemleridir. Yüksek riskli sistemler AI Act kapsamında en zorlu uyum yükümlülükleriyle karşılaşır: risk yönetimi, veri yönetişimi, teknik dokümantasyon, kayıt tutma, şeffaflık, insan denetimi, doğruluk ve siber güvenlik.
“Yüksek-risk”e iki yol
- Annex I — Güvenlik bileşenleri: AB uyumlaştırma mevzuatıyla halihazırda düzenlenen ürünlerde güvenlik bileşeni olarak AI (tıbbi cihazlar, makine, oyuncak, taşıt, havacılık).
- Annex III — Listelenmiş kullanımlar: biyometrik tanıma, kritik altyapı, eğitim ve mesleki eğitim, istihdam ve işçi yönetimi, kamu hizmetlerine erişim, kolluk, göç/iltica, adalet yönetimi ve demokratik süreçler.
Yüksek-riskli sağlayıcıları için temel yükümlülükler
- Madde 9 — Risk yönetim sistemi: belgelenmiş, yinelemeli, yaşam döngüsü boyunca.
- Madde 10 — Veri ve veri yönetişimi: eğitim verisi ilgili, temsili, mümkün olduğunca önyargısız.
- Madde 11 — Teknik dokümantasyon: uyumu kanıtlar.
- Madde 12 — Kayıt tutma: sistem yaşam döngüsü boyunca otomatik loglar.
- Madde 13 — Dağıtıcılara şeffaflık: kullanım talimatları.
- Madde 14 — İnsan denetimi: tasarımda yer alır.
- Madde 15 — Doğruluk, sağlamlık, siber güvenlik.
Dağıtıcı yükümlülükleri (Madde 26)
- Sistemi sağlayıcı talimatlarına göre kullanın.
- İnsan denetim rollerini yetkin kişilere atayın.
- Operasyonu izleyin; riskler oluşturursa askıya alın.
- Logları en az 6 ay tutun.
- İşyeri bağlamında dağıtım öncesi işçileri ve temsilcilerini bilgilendirin.
Türk şirketleri için pratik etki
AB’ye satan Türk yazılım şirketleri için en yaygın yüksek-risk kategorileri istihdam (CV taraması, performans yönetimi), eğitim (öğrenci değerlendirme), erişim (kredi puanlaması) ve kritik altyapı (BDDK düzenlenmiş finans hizmetleri) alanlarındadır.
Yapın: AI kullanım durumunuzu erken Annex III’e göre sınıflandırın; uyum için ürün tasarımından itibaren bütçe ayırın, sonrasında değil.
Yapmayın: belgelenmiş analiz olmadan “yüksek-riskli değiliz” diye varsaymayın — sınıflandırmayı yanlış yapmak en pahalı AI Act hatasıdır.