Yüksek riskli yapay zeka sistemi nedir?
Yüksek riskli yapay zeka sistemi; AB Yapay Zeka Tüzüğü’nün (AI Act) merkezi düzenleme kategorisidir: hatası sağlık, güvenlik veya temel haklara ciddi zarar verebilecek ve bu nedenle Tüzüğün en ağır uyum yükümlülüklerini taşıyan sistemler. İki kapıdan girilir: Ek I (düzenlenmiş ürünlerde güvenlik bileşeni olan yapay zeka — tıbbi cihaz, makine, araçlar) ve Ek III (bağımsız kullanım alanları: işe alım ve çalışan yönetimi, kredi skorlama, eğitim, biyometrik kimliklendirme, temel hizmetler, kolluk, göç, yargı).
Takvim değişti — Aralık 2027
AB kurumlarının 2026 ortasında uzlaştığı Dijital Omnibus ile Ek III yükümlülükleri 2 Ağustos 2026’dan 2 Aralık 2027’ye, Ek I ürün gömülü yükümlülükleri ise 2 Ağustos 2028’e ertelendi. Erteleme, hâlihazırda bağlayıcı olanı etkilemiyor: yasaklı uygulamalar listesi ve yapay zeka okuryazarlığı görevi (2 Şubat 2025’ten beri), GPAI kuralları (2 Ağustos 2025’ten beri) ve 2 Ağustos 2026’da devreye giren Madde 50 şeffaflık yükümlülükleri.
Kategori devreye girince ne gerekecek?
Sağlayıcılar yaşam döngüsü boyunca risk yönetim sistemi kurmak, eğitim ve test verisi için veri yönetişimi standartlarını karşılamak, teknik dokümantasyon ve otomatik kayıt tutmak, insan gözetimi ile doğruluk/dayanıklılık/siber güvenlik sağlamak, uygunluk değerlendirmesinden geçmek, AB veri tabanına kayıt olmak ve CE işareti almak zorunda. Kullananlar (deployer) da yükümlü: talimata uygun kullanım, insan gözetimi, girdi verisi kontrolü ve belirli kullanıcılar için temel haklar etki değerlendirmesi (FRIA).
Türkiye’den AB müşterisine satıyoruz — kapsama girer miyiz?
Potansiyel olarak evet: Tüzük, nerede kurulu olursa olsun AB pazarına sistem süren sağlayıcılara ve sistem çıktısı AB’de kullanılan aktörlere uygulanır. AB kullanıcısı olan Türk HR-tech, kredi skorlama ve edtech ürünleri sınıflandırmayı bugün yapmalı ve kazanılan süreyi bilinçli kullanmalıdır.
Chatbot yüksek riskli mi?
Varsayılan olarak hayır — müşteri hizmetleri chatbot’u Madde 50 kapsamında şeffaflık vakasıdır (yapay zekayla etkileşimi açıkla). Ancak Ek III bağlamında kullanılırsa — örneğin iş başvurularını elemede — yüksek riskli hâle gelir.
İlgili: uygunluk değerlendirmesi, FRIA.