AI Act’te piyasa sonrası izleme nedir?
Piyasa sonrası izleme; yüksek riskli yapay zeka sistemi sağlayıcılarının m. 72 uyarınca kurmak zorunda olduğu sistemdir: sistemin gerçek kullanımdaki performansına ilişkin verileri, yaşam döngüsü boyunca, sürekli uyumu doğrulamak için aktif ve sistematik biçimde toplayan ve analiz eden belgeli, orantılı bir süreç. Teknik dokümantasyonun parçası olan ve Komisyon şablonunu izleyen bir piyasa sonrası izleme planı üzerinde yürür. Önerme açıktır: uygunluk bir kez kazanılan bir belge değil, sürümden sonra da kanıtlanmaya devam edilmesi gereken bir durumdur.
İzleme sistemi neyi besler?
- Düzeltici faaliyet: kayma (drift), düşen doğruluk veya yeni kötüye kullanım örüntüleri; düzeltme, uyarı veya sistemin geri çekilmesini tetiklemelidir;
- Olay raporlaması: ciddi olayı raporlama süresi içinde tespit etmenin yolu izlemedir;
- Kullanıcı geri bildirimi: m. 26 görevleri kullanıcıları sahadaki sensörünüz yapar — sözleşmeler yapılandırılmış geri bildirim ve kayıtlara erişim yükümlülüğü içermelidir.
Hukuki boyut: kâğıt izli gözlemlenebilirlik
ML ekipleri için bu büyük ölçüde tanıdık model gözlemlenebilirlik işidir — drift panoları, değerlendirme setleri, kayıt tutma gibi zaten yürütülen çalışmalar. Hukuki fark dokümantasyondadır: yazılı bir plan, tanımlı eşikler ve her tespitten alınan aksiyona uzanan izlenebilir bir çizgi gerekir. Piyasa gözetim otoritesinin veya uygunluk değerlendirmesinin ilk soracağı şey de bu kayıttır. Aralık 2027 takvimindeki sistemler izlemeyi şimdi tasarlamalı, değerlendirme anında eklemeye çalışmamalıdır.
Türkiye bağlamı
Türkiye’de yürürlükte eşdeğer bir yükümlülük yok — iç hukukta KVKK ve genel ürün güvenliği kuralları uygulanır — ancak AB pazarına yüksek riskli sistem satan Türk sağlayıcılar m. 72’yi eksiksiz taşır. Uygulamada gereklilik çoğu zaman herhangi bir düzenleyiciden önce müşteri üzerinden gelir: AB’li kullanıcılar izleme planını satın alma aşamasında ister ve planı hazır olmayan sağlayıcı görüşme masasında zorlanır. Planı modelle birlikte kurmak, kanıtı sonradan yeniden inşa etmeye çalışmaktan çok daha ucuzdur.
Yapın: izleme planını mühendislikle birlikte yazın — eşikler, sorumlular, eskalasyon yolları — ve her sürümle versiyonlayın. Yapmayın: izlemeyi yalnız panolarda yaşatmayın; belgelenmiş bir karara ulaşmayan bulgular uyum açısından yok hükmündedir.
Kaynak. (AB) 2024/1689 sayılı Yapay Zekâ Tüzüğü (AI Act).