“Sistem kartı” (system card) nedir?
Bir sistem kartı, bir AI sisteminin amacını, yeteneklerini, sınırlamalarını, eğitim verisi özetini, değerlendirme sonuçlarını, güvenlik önlemlerini ve bilinen risklerini tarif eden yapılandırılmış kamuya açık belgedir. Daha önceki “model kartı” kavramını (Mitchell et al., 2019) bireysel model artefaktlarından modelleri araç, koruma ve aşağı akış uygulamalarıyla entegre eden dağıtılmış sistemlere genişletir. OpenAI, Anthropic, Google ve Meta, bayrak gemisi sürümleri için şeffaflık uygulaması olarak sistem kartları yayınlar.
Tipik sistem kartı bölümleri
- Sistem genel bakış: amaç, amaçlanan kullanım durumları, kapsam-dışı kullanımlar.
- Mimari özet: model bileşenleri, alma, araç kullanımı, korumalar.
- Eğitim verisi: kaynak kategorileri, zaman kesimi, opt-out işleme.
- Değerlendirme: kıyaslamalar, iç güvenlik değerlendirmeleri, üçüncü taraf red-team sonuçları.
- Bilinen sınırlamalar: halüsinasyon örüntüleri, dil kapsamı, alan boşlukları.
- Güvenlik azaltmaları: içerik filtreleri, çıktı doğrulama, oran sınırları.
- Kötüye kullanım riskleri: belgelenmiş kötüye kullanım vektörleri ve azaltmalar.
- Sürümleme ve değişiklik günlüğü.
Sistem kartı vs. ilgili artefaktlar
- Sistem kartı vs. model kartı: model kartı tek bir modeli tarif eder; sistem kartı modelin etrafındaki sistemi tarif eder.
- Sistem kartı vs. AI Act teknik dokümantasyon: sistem kartı gönüllü şeffaflıktır; AI Act teknik dokümantasyonu yüksek-riskli sistemler için zorunludur.
- Sistem kartı vs. veri sayfası: veri sayfası yalnız veriyi tarif eder; sistem kartı dağıtılmış sistemi uçtan uca tarif eder.
Sistem kartı neden yayınlanır?
- Düzenleyici hazırlık: AB AI Act ve GPAI yükümlülükleri benzer bilgi gerektirir; sistem kartları uyumla köprü kurar.
- Müşteri güveni: kurumsal alıcılar giderek şeffaflık dokümantasyonu ister.
- Olay tepkisi: kamuya açık sistem kartları sorunlar ortaya çıktığında kök neden analizini hızlandırır.
- İç hizalanma: kart taslağı tasarım kararlarının net belgelenmesini zorlar.
Yapın: her müşteri-yüzlü AI dağıtımı için sistem kartı yayınlayın; her maddi değişiklikle sürüm güncelleyin.
Yapmayın: sistem kartını pazarlama materyali olarak görmeyin — sınırlamaların dürüst belgelenmesi aşırı iddiadan daha fazla güven inşa eder.