TLDR:
Model kartı, bir AI modelinin amaçlanan kullanımını, eğitim verisini, performans özelliklerini, sınırlamalarını, etik düşüncelerini ve bilinen risklerini kapsayan standartlaştırılmış belgeleme eseridir. Model kartı kavramı 2018’de Google araştırmacıları tarafından tanıtıldı ve sorumlu AI dağıtımı boyunca standart uygulama haline geldi.
Standart Model Kartı İçeriği
Tam bir model kartı tipik olarak şunları içerir: model detayları (ad, sürüm, tür, geliştirici, atıf), amaçlanan kullanım (birincil kullanım vakaları, kullanıcılar, kapsam dışı kullanımlar), faktörler (performansı etkileyen ilgili faktörler—demografi, çevre koşulları), metrikler (seçilen değerlendirme metrikleri ve alt gruplar arasında ayrıştırılmış performans), değerlendirme verisi, eğitim verisi, adalet analizi dahil nicel analizler ve bilinen riskler ve azaltma önlemleri dahil etik düşünceler.
Model Kartları Neden Önemli
Model kartları birden çok paydaşa hizmet eder: aşağı akış geliştiriciler modelin kullanım vakalarına uyup uymadığını anlar; kullanıcılar sınırlamaları anlar; denetçiler ve düzenleyiciler değerlendirmek için yapılandırılmış bir esere sahip olur; ve daha geniş topluluk modelleri tutarlı boyutlarda karşılaştırabilir. Büyük temel model sağlayıcıları (Anthropic, OpenAI, Google, Meta) yeni sürümler için model kartları veya sistem kartları yayımlar.
Düzenleyici Benimseme
Model kartları gönüllü en iyi uygulamadan düzenleyici gerekliliğe doğru ilerledi: AB AI Act yüksek riskli AI sistemleri için model kartı içeriğini yakından yansıtan teknik belgeler gerektirir; AB’nin GPAI Davranış Kuralları genel amaçlı AI için model belgelendirmesi gerektirir; sektörel düzenleyiciler (tıbbi AI için FDA, kredi modelleri için finansal düzenleyiciler) yapılandırılmış model belgelendirmesi gerektirir. AI sistemleri inşa eden kuruluşlar model kartlarını erken standart uygulama olarak benimsemelidir.