Kısaca: Yapay zihinlerin davranışını yönettiğini iddia eden, birbirinden çok farklı iki metin var. Biri, Isaac Asimov’un 1942’de kurgu için yazdığı ve üç keskin buyruktan oluşan Robot Yasaları. Diğeri, Anthropic’in Claude model ailesini eğitmek için kullandığı, gerçek ve yazılı ilkelerden oluşan “anayasa”. Bu ikisini yan yana okumak, edebî bir meraktan öte bir şey: çağımızın temel sorusunu açığa çıkarıyor. Bir makinenin etik sınırı kurallar halinde yazılabilir mi, yoksa sisteme bir değer olarak kazandırılması mı gerekir? Bu soruyu mühendisler için yanıtladığımızda, hukuk için kim yanıtlayacak?
Aralarında seksen yıl olan iki anayasa
Asimov’un Yasaları ilk bakışta kusursuz görünür. Robot bir insana zarar veremez ya da hareketsiz kalarak bir insanın zarar görmesine göz yumamaz; birinci yasayla çelişmediği sürece insanların emirlerine uymak zorundadır; ilk iki yasayla çelişmediği sürece kendi varlığını korumak zorundadır. Yıllar sonra Asimov, Robots and Empire‘da (1985) hepsinin üzerinde yer alan bir “Sıfırıncı Yasa” ekledi: robot insanlığa zarar veremez ya da hareketsiz kalarak insanlığın zarar görmesine göz yumamaz.
Anthropic’in anayasası ise bambaşka nitelikte bir metin. Üç cümleden değil, düzenli bir ilkeler listesinden oluşuyor; kaynakları BM İnsan Hakları Evrensel Bildirgesi’nden platformların güven ve güvenlik uygulamalarına, Batı dışı bakış açılarını bilinçli olarak dahil etme çabalarına kadar uzanıyor. Daha da önemlisi, model yanıt verirken bu anayasaya başvurmuyor. Anayasa eğitim sırasında kullanılıyor: model bir yanıt üretiyor, bu yanıtı ilkeler ışığında eleştiriyor ve düzeltiyor; bu düzeltme örüntüsü de Anthropic’in Anayasal Yapay Zekâ (Constitutional AI) ve yapay zekâ geri bildiriminden pekiştirmeli öğrenme (RLAIF) adını verdiği süreçle modelin ağırlıklarına işleniyor.
Meselenin özü bu farkta yatıyor: çalışma anında uygulanan kurallar ile eğitim sırasında benimsenen değerler arasındaki fark. Bu, bir hız sınırı tabelası ile dikkatli olmayı içselleştirmiş bir sürücü arasındaki farka benzer.
Asimov’un Yasaları neden başarısız olmak üzere tasarlandı?
Şunu hatırlamakta yarar var: Asimov, Üç Yasa’yı güvenli makineler için bir şablon olarak yazmadı; onları dramatik bir araç olarak kurguladı. Yazdığı robot öykülerinin neredeyse hepsi aslında bir hata raporudur: Yasaların harfiyen ve sadakatle uygulandığında saçma, tehlikeli ya da trajik bir sonuç doğurduğu durumlar. Yasalar, tam da ilginç biçimlerde çökebilsinler diye vardır.
Bu çöküş biçimleri, bugün yapay zekâ güvenliği üzerine çalışan araştırmacıları uğraştıran sorunlarla neredeyse birebir örtüşür.
Tanım sorunu. Birinci Yasa bir “insana” “zarar” vermeyi yasaklar. Peki zarar nedir? Yalnızca bedensel yaralanma mı, yoksa psikolojik, maddi, itibari zarar da mı? Hangi zaman dilimi içinde? Acı bir gerçeği söylemek zarar mıdır? Asimov’un robotları bu kavramları insanüstü bir kesinlikle ayırt edebiliyordu; gerçek sistemler bunu yapamaz. Bir kural, dayandığı tanımlar kadar sağlamdır ve en zor etik sorular tam da tanımların yetersiz kaldığı noktada ortaya çıkar.
Çatışma sorunu. Yasalar bir hiyerarşi içinde sıralanmıştır. Bu, aynı yasanın iki farklı uygulaması çatışana, yani bir kişiyi korumak için diğerine zarar vermek gerekene kadar bir çözüm gibi görünür. Katı bir hiyerarşi, gerçek bir ikileme dürüst bir yanıt vermez; ikilemi yalnızca bir öncelik kuralının arkasına saklar.
Sıfırıncı Yasa sorunu. En öğretici olanı budur. Asimov bir robota “insanlık” gibi soyut bir kavram üzerinden akıl yürütme izni verdiği anda, ona herhangi bir bireyi “daha büyük iyilik adına” gözden çıkarma yetkisi de vermiş oldu. Romanlarda olan da tam olarak budur. Herkesi korumak için yeterince yükseğe konan bir kural, herhangi birine zarar vermeyi haklı çıkarabilen bir kurala dönüşür. Koda gömülen iyi niyet, büyük ölçekte vesayetçiliğe dönüşür. Bu, kurguya özgü bir tuhaflık değil; hizalama (alignment) alanında çalışanların sabit bir hedefi optimize eden yetkin bir sistem karşısındaki temel kaygısıdır.
Altyapı sorunu. Asimov, Yasaları “pozitronik beyindeki” fiziksel yapılar olarak hayal etti: yerçekimini hesaba katmadan köprü yapamayacağınız gibi, Yasalar olmadan da robot yapamazdınız. Modern yapay zekâda böyle bir katman yoktur. Büyük bir dil modeli kurallara uymaz; eğitimin şekillendirdiği biçimde en olası devamı tahmin eder. Modelin içinde üç buyruğu yerleştirip yerinde duracaklarına güvenebileceğiniz bir bölme yoktur. Bu tek gerçek, kuralları makineye kazıyarak yönetme yönündeki bütün Asimovcu hayali boşa çıkarır.
Anayasal Yapay Zekâ neyi farklı yapıyor ve onun da sınırları nerede?
Anthropic’in yaklaşımını en iyi, altyapı sorununa verilmiş doğrudan bir yanıt olarak anlayabiliriz. Kuralları makinenin içine yerleştiremiyorsanız, eğitim sırasında onun karakterini şekillendirmeyi deneyebilirsiniz; böylece istenen davranış en kolay yol haline gelir. Binlerce çıktıyı bir insanın iyi ya da kötü diye etiketlemesi yerine, model kendi çıktılarını yazılı ilkelere göre değerlendirip düzeltir ve bundan öğrenir.
Bu yaklaşım Asimov’dan üç açıdan gerçekten farklıdır. Çoğuldur, asgari değil: üç değil, çok sayıda ilke içerir. Olasılığa dayanır, mutlak değildir: eğilimleri değiştirir, sonucu garanti etmez. Ve değiştirilebilir: anayasa tartışılabilen, değiştirilebilen, hatta Anthropic’in denediği gibi kamuoyunun katkısına açılabilen bir belgedir.
Ancak dürüst olmak, sınırlarını da açıkça söylemeyi gerektirir; çünkü bu sınırlar gerçektir ve hukukun dikkatini yöneltmesi gereken yer tam da burasıdır.
Birincisi, eğitim bir garanti değildir. İstatistiksel bir eğilim olarak öğrenilen bir değer; yeterince ustaca kurgulanmış bir komutla, alışılmadık bir bağlamla ya da eğitimin önüne geçen bir yetenekle aşılabilir. “Genellikle doğru davranır” ile “başka türlü davranamaz” farklı güvenlik iddialarıdır; “anayasa” sözcüğünün verdiği güven duygusunun bu ikisini birbirine karıştırmasına izin vermemeliyiz.
İkincisi, anayasayı birileri yazar. Asimov’un Yasaları hiç değilse sabit ve görünür olma dürüstlüğüne sahipti. Özel bir anayasa ise kurgunun hiç yanıtlamak zorunda kalmadığı bir soruyu gündeme getirir: kalem kimin elinde? Milyonlarca insanın kullandığı bir sistemi şekillendiren ilkeler tek bir şirketin içinde yazılıyorsa, meşruiyet sorunu teknik değil, demokratik bir sorundur. İyi niyetli de olsa, özel bir anayasa yine özeldir.
Üçüncüsü, kara kutu sorunu ortadan kalkmaz. Değerler bir kural listesine yazılmak yerine milyarlarca parametreye dağıldığından, belirli bir kararı hangi satırın doğurduğunu gösteremezsiniz. Asimov’un robotları kendilerini hangi Yasanın zorladığını açıklayabiliyordu. Bizim robotlarımız ise şimdilik çoğu zaman bunu açıklayamıyor.
Peki etik sınır gerçekte nerede?
Varılan sonuç biraz rahatsız edici. Asimov bize etiğin kısa bir kurallar listesine indirgenemeyeceğini gösterir: dünya fazlasıyla belirsizdir ve ikilemler gerçektir. Anayasal Yapay Zekâ ise sonradan buyruk eklemek yerine değerleri eğitmenin daha iyi bir yol olduğunu gösterir; ancak bu eğitim kesinlik değil, yalnızca eğilim kazandırır ve asıl zor soruyu sessizce “kurallar neler?” sorusundan “değerleri kim belirliyor ve bunlara uyulduğunu nasıl doğrulayacağız?” sorusuna taşır.
Dolayısıyla yapay zekânın etik sınırı, aslında makinenin içine çizilmiş bir çizgi değildir. Ne üç yasada ne de bir anayasada bulunur. Bu sınır, makinenin etrafındaki kurumsal düzende belirlenir: değerleri kim koyuyor, bunları kim denetleyebiliyor, başarısız olduklarında kim hesap veriyor ve kim değiştirebiliyor? En önemli sınır koda yazılan değil, yönetilen sınırdır.
Hukukçu gözüyle: kazınmış kurallardan hesap veren kurumlara
Tartışma tam bu noktada filozofların ve mühendislerin sorusu olmaktan çıkıp hukukçuların ve düzenleyicilerin sorusuna dönüşüyor; bizim açımızdan da asıl burada ilginçleşiyor.
Dikkat edilirse hukuk, aynı dönüşümü daha önce bir kez yaşadı. Birkaç kesin buyruk yazıp bunları yönetim kurulu odasının duvarına asarak şirketlerin verdiği zararı önleyebileceğimiz fikrinden çoktan vazgeçtik. Bunun yerine yönetişim kurduk: belirli kişilere yüklenen yükümlülükler, açıklama yükümlülükleri, denetimler, işler ters gittiğinde doğan sorumluluk ve koşullar değiştikçe kuralları güncellemeye yarayan mekanizmalar. Şirketler hukuku üç yasadan ibaret değildir; arkasında mahkemeler bulunan, yaşayan bir anayasadır. Yapay zekâ yönetişimi de aynı yoldan ilerliyor.
Bu açıdan bakıldığında, son yıllarda düzenlemelerde görülen yönelim (risk düzeyine göre kademelenen yükümlülükler, şeffaflık ve belgeleme yükümlülükleri, insan gözetimi şartları ve sorumluluğun adı belli bir sağlayıcıya yüklenmesi) bürokratik bir yük değildir. Bu, hukuk düzeninin Asimov’un kurgusunun kuralları kazıyarak sağlanamayacağını gösterdiği şeyi yapay zekâ için sağlamasıdır: ne kadar zarif olursa olsun hiçbir iç kural listesinin tek başına sunamayacağı dışsal hesap verebilirlik katmanı. Modelin içindeki anayasa ile dışındaki anayasa (mevzuat, sözleşme, sorumluluk) birbirinin rakibi değildir; aynı cevabın iki yarısıdır.
Bu sistemleri fiilen kullanan kurumlar için buradan üç pratik sonuç çıkar. Etik sorumluluğunuzu modelin eğitimine bırakmayın. “Tedarikçi Anayasal Yapay Zekâ kullanıyor” bilgisi faydalıdır ama bir uyum stratejisi değildir; müşterilerinize ve düzenleyicilere karşı yükümlülükleriniz, üçüncü bir tarafın eğitim sürecine devredilmez. Diğer kritik tedarikçilerden beklediğiniz yönetişim katmanını burada da talep edin: belgeleme, davranışı test etme ve denetleme imkânı, sorumluluğun sözleşmeyle paylaştırılması ve riskin gerektirdiği yerlerde sürecin içinde bir insan. Son olarak, değerlerin sabit olmadığını kabul edin: anayasalar nasıl değiştiriliyorsa, bir modeli yöneten ilkeler de değişecektir; sözleşmeleriniz ve politikalarınız kalıcılığı değil, değişikliği esas almalıdır.
Vircon değerlendirmesi
Asimov bize makineler tarihinin en ünlü kurallarını verdi, sonra da bütün kariyeri boyunca kuralların tek başına neden hiçbir zaman yetmediğini gösterdi. Anthropic’in anayasası ciddi ve bize göre gerçekten daha iyi bir girişim, çünkü buyruk dayatmak yerine değer kazandırmayı hedefliyor. Ancak bu girişim de en temel soruların artık mühendislik soruları olmadığını açıkça ortaya koyuyor. Bunlar meşruiyet ve hesap verebilirlik sorularıdır: değerleri kim yazıyor, kim görebiliyor ve başarısız olduklarında kim hesap veriyor?
Bu, tam da hukukun var olma nedeni olan alandır. Yapay zekânın etik sınırını nihayetinde sistemin içine yazılmış zekice bir cümle değil, etrafına kurduğumuz kurumlar belirleyecek. Bu bir metin yazma sorunu, bir yönetişim sorunu ve özünde insani bir sorundur. Asimov’dan seksen yıl sonra, robotiğin en önemli yasasının bir robotun uyduğu bir yasa değil, bu sistemleri (ve birbirimizi) nasıl hesap verir kılacağımıza dair kendimiz için yazdığımız bir yasa olduğu anlaşılıyor.
Süren bir tartışma: kalemi kimin tutacağı konusunda laboratuvarlar bile anlaşamıyor
Bu soyut bir tartışma değil; 2026’da açıkça yürütülüyor ve dikkat çekici biçimde alanın önde gelen iki laboratuvarı farklı yerlerde duruyor. Anthropic’in CEO’su Dario Amodei, teknolojinin geleceğine “birkaç şirketin, birkaç kişinin” karar vermesinden “derinden rahatsız” olduğunu söyledi; öncü geliştiricilerin riskleri nasıl test ettiklerini ve azalttıklarını açıklamasını zorunlu kılan, şeffaflığa dayalı ve iyi düşünülmüş bir düzenlemeyi savundu ve eyalet düzeyindeki kurallara topyekûn moratoryum gibi kaba tedbirlere karşı çıktı. OpenAI ise Haziran 2026’da yayımladığı politika belgesinde Kongre’den tek bir federal çerçeve çıkarmasını ve birbirinden farklılaşan eyalet yasalarının önünü kesmesini (preemption) istedi: “kuralı tek elden Washington koysun” diyen merkeziyetçi bir yaklaşım. Ayrıntılar bir kenara bırakıldığında ayrışma, bu yazının etrafında döndüğü sorunun ta kendisidir: mesele yapay zekânın düzenlenip düzenlenmeyeceği değil, kalemi kimin ve hangi düzeyde tutacağıdır. Taraflardan biri değerlerin bir avuç özel aktöre bırakılmasından, diğeri ise birbiriyle çelişen kamusal kuralların oluşturacağı dağınık bir tablodan endişe ediyor. Alanın iki lider geliştiricisinin artık düzenleme talep etmesi ve bunun nasıl olacağı konusunda hâlâ anlaşamaması, yapay zekânın etik sınırının baştan beri tahmin ettiğimiz yerde çizildiğinin en açık göstergesi: modelin içinde değil, etrafındaki kurumlarda.
Bu yazı genel bir analiz ve görüş yazısıdır; hukuki danışmanlık niteliği taşımaz. Yapay zekâ yönetişimi hızla gelişen bir alandır ve somut yükümlülükler, durumunuza uygulanacak hukuk çerçevesinde değerlendirilmelidir.
İlgili: AB’ye yapay zekâ ürünü satan girişimler için EU AI Act kapsamında Türk girişimlerinin yükümlülükleri yazımıza göz atabilirsiniz.
