Kısaca: Yapay zihinlerin davranışını yönetme iddiasındaki birbirinden çok farklı iki metin var. Biri, Isaac Asimov’un 1942’de kurgu için yazdığı, üç keskin buyruktan oluşan Robot Yasaları. Diğeri, Anthropic’in Claude model ailesini eğitmek için kullandığı, gerçek ve yazılı ilkelerden oluşan “anayasa”. Bu ikisini yan yana okumak, edebî bir merakın ötesinde bir şey: çağımızın asıl sorusunu ortaya seriyor. Bir makinenin etik sınırı kurallar halinde yazılabilir mi, yoksa bir değer olarak sisteme büyütülmek mi zorundadır? Ve mühendisler için bu soruyu yanıtladığımızda, hukuk için kim yanıtlayacak?
Seksen yıl arayla iki anayasa
Asimov’un Yasaları aldatıcı bir zarafete sahiptir. Bir robot bir insana zarar veremez veya hareketsiz kalarak zarar görmesine izin veremez; birinci yasayla çelişmediği sürece insanların emirlerine uymak zorundadır; ilk iki yasayla çelişmediği sürece kendi varlığını korumak zorundadır. Yıllar sonra, Robots and Empire‘da (1985) Asimov, hepsinin üstünde duran bir “Sıfırıncı Yasa” ekledi: bir robot insanlığa zarar veremez veya hareketsiz kalarak insanlığın zarar görmesine izin veremez.
Anthropic’in anayasası bütünüyle başka türden bir nesnedir. Üç cümle değil, yapılandırılmış bir ilkeler listesidir — kaynakları BM İnsan Hakları Evrensel Bildirgesi’nden platform güven-ve-güvenlik pratiklerine, Batı-dışı bakış açılarını bilinçli olarak dahil etme çabalarına kadar uzanır. Daha da önemlisi, model bu anayasaya yanıt verdiği anda başvurmaz. Anayasa eğitim sırasında kullanılır: model bir yanıt üretir, bu yanıtı ilkeler ışığında eleştirir, düzeltir; ve bu düzeltme örüntüsü, Anthropic’in Anayasal Yapay Zekâ (Constitutional AI) ve yapay zekâ geri bildiriminden pekiştirmeli öğrenme (RLAIF) adını verdiği süreçle modelin ağırlıklarına işlenir.
İşte bütün hikâye bu farkta: çalışma anında uygulanan kurallar ile eğitim sırasında özümsenen değerler arasındaki fark. Bu, bir hız sınırı tabelası ile dikkati içselleştirmiş bir sürücü arasındaki farktır.
Asimov’un Yasaları neden başarısız olmak için tasarlandı
Şunu hatırlamakta fayda var: Asimov, Üç Yasa’yı güvenli makineler için bir şablon olarak yazmadı. Onları bir dramatik araç olarak yazdı. Ürettiği neredeyse her robot öyküsü, aslında bir hata raporudur: Yasaların lafzen ve sadakatle uygulandığında saçma, tehlikeli ya da trajik bir sonuç ürettiği bir durum. Yasalar tam da ilginç biçimlerde kırılabilsinler diye vardır.
Bu kırılma biçimleri, bugün gerçek yapay zekâ güvenliği araştırmacılarını meşgul eden sorunlarla neredeyse birebir örtüşür.
Tanım sorunu. Birinci Yasa bir “insana” “zarar” vermeyi yasaklar. Peki zarar nedir? Yalnızca fiziksel yaralanma mı, yoksa psikolojik, mali, itibari zarar da mı? Hangi zaman ölçeğinde? Acı veren bir gerçek bir zarar mıdır? Asimov’un robotları bu sözcükleri insanüstü bir kesinlikle ayrıştırabiliyordu; gerçek sistemler bunu yapamaz. Bir kural, altındaki tanımlar kadar iyidir — ve en zor etik sorular tam da tanımların tükendiği yerde yaşar.
Çatışma sorunu. Yasalar hiyerarşiktir; bu, iki insanın çıkarı çatışana dek — birine zarar vererek diğerini korumak gerektiğinde — bir çözüm gibi görünür. Katı bir hiyerarşi, gerçek bir ikileme dürüst bir yanıt vermez; ikilemi yalnızca bir öncelik kuralının arkasına saklar.
Sıfırıncı Yasa sorunu. Hepsinin en öğreticisi budur. Asimov bir robota “insanlık” gibi bir soyutlama üzerine akıl yürütme izni verdiği anda, ona herhangi bir bireyi “daha büyük iyilik adına” hiçe sayma ruhsatı vermiş oldu. Romanlarda olan tam da budur. Herkesi korumak için yeterince yükseltilen bir kural, herhangi birine zarar vermeyi haklı çıkarabilen bir kurala dönüşür. Ölçekte koda gömülmüş iyiniyet, vesayetçiliğe dönüşür. Bu, kurgunun bir tuhaflığı değil; hizalama (alignment) topluluğunun sabit bir hedefi optimize eden yetkin bir sistemden duyduğu temel korkudur.
Zemin sorunu. Asimov, Yasaları “pozitronik beyinde” fiziksel yapılar olarak hayal etti — bir robotu Yasalar olmadan yapamazdınız, tıpkı bir köprüyü yerçekimi olmadan yapamayacağınız gibi. Modern yapay zekânın böyle bir katmanı yoktur. Büyük bir dil modeli kurallara uymaz; eğitimle biçimlenmiş olarak, en olası devamı tahmin eder. Modelin içinde, üç buyruğu koyup tutacaklarına güvenebileceğiniz bir raf yoktur. Bu tek gerçek, “yönetimi-kazıma yoluyla sağlama” şeklindeki bütün Asimovcu hayali çözer.
Anayasal Yapay Zekâ neyi farklı yapıyor — ve onun sınırları nerede
Anthropic’in yaklaşımını en iyi, zemin sorununa doğrudan bir yanıt olarak anlayabiliriz. Kuralları makinenin içine kuramıyorsanız, eğitim sırasında onun karakterini biçimlendirmeyi deneyebilirsiniz; öyle ki arzu edilen davranış en az dirençli yol haline gelsin. Bir insanın binlerce çıktıyı iyi ya da kötü diye etiketlemesi yerine, model kendi çıktılarını yazılı ilkelerle yargılayıp düzeltir ve bundan öğrenir.
Bu, Asimov’dan üç bakımdan gerçekten farklıdır. Çoğuldur, asgari değil — üç değil, çok sayıda ilke. Olasılıksaldır, mutlak değil — eğilimleri kaydırır, sonuçları garanti etmez. Ve değiştirilebilirdir — anayasa, tartışılabilen, değiştirilebilen, hatta Anthropic’in denediği gibi kamuoyu katkısına açılabilen bir belgedir.
Ama dürüstlük, sınırlarını da adlandırmayı gerektirir — çünkü bu sınırlar gerçektir ve hukukun dikkatini vermesi gereken yer tam da burasıdır.
Birincisi, eğitim bir garanti değildir. İstatistiksel bir eğilim olarak öğrenilen bir değer; yeterince zekice kurulmuş bir komutla, olağandışı bir bağlamla veya eğitimi aşan bir yetenekle aşılabilir. “Genellikle iyi davranır” ile “başka türlü davranamaz”, farklı güvenlik iddialarıdır; “anayasa” sözcüğünün verdiği rahatlığın bu ikisini bulanıklaştırmasına izin vermemeliyiz.
İkincisi, anayasayı birisi yazar. Asimov’un Yasaları en azından sabit ve görünür olma dürüstlüğüne sahipti. Özel bir anayasa ise kurgunun hiç yanıtlamak zorunda kalmadığı bir soruyu doğurur: kalem kimin elinde? Milyonlarca insanın kullandığı bir sistemi biçimleyen ilkeler tek bir şirketin içinde kaleme alınıyorsa, meşruiyet sorunu teknik değil, demokratiktir. İyi niyetli de olsa, özel bir anayasa yine de özeldir.
Üçüncüsü, kara kutu yerinde durur. Değerler bir kural çizelgesine yazılmak yerine milyarlarca parametreye yayıldığı için, belirli bir kararı üreten satırı gösteremezsiniz. Asimov’un robotları hangi Yasanın kendilerini zorladığını açıklayabiliyordu. Bizimkiler, şimdilik, çoğu zaman açıklayamıyor.
Peki etik sınır gerçekte nerede?
İşte rahatsız edici sentez. Asimov bize etiğin kısa bir kurallar listesine indirgenemeyeceğini öğretir — dünya fazla muğlak, ikilemler ise gerçektir. Anayasal Yapay Zekâ bize, buyruk eklemek yerine değer eğitmenin daha iyi bir yol olduğunu öğretir — ama bu eğitim eğilim satın alır, kesinlik değil; ve zorlu soruyu sessizce “kurallar nedir?” sorusundan “değerleri kim belirliyor ve onların tutturulduğunu nasıl doğrularız?” sorusuna taşır.
O halde yapay zekânın etik sınırı, aslında makinenin içine çizilmiş bir çizgi hiç değildir. Üç yasada ya da bir anayasada yaşamaz. Makinenin çevresindeki kurumsal düzenlemede yaşar: değerleri kim belirliyor, kim denetleyebilir, başarısız olduğunda kim hesap veriyor ve kim değiştirebiliyor. En önemli sınır kodlanmış değil, yönetilen bir sınırdır.
Hukukçu gözüyle: kazınmış kurallardan hesap verebilir kurumlara
Tartışmanın filozofların ve mühendislerin sorusu olmaktan çıkıp hukukçuların ve düzenleyicilerin sorusu haline geldiği yer burasıdır — ve bizim açımızdan asıl ilginçleştiği yer de.
Dikkat edin, hukuk bu tam geçişi bir kez zaten yaşadı. Kurumsal zararı, birkaç kırılmaz buyruk yazıp bunları yönetim kurulu duvarına kazıyarak önleyebileceğimiz fikrini çoktan terk ettik. Onun yerine yönetişim kurduk: belirli kişilerin üstlendiği yükümlülükler, açıklama görevleri, denetimler, işler kötü gittiğinde devreye giren sorumluluk ve koşullar değiştikçe kuralları değiştirme mekanizmaları. Şirketler hukuku üç yasa değildir; mahkemelerle donatılmış, yaşayan bir anayasadır. Yapay zekâ yönetişimi de aynı yoldan geçiyor.
Böyle okunduğunda, son yılların düzenleyici dönüşü — risk-kademeli yükümlülükler, şeffaflık ve belgeleme görevleri, insan-gözetimi şartları ve adı belli bir sağlayıcıya yüklenen sorumluluk — bürokratik bir fazlalık değildir. Hukuk sisteminin, Asimov’un kurgusunun kazımanın sağlayamayacağını kanıtladığı şeyi yapay zekâ için yapmasıdır: hiçbir iç kural çizelgesinin, ne kadar zarif olursa olsun, tek başına sağlayamayacağı dışsal hesap verebilirlik katmanını sunmak. Modelin içindeki bir anayasa ile dışındaki bir anayasa (mevzuat, sözleşme, sorumluluk) rakip değildir; aynı yanıtın iki yarısıdır.
Bu sistemleri fiilen kullanan kurumlar için üç pratik ders çıkar. Etiğinizi modelin eğitimine havale etmeyin. “Tedarikçi Anayasal Yapay Zekâ kullanıyor” yararlı bir bilgidir, bir uyum stratejisi değil; müşterilerinize ve düzenleyicilere karşı yükümlülükleriniz, üçüncü bir tarafın eğitim hattına devrolmaz. Diğer her kritik tedarikçiden talep edeceğiniz yönetişim katmanını burada da isteyin: belgeleme, davranışı test etme ve denetleme imkânı, sorumluluğun sözleşmeyle paylaştırılması ve riskin gerektirdiği yerde döngüde bir insan. Ve değerleri hareketli bir hedef olarak görün — nasıl bir anayasa değiştiriliyorsa, bir modeli yöneten ilkeler de değişecektir; sözleşmeleriniz ve politikalarınız kalıcılığı değil, revizyonu varsaymalı.
Vircon değerlendirmesi
Asimov bize makineler tarihinin en ünlü kurallarını verdi; sonra da bir kariyer boyunca kuralların tek başına neden hiçbir zaman tutmadığını gösterdi. Anthropic’in anayasası ciddi ve bize göre gerçekten daha iyi bir deneme — buyruk oymak yerine değer büyütüyor — ama o da en derin soruların artık hiç mühendislik sorusu olmadığını açıkça ortaya koyuyor. Bunlar meşruiyet ve hesap verebilirlik sorularıdır: değerleri kim yazıyor, kim görebiliyor ve başarısız olduğunda kim yanıt veriyor.
İşte bu, tam da hukukun kurulduğu alandır. Yapay zekânın etik sınırı, nihayetinde sistemin içindeki zekice bir cümleyle belirlenmeyecek. Çevresine kurduğumuz kurumlarla belirlenecek — ve bu bir metin kaleme alma sorunudur, bir yönetişim sorunudur ve derinlemesine insani bir sorundur. Asimov’dan seksen yıl sonra, robotiğin en önemli yasasının, bir robotun uyduğu bir yasa değil; bu sistemleri — ve birbirimizi — nasıl hesap verebilir kılacağımıza dair kendimiz için yazdığımız bir yasa olduğu ortaya çıkıyor.
Canlı bir anlaşmazlık: kalemi kimin tutacağında laboratuvarlar bile anlaşamıyor
Bu soyut bir tartışma değil; 2026’da yüksek sesle yürütülüyor ve dikkat çekici biçimde, alanın iki önde gelen laboratuvarı farklı yerlerde duruyor. Anthropic’in CEO’su Dario Amodei, teknolojinin geleceğine “birkaç şirketin, birkaç kişinin” karar vermesinden “derinden rahatsız” olduğunu söyledi; öncü geliştiricilerin riski nasıl test edip azalttıklarını açıklamasını şart koşan, şeffaflık temelli düşünülmüş bir düzenlemeyi savundu ve eyalet düzeyindeki kurallara toptan moratoryum gibi kör tedbirlere karşı çıktı. OpenAI ise Haziran 2026’da yayımladığı politika belgesinde Kongre’den tek bir federal çerçeve çıkarmasını ve birbirinden ayrışan eyalet yasalarının önüne geçmesini (preemption) istedi: “kuralı tek elden Washington koysun” diyen merkezîleştirici bir yaklaşım. Ayrıntıyı bir kenara koyduğunuzda ayrışma, tam da bu yazının çevresinde döndüğü sorudur — mesele yapay zekânın yönetilip yönetilmeyeceği değil, kalemi kimin ve hangi düzeyde tutacağıdır. Bir taraf değerleri bir avuç özel aktöre bırakmaktan korkuyor; diğer taraf birbiriyle çelişen kamusal kuralların oluşturduğu yamalı bohçadan. Alanın iki lider üreticisinin artık düzenlenmeyi talep ediyor — ve nasıl olacağında hâlâ anlaşamıyor — olması, yapay zekânın etik sınırının baştan beri sezdiğimiz yere çizildiğinin en açık işareti: modelin içine değil, çevresindeki kurumlara.
Bu yazı genel bir analiz ve düşünce-liderliği içeriğidir; hukuki danışmanlık niteliği taşımaz. Yapay zekâ yönetişimi hızla gelişen bir alandır ve somut yükümlülükler, durumunuza uygulanan hukuk çerçevesinde değerlendirilmelidir.
