Yapay Zeka ve Coase Teoremi
Yapay zekanın neden olduğu zararlardan kimi sorumlu tutmalıyız? İktisat bu soruya cevap vermemize yardımcı olabilir mi?
Tyler Cowen, Bloomberg'deki son yazısında, yapay zekanın, özellikle de büyük dil modellerinin neden olduğu zararlardan kimin sorumlu tutulması gerektiği sorusunu tartışıyor. Bu konuda çeşitli görüşler var. Bir görüşe göre yapay zekayı geliştiren ve yapay zekalı ürünler sunan şirketler, yapay zekanın neden olacağı zararlardan sorumlu tutulmalı. Neden? Bu görüşü savunanlar, bu şirketlerin ancak bu şekilde güvenli ürünler üreteceklerini söylüyor. Tyler Cowen yazısında, iktisattaki Coase Teoremi'ne atıf yaparak bunun iyi bir çözüm olmadığını savunuyor.
Cowen'in ne dediğini daha iyi anlamak için önce Coase Teoremi nedir, ona bakalım.
Coase Teoremi
Coase teoremi, dışsallıklar, mülkiyet hakları ve hukuki sorumluluklar ile ilgili bir teorem. Diyelim ki, sizin evin alt katına bir market açıldı ve bu marketin buzdolabı aşırı gürültü yapıyor. Geceleri uyuyamıyorsunuz. Çıldıracak gibisiniz... Market sahibi normal işini yaparken yan ürün olarak da sizin kafanızı şişiren bir gürültü üretiyor. İktisatçılar buna "negatif dışsallık" diyor. Eğer marketteki buzdolabı geceleri size ninni gibi gelen sesler üretseydi, buna da "pozitif dışsallık" diyecektik.
Coase Teoremi, negatif dışşallığı üreten (alt kattaki market) ile bu dışşsallıktan zarar gören (siz) arasındaki sorunun nasıl çözüleceği ile ilgili bir teorem. Düşünürseniz alt kattki gürültücü market konusunda çeşit çeşit çözüm üretebiliriz. Misal, kamu otoritesi gürültülü buzdolaplarını yasaklayabilir, gürültü çıkaran buzdolaplarına daha yüksek vergi uygulayabilir, apartman altlarına market açılmasını engelleyebilir ve hatta apartmana açılan marketlere ses izolasyonu yapma zorunluluğu getirebilir. Kamu otoritesi bunları yapmıyorsa, biz birey olarak kamu otoritesinden böyle bir şeyler yapmasını isteyebiliriz. Alternatif olarak mesela Bakan Nebati'ye twit atıp, Yeni Ekonomi Modeli çerçevesinde faizlerin biraz daha düşürülerek bu ve bu gibi gürültücü marketlere bir ders verilmesini isteyebiliriz! Veyahut, kamu otoritesinden bir şey istemek yerine, kendi çözümümüzü üretmek isteyebiliriz. Bakkal ve marketlerin buzdolabı gürültüsünden uyuyamayanlar olarak örgütlenip Twitter'da bu bakkal ve marketlere karşı bir kampanya düzenleyebiliriz. Bu da olmuyorsa, market sahibine gidip bu işi konuşarak çözmeye çalışabiliriz... Örnekler çoğaltılabilir. Temel nokta şu: bireysel, topluluk ve kamu otoritesi seviyelerinde çeşit çeşit çözüm arayabiliriz.
Gürültücü market sorunundan daha yaygın bir sorun olan çevreyi kirleten fabrikalar sorunu düşünün. Bu fabrikalar bir negatif dışsallık, kirlilik, üretiyor. Bunu nasıl çözeceğiz? Coase teoremini ortaya atan Ronald Coase'dan önce iktisatçılar, negatif dışsallıkların tepeden inme bir biçimde kamu otoritesi eliyle çözülebileceğini düşünüyordu. En çok anılan çözüm de Arthur Pigou'nun adıyla anılan Pigoucu vergi çözümüydü. Temel fikir ve çözüm, negatif dışsallık üreten firmaların üretimini vergiye tabii tutmak, yani kirlilik üretmeyi daha maliyetli hale getirmekti. Coase, The Problem of Social Cost (1960) başlıklı makalesi ile bu düşünce biçimini sorguladı.
Coase dedi ki, bu Pigou ve yandaşları ekonomide dışsallık dışında bir aksaklık olmadığını varsayıyor ama zaten dışsallık dışında bir aksaklık yoksa, piyasa çözümü kendisi üretecektir. Coase'a göre, piyasalar etkin bir şekilde işliyorsa ve işlem maliyetleri sıfırsa, gürültücü market sorunu için hastag oluşturup devletten yardım istemenize gerek yok. Market sahibi ile biraz konuşur biraz pazarlık yaparsanız, toplam refahı arttıracak bir çözüm üretebilirsiniz. Artık market sahibi size ses izolasyonu malzemesi mi hediye eder, yoksa yeni ve sesiz buzdolabının parasını sizden mi ister onu bilemiyorum. Ama eğer piyasalar etkin işliyorsa ve işlem maliyetleri sıfırsa, yasayla tanımlanan hak ve sorumlulukların nasıl dağıtıldığından bağımsız olarak, siz kamu otoritesine ihtiyaç duymadan bu sorunu çözebilirsiniz. En azından teorem bunu söylüyor.
İnanmadığınızı hisseder gibiyim. Şöyle düşünün. Yasa size mışıl mışıl bir uyku hakkı vermiş ve bunu bozan herkesi sorumlu tutmuş olsun. Bu durumda hukuk sisteminin kusursuz işlediği bir ülkede, markete karşı güçlü el sizde olacaktır. Eğer market sizin apartmandan taşınarak gelir kaybedeceğini öngörüyorsa, sessiz bir buzdolabı almaya kolayca ikna olabilir ya da size gürültüyü kabullenmeniz için biraz para önerebilir.
Şimdi diyelim ki, eliniz böyle güçlü değil. Hatta, şöyle düşünelim: farazi ülkemizdeki yasalar marketi koruyor olsun. Şimdi bu duruma bakalım. Önce şunu sormamız lazım. Uykunuz sizin için ne kadar değerli? Mesela, uykusuz kalınca işteki üretkenliğiniz düşüyor olabilir. Bu sebeple gelir kaybediyor olabilirsiniz. Öyleyse, uykunuzun sizin için iktisadi bir değeri var demektir. Eğer uykunuz sizin için yeterince değerliyse ve yasalar marketi koruyorsa, markete yeni ve sessiz buzdolabı alması için para vermeyi düşünebilirsiniz. Ya da oradan toptan taşınabilirsiniz. Çözümün ne olacağı hem sizin uykunuzun hem de marketin yer seçiminin değerine bağlı olacaktır.
Özetle ideal koşullarda, hukuki kuralların kimi koruduğundan bağımsız olarak, bir çözüm üretilebilir. Üstelik, bu çözüm sizin ve marketin ürettiği iktisadi değeri (ve maliyetleri) dikkate aldığı için, iktisadi açıdan da etkin olacaktır. Dikkat ederseniz, Coase burada toplam değeri dikkate alıyor. Bu önemli. Sadece sizin uykuya verdiğiniz değeri (ya da uykusuzluğun size maliyetini) değil, sadece markettin ürettiği değeri (veya gürültüyü azaltmanın maliyetini) değil; bu iki değerin (ve maliyetin) toplamını dikkate alıyor.
Şimdi diyeceksiniz ki, "olur mu böyle şey!" Haklısınız. Zaten Coase da bu çözümün gerçek hayatta ortaya çıkacağını söylemiyor. Diyor ki, ideal koşullarda böyle olur. Sonra da ekliyor:
"The argument has proceeded up to this point on the assumption that there were no costs involved in carrying out market transactions. This is, of course, a very unrealistic assumption.” (Coase 1960, 15)"
Yani, "bu yaptığımız varsayımlar gerçekçi değildi" diyor. Coase, neden bu varsayımları yapmıştı? Hatırlayalım. O dönemde, Pigocu vergileri ve kamu otoritesinin müdahalesini savunanlar genel olarak bu varsayımları yapıyordu. Coase, bu argümanla onlara şunu demeye çalışıyordu: "İyi de kardeşim, bu varsayımları yapınca vergiye ve kamu müdahalesine gerek kalmıyor!" Asıl argümanı şuydu: piyasa her zaman etkin bir şekilde işlemediği için ve dolayısıyla işlem maliyetleri sıfır olmadığı için, oturduğumuz yerden politika önerisi üretemeyiz; detaylara bakmalıyız.
Coase Teoremi, market sahibiyle konuşup anlaşabileceğiniz bir ortam olduğunu varsayıyor. İşlem maliyetlerinin sıfır olmasının pratik anlamı bu. Ama bu her zaman mümkün değil. Uç bir örnek düşünelim. Mesela, hukuk sisteminin işlemediği, market sahibinin çeşitli ayrıcalıklar için belediyeye rüşvet verdiği ve gürültüden şikayet edenleri tehdit ettiği bir ortamda işlem maliyetlerinin sıfır olduğunu varsayamayız. Benzer bir şekilde, piyasada dışsallıklar dışında pek çok aksaklığın olduğu durumlarda da işlem maliyetleri sıfır değildir. Dolayısıyla, Coase Teoremi geçerliliğini yitirir.
Coase zamanında çok yanlış anlaşıldı. Bazı iktisatçılar, ders kitaplarında Coase'ın asıl argümanından bahsetmeden, Coase teoremini "piyasa aslında iyidir"i anlatmak için kullandılar. Bugün hala Coase’ın sadece "işleri piyasaya bırakın," "kamu müdahalesi kötüdür" dediğini sananlar var. Ama bu tam olarak doğru değil.
Bakın, Coase 1991'de Nobel ödülünü kabul ederken yaptığı konuşmada ne diyor?
"Since standard economic theory assumes transaction costs to be zero, the Coase Theorem demonstrates that the Pigovian solutions are unnecessary in these circumstances. Of course, it does not imply, when transaction costs are positive, that government actions (such as government operation, regulation or taxation, including subsidies) could not produce a better result than relying on negotiations between individuals in the market. Whether this would be so could be discovered not by studying imaginary governments but what real governments actually do. My conclusion; let us study the world of positive transaction costs.” Coase (1991)
Yani diyor ki, standart iktisat teorisinin varsayımları altında (işlem maliyetleri sıfırken) Pigocu çözümlerin gereksiz olduğunu gösterdim ama bu, işlem maliyetlerinin pozitif olduğu durumda kamu politikalarının kötü olduğu anlamına gelmez; ben, hayali senaryoları bırakıp pozitif işlem maliyetleri dünyasını inceleyelim demeye çalışıyordum.
Özetleyelim, genel olarak anlaşıldığı şekliyle, Coase teoremi, rekabetçi koşullarda ve işlem maliyetleri sıfırken özel aktörlerin (bireylerin ve firmaların) kamuya ihtiyaç duymadan etkin bir çözüm üretebileceğini söylüyor. Ama gerçek dünyada koşullar çoğu zaman böyle değil. Bu sebeple, Coase'a göre her durumu dikkatlice inceleyip aksaklıkların ve işlem maliyetlerinin etkisini anlamak gerekiyor. Coase, politika önerisi yapacaklara, önce bu çalışmayı yapmalarını salık veriyor.
Coase Teoremi ve Hukuk
Coase teoreminin çeşit çeşit versiyonu var. Yazının başında adı geçen Tyler Cowen, yapay zeka konusunu ele alırken, hukukta kullanılan bir versiyonuna atıf yapıyor. Teoremi tersten düşünüp şunu sorabiliriz: Eğer, piyasada ortaya çıkan zarardan birini sorumlu tutmak istersek, kimi sorumlu tutmalıyız?
Coase Teoremi'nden şunu öğrendik. İşlem maliyetlerinin olmadığı, piyasaların şıkır şıkır işlediği bir ortamda hukuken kimin sorumlu tuttuğumuzun iktisadi olarak bir önemi yok. Bu sürtünmesiz ortamda kimi sorumlu tutarsak tutalım, iktisadi olarak etkin bir sonuca ulaşabiliriz. Coase'dan da şunu öğrendik: gerçek dünyada işlem maliyetleri sıfır değil; sürtünmesiz bir ortam yok. Öyleyse, hukuken kimi sorumlu tutuğumuz iktisadi olarak da önemli olmalı. Hukuk ve İktisat literatürü bu gözlemden yola çıkarak, gerçek dünyada kimin sorumlu tutulması gerektiği ile ilgili çalışmalarla dolu. Bu literatürdeki bir Coase Teoremi yorumu şu: Eğer işlem maliyetleri sıfır değilse Coase Teoremi, sorumluluğun altından en az maliyetle kalkabilecek olanı, zararı en az maliyetle engelleyebilecek olanı sorumlu tutmamızı söyler.
Peki neden? Bunu anlamak için konuya iktisadi açıdan baktığımızı unutmadan trafik kazalarını düşünün. Trafik kazalarının iki tür maliyeti var. Birincisi kazanın ortaya çıkardığı maliyetler. İkincisi ise kaza gerçekleşmesin diye katlandığımız maliyetler. Hatırlarsanız Coase bize toplam değer ve maliyeti dikkate alın diyordu. Eğer iktisadi açıdan etkin bir çözüm üretmek istiyorsak trafik kazalarının ve trafik kazalarını önlemenin maliyetini birlikte ele almak gerekir. İtalyan asıllı Amerikalı hukukçu ve Hukuk ve İktisat alanının öncülerinden biri olarak kabul edilen Guido Calabresi’nin "The Cost of Accidents" diye bir kitabı var. Calabresi, bu kitapta kimin hukuki olarak sorumlu tutulacağını Coase’dan ilham alarak belirleyebileceğimizi söylüyor ve sorumluluktan en az maliyetle kurtulabilecek tarafın veya zararı en az maliyetle engelleyebilecek tarafın hukuki olarak sorumlu tutulmasını öneriyor.**
Bu mantığa göre, eğer bir taraf, kazanın gerçekleşmesini kolay bir şekilde engelleyebilecek durumdaysa, onu sorumlu tutmak gerekir. Mesela, otomobil sürücüleri basit birkaç kurala uyarak şehir içi yollarda yayalara zarar vermeden ilerleyebilir. Çoğu durumda, sürücü için kazayı önlemenin, yani sorumluluktan kurtulmanın maliyeti düşüktür, bu sebeple de çoğu durumda sürücünün sorumlu tutulması mantıklıdır. Bu, toplam kaza maliyetini minimize eden bir çözümdür.
Özetle, eğer biri kolay bir şekilde zararın ortaya çıkmasını engelleyebilecek durumdaysa ve bunu yapmıyorsa zarardan sorumlu tutulabilir. Ama eğer zararın ortaya çıkmasını engellemek için büyük maliyetlere katlanması, normalde kontrol etmesi mümkün olmayan pek çok şeyi kontrol etmesi gerekiyorsa, bu kişiyi veya firmayı kazadan tamamen sorumlu tutmak iktisadi olarak etkin bir sonuç üretmeyebilir.
Coase ve Yapay Zeka
Bu mantığı yapay zeka firmalarının sorumluluğu için de kullanmak mümkün. Tyler Cowen, Bloomberg'deki yazısında yapay zekanın verdiği zararlardan kimi sorumlu tutmak gerektiğini tartışırken, diyor ki: Yapay zekanın vereceği zarardan yapay zeka firmalarını sorumlu tutmak, Coase Teoremi'nin "minimum toplam maliyet" yorumu ile çelişiyor. Neden? Çünkü bu firmaların yapay zekanın kullanımı nedeniyle oluşabilecek tüm zararları kontrol etmeleri mümkün değil. Herkesin yapay zeka ile neler yapacağını, ne işler karıştıracağını bilmek mümkün değil. Bu sebeple bu firmaların doğacak tüm zararları engellemek için önlem alması çok maliyetli olacaktır. Dolayısıyla, her türlü zarar için bu firmaları sorumlu tutarsak, bu firmalar batar. Bu iktisadi olarak etkin bir çözüm olmaz; yapay zekamız güdük kalır!
Cowen, bize genelde firmaları ortaya çıkan her zarardan sorumlu tutmadığımızı da hatırlatıyor. Düşünürseniz, telefon aracılığıyla işlenen suçlardan telekom şirketini sorumlu tutmuyoruz. Bir romandan ilham alıp işlenen bir suç için kitabın yayıncısını hapse atmıyoruz. Google’da hastalığımız ile ilgili arama yapıp, kendi kendimize uyguladığımız tedaviden zarar görünce Google’u sorumlu tutmuyoruz. Neden? Bu firmaların bizim telefonu, kitabı ve arama sonuçlarını nasıl kullanacağımızı öngörüp zararı engellemeleri çoğu zaman mümkün değil; engellemelerini istesek onlar için büyük bir maliyet yaratmış oluruz. "Sorumluluktan en az maliyetle kurtulabilecek, zararı en az maliyetle engelleyebilecek taraf" değiller. Tyler Cowen diyor ki, yapay zeka firmalarını da benzer bir şekilde ele almalıyız, onları neden oldukları her zarardan sorumlu tutamayız.
Sorun şu. Söz konusu yapay zeka ve büyük dil modelleri o kadar hızlı gelişiyor ki ilgili firmaların ne tür zararlara neden olabileceklerini öngörmek imkansız gibi bir şey. Ne zaralara yol açabileceklerini, bu zararların hangilerini düşük maliyetle engelleyebileceklerini tam olarak bilmiyoruz. Hatırlayın Coase ne diyordu, işlem maliyetleri sıfır değilse, detayları iyi incelemeden karar almamak lazım. Detayları incelemek ve anlamak için daha çok zamana ihtiyacımız var. Tyler Cowen diyor ki, o zamana kadar, bu firmaları fazla sık boğaz etmeyin. Ben de diyorum ki, bu kadar bilinmeyen varken, belki de biraz daha temkinli ilerlesek daha iyi olur.
Bu konular bizi uzun süreler meşgul edecek. Bu yazı bir başlangıç olsun.
Notlar
(*) Coase Teoremi'ni biraz daha iyi anlamak istiyorsanız, Coase uzmanı bir iktisadi düşünce tarihçisi olan Steven Medema'nın "The Coase Theorem at Sixty" başlıklı makalesine bakabilirsiniz. Medema'nın diğer çalışmalarına da bakmak faydalı olacaktır. Ankara Üniversitesi'nden Altuğ Yalçıntaş hocanın da bu konuda bir çalışması var. Coase Teoremi'nin nasıl yanlış yorumlandığını ve bu yanlışın neden uzun süre düzeltilmediğini anlatıyor.
(**) Richard Postner’in Calabresi’nin yaklaşımı ile ilgili eleştirisi: “Guido Calabresi's 'The Costs of Accidents': A Reassessment”
Ellerine sağlık hocam.