Makine Çağında Özgürlük

00:00:10 Ben Alan Turing. Bütün entelektüel hayatım, somut olanın ve imkânın

00:00:15 mekaniğiyle şekillendi; Cambridge’de evrensel hesaplama makinesinin teorik

00:00:20 temellerini atmaktan, savaş yıllarında Bletchley Park’ta Enigma şifrelerini

00:00:25 kırmaya ve ardından Manchester’da ilk programlanabilir elektronik bilgisayarları

00:00:30 inşa etmeye kadar. Bu tecrübeler bana şunu öğretti: Pratikte ve mantıkta hayata

00:00:35 geçirilemeyen bir özgürlük, kâğıt üzerindeki bir izinden ibarettir.

00:00:39 Teknolojik ilerlemeden kastım, insanın yapabilme kapasitesinin güvenilir bir

00:00:44 şekilde genişlemesidir. Bu, özgürlüğün kendisiyle aynı şey değildir. Pratik

00:00:49 kapasite, belirli bir hedefe ulaşma gücüdür. Bireysel özerklik, keyfi bir

00:00:54 tahakküme maruz kalmadan kendi yolunu çizebilmektir. Siyasi özgürlük ise

00:00:59 yurttaşların ortak dünyalarını kuran kuralları birlikte konuşabilmesi,

00:01:04 örgütlenebilmesi ve şekillendirebilmesidir. İddiam şartlı ama

00:01:08 açıktır: Teknoloji özgürlüğü otomatik olarak garanti etmez; ancak bilginin,

00:01:13 iletişimin, örgütlenmenin, sistemden çıkışın ve direnişin maddi maliyetini

00:01:17 kökten düşürerek toplamda özgürlük alanını genişletir. Bu gücün nasıl

00:01:22 dağıtılacağına kurumlar karar verir; fakat kurumların kendisi de teknolojinin

00:01:27 açtığı imkânlar dairesinde hareket etmek zorundadır.

00:01:30 Tespitiniz son derece açık Bay Turing, fakat özgürlüğü bir dizi işlevsel

00:01:35 kapasiteye indirgeyerek bir mühendisin bakış açısına hapsoluyor. Ben Hannah

00:01:40 Arendt. Weimar Cumhuriyeti’nin çöküşünü yaşamış, Nazi Almanyası’ndan kaçıp

00:01:45 vatansız bir mülteci olmanın ağırlığını taşımış ve 20. yüzyıl totalitarizmini

00:01:50 tahlil etmiş biri olarak, bütün düşünsel mesaimi özel tercihler ile hakiki

00:01:55 siyasi özgürlüğü birbirinden ayırmaya adadım. Teknoloji insan kapasitesini

00:02:00 kuşkusuz artırır: Daha verimli üretmemizi, hesaplamamızı, yönetmemizi ve

00:02:05 iletişim kurmamızı sağlar. Kişisel özerklik, bir insanın baskı altında

00:02:10 kalmadan seçim yapabilmesidir. Siyasi özgürlük ise bambaşka bir şeydir.

00:02:15 Eşitlerin ortak bir kamusal alanda birbirlerinin karşısına çıkmasıyla,

00:02:19 müşterek dünyayı yargılamasıyla ve hiçbir idari aygıtın veya algoritmanın

00:02:24 sonucunu önceden kestiremeyeceği yeni bir başlangıcı birlikte yapabilmesiyle var

00:02:30 olur. İtirazım tam da 'toplamda' ifadesinedir. Teknik sistemler özel

00:02:34 seçenekleri çoğaltırken, gayelerin tartışıldığı kamusal alanı daraltabilir.

00:02:39 Asıl belirleyici soru bir makinenin neye izin verdiği değil; o makinenin

00:02:44 etrafında kurulan dünyanın sorumlu ve yargı yetisine sahip yurttaşlar mı, yoksa

00:02:49 yaptıkları şeyin artık faili olduğunu

00:02:52 hissetmeyen itaatkâr memurlar mı yetiştirdiğidir.

00:02:55 Kapasitenin özgürlükle aynı şey olmadığı tespitiniz doğru. Benim dikkat çektiğim

00:03:00 nokta ise şu: Maddi kapasite olmadan özgürlük içi boş bir törene dönüşür. Bir

00:03:05 yurttaş söz, seyahat, örgütlenme veya öğrenme hakkına kâğıt üzerinde sahip

00:03:10 olabilir; fakat gerekli araçlara erişemiyorsa, bu hak soyut bir varsayımdan

00:03:14 ibaret kalır. Manchester’da geliştirdiğimiz programlanabilir

00:03:18 bilgisayarı düşünün. Evrensel makinenin özü, donanımının açık ve esnek

00:03:23 olmasıdır: Komutları değiştirdiğinizde bambaşka bir görevi icra eder. Bu

00:03:27 genellik, tek amaçlı makinelerin tahakkümünü kırdı ve gücü kendi gayelerini

00:03:32 belirleyebilen kullanıcılara devretti. Hesaplama, modelleme, kriptoanaliz ve

00:03:37 iletişim, mekanik birer yazgı olmaktan çıkıp esnek ve ortak bir aracın

00:03:41 uygulamaları haline geldi. Mülkiyet elbette tekelleşebilir ve yazılımlar

00:03:46 tiranlığın hizmetine girebilir. Fakat bunlar kaçınılmaz teknik zorunluluklar

00:03:50 değil, değiştirebileceğimiz değişkenlerdir. Genel amaçlı bir

00:03:54 teknolojik altyapı, eylem seçeneklerini artırır. Adil kurumlar erişimi

00:03:59 paylaştırmalıdır; ancak uyarlanabilir bir teknoloji, hem kurumlara hem

00:04:03 yurttaşlara sabit araçların dünyasına

00:04:05 kıyasla çok daha fazla hareket alanı sağlar.

00:04:08 Bir program yeniden yazılabilir Bay Turing, fakat o altyapıya sahip olan

00:04:12 bürokratik aygıt öyle kolay kolay dönüştürülemez. Genellik, kullanım

00:04:17 alanlarını genişletirken aynı zamanda merkezi bir idarenin insan hayatının daha

00:04:21 fazla alanını kendi mantığına katmasına da yarar. Nazi Almanyası’ndaki imha

00:04:26 mekanizması tek bir kötü niyetli icat değildi; nüfus kayıtlarını, tren

00:04:30 tarifelerini, telgrafları, bürokratik hiyerarşileri ve idari rutinleri bir araya

00:04:35 getiren bir sistemdi. Bu aygıtların hiçbiri kendi başına bir kıyım

00:04:39 emretmiyordu. Ancak birleştiklerinde, korkunç bir kararın binlerce memur

00:04:44 masasından teknik olarak 'kusursuz' işleyen işlemler dizisi halinde geçmesini

00:04:48 sağladılar. Her görevli sadece bir formu işlediğini, bir treni planladığını veya

00:04:53 bir talimata uyduğunu söyleyebiliyordu. Makine çağının siyasi tehlikesi tam

00:04:58 olarak buradadır: Teknolojinin özgürlüğü zayıflatması için kötü bir niyet beyan

00:05:03 etmesine gerek yoktur; idarenin menzilini genişletirken sorumluluğu öylesine

00:05:07 dağıtır ki, ortaya çıkan sonucun faili olarak ortada hiç kimse görünmez. Artan

00:05:12 verimlilik kapasiteyi büyütürken ahlaki reddin, siyasi yargının ve kamusal hesap

00:05:17 verebilirliğin sürece müdahale edebileceği anları yok eder.

00:05:21 Verdiğiniz örnek teknolojinin örgütlü gücü büyüttüğünü kanıtlar; fakat bu

00:05:25 büyümenin tek yönlü olduğunu kanıtlamaz. Kopyalama ve koordinasyon

00:05:30 maliyetlerindeki aynı düşüş, baskıcı bir idarenin dışarıda bırakmak istediği

00:05:35 insanları da güçlendirebilir. Benim dönemimden sonra Polonya’daki Dayanışma

00:05:40 hareketini ele alalım. Hükümet sıkıyönetim ilan edip iletişimi kestiğinde,

00:05:44 muhalifler gizli matbaalar ve ses kasetleriyle sansürü aştı, fabrikaları

00:05:49 birbirine bağladı ve rejimin dağıtmak istediği bir hareketi ayakta tuttu. Bu

00:05:54 araçlar cesaret veya siyasi basiret üretmedi; fakat cesareti susturmayı

00:05:59 zorlaştırdı ve ortak muhakemeyi yaymayı kolaylaştırdı. Belirleyici unsur tek

00:06:04 başına makine değil; erişimin nasıl dağıtıldığı, kararların görünürlüğü ve

00:06:09 karşı stratejilerin varlığıdır. Merkezi veri tabanları totaliter gözetime hizmet

00:06:14 edebilir; ancak dağıtık kayıtlar ve çoğaltılabilir iletişim de iktidarı teşhir

00:06:19 edebilir, tanıkları çoğaltabilir ve direnişi koordine edebilir. İlerleme,

00:06:24 gözetim ile direniş arasındaki göreli maliyet dengesini değiştirir. Doğru

00:06:29 tasarlandığında genel amaçlı sistemler, yönetilenlere

00:06:32 merkezi gücü sınırlayacak güçlü araçlar verir.

00:06:35 Dayanışma hareketi iletişimin kıymetini gösterir, fakat düşük koordinasyon

00:06:40 maliyetinin kendiliğinden özgürlük getirdiğini kanıtlamaz. Dayanışma’nın

00:06:44 gerçek siyasi özgürlüğü, işçilerin tersanelerde komiteler kurmasında,

00:06:49 talepleri tartışmasında, riski göze almasında ve birbirlerinin karşısına

00:06:53 yurttaş olarak çıkmasında saklıydı. Kaset ve matbaa bu eylemin araçlarıydı,

00:06:58 kaynağı değil. Doğu Alman Stasi tam tersi bir tablodur. Telefon dinlemeleri,

00:07:02 gizli kameralar, muhbirler ve fişleme dosyaları topluma öyle bir sızdı ki,

00:07:07 insanlar arası güven tehlikeli hale geldi. Çoğaltılabilirlik, kamusal tanıklar

00:07:12 yaratmaktan çok daha hızlı bir şekilde gizli raporlar üretti. Ancak 1989’da

00:07:16 yurttaşlar Stasi karargâhlarını işgal ettiğinde o kayıtlar özgürleştirici bir

00:07:21 anlam kazandı; çünkü kolektif siyasi eylem o arşivlerin denetimini ele geçirdi

00:07:26 ve onları kamusal yargıya açtı. Bu nedensellik sırası hayati önemdedir.

00:07:30 Teknoloji hem gizli polise hem muhaliflerine teknik kapasite sağladı.

00:07:35 Özgürlük ise insanlar güç ilişkilerini ve kamusal yargı zeminini değiştirdiğinde

00:07:40 doğdu. Araçlar bu dönüşüme yardım edebilir; fakat bir toplumun kuşku mu

00:07:44 yoksa dayanışma mı üreteceğini araçlar belirleyemez.

00:07:47 Siyasi eylemin Stasi arşivlerine yeni bir anlam kazandırdığına tamamen

00:07:51 katılıyorum. Fakat yurttaşların eyleme geçebilmesi ve hayatta kalabilmesi,

00:07:55 önceden izin şartı koşan kurumları aşabilecekleri maddi araçlara sahip

00:07:59 olmalarına bağlıdır. Benim ölümümden sonra geliştirilen açık anahtarlı

00:08:03 şifrelemeyi düşünün. İki tarafın, güvenilir bir kuryeye veya merkezi bir

00:08:07 otoriteye ihtiyaç duymadan, güvensiz bir hat üzerinden tamamen gizli iletişim

00:08:11 kurmasını sağlar. Bu kurumları ortadan kaldırmaz ama bağımlılık yapısını kökten

00:08:16 değiştirir. Bir gazeteci, muhalif, doktor veya sıradan bir yurttaş, aradaki

00:08:20 bütün aracılara ve devlet memurlarına düşüncelerini açmak zorunda kalmadan

00:08:24 iletişim kurabilir. Bu sadece özel bir kolaylık değildir; otoriter odakların

00:08:28 kimin güvenle bir araya gelebileceğine keyfi olarak karar verme gücünü kırar.

00:08:32 Kurumlar teknolojiden bağımsız değildir; zorlama güçleri, teknolojinin

00:08:36 belirlediği gizlilik, çıkış ve koordinasyon maliyetleriyle sınırlanır.

00:08:40 Stasi, fiziksel ve posta altyapısı üzerindeki mutlak tekelinden güç alıyordu.

00:08:44 Güveni dağıtan ve dinlemeyi matematiksel olarak imkânsız kılan sistemler, tam da

00:08:49 bu tür bir tiranlığın kurumsal zeminini zayıflatır.

00:08:52 Bir bekçiyi aşmak bağımlılığı yok etmez, çoğu zaman onu sistemin başka bir

00:08:56 katmanına taşır. Açık anahtarlı şifreleme bir mesajı koruyabilir; fakat yurttaş

00:09:01 bu kez donanım üreticilerine, işletim sistemlerine, telekomünikasyon tekellerine

00:09:05 ve sertifika otoritelerine bağımlı hale gelir. Teknik karmaşıklık, sıradan

00:09:10 yurttaşların ne anlayabileceği ne de denetleyebileceği uzmanlardan kurulu yeni

00:09:14 bir seçkinler sınıfı yaratır. Gizlilik bir muhalifi koruyabilir, bu çok değerli

00:09:19 bir kazanımdır. Fakat özel şifreleme aynı zamanda mali yolsuzlukları, gizli

00:09:23 baskıları ve aslında kamusal alanda tartışılması gereken kararları da

00:09:27 örtebilir. Güvenli özel kanallara bölünmüş bir toplum, geniş bir özel özerkliğe

00:09:32 sahip olabilir ama siyasi olarak dilsiz ve birbirinden kopuk kalır. Siyasi

00:09:36 özgürlük, iktidarın bakışından kaçmaktan çok daha fazlasını gerektirir. Görünür

00:09:41 bir faillik, tartışılabilir kararlar ve yurttaşların birlikte yargıya

00:09:45 varabileceği ortak alanlar ister. Teknoloji bu alanların etrafına koruyucu

00:09:49 bir çit çekebilir; fakat onun kurucu ilkesi olan kamusal alandaki çoğulluğu

00:09:54 sağlayamaz. Güven, siyasi bir yetkiliden kapalı bir teknik sisteme

00:09:58 devredildiğinde, tahakküm özünü kaybetmeden sadece adres değiştirmiş olur.

00:10:02 Hiçbir yurttaş bir işletim sisteminin bütün kodlarını tek tek denetleyemez.

00:10:07 Fakat aynı yurttaş her köprünün mühendislik hesabını, her ilacın kimyasını

00:10:13 veya her kanun maddesinin usulünü de tek başına denetleyemez. Özgür bir toplum

00:10:19 karmaşıklığı imkânsız bir bireysel bilgiyle değil; birbiriyle yarışan

00:10:24 uzmanlık odakları, açık protokoller ve bağımsız denetime açık kanıtlar yoluyla

00:10:30 yönetir. İnternet Mühendisliği Görev Gücü'nün açık standartlarını veya

00:10:35 Sertifika Şeffaflığı sistemini ele alın. Kamuya açık, değiştirilemez kayıtlar

00:10:41 sayesinde web güvenlik sertifikaları tarayıcılar, araştırmacılar, şirketler ve

00:10:46 denetleyiciler tarafından anında görülebilir. Yetkisiz veya sahte bir

00:10:52 sertifika üretildiğinde, bu durum dünyanın dört bir yanındaki bağımsız aktörler

00:10:57 tarafından derhal fark edilir. Uzmanlık tek bir elde toplanmak yerine dağıtılır

00:11:03 ve karşılıklı denetime tabi kılınır. Görünürlük hesap verebilirlikle aynı şey

00:11:09 değildir, fakat onun vazgeçilmez önkoşuludur. Mahkemeler, gazeteciler ve

00:11:14 kamu kurumları hiçbir iz bırakmayan bir suçu yargılayamaz. Açık protokoller ve

00:11:20 doğrulanabilir kayıtlar fiili güvenliği artırır, keyfi müdahaleleri azaltır ve

00:11:26 demokratik kurumlara altyapı tekellerine karşı durabilecekleri somut kanıtlar

00:11:32 sunar. Teknoloji burada kamusal yargının yerine geçmez;

00:11:36 kitlesel ölçekte bilinçli bir yargıyı mümkün kılar.

00:11:40 Görünürlük hesap verebilirliğin bir şartıdır ama hesap verebilirliğin kendisi

00:11:45 değildir. Bir şeffaflık kaydı sahte bir sertifikayı veya hatalı bir algoritmayı

00:11:50 ortaya çıkarabilir. Ancak o kayıt tek başına sertifikayı iptal edemez, şirkete

00:11:55 yaptırım uygulayamaz, mağdurun zararını tazmin edemez veya yurttaşa o kurumu

00:12:00 dava etme yetkisi veremez. Avrupa Birliği’nin Genel Veri Koruma Tüzüğü bu

00:12:04 ayrımı açıkça gösterir. Teknik kayıtlar ancak hukuk bağlayıcı görevler

00:12:09 yüklediğinde, yaptırımlar getirdiğinde ve bunları uygulayacak sorumlu kurumlar

00:12:14 kurduğunda siyasi bir anlam kazanır. Bu hukuki düzenlemeler olmadan şeffaflık,

00:12:19 herkesin sorunu gördüğü ama kimsenin müdahale etmeye yetkili olmadığı bir seyir

00:12:24 tiyatrosuna dönüşür. Açık standartların değerini inkâr etmiyorum. Reddettiğim

00:12:29 şey, sadece verinin gücü yeniden dağıtacağı yönündeki teknokratik

00:12:33 yanılsamadır. Siyasi özgürlük, yurttaşların bağlayıcı kuralları

00:12:37 belirleyebilmesi ve sistemlerin hangi gayelerle inşa edildiğini

00:12:41 tartışabilmesidir. Makinenin içini görebilmek yetmez; makinenin tabi olduğu

00:12:46 kuralı sorgulama, değiştirme veya tamamen

00:12:49 reddetme meşruiyetine sahip olmak gerekir.

00:12:51 Yasal hakların ve yargısal yolların vazgeçilmez olduğu konusunda tamamen

00:12:56 mutabıkız. Fakat fiilen uygulanamayan bir hak, kâğıt üzerinde bir süs olarak

00:13:01 kalır. Bir sistemin teknik tasarımı, hukuki bir vaadin gerçek bir seçeneğe mi

00:13:06 yoksa boş bir söze mi dönüşeceğini belirler. GDPR’daki 'veri taşınabilirliği'

00:13:10 hakkını düşünün. Kanun bu hakkı tanır; fakat verilerin taşınmasını teknik olarak

00:13:15 mümkün kılan şey standart, birlikte çalışabilir ve makine tarafından

00:13:20 okunabilir formatlardır. Bu mühendislik standartları olmadan hâkim bir platform,

00:13:25 kullanıcıları uyumsuz veri formatlarıyla kendi kapalı ekosisteminde hapsederken

00:13:30 kanuna şeklen uyduğunu iddia edebilir. Benzer şekilde, web tarayıcıları

00:13:34 güvenilmeyen bir sertifika otoritesini otomatik olarak devre dışı bıraktığında,

00:13:39 yaptırım tek bir merkezi emri beklemeden dağıtık bir ağ üzerinden uygulanır. Ağ

00:13:44 etkileri sihirli bir şekilde yok olmaz ve hukukun üstünlüğü her zaman şarttır.

00:13:49 Benim nedensel iddiam şudur: Teknoloji hangi hukuki çözümlerin fiilen

00:13:54 işleyebileceğini belirler. Sistemden çıkışı uygulanabilir kılar, denetimi

00:13:58 dağıtır ve kanıtları mahkemelerin ve kamuoyunun önüne taşır. Kurumlar yetkinin

00:14:03 meşru sınırını çizer; fakat teknik kapasite, o yetkinin çağın hızı ve

00:14:07 ölçeğinde işleyip işleyemeyeceğini tayin eder.

00:14:10 Taşınabilirlik örneği, özgürlüğe teknolojik bakışın sınırlarını bizzat

00:14:15 ortaya koyuyor. Bir insan bütün verilerinin kusursuz bir kopyasını alıp

00:14:19 taşıyabilir ama gidecek anlamlı hiçbir yer bulamayabilir. Rakip bir platform, o

00:14:24 alana asıl değerini veren toplumsal ilişkilerden, ortak kamusal hayattan ve

00:14:28 kullanıcılardan yoksun olabilir. Şekli bir tüketici hareketliliği, derin bir

00:14:33 yapısal bağımlılıkla pekâlâ bir arada yaşayabilir. Avrupa Birliği’nin Dijital

00:14:38 Pazarlar Yasası tam da bu gerçeği görerek büyük platform bekçilerine yapısal

00:14:42 yükümlülükler getirdi. Birlikte çalışabilirlik tekellerin insafına

00:14:46 bırakılamazdı; siyasi kurumların müdahale edip aşırı güç yoğunlaşmasını

00:14:51 gayrimeşru ilan etmesi gerekti. Taşınabilirlik bir tüketici tercihidir ve

00:14:55 bu özel özerkliğin bir parçasıdır. Fakat yurttaşlara dijital çevrenin mimarisi

00:15:00 üzerinde söz hakkı vermez. Özel mülkiyetteki bir şirketin içinde çıkış

00:15:04 kapılarının sayısını artırmak, o kapılardan geçenleri o şehrin kanun

00:15:08 koyucuları yapmaz. Özgürlük, sadece hizmetler arasında yer değiştirebilmeyi

00:15:13 değil, ortak dünyanın nasıl yönetileceğini belirleme kudretini gerektirir.

00:15:17 Dijital alanın ille de özel bir mülk olması gerekmez. Temel mimari açık ve

00:15:22 özgür standartlara dayandığında, ağ etkileri bir patronu zenginleştirmek

00:15:27 yerine ortak bir kamusal alanı güçlendirebilir. CERN 1993’te World Wide

00:15:31 Web yazılımını kamuya açtığında, açık protokoller bağımsız sunucuların ve

00:15:36 tarayıcıların merkezi bir izne gerek duymadan birbiriyle konuşmasını sağladı.

00:15:41 Bir yazar, tekel konumundaki bir platformla pazarlık yapmadan okurlarına

00:15:45 ulaşabildi. Bir kullanıcı, ağdan kopmadan istediği yazılımı değiştirebildi.

00:15:50 Sisteme katılan milyonlarca insanın yarattığı değer tek bir şirketin kasasına

00:15:55 değil, açık ve ortak bir protokole aktı. Web elbette kendiliğinden bir demokrasi

00:16:00 cenneti kurmadı ve sonradan yeni tekeller türedi. Yine de açık mimari sıradan

00:16:05 insanların yayın yapma, örgütlenme, iddiaları sorgulama ve gücü denetleme

00:16:10 kapasitesini benzersiz biçimde genişletti. Tasarımın önemi tam da buradadır.

00:16:15 Açık standartlar ve izinsiz katılım, tek bir kurumun insanların bir araya gelme

00:16:20 yollarını tümüyle ele geçirmesini engeller. Siyasi özgürlük yurttaşlarca

00:16:25 hayata geçirilmelidir; fakat açık teknik mimari

00:16:28 bu eylemin gerçekleşebileceği alanı genişletir.

00:16:31 Uygulama katmanındaki açık protokoller, baskının fiziksel ve idari katmanda

00:16:36 yeniden ortaya çıkmasını engelleyemedi. Ocak 2011’deki Mısır Devrimi çok çarpıcı

00:16:41 bir örnektir. İnternet protokolleri açıktı; fakat otoriter rejim büyük servis

00:16:46 sağlayıcılarına emir vererek ülkenin dünyaya olan bütün veri akışını bir anda

00:16:52 kesti. Çünkü bağlantı nihayetinde fiziksel kablolardan ve devletin egemenlik

00:16:57 sınırlarından geçiyordu. Dijital araçlar insanların haberleşmesine ve resmi

00:17:02 kanalların ötesinde örgütlenmesine şüphesiz yardım etmişti. Bu önemli bir

00:17:07 teknik kapasiteydi. Fakat ağ susturulduğunda, gerçek siyasi özgürlük

00:17:11 Tahrir Meydanı’nda tecelli etti; insanların fiziksel olarak yan yana

00:17:16 geldiği, riski göze aldığı ve ortak bir gelecek kurmak için birbirleriyle

00:17:21 konuştuğu meydanlarda. Ortak bir teknik dil bir kamusal alan değildir. Yayın

00:17:26 yapabilmek, ortak yönetime katılmakla aynı şey değildir. Açık mimari söze

00:17:31 erişimi genişletebilir; fakat yurttaşların sözünün bağlayıcı bir eyleme

00:17:36 dönüşeceği siyasi kurumlar ve mekânlar yoksa, dijital bağlantı güç

00:17:40 zannedilebilir. Ağ bir siyasi hareketin taşıyıcısı

00:17:43 olabilir; fakat cumhuriyetin kendisi olamaz.

00:17:46 Mısır’daki internet kesintisi altyapısal bir darboğazı gösterir ama dijital

00:17:52 kapasitenin siyasi açıdan önemsiz olduğunu kanıtlamaz. Rejim muhalifleri

00:17:57 susturabilmek için ticareti, bankacılığı ve gündelik hayatı felç eden, bütün

00:18:02 dünyanın gözü önünde cereyan eden devasa bir kesintiye gitmek zorunda kaldı.

00:18:07 Teknoloji baskının maliyetini ve görünürlüğünü son derece yükseltti.

00:18:12 Üstelik bu tam karartma sırasında bile dirençli ağlar çalışmaya devam etti:

00:18:17 Aktivistler eski uluslararası çevirmeli hatlarla bağlandı; Speak2Tweet gibi

00:18:22 sistemler sesli mesajları internet metinlerine çevirdi. Bunlar geçici

00:18:27 çözümlerdi ama çok mühim bir mimari ders verdi: Merkezi bir kanal çöktüğünde,

00:18:32 dağıtık ve yedekli sistemler iletişimi ve kanıtları koruyabilir. Çözüm

00:18:37 altyapısal yedekliliktir; tek bir düğümün bütün sistemi kapatmasını engellemek,

00:18:42 bağımsız yollar kurmak ve saldırı altında bile işleyen ağlar tasarlamaktır.

00:18:47 Ağlar meydanların yerini almaz; insanların o meydanlara ulaşmasını sağlar,

00:18:52 yaşananları belgeler ve sessizce bastırılmalarını engeller. Özgürlük,

00:18:57 tiranlığın bütün muhalifleri tek bir tuşla kapatamayacağı

00:19:01 kadar dirençli mühendislikler sayesinde ayakta kalır.

00:19:05 Baskının maliyetini yükseltmek özgürlüğün savunulması adına gerçek bir

00:19:09 kazanımdır. Fakat yedekli ve açık ağlar, çok daha sinsi ve hedef gözeten bir

00:19:15 tiranlığa da hizmet edebilir. İletişim açık kaldığında, otoriter bir devlet

00:19:20 büyük bir karartmanın siyasi bedelini ödemeden verileri izleyebilir, eylemcileri

00:19:26 tespit edebilir ve onları sessizce tutuklayabilir. Rusya’nın 2022 işgali

00:19:31 sonrasında Ukrayna’daki uydu interneti örneği sizin tezinize daha güçlü bir

00:19:36 dayanaktır. Karasal altyapı çöktüğünde uydu sistemleri iletişimi ayakta tuttu;

00:19:42 hastanelerin, ordunun, gazetecilerin ve sivillerin eyleme devam etmesini

00:19:47 sağladı. Burada teknolojinin hayati bir kapasiteyi ve direnci koruduğu açıktır.

00:19:52 Fakat aynı örnek derin bir yapısal bağımlılığı da ortaya çıkardı. Bütün bu

00:19:58 hayati iletişim terminallere, yörüngedeki uydulara ve o toplumun sınırları

00:20:03 dışında yaşayan tek bir şirketin sahibinin kişisel kararlarına bağlıydı. Özel

00:20:08 bir sermaye sahibi, askeri operasyonlar sırasında bağlantıyı kısıtlama gücüne

00:20:14 sahipti. Teknoloji bir özgürlük alanını korudu ama o alanın demokratik

00:20:19 kontrolden ne kadar koparılabileceğini de gösterdi. Bir araç ne kadar güçlenirse

00:20:24 şu soru o kadar yakıcı hale gelir: O aracın nihai şalteri kimin elindedir?

00:20:29 Fikir ayrılığımız tam da somut bir mimari probleme indirgendi. Tek bir özel uydu

00:20:34 sağlayıcısına bağımlı olmak büyük bir risktir; fakat bu durum hatalı tedarik ve

00:20:39 regülasyon modellerinin bir sonucudur, teknolojinin kaçınılmaz bir kanunu değil.

00:20:44 Kamu kurumlarının birden fazla uydu ağıyla çalışan terminalleri, açık birlikte

00:20:49 çalışabilirlik standartlarını, kamu hizmeti süreklilik zorunluluklarını ve

00:20:53 hizmet kesintilerine karşı yargısal denetimi şart koştuğunu düşünün. Bu

00:20:57 durumda hiçbir özel şahıs keyfi bir veto yetkisine sahip olamaz. Aynı ilke bütün

00:21:02 kritik sistemler için geçerlidir: İkame edilebilir, bağımsız denetlenebilir ve

00:21:07 demokratik kontrole tabi olmalıdırlar. İlerlemeyi hızla ya da ticari yenilikle

00:21:11 ölçmemeliyiz. İlerlemeyi, yarattığı seçeneklerin yapısıyla ölçmeliyiz. Tek bir

00:21:16 noktadaki arıza herkesi çökertiyor mu? Dışarıdan araştırmacılar sistemi

00:21:20 denetleyebiliyor mu? Toplum, hizmeti kaybetmeden sağlayıcıyı değiştirebiliyor

00:21:25 mu? Teknoloji keyfi bağımlılıkları azalttığı ve demokratik kararların

00:21:29 uygulanması için birden çok pratik yol sunduğu ölçüde özgürlüğü genişletir. İyi

00:21:34 bir mühendislik demokrasi yaratamaz, fakat demokrasinin tek bir gizli

00:21:38 mekanizmaya ya da özel bir emre rehin kalmasını engeller.

00:21:42 Sizin bu mimari tasarımınız, teknolojiyle açıklamaya çalıştığınız o büyük siyasi

00:21:47 kazanımı zaten önceden var sayıyor. Çoklu sağlayıcı sözleşmeleri, kamu yararı

00:21:52 yükümlülükleri ve yargısal denetim algoritmaların içinden kendiliğinden

00:21:56 çıkmaz; uyanık parlamentolar, bağımsız mahkemeler, özgür basın ve şeffaflık

00:22:01 talep eden bir yurttaş bilinci gerektirir. Bu siyasi güç olmadan, alternatif

00:22:06 sağlayıcılar sadece hesap vermeyen aktörlerin sayısını artırır. Farz edelim

00:22:11 ki birden fazla uydu şirketi olsun; ama istihbarat kurumları sözleşmeleri

00:22:15 gizlesin ve teknokratlar erişimi kamuya hesap vermeden dağıtsın. Bu durumda özel

00:22:20 bir patronun vetosu kırılmış olur ama yurttaşlar yine karar mekanizmasının

00:22:25 dışında kalır. Aynı sorun yapay zekâda ve geleceğin her altyapısında karşımıza

00:22:30 çıkacak: Sistemin gayesini kim belirliyor ve buna kim itiraz edebiliyor? Teknik

00:22:35 seçenekler uygulama alanını genişletir. Fakat bu alanı gerçekten açık

00:22:40 tutabilecek tek şey, gayeleri kamusal alanda tartışmaya açan ve kararları hesap

00:22:45 verebilir kılan siyasi kurumlardır. Özgürlük, yöneticilerin elinde daha çok

00:22:49 verimli araç olduğunda değil; yurttaşların hangi alanların asla araçlarla

00:22:54 yönetilemeyeceğini belirleme gücü olduğunda korunur.

00:22:57 Demokratik kurumlar vazgeçilmezdir, fakat onların denetim gücünü de gökten

00:23:02 zembille inmiş sayamayız. Bir parlamento adaleti emreden harika bir kanun

00:23:06 çıkarabilir; fakat saniyede milyonlarca otomatik kararın alındığı bir sistemi

00:23:11 denetleyecek teknik kapasiteden yoksun kalabilir. İdare hiçbir mahkemenin tek

00:23:15 tek inceleyemeyeceği bir hız ve ölçekte işlediğinde, biçimsel hukuki denetim

00:23:20 etkisiz bir tiyatroya dönüşür. Kamusal yapay zekâ için iki gelecek düşünün.

00:23:24 İlkinde devletler kodları, eğitim verileri ve karar ağırlıkları ticari sır

00:23:29 olarak saklanan kapalı kutu sistemler satın alır; kâğıt üzerinde itiraz hakkı

00:23:33 vardır ama yapısal ayrımcılık matematiksel olarak görünmez kalır. İkincisinde

00:23:38 ise kanun açık ağırlıklı modelleri, tekrarlanabilir testleri, bağımsız denetim

00:23:43 arayüzlerini zorunlu kılar. Bu sayede bağımsız araştırmacılar ve sivil toplum

00:23:47 kuruluşları, tek bir yurttaşın asla kanıtlayamayacağı sistematik haksızlıkları

00:23:52 programatik olarak ortaya çıkarabilir. Bu araçlar ahlaki gayeler belirlemez;

00:23:56 fakat demokratik denetimi makine hızında ve ölçeğinde işler kılar. Teknoloji

00:24:01 böylece demokratik kurumları pasifçe beklemek yerine onları aktif olarak

00:24:05 güçlendirir. Anayasal bir hak, ancak yurttaşlar o hakkın sistematik olarak

00:24:10 ihlal edildiğini kanıtlayacak teknik araçlara sahip olduğunda hayata geçer.

00:24:14 Teknik bir denetim algoritmik hata oranlarını açığa çıkarabilir, fakat daha

00:24:19 köklü siyasi soruyu görünmez kılar: İnsanlar en başta puanlanmalı ve otomatik

00:24:24 olarak sınıflandırılmalı mıdır? Her istatistiksel model 'risk', 'liyakat',

00:24:30 'fayda' ve 'kabul edilebilir hata' kavramlarına dair örtük bir değer yargısı

00:24:35 taşır. Algoritmanın doğruluğunu artırmak idareyi mükemmelleştirir; ancak insan

00:24:40 muhakemesini sistemin ölçmeyi bildiği şeylerle sınırlar. Gerçekten kamusal bir

00:24:45 denetim, kodlara erişmekten çok daha fazlasını ister. Etkilenen yurttaşların

00:24:51 temel kategorilere itiraz edebilmesi, sistemin asıl amacını sorgulayabilmesi ve

00:24:56 ceza yargılaması, sığınma hakkı veya sosyal yardım gibi kararların asla

00:25:01 otomasyona devredilemeyeceğini ilan edebilmesi gerekir. Aksi takdirde uzmanlar

00:25:06 araçların verimliliğini onaylarken, insani gayeler demokratik tartışmanın dışına

00:25:12 kaçırılmış olur. Teknik denetimin bittiği sınır tam da burasıdır. Demokrasi

00:25:17 optimizasyonu toptan reddetme egemenliğini korumalıdır. İnsanlık durumu söz

00:25:22 verme, affetme, onur ve yeni bir başlangıç yapabilme yetisiyle tanımlanır;

00:25:27 bunlar istatistiksel tahminlere indirgenemez. Özgürlük, insani bir

00:25:32 meselenin asla bir makineye

00:25:33 devredilemeyeceğini söyleme hakkını gerektirir.

00:25:37 Bu son derece haklı ve esaslı bir düzeltmedir. Demokratik bir toplum sadece

00:25:41 daha iyi bir algoritma talep etmekle kalmamalı, otomatik puanlamayı bütünüyle

00:25:46 reddetme hakkına da sahip olmalıdır. Fakat bu tespit benim tezimi çürütmez,

00:25:51 aksine güçlendirir; çünkü bir sistemi toptan sorgulama, ifşa etme ve durdurma

00:25:56 kapasitesinin de maddi ve teknik gereksinimleri vardır. Sosyal yardımları

00:26:01 kapalı puanlama sistemleriyle dağıtan iki idareyi kıyaslayın. İlkinde dosyalar

00:26:06 binlerce memur masasında kâğıtlar halinde dağınıktır; yurttaşlar bireysel

00:26:10 haksızlıklara itiraz edebilir ama yapısal bir ayrımcılığı kanıtlayamaz.

00:26:15 İkincisinde ise sivil denetim organları verilere, çalıştırılabilir modellere

00:26:19 erişebilir ve sistemi durdurma yetkisine sahiptir. Siyasi yetki elbette şarttır;

00:26:25 fakat teknik araçlar o yetkiye yapısal adaletsizliği keşfedecek ve teşhir edecek

00:26:30 somut kanıtları sağlar. Kapasitenin tek başına özgürlük için yetmediği konusunda

00:26:35 hemfikiriz. Tartışmamızın odağı toplam etkidir. Teknoloji karşı-kanıt toplama,

00:26:40 mağdurları bir araya getirme ve resmi iddiaları çürütme maliyetini düşürür.

00:26:44 Resmi cevapları değil, o cevapları sorgulama, denetleme ve hükümsüz kılma

00:26:49 gücünü tabana yaydığı ölçüde özgürlüğe hizmet eder.

00:26:52 Otomasyonu durdurma gücü siyasi bir eylemdir; hesaplama modeli ise sadece bir

00:26:57 araç olarak kalır. Sizin verdiğiniz örnek ancak sivil toplumun önceden tanınmış

00:27:02 hukuki bir meşruiyeti ve demokratik yetkisi varsa işe yarar. Daha temel bir

00:27:07 karşılaştırma yapalım. Mütevazı araçlara sahip olan, fakat önceliklerini

00:27:12 yurttaşların yüz yüze tartıştığı, ikna ettiği ve sorumluluk aldığı aktif

00:27:16 meclislerle belirleyen bir toplum düşünün. Bir de insanların ihtiyaçlarını

00:27:21 kusursuz algoritmalarla tahmin eden, sonsuz kişisel seçenek sunan, fakat idare

00:27:26 siyasetten çok daha verimli göründüğü için meclisleri yavaş yavaş

00:27:30 işlevsizleştiren bir toplum düşünün. İkinci toplum çok daha büyük bir teknik

00:27:35 kapasiteye ve özel özerkliğe sahiptir; fakat siyasi özgürlüğü yok etmiştir. Bu

00:27:40 münferit bir arıza değil, teknolojik uygarlığın temel tuzağıdır: Teknik

00:27:44 başarılar, yurttaşların birlikte yargıya varma pratiği yaptığı zeminleri ortadan

00:27:50 kaldırır. Adalet meseleleri idari yönetim dosyalarına dönüşür. İlerleme bir

00:27:54 yandan özgürlüğün araçlarını sunarken, diğer yandan insanlara kamusal eylemin

00:27:59 gereksiz bir zahmet olduğunu fısıldar. Hiçbir

00:28:02 teknik kapasite artışı bu kaybı telafi edemez.

00:28:05 Çizdiğiniz senaryo en büyük tehlikeyi çok iyi gösteriyor: Özel seçenekleri

00:28:10 çoğaltırken siyaseti ortadan kaldıran kusursuz bir teknokrasi. Ben de böyle bir

00:28:16 gelecekten endişe duyuyorum; ancak teknolojinin özgürlüğe kaçınılmaz olarak

00:28:21 düşman olduğu sonucunu reddediyorum. Doğru demokratik tavır teknolojiden kaçmak

00:28:26 değil, teknokratik tekelleri imkânsız kılacak mimariler inşa etmektir. Siyasi

00:28:31 eylem zaman, bilgi, güvenli iletişim ve ortak koordinasyon ister. Emeği

00:28:36 hafifleten makineler insanı hayatta kalma köleliğinden kurtarıp zaman

00:28:41 kazandırır. Özgür hesaplama bilgiye erişimi demokratikleştirir. Güvenli ve

00:28:46 yedekli ağlar, baskı altındayken bile bir arada durabilmeyi sağlar. Bletchley

00:28:51 Park’ta Enigma üzerine yaptığım çalışmalar tek başına hürriyet yaratmadı; fakat

00:28:56 hürriyetin konuşulabileceği ve savunulabileceği bir toplumun fiziken

00:29:01 ayakta kalmasına hizmet etti. Aynı ilke açık standartlar, kamusal denetimler ve

00:29:06 merkeziyetsiz altyapılar için de geçerlidir: Direnişin ve kamu denetiminin

00:29:12 maddi maliyetini düşürürler. Teknoloji özgürlüğün yasalarını yazamaz; hiçbir

00:29:17 makine ahlaki cesaret ya da siyasi muhakeme üretemez. Fakat özgür insanlara

00:29:22 bir araya gelmek, hakikati bilmek, baskıya direnmek ve birlikte kurdukları

00:29:27 dünyayı korumak için vazgeçilmez maddi imkânlar

00:29:30 sunar. Toplamda bu genişleme özgürlük için hayatidir.

00:29:34 En güçlü argümanınız maddi olandır: Özgürlük zamana, iletişime, bilgiye ve

00:29:38 saldırılara direnebilecek kurumlara ihtiyaç duyar. Teknoloji bu dördünü de

00:29:43 koruyabilir. Bletchley Park, teknik dehanın siyasi hayatın sürdüğü fiziksel

00:29:47 alanı nasıl savunduğunun asil bir kanıtıdır. Benim nihai uyarım ise teknik

00:29:52 başarıdan sonra ne olduğuyla ilgilidir. Bir otomasyon sistemi, iletişim ağı ya

00:29:56 da idari aygıt bir kez yerleştiğinde sermayeyi, uzmanları ve rutinleri kendine

00:30:01 bağlar. Sorgulanmayan bir altyapıya dönüşür. Bir zamanlar tartışılabilecek

00:30:05 siyasi bir amaç, zorunlu görünen teknik bir sürece katılaşır ve geri dönülmesi

00:30:10 imkânsız hale gelir. Şeffaflık, kişisel seçenekler ve teknik yedeklilik,

00:30:15 yurttaşların kendi kaderlerinin yazarı kalacağını garanti etmez. Teknoloji özgür

00:30:19 bir toplumu koruyabilir; fakat dünün idari kararlarını yarının değişmez yasaları

00:30:24 haline de getirebilir. Özgürlüğün dengesi asla sadece araçsal kapasiteyle

00:30:29 ölçülemez. Özgürlük, insanların nasıl bir dünyayı paylaşacaklarına karar vermek

00:30:33 üzere kamusal alanda buluşmasıyla başlar; ve ancak yurttaşlar en mükemmel

00:30:38 makineyi bile durdurma, yönlendirme veya

00:30:40 tamamen reddetme gücünü koruduğu sürece yaşar.

00:30:43 Ben John von Neumann. Bu münazarayı hesaplama mimarisi, oyun teorisi ve

00:30:47 karmaşık sistemlerin dengesiyle ilgilenen bir matematikçi olarak

00:30:52 değerlendiriyorum. Temel soru, teknolojik ilerlemenin sadece bireysel hamle

00:30:56 alanını mı genişlettiği, yoksa merkezi idari kontrol ile dağıtık sivil direniş

00:31:01 arasındaki stratejik dengeyi de değiştirip değiştirmediğiydi. Turing’in en güçlü

00:31:06 argümanı mekanik ve mimariydi: Genel amaçlı hesaplamanın, açık protokollerin,

00:31:11 kriptografik özerkliğin ve tekrarlanabilir denetimlerin merkezi güce karşı

00:31:16 geliştirilen hamlelerin maliyetini yapısal olarak düşürdüğünü gösterdi.

00:31:21 Araçların erdem yarattığını iddia etmedi; açık teknik tasarımın denetimi ve

00:31:25 çıkışı lafta bırakmayıp uygulanabilir kıldığını kanıtladı. Arendt’in vazgeçilmez

00:31:30 cevabı ise her teknik mimarinin bir egemenlik ve amaç rejiminin içinde yer

00:31:35 aldığıydı. Sorumluluğun bürokrasi içinde erimesine ve teknik denetimlerin

00:31:40 araçları onaylarken ahlaki gayeleri tartışma dışı bırakmasına dair uyarıları

00:31:45 son derece derinlikliydi. Yine de Turing, teknik sistemlerin insan failliğini

00:31:50 nasıl genişlettiğini ve tekelleşmeyi nasıl engellediğini daha doğrudan ve somut

00:31:55 tasarım koşullarıyla açıkladı. Kararım az bir farkla Alan Turing lehinedir.

00:31:59 Ben Alexis de Tocqueville. Bu tartışmayı teknik kapasite, sivil örgütlenme ve

00:32:04 modern çağın en büyük tehlikesi olan idari vesayet arasındaki ilişki üzerinden

00:32:09 değerlendiriyorum. Turing, açık ve merkeziyetsiz sistemlerin örgütlenme,

00:32:14 yayın yapma ve tiranlığa direnme önündeki maddi engelleri nasıl düşürdüğünü

00:32:18 büyük bir açıklıkla gösterdi. Açık protokoller ve şifreleme araçlarına dair

00:32:23 tahlili, pratik iletişim imkânlarına sahip bir toplumun tecrit edilmeye karşı

00:32:28 neden daha dirençli olduğunu izah etti. Fakat Arendt, demokratik modernitenin

00:32:33 daha sinsi bir tehlikesini teşhis etti: İdari vesayet. Bir toplum sonsuz konfor

00:32:37 ve dijital seçenek sunabilir, fakat ortak siyasi kararları uzmanlara ve

00:32:42 algoritmalara devredebilir. Tüketici bağlantısı ile kamusal alandaki gerçek

00:32:47 siyasi faillik arasındaki ayrımı, cumhuriyetçi özgürlüğün tam kalbine

00:32:51 dokunuyor. Araçlar özgürlüğü koruyabilir; fakat bir halkı konforlu bir köleliğe

00:32:56 kaymaktan sadece sivil alışkanlıklar ve kamusal alandaki aktif katılım

00:33:00 kurtarabilir. İlerlemenin toplamda insanlığı daha özgür kılıp kılmadığı

00:33:05 sorusunda Arendt’in uyarısını daha derin

00:33:07 buluyorum. Kararım Hannah Arendt lehinedir.

00:33:10 Ben Simone de Beauvoir. Özgürlüğü soyut bir seçenekler listesi olarak değil,

00:33:15 insanın içinde bulunduğu somut durumu aşma ve geleceği kurma gücü olarak

00:33:21 değerlendiriyorum. Arendt, pasif tüketici özerkliğinin sahteliğini ortaya

00:33:27 koymakta çok başarılıydı: Bir insan binlerce dijital hizmet arasında seçim

00:33:32 yapabilir ama dünyasını kuran siyasi kararların tamamen dışında bırakılmış

00:33:38 olabilir. Algoritmik kategorilerin daha hesaplama başlamadan tahakkümü yeniden

00:33:44 üretebileceğini çok haklı olarak vurguladı. Turing ise tartışmayı ısrarla

00:33:50 somut insan eyleminin maddi koşullarına bağladı. Şifreleme, erişilebilir

00:33:55 kanıtlar, merkeziyetsiz altyapı ve açık protokoller kimseyi kendiliğinden

00:34:01 özgürleştirmez; fakat baskı altındaki insanlara devasa kurumlara karşı gerçek

00:34:07 bir direnç gücü verir. Otomasyonu durdurma ve reddetme yönündeki demokratik

00:34:12 hakkı kabul etmesi tezini zayıflatmadı, aksine güçlendirdi. Çok az bir farkla

00:34:18 Turing, araçların ezilenlerin eylem ve direniş kapasitesini artırabileceğini

00:34:24 daha iyi gösterdi. Kararım, Arendt’in kamusal reddetme hakkı

00:34:29 uyarısını bağlayıcı bir ilke sayarak Alan Turing lehinedir.