Devlet hükümetiniz şu anda muhtemelen seni konut yardımı almaya uygun olup olmadığına, çocuğun özel eğitim hizmeti alıp almayacağına, yoksa sosyal yardım çekini ne kadar olacağına karar vermek için bir AI kullanıyor. Ve oldukça ihtimal dahilinde kimse mecliste kontratı okumamıştır.
Bu, kamu sektörü AI benimseme hamlesinin perde arkasındaki asıl hikaye: bürokrasiler hızlı hareket ediyor, bütçeler daha hızlı hareket ediyor, sorumluluk ise… hâlâ komitede oturuyor.
Devletler eğitim, sağlık, konut ve sosyal yardımlar alanında yapay zekaya milyarlar döküyor. Yaklaşım çok cazip—sıkıcı işleri otomatikleştir, insan hatasını azalt, aynı bütçeyle daha fazla insana hizmet et. Harika görünüyor, ta ki bir algoritma gıda pullarını reddettiğinde ve AI’ın mantığını gözden geçiren itiraz süreci olmadığını keşfettiğinde.
Demokrasi ve Teknoloji Merkezi yeni bir uyarı yayınladı: bu işin bir politika çerçevesi yok. Hiç yok. Devlet meclislerinde ortaya çıkan üç boşluk var, bunlar soyut değil — şimdiden gerçek insanları etkiliyor.
Çözemediğimiz Şeffaflık Sorunu
Bu cümle seni rahatsız etmeli:
“Kamu kurumları eğitim, konut, sosyal yardımlar ve sağlık gibi kamu hizmetlerini sunmak için giderek daha fazla AI’ya güveniyor.”
Neyi fark ettin? Bu sistemlerin nasıl çalıştığından bahsetme yok. İnsanların reddedilişinin nedenini nasıl öğrendiklerinden bahsetme yok. Ya da buna karşı ne yapabileceklerinden.
Çoğu devletin ajanslardan AI sistemlerinin nasıl karar aldıklarını açıklaması için hiçbir gereksinim yok. Bir konut kurumu, belirli mahalleleri “yüksek riskli” olarak işaretleyen bir tahmin algoritması dağıtabilir ve etkili şekilde insanları dışarıda bırakabilir. Okullar öğrencileri muğlak girdilere dayalı akademik yollara sıralamak için otomatik puanlama sistemleri kullanabilir. Etkilenenler ise? “Karar otomatik bir işlem tarafından alındı” diyen bir form mektubu alıyor. Bunu itiraz etmeye çalış bakalım.
Asıl nokta: kurumlar çoğu zaman kendi sistemlerinin ne yaptığını bilmiyorlar. Bir satıcıdan kara kutu araç alıyor, workflow’una entegre ediyor ve uğurlar diliyor. İnsan hakları grupları dokümantasyon istediğinde cevap genelde “bu satıcı gizliliğine konu” oluyor.
Birkaç devlet hareket etmeye başlıyor. Bazıları dağıtımdan önce etki değerlendirmeleri talep ediyor. Diğerleri sosyal yardım kararlarında AI kullanımının kamuya açık kayıt altına alınmasını zorunlu kılıyor. Ama bunlar parçalı, tepkisel ve her zaman gerçek benimsemelerin gerisinde.
Sosyal Yardımlar Konusunda Verilen Bir AI Kararına Gerçekten İtiraz Edebilir Miyim?
Diyelim ki bir devlet sosyal yardım ajansı seni sahtekarlık açısından “yüksek risk” olarak işaretlemek için bir AI sistemi kullanıyor ve yardımını kesiyor. Sen bunu itiraz etmek istiyorsun. Sonra ne olacak?
Çoğu yerde: hiçbir şey. Bunun için yasal çerçeve yok.
Evet, bir insan denetmenle işitme talebinde bulunabilirsin. Ama aynı veriyi aynı sisteme geri beserlerse muhtemelen aynı cevabı alırsın. AI’ın mantığı sistem içinde kilitli kalıyor. Çalışma tarihini postal kodunla nasıl tartıdığını, aile büyüklüğünü nasıl dahil ettiğini asla görmüyorsun. Sadece kaybettiğin söyleniyor.
Devletlerin sert kurallara ihtiyacı var — tavsiyeler değil, en iyi uygulamalar değil, asıl mevzuat. AI biri sosyal yardımları, konutu ya da eğitimi reddetmek için kullanıldığında, o kişiye bunların hakkı olması lazım:
- Bir algoritmanın karıştığını bilmek
- Kararı yönlendiren temel faktörleri (sade dille) anlamak
- Kararı gerçekten sistemi geçersiz kılabilen bir insanın önünde sorgulamak
- Bu geçersiz kılmanın bir şey ifade etmesi
Birkaç devlet bu tür korumalar taslağını hazırlıyor. Çoğu yakın dahi değil. Ve savunmasız insanlar — sosyal yardımlara bağımlı olanlar, hukuki yardıma daha az erişimi olan topluluklar — bu boşluğun bedelini ödüyorlar.
Devletiniz Bunu Dağıtmadan Önce Neden Test Etmedi Olabilir
Bir devlet biriyle ilgili kararlar vermek için bir AI sistemi dağıtmadan önce, bazı temel soruları yanıtlamalı
