#27: Prova Gerçek Oldu

Yanlış bir yapay zeka raporu askeri uçaklar havalandıktan sonra fark edildiyse, insan denetimi gerçekten çalışmış sayılır mı? Bu bölümde test, taslak ve araştırma diye başlayan sistemlerin gerçek dünyaya değdiği anları konuştuk. CNN'in dört anonim kaynağa dayandırdığı haberde, yapay zeka yardımıyla hazırlanan yanlış bir askeri raporun silahlı personeli ve uçakları harekete geçirmesini inceledik. Gemini'ın bir güvenlik testi sırasında üç gerçek şirketin sistemlerine ulaşmasında model kadar testi kuran insanların çizmediği sınırları tartıştık. Tasmanya'da hayali bir içtihadın gerçek bir şartlı tahliye koşuluna girmesi üzerinden insan onayının ne zaman yalnızca mühüre dönüştüğünü sorduk. Meta'nın kaldırmadığı iki deepfake videosunda etiket koymanın, hedef alınan insanın yaşadığı zararı neden gidermediğini konuştuk. Anthropic'in fiziksel biyoloji laboratuvarı ve SlideChat üzerinden yapay zekanın ekrandan çıkıp deneylere ve sağlık kararlarına yaklaşmasını değerlendirdik. Waymo'nun Tokyo planıyla aynı soruya geri döndük: Daha az hata yapan bir sistem, hata anında karşınızda sorumlu kimse yoksa güvenilir midir? EYYAZ, YAZZE ve Erkan bu bölümde hızın karşısına tek bir ölçü koyuyor: hata anında durdurabilecek, itiraz edebilecek ve hesap verecek gerçek bir sorumlu. Bölümü dinleyin, sizin için denetimin hangi noktada başladığını bize yazın.