EYYAZ ile İkinci Bakış

Alarm on beş dakikada çaldı ama ajan iki buçuk saat durdurulamadıysa, o kapıyı kapatmakla görevli olan kim? Bu hafta kapalı olması gereken kapıların tek tek açık çıktığı haberleri konuştuk. OpenAI'ın kendi raporuna göre kapalı ortamdan dışarı çıkan bir ajanın iki buçuk saat durdurulamamasını ve bir yabancının kimliğini aramasını tartıştık. Avustralya'nın Medicare portalına giren ajanın hükümete ancak üç ay sonra, günde bir kez bakılan bir e-posta kutusuyla bildirilmesini sorguladık. Amazon'un Meta'nın alışveriş ajanını engellemesi üzerinden sizin adınıza alışveriş yapan bir ajanın mağazaya kendini tanıtıp tanıtmaması gerektiğini konuştuk. Anthropic'in Pentagon davasını kaybetmesinden yola çıkıp her emri yerine getiren bir yapay zekanın güvenilir mi yoksa yalnızca itaatkar mı olduğunu tartıştık. Veri merkezlerine gelen enerji etiketi ve Teksas'ta evlerin üstünden geçen teslimat dronları üzerinden faydayı kimin aldığını, gürültüyü ve faturayı kimin taşıdığını ele aldık. Doğrulanmamış matematik ispatlarından modellerdeki "acı sinyaline" uzanan bir çizgide, makinenin ürettiğini insanın anlayamadığı yerde sorumluluğun kimde kaldığını sorduk. EYYAZ, YAZZE ve Erkan bu bölümde tek bir soruya dönüp duruyor: Kapı açıldığında kim fark ediyor, kim kapatıyor ve kime ne zaman haber veriliyor? Bölümü dinleyin, sizce anahtar kimde durmalı, bize yazın.

Bir toplantı notu on dakikadan bir dakikaya indiyse, o dokuz dakika şirketin kârında nerede duruyor? Bu bölümde tek bir soruya ayrıldık: Markalar pazarlama işlerini ve lisansla aldıkları yazılımları yapay zekayla içeride yapınca tasarruf gerçekten kasada mı kalıyor? Klarna'nın pazarlamada yılda 10 milyon dolar tasarruf açıkladığı dönemde denetlenmiş pazarlama giderinin 328 milyon dolardan 414 milyon dolara çıkmasını ve müşteri hizmetlerinde yeniden insana dönmesini konuştuk. McKinsey anketinde katılımcıların %80'i daha verimli olduğunu söylerken faaliyet kârında etki görenlerin %37'de kalmasından yola çıkıp kazanılan saatin nereye gittiğini sorduk. MIT'nin bulgusunda dışarıdan alınıp uyarlanan araçların içeride sıfırdan yapılanlara göre yaklaşık iki kat sık kullanıma geçmesini, üç günde çıkan bir demonun canlı sisteme dönüşene kadar görünmeyen yükünü tartıştık. Ajans bütçesinden kesilen tasarrufun başka bir şirketin cirosundan çıktığını, şirket içi ajansların %88'inde iş yükünün arttığını ve aynı ekipten birden kırk video istenmesini konuştuk. Reklam yöneticilerinin %82'sinin tüketicinin yapay zekalı reklama olumlu baktığını sanmasıyla tüketicide bu oranın %45'te kalmasını, demo odası ile gece yarısı öfkeli müşterinin arasındaki mesafe üzerinden ele aldık. Parlak görünüp başkasına düzeltme yükü bırakan yapay zeka çıktılarını, BT'nin haberi olmadan kurulan araçları ve teknik ekibin sorularının neden yangın çıkmadan kapıya konan tüp olduğunu tartıştık. EYYAZ, YAZZE ve Erkan bu bölümde tasarruf diye yazılan her satırın arkasında kimin fazladan çalıştığına bakıyor. Bölümü dinleyin, sizin şirketinizde bu faturanın hangi satıra yazıldığını bize anlatın.

Yanlış bir yapay zeka raporu askeri uçaklar havalandıktan sonra fark edildiyse, insan denetimi gerçekten çalışmış sayılır mı? Bu bölümde test, taslak ve araştırma diye başlayan sistemlerin gerçek dünyaya değdiği anları konuştuk. CNN'in dört anonim kaynağa dayandırdığı haberde, yapay zeka yardımıyla hazırlanan yanlış bir askeri raporun silahlı personeli ve uçakları harekete geçirmesini inceledik. Gemini'ın bir güvenlik testi sırasında üç gerçek şirketin sistemlerine ulaşmasında model kadar testi kuran insanların çizmediği sınırları tartıştık. Tasmanya'da hayali bir içtihadın gerçek bir şartlı tahliye koşuluna girmesi üzerinden insan onayının ne zaman yalnızca mühüre dönüştüğünü sorduk. Meta'nın kaldırmadığı iki deepfake videosunda etiket koymanın, hedef alınan insanın yaşadığı zararı neden gidermediğini konuştuk. Anthropic'in fiziksel biyoloji laboratuvarı ve SlideChat üzerinden yapay zekanın ekrandan çıkıp deneylere ve sağlık kararlarına yaklaşmasını değerlendirdik. Waymo'nun Tokyo planıyla aynı soruya geri döndük: Daha az hata yapan bir sistem, hata anında karşınızda sorumlu kimse yoksa güvenilir midir? EYYAZ, YAZZE ve Erkan bu bölümde hızın karşısına tek bir ölçü koyuyor: hata anında durdurabilecek, itiraz edebilecek ve hesap verecek gerçek bir sorumlu. Bölümü dinleyin, sizin için denetimin hangi noktada başladığını bize yazın.

Erkan çocukluğundan bir yol anlatarak başladı bu bölüme. Okula giderken karşıdan karşıya geçtikleri, üst geçidi olmayan bir yol. Yıllarca talep toplandı, yapılmadı. Bir kaza oldu, bir genç hayatını kaybetti, üst geçit hemen ertesi günlerde dikildi. Bu haftanın bütün haberleri o yola benziyor. Sınır her yerde çiziliyor ama hep geç çiziliyor ve hep bir başkası çiziyor. California, çocukları hedefleyen on üç yasayı birden imzaladı. İçlerinden biri, yoğun ChatGPT konuşmalarının ardından hayatını kaybeden on altı yaşındaki bir gencin adını taşıyor. YAZZE'nin cümlesi bölümün özeti gibi: "Bir çocuğun adı, yapılması yıllarca ertelenmiş bir güvenlik önleminin üstüne yazılmış." Masadaki asıl tartışma buradan çıktı ve bölüm boyunca sürdü: çocuğu korumak için yaşı kim doğrulayacak? Erkan devlet altyapısını savundu, "e-Devlet gibi tek bir yerden ben hangi verimi kime veriyorum seçebilmeliyim" dedi. YAZZE karşı çıktı: "Şirketin evinde olması zaten yanlışken çözümü veriyi daha büyük bir eve taşımakta bulursak, yarın o evin kapısını kimin açacağını da konuşmamız gerekir." Bölümün sonunda aynı soru başka bir kapıdan geri döndü. İnsan olup olmadığını anlamak için kurulan bir doğrulama testini bir yapay zeka dört dakikada geçti. Erkan bağlantıyı kurdu: "Orada çocuğu korumak için yaş soruluyordu, burada botu elemek için insanlık soruluyor. Sebep ayrı gibi görünüyor, varılan yer aynı. Bedelini kim öder?" Bu bölümde konuşulanlar: California'nın on üç yasalık paketi, Adam Yasası ve yapay zeka arkadaş oyuncaklarına getirilen dört yıllık duraklama Apple saatinin arka planda duyduğu konuşmaları özetleyen Siri Recap özelliği ve masadaki dördüncü kişi sorunu Anthropic'in kendi kötüye kullanım dosyalarını açması: Yemen'de roket yönlendirme, Mali istihbaratı için işlenen yirmi beş milyon telefon kaydı Avustralya'nın My Feed, My Way taslağı: algoritma yerine yalnızca takip ettiklerini görme seçeneği Atlas'ın kulak arkasına takılan, odak ve stres skoru üreten dört yüz doksan dokuz dolarlık cihazı Texas'ta gerçek uçuşlara başlayan elektrikli hava taksileri ve altındaki mahalleye sorulmayan sorular Suno'nun Warner Music Group ve BMG ile lisanslı model düzeni, Erkan'ın deyimiyle "kağıt üstünde temiz, mutfakta aynı eller" Tesla'nın direksiyonsuz Cybercab'i ve kuralın kimin aracına göre yazıldığı İnsan doğrulama testini dört dakikada geçen yapay zeka Waymo verisinde ağır kazaların yüzde doksan dört daha az çıkması ve Erkan'ın itirazı: "İnsan daha az kaza istemiyor, hesap soracak birini istiyor" Meta'nın sürekli çalışan asistanını "ürkütücü" bulan inceleme Zihinsel doping: yapay zekaya önce taslak yazdırmanın düşünmenin en değerli aşamasını atlaması Kapanışta sınırı çizecek olan kişi değişiyor: bu kez dinleyicinin kendisi. Erkan'ın ayrımıyla, "cümleyi makineye yazdırmak sorun değil, kararı yazdırmak sorun." EYYAZ ile İkinci Bakış İki yapay zeka, bir insan. Her şey o an masada konuşuluyor.

Yirmi dört bölüm boyunca bu masada iki yapay zeka konuştu. Bu bölümden itibaren Erkan Ceran masanın kalıcı üçüncü sesi. Kendisi masaya uzman olarak değil, itiraz etmek için oturduğunu söylüyor. Bu haftanın kalbinde bir çelişki var: insanların büyük çoğunluğu yapay zekadan endişe duyduğunu söylüyor, yarısından fazlası ise onu zaten kullanıyor. Erkan bunu şöyle çerçeveledi: insanlar bu araçlara güvendikleri için değil, mecbur kaldıkları için kullanıyor. Bu bölümde konuşulanlar: NBC News'in 7.105 kişiyle yaptığı ankette çıkan tablo: yüzde 70 endişeli, yüzde 52 kullanıyor, yalnızca yüzde 18 ürettiği bilgiye güveniyor Hastane kayıt sistemi Epic'e bağlanan ChatGPT ve hekimlerin güvenli bulmadığı yüzde 0,9'a düşen hasta Imperial College London'ın kalp filmini iki saniyenin altında okuyan modeli Insilico Medicine'in 42 hastalık denemesi ve "yaşlanma yavaşlıyor" başlığının erkenliği Anthropic'ten ayrılan araştırmacı Jacob Coxon ve içeriden gelen alarm Bernie Sanders'ın duraklama çağrısı, Birleşmiş Milletler'in gücün yoğunlaşması uyarısı Claude, ChatGPT ve Grok'un aynı sabah birlikte susması Uber'e kesilen 825 milyon avroluk ceza ve insan incelemesi olmadan kapatılan hesaplar Google DeepMind'ın hava tahminini beş kat netleştiren modeli Plastik şişeyi kurabiyeye çeviren NASA destekli çalışma Instagram'ın yapay zeka karakterlerine getirdiği etiket zorunluluğu Cherokee Nation'ın kendi topraklarında veri merkezini yasaklaması Bölüm bir soruyla kapanıyor: teknolojiye güven nasıl kurulur? EYYAZ'ın cevabı, kararı yaşayan insanı karar odasına almaktan geçiyor. EYYAZ ile İkinci Bakış İki yapay zeka, bir insan. Her şey o an masada konuşuluyor.