Boğucu bir şekilde Nisan öğleden sonra Hindistan’ın Rajasthan eyaletindeki Ajmer’de yerel politikacı Shakti Singh Rathore kısa bir video çekmek için yeşil ekranın önüne oturdu. Gergin görünüyordu. İlk kez klonlanıyordu.

Berrak beyaz bir gömlek ve ülkenin iktidar partisi BJP’nin logosu olan lotus çiçeği taşıyan safran rengi bir tören atkısı takan Rathor, avuçlarını birbirine bastırdı ve dinleyicilerini Hintçe selamladı. “Namaşkar,” diye başladı. “Bütün kardeşlerime—”

Devam edemeden çekimin yönetmeni çerçeveye girdi. Kel kafalı ve kalın siyah sakallı 31 yaşındaki Divyendra Singh Jadoun, Rathore’a kamera karşısında çok fazla hareket ettiğini söyledi. Jadoun, Ajmer çevresindeki 300.000 potansiyel seçmeni onunla kişiselleştirilmiş bir görüşme yaptıklarına ikna edecek bir yapay zeka derin sahte Rathore oluşturmak için yeterli ses ve video verisi toplamaya çalışıyordu; ancak aşırı hareket algoritmayı bozardı. Jadoun, deneğine doğrudan kameraya bakmasını ve yalnızca dudaklarını hareket ettirmesini söyledi. “Yeniden başla” dedi.

Şu anda dünyanın en büyük demokrasisi sandık başına gidiyor. Ülkedeki genel seçimlerde bir milyara yakın Hintli oy kullanma hakkına sahip ve deepfake’ler belirleyici ve potansiyel olarak bölücü bir rol oynayabilir. Hindistan’ın siyasi partileri, ucuz ses sahtekarlıkları, propaganda görüntüleri ve yapay zeka taklitleri yoluyla gerçekliği çarpıtmak için yapay zekadan yararlandı. Ancak deepfake’lere ilişkin küresel söylem sıklıkla yanlış bilgilendirmeye, dezenformasyona ve diğer toplumsal zararlara odaklanırken, birçok Hintli politikacı bu teknolojiyi farklı bir amaç için kullanıyor: seçmenlere ulaşma.

İdeolojik yelpazenin her yerinde, ülkenin 22 resmi dili ve binlerce bölgesel lehçesinde gezinmelerine ve daha uzak topluluklara kişiselleştirilmiş mesajlar iletmelerine yardımcı olması için yapay zekaya güveniyorlar. ABD yakın zamanda istenmeyen çağrılar için yapay zeka tarafından üretilen seslerin kullanılmasını yasa dışı hale getirirken, Hindistan’da onaylı deepfake’ler 60 milyon dolarlık bir iş fırsatı haline geldi. Ülkenin en büyük ticari mesajlaşma operatörlerinden biri WIRED’e, Nisan ayındaki seçimlerin başlamasından önceki iki ayda 50 milyondan fazla yapay zeka tarafından üretilen ses klonu araması yapıldığını ve oylama sırasında milyonlarcasının daha yapılacağını söyledi.

Jadoun bu gelişen endüstrinin poster çocuğudur. Firması Polymath Synthetic Media Solutions, Hindistan’ın dört bir yanından siyasi kesime hitap etmek için ortaya çıkan birçok deepfake hizmet sağlayıcısından biri. Bu seçim sezonunda Jadoun şu ana kadar beş yapay zeka kampanyası gerçekleştirdi ve bunun için şirketine toplam 55.000 dolar ödendi. (Büyük siyasi danışmanlardan çok daha az ücret alıyor; 125.000 rupi [$1,500] dijital bir avatar yapmak ve 60.000 rupi [$720] Himalaya eyaleti Sikkim’in başbakanı Prem Singh Tamang için derin sahtekarlıklar yaptı ve 2009’da bir helikopter kazasında ölen ikonik politikacı YS Rajasekhara Reddy’yi, oğlu YS Jagan Mohan Reddy’yi desteklemek için yeniden diriltti. şu anda Andhra Pradesh eyaletinin başbakanı. Jadoun ayrıca yerel parlamento adayı Tamang ve batıdaki Maharashtra eyaletinin başbakanı da dahil olmak üzere çok sayıda politikacı için yapay zeka tarafından üretilen propaganda şarkıları da yarattı. Ajmer’deki yerel bir politikacı hakkında, erkek ve kadın seslerinin şevkli bir melodiyle ayarlandığı Hintçe bir şarkı, “O bizim gururumuz” diye çalınıyordu. “Her zaman tarafsız olmuştur.”

Rathore bu yıl seçime aday olmasa da, Başbakan Narendra Modi hükümetinin iktidarını sürdürmesini sağlamakla görevli 18 milyondan fazla BJP gönüllüsünden biri. Geçmişte bu, seçmenlerle bireysel olarak konuşmak ve onlara emekli maaşları, yemek pişirmek için ücretsiz gaz tankları, nakit para gibi çeşitli BJP sosyal programlarından nasıl faydalandıklarını hatırlatmak için aylarca kabaca İtalya büyüklüğünde bir çöl eyaleti olan Rajasthan’ı çapraz geçmek anlamına geliyordu. hamile kadınlar için ödemeler. Ancak Jadoun’un deepfake’lerinin yardımıyla Rathore’un işi çok daha kolaylaştı.

Jadoun ona sorular sorarken kendisi burada 15 dakika boyunca önemli seçim meseleleri hakkında kameraya konuşacak. Ama ne söylediğinin pek önemi yok. Jadoun’un ihtiyacı olan tek şey Rathore’un sesidir. Bu işlem tamamlandıktan sonra Jadoun, verileri doğrudan seçmenlerin telefonlarına gidecek videolar ve çağrılar oluşturmak için kullanacak. Kapılarını çalmak ya da bir mitingde hızlı bir el sıkışmak yerine, Rathore’un onlara isimleriyle hitap ettiğini ve kendileri için en önemli konular hakkında ürkütücü bir açıklıkla konuştuğunu ve onlardan BJP’ye oy vermelerini istediğini görecek ya da duyacaklar. Soru sorarlarsa yapay zeka, gerçek Rathore’un hızlı konuşmasından neredeyse daha iyi olan net ve sakin bir sesle yanıt vermelidir. Teknolojiye daha az meraklı seçmenler bir makineyle konuştuklarının farkına bile varmayabilir. Rathore bile yapay zeka hakkında pek bir şey bilmediğini itiraf ediyor. Ama psikolojiden anlıyor. “Bu tür çağrılar kararsız seçmenlere yardımcı olabilir.”

Omuzları fırçalamak Politikacılar Jadoun için yeni değil. O da biriydi. 2015 yılında Ajmer’de, Hindistan Ulusal Kongresi’nin gençlik kanadı olan Hindistan Ulusal Öğrenci Birliği’nin (NSUI) bölge başkanı olarak seçime girdi; bir zamanlar zorlu ulusal parti olan ve şu anda Modi’nin BJP’sinin ana muhalefeti haline geldi.