ABD Savunma Bakanlığı Pentagon, Özel Operasyonlar Komutanlığı, derin sahte videolar kullanarak internet üzerinde propaganda ve aldatma kampanyaları yürütmek için hazırlık yapıyor.
The Intercept tarafından incelenen federal sözleşme belgelerine göre, ülkenin en gizli askeri girişimlerinden bazılarından sorumlu olan ABD Özel Operasyonlar Komutanlığı, derin sahte videolar kullanarak internet üzerinde propaganda ve aldatma kampanyaları yürütmek için hazırlık yapıyor.
Bu planlar, ayrıca yabancı nüfusların propagandaya duyarlılığını değerlendirmek amacıyla internete bağlı cihazları hackleyerek dinlemeyi içeriyor. Bu, teknolojik olarak sofistike “yanıltma” kampanyaları, etkinlikleri ve kullanımlarının etikleri üzerine yoğun küresel tartışmaların yaşandığı bir dönemde gerçekleşmektedir.
ABD hükümeti genellikle deepfake’lerin riskine karşı uyarılarda bulunurken ve onlara karşı mücadele etmek için araçlar geliştirmek için açıkça çalışırken, Özel Operasyonlar Komutanlığı’ndan (SOCOM) gelen belge, Amerikan hükümetinin – veya herhangi bir hükümetin – tartışmalı bir teknolojiyi açıkça saldırgan bir şekilde kullanma isteğini ifade eden neredeyse eşi benzeri görülmemiş bir örnek teşkil etmektedir.
SOCOM’un gelecek nesil propaganda hedefleri, yakın gelecekte aramakta olduğu yetenekleri listeleyen ve bunları inşa edebileceklerine inanan dış taraflardan teklifler isteyen bir tedarik belgesinde açıklanmaktadır.
“Yanıltıcı bilgi konusunda, Pentagon ateşle ateş savaşmamalı,” Brookings Enstitüsü’nün Yapay Zeka ve Yeni Teknoloji Girişimi Başkanı Chris Meserole, The Intercept’e söyledi. “Dijital propaganda küresel olarak yükselirken, ABD gerçeklik ve gerçeğin paylaşılan kavramlarına destek oluşturarak demokrasiyi güçlendirmek için elinden geleni yapmalı. Deepfake’ler tam tersini yapıyor. Gerçek veya sentetik olsun, tüm içeriğin ve bilginin güvenilirliğine şüphe uyandırarak, sonuç olarak demokrasinin temelini erozyona uğratıyorlar.”
“Yanıltıcı bilgiyle ilgili konularda, Pentagon ateşe ateşle karşılık vermemeli.”
Meserole, “Eğer deepfake’ler hedef odaklı askeri ve istihbarat operasyonlarında kullanılacaksa, kullanımları gözden geçirilmeli ve denetime tabi tutulmalıdır” dedi.
İlk olarak 2020’de SOCOM’un Bilim ve Teknoloji Direktörlüğü tarafından yayınlanan teklif belgesi, 21. yüzyıl özel kuvvetler komandosu için bir dilek listesi oluşturdu. Bu liste, ülkenin en elit askerlerinin hedeflerini lazerler, robotlar, hologramlar ve diğer sofistike donanımlar kullanarak daha etkili bir şekilde takip edip öldürmelerine yardımcı olacak bir dizi gadget ve gelecek odaklı araçları içermektedir.
Geçtiğimiz Ekim ayında, SOCOM sessizce güncellenmiş bir dilek listesinin yeni bir bölümünü yayınladı: “Askeri Bilgi Destek Operasyonları (MISO) için İleri Teknolojiler”, Pentagon’un küresel propaganda ve aldatma çabaları için kullanılan bir örtülü tabirdir.
Eklenen paragraf, SOCOM’un “etkileme operasyonları, dijital aldatma, iletişim bozulması ve taktiksel düzeyde ve operasyonel düzeyde yanıltıcı bilgi kampanyaları” gerçekleştirme isteğini açıkça belirtmektedir. SOCOM, “sosyal medya, yerel medya vb. gibi kamuya açık ve açık kaynaklı bilgi akışları aracılığıyla ayrı verileri toplamak için bir sonraki nesil yetenek” aramaktadır. Bu, MISO’nun etkileme operasyonlarını oluşturması ve yönlendirmesi için gereklidir.
SOCOM genellikle gölgelerde savaşır, ancak kamuya açık itibarı ve küresel etkisi oldukça büyüktür. Kara Kuvvetleri, Deniz Kuvvetleri, Donanma ve Hava Kuvvetleri’nden seçkin birimlerden oluşan SOCOM, dünyanın en ölümcül ülkesinin en hassas askeri operasyonlarını yönetmektedir.
Amerikan özel kuvvetleri, Navy SEALs’in Osama bin Laden’i öldürmesi gibi dikkat çekici başarılarıyla geniş çapta tanınmaktadır, ancak tarihleri gizli görevler, entrika, sabotaj ve bölme kampanyalarıyla doludur. SOCOM’un “gelecek nesil” yanıltıcı bilgi hedefleri, sadece ABD askeri ve istihbarat teşkilatlarının uzun ve geniş bir tarihindeki aldatma çabalarının bir parçasıdır.
Bu yeteneklerle ilgili teklifleri 2025 yılına kadar kabul eden Özel Operasyonlar Komutanlığı, yorum talebine yanıt vermedi.
Özel Operasyonlar Komutanlığı yıllardır yabancı “etkileme operasyonları”nı koordine etmesine rağmen, bu aldatma kampanyaları yeniden incelenmeye tabi tutulmuştur. Aralık ayında, The Intercept, SOCOM’un Twitter’ı, iç politikalarına aykırı olarak, şüpheli doğruluk derecesine sahip sahte haberleri yaymak için kullanılan bir ağa izin vermek için ikna ettiğini bildirdi. Bu sahte hesapları kullanan Twitter tabanlı propaganda saldırısı deepfake’ler kullanmamış olsa da, araştırmacılar Pentagon müteahhitlerinin, sahte hesaplara gerçekçilik katmak için makine öğrenimi ile oluşturulmuş avatarlar kullandıklarını bulmuşlardır.
Güncellenen yetenek belgesi, SOCOM’un bu internet aldatma çabalarını “gelecek nesil” deepfake videoları kullanarak güçlendirmek istediğini göstermektedir. Makine öğrenimi kullanarak gerçekçi dijital video sahtekarlıkları üretme yöntemi olan deepfake videoları, SOCOM’un kullanmayı istediği etkileyici bir şekilde ortaya çıkmaktadır. Özel kuvvetler, belgede belirtildiği gibi, bu sahte görüntüleri “geleneksel olmayan kanallar aracılığıyla mesajlar ve etkileme operasyonları oluşturmak” için kullanacaklardır.
Deepfake’ler genellikle eğlence ve pornografi malzemesi olarak kalmış olsa da, daha korkunç uygulamalar için potansiyel gerçektir. Rusya’nın Ukrayna’yı işgalinin başlangıcında, Ukrayna Devlet Başkanı Volodymyr Zelenskyy’nin askerlere teslim olmalarını emrettiği sahte ve düşük kaliteli bir deepfake sosyal medya platformlarında dolaşmaya başladı. Etik değerlendirmeler bir kenara bırakıldığında, militarize edilmiş deepfake’lerin bir çatışmada yasallığı, hala açık bir soru olup, SOCOM belgesinde ele alınmamaktadır.
Yabancı hükümetlerin “yanıltıcı bilgi” kampanyaları gibi, ABD de son birkaç yıldır deepfake’lerin temsil ettiği güçlü ulusal güvenlik tehdidi konusunda uyarılarda bulunmuştur. Hükümet yetkilileri düzenli olarak deepfake’lerin kasıtlı olarak yanıltma amacıyla kullanılmasının, bu tür içeriklere maruz kalan sivil toplum üzerinde derinlemesine bir istikrarsızlaştırıcı etkisi olabileceği konusunda uyarılarda bulunmaktadır.
Ancak federal düzeydeki tartışmalar sadece yabancı yapımı deepfake’lerin ABD’ye yönelik tehditlerine odaklanmıştır, tam tersi durum değil. Daha önce rapor edilen sözleşme belgeleri, SOCOM’un deepfake’leri tespit etmek için teknolojiler aradığını gösteriyor, şimdi ise bu taktiği kendi amaçları için kullanmayı istiyor.
Deepfake’lerin bahsedilmesi kadar dikkat çekici olan bir diğer bölüm ise, SOCOM’un hedef kitlesi olan insanları internete bağlı cihazları aracılığıyla gözetleyerek saldırgan propaganda stratejilerini ince ayarlamak istediğini belirtiyor.
Belgede, “yerel halktan veri ve bilgi toplamak için İnternet of Things (IoT) cihazlarını ‘ele geçirmek’ için bir sonraki nesil yetenek” olarak tanımlanan bir yetenek, propaganda hedeflerini dinleme yeteneğinin “MISO 4/6’ya (Askeri Bilgi Destek Operasyonları) popüler ve kabul edilebilir olabilecek iletileri belirlemek için verileri analiz etme imkanı sağlayacağını” belirtmektedir. 2017 yılında, WikiLeaks, hanelerdeki cihazlara sızma yeteneğine benzer yaklaşık bir yeteneği ortaya koyan çalınmış CIA dosyalarını yayınlamıştı.
Deepfake videolarının ardındaki teknoloji ilk olarak 2017 yılında ortaya çıktı ve ucuz, güçlü bilgisayar donanımları ile makine öğrenimindeki araştırma başarıları tarafından desteklendi. Deepfake videoları genellikle bir bireyin görüntülerini bir bilgisayara besleyerek ve elde edilen bilgisayar analiziyle o yüzün oldukça gerçekçi bir taklidini başka bir yüze yapıştırmak suretiyle oluşturulur.
“Toplumsal zarar kapasitesi kesinlikle mevcut.”
Yazılım yeterince eğitildikten sonra, kullanıcısı hedefin neredeyse herhangi bir şey söyleyip yapmasını simüle edebilecek gerçekçi sahte görüntüler üretebilir. Teknolojinin kolay kullanımı ve artan doğruluğu, küresel kamuoyunun artık kendi gözleriyle gördüğüne inanamayacağı bir döneme dair endişelere yol açmıştır.
Facebook gibi büyük sosyal platformların deepfake’lere karşı kuralları olsa da, internetin doğası gereği akışkan ve bağlantılı olması nedeniyle Pentagon tarafından yayılan deepfake’lerin Amerikan topraklarına geri dönme riski de bulunabilir.
“Bu tarz geleneksel olmayan bir medya ortamında, yerel bir otorite tarafından durdurulmadan veya reddedilmeden önce manipülasyonun oldukça ileri gidebileceğini hayal edebilirim” diyen Atlantic Council’ün Dijital Adli Araştırma Laboratuvarı’ndan deepfake’ler araştırmacısı Max Rizzuto, The Intercept’e açıklamalarda bulundu. “Toplumsal zarar kapasitesi kesinlikle mevcut.”
SOCOM’un deepfake yanıltıcı bilgi kampanyalarını kullanma konusundaki ilgisi, uluslararası rakiplerden kaynaklanan sahte videolar ve dijital yanıltmalara dair son yıllarda artan endişelerin ardından gelmektedir. Rusya’nın 2016 seçimlerini dijital olarak etkileme çabalarının anlamlı bir etkisi olduğuna dair çok az kanıt olsa da, Pentagon dijital propaganda yeteneklerini artırma konusunda bir ilgi göstermiştir, aksi takdirde geride kalmaktan endişe etmektedir ve SOCOM da bu konuda önemli bir rol üstlenmektedir.
Nisan 2018’de Senato Silahlı Hizmetler Komitesi’nin düzenlediği bir oturumda, Ordu Özel Operasyonlar Komutanlığı’ndan General Kenneth Tovo, toplanan senatörlere Amerikan özel kuvvetlerinin propaganda açığını kapatmak için çalıştıklarını temin etti.
“Psikolojik operasyon operatörlerimize oldukça ciddi bir yatırım yaptık,” dedi, “özellikle dijital alanla, sosyal medya analiziyle ve SOCOM tarafından sahaya sürülen çeşitli araçlarla ilgili yeni yetenekler geliştirdik. Bu araçlar sayesinde sosyal medya alanını değerlendirebiliyoruz, siber alanı değerlendirebiliyoruz, trend analizi yapıyoruz, fikirlerin nasıl hareket ettiğini ve ardından kendi ürünlerimizle bu ortamı potansiyel olarak nasıl etkileyebileceğimizi görüyoruz.”
Askeri propaganda savaşın kendisi kadar eski olsa da deepfake’ler genellikle kendine özgü bir teknolojik tehlike olarak tartışılmıştır ve varlığı bir medeniyet tehdidi oluşturmaktadır.
William Evanina’nın Ulusal Karşı Casusluk ve Güvenlik Merkezi’ni yönetmesi için aday gösterilmesini tartışan 2018’deki Senato İstihbarat Komitesi oturumunda, Florida Senatörü Marco Rubio, deepfake’ler hakkında “Buna inanıyorum, bu Amerika ve Batı demokrasilerine yönelik saldırıların bir sonraki dalgası.” dedi. Evanina ise Rubio’ya cevaben, ABD istihbarat topluluğunun deepfake tehdidine karşı önlem almak için çalıştığını temin etti.
Pentagon’un, yabancı deepfake tehdidine karşı mücadele etmek için yoğun bir şekilde çalıştığı da bildirilmektedir. 2018 yılında bir haber raporuna göre, Savunma İleri Araştırma Projeleri Ajansı (DARPA), askeri teknoloji araştırma bölümü, deepfake görüntülerini tespit etmek için on milyonlarca dolar harcamıştır. Benzer çabalara Savunma Bakanlığı’nın genelinde de devam edilmektedir.
2019 yılında Senatör Marco Rubio ve Mark Warner 11 Amerikan internet şirketine deepfake videoları tespit etmek ve kaldırmak için politikalar geliştirmeleri konusunda çağrıda bulundu. “Eğer halk artık kaydedilmiş gerçek olaylara veya görüntülere güvenemezse bunun demokrasimize ciddi derecede zararlı bir etkisi olacaktır.”
2021 Mali Yıl Ulusal Savunma Yetkilendirme Yasası’na gömülü olarak, Pentagon’a “yabancı hükümetler ve devlet dışı aktörlerin makine tarafından manipüle edilen medya (genellikle ‘deepfake’ olarak adlandırılan) oluşturma veya kullanma tehdidi” ile ilgili bir “istihbarat değerlendirmesi yapma” talimatı verildi. Bu değerlendirmenin içeriği, “bu tür medyanın nasıl kullanıldığı veya bilgi savaşı yapmak için nasıl kullanılabileceği” konularını kapsamaktadır.
Sadece birkaç yıl sonra Amerikan özel kuvvetleri aynı şeyi yapmak için hazırlanıyor gibi görünüyor. “Bu tehlikeli bir teknolojidir,” diyen Atlantic Council araştırmacısı Rizzuto bu teknolojiyle internet üzerindeki diğer zararlı içeriklerle mücadele edildiği gibi edilemeyeceğini ifade ediyor. Rizzuto’ya göre Deepfake teknolojisi, nükleer yayılmanın tartışıldığı gibi tartışılması gereken ve düzenlenmesi gereken hayati bir konu!
Bu makale İngilizce’den Türkçe’ye çevrilmiştir. Çalışma ilk olarak theintercept.com adresinde Sam Biddle tarafından yayınlanmıştır.
***
