Oct 15, 2022
Dezenformasyonun Zehiri ve Şifası: Yapay Zekâ
Görmek inanmaktır diyoruz, ama aslında inanmakta görmekten çok daha iyiyiz. Aslında, inandığımız şeyleri her zaman görüyoruz hatta bazen inanamayacağımızı görüyoruz. — Robert Anton Wilson
Dezenformasyon, son yılların liste başı tartışma konularından biridir. Günümüzde dezenformasyon, her zamankinden daha büyük ve daha hızlı bir yayılma örüntüsüne sahip. Bunun önemli sebeblerinden biri tahmin edeceğimiz gibi dijitalleşme ve bunun bize sağladığı nimetlerin yan etkileridir. Dezenformasyon başlı başına ele alınabilecek bir konudur ve benim uzmanlık alanım değil, ancak yapay zekâ (YZ) ile oluşturulan sahte, manipülatif ve zehirli içeriklerin çeşitleri ve bunları tespit edebilmek için yine YZ teknolojilerinden nasıl faydalanabileceğimiz hakkında iki çift laf edebiliriz. Özellikle teyit edilmiş haber kaynaklarının yerini sosyal ağların alması ve bunun yanında herkesin ama herkesin kolaylıkla algoritmaları kullanarak içerik üretebiliyor olması bu kirlilik içinde bizi bir şifa arayışına yönlendiriyor.
Sosyal Ağlarda Yanlış Bilginin Yayılması-Önlenmesi ve Yapay Zekâ İlişkisi
Dijital sosyal ağ platformlarının başlangıçta katılımcı, adil ve küresel demokratikleşme amaçlasa da spekülasyonlara karşı eğilim, gerçek ile sahtenin homojenize olmasına da sebep oluyor. Haber kaynağı olarak sosyal ağların kullanılması (sosyal medya), sahte haberlerin yayılmasını kolaylaştırıyor ve küresel medyaya, siyasete ve yerleşik kurumlara yönelik güvensizlik tohumlarını yeşertiyor.
Bilgi düzensizliği, giderek radikalleşen sosyal ağ kutuplaşması, dikkatin yanlış yerde odaklanmasına neden olacağı gibi kutuplar arasında sıkışan grupların çatışması gerçek bilginin görülemez hale gelmesine sebep olabiliyor. Toplum, mevcut genel eğilimleri bensimsemeye yönelik bir sempatiye sahip olabiliyor, bunu da göz ardı etmemek gerekir.
Amerika Birleşik Devletleri’nde Twitter kullanıcılarının %59'u tweet’i okumadan “retweet” yaptığı ve Reddit kullanıcılarının %78'inin içerikleri okumadan, yorumların belirlediği eğilime göre belirli gönderilerin lehine veya aleyhine yorum ve reaksiyon gösterdiği ortaya çıkmıştır.
Yanlış bilginin yayılmasını destekleyen (genellikle) bot hesaplar ile eğilimler yaratılarak yanlış bilgi provakasyonunu kolaylaştırmaktadır. Sosyal ağlar, tavsiye sistemleri, reklamlar ve daha fazlası internete bağlandığımız anda karşımıza serilmeye başlıyor. Bize özel kişiselleştirme algoritmaları ile demokratik bir bilgi akışı sağlanabileceği gibi bizi bir cendereye hapsetmesi de ihtimaller dahilindedir. Ben buna “aşırı kişiselleştirme-overpersonalized” diyorum.
Çoğu insan hedefleme algoritmalarının kullanımının durdurulmasını istemez. Kendimizle ilgili, beğenilerimize uygun tavsiyeleri görmek isteriz. Ancak bunun güvenli ve etik bir şekilde yapıldığını da bilmek isteriz. Hesap verebilir ve şeffaf olmasını isteriz. Beklentilerimizi karşılarken bizi vicdanen veya madden sömürmediğine, bir cenderede sıkıştırmadığına emin olmak isteriz. Girdiğimiz cendere; bir ürünü bize satılmaya çalışılmasıyla ilgili olabilirken bir savaş haberi, yanlı ve çarpıtıcı bir seçim propagandası veya dünyayı etkileyen bir salgınla ilgili olabilir.
“Bilgi güçtür. Dezenformasyon gücün kötüye kullanılmasıdır.” — Newton Lee
Sosyal ağların kişiselleştirme ve hedefleme algoritmalarında YZ’den faydalandığını biliyoruz. Maalesef bu algoritmalar dezenformasyonun yayılmasına da katkı sağlayabiliyor. Ancak dünyada kimi devletler, birlikler ve örgütler dezenformasyonla mücadele yollarının yine büyük veri ve YZ’ye çıktığının farkındalar.
Dezenformasyonun boyutlarını, etkilerini araştıran Iberian Digital Media Research and Fact-Checking Hub bir Avrupa Birliği projesidir. Bu proje tam de bu yazının konusuyla ilgili; sosyal medyanın etkin yönetilmesi için kullanılan YZ teknolojilerine dayalı dijital araçların oynadığı rolü hem dezenformasyonun yayılması açısından hem de bunu önleyebilmek için gözden geçirilmesine odaklanmaktadır. Dezenformasyona karşı mücadele için bir araya gelen gazeteciler, araştırmacılar tarafından oluşturulan etik ve demokratik hedeflerle tutarlı ve ihtiyatlı bir medya kullanımına yardımcı olmak üzere “medya okuryazarlığı” çalışmaları yürütmektedir.
YZ teknolojisinin; hedefleme algoritmaları, otomatik veya sentetik içerik üretme yeteneği ile toplumu zehirleme ihtimali varken, yanlış bilgileri tespit etme ve dezenformasyonla mücadele için kullanılarak bu zehire şifa da olabilir.
Sahte haberlerin tespit edilmesine yönelik yürütülmüş olan Horizon 2020 Avrupa Birliği Projesi FANDANGO (FAke News discovery and propagation from big Data ANalysis and artificial intelliGence Operations) ile sosyal medya dahil çeşitli medya kaynakları ve açık veri tipolojilerini birlikte işleyerek daha verimli ve doğrulanmış bir iletişim sağlamayı hedeflemektedir. Tasarlanan araçlar, YZ’nin Doğal Dil İşleme (Natural Language Processing-NLP) yaklaşımlarından faydalanarak sahte haberin kaynağını bulabilir ve gazatecilerin bu kaynakları araştırmasına olanak tanıyabilmektedir.
“Sahte haberler; algoritmalar ve verilerle ilgili matematiksel bir sorun değil, gerçekle nasıl uyumlu olacağımıza dair çok felsefi bir sorundur.” — Francesco Nucci
Sahte haberler ile gerçek haberlerin sosyal medya üzerinde yayılma örüntüsünde de önemli farklılıklar vardır. Buradan yola çıkarak MIT araştırmacılarının çalışmalarında sahte haberlerin Twitter’da 1500 kişiye gerçek haberin 6 katı daha büyük bir hızda ulaştığı tespit edilmiştir. Gerçek haberlerin zincir uzunluğu 10'u geçmezken sahte haberlerin zincir uzunluğu 19'u bulduğu ölçülmüştür. Burada botların payı oldukça yüksektir.
“Görmesem inanmam” deriz! Gördüğümüze inanmalı mıyız? Sahte haberler sahte videolarla desteklendiğinde inandırıcılığı arttığı gibi yayılma hızı da artıyor. Buna DeepFake diyoruz.
DeepFake
YZ’nin son on yıldır en çok araştırılan alt başlığı olan Derin Sinir Ağlarının (Derin Öğrenme-Deep Learning) bir kullanım alanı da sentetik veri üretmek üzerinedir. Görüntü, video, ses, konuşma ve müzik sentezleme yeteneğine sahip YZ modellerine her gün bir yenisi eklenmektedir. Bu modelleri kullanarak gerçeğinden ayırt edilemez sentetik veriler üretebiliyoruz.
Üstelik bunu yapabilmek için YZ uzmanı olmaya veya kodlama bilmeye de gerek yok. Çevrim içi araçlar ile kolaylıkla bir ünlünün sesini sentezleyebilir, bir politikacının videosunu üretebiliriz.
Esasen sentetik veri üretmek başta YZ olmak üzere pek çok araştırma alanı için önemlidir. Çünkü daha fazla veriye ihtiyacınız olduğunda ve veri toplamanın zor olduğu anlarda sentetik olarak veri üretmek ölçeklenebilirliğe katkı sağladığı gibi bir YZ geliştiricisi için zaman ve maliyet kazancı sağlar. İlaç tasarımı, medikal uygulamalar, mimari ve teknik çizimler gibi tasarıma yönelik çalışmalar için oldukça faydalı uygulamalarıyla karşılaşılmaktadır.
Maalesef ki bunun yanında bilgileri manipüle edici, uyuşturucuya yönlendirici ve pornografik içeriklerle kişileri ve toplumu istismar etmeye yönelik sentetik verilerin de üretilebiliyor olması büyük teknoloji şirketlerini, araştırmacıları ve devletleri alarma geçirmiştir.
2017 yılında, Dartmouth College’de bilgisayar bilimcisi olan ve sahte videoları tespit etme üzerine çalışan Hany Farid, yeni manipülasyon tekniklerinin hızla yayılmasının bir “silahlanma yarışına” yol açtığını söylemiştir.
Toplumların istikrarı için dezenformasyon tehlikesiyle başa çıkmak üzere çeşitli yollar aranmaya başlanmıştır. Eurostat tarafından yayınlanan dezenformasyonla mücadele kurallarına göz atabilirsiniz.
Yarışma: DeepFake Tespiti
AWS, Facebook, Microsoft gibi büyük teknoloji şirketleri ve Medya Bütünlüğü Yönlendirme Komitesi ortaklığı ile 100.000'den fazla ve zorlu bir veri kümesinde modellerini test eden 2.000'den fazla katılımcı arasında %65.18 doğruluk ile DeepFake tespiti gerçekleştirilmiştir. Kaggle’da düzenlenen bu yarışmada ödül ise 1.000.000$. Başta Meta AI olmak üzere pek çok sosyal medya şirketinin üzerine yoğunlaştığı konu başlıklarından biri olan DeepFake tespiti, CVPR gibi önemli konferanslarda da özel bölüm olarak ele alınmaya başlanmıştır.
Çıkarımlar
- Sahte haberlerin kaynağı insanlar olabileceği gibi GPT-3 gibi metin sentezleme yeteneğine sahip bir YZ ürünü de olabilir.
- Sahte haber içeriği Deepfake gibi fenomenlerle üretilmiş video ve sesli içerikler olabilir.
- Sahte haber içeriği YZ destekli kişiselleştirme ve hedeflemeleme algoritmaları ve botlar aracılığyla sosyal ağlar üzerinde bir virüs gibi yayılıyor olabilir.
- Kişileri, toplumun savunmasız kesimlerini, ülkeleri veya liderleri hedef gösteriyor olabilir.
- Kamu düzeni ve sağlığını bozmaya yönelik kutuplaşma yaratıyor olabilir.
- Bu durum ülkeler içi olayları doğrudan etkileyebilir. Örneğin; Amerika Birleşik Devletleri’nde politik kutuplaşmanın sebeplerinden biri olarak ölçülmüştür.
- Aynı durum ülke dışı güvenlik zaafiyetine de sebep olabilir. Örneklerine Rusya-Ukrayna savaşında sıkça rastlıyoruz.
Dünyanın dezenformasyonla mücadele için proaktif bir yaklaşıma ve kamu politikasina ihtiyacı olduğu su götürmez bir gerçek olarak karşımızda. Bunun için yazı içinde örneklerini verdiğim dezenformasyon tespitine yönelik ürünler geliştirmek yetmez, YZ’den sihir yapmasını bekleyemeyiz. Genç nüfusu odağa koymak üzere herkesin dezenformasyona karşı uyanık olması ancak kitlesel eğitimler ve spotlarla sağlanabilir. Bunun için okullara, üniversitelere, medyanın kendisine ve ilgili diğer kurumlara ödevler düştüğü kesin.
Sosyal ağlar, YZ teknolojileri, iletişim, etik ve hukuk alanlarında konu özelinde otorite sahibi kişilerin yönlendirici faaliyetlerine de ihtiyaç olduğunu söyleyebilirim. Bunun için profesyonel kuruluşlarla da iş birliği gerekmektedir.
Toplumların şifa bulması için tüm paydaşların dahil olduğu katılımcı, kapsayıcı ve proaktif önlemler alırken, YZ destekli teknolojilerinin çevrim içi dezenformasyonla mücadelede önemli bir müteffik olduğu gerçektir.
Dezenformasyonu tespit edilmesi ve izlenmesi için bazı çevrim içi araçlar:
- Google Fact Check Explorer (Bütün diller için)
- CrowdTangle (Bütün diller için)
- Botometer (Bütün diller için)
- Global disinformation index (İngilizce)
- Hoaxy (Türkçe dahil bazı diller için)
- Talkwalker (Türkçe dahil bazı diller için)
- Brandwatch (Türkçe dahil bazı diller için)
- Factuel (İngilizce ve bir kaç dil)
- BotSlayer (İngilizce)
- Twitter twXplorer (İngilizce)
- Iffy Quotient (İngilizce)
- Snopes (İngilizce)
- NewsGuard (İngilizce)
- Hootsuite (İngilizce)
- Efe Verifica (İspanyolca)
