Çevrimiçi manipülasyon nasıl incelenmeli ve yorumlanmalı

Sosyal ağlardaki kötü aktörler platformun sağladığı olanakları ve kendi keşfettikleri açıkları amaçları doğrultusunda kullanmaya çalışırlar. Manipülatif bir faaliyetin kaynağını tespit etmek, bu faaliyetleri gözlemlemekten çok daha karmaşık ve zordur.

Sosyal ağlar sağladıkları önemli olanakların yanında kötü aktörler için de bir oyun alanı haline gelmiş durumda. Her gün yapılan milyonlarca paylaşımın etkisini bu paylaşımların görünürlüğüne ve almış olduğu etkileşimlere bakarak ölçebiliriz fakat paylaşılan bir içeriğin doğruluğunu veya çok takipçili bir hesabın ne kadar güvenilir olduğunu sadece sayılara bakarak tespit etmek mümkün değil.

Bir önceki Sarkaç yazımızda sosyal botları anlatmış, nasıl yaratıldıklarını ve tespit edilebilmeleri için kullanılan özellikleri incelemiştik. Sosyal botların özellikle dezenformasyon ve koordinasyonlu faaliyetlerin yürütülmesindeki kullanımlarını ele almıştık.  Bu yazıda ise özellikle çok takipçili hesaplara ve onların dahil olduğu manipülatif kampanyalara odaklanacağız.

Sosyal medyadaki içerikle olan ilişkimiz

Kovid-19 pandemisinde halk sağlığını olumsuz etkileyecek dezenformasyon yayan hesapların oldukça popüler olduğunu gözlemlemiştik. Bu paylaşımlar, özellikle pandeminin erken dönemindeki bilinmezlik ortamında yüz binlerce kez tekrar paylaşıldı ve iletişim kanallarındaki gerçek bilginin erişilebilirliği önünde engel oluşturdu.^[1]Himelein-Wachowiak, M., Giorgi, S., Devoto, A., Rahman, M., Ungar, L., Schwartz, H. A., … & Curtis, B. (2021). Bots and misinformation spread on social media: Implications for COVID-19. Journal of medical Internet research, 23(5), e26933.^[2]Yang, K. C., Pierri, F., Hui, P. M., Axelrod, D., Torres-Lugo, C., Bryden, J., & Menczer, F. (2021). The COVID-19 infodemic: twitter versus facebook. Big Data & Society, 8(1), 20539517211013861.^[3]Gallotti, R., Valle, F., Castaldo, N., Sacco, P., & De Domenico, M. (2020). Assessing the risks of ‘infodemics’ in response to COVID-19 epidemics. Nature human behaviour, 4(12), 1285-1293. Doğrulama kuruluşları ile Sağlık Bakanlığı gibi resmi kurumların yapmış olduğu paylaşımlar ve bilgilendirme çabaları bu sebeple önemli. Bu alandaki dezenformasyona karşı mücadele, zaman içinde bilimsel kanıtların ve somut bulguların sunulmasıyla önemli yol aldı.

Siyasi tartışmalarda da aile, içinde bulunulan sosyal gruplar ve etkileşime girilen online platformlar inanç ve düşünceleri doğrudan etkiliyor.^[4]Swigger, N. (2013). The online citizen: Is social media changing citizens’ beliefs about democratic values?. Political behavior, 35(3), 589-603.^[5]Enders, A. M., Uscinski, J. E., Seelig, M. I., Klofstad, C. A., Wuchty, S., Funchion, J. R., … & Stoler, J. (2021). The relationship between social media use and beliefs in conspiracy theories and misinformation. Political behavior, 1-24. İnanç sistemleri ve siyasi tercihler değişmesi zor olgular ve kişinin değer algılarıyla da doğrudan ilişkili; dolayısıyla kişilerin inanç ve siyasi tercihlerine dokunan dezenformasyon faaliyetleri son derece etkili. Bir içeriği kişisel yanlılıklarımız ve inançlarımız üzerinden değerlendirmek, duygusal tepkiler verebildiğimiz için oldukça yanıltıcı olabilir. Kendimizi ait gördüğümüz gruplarla ilişkili olumlu düşünce ve haberlerden mutlu olurken, “diğerleri/ötekiler” diye nitelendirmeye yatkın olduğumuz gruplar hakkında olumsuz düşünceleri olduğu haliyle kabul etmeye ve yakıştırmaya daha yatkınız.^[6]Sherif, M. (1988). The robbers cave experiment: Intergroup conflict and cooperation.[Orig. pub. as Intergroup conflict and group relations]. Wesleyan University Press.^[7]Brewer, M. B. (1999). The psychology of prejudice: Ingroup love and outgroup hate?. Journal of social issues, 55(3), 429-444.^[8]Yarchi, M., Baden, C., & Kligler-Vilenchik, N. (2021). Political polarization on the digital sphere: A cross-platform, over-time analysis of interactional, positional, and affective polarization on social media. Political Communication, 38(1-2), 98-139. Bu sebeple çevrimiçi ağlarda yayılan bilgi üzerinden ayrışma, tartışma ve diğer grupların paylaşımlarını tamamen görmezden gelerek kendi yankı odalarımız içinde kalma eğilimindeyiz.^[9]Heatherly, K. A., Lu, Y., & Lee, J. K. (2017). Filtering out the other side? Cross-cutting and like-minded discussions on social networking sites. New Media & Society, 19(8), 1271-1289.^[10]Cinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). The echo chamber effect on social media. Proceedings of the National Academy of Sciences, 118(9), e2023301118.

Sosyal ağlarda önümüze gelen bilgileri inançlarımız üzerinden okumak yerine somut verilere odaklanarak ve alternatif yorumların da varlığını göz önüne alarak değerlendirme sorumluluğumuz var. Bu yazıda ele alacağımız gibi, bu konu özellikle siyasetçileri ve siyasetle ilgili paylaşımlar yapan çok takipçili hesapları ilgilendiriyor.

Bot takipçiler nereden, nasıl gelebilir?

Sosyal ağlardaki manipülatif faaliyetleri yorumlarken, sosyal ağlarda kişilerin kendilerini olduklarından farklı gösterebilmesi, amaçlarını açıkça belli etmeden koordinasyonlu faaliyetler düzenleyebilmeleri ve bir aktivitenin arkasındaki itici gücün kaynağını tespit etmenin zorluğu nedeniyle bazı alternatif senaryoları dikkate almalıyız.  Bunu anlayabilmek için örnek bir senaryo kurgulayalım ve olası yorumları beraber tartışalım.

Sosyal medyada paylaşımlar yapan ve eşit derecede popüler olan iki hesaba yönelik yapılan bir analizde farklı oranlarda otomasyon davranışı sergileyen ve bot hesap olduğu düşünülen takipçiler olsun. Şekil 1 böyle iki hesabı (A ve B) ve takipçilerini temsil etsin. A’nın takipçileri arasındaki sekiz hesaptan üçü bot hesaplardan oluşmaktadır ve B için yapılan analizde sekiz hesaptan beşinin bot hesap olduğu tespit edilmiştir.

Bu bilgiler ışığında yapılabilecek farklı yorumlar aşağıdaki gibi olabilir:

1. B hesabı bot takipçiler alarak popüler gözükmeye çalışmaktadır.
2. Bot hesapların B hesabını, bu hesabı destekleyenler tarafından ve B hesabının haberi olmadan takip etmesi sağlanmıştır.
3. A ve B hesabı, sahip olduğu belli özellikler sebebiyle (ağ içindeki konumu, içeriklerinin aldığı etkileşim veya kalitesi vb.) bot hesaplar için farklı seviyelerde cazip hedefler olmaktadırlar.
4. Hesapların kontrolü dışında gelişen ve platform kaynaklı olabilecek bir yanlılık sebebiyle bot hesapların B hesabını takip etmesi daha fazla gerçekleşmiştir.

Bu senaryoların hepsi olası senaryolar. A ve B bu durumdan tamamen habersiz olabilir veya kontrolleri dahilinde gerçekleşmiş olabilir. Burada B hesabının ait olduğu kişi veya kuruma dair tutumumuz bu senaryolara olan yaklaşımlarımızı etkileyecektir. Tam olarak da bu sebeple daha dikkatli planlanmış ve sosyal medya kullanıcılarının algılarını ve beklentilerini manipüle etmeyi planlayan senaryoların da var olabileceği ihtimaline olanak vermeliyiz.

Kötü niyetli aktörler hesapların güvenilirliğine zarar verebilir

Şekil 2’de olası bir başka senaryoya dair tasviri görebilirsiniz. Burada takipçiler arasındaki botların bir kısmı kötü niyetli bir aktör tarafından bu hesabın takipçi sayısını arttırmak amacıyla ve hesabın bilgisi dışında kullanılmıştır. Bu aktör aynı zamanda bot hesapların varlığına dair bilgiyi gazetecilerle ve araştırmacılarla paylaşarak bahsi geçen hesabın detaylı incelenmesini talep etmiştir ve bu hesabı botları kullanmakla suçlamaktadır.

Bu senaryo her ne kadar gerçekleşmesi zor gözükse de bize şu soruları sordurmalı: Bot hesapların varlığından kim fayda sağlıyor? Eğer bot takipçilerin hesaba ölçülebilen bir faydası yoksa bu durumda bot takipçili hesapların sorumluluğu ne olmalıdır? Twitter gibi sosyal ağlarda kazanılan takipçilerin muhasebesi çoğunlukla sayılar üzerinden tutulur. Ancak tespit edilen bot hesapların, takipçi sayılarına olan olumsuz etkilerine rağmen, engellenmesi ve takipten çıkarılması sağlıklı bir iletişim ağının oluşturulması ve olası bir itibar saldırısının önüne geçilmesi için önemlidir.

Bu tür planlı bir manipülasyon sonucu gerçekleştirilebilecek senaryoların kaynağını tespit etmek oldukça zordur. Burada disiplinler arası yaklaşım kullanılarak bu hesapların içinde bulunduğu konum, diğer hesaplarla etkileşimleri ve motivasyonları da dikkatle incelenmeli ve olası bir manipülasyondan kimin fayda sağlayacağının muhasebesi titizlikle yapılmalıdır. Bu durumda bile erişilebilir olan verilerle yapılabilecek çıkarım kısıtlı olacaktır. Ancak sosyal medya firmalarında, kullanıcılara ait aktiviteler, IP adresleri vb. bilgiler de olduğundan daha detaylı bir analiz yapılması mümkün olabilir.^[11]Pasquetto, I. V., Swire-Thompson, B., Amazeen, M. A., Benevenuto, F., Brashier, N. M., Bond, R. M., … & Yang, K. C. (2020). Tackling misinformation: What researchers could do with social media data. The Harvard Kennedy School Misinformation Review.

Platform kaynaklı yanlılıklar ve sorunlar

Platformların da gözlemlenen bot takipçi sayısı üzerinde bir etkisi var. Örneğin sistemin yaptığı öneriler kullanıcılara ait bilgiler üzerinden sağlanıyor. Bu öneri sistemlerindeki algoritmik yanlılıklar da sistem davranışında istenmeyen haksızlıkların oluşmasına neden oluyor. Örneğin Facebook üzerinde yapılan reklam ödemelerinin şeffaflık raporunda, Donald Trump’ı destekleyen kampanyaların daha az maliyetle, daha geniş kitlelere ulaşabildiği gözlemlenmişti.^[12]Bump, P. (2018) Trump’s Facebook advertising advantage explained, https://www.washingtonpost.com/news/politics/wp/2018/02/27/trumps-facebook-advertising-advantage-explained/ Burada paylaşılan reklam içeriklerinin ilgi çekiciliği ve platform üzerinde farklı siyasi görüşlerden olan kullanıcı sayılarındaki farklar bir siyasi gruba avantaj sağlamıştı ve seçim kampanyalarını yürütenler sistemlerdeki bu yanlılıkları tespit edip erişimlerini ve kampanya maliyetlerini optimize etmişti. Facebook’un sahip olduğu bu yanlı sistemin sorunları üzerine akademik çalışmalar yapıldı^[13]Ali, M., Sapiezynski, P., Bogen, M., Korolova, A., Mislove, A., & Rieke, A. (2019). Discrimination through optimization: How Facebook’s Ad delivery can lead to biased outcomes. Proceedings of the ACM on human-computer interaction, 3(CSCW), 1-30. ve bu çalışmalar sonucunda açılan dava neticesinde Facebook’un demografik belirteçler üzerinden reklam verme özellikleri sınırlandı. Buna rağmen yapılan deneysel çalışmalar sistemin içinde bulundurduğu diğer kişilere özel bilgilerden yanlılıkların devam ettiğini gösteriyor.^[14]Sapiezynski, P., Ghosh, A., Kaplan, L., Rieke, A., & Mislove, A. (2022, July). Algorithms that” Don’t See Color” Measuring Biases in Lookalike and Special Ad Audiences. In Proceedings of the 2022 AAAI/ACM Conference on AI, Ethics, and Society (pp. 609-616).  Makine öğrenmesi sistemlerindeki yanlılıkları kaldırmak üzerine yapılan araştırmalar son 5-10 yıldır hız kazandı çünkü sağlıktan hukuka, bankacılıktan insan kaynaklarındaki iş süreçlerine kadar pek çok makine öğrenmesi sisteminde bu zafiyetler mevcut.

Sosyal medyanın kullanıcılara sunduğu hesap önerileri de bir tavsiye sistemi ile seçiliyor. Hesap yaratılış aşamasında yani sistemin kullanıcı hakkında IP adresi ve internet tarayıcısı ayarları gibi sınırlı ilk bilgilere sahip olduğu durumda dahi bu öneriler yapılabiliyor. Platform üzerinde geçirilen zaman, kullanıcıdan toplanan etkileşim ve ilgi alanlarına dair veriler arttıkça yapılan öneriler kişiselleştiriliyor.

Hesap yaratıldığında siyaset ile ilgilendiğini belirten ve İstanbul’dan, İzmir’den, Ankara’dan, Trabzon’dan veya Hakkari’den hesabını ilk kez açan bir sosyal medya kullanıcısına Twitter hangi hesapları önerirdi? Aynı şekilde İstanbul’dan bağlanan ve hesabının dilini İngilizce, Türkçe, Rusça veya Arapça olarak ayarlayan kullanıcılar için hangi hesaplar tavsiye edilirdi? Kişiselleştirme adına yapılan farklı öneriler çoğunlukla bir fayda amacıyla tasarlanır ancak farklı ülkelerde, zamanlarda, dillerde yaratılan bot hesaplar için bu kişiselleştirilmiş önerilerin rolü nedir?

Gözlemlenen bazı bot faaliyetlerinde platformların rolü olabileceğini de göz önüne almalıyız. Görünürlüğünü arttırmak isteyen ve bunun için içeriklerinde popüler hesapları etiketleyen botları 2016 Amerikan başkanlık seçimlerinde gözlemlemiştik.^[15]Shao, C., Ciampaglia, G. L., Varol, O., Yang, K. C., Flammini, A., & Menczer, F. (2018). The spread of low-credibility content by social bots. Nature communications, 9(1), 1-9. Benzer sebeplerle Twitter’da trend olan konuları hedef alan ve kendi içeriklerini bu hashtagler ile kullanarak görünürlük kazanmaya çalışan hesaplara da Twitter üzerinde denk gelmek mümkün.^[16]Cresci, S., Lillo, F., Regoli, D., Tardelli, S., & Tesconi, M. (2019). Cashtag piggybacking: Uncovering spam and bot activity in stock microblogs on Twitter. ACM Transactions on the Web (TWEB), 13(2), 1-27. Bu hesapların yaratılmasında sistematik bir efor gerekli çünkü platformlar, kimlik doğrulamasını telefona gelen bir SMS veya e-posta üzerinden gerçekleştiriyor ve yeni yaratılan hesapları daha yakından gözlemliyor. Yeni hesapların başka hesapları takip etmesi ve profil bilgilerinin doldurulması bekleniyor, Twitter şüpheli gördüğü hesapları kısa sürede kapatabiliyor. Platformların sahte hesapları azaltmak için aldığı bu önlemler yüzünden sahte hesap yaratanlar, ilk karşılarına çıkan hesapları takip etme eğiliminde olabilirler. Bu da platformun öncelikli olarak önerdiği hesapların bot takipçi sayısının artmasına neden olabilir. Bu durum Şekil 3 ile temsil edildiği şekilde gerçekleşebilir.

Seçim 2023 için bazı araçlar

Bu yazıda sahte takipçilere ve takipçilerin hesabın görünür popülarite metriklerini manipüle etme amacıyla kullanılmasına ve bunları yorumlarken dikkat edilmesi gereken faktörlere odaklandık. Sosyal ağlarda manipülasyon ve koordinasyonlu faaliyetler düzenlemenin pek çok başka mekanizması da mevcut.^[17]Varol, O., & Uluturk, I. (2018). Deception strategies and threats for online discussions. First Monday.

İçeriklerin bot hesaplar tarafından beğenilmesi ile görünürlüğünün ve paylaşım metriklerinin manipülasyonu, ülke genelinde trend olacak içeriklerin botlar kullanılarak manipüle edilmesi^[18]Elmas, T., Overdorf, R., Özkalay, A. F., & Aberer, K. (2021, September). Ephemeral astroturfing attacks: The case of fake twitter trends. In 2021 IEEE European Symposium on Security and Privacy (EuroS&P) (pp. 403-422). IEEE. de bunlara örnek verilebilir ve sosyal medya kullanıcılarının etkileştikleri içerik ve hesaplara şüpheli yaklaşmaları bu nedenle önemlidir. Dezenformasyonun yayılmasında izlenen stratejilerden birisinin de, yayılması amaçlanan içeriğin popüler hesaplar aracılığıyla görünür kılınması olduğunu biliyoruz.^[19]Shao, C., Ciampaglia, G. L., Varol, O., Yang, K. C., Flammini, A., & Menczer, F. (2018). The spread of low-credibility content by social bots. Nature communications, 9(1), 1-9. Özellikle siyasetçilerin takipçilerinden gelen paylaşımlarla etkileşirken çok dikkatli olması ve kötü niyetli aktörlerin çabalarına fırsat vermemesi gerekli.

Sabancı Üniversitesi yürüttüğümüz #Secim2023 projesinde^[20]Najafi, A., Mugurtay, N., Demirci, E., Demirkiran, S., Karadeniz, H. A., & Varol, O. (2022). # Secim2023: First Public Dataset for Studying Turkish General Election. arXiv preprint arXiv:2211.13121. siyasilere ait hesapları detaylı olarak inceliyoruz. Sahte takipçilerin veya bot hesapların sosyal medya hesaplarının popülerliklerini veya görünürlüklerini manipüle etmek için kullanıldığını geçmiş araştırmalarımızda göstermiştik^[21]Varol, O., & Uluturk, I. (2020). Journalists on Twitter: self-branding, audiences, and involvement of bots. Journal of Computational Social Science, 3(1), 83-101.^[22]Varol, O., Ferrara, E., Davis, C., Menczer, F., & Flammini, A. (2017, May). Online human-bot interactions: Detection, estimation, and characterization. In Proceedings of the international AAAI conference on web and social media (Vol. 11, No. 1, pp. 280-289).^[23]Ferrara, E., Varol, O., Davis, C., Menczer, F., & Flammini, A. (2016). The rise of social bots. Communications of the ACM, 59(7), 96-104.. Yaklaşmakta olan 2023 seçimleri için geliştirdiğimiz anomali takipçi tespit sistemi ile de farklı örüntüleri tespit ediyor ve paylaşıyoruz,^[24]Anomali takipçi analizi, https://secim2023.biz/apps/follower-anomaly/ siyasilerin takipçi sayılarındaki günlük değişimleri başka bir ara yüz üzerinden takip ediyoruz.^[25]https://secim2023.biz/apps/follower-change/ Erişilebilir ara yüzler ve veri kaynakları ile hesaplamalı sosyal bilimler yaklaşımlarını seçim döneminde gözlemlenebilecek dezenformasyon ve çevirim içi manipülasyon faaliyetlerinin tespitinde kullanmayı amaçlıyoruz.

Onur Varol
Sabancı Üniversitesi, Mühendislik ve Doğa Bilimleri Fakültesi, VIRAL lab., BAGEP 2022

Bu eser Creative Commons Atıf-GayriTicari 4.0 Uluslararası Lisansı ile lisanslanmıştır. İçerik kullanım koşulları için tıklayınız.