Big Data, Artificial Intelligence, and Machine Learning Algorithms: A Descriptive Analysis of the Digital Threats in the Post-truth Era

L’utilisation de big data a t-il tout changé concernant la circulation de l'information? Nos données numériques ont été conservées dans un grand entrepôt que nous avons nommé ‘big data’. Tout ce que nous faisons dans la vie virtuelle laisse une empreinte numérique et grâce aux algorithmes d’apprentissage automatique; dans notre fils d'actualités, nous sommes principalement confrontés par des contenus similaires aux sujets que nous avions précédemment recherchés. Big data sont essentiellement utilisées pour manipuler les internautes pour acheter de nouveaux produits, visiter de nouveaux endroits, lire de nouveaux livres, etc. Cependant, comme il est apparu en 2016, avec Le Scandale Cambridge Analytica de Facebook, ces technologies constituent parfois une menace pour la démocratie. La raison sous-jacente est qu’aujourd’hui, les responsables des campagnes politiques utilisaient des big data et des algorithmes d’IA pour manipuler et/ou persuader les gens en diffusion du ‘contenus faux’. Le but de cette étude, en effectuant une analyse descriptive d’événements historiques très récents, tels que l’échec de Microsoft AI Tay et les effets de Youtube sur l’élection présidentielle au Brésil, est de définir les menaces numériques très actuelles à la démocratie. De plus, pour mieux décrire et discuter  ces menaces numériques, nous avons réalisé des entretiens semi-structurés avec quatre experts travaillant sur les algorithmes d'IA, le big data et l'ingénierie sociale. Nos analyses et résultats tirés d'entretiens semi-structurés ont montré qu'il existe plusieurs menaces numériques dans l'ère post-vérité, telles que l'ingénierie sociale, la violation de la confidentialité des données et l'utilisation abusive de big data, des algorithmes de moteur de recherche personnalisés qui créent des bulles de filtre, et la facilité de production et la diffusion de faux contenu.

Did the utilization of big data change everything about how information circulates? Our digital data have been kept in big warehouses that we name ‘big data’. All the things that we do in virtual life leave a digital footprint and thanks to machine learning algorithms; in our newsfeed, we mostly face contents, which are similar to the subjects that we looked for before. Big data are being used for manipulating people to buy new products, to travel to new places, to read new books, etc. However, as it emerged in 2016 with Cambridge Analytica Scandal of Facebook, sometimes those technologies construct a threat for democracy. The underlying reason is that in our days, big data and AI algorithms have been used by political campaign managers to manipulate and/or persuade people through diffusion of promoted ‘false’ contents. The aim of this study, by doing a descriptive analysis of very recent historical events like the failure of Microsoft’s AI Tay and Youtube’s effects on the presidential election in Brazil, is to define very current digital threats against democracy. Additionally, to better describe and discuss these digital threats we did semi-structured interviews with four experts who work on AI algorithms, big data, and social engineering. Our analyses and findings that we gathered from semi-structured interviews showed that there are several digital threats in the post-truth era that we live in like digital manipulation, violation of data privacy and misuse of big data, personalized search engine algorithms that create filter bubbles, the ease of production and diffusion of fake contents.

Büyük verinin kullanımı, bilginin dolaşımına dair her şeyi değiştirdi mi? Dijital verilerimiz “büyük veri” adını verdiğimiz büyük depolarda saklanıyor. Sanal hayatta yaptığımız her şey dijital bir ayak izi bırakıyor ve makine öğrenimi algoritmalar sayesinde; haber akışımızda çoğunlukla daha önce aradığımız konulara benzer içeriklerle karşılaşıyoruz. Temel olarak büyük veriler, insanları yeni ürünler almaya, yeni yerlere seyahat etmeye, yeni kitaplar okumaya vb. yönlendirmek için kullanılıyor. Bununla birlikte, 2016'da ilk kez Facebook’un Cambridge Analytica Skandalı ile ortaya çıktığı üzere, bazen bu teknolojiler demokrasi için bir tehdit oluşturmaktadır. Bunun nedeni günümüzde, büyük veri ve yapay zeka algoritmaları politik kampanya yöneticileri tarafından promosyonlu yanlış içeriklerin dolaşıma sokulması yoluyla insanları manipüle etmek ve/veya ikna etmek amacıyla kullanılmaktadır. Bu çalışmada, Microsoft’un yapay zekası Tay’in başarısızlığı ve Youtube’un Brezilya’daki cumhurbaşkanlığı seçimleri üzerindeki etkisi gibi son zamanlardaki tarihi olayların tanımlayıcı bir analizini yaparak, demokrasiye karşı ortaya çıkan güncel dijital tehditleri tanımladık. Bunun yanı sıra, bu dijital tehditleri daha iyi tanımlamak ve tartışmak için yapay zeka temelli algoritmalar, büyük veri ve sosyal mühendislik üzerine çalışan dört uzmanla yarı-yapılandırılmış görüşmeler gerçekleştirildi. Yapmış olduğumuz analizler ve yarı yapılandırılmış görüşmelerden elde etmiş olduğumuz bulgular, içinde yaşadığımız hakikat ötesi çağda sosyal mühendislik, veri gizliliğinin ihlali, filtre baloncukları yaratan kişiselleştirilmiş arama motoru algoritmaları, doğru olmayan içeriklerin üretiminin ve dolaşıma sokulmasının kolaylaşması gibi birçok dijital tehdit bulunduğunu göstermiştir.