L’utilisation de big data a t-il tout changé concernant
la circulation de l'information? Nos données numériques ont été conservées dans
un grand entrepôt que nous avons nommé ‘big data’. Tout ce que nous faisons
dans la vie virtuelle laisse une empreinte numérique et grâce aux algorithmes
d’apprentissage automatique; dans notre fils d'actualités, nous sommes
principalement confrontés par des contenus similaires aux sujets que nous
avions précédemment recherchés. Big data sont essentiellement utilisées pour manipuler
les internautes pour acheter de nouveaux produits, visiter de nouveaux
endroits, lire de nouveaux livres, etc. Cependant, comme il est apparu en 2016,
avec Le Scandale Cambridge Analytica de Facebook, ces technologies constituent
parfois une menace pour la démocratie. La raison sous-jacente est
qu’aujourd’hui, les responsables des campagnes politiques utilisaient des big
data et des algorithmes d’IA pour manipuler et/ou persuader les gens en
diffusion du ‘contenus faux’. Le but de cette étude, en effectuant une analyse
descriptive d’événements historiques très récents, tels que l’échec de
Microsoft AI Tay et les effets de Youtube sur l’élection présidentielle au
Brésil, est de définir les menaces numériques très actuelles à la démocratie.
De plus, pour mieux décrire et discuter
ces menaces numériques, nous avons réalisé des entretiens
semi-structurés avec quatre experts travaillant sur les algorithmes d'IA, le
big data et l'ingénierie sociale. Nos analyses et résultats tirés d'entretiens
semi-structurés ont montré qu'il existe plusieurs menaces numériques dans l'ère
post-vérité, telles que l'ingénierie sociale, la violation de la
confidentialité des données et l'utilisation abusive de big data, des
algorithmes de moteur de recherche personnalisés qui créent des bulles de
filtre, et la facilité de production et la diffusion de faux contenu.
menaces numériques big data intelligence artificielle algorithmes d'apprentissage automatique désinformation
Did
the utilization of big data change everything about how information circulates?
Our digital data have been kept in big warehouses that we name ‘big data’. All
the things that we do in virtual life leave a digital footprint and thanks to
machine learning algorithms; in our newsfeed, we mostly face contents, which
are similar to the subjects that we looked for before. Big data are being used
for manipulating people to buy new products, to travel to new places, to read
new books, etc. However, as it emerged in 2016 with Cambridge Analytica Scandal
of Facebook, sometimes those technologies construct a threat for democracy. The
underlying reason is that in our days, big data and AI algorithms have been
used by political campaign managers to manipulate and/or persuade people
through diffusion of promoted ‘false’ contents. The aim of this study, by doing
a descriptive analysis of very recent historical events like the failure of
Microsoft’s AI Tay and Youtube’s effects on the presidential election in
Brazil, is to define very current digital threats against democracy.
Additionally, to better describe and discuss these digital threats we did
semi-structured interviews with four experts who work on AI algorithms, big
data, and social engineering. Our analyses and findings that we gathered from
semi-structured interviews showed that there are several digital threats in the
post-truth era that we live in like digital manipulation, violation of data
privacy and misuse of big data, personalized search engine algorithms that
create filter bubbles, the ease of production and diffusion of fake contents.
Digital threats big data artifical intelligence machine learning algorithms disinformation
Büyük verinin kullanımı, bilginin dolaşımına dair her
şeyi değiştirdi mi? Dijital verilerimiz “büyük veri” adını verdiğimiz büyük
depolarda saklanıyor. Sanal hayatta yaptığımız her şey dijital bir ayak izi
bırakıyor ve makine öğrenimi algoritmalar sayesinde; haber akışımızda
çoğunlukla daha önce aradığımız konulara benzer içeriklerle karşılaşıyoruz.
Temel olarak büyük veriler, insanları yeni ürünler almaya, yeni yerlere seyahat
etmeye, yeni kitaplar okumaya vb. yönlendirmek için kullanılıyor. Bununla
birlikte, 2016'da ilk kez Facebook’un Cambridge Analytica Skandalı ile ortaya
çıktığı üzere, bazen bu teknolojiler demokrasi için bir tehdit oluşturmaktadır.
Bunun nedeni günümüzde, büyük veri ve yapay zeka algoritmaları politik kampanya
yöneticileri tarafından promosyonlu yanlış içeriklerin dolaşıma sokulması
yoluyla insanları manipüle etmek ve/veya ikna etmek amacıyla kullanılmaktadır.
Bu çalışmada, Microsoft’un yapay zekası Tay’in başarısızlığı ve Youtube’un
Brezilya’daki cumhurbaşkanlığı seçimleri üzerindeki etkisi gibi son zamanlardaki
tarihi olayların tanımlayıcı bir analizini yaparak, demokrasiye karşı ortaya
çıkan güncel dijital tehditleri tanımladık. Bunun yanı sıra, bu dijital
tehditleri daha iyi tanımlamak ve tartışmak için yapay zeka temelli
algoritmalar, büyük veri ve sosyal mühendislik üzerine çalışan dört uzmanla
yarı-yapılandırılmış görüşmeler gerçekleştirildi. Yapmış olduğumuz analizler ve
yarı yapılandırılmış görüşmelerden elde etmiş olduğumuz bulgular, içinde
yaşadığımız hakikat ötesi çağda sosyal mühendislik, veri gizliliğinin ihlali,
filtre baloncukları yaratan kişiselleştirilmiş arama motoru algoritmaları,
doğru olmayan içeriklerin üretiminin ve dolaşıma sokulmasının kolaylaşması gibi
birçok dijital tehdit bulunduğunu göstermiştir.
Dijital tehditler büyük veri yapay zeka makina öğrenimi algoritmalar dezenformasyon
Birincil Dil | İngilizce |
---|---|
Bölüm | Makaleler |
Yazarlar | |
Yayımlanma Tarihi | 28 Aralık 2019 |
Kabul Tarihi | 5 Aralık 2019 |
Yayımlandığı Sayı | Yıl 2019 |