Дипфейк как феномен современного информационного пространства
DOI:
https://doi.org/10.47475/1999-5407-2024-68-3-24-35Ключевые слова:
дипфейк, верификация данных, фактчекинг, информационные технологии, искусственный интеллект, Альянс в сфере искусственного интеллекта, этика искусственного интеллектаАннотация
Для современного общества проблема циркуляции недостоверной (фейковой) информации приобретает критическое значение. Развитие и доступность технологий имеют и негативные последствия, включая возможность использования генеративного искусственного интеллекта (Gen AI) для создания мультимедийного фейкового контента (дипфейк), дезинформации и манипулирования общественным мнением. Современные технологии позволяют производить и распространять ложный мультимедийный контент, который порой неотличим от достоверных фактов и способен мгновенно распространяться в социальных сетях, а потом достаточно долго циркулировать в информационном пространстве. Ключевые факторы - это доступность и скорость распространения информации новостного и развлекательного характера, высокая степень доступности мобильных устройств и подключения к сети Интернет, доверие людей к мультимедийной информации и высказываниям публичных персон. Одним из триггеров массового появления мультимедийной фейковой информации после 2021-2022 гг. в сфере технологий является комодитизация (доступность) генеративного искусственного интеллекта (text2Image нейросети Stable Diffusion, DALL-E). Доступные технологии прикладного генеративного ИИ позволяют создавать на основе существующих данных различные виды мультимедийного контента - изображения, аудио и видео на любом современном устройстве (ПК, смартфон), в том числе подключая облачные вычислительные мощности и мультимодальные LLM, доступные в виде «чат-ботов» (ChatGPT, GigaChat). Одним из негативных аспектов создания сгенерированного и модифицированного контента становится его использование в мошеннических схемах. В исследовании приводятся описание методики создания дипфейков и примеры их функционирования в современном информационном пространстве, анализируются риски их использования. Идентификация фальшивого контента (дипфейков), созданного с помощью генеративного искусственного интеллекта, является сложной задачей, требующей разработки и внедрения эффективных алгоритмов и инструментов, способных обнаруживать и отличать подлинные материалы от недостоверных. В статье анализируются технологические аспекты данного процесса и актуальные разработки зарубежных и российских компаний, таких как Microsoft Video Authenticator, Intel FakeCatcher, ИС «Вепрь», ПО «Зефир», технологические решения ПАО «Сбербанк». Использование технологий искусственного интеллекта для создания дипфейков ставит перед обществом целый ряд важных этических вопросов, касающихся правды, законности и моральной приемлемости, права на частную жизнь, авторских прав, а также потенциальной угрозы для общественной безопасности. Это требует разработки и внедрения строгих этических норм и мер законодательного регулирования для предотвращения злоупотребления указанными технологиями, в том числе обязательная маркировка (watermark) сгенерированного Gen AI контента. В статье анализируется положительный опыт «Альянса в сфере искусственного интеллекта», который объединяет вузы и технологические компании России. В рамках деятельности организации разрабатываются рекомендации и этические документы с целью регулирования использования технологий ИИ, чтобы предотвратить злоупотребления и нарушения этических норм, в том числе и в сфере информации. Организация предлагает развивать и внедрять подходы и технологии, способные обнаруживать и отличать подлинные материалы от фальшивых, чтобы помочь гражданам и организациям критически оценивать контент, представленный в СМИ и социальных медиа.
Библиографические ссылки
Berezhnaya, V. S. (2020). Voprosi standartizacii faktchekinga v journalistike dannyh. Teoreticheskiy aspekt [Standartized Fact Cheching in Data Journalism. A Theoretical view]. Nauka televidenia, 16.2, 191–209. (In Russ.).
Makarova, L. S. & Batashev, Yu. V. (2023). Perspectivy ispolsovania technologiy pricladnogo iskusstvennogo intellecta v sisteme verificacii informacii SMI I socialnyh media [Prospects for the use of Applied Artificial Intelligence technologies in the verification system of media and Social Media information]. Znak: problrmnoe pole mediaobrazovanija, 2 (4), 118–127. (In Russ.).
Raspopova, S. S. & Simakova, S. I. (2022). Faktcheking kak noviy format samoregulirovania setevoy kommunikacii. [Factchecking as a new format of self-regulation network communication]. Znak: problemnoe pole mediaobrazovanija, 1 (43), 150–157. (In Russ.).
Bernaciak, C. & Ross, D. (2022). How Easy Is It to Make and Detect a Deepfake? Carnegie Mellon University, Software Engineering Institute’s Insights (blog), available at: https://insights.sei.cmu.edu/blog/how-easy-is-it-to-make-and-detect-a-deepfake. (accessed: 21.06.2024).
Botnevik, B., Sakariassen, E. & Setty, V. (2020). BRENDA: Browser Extension for Fake News Detection. Proceedings of the 43rd International ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR ’20), July 25–30, 2020, Virtual Event, China. ACM, New York, NY, USA, P. 1–4, available at: https://dl.acm.org/doi/10.1145/3397271.3401396 (accessed: 24.06.2024).
Deepak, P., Chakraborty, T., Long, Ch. & Santosh Kumar G. (2021). DATA Science for Fake News. Surveys and Perspectives. Springer, 308 p.
Giansiracusa, N. (2021). How Algorithms create and prevent fake news. Exploring the impacts of social media, deepfakes, GPT-3, and more. Apress, 239 p.
Hamed S.Kh., Ab Aziz Mohd J. & M. Ridzwan Yaakub. A review of fake news detection approaches: A critical analysis of relevant studies and highlighting key challenges associated with the dataset, feature representation, and data fusion. Helyon, vol.9, issue 10, 2023, https://doi.org/10.1016/j.heliyon.2023.e20382 (accessed: 25.06.2024).
Hasimi, L. & Poniszewska-Marańda, A. (2022). Browser Extension for Detection of Fake News and Disinformation. Papadaki, M., Rupino da Cunha, P., Themistocleous, M., Christodoulou, K. (eds) Information Systems. EMCIS 2022. Lecture Notes in Business Information Processing, vol. 464. Springer, available at: https://doi.org/10.1007/978-3-031-30694-5_16 (accessed: 24.06.2024).
Hassan, N., Li, Ch., Arslan, F. & Tremayne, M. (2017). Toward Automated Fact-Checking: Detecting CheckWorthy Factual Claims by ClaimBuster. KDD ‘17: Proceedings of the 23rd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, Halifax, NS, Canada, August 13–17, 2017. New York: Association for Computing Machinery. 1803–1812.
Langmia K. (2023). Black Communication in the Age of Disinformation. DeepFakes and Synthetic Media. Palgrave Macmillan. 503 p.
Lanhman, M. (2021). Generating a New Rеality: From Autoencoders and Adversal Networks to Deepfakes. Calgary, Canada, 327 p
Meredith, D. (2024). The OSINT Handbook. A practical guide to gathering and analyzing online information. Pact Publising, 332 p.
Miranda, S., Nogueira, D., Mendes, A., Vlachos, A. (2019). Automated Fact Checking in the News Room. Proceedings of the 2019 World Wide Web Conference (WWW ’19), May 13–17, 2019, San Francisco, CA, USA. ACM, New York, NY, USA, available at: https://dl.acm.org/doi/10.1145/3308558.3314135 (accessed: 25.06.2024).
Nakov, P., Corney, D., Hasanain, M., Alam, F., Elsayed, T., Barron-Cedeno, A., Papotti, P., Shaar, Sh., Da San Martino, G. (2021). Automated Fact-Checking for Assisting Human Fact. Doxa: Qatar Computing Research Institute, 250 p.
Deepak, Р., Chakraborty, T., Long, Ch., Santosh, Kumar G. (2021). DATA Science for Fake News. Surveys and Perspectives. Springer, 308 p.
Pond, Ph. (2020). Complexity, Digital Media and Post Truth Politics. A Theory of Interactive Systems. Palgrave Macmillan, 247 p.
Rathgeb C., Tolosana R.,Vera-Rodriguez R., Bush Ch. (2022). Handbook of Digital Fact Manipulation and Detection. From DeepFakes to Morphing Attacks. Springer, 358 p.
Shaar, S., Georgiev, N., Alam, F., Da San Martino, G., Mohamed, A., Nakov, P. (2021). Assisting the Human Fact-Checkers: Detecting All Previously Fact-Checked Claims in a Document. Doxa: Qatar Computing Research Institute, 308 p.
Shick, N (2020). Deepfakes. The Coming Infocalypse. New York- Boston, 436 p.
Загрузки
Опубликован
Выпуск
Раздел
Лицензия
Copyright (c) 2024 Челябинский гуманитарий
Это произведение доступно по лицензии Creative Commons «Attribution-NonCommercial-NoDerivatives» («Атрибуция — Некоммерческое использование — Без производных произведений») 4.0 Всемирная.
