Desafíos y dimensiones de la desinformación en ALAC: deepfakes y la urgencia de proteger los derechos de las mujeres
DOI:
https://doi.org/10.31644/IMASD.36.2024.a19Palabras clave:
desinformación, deepfakes, ciberviolencia de género, derechos de las mujeres, regulación tecnológicaResumen
El presente trabajo es un análisis que aborda los desafíos y dimensiones de la desinformación, centrándose en la proliferación de deepfakes y su impacto desproporcionado en las mujeres. Desde la irrupción de las fake news hasta el surgimiento de tecnologías deepfake, se destaca una transformación en la interacción social con la información. La propagación acelerada de desinformación, manifestada en formas como deepfakes, presenta riesgos significativos para la percepción individual y la participación democrática. Los deepfakes, videos manipulados mediante inteligencia artificial, representan un fenómeno más avanzado y desafiante que las fake news, al recrear hiperrealistamente situaciones inexistentes. Se examina cómo estas tecnologías, inicialmente desarrolladas para propósitos creativos, se han convertido en armas digitales dirigidas principalmente a las mujeres. La ciberviolencia de género, manifestada en deepfakes pornográficos y acosos en línea, compromete la privacidad, reputación y salud mental de las mujeres, socavando la igualdad de género en el entorno digital. La ausencia de marcos regulatorios específicos y la insuficiencia de métodos de detección confiables plantean desafíos éticos y de derechos humanos. Se destaca la urgencia de adoptar enfoques de género en políticas de ciberseguridad, promover la alfabetización en información y pensamiento crítico, y cerrar la brecha de género en el acceso y uso de tecnologías digitales. La conclusión resalta la necesidad imperativa de proteger los derechos de las mujeres en línea mediante investigaciones continuas, marcos regulatorios específicos y estrategias efectivas para prevenir la violencia digital.
Descargas
Citas
Balmaceda, T. (2020). De Messi a Francella: cómo se hacen los deepfakes argentinos. LA NACION.https://www.lanacion.com.ar/tecnologia/de-lionel-messi-guillermo-francella-como-se-nid2438022/
Bañuelos Capistrán, J. (2022). Evolución del Deepfake: campos semánticos y géneros discursivos 2017-2021. Revista ICONO 14. Revista Científica De Comunicación Y Tecnologías Emergentes, 20(1). https://doi.org/10.7195/ri14.v20i1.1773
Caiza, E., Fernandez, A., & Torres, D. (2020). Noticias falsas; en busca de la vacuna. Revista Colombiana De Computación, 21(2), 92–101. https://revistas.unab.edu.co/index.php/rcc/article/view/4037
Cerdán Martínez V., & Padilla Castillo G. (2019). Historia del "fake" audiovisual: "deepfake" y la mujer en un imaginario falsificado y perverso. Historia y Comunicación Social, 24(2), 505-520. https://doi.org/10.5209/hics.66293
Chesney, R., & Keats Citron, D. (2019). Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. 107 California Law Review 1753, 1753-1773.
Cole, S. (2019a). This Horrifying App Undresses a Photo of Any Woman With a Single Click. Vice. https://www.vice.com/en/article/kzm59x/deepnude-app-creates-fake-nudes-of-any-woman
Cole, S. (2019b). Creator of DeepNude, App That Undresses Photos of Women, Takes It Offline. Vice. https://www.vice.com/en/article/qv7agw/deepnude-app-that-undresses-photos-of-women-takes-it-offline
Comisión Económica para América Latina y el Caribe (CEPAL). (2023). La igualdad de género y la autonomía de las mujeres y las niñas en la era digital: aportes de la educación y la transformación digital en América Latina y el Caribe. Santiago, Chile.
Cuzcano, X. M., & Ayma, V. H. (2020). A Comparison of Classification Models to Detect Cyberbullying in the Peruvian Spanish Language on Twitter. International Journal of Advanced Computer Science and Applications, 132-138. doi:10.14569/IJACSA.2020.0111018
Fernández, C. B. (2020). La democracia amenazada por ciberpolitica. Los riesgos más allá de facebook. Diálogo político. https://dialogopolitico.org/edicion-especial-2020-seguridad/la-democracia-amenazada-por-la-ciberpolitica/
Galarza, F. (2023). Deepfake en la campaña electoral: el detrás de la inteligencia artificial que genera videos falsos de Sergio Massa. El Destape. https://www.eldestapeweb.com/sociedad/elecciones-2023/deepfake-en-la-campana-el-detras-de-la-ia-que-genera-videos-falsos-de-massa-202311140554
González- Véliz, C., & de Andrés, S. (2023a). Corrientes del ciberfeminismo y transición digital feminista en América Latina y el Caribe: hacia un futuro digital más equitativo. Revista Punto Género, (N° 20), pp, 31-61. https://doi.org/10.5354/2735-7473.2023.73459
González-Véliz, C., & de Andrés, S. (2023b). Comunes digitales, ciberfeminismo y ciencia abierta: estrategias para la igualdad de género en el entorno digital. Hipertext.net, Vol. 27, (N°7), pp. 67-79. https://doi.org/10.31009/hipertext.net.2023.i27.07
Helmus, T. C. (2022). Artificial Intelligence, Deepfakes, and Disinformation: A Primer. RAND Corporation. https://doi.org/10.7249/PEA1043-1
James, C. (2023). Intel's deepfake detector tested on real and fake videos. BBC. Obtenido de https://www.bbc.com/news/technology-66267961
Jornal Nacional (2022). Deepfake: conteúdo do Jornal Nacional é adulterado para desinformar os eleitores. Jornal Nacional. https://g1.globo.com/jornal-nacional/noticia/2022/09/19/deepfake-conteudo-do-jornal-nacional-e-adulterado-para-desinformar-os-eleitores.ghtml
Lucas, K. (2022). Deepfakes and Domestic Violence: Perpetrating Intimate Partner Abuse Using Video Technology. Victims & Offenders, 647-659.
Matus, J., Rayman, D., & Vargas, R. (2018). Informe violencia de género en Internet en Chile. Datos Protegidos. Santiago, Chile.
Morán, A., & Lavanda, M. (2023). Reflexiones Legales sobre la IA en el Perú: Consideraciones desde Asilomar. Pólemos. https://polemos.pe/reflexiones-legales-sobre-la-ia-en-el-peru-consideraciones-desde-asilomar/
Milei, J. [@JMilei]. (2023) EL MÉTODO CASTA-MASSA. X. https://x.com/JMilei/status/1719479197440127330
Mustak, M., Salmien, J., Mäntymäki, M., Rahman, A., & Dwivedi, Y. K. (2023). Deepfakes. Deceptions, mitigations, and opportunities. Journal of Business Research. Vol. 154. https://doi.org/10.1016/j.jbusres.2022.113368
Nicas, J., & Cholakian Herrera, L. (2023). La IA hace campaña en las elecciones de Argentina. The New York Times. https://www.nytimes.com/es/2023/11/15/espanol/elecciones-argentina-imagenes-inteligencia-artificial.html
Organización de los Estados Americanos (OEA). (2021a). La violencia de género en línea contra las mujeres en línea.
Organización de los Estados Americanos (OEA). (2021b). Ciberviolencia y ciberacoso contra las mujeres y las niñas en el marco de la convención Belém do Pará.
Piña, G. (2023). Cinco casos de “DeepFake porn” en México. La ley es insuficiente: Olimpia Coral. https://m-x.com.mx/entrevistas/cinco-casos-de-deepfake-porn-en-mexico-la-ley-es-insuficiente-olimpia-coral/
Ramírez Mendoza, S. (2023). Clonan rostros de conductoras peruanas de TV para usarlos en publicidad engañosa: nuevo caso de deepfake y qué medidas de prevención tomar. El Comercio. https://elcomercio.pe/lima/clonan-los-rostros-de-conductoras-de-television-con-ia-para-utilizarlos-en-publicidad-enganosa-la-tecnica-del-deepfake-y-que-medidas-de-prevencion-tomar-maite-vizcarra-mavila-huertas-inteligencia-artificial-estafa-conductoras-pe
Rodríguez, A. (2023). Acusado un universitario de alterar con inteligencia artificial miles de imágenes de alumnas para venderlas como pornografía. El País. https://elpais.com/mexico/2023-10-14/acusado-un-universitario-de-alterar-con-inteligencia-artificial-miles-de-imagenes-de-alumnas-para-venderlas-como-pornografia.html
Rojas Berríos, M. (2023). Chorrillos: Escolares que alteraron fotos de compañeras con IA y las comercializaron no fueron expulsados. Infobae. https://www.infobae.com/peru/2023/08/29/chorrillos-escolares-que-alteraron-fotos-de-sus-companeras-con-ia-para-venderlas-no-fueron-expulsados/
Saavedra, N. (2023). Chorrillos: denuncian a alumnos de colegio por editar fotos de sus compañeras para venderlas. La República. https://larepublica.pe/sociedad/2023/08/28/chorrillos-denuncian-a-alumnos-de-colegio-por-editar-fotos-de-sus-companeras-para-venderlas-1338680
Stevens, D. (2020). Regulating Deepfake Technology. Legislative possibilities in the Netherlands to obstruct the use of deepfake technology for the creation of non-consensual pornography: https://arno.uvt.nl/show.cgi?fid=152071
Sumsub (2023). Sumsub Identity Fraud Report. https://sumsub.com/files/sumsub_identity_fraud_report_2023.pdf
Tripathi, S. (2019). Women and online harassment. (N°6), pp. 133-158. Feminist Dissent. https://doi.org/10.31273/fd.n6.2022.1265
Urgente24 (2023). Deepfake de Sergio Massa: No saben el daño que hacen. Urgente24. https://urgente24.com/actualidad/deepfake-sergio-massa-no-saben-el-dano-que-hacen-n563440
Uribarri, F. (2022). Aplicaciones de 'deepfake' colocan a mujeres en videos porno. La Voz de Galicia. https://www.lavozdegalicia.es/xlsemanal/a-fondo/mujeres-porno-deepfake-montaje-caras-videos-pornografia-ilegal.html
Vaca Trigo, I., & Valenzuela, M. E. (2022). Digitalización de las mujeres en América Latina y el Caribe: acción urgente para una recuperación transformadora y con igualdad. Comisión Económica para América Latina y el Caribe (CEPAL). Santiago, Chile.
Zúñiga-Carrasco, I., & Millar de Jesús, R. (2022). Noticias falsas y pseudocientíficas. Revista del Hospital de Juarez de México. Vol. 89, (N°3) pp. 145-152. https://doi.org/10.24875/RHJM.22000030
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
