Con la evolución de la inteligencia artificial, las tecnologías que recrean personas representan una amenaza para la veracidad de la información y la construcción democrática.
Por Florencia Belén Mogno.
El avance vertiginoso de la inteligencia artificial (IA) en los últimos años abrió un abanico de oportunidades para múltiples sectores, desde la medicina hasta la educación, pasando por el entretenimiento y la industria.
Sin embargo, este progreso también trajo consigo nuevas problemáticas, como la producción de contenidos falsos de apariencia real, conocidos como deepfakes. Se trata de una tecnología capaz de manipular imágenes, voces y movimientos para recrear digitalmente a una persona, al punto de hacerla decir o hacer cosas que nunca ocurrieron.
En un escenario global donde la información circula en tiempo real y el impacto de las redes sociales sobre la opinión pública es cada vez más profundo, los deepfakes se consolidaron como una herramienta de desinformación.
El uso malicioso de las deepfakes pone en riesgo la confianza ciudadana en las instituciones y medios de comunicación y plantea interrogantes éticos y legales sobre los límites de la tecnología, la privacidad y los derechos individuales.
En ese sentido y de acuerdo con la información a la que pudo acceder Diario NCO el equipo de la organización especializada F5, elaboró un informe sobre el tema y las consecuencias negativas que puede suponer el uso malicioso de las deepfakes.
Detalles de la investigación
En el reporte difundido, el especialista Andrés García analizó el funcionamiento de estas herramientas y alertó sobre su peligrosidad. Según explicó, los deepfakes son “la imitación de la imagen, video o voz de una persona a través de la inteligencia artificial”.
Estas recreaciones digitales, al no presentar errores visibles o elementos extraños a simple vista, pueden parecer absolutamente auténticas. Al respecto, García sostuvo: “Hay mucha gente que pudo haber creído en el video de un dirigente político bajando a su candidata de las elecciones. Y, probablemente, haya cambiado su voluntad de voto por haber sido víctima de información falsa”
Aunque su impacto político es uno de los focos de mayor preocupación, los deepfakes también llegaron a la vida cotidiana de manera peligrosa. En Estados Unidos, por ejemplo, un grupo de ciberdelincuentes utilizó inteligencia artificial para crear un vínculo amoroso ficticio con una mujer a través de interacciones virtuales.
Mediante audios, fotos y videos falsos lograron construir una relación que resultó en una estafa de más de 15 mil dólares. Este caso puso en evidencia que el poder de manipulación de estas herramientas también puede afectar de manera directa la vida emocional y financiera de las personas.
Abordaje de la problemática en la era digital
En relación a lo planteado y frente a los desafíos, los especialistas propusieron estrategias para la prevención y la detección temprana. Para García, uno de los pilares fundamentales es reforzar el pensamiento crítico.
“Hay que aplicar un pensamiento crítico similar al que usamos para detectar estafas. Si un audio llega por WhatsApp tras haber una sospecha, es dudoso”, explicó en el informe. El consejo apunta a la necesidad de no asumir como verdadero todo contenido viralizado, incluso si aparenta ser confiable o si muestra imágenes conocidas.
Por otra parte, el estudio facilitado a este medio enfatizó que además del criterio individual, también es necesario incorporar herramientas técnicas para reconocer estos montajes digitales.
Según el reporte, existen elementos clave a tener en cuenta: la sincronización entre la voz y el movimiento labial, los gestos faciales repetitivos o robóticos, la ausencia de parpadeo natural y otros pequeños desajustes visuales.
Necesidad de medidas
Por otro lado, los deepfakes traen aparejado un debate ético urgente. “La inteligencia artificial puede ser utilizada para el bien o para el mal”, remarcó García, y advirtió sobre el riesgo de fomentar su desarrollo sin establecer límites o controles.
En ese sentido, el profesional argumentó en el documento publicado que el uso indiscriminado de estas tecnologías puede abrir las puertas a violaciones de derechos fundamentales, como el derecho a la identidad, la intimidad y la libertad de expresión.
Con su “poder impresionante”, como lo describió el especialista, la IA obliga a replantear no solo los usos posibles, sino también las regulaciones necesarias para evitar que su implementación desvirtúe la realidad o genere daños irreversibles. El equilibrio entre innovación tecnológica y responsabilidad social es uno de los desafíos más complejos del presente.
En un mundo donde la verdad puede falsificarse con una precisión casi perfecta, la necesidad de desarrollar conciencia crítica, educación digital y legislación actualizada se vuelve cada vez más urgente. Proteger la veracidad de la información y garantizar el acceso a una comunicación confiable es, hoy más que nunca, una tarea colectiva.
Fuente fotografías: Facebook.com
Te Puede Interesar:
https://www.instagram.com/diarioncomatanza
https://facebook.com/diarionco
