Deepfakes: Norton advierte sobre los riesgos de la manipulación con IA

Los deepfakes representan uno de los mayores desafíos actuales para la seguridad digital. La creciente sofisticación de los deepfakes y de las imágenes generadas por inteligencia artificial plantea nuevos riesgos en entornos digitales cada vez más expuestos al engaño.

El rápido avance de la inteligencia artificial (IA) ha facilitado la creación de imágenes con un alto nivel de realismo, incluidas imágenes falsas o manipuladas, reduciendo significativamente las barreras para el engaño en línea.

Norton, una marca líder en ciberseguridad para consumidores, advierte que, si bien el contenido generado por IA no es intrínsecamente dañino, pueden surgir riesgos cuando los estafadores utilizan deepfakes como parte de estafas y tácticas de ingeniería social. Estas imágenes pueden crear urgencia, ejercer presión, explotar la confianza o engañar a las personas en entornos digitales.

Deepfakes y manipulación digital en aumento

El uso de herramientas de IA para generar o alterar imágenes y crear deepfakes ha atraído cada vez más atención en todo el panorama digital. Si bien estas tecnologías abren oportunidades para el arte y la expresión creativa, también permiten la creación de deepfakes con fines de uso indebido en redes sociales y plataformas digitales.

La capacidad de producir deepfakes muy realistas introduce nuevos riesgos. Este tipo de contenido puede aprovecharse en planes de fraude, extorsión o engaño diseñados para manipular emocionalmente a las personas.

"Con las herramientas de inteligencia artificial actuales, es posible hacer que casi cualquier persona parezca estar haciendo casi cualquier cosa en cuestión de segundos, sin necesidad de conocimientos técnicos", afirma Iskander Sanchez-Rola, director de IA e Innovación en Norton. "Los deepfakes pueden mostrar a personas en situaciones que nunca ocurrieron, lo que aumenta significativamente el riesgo de manipulación y daño reputacional".

Cuando los deepfakes se vuelven peligrosos

La inteligencia artificial no es intrínsecamente peligrosa. Existen múltiples usos legítimos para la creación de imágenes digitales. Sin embargo, el problema surge cuando los deepfakes se utilizan con fines de engaño.

Entre los usos peligrosos de deepfakes se encuentran:

Perfiles románticos falsos creados con deepfakes
Imágenes generadas por IA utilizadas en aplicaciones de citas para construir identidades falsas y desarrollar estafas emocionales prolongadas.

Deepfakes utilizados como prueba falsa en fraudes
Imágenes manipuladas que muestran supuestas emergencias, recibos o situaciones inventadas para presionar a las víctimas a enviar dinero.

Deepfakes para chantaje o extorsión
Contenido alterado que coloca falsamente a personas en situaciones comprometedoras, utilizado como herramienta de amenaza.

Suplantación de identidad mediante deepfakes
Imágenes generadas por IA que imitan a ejecutivos, figuras públicas o familiares para obtener información confidencial o dinero.

Deepfakes en estafas de comercio electrónico
Imágenes de productos que no existen o que no corresponden con la realidad, utilizadas para atraer compradores a sitios fraudulentos.

Cómo reducir el riesgo frente a los deepfakes

Dado que el uso indebido de deepfakes sigue aumentando, Norton recomienda adoptar medidas preventivas.

Comparte menos contenido visual públicamente. Las imágenes pueden ser reutilizadas para crear deepfakes sin tu consentimiento.

Evita publicar fotos de alta resolución. Este tipo de material facilita la creación de deepfakes más realistas.

Controla tu presencia digital. Busca periódicamente imágenes tuyas para detectar posibles usos indebidos.

Desconfía de mensajes inesperados que incluyan imágenes impactantes o urgentes. Muchos fraudes con deepfakes buscan provocar reacciones emocionales rápidas.

Verifica siempre la fuente antes de reaccionar o compartir contenido. Los deepfakes suelen circular fuera de contexto.

No interactúes con personas que ejerzan presión inmediata. Consulta fuentes oficiales o autoridades si sospechas de un fraude relacionado con deepfakes.

Recurre a herramientas tecnológicas que ayuden a detectar manipulación digital. Aun así, complementa estas herramientas con verificación humana.

Comparte esta información con familiares y personas mayores. Son especialmente vulnerables ante estafas basadas en deepfakes.

En un entorno donde los deepfakes pueden difuminar la línea entre lo real y lo falso, desarrollar pensamiento crítico y hábitos de verificación es fundamental para protegerse.