Ver (y oír) ya no es creer

¿Cómo se equilibra el potencial positivo de los deepfakes con los riesgos de fraude y manipulación? ¿Qué implicaciones tiene la capacidad de generar contenido realista instantáneamente para la confianza en la información digital?
Peter Diamandis

Las estadísticas son alarmantes: El fraude con deepfakes ha aumentado un 3000 % recientemente, con pérdidas proyectadas que alcanzarán la asombrosa cifra de 40 000 millones de dólares para 2027.

En los viejos tiempos (hace 2 o 3 años), generar una sola imagen de IA tardaba 30 segundos. Hoy, los sistemas de IA pueden generar cientos de imágenes por segundo, vídeos realistas y clones de voz completos, lo que permite crear deepfakes convincentes y engañosos al instante.

El director ejecutivo de NVIDIA, Jensen Huang, lo expresa sin rodeos: «Pronto se generará cada píxel. No se renderizará, se generará».

Los deepfakes se están utilizando como arma para el fraude financiero y la manipulación electoral, socavando el concepto mismo de la verdad. El viejo dicho «ver para creer» ya no se aplica.

Entonces, ¿qué puedes hacer? Mientras la tecnología avanza a la velocidad de la Ley de Moore, nuestras defensas humanas deben seguirle el ritmo. Aquí tienes tres poderosas estrategias para protegerte:

#1. Establece un Código de Verificación Secreto

Crea una contraseña preestablecida con tus familiares y contactos cercanos. Ante solicitudes inesperadas de dinero o información confidencial, solicita este código de verificación antes de actuar. Este método simple y tradicional proporciona una poderosa defensa incluso contra los clones de voz de IA más sofisticados. Cuando tu «hijo» llame en apuros pidiendo dinero de emergencia, tu código se convierte en tu escudo.

#2. Cuestiona cualquier solicitud inusual

Aborda las solicitudes repentinas de dinero, información personal o acciones urgentes con sano escepticismo. Si algo te parece extraño en una llamada, video o mensaje, confía en tu instinto. Los avatares de IA actuales se han vuelto notablemente convincentes, pero suelen presionarte para que tomes decisiones impulsivas. Recuerda: las solicitudes legítimas pueden resistir el escrutinio de la verificación y el tiempo. Como señala el profesor de Berkeley Hany Farid, los deepfakes crean un mundo donde la «negación plausible» se vuelve demasiado común.

¿Cómo se equilibra el potencial positivo de los deepfakes con los riesgos de fraude y manipulación? ¿Qué implicaciones tiene la capacidad de generar contenido realista instantáneamente para la confianza en la información digital?

#3. Busca fallas digitales

Si bien la tecnología de deepfakes mejora a diario, las señales reveladoras a menudo persisten. Presta atención a movimientos oculares anormales, patrones de habla robóticos o inconsistencias de píxeles, especialmente alrededor de los rasgos faciales en los videos. Los deepfakes de audio pueden contener ruido de fondo inusual o modulación de voz inconsistente. La regla de oro sigue vigente: si una interacción parece sospechosamente perfecta o extrañamente imperfecta, procede con extrema precaución.

El lado positivo de los deepfakes

Grabando a tus padres/abuelos

Aquí tienes otro consejo familiar para que lo consideres. (Nota: a pesar de los riesgos, la tecnología deepfake no es intrínsecamente mala. Como cualquier innovación poderosa, ofrece notables beneficios potenciales, pero también graves peligros).

Si tienes la suerte de que tus padres o abuelos aún estén vivos y en pleno uso de sus facultades mentales, considera grabarlos durante 2 o 3 horas. Apunta con tu teléfono inteligente hacia ellos y comienza a grabar su historia. Capturar su video, voz e historia te permitirá algún día (si lo deseas) revivirlos como un avatar de IA totalmente interactivo que permitirá a tus tataranietos conocerlos e interactuar con ellos.

El futuro de esta tecnología aún no está escrito. Como he dicho a menudo: «Los mayores problemas del mundo son las mayores oportunidades de negocio del mundo». Los emprendedores, en colaboración con los gobiernos, construirán nuevas infraestructuras y contramedidas, de forma similar a cómo la banca desarrolló sistemas para prevenir la falsificación de moneda.

Hasta entonces, la vigilancia sigue siendo nuestra defensa más poderosa contra los estafadores que se aprovechan tanto de tu bolsillo como de tu confianza.

La próxima vez que tu «abuela» te pida dinero urgentemente, detente, verifica y burla el engaño.

Deja un comentario

Compartir este artículo:

Artículos Relacionados

Cirion reafirma su compromiso con Venezuela como eje del desarrollo digital y la adopción de la inteligencia artificial

Venezuela se posiciona como eje digital con Cirion: la empresa impulsa la IA y centros de datos para conectar al país con el futuro tecnológico.

Leer más
¡Tesla se reinventa! Ante la caída en ventas de autos, la firma apuesta al almacenamiento energético con contratos millonarios en China y sistemas Megapack.
Tesla ya no es solo una empresa de coches, su negocio energético crece un 27% 

¡Tesla se reinventa! Ante la caída en ventas de autos, la firma apuesta al almacenamiento energético con contratos millonarios en China y sistemas Megapack.

Leer más
Las cifras de tsunami en la Inteligencia Artificial

Más que progreso incremental, vivimos un cambio de fase. La IA cruza el umbral de la escalabilidad y comienza a competir directamente con el capital humano.

Leer más
Suscríbete y recibe actualizaciones de nuestro portal

Introduce tu correo electrónico