Deepfake

Los modelos generativos entrenados con grabaciones del habla de una persona reproducen su voz a partir de una muestra corta, y las fuentes públicas dan esa muestra sin esfuerzo: charlas en congresos, entrevistas, podcasts, seminarios web, mensajes de bienvenida del buzón de voz. La síntesis en tiempo real hace posible una llamada interactiva, así que quien llama puede responder preguntas en vez de reproducir una grabación.

El ataque que viene después no es nuevo. Es vishing y fraude del CEO con la parte más floja del relato reparada. Antes, una petición urgente de alguien de la dirección llegaba por correo y el control evidente era llamar por teléfono y confirmar. El clon ataca justo ese paso de confirmación.

Los procedimientos de verificación dan por hecho que la voz es la prueba. La autorización de pagos, el restablecimiento de credenciales en el servicio de soporte y las aprobaciones de peticiones fuera de banda se apoyan todos en que alguien reconozca con quién está hablando, y esa suposición ya no es segura para nadie cuya voz esté disponible públicamente, que son todos los directivos y la mayoría de los mandos intermedios.

La formación empeora las cosas cuando enseña a la gente a detectar falsificaciones. Los consejos de detección envejecen más deprisa que los modelos, y un empleado al que se ha entrenado para buscar artefactos tendrá confianza en la dirección equivocada. El control que sobrevive es de procedimiento y no de percepción: verificar por un canal distinto que no ha elegido quien pide, devolver la llamada a un número del directorio, doble autorización por encima de un umbral, y una regla explícita de que la urgencia es motivo para más comprobaciones y no para menos.

El otro cambio es la escala. Los pretextos personalizados y bien documentados eran caros de producir y se reservaban para objetivos de alto valor. Ahora son baratos, así que la calidad del spear phishing llega a las campañas de volumen corriente, y los consejos basados en detectar un lenguaje pobre han dejado de servir.

Esto se prueba en los ejercicios de simulación, y el alcance tiene que moverse con la amenaza: un ejercicio limitado al correo mide un control que los atacantes ya han rodeado. Los escenarios con voz se ejecutan bajo acuerdo escrito explícito, con participantes nombrados, límites acordados y una sesión de cierre, porque las fronteras éticas son más estrechas que en un ejercicio de correo. Lo que medimos es si el procedimiento aguantó, no si la persona se dejó engañar, porque la persona no es el control. Nota: el Reglamento de IA de la UE introduce deberes de transparencia para el contenido sintético; confirma las disposiciones aplicables y sus fechas antes de apoyarte en ellas. Esto forma parte de cómo ensayamos la ingeniería social por voz y por mensaje.