El explosivo crecimiento del fraude impulsado por la IA

Donald Trump posando con votantes negros o el Papa con una chaqueta estilo puffer: los videos, fotos y audios engañosos creados con sistemas de inteligencia artificial (IA) se han generalizado en diversas plataformas de internet. Con los ajustes oportunos, cualquiera puede crear imágenes aparentemente reales o hacer que las voces de figuras destacadas de la política o el espectáculo digan lo que quieran.

Esta tecnología también puede utilizarse para cometer fraude de identidad fabricando documentos falsos o usurpando la identidad de las personas por teléfono. Los casos de fraude relacionados con deepfakes se han disparado entre 2022 y 2023 en muchos países de todo el mundo, como muestra nuestro gráfico basado en el informe anual más reciente del proveedor de verificación de identidad Sumsub.

Por ejemplo, el número de intentos de fraude en Filipinas aumentó un 4.500% interanual, seguido de países como Vietnam, Estados Unidos y Bélgica. Con las capacidades de la inteligencia artificial potencialmente aumentando aún más, los intentos de fraude deepfake también podrían extenderse a otras áreas. "Hemos visto cómo las falsificaciones profundas se han vuelto cada vez más convincentes en los últimos años y esto no hará más que continuar y ramificarse hacia nuevos tipos de fraude, como se ha visto con los deepfakes de voz", dice Pavel Goldman-Kalaydin, Jefe de Inteligencia Artificial y Aprendizaje Automático de Sumsub, en el informe antes mencionado.

Aunque crear un deepfake no es un delito en sí mismo, muchos gobiernos están avanzando hacia una regulación más estricta cuando se utiliza la IA, para evitar daños a las partes implicadas. Además, alrededor de 400 expertos en IA y tecnología firmaron una carta abierta el mes pasado para exigir a los gobiernos del mundo que tomen medidas en contra de los deepfakes.