Estafas, falsificaciones: los peligros de la IA generativa

Como sucede con cada avance tecnológico, las herramientas de inteligencia artificial generativa como ChatGPT de OpenAI o el generador de imágenes Midjourney se utilizan tanto para la productividad como para las estafas y abusos. Entre esta nueva oleada de contenidos maliciosos destacan especialmente los deepfakes. Estas piezas de contenido audiovisual generadas artificialmente incluyen estafas a votantes mediante la suplantación de identidad de políticos o la creación de imágenes pornográficas no consentidas de famosos. Como muestra una reciente encuesta de Microsoft, las falsificaciones, las estafas y los abusos relacionados con la inteligencia artificial (IA) son lo que más preocupa a los usuarios de internet de todo el mundo.

El 71% de los encuestados por Microsoft en 17 países entre julio y agosto de 2023 estaban muy o algo preocupados por las estafas asistidas por IA. Si bien el estudio no aclara en qué consisten estas estafas, lo más probable es que estén relacionadas con la suplantación de la identidad de una persona de relevancia pública, un político o un familiar de los encuestados.

Empatados en segundo lugar están los deepfakes y el abuso sexual u online, con el 69%. Las alucinaciones de la IA, que se definen como respuestas sin sentido ocupan el cuarto lugar, mientras que las preocupaciones por la privacidad de los datos ocupan el quinto lugar, con el 62%. En general, el 87% de los encuestados estaban preocupados al menos en cierta medida por un escenario problemático de la IA.