Jumio, el proveedor líder de soluciones automatizadas e integrales de verificación de identidad, evaluación de riesgos y cumplimiento normativo, ha publicado un estudio de identidad en línea Jumio 2023, la segunda entrega de su investigación anual de los consumidores a nivel mundial, realizada por Censuswide.
El estudio examinó a 8,055 consumidores adultos repartidos por igual entre el Reino Unido, Estados Unidos, Singapur y México. Más de dos tercios (67%) afirman conocer las herramientas de IA generativa, como ChatGPT, DALL-E y Lensa AI, que pueden producir contenidos inventados, incluidos vídeos, imágenes y audio. Los consumidores de Singapur son los que más las conocen (87%) y los del Reino Unido los que menos (56%).
El conocimiento de la IA generativa y los deepfakes entre los consumidores es elevado: el 52% de los encuestados cree que podría detectar un vídeo deepfake. Este sentimiento refleja un exceso de confianza por parte de los consumidores, dada la realidad de que los deepfakes han alcanzado un nivel de sofisticación que impide su detección a simple vista.
Esto es preocupante dado que cifras recientes de la Asociación de Internet de México muestran que 7 de cada 10 usuarios digitales en el país fueron víctimas de algún tipo de fraude cibernético en 2022. Además, 1 de cada 3 víctimas había sufrido suplantación de identidad.
Los datos de Jumio también muestran un aumento constante en el uso de deepfakes cada vez más sofisticados en todo el mundo y en todos los sectores, con una mayor presencia en los sectores de pagos y criptomonedas.
Los consumidores subestiman la sofisticación de las tecnologías
«Mucha gente parece creer que puede detectar un deepfake. Aunque ciertamente hay pistas muy obvias, los deepfakes están mejorando exponencialmente todo el tiempo y son cada vez más difíciles de detectar sin la ayuda de la IA«, dijo Stuart Wells, CTO de Jumio.
«Si bien las empresas necesitarán cada vez más tecnología basada en IA para detectar y proteger sus redes y a sus clientes de las falsificaciones, los consumidores también pueden hacerlo, cuestionando las imágenes, vídeos y audios provocativos. Una investigación rápida normalmente revelará si se trata de una falsificación o no«.
La responsabilidad de educar y proteger recae en las empresas
«Las organizaciones tienen el deber de educar a sus clientes sobre los matices de las tecnologías de IA generativa para ayudarles a desarrollar expectativas más realistas sobre su capacidad para detectar deepfakes», dijo Philipp Pointner, director de identidad digital de Jumio. «Al mismo tiempo, incluso la mejor educación nunca podrá detener por completo el uso de tecnologías emergentes por parte de un estafador.
