Los consumidores europeos creen que la inteligencia artificial (IA) puede aportar beneficios, pero cuando se les pide que evalúen el valor añadido de una serie de servicios específicos que ya usan hoy en día (como asistentes virtuales o la publicidad en sitios de comercio electrónico), la mayoría manifiesta sus dudas, según un estudio llevado a cabo por la asociación de consumo europea BEUC, a la que pertenece la Asociación de Usuarios Financieros (Asufin).

Las dudas que plantea el tratamiento de los datos personales para perfeccionar y automatizar procesos se han puesto de manifiesto  como consecuencia de hacer un mejor seguimiento de la pandemia, con herramientas como el Radar Covid. Muchos consumidores desconfían del uso que se haga de estos datos ante temas tan sensibles como la propia salud, pese a que estas herramientas han tenido un gran éxito contra la Covid-19 en países como Corea del Sur.

Los participantes de la encuesta de BEUC expresaron sus preocupaciones en ese sentido, como que la IA puede dar lugar a un mal uso de los datos personales. De hecho, cuando se trata de tecnologías particularmente intrusivas, como el reconocimiento de voz, muchos consumidores –hasta el 68% en Alemania y el 71% en Bélgica- tienen poca confianza en que su privacidad esté protegida.

Un gran número de encuestados dice que no cree que la legislación actual sea adecuada para regular eficazmente las actividades basadas en la inteligencia artificial. Sólo una quinta parte de los encuestados dice que las normas actuales los protegen del posible daño que supone la IA. Por lo tanto, los planes de la UE para una ley sobre la IA están muy en línea con las expectativas de los consumidores.

Los ciudadanos europeos confían en el potencial de la IA, pero quieren mantener el control. Más de dos tercios de los encuestados dicen que los usuarios deberían tener derecho a decir “no” a la toma de decisiones automatizada. Este número es significativamente superior en Italia y Portugal, donde se eleva al 78%, y en España, donde escala al 80%.

Los datos recabados por BEUC están en línea con el I Estudio sobre hábitos y uso de las Fintech, elaborado por ASUFIN a finales de 2019, y que evidencia un grado de desconfianza muy alto en las grandes tecnológicas que tratan los datos personales, por encima de la existente con la Agencia Tributaria, la Seguridad Social o los tribunales.

La encuesta de BEUC muestra que el conocimiento de la IA es todavía relativamente bajo, con el 21% de los consumidores europeos que no han oído hablar de ellos o que no perciben su presencia. Éstos esperan que los servicios que se prestan en base a los cálculos de inteligencia artificial puedan ayudar a prevenir los accidentes de tráfico (91%), a prevenir cuestiones relativas a la salud (87%) o ayudar en sus problemas financieros (81%).

Muchos consumidores también plantean serias preocupaciones, ya que hasta cinco de cada diez declara que la IA conducirá a una discriminación injusta, debido al sesgo que introduce la automatización intensa de los procesos.

Desde BEUC se considera “preocupante” que la mayoría de los consumidores no confíen en que su privacidad esté protegida cuando utilizan herramientas de IA como relojes inteligentes o asistentes de voz: “Los consumidores nos dicen que les preocupa el riesgo de que las empresas y los gobiernos puedan desplegar la IA para manipular sus decisiones y que la IA conduzca a una discriminación injusta. Los legisladores de la UE deben tomarse en serio estas preocupaciones y asegurarse de que los consumidores están protegidos y pueden confiar en esta tecnología”, explican en la asociación.

Monique Goyens, directora general de BEUC, señala que «las actuales normas de protección del consumidor, la privacidad y la responsabilidad simplemente no son adecuadas para proteger a los consumidores de las consecuencias negativas de la IA». «La UE tiene previsto proponer normas sobre la IA: se necesitan con urgencia. Los consumidores deben ser protegidos de riesgos como la discriminación o la manipulación”, recalca.

Patricia Suárez, presidenta de Asufin, aporta que “para los consumidores siempre es mejor elegir, lo que tenemos que conseguir es usuarios informados para que la elección sea nuestra y no nos la impongan». «Las grandes tecnológicas disponen de numerosos datos personales nuestros, sin que muchas veces seamos conscientes. Los reguladores deberán estar vigilantes porque el riesgo radica en cómo se utilicen nuestros datos”, resalta.