El 87% de los directivos españoles ha visto usos éticamente cuestionables de Inteligencia Artificial en su empresa, según revela Capgemini en su informe Why addressing ethical questions in AI will benefit organizations, que se basa en la opinión de 1.580 ejecutivos de grandes empresas en diez países. En Francia, el porcentaje sube al 89%; en Italia, al 88%; en Holanda, es el mismo que en España. La media está en el 86%.

El 47% de los consumidores considera que se ha visto expuesto a usos cuestionables de la Inteligencia Artificial en los últimos años. En este caso, el informe de Capgemini se apoya en las opiniones de más de 4.400 consumidores en seis países.

El informe ahonda en la importancia de que las empresas sean proactivas en el establecimiento de sistemas y procedimientos que aseguren y controlen que hacen un uso ético de la Inteligencia Artificial. Esto será clave para ganarse o perder la confianza de los consumidores. Un tercio de éstos dejaría de relacionarse con una marca si percibe que realiza un uso cuestionable de esta tecnología. Por el contrario, el 59% sería más fiel a aquellas empresas que usen estos sistemas de forma ética; y el 55% compraría más productos, y daría mejores calificaciones y opiniones positivas en las redes sociales.

Los consumidores, empleados y la ciudadanía en general vigilan de cerca el avance de las empresas para aprovechar el potencial de la Inteligencia Artificial y se muestran dispuestos a premiar o castigar sus comportamientos. Los usuarios señalan que serían más fieles, comprarían más y serían defensores de la marca si perciben que sus interacciones mediante funciones de Inteligencia Artificial con las empresas son éticas.

Las empresas que utilicen la Inteligencia Artificial de forma ética se verán recompensadas por una respuesta más favorable de los consumidores: El 62% de los consumidores confiaría más en una empresa que hace un uso ético de la Inteligencia Artificial para interactuar con ellos; el 61% compartiría las experiencias positivas con la compañía entre familiares y amigos; el 59% sería más fiel a la empresa; y el 55% compraría más productos, y daría mejores calificaciones y opiniones positivas en las redes sociales.

Por el contrario, si las interacciones de los consumidores con la Inteligencia Artificial suscitan inquietudes éticas, se pone en riesgo tanto la reputación como los resultados de negocio de la empresa: el 41% de los usuarios señala que presentaría una reclamación, el 36% exigiría una explicación y el 34% dejaría de relacionarse con la empresa.

Recopilación de datos sin permiso

Las empresas han experimentado problemas éticos relacionados con sistemas de Imteligencia Artificial. Directivos de nueve de cada diez empresas tienen constancia de casos de uso ético cuestionable de ésta en losúltimos años: recopilación de datos personales de pacientes sin consentimiento, en el sector sanitario, o la dependencia excesiva de decisiones tomadas de forma automatizada y sin comunicarlo al cliente, en banca y seguros.

Entre los motivos que originan estas situaciones, los directivos apuntan la presión por implantar con urgencia la Inteligencia Artificial, la falta de consideración de la ética durante el desarrollo y diseño de estos sistemas, o la falta de recursos destinados a sistemas éticos de Inteligencia Artificial específicos (equipo, presupuesto, tecnología…).

A los consumidores, empleados y ciudadanos les preocupa la cuestión ética de la Inteligencia Artificial y desean alguna forma de regulación. El 47% considera que en los últimosaños se ha visto expuesto a dos o más casos de uso éticamente cuestionable de estos sistemas. El 75% quiere más transparencia cuando un servicio que utilice o contrate se apoye en Inteligencia Artificial, y el 73% quiere saber si ésta le trata de forma justa. El 76% de los consumidores considera que debería haber más regulación sobre el uso de la Inteligencia Artificial por parte de las empresas.

Las empresas comienzan a darse cuenta de la importancia del uso ético de la Inteligencia Artificial. El 51% de los directivos considera que es importante garantizar que los sistemas sean éticos y transparentes. Además, las empresas están tomando medidas cuando detectan usos cuestionables de estas técnicas.Un 41% de altos ejecutivos afirma haber abandonado o retirado una solución de Inteligencia Artificial cuando se han planteado inquietudes éticas.

“Numerosas organizaciones se encuentran en una encrucijada en su uso de la Inteligencia Artificial. Consumidores, empleados y ciudadanos están cada vez más dispuestos a interactuar con la tecnología, pero son conscientes de las posibles consecuencias éticas», comenta Anne-Laure Thieullent, responsable de Inteligencia Artificial y Analítica de Capgemini.

Las empresas «deben establecer prácticas y sistemas éticos para el uso de la IA para conseguir la confianza del público». «No se trata solo de cumplir la normativa, también puede generar un beneficio significativo en términos de fidelidad, generación de buenas opiniones e implicación y creación de vínculos”, subraya la responsable de Inteligencia Artificial y Analítica de Capgemini.

“Para conseguirlo, las empresas deben dedicar esfuerzos al establecimiento de estructuras de gobierno adecuadas; no solo deben elaborar un código de conducta basado en sus propios valores, sino, además, incorporar principios éticos en la fase de desarrolloy, sobre todo, informar al público sobre cómo interactúa con la Inteligencia Artificial y capacitarle para expresar su postura al respecto”, recalca Anne-Laure Thieullent.

Triple aproximación

Las organizaciones deben priorizar una estrategia de ética en sus sistemas de Inteligencia Artificial. Para hacer frente a la inquietud que esta tecnología suscita entre los consumidores y obtener los beneficios en términos de confianza que genera hacer un uso ético de ella, las empresas tienen que focalizarse en que todos sus sistemas o procesos viren a este cometido.

Capgemini recomienda una aproximación triple para construir una estrategia de ética en Inteligencia Artificial que abrace a todos los niveles:

1.-De cara a la alta dirección y a aquellas personas con responsabilidad en asuntos éticos: Establecer fundamentos sólidos a través de una estrategia específica y un código de conducta de Inteligencia Artificial; desarrollar políticas que definan los límites de un uso aceptable de esta técnica de la compañía y su aplicación; crear estructuras de gobierno éticas y garantizar la asunción de responsabilidades; y construir equipos diversos que inculquen y aseguren la sensibilidad hacia el amplio espectro de cuestiones éticas.

2.-De cara a los departamentos con relación directa con clientes y empleados: Asegurar el uso ético de la Inteligencia Artificial; educar e informar a los usuarios para generar confianza en estos sistemas; capacitar a los usuarios dándoles más herramientas de control y reclamación; comunicar de forma proactiva, internamente y externamente, casos cuestionables en torno a la Inteligencia Artificial para construir confianza.

y 3.-De cara a los responsables de tecnologías de la información, Inteligencia Artificial, analítica de datos y sus equipos: Buscar la manera de que los sistemas sean lo más transparentes y comprensibles posibles para ganar la confianza de los usuarios; hacer una gestión correcta de los datos y reducir los posibles sesgos en ellos; hacer seguimiento continuado de su rigor y precisión; y aprovechar las herramientas tecnológicas para incorporar los principios éticos en las soluciones o funciones de Inteligencia Artificial

Luciano Floridi, director de Digital Ethics Labs, del Oxford Internet Institute, afirma que “la forma básica de ganar confianza, especialmente en las interacciones con la Inteligencia Artificial, puede resumirse en tres palabras: transparencia, responsabilidad y capacitación».

«Transparencia, para que las personas puedan ver qué haces; responsabilidad, porque asumes la responsabilidad de lo que haces; y capacitación, porque proporcionas las herramientas para que el consumidor o el empleado comunique que lo que haces no es correcto o adecuado», concluye.