Un borrador de regulación de la Unión Europea establece prohibiciones del uso de la Inteligencia Artificial (IA) para vigilancia masiva. También propone vetar las tecnologías que valoran a las personas de forma predictiva, e imponer una supervisión más estricta de los sistemas de alto riesgo, que serán los que determine un Consejo Europeo de Inteligencia Artificial, que estará integrado por expertos en IA de todos los países de la Unión.

Las empresas que comercialicen sistemas de Inteligencia Artificial prohibidos en la UE, podrán enfrentarse a multas de hasta el 4% de sus ingresos globales, como ya sucede con los infractores del Reglamento General de Protección de Datos (RGPD), aunque no tengan la sede en un país de la Unión.

Bruselas quiere prohibir los sistemas de Inteligencia Artificial de «vigilancia indiscriminada» de forma masiva, tanto aquellos que rastrean personas en entornos físicos como los que utilizan o extraen datos agregados para otros sistema; los que hacen valoraciones sociales de las personas, y los que realizan estimaciones de su fiabilidad en función de su comportamiento o que predicen su personalidad.

Entre los sistemas considerados de «alto riesgo», se incluyen los que puedan suponer un riesgo para la seguridad física, como los de conducción automática, o los que pueden afectar a la vida de las personas, como la IA para contratar empleados, tomar decisiones judiciales o conceder créditos financieros.

En estos casos, los sistemas tendrán que ser revisados y aprobados por los consejos asesores de expertos en IA antes de entrar en funcionamiento, asegurando que dispongan de supervisión humana y que no hayan sido diseñados con datos sesgados, según contempla el borrador.

Los sistemas de reconocimiento facial en espacios públicos necesitarán una autorización especial.

Bruselas también plantea que los sistemas de IA se identifiquen cuando las personas interactúan con ellos, salvos en los casos donde resulte «obvio por el contexto de uso».