El Reglamento Europeo de Inteligencia Artificial (AI Act) es una propuesta pionera de la Unión Europea diseñada para establecer un marco legal y regulatorio integral para la inteligencia artificial (IA). Su objetivo principal es garantizar que los sistemas de IA se utilicen de manera segura, ética y conforme a los derechos fundamentales de las personas, mientras se fomenta la innovación y el desarrollo tecnológico dentro de la UE.

Este reglamento es el primer intento a nivel mundial de regular la IA de manera exhaustiva, enfocándose en una gestión del riesgo basada en el tipo de aplicaciones de IA, estableciendo requisitos para su desarrollo, implementación y supervisión.

¿Qué regula el AI Act?

El AI Act propone un conjunto de reglas que regulan el desarrollo, implementación y uso de sistemas de IA en la Unión Europea. Su enfoque principal es garantizar que la IA sea utilizada de manera segura y sin comprometer los derechos de las personas. Para lograrlo, el AI Act introduce un marco basado en el riesgo, dividiendo las aplicaciones de IA en varias categorías, según el nivel de riesgo que presentan para la sociedad.

1. Sistemas de IA prohibidos:
   El reglamento prohíbe explícitamente ciertos usos de la IA que son considerados inaceptables por su riesgo para los derechos humanos. Entre estos usos están:
   • Manipulación subliminal: El uso de sistemas de IA para manipular el comportamiento humano de manera que pueda causar daños físicos o psicológicos.
   • Puntajes sociales: La IA utilizada por gobiernos para puntuar a los ciudadanos según su comportamiento social, al estilo del «sistema de crédito social» de China.
   • Sistemas de IA de identificación biométrica remota en tiempo real (como el reconocimiento facial) en espacios públicos, salvo excepciones muy limitadas, como la prevención de delitos graves.
2. Sistemas de IA de alto riesgo:
   Los sistemas de IA considerados de alto riesgo son aquellos que pueden afectar significativamente la salud, la seguridad o los derechos fundamentales de las personas. Estas aplicaciones incluyen:
   • Sistemas de IA utilizados en infraestructuras críticas (como la gestión de redes eléctricas o transporte).
   • IA en el ámbito educativo: Sistemas que determinen el acceso a la educación o las evaluaciones.
   • IA para la contratación: Algoritmos utilizados para la contratación laboral o decisiones de recursos humanos.
   • IA en servicios esenciales como finanzas o salud.
   • Sistemas de identificación biométrica (como el reconocimiento facial o huellas dactilares) fuera de los contextos prohibidos.

Los sistemas de alto riesgo estarán sujetos a requisitos estrictos en cuanto a transparencia, seguridad, calidad de los datos, y deberán ser sometidos a evaluaciones exhaustivas antes de su despliegue en el mercado.

1. Sistemas de IA con bajo o mínimo riesgo:
   Muchas aplicaciones de IA, como los asistentes de voz o los filtros de spam, son consideradas de bajo o mínimo riesgo. Estas aplicaciones no requieren una evaluación previa exhaustiva, pero deben cumplir con algunas normas de transparencia para los usuarios. Por ejemplo, las aplicaciones de IA que interactúan con las personas deberán informar claramente que están tratando con un sistema automatizado.

El AI Act es una propuesta normativa innovadora y crucial para regular el creciente uso de la inteligencia artificial en la sociedad. Con su enfoque basado en el riesgo, la normativa busca equilibrar la seguridad, la ética y la innovación tecnológica. A medida que la IA se convierte en una parte integral de la economía y la vida diaria, el AI Act asegura que su uso esté alineado con los valores europeos y los derechos humanos, creando un entorno digital más confiable y responsable.

• ¿A quién afecta el AI Act?

  El AI Act afecta a todas las empresas que desarrollan o implementan sistemas de IA dentro de la Unión Europea. No importa si la empresa tiene su sede dentro o fuera de la UE; si ofrece productos o servicios basados en IA dentro del territorio europeo, debe cumplir con las reglas del AI Act.

  Esto incluye a empresas de sectores como:

  • Salud (IA para diagnósticos médicos).
  • Finanzas (algoritmos de evaluación de riesgos crediticios).
  • Educación (IA en sistemas de evaluación).
  • Contratación (herramientas de selección de personal basadas en IA).
  • Infraestructuras críticas (gestión de redes energéticas, transporte, etc.).