Desde Ensis Legal, como despacho jurídico de la Asociación de Startups de Castilla-La Mancha (StartupCLM), hemos analizado en el programa Rumbo Startup de La Brújula de Castilla-La Mancha emitido en Onda Cero la entrada en vigor de uno de los marcos regulatorios más ambiciosos de los últimos tiempos: el Reglamento Europeo de Inteligencia Artificial.

Este 2 de febrero han comenzado a aplicarse sus primeros artículos, en concreto los que prohíben el uso de sistemas de “riesgo inaceptable”, por atentar gravemente contra los derechos fundamentales de las personas.

‍

¿Qué sistemas de IA están prohibidos?

El Reglamento establece la prohibición de tecnologías que, por su propia finalidad o por el modo en que operan, suponen un riesgo excesivo para los derechos individuales. ¿Cuáles son?

Manipulación del comportamiento humano
Por ejemplo, aplicaciones de citas que presentan perfiles ficticios o alteran intencionadamente la compatibilidad entre usuarios para fomentar suscripciones.

Explotación de vulnerabilidades personales o sociales
Como el uso de IA por parte de entidades financieras para identificar y dirigirse a personas con baja alfabetización financiera y ofrecerles productos abusivos.

Clasificación social automatizada
Sistemas que puntúan a las personas según su comportamiento, como un colegio que clasifica a los alumnos según su "ética" basada en su actividad online o en clase.

IA predictiva delictiva basada en perfiles
Modelos que anticipan la posibilidad de que alguien cometa un delito basándose en sus rasgos personales o histórico, incluso sin hechos concretos.

Reconocimiento facial masivo sin control
Prohibición de crear bases de datos biométricos mediante extracción de imágenes de cámaras o redes sociales sin consentimiento.

Detección emocional en el entorno laboral
Por ejemplo, sistemas de videovigilancia que analizan el estado de ánimo de los trabajadores en función de su expresión facial o el clima.

Inferencia de datos sensibles por rasgos físicos
Como sistemas que intentan deducir la raza, religión u orientación sexual de una persona a partir de sus características biométricas.

Biometría en tiempo real en espacios públicos
Se impide, por ejemplo, el uso de gafas inteligentes que identifiquen a personas por reconocimiento facial en conciertos o espacios abiertos.

¿Qué obligaciones se imponen a las empresas?

Además de estas prohibiciones, el Reglamento exige que los proveedores y usuarios de sistemas de IA adopten medidas para que su personal esté debidamente formado. Se debe tener en cuenta no solo su educación, sino también el contexto específico en el que la IA será utilizada, con el objetivo de prevenir riesgos legales y éticos.

¿Qué significa esto para el tejido empresarial?

Las empresas que trabajan con IA —especialmente startups tecnológicas— deben entender desde ya que la conformidad legal no es opcional. La normativa europea está marcando el camino hacia una inteligencia artificial responsable, ética y centrada en las personas.

Desde Ensis Legal ayudamos a startups y empresas tecnológicas a adaptarse a los nuevos retos legales del entorno digital, tanto en cumplimiento normativo como en protección de datos, ciberseguridad y desarrollo de productos innovadores desde una perspectiva legal.

Escucha el análisis completo en el podcast

Nuestro compañero Julio García, director de Ensis Legal y secretario de StartupCLM, ha analizado todos estos aspectos en Rumbo Startup, el espacio de emprendimiento de Onda Cero.

Puedes escuchar el programa completo aquí: