Buscar
Cerrar este cuadro de búsqueda.
Flag
Logo, Leisure Activities, Person
Flag

Sistemas de biometría en la Ley europea sobre IA: entre la seguridad y los derechos civiles

Luz, Ojo, Destello

La Inteligencia Artificial proyecta una sombra mucho mayor que cualquier otra innovación potencialmente disruptiva en este primer cuarto del siglo XXI. Para asegurar que el próximo gran salto de la humanidad no vaya en detrimento de los principios democráticos y los derechos civiles, políticos de todo el mundo avanzan ya en la redacción de leyes que sirvan de salvaguarda contra futuros daños potenciales.

Por supuesto, la tarea de establecer un marco legal para el desarrollo y la implantación de herramientas de IA es extremadamente compleja, ya que implica prever tanto sus aplicaciones potenciales como los posibles usos indebidos derivados de las mismas. Aunque no podamos estar totalmente seguros de hasta qué punto el actual auge de la inteligencia artificial es sólo una moda, ya es un hecho que todas las grandes empresas del mundo dedican cada vez más esfuerzos y recursos a perseguir la proverbial gallina de los huevos de oro.

Según Goldman Sachs, la cantidad invertida en todo el mundo sólo en IA generativa se acercará a los 200.000 millones de dólares en 2025. Y para llegar a esa cifra ni siquiera necesitará tener efectos reales y medibles en la productividad. La adopción temprana de la IA parece ineludible y, por tanto, se vuelve necesaria una regulación temprana.

Leyes sobre IA: Una política crucial en ciernes

En agosto de 2023 entró en vigor en China una ley llamada «Medidas Provisionales para la Gestión de los Servicios de Inteligencia Artificial Generativa». En ella se establecen múltiples restricciones a las empresas que prestan este tipo de servicios a los consumidores, las cuales se aplican tanto a los datos utilizados para entrenar a los modelos de IA como a los resultados obtenidos.

Además, el año pasado la Oficina de Política Científica y Tecnológica de la Casa Blanca publicó un Plan para una Declaración de Derechos de la IA, el cual reconoce la necesidad de evitar que el desarrollo tecnológico profundice en prejuicios raciales o de género y otros sesgos sociales, facilite violaciones sistemáticas de la privacidad y los derechos de autor o impida el acceso de los ciudadanos a recursos de primera necesidad.

La preocupación por la biometría

Luz, Huella

A finales de 2023, el Consejo Europeo y el Parlamento de la UE alcanzaron también un acuerdo sobre una Ley Europea de Inteligencia Artificial. Al igual que los marcos jurídicos en desarrollo en otros países, aboga por el establecimiento de salvaguardias y también aspira a proteger el derecho de los consumidores y del público en general a presentar quejas y recibir explicaciones significativas de los proveedores de servicios que usen IA sin necesidad de emprender acciones legales.

Pero la Ley de Inteligencia Artificial de la UE va un paso más allá y prohíbe también los siguientes casos de uso específicos:

  • Sistemas de categorización biométrica que utilizan características sensibles (por ejemplo, creencias políticas, religiosas, filosóficas, orientación sexual, raza).
  • Extracción no selectiva de imágenes faciales de Internet o de grabaciones de CCTV para crear bases de datos de reconocimiento facial.
  • Reconocimiento de emociones en el lugar de trabajo y en instituciones educativas.

Invertir en Inteligencia Artificial para la seguridad

Pantalla, Ordenador

Según un estudio reciente, se estima que el volumen del mercado de la seguridad con IA será ya de 25.000 millones de dólares en 2024. Y se espera que alcance los 60.000 millones en 2029, creciendo a una tasa anual compuesta del 19% durante ese periodo. Pero esta inversión deberá tener necesariamente en cuenta los nuevos marcos legales que surgen en todo el mundo.

Los fabricantes deberán estar atentos a la hora de ofrecer funciones adicionales permitidas por la misma tecnología que utilizan para mejorar la eficacia de sus sistemas de seguridad. Al menos, hasta que el marco legal internacional que se está gestando ofrezca una imagen más clara de lo que permitirá la ley en lo que respecta al uso de la inteligencia artificial en sistemas biométricos.

Artículos relacionados

Aunque es poco probable que los robots y otras tecnologías sustituyan a los recursos humanos del sector a corto plazo,....