La privacidad de datos y la inteligencia artificial (IA)

La inteligencia artificial (IA) es una de las tecnologías más innovadoras y disruptivas de nuestro tiempo, pero también plantea importantes desafíos en materia de privacidad y protección de datos. ¿Cómo podemos garantizar que la IA respete los derechos y libertades de las personas que utilizan sus servicios o que son objeto de sus decisiones? ¿Qué normas y principios deben regir el uso responsable y ético de la IA?

Para responder a estas y otras preguntas, hemos hablado con Sergio, el fundador de Clicategia, una agencia de marketing en Madrid que se especializa en soluciones de IA aplicadas al marketing digital. Sergio nos ha recibido en su oficina y nos ha contado su visión sobre la protección de datos y la IA, para que podamos realizar este artículo de la mejor manera posible.

Normativa sobre protección de datos personales

La normativa sobre protección de datos personales tiene como objetivo garantizar que el tratamiento de estos datos se realice de forma lícita, leal y transparente, respetando los derechos y libertades de las personas. En el ámbito europeo, el principal instrumento jurídico es el Reglamento General de Protección de Datos (RGPD), que entró en vigor en mayo de 2018 y que establece un marco común para todos los Estados miembros.

El RGPD se aplica a cualquier tratamiento de datos personales que se realice en el territorio de la Unión Europea (UE), o que afecte a personas residentes en la UE, independientemente de dónde se encuentre el responsable o el encargado del tratamiento.

Principios del RGPD

El RGPD establece una serie de principios que deben regir el tratamiento de los datos personales, como el principio de minimización (solo se deben recoger los datos necesarios para la finalidad perseguida), el principio de limitación de la finalidad (los datos solo se deben usar para los fines para los que se recogieron), el principio de exactitud (los datos deben ser veraces y actualizados), el principio de integridad y confidencialidad (los datos deben estar protegidos frente a accesos o alteraciones no autorizados) o el principio de responsabilidad proactiva (el responsable del tratamiento debe demostrar que cumple con el RGPD).

Disposiciones específicas para la IA

Además, el RGPD introduce algunas disposiciones específicas para regular el tratamiento de los datos personales en el ámbito de la IA. Por ejemplo, establece que las personas tienen derecho a no ser objeto de decisiones basadas únicamente en tratamientos automatizados (incluida la IA) que produzcan efectos jurídicos o les afecten significativamente.

En estos casos, las personas tienen derecho a obtener una intervención humana por parte del responsable del tratamiento, a expresar su punto de vista y a impugnar la decisión. Asimismo, el RGPD obliga al responsable del tratamiento a informar a las personas sobre la existencia de este tipo de decisiones, la lógica aplicada y las consecuencias previstas.

IA y el RGPD

El RGPD también establece que el tratamiento de datos personales que revelen el origen étnico o racial, las opiniones políticas, las convicciones religiosas o filosóficas, la afiliación sindical, los datos genéticos, los datos biométricos, los datos relativos a la salud o los datos relativos a la vida sexual o la orientación sexual de una persona (datos sensibles) está prohibido, salvo que se cumplan algunas excepciones.

Entre ellas, se encuentra el consentimiento expreso de la persona afectada, el interés público esencial o el tratamiento necesario para fines de medicina preventiva o diagnóstica. En estos casos, el responsable del tratamiento debe aplicar medidas adecuadas para salvaguardar los derechos y libertades de las personas.

El RGPD también prevé la posibilidad de que la Comisión Europea adopte actos delegados para especificar los criterios y requisitos para garantizar que los tratamientos automatizados (incluida la IA) sean compatibles con el derecho a la protección de datos personales.

La propuesta de Reglamento sobre Inteligencia Artificial

propuesta de Reglamento sobre Inteligencia Artificial
propuesta de Reglamento sobre Inteligencia Artificial

El 21 de abril de 2021, la Comisión Europea presentó una propuesta de Reglamento sobre Inteligencia Artificial, que tiene como objetivo establecer un marco jurídico armonizado para regular el desarrollo, la comercialización y el uso de la IA en la UE. La propuesta se basa en un enfoque basado en el riesgo, que clasifica las aplicaciones de la IA en cuatro categorías: inaceptables, de alto riesgo, de riesgo limitado y de riesgo mínimo.

Las aplicaciones de IA inaceptables

Vulneran los valores y derechos fundamentales de la UE, como el respeto a la dignidad humana, la democracia y el Estado de derecho. Entre ellas, se encuentran las aplicaciones que manipulan el comportamiento humano, las que permiten la vigilancia masiva o indiscriminada o las que utilizan sistemas de puntuación social. Estas aplicaciones estarán prohibidas en la UE.

Las aplicaciones de IA de alto riesgo

Son aquellas que pueden afectar significativamente a los derechos y libertades de las personas o a su seguridad. Como por ejemplo, las aplicaciones que se utilizan para fines esenciales para la sociedad o la economía, como la salud, el transporte, la educación, el empleo o la justicia. Estas aplicaciones estarán sujetas a una serie de obligaciones específicas para garantizar su conformidad con el Reglamento. Entre ellas, se encuentran las siguientes:

  • Realizar una evaluación previa del riesgo y documentarla.
  • Establecer un sistema de gestión de calidad.
  • Incorporar medidas técnicas y organizativas para garantizar la transparencia, la trazabilidad y la supervisión humana.
  • Implementar mecanismos adecuados para garantizar la seguridad y robustez del sistema.
  • Registrar el sistema en una base de datos europea.
  • Informar a los usuarios sobre el uso de una aplicación de IA.
  • Respetar los derechos existentes en materia de protección de datos personales.

Las aplicaciones de IA de riesgo limitado

Implican una interacción con las personas y pueden generar efectos adversos si no funcionan correctamente. Entre ellas, se encuentran las aplicaciones que utilizan sistemas de reconocimiento emocional o biométrico. Estarán obligadas a informar a los usuarios sobre el uso de una aplicación de IA e indicar claramente cuando se trata de una interacción con un sistema artificial.

Las aplicaciones de IA de riesgo mínimo

Tienen un impacto limitado o nulo sobre los derechos y libertades de las personas o su seguridad. Entre ellas, se encuentran las aplicaciones que se usan con fines lúdicos o recreativos por lo tanto, estarán exentas de obligaciones específicas.

Deja un comentario