Cuestiones jurídicas relacionadas con la inteligencia artificial (IA)

Explore los principales desafíos legales de la Inteligencia Artificial (IA) en 2024, incluyendo imprecisiones, disputas de propiedad intelectual, privacidad de datos, prejuicios en el lugar de trabajo y obstáculos regulatorios. Descubra cómo afectan estas cuestiones a las empresas y al panorama jurídico.

La rápida evolución de la Inteligencia Artificial (IA) está reconfigurando múltiples sectores, desde la sanidad a las finanzas, e incluso la abogacía. Sin embargo, junto a sus promesas, la IA plantea importantes retos jurídicos. En 2024, estos retos se han acentuado debido a la creciente presencia de la tecnología en áreas críticas. Las cuestiones jurídicas que plantea la IA requieren una comprensión exhaustiva, especialmente para las empresas y los profesionales del Derecho. Este artículo explora cinco cuestiones jurídicas acuciantes, como la alucinación y la imprecisión, los problemas de propiedad intelectual, la protección de datos, la parcialidad en los sistemas de IA y la actual falta de leyes que regulen la IA.

Alucinaciones e imprecisiones en la IA: un reto jurídico

En el nuevo mundo de la automatización impulsada por la inteligencia artificial (IA), las organizaciones se enfrentan a un problema preocupante: los sistemas de IA pueden generar con confianza conocimientos convincentes pero incorrectos, un fenómeno conocido como «alucinaciones».

A medida que las empresas confían cada vez más en la IA para impulsar la toma de decisiones, los peligros que plantean los resultados falsos son cada vez más evidentes. Los sistemas de IA que impulsan muchas de las herramientas tecnológicas más recientes que están implantando las organizaciones, conocidos como grandes modelos de lenguaje (LLM), son el núcleo del problema.

Confiados, pero equivocados.

Debido a esta dependencia de la probabilidad, si los datos de entrenamiento de la IA son erróneos o el sistema malinterpreta la intención de una consulta, puede dar una respuesta segura pero fundamentalmente incorrecta: una alucinación.

Las empresas pueden sufrir graves consecuencias si confían en información alucinada. Los resultados imprecisos pueden dar lugar a decisiones erróneas, pérdidas financieras y daños a la reputación. También hay cuestiones difíciles sobre la responsabilidad cuando se utilizan sistemas de IA. «Si se elimina a un humano de un proceso o si el humano deposita su responsabilidad en la IA, ¿quién va a ser responsable de los errores?», se pregunta Fernandes. (Inteligencia PYMNTS, 2024)

Alucinaciones en contextos jurídicos

Una investigación reciente de Stanford demuestra lo comunes que son las alucinaciones en la IA, especialmente en el sector legal. Según el estudio, los índices de alucinación oscilan entre el 69% y el 88% cuando los modelos de IA responden a consultas jurídicas específicas, lo que indica un preocupante nivel de imprecisión. Los sistemas jurídicos, con sus estructuras jerárquicas y requisitos matizados, suponen obstáculos particulares para la IA. Por ejemplo, en las tareas que implican la relación precedente entre casos, los sistemas de IA fallan con frecuencia, obteniendo resultados poco mejores que las conjeturas aleatorias. Esto plantea graves problemas a los profesionales del Derecho que confían en la investigación jurídica generada por IA. (Facultad de Derecho de Stanford, s.f.)

Cuestiones de propiedad intelectual: Desafíos destacados por el caso Spotify AI

Otro reto jurídico importante de la IA en 2024 gira en torno a la propiedad intelectual (PI). La capacidad de la IA para generar música, texto y arte visual a partir de vastos conjuntos de datos plantea cuestiones críticas en relación con la propiedad y las posibles infracciones. El reciente caso de Spotify relacionado con música generada por IA ha suscitado un debate sobre si las obras generadas por IA infringen los derechos de autor existentes y, en caso afirmativo, sobre quién recae la responsabilidad.

Un hombre acusado de fraude con música generada por IA en Spotify y Apple Music

En el primer caso penal relacionado con música generada por IA, un hombre de Carolina del Norte fue acusado de robar derechos de autor empleando IA para crear canciones falsas y oyentes en plataformas de streaming.

En una denuncia presentada el 4 de septiembre, el fiscal estadounidense Damian Williams acusó a Michael Smith, de 52 años, de idear un plan para recibir ilegalmente 10 millones de dólares en concepto de derechos de autor de sitios de streaming de música.

Se acusa a Smith de emplear IA para crear cientos de miles de canciones, que luego subía a varios servicios de streaming y difundía fraudulentamente mediante cuentas automatizadas conocidas como bots. Las plataformas atacadas eran Amazon Music, Apple Music, Spotify y YouTube Music. (Info seguridad, 2024)

Cuestiones de protección de datos y privacidad en el uso de la IA

Las organizaciones que utilizan información personal en la IA pueden tener dificultades para cumplir la gran cantidad de requisitos de protección de datos estatales, federales y mundiales, incluidos los que limitan las transferencias transfronterizas de información personal.

Algunos países, en particular los de la UE, tienen normas exhaustivas de protección de datos que restringen la IA y la toma de decisiones automatizada con información personal. Otros países, como Estados Unidos, carecen de una legislación federal única y exhaustiva que regule la privacidad y la toma de decisiones automatizada. Esto significa que las partes deben estar informadas de todas las regulaciones sectoriales y estatales aplicables, incluida la Ley de Derechos de Privacidad de California de 2020.

Muchas de estas leyes de protección de datos exigen que las organizaciones limiten la cantidad de información personal que recopilan sobre los individuos, así como que los algoritmos de IA sean visibles, explicables, justos, empíricamente sólidos y responsables. (thomsonreuters, 2024)

La IA en el lugar de trabajo

La IA es cada vez más importante en los lugares de trabajo modernos para las responsabilidades de recursos humanos y gestión de personal. Todo ello plantea ciertos riesgos, entre ellos

Reclutamiento y contratación: por ejemplo, las herramientas de selección y contratación generativas de IA podrían discriminar a las personas con discapacidad si, por ejemplo, las tecnologías de IA evalúan el patrón de habla de un individuo en una entrevista grabada y después evalúan negativamente a alguien con un problema de habla o audición. Los sistemas de IA que comprueban los antecedentes de los empleados podrían violar los derechos de privacidad de los empleados en virtud de numerosas normativas aplicables, como la protección biométrica y de contraseñas. (thomsonreuters, 2024)

Sesgo y prácticas discriminatorias en la IA

El sesgo en los sistemas de IA presenta otro problema legal importante en 2024. Los modelos de IA, entrenados en grandes conjuntos de datos, pueden adoptar inadvertidamente los sesgos presentes en los datos, lo que conduce a resultados discriminatorios. En campos como el empleo, las finanzas y la justicia penal, los algoritmos de IA sesgados pueden perpetuar los estereotipos y las prácticas injustas, dando lugar a posibles responsabilidades legales en virtud de las leyes contra la discriminación.

Informe 2024 de Aporia sobre el sesgo en la IA

Según la encuesta de Aporia, el 89% de los ingenieros de aprendizaje automático que trabajan con grandes modelos lingüísticos observaron sesgos en sus resultados. Estos sesgos aparecen como contenido que refuerza los estereotipos sociales, lo que puede tener un impacto negativo en los procesos de toma de decisiones, especialmente en áreas sensibles como la contratación y la financiación. Por ejemplo, las herramientas de selección de personal basadas en IA pueden prejuzgar a las personas en función de su sexo u origen étnico, lo que infringe la legislación sobre igualdad de oportunidades en el empleo. (Unite.AI, 2024)

Implicaciones legales de la parcialidad en los sistemas de IA

Cuando los sistemas de IA se utilizan para tomar decisiones cruciales como la contratación o la financiación, deben respetar las leyes contra la discriminación. El sesgo en las herramientas de IA puede dar lugar a demandas y disputas legales si se descubre que estas tecnologías promueven prácticas discriminatorias. Las empresas que utilizan IA deben desarrollar procedimientos para auditar y supervisar constantemente sus sistemas en busca de sesgos, garantizando el cumplimiento de las leyes contra la discriminación. (Unite.AI, 2024)

Desafíos de la navegación por los marcos reguladores de la IA en la sanidad

La IA en la sanidad plantea varios problemas importantes. Uno de ellos es el fragmentado panorama normativo, especialmente en la UE. Reglamentos como el Reglamento de Dispositivos Médicos (MDR), el Reglamento General de Protección de Datos (GDPR) y la prevista Ley de IA de la UE se superponen y con frecuencia varían en sus definiciones de «tecnología de IA compatible». Esto hace que sea difícil para las empresas sanitarias gestionar el cumplimiento, especialmente cuando lanzan equipos médicos innovadores impulsados por IA.

Falta de regulación integrada

Otro motivo de preocupación es la falta de una normativa integrada. Mientras que la UE adopta un enfoque intersectorial, Estados Unidos controla la IA mediante normativas sectoriales como la HIPAA y las directrices de la FDA. Este sectorialismo fomenta la flexibilidad y la adaptabilidad, pero puede pasar por alto ámbitos que van más allá de la atención sanitaria tradicional, como los datos procedentes de dispositivos vestibles. Las variaciones entre estas técnicas complican el cumplimiento para las empresas globales. (SLS, 2024)

Rápido cambio tecnológico

Además, los desarrolladores de asistencia sanitaria con IA tienen que gestionar el rápido desarrollo técnico, como la adopción de algoritmos para su aplicación en el mundo real, al tiempo que regulan los controles comerciales de los componentes físicos. El ritmo de desarrollo de la IA está superando a los marcos normativos actuales, lo que hace temer que las normativas queden obsoletas con rapidez. (SLS, 2024)

Cómo abordar los retos jurídicos de la IA en 2024

La rápida expansión de la inteligencia artificial en diversos sectores conlleva importantes retos jurídicos. Cuestiones como las alucinaciones y las imprecisiones, las disputas sobre propiedad intelectual, la protección de datos y los problemas de privacidad, la parcialidad y un panorama normativo fragmentado hacen que el cumplimiento sea cada vez más complejo.

Es crucial que las empresas y los profesionales del Derecho comprendan estas preocupaciones cambiantes. Abordar estas cuestiones es vital para el progreso ético y jurídico. De cara al futuro, es necesario un enfoque unificado para resolver estos retos y garantizar un uso responsable de la IA.