Descargar

NOTAS INTRODUCTORIAS AL ANTEPROYECTO DE LEY DE INTELIGENCIA ARTIFICIAL

Luis-Correia

Luis G. Correia M
Abogado

 

En el marco del proceso de las discusiones acerca del contenido y alcance del anteproyecto de Ley de Inteligencia Artificial, debatida en primera en discusión en la sesión ordinaria de la Asamblea Nacional del 19 de noviembre de 2024, surgen las siguientes observaciones sobre los aspectos más relevantes contenidos en el proyecto.

I. Disposiciones Generales

Objeto de la ley y Sujetos obligados

En el artículo 1 del proyecto se señala que la Ley tendrá por objeto:

“regular, promover, evaluar e impulsar el desarrollo, uso y aplicación de la inteligencia artificial (…) así como el uso sustentable y la protección de los recursos naturales de la nación que requieren los sistemas de inteligencia artificial para el desarrollo económico y social del país”.

De esta disposición llama la atención la mención a la protección de los recursos naturales involucrados -entendemos- en la creación de sistemas de inteligencia artificial.

Pareciera innecesario nombrar recursos naturales que requieren los sistemas de inteligencia artificial, pues tales recursos naturales no son distintos a los que se utilizan como materia prima para la elaboración de equipos de cómputo y sus componentes, como pueden ser el coltán, litio, aluminio, derivados de la industria petroquímica, etc.

En efecto, los sistemas de inteligencia artificial no requerirían de recursos naturales distintos a estos. Entendemos que según la redacción de la norma, pareciera que, por ejemplo, una sociedad mercantil cuyo objeto social legalmente establecido sea la explotación y comercialización del Coltán para la elaboración de chips u otras componentes de equipos de computación, quedaría sujeta a las obligaciones previstas en la Ley de Inteligencia artificial, lo que no luce muy compatible por la materia regulada.

Se señala en el artículo 2 que el ámbito de aplicación de la Ley alcanza a todas las personas en el territorio nacional. Este principio de aplicación territorial puede ser relevante, porque podría ocurrir que una persona pudiera considerarse como sujeta a la Ley desde una perspectiva subjetiva, pero conforme a la norma la Ley no sería aplicable en virtud del principio de territorialidad que se asume desde la Ley.

II. Creación y organización de un ente regulador

Creación de un ente regulador

En su artículo 11 se menciona la creación de la Agencia Nacional de Inteligencia Artificial. Asimismo, en los artículos subsiguientes se regula la estructura, organización patrimonial y competencias de la propia agencia.

Destaca que aunque en el proyecto se le da la denominación de Agencia, su naturaleza jurídica es la de Instituto Autónomo (aunque se le nombre como Instituto Público en su artículo 11) con personalidad jurídica y patrimonio propio, adscrito al Ministerio de Ciencia y Tecnología.

Aunque sea un instituto autónomo, las competencias que se le atribuyen son más propias de una Superintendencia (supervisar el cumplimiento de la Ley (artículo 12.17); instruir procedimientos sancionatorios (artículo 12.15); tramitar denuncias y reclamos afines a la materia (artículo 12.14), etc.

Del elenco de competencias de la Agencia de Nacional de Inteligencia Artificial destacan la creación de registros para proveedores de soluciones de inteligencia artificial y para las propias soluciones de inteligencia artificial que se desarrollen en el marco de la Ley (artículos 12.12 y 12.13). Ello resulta especialmente importante si se toma en cuenta el régimen sancionatorio previsto en disposiciones ulteriores de la propia Ley.

III. De la inteligencia artificial

De la inteligencia artificial

El anteproyecto dedica un capítulo al tratamiento de la inteligencia artificial, en el que se incorporan conceptos fundamentales como la ratificación de la definición (artículo 21) y principios fundamentales involucrados en el uso de la Inteligencia artificial como la equidad e inclusión, transparencia y representatividad de los datos.

Consideramos particularmente positivo el reconocimiento expreso del principio de representatividad de los datos, cuya finalidad esencial es la reducción o eliminación de los sesgos al momento de desarrollar soluciones de inteligencia artificial.

De los derechos de los usuarios

Similar a la tendencia europea prevista en el Reglamento General de Protección de Datos (GDPR por sus siglas en inglés) o la novedosa AI Act sancionada también por el Parlamento Europeo, se consagra un catálogo de derechos subjetivos inherentes al uso de esta tecnología. Dentro de estos derechos se encuentran:

  • Derecho a interactuar (artículo 25).
  • Consentimiento Informado (artículo 26).
  • Seguridad (artículo 27).
  • No discriminación (artículo 28).
  • Protección de datos (artículo 29).

De las soluciones de inteligencia artificial

En este Capítulo se contienen las obligaciones atinentes a los proveedores de soluciones de inteligencia artificial, así como los parámetros que eventualmente tendrían que cumplir las soluciones de inteligencia artificial que se desarrollen en el marco de la Ley.

Dentro de las obligaciones principales que se imponen a los desarrolladores de soluciones de inteligencia artificial en el anteproyecto está la de informar a los usuarios el riesgo en el uso de las tecnologías (artículo  31).

IV. De la seguridad de la inteligencia artificial

Riesgos

En el Capítulo I se establece una categorización de los riesgos en 4 tipos. Esta regulación resulta semejante la clasificación de los riesgos establecida en el GDPR.

En tal sentido, se señalan:

  • Riesgo Inaceptable: actividades que contravengan la Ley y representen una amenaza a la seguridad, la vida y la seguridad del Estado. No obstante, se establece una excepción a esta norma, cuando sea empleada por parte de los organismos de seguridad del Estado para mantener la seguridad y defensa de la Nación, así como el mantenimiento de la paz (artículos 46 y 47).
  • Riesgo alto: actividades que afecten los derechos y seguridad de las personas, particularmente cuando se infrinjan las normas de la Ley en cuanto a la transparencia. Asimismo, se considerarán de alto riesgo aquellos sistemas de Inteligencia Artificial que por su naturaleza categoricen o segmenten a los usuarios (artículo 43.2). Sobre este último aparte, encontramos otra similitud con la AI Act de la UE, que proscribe el uso de sistemas de reconocimiento facial y datos biométricos cuando sean utilizados en detrimento de la sociedad, por ejemplo, para fines de control social[1]. Quizás su determinación quede en manos de normas de rango sub legal emanadas del regulador.
  • Riesgo medio: aquellas actividades que si bien no representan una amenaza crítica a la vida en sociedad, su uso puede afectar significativamente la vida en sociedad (artículo 43.3).
  • Riesgo bajo: aquellas soluciones simples que presentan una mínima posibilidad de afectar los derechos de los usuarios.

Finalmente, se establece que el regulador deberá promover acciones de prevención y uso responsable de la Inteligencia Artificial cuando se considere que puede alterar sensiblemente los derechos de los usuarios (artículo 44).

Sobre este punto consideramos que la aplicación de estas tecnologías debe ser en todo caso con apego a los principios rectores en materia de protección de datos y privacidad de la información, que tienen cabida dentro de nuestro ordenamiento jurídico, y que han sido incluso objeto de consideración por la jurisprudencia[2]. Un uso desmedido de estas facultades puede derivar en una violación al principio de proporcionalidad y justificación de la limitación de derechos exigidos por la doctrina en la aplicación de estas tecnologías con incidencia en la esfera jurídica de las personas[3].

Inteligencia artificial inaceptable

En el artículo 45 del proyecto, se enlistan una serie de 8 desarrollos de inteligencia artificial que a los efectos de la Ley se consideran inaceptables. En líneas generales, se consideran inaceptables aquellas que se alimenten de datos biométricos, inherentes a la persona humana, reconocimiento de emociones y establecimiento de patrones de conducta. Igualmente se encuentran previstas las excepciones al uso de estas tecnologías consideradas inaceptables en los arts. 46 y 47 del proyecto.

Inteligencia artificial prohibida

A través de 8 numerales previstos en el artículo 48 del anteproyecto, se listan una serie de desarrollos de inteligencia artificial que se consideran prohibidos. A lo largo de estos numerales se listan una serie de desarrollos que buscan prohibir las tecnologías potenciadas con inteligencia artificial que aun cuando no se alimenten de datos inherentes a la persona y la condición humana, pueden alterar sensiblemente sus opiniones políticas, religiosas, y sesgos en general.

En los numerales 6 y 7 de ese artículo 48 se ratifica la prohibición de usos de sistemas de Inteligencia Artificial cuando se trate de obtención ilícita de los datos biométricos de la persona humana sin su consentimiento, así como la excepción prevista para los casos de defensa y seguridad de la nación.

Al ser una categorización distinta de las “inaceptables”, entendemos que el resto de las tecnologías que se enuncian en este artículo, es decir, aquellas cuyo uso excepcionalmente puede ser autorizado para casos de defensa y seguridad de la nación, no podrían ser autorizadas ni siquiera en circunstancias excepcionales.

V. Comentarios finales y conclusiones

Podemos arribar a las siguientes conclusiones:

  1. Consideramos positivo y de vanguardia que se tenga una regulación expresa en materia de Inteligencia Artificial.
  1. Consideramos igualmente positivo que se establezcan normas de rango legal a la protección de datos personales. Esa regulación se hace necesaria en tiempos donde muchas de las interacciones cotidianas de las personas son a través de los entornos digitales. Incluso la información personal es susceptible de valoración económica e insumo fundamental de nuevos sectores de mercado y actividades económicas de un valor cada vez mayor.
  1. En este mismo sentido, de materializarse el anteproyecto como una Ley, representaría un avance significativo en cuanto a la protección de los derechos digitales de las personas, por consagrar en normas de rango legal el derecho al consentimiento informado, la privacidad de datos, la protección de la voz y la imagen. Todo ello no solo con normas programáticas sino también con la implementación de tipos penales que consagran como bien jurídico protegido estos derechos.

[1]  Véase el artículo 5.1 del Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, literal e, en el que se establece: “1.   Quedan prohibidas las siguientes prácticas de IA: (e) la introducción en el mercado, la puesta en servicio para este fin específico o el uso de sistemas de IA que creen o amplíen bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales de internet o de circuitos cerrados de televisión”.

[2] Sentencia del 4 de agosto de 2011 de la Sala Constitucional del Tribunal Supremo de Justicia, expediente: 04-2395.

[3] Véase Francisco Javier Martín Jiménez, “Big Data: riesgos y soluciones desde el Derecho y desde los principios”, en Revista de Derecho Político, N° 19, UNED, 2024, pp. 215-249.

 

Contacto:

LEĜA Abogados
  infolaw@lega.law
  +58 (212) 277.22.00
  www.lega.law

Luis-Correia


Luis G. Correia M.
lcorreia@lega.law
+58 (0212) 277.23.14

 

El objetivo de Perspectivas LEĜA es proveer información a los clientes y relacionados de LEĜA Abogados. Este Perspectivas LEĜA refleja el punto de vista de su autor. Los lectores no deberían actuar sobre la base de la información contenida en este Perspectivas LEĜA, sin obtener previamente asesoría jurídica específica. Este Perspectivas LEĜA puede ser reproducido, total o parcialmente, indicando siempre su autor, fuente y origen en forma destacada.

©2022 LEĜA Abogados.