Proyecto de ley que regula la Inteligencia Artificial ingresa a la Cámara de Diputados

El pasado 7 de mayo ingresó a la Cámara de Diputados el mensaje presidencial impulsado por el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación (Ministerio de CTCI) que regula los sistemas de inteligencia artificial, el cual fue remitido a opinión de la Corte Suprema y actualmente se encuentra con urgencia simple. Una vez aprobada como Ley, la normativa dispone de 1 año de vacancia legal.

Se definen los sistemas de IA como aquellos sistemas basados en máquinas que, por objetivos explícitos o implícitos infiere, a partir de la entrada que recibe, cómo generar salidas tales como predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales. Los distintos sistemas de IA pueden variar en sus niveles de autonomía y adaptabilidad tras su implementación.

1. Ámbito de aplicación

El proyecto enumera en su artículo 2° lo que denomina sujetos pasivos de ley indicando los siguientes:

• Los proveedores que introduzcan en el mercado o pongan en servicio sistemas de IA en el territorio nacional.
• Los implementadores de sistemas de IA domiciliados en el territorio nacional.
• Los proveedores e implementadores de sistemas domiciliados en el extranjero, cuando la información de salida generada por el sistema de IA se utilice en Chile.
• Los importadores y distribuidores de sistemas, los representantes autorizados de los proveedores de sistemas de IA, domiciliados en Chile.  

Esta norma debe ser leída en conjunto con las definiciones del articulo 3° que acotan cada uno de estos roles y agregan una serie de definiciones relevantes. Todos aquellos se definen como “operadores”.

La ley no se aplica a sistemas de IA desarrollados y utilizados con fines de defensa nacional, los que serán definidos por el Ministerio de Defensa; a las actividades de investigación, pruebas y desarrollo sobre sistemas de IA de forma previa a su introducción en el mercado; a componentes de IA proporcionados en el marco de licencias libres y de código abierto, salvo que sean comercializados o puestos en servicio por un proveedor como parte de un sistema de IA de alto riesgo.

2. Órgano rector e institucionalidad complementaria

La fiscalización y el cumplimiento de las disposiciones de esta ley y su reglamento corresponderán a la futura Agencia de Protección de Datos Personales, APD, quien tendrá las facultades de requerir información, fiscalizar, determinar las infracciones, incumplimientos sancionar y resolver solicitudes y reclamos.

El proyecto también crea un Consejo Asesor Técnico de IA (CATIA), integrado por representantes del Estado, la academia, la industria de tecnología y la sociedad civil. Este funcionará ad-honorem, y abordará materias destinadas al desarrollo, promoción y mejoramiento continuo de los sistemas de IA en el país. Se configurará como un organismo coadyuvante del Ministerio de CTCI.

3. Clasificación de los sistemas de IA.

El proyecto clasifica los usos de los sistemas de IA de acuerdo a su riesgo. Por riesgo se entiende la combinación de la probabilidad de que se produzca un daño a las personas naturales, su salud, seguridad o derechos fundamentales y la gravedad de dicho daño.

a) Sistemas de IA de riesgo inaceptable: Agrupa a sistemas de IA incompatibles cuya introducción en el mercado o puesta en servicio. Estas IA se encuentran derechamente prohibidas. Algunos de ellos son:  

• Sistemas de manipulación subliminal;
• Sistemas de calificación social genérica, cuando dicha calificación provoque daño, un trato perjudicial o injustificadamente discriminatorio;
• Sistemas de identificación biométrica remota en espacios de acceso público en tiempo real;
• Sistemas de IA destinados al análisis de imágenes de vídeo en espacios de acceso público que emplean sistemas de identificación biométrica remota en tiempo real. 
• Sistemas de evaluación de los estados emocionales de una persona en el ámbito penal, gestión de fronteras, lugares de trabajo y en centros educativo.

b) Sistemas de IA de alto riesgo: Agrupa a sistemas de IA autónomos o componentes de seguridad de productos que pueden afectar negativamente a la salud y la seguridad de las personas, sus derechos fundamentales o el medio ambiente, así como los derechos de los consumidores, especialmente si fallan o se utilizan de forma impropia.  La definición de estos será hecha por reglamento del Ministerio de CTCI. Están sujetos a obligaciones expresas mencionadas en la ley.

c) Sistemas de IA de riesgo limitado: Agrupa a sistemas de IA que presentan riesgos no significativos de manipulación, engaño o error, producto de su interacción con personas naturales. La definición de estos será hecha por reglamento del Ministerio de CTCI. Están sujetos a obligaciones de transparencia.

d) Sistemas de IA sin riesgo evidente: Agrupa a todos los demás sistemas de IA que no entran en las categorías mencionadas precedentemente.

4. Obligaciones a las que están sujetas los sistemas de IA alto riesgo (SAR).

La ley fija estándares obligatorios para los SAR, pudiendo establecer dentro de aquellos estándares diferenciados en virtud del tipo de operador y en consideración a su tamaño, especialmente teniendo en consideración el estatuto PYME. Los estándares obligatorios son:

5. Sanciones

El proyecto establece un catálogo de sanciones. Señala como sanción gravísima la puesta en servicio o la utilización de un sistema de IA de riesgo inaceptable; como grave el incumplimiento de los requisitos dispuestos para los sistemas de alto riesgo del artículo 8° y como leve el incumplimiento de las medidas de transparencia respecto de los sistemas de IA de riesgo limitado. Las infracciones leves serán sancionadas por la APD con multa de hasta 5.000 UTM, las graves hasta 10.000 UTM y las gravísimas hasta 20.000. El proyecto dispone un procedimiento sancionatorio reglado de máximo 6 meses de duración, la posibilidad de reclamación judicial ante la Corte de Apelaciones del domicilio del reclamante y la posibilidad de indemnización civil para los afectados por daños.  

CONTACTO

Romina Garrido
Directora
rgarrido@prieto.cl

Carolina Soto
Asociada
csoto@prieto.cl

“Esta información fue preparado por Prieto para mantenerlos informados y no constituye asesoría legal”