La Disposición se divide en dos Anexos:

‍

• Anexo I: el cuál se llama “Recomendaciones para una Inteligencia Artificial Fiable”

• Anexo II: un esquema gráfico de las etapas de Proyectos de Inteligencia Artificial que forman parte de la medida.

‍

Las Recomendaciones tienen como objetivo recopilar y brindar herramientas para quienes lleven adelante proyectos de innovación pública a través de la tecnología que importen el uso de la IA y apunta a la adopción de un enfoque multidisciplinario y que conciba de manera integral sus implicancias.

‍

A continuación les dejamos la novedad legal emitida por los abogados de Bomchil: Marcelo den Toom ; Melisa Romero; Martín Torres Girotti ; Marina Wagmaister  y/o Germán Esquivo. 

‍

Las Recomendaciones, definen a la IA de acuerdo con las definiciones del Grupo de Expertos en IA de la OCDE y la ONU, como:

‍

1. OCDE (Organización para la Cooperación y el Desarrollo Económico): un sistema basado en máquinas que es capaz de influir en el entorno produciendo un resultado (predicciones, recomendaciones o decisiones) para un conjunto determinado de objetivos. Utiliza datos e insumos basados en máquinas y/o humanos para (i) percibir entornos reales y/o virtuales; (ii) abstraer estas percepciones en modelos a través del análisis de manera automatizada o manualmente; y (iii) usar la inferencia del modelo para formular opciones para los resultados.

‍

2. ONU (Organización de Naciones Unidas): la capacidad de una computadora o un sistema robótico habilitado por computadora para procesar información y producir resultados de manera similar al proceso de pensamiento de los seres humanos en el aprendizaje, la toma de decisiones y la resolución de problemas.

‍

Tras un breve marco teórico sobre la IA, plantean una serie de recomendaciones y principios para la implementación de proyectos de IA, en orden cronológico contemplando el ciclo de vida de la IA (concepción de la IA, ciclo de la IA y luego del ciclo):

‍

‍1. Responsabilidad y ejecución: Un algoritmo no posee autodeterminación y/o agencia para tomar decisiones y, por ende, no se le puede atribuir responsabilidad de las acciones que se ejecutan a través de dicho algoritmo. El algoritmo puede ejecutar, pero la responsabilidad recae sobe la persona que decide.

‍

2. Uso ético de la IA: Existen distintos consensos adoptados en instancias internacionales como la Recomendación sobre la Ética de la Inteligencia Artificial de la ONU – UNESCO (2021), la Conferencia de Asilomar del Instituto Future of Life (2017), los Principios de la OCDE sobre IA (2019), los Principios de IA centrados en el ser humano del G20 (2019), dirigidos a tender a un uso ético de la IA, con consciencia de las dificultades y riesgos que puede conllevar y priorizando los intereses y derechos de las personas.

‍

3. Antes de comenzar con el ciclo de la IA: Se recomienda conformar un equipo humano diverso y multidisciplinario, comprender su nivel de conocimiento sobre IA y concientizar, entender si la IA es la mejor solución a la problemática que se quiere resolver, definir qué modelo de IA se utilizará (automatización o human in the loop), cuál es el destino de la IA y cómo se realizará el control humano, entre otras medidas.

‍

4. Etapa 1 del ciclo: Diseño y modelado de datos. Se recomienda incluir criterios de diseño éticos para aumentar las probabilidades de éxito del proyecto, tanto en la conformación del equipo, como el diseño de los datos y los modelos.

‍

5. Etapa 2 del ciclo: Verificación / validación. Se recomienda tener en cuenta el diseño del equipo, los datos y los modelos involucrados en las verificaciones y validaciones de los diseños realizados en la primera etapa.

‍

6. Etapa 3 del ciclo: Implementación. Se recomienda adoptar medidas para asegurar que la implementación permita establecer un grado adecuado de seguridad de la información, realizar la trazabilidad sobre las acciones y decisiones ocurridas en el proyecto, realizar auditorías y ofrecer al usuario facilidades de accesibilidad a las tecnologías de información y comunicaciones.

‍

7. Etapa 4 del ciclo: Operación y mantenimiento. Se recomienda tomar acciones para la realización de tareas de operación y mantenimiento de la infraestructura donde se despliega la solución tecnológica basada en IA y del propio modelo (para evitar, por ejemplo, que se degrade y deje de responder de manera correcta).

‍

8. Fuera del ciclo de la IA: Se recomienda atender a la ocurrencia de los riesgos y los perjuicios derivados para arbitrar las acciones necesarias para subsanar y/o revertirlos.

‍

Finalmente, las Recomendaciones contienen un glosario que define los términos relevantes, entre ellos:

‍

• Algoritmos: Documentos de la OCDE los definen como conjuntos secuenciales exactos de comandos que se ejecutan sobre una entrada diseñada para generar una salida en un formato claramente definido. Los algoritmos se pueden representar en lenguaje sencillo, diagramas, códigos informáticos y otros lenguajes.

‍

• Machine learning: Naciones Unidas la define como una rama de la inteligencia artificial (IA) centrada en la creación de aplicaciones que aprenden de los datos y mejoran su precisión con el tiempo sin estar programadas para hacerlo. Documentos de la OCDE lo definen como un subconjunto de inteligencia artificial en el que las máquinas aprovechan los enfoques estadísticos para aprender de los datos históricos y hacer predicciones en situaciones nuevas. 

‍

• Deep learning: Documentos de la OCDE refieren a modelos de aprendizaje inspirados en las neuronas biológicas, no obstante, las redes neuronales no necesariamente aprenden igual que los humanos. Dichas redes organizan la computación a través de grandes colecciones de unidades computacionales simples. El término "profundo" se refiere al número de capas en la red. Hasta hace poco, la falta de poder de cómputo y datos de entrenamiento significaba que solo se podían explorar redes pequeñas. Varias décadas de investigación sobre mejoras de algoritmos, combinadas con unidades de procesamiento gráfico desarrolladas originalmente para videojuegos, finalmente permitieron entrenar grandes redes utilizando cantidades masivas de datos. Esto ha llevado a sistemas que funcionan mucho mejor que los enfoques anteriores en tareas como subtítulos de imágenes, reconocimiento facial, reconocimiento de voz y traducción automática de lenguaje natural. 

‍

Otros de los conceptos que se encuentran en el glosario son: automatización, datos sesgados, inteligencia aumentada, inteligencia artificial (estrecha y general), y sesgos (de percepción, técnico, de modelado y de activación), entre otros.

El esquema gráfico aprobado por la Disposición resume el ciclo de vida la IA y la aplicación de las Recomendaciones en las distintas etapas.

‍

Esperamos que te haya servido para profundizar en conocimientos técnicos y regulatorios de Inteligencia Artificial y de cómo se están aplicando estos conceptos en nuestro país. 

‍

‍

Esto fue una novedad legal de Bomchil, no cumple carácter de asesoría por parte de Complif, de querer consultar en profundidad contactarse a contacto@bomchil.com o al +54114321-7500.