Subgrupo 2
Moderadora: Tania Da Rosa, Agesic
Relatora: Agustina de Benedetto, Agesic
Participaron 15 (quince) personas de 12 (doce) Instituciones públicas, Organizaciones de la Sociedad Civil, Academia y/o Sector Privado.
Intercambio realizado durante cada una de las rondas de conversación
Parte 1: Visión Global
Digital Sense -. Adrián Márques (Sector privado)
Indica que la estrategia debería fijar objetivos claros.
Agesic - Angie Lecot (Sector público)
Informa el proceso de elaboración de la Estrategia de Inteligencia Artificial para el Gobierno Digital del año 2020, en la cual se definieron principios y pilares.
En el actual proceso de revisión se busca ampliar el alcance de la estrategia y realizarlo de forma colaborativa acompañando la evolución de la tecnología en la administración pública.
Destaca que es necesario profundizar en la estrategia el aspecto tecnológico y acompañarlo con el desarrollo de talento en todos los sectores.
Microsoft - Gonzalo Laguna (Sector privado)
Sugiere abordar los temas de: transparencia, control y propiedad intelectual.
Comenta la importancia de incluir aspectos de transparencia en cuanto al uso y explicabilidad de la inteligencia artificial. Asimismo, abordar aspectos relacionados con el control de la inteligencia artificial. Plantea las siguientes preguntas:
¿Cómo usamos la tecnología para la toma de decisiones?
¿Qué aspectos se tienen en cuenta para las mismas?
Ejemplifica con el uso las evaluaciones crediticias bancarias y en otros sectores.
Otro aspecto a abordar refiere a la propiedad intelectual en el uso de la inteligencia artificial relacionado con el resultado de los modelos.
ONSC - Gabriela Delfino (Sector público)
Compartió la importancia de abordar aspectos relacionados con la transparencia, uso, explicabilidad y trazabilidad en relación a los modelos y toma de decisiones.
Destaca la necesidad de analizar los aspectos legales para uso de estas herramientas.
Indicó como ejemplo las dificultades que el escenario actual ofrece para la evaluación de currículums vitae para selección de personal.
Poder Legislativo – Cámara de Representantes – Rodrigo Duarte (Sector público)
Destaca la responsabilidad en el uso de la inteligencia artificial y sus configuraciones. Plantea la interrogante ¿Quién se hace responsable de los datos con los que trabaja la inteligencia artificial?
Intermedia – Mateo Musitelli (Sector privado)
Comenta la importancia que tienen los datos abiertos en una estrategia de inteligencia artificial y deben trabajarse en sinergia. El input de la inteligencia artificial son los datos y tienen que estar disponibles tanto para las instituciones públicas como para las privadas.
Destaca la importancia de datos abiertos que sean útiles y estén disponibles para la generación de modelos de predicción con el fin de generar valor.
Intermedia - Ignacio Gabito (Sector privado)
Enfatiza en la importancia de la calidad de los datos, seguridad de los datos, certificación de algoritmos, gobernanza y la transparencia. Una vez resuelto esto, puede abordarse el desarrollo de algoritmos para la inteligencia artificial.
Es necesario transparentar la gobernanza de los algoritmos para toma decisiones y análisis de datos.
BCU - Nicolás Serrano (Institución pública)
Destaca la importancia de profundizar en competencias de los recursos humanos y la formación de roles específicos para trabajar estos temas.
Es necesario potenciar el uso de la inteligencia artificial para el procesamiento de información. Señala que se encuentran con limitaciones para uso de información de terceros, hay barreras legales.
Para los entes reguladores destaca que es necesaria la trazabilidad. Tener un marco de acción puede ayudarlos a brindar una regulación. La ley de protección de datos debe adecuarse (reinterpretarse) para la inteligencia artificial.
Digital Sense- Adrián Márques (Sector privado).
Aporta el desafío de la infraestructura para la interoperabilidad de los modelos de entrenamiento (e -learning). Otro aspecto relevante es la interpretación de los modelos, ya que por el momento no son interpretables.
Ejemplo: Regulación de la UE (modelos de regulación) puede ser tomada como referencia.
IDE – Edgardo Lasso (Institución pública)
IDE destaca los beneficios de la inteligencia artificial. Actualmente, existe un déficit de información y de calidad de datos geográficos y por eso es bienvenida esta tecnología. Informa que el principal productor de información geográfica es el Estado.
Sería útil que población civil pueda producir información geográfica de calidad. Hay necesidad de producción geográfica, esta tecnología va a permitir crecimiento y potenciar conocimiento de información disponible.
Mujeres IT - Victoria Pérez (Sociedad civil)
Destaca la brecha de género en esta temática. Se debería trabajar en los sesgos y el control. Los modelos de entrenamiento también pueden tener sesgos ya que utilizan datos que tienen sesgos.
También identifica los riesgos en el análisis de comportamiento que realiza la inteligencia artificial.
Destaca que es necesario trabajar con profesionales de todas las áreas para generar regulación equilibrada (dialogo entre especialistas tecnológicos y quienes tienen que regular).
Agesic - Angie Lecot (Sector público)
Destaca que es importante definir cómo podemos trabajar en el enfoque de investigación y desarrollo de la inteligencia artificial y los datos abiertos. Indica que actualmente Agesic está trabajando en una guía de transparencia algorítmica.
Plantea analizar sandbox regulatorios.
Microsoft - Gonzalo Laguna Sierra (Sector privado)
Indica que la transparencia del algoritmo no se puede disociar del dato y es fundamental que los datos tengan calidad. Son aspectos que van de la mano.
Al momento de establecer una estrategia hay que prestar atención a los sesgos que puede producir la inteligencia artificial.
Agesic - Matilde Casabó (Institución pública)
Indica que se podría mejorar la estructura del documento existente.
Además, sugiere sumar nuevas dimensiones tales como: el cuidado y resguardo de los derechos humanos, evaluación de impacto de la inteligencia artificial, incorporar perspectiva de género y un análisis de riesgos. También destaca que es importante garantizar procesos para minimizar los aspectos negativos.
Incluir como objetivo que la inteligencia artificial debe estar centrada en las personas y en la mejora de la calidad de vida. También se pueden sumar aspectos de sustentabilidad ambiental, desarrollo tecnológico y del cuidado.
UCU - Gustavo Vázquez (Academia)
Desde el ámbito educativo destaca que existe un déficit de formación de los alumnos en matemáticas y ciencias. En la educación en la temática existe una brecha de género. Hay un 20% de participación de las mujeres.
Plantea el desafío del uso de la inteligencia artificial en el ámbito educativo y cómo puede afectar el modelo de aprendizaje existente. ¿Qué tipo de graduados se están formando?, ¿Cómo conviven las herramientas de inteligencia artificial, como por ejemplo el Copilot, dentro del aula?
Destaca la oportunidad para dialogar con las empresas para entender que esperan de los profesionales en el mercado laboral.
Otro aspecto importante es la ciberseguridad y la protección física de datos. ¿Qué sucede con los datos de los ciudadanos?
También, destaca que los sesgos se producen por desconocimiento.
Hay una oportunidad para trabajar en la explicación de los modelos de inteligencia artificial. Al ser un área nueva hay que trabajar para hacerlos explicables y encuentra una oportunidad para hacerlo desde la academia.
Por otro lado, la investigación o ensayos virtuales sobre la temática deben lograr confiabilidad.
Poder Legislativo – Cámara de Senadores - Rodrigo Duarte (Sector público)
La inteligencia artificial presenta riesgos de filtración de información en el análisis de los datos. Hace falta definir responsabilidades.
Es fundamental incluir debate ético para esta temática y definir sectores estratégicos para el uso de la inteligencia artificial.
Agesic - Sandra Sayanes (Institución pública)
Indica que los sesgos deberían evitarse y es necesario promover la igualdad. La estrategia debe ser el resultado de un trabajo articulado entre sector público, sector privado, academia y sociedad civil.
Identifica la necesidad de trabajar en estándares según rubro o líneas de negocios para hacer las recomendaciones adecuadas.
Destaca que es importante la formación (capacitación) en la temática para aplicar estas estrategias con el fin de cumplir las pautas que se establezcan.
Udelar - Adriana Marotta (Academia)
Destaca que la estrategia debe incluir el tema de datos. Plantea que tal vez podrían ser dos estrategias separadas inteligencia artificial y datos.
Respecto de los datos, remarca que se debería trabajar con los organismos para abordar la calidad de los datos. Indica que Agesic podría profundizar el trabajo con organismos del Estado. Desde el ámbito académico han trabajado con datos y encuentran con frecuencia problemas de calidad de datos. En este sentido, es necesario profundizar capacitaciones sobre calidad de datos, uso, etc.
Compartió la experiencia de España de Ismael Caballero, quien trabajó en la estrategia de datos, gestión de calidad de datos y estándares disponibles. Este modelo podría ser un insumo a considerar.
Respecto del machine learning, es necesario utilizar criterios adecuados para cada tipo de uso de acuerdo al objetivo que se quiere alcanzar.
El desafío es entender cuál es el camino adecuado de la inteligencia artificial, ya que puede ser útil para algunos usos y para otros no. Identifica que pueden ser útiles como herramientas de apoyo.
Ancap - Soledad Graña (Institución pública)
Encuentra necesario trabajar en la gobernanza de los datos en las instituciones y destaca que es necesario profundizar en la capacitación de personal de las empresas que brinden conceptos básicos de estos temas.
El trabajo con datos implica un esfuerzo extra por la calidad y veracidad que deben tener los mismos.
Indica que el desarrollo de talento en el Estado representa una necesidad y un desafío, ya que difícil la gestión del conocimiento y retener a los recursos humanos. Se tienen que pensar estrategias para retener estos perfiles profesionales.
Se debería trabajar en la dimensión normativa para que el Estado pueda realizar un mayor uso y potenciar la utilidad de la inteligencia artificial. Hay una complejidad en los términos y condiciones de uso para el aprovechamiento de la tecnología de inteligencia artificial.
Se debe tener en cuenta en la estrategia, el impacto de la inteligencia artificial en el mercado laboral para abordar las transformaciones actuales y desarrollar talento adecuado.
Parte 2: Oportunidades y desafíos
Digital Sense - Adrián Márques (Sector privado)
Encuentra como desafíos la capacitación en la temática. También destaca que deben incorporarse conceptos por fuera de lo técnico como es la adopción, el uso, la adopción de la misma en cada sector, etc. Se debe tener en cuenta la población objetivo y la adopción de la inteligencia artificial.
Otro aspecto relevante es la relación del Estado con los proveedores del sector tecnológico. Algunas veces los TdR (pliegos) no son claros o no están bien trabajados. Los términos económicos o de gobernanza muchas veces no son adecuados. Hay una oportunidad para generar incentivos en este sentido.
Respecto de las oportunidades destaca la posibilidad de networking en el Uruguay y las posibilidades de colaboración con la academia.
También sugiere incorporar al ecosistema emprendedor. Destaca los apoyos económicos al sector por parte de la Agencia Nacional de Investigación e Innovación (ANII) y Uruguay XXI.
Ancap- Soledad Graña (Institución pública)
Destaca la importancia de trabajar en la capacitación y lineamientos para la gobernanza en las instituciones del Estado.
Encuentra un desafío en el trabajo con los proveedores y el armado de pliegos. Se debería fortalecer la sinergia y a su vez trabajar en los desafíos legales.
También se debe trabajar para fortalecer el desarrollo del conocimiento en organismos estatales, no solo en las áreas tecnológicas. Hay un desafío en la retención de talento en las instituciones.
Udelar - Adriana Marotta (Academia)
En cuanto a los desafíos, la estrategia debería dar apoyo a los organismos estatales para estandarizar datos.
También identifica como desafío la retención y formación de talentos. Se necesitan profesionales formados y especializados. Indica que en la facultad hay poca demanda de cursos de posgrados relacionados con la temática.
Agesic - Sandra Sayanes (Institución pública)
Respecto de las oportunidades se debería aprovechar la comunidad existente especialista en la temática.
En cuanto a los desafíos, destaca como una línea de trabajo adecuar la elaboración de los pliegos para la contratación de proveedores.
En esta temática es fundamental trabajar la gestión del cambio.
Poder Legislativo – Cámara de Representantes - Rodrigo Duarte (Sector público)
Indica que hay una oportunidad para trabajar en inteligencia artificial porque actualmente hay mucho interés en la temática.
Identifica una oportunidad para trabajar con las áreas que ya utilizan datos. La inteligencia artificial es una herramienta y es importante identificar áreas estratégicas para implementar el uso.
Respecto del riesgo, se debe trabajar para que no se pierdan empleos por la automatización de tareas. En este aspecto, existe mayor vulnerabilidad del personal menos calificado.
UCU - Gustavo Vázquez (Academia)
Indica algunos desafíos:
Destaca que la gobernanza de datos es fundamental.
Se deben generar programas de capacitación (técnicos y no técnicos) para mitigar que la falta de conocimiento paralice proyectos o genere expectativas erróneas.
También se debe trabajar para minimizar los errores por desconocimiento del uso de la herramienta y los alcances que puede tener.
Respecto de las oportunidades, señala que existen oportunidades de financiamiento con ANII y hay un espacio para incorporar nuevos proyectos novedosos. Esto representa una oportunidad de diálogo y sinergias entre empresas, sector privado y academia.
ONSC - Gabriela Delfino (Sector público)
Indica que hay una oportunidad para evaluar los usos prácticos que puede tener la inteligencia artificial. Puede usarse como herramientas de gestión, identificar los sectores en los cuales puede utilizarse.
Microsoft - Gonzalo Laguna Sierra (Sector privado)
Plantea la inquietud sobre quién define qué es una buena o mala idea en el uso de la herramienta.
Agesic - Angie Lecot (Institución pública)
Destaca que uno de los desafíos es el uso de la herramienta en el caso práctico. Es necesario tener un análisis crítico para aplicar en cada caso. ¿Cómo hacés para que la legislación acompañe y no limite de forma desproporcionada?
Se debe entender la inteligencia artificial para luego definir qué aspectos legislar con el fin de que habilite y no limite, y que no vulnere derechos.
Udelar - Adriana Marotta (Academia)
En relación a los aspectos regulatorios, opina que se debería adoptar un marco referencia general.
Agesic - Matilde Casabó (Institución pública)
Señala que existe una oportunidad de participación entre los distintos sectores y el desafío está en incorporar la interdisciplinariedad. Debería Incorporarse desde el diseño.
Seguir fortaleciendo la ciudadanía digital. Es necesario que la ciudadanía entienda de qué estamos hablando, que se haga un uso crítico y una adecuada gestión del conocimiento.
Mujeres IT - Victoria Pérez (Sociedad civil)
Indica que la estrategia es una oportunidad para promover que la ciudadanía pueda incorporar y apropiar el lenguaje ‘tech’.
Es fundamental trabajar en educación para que la mayoría pueda entender. Se debe generar espacio de diálogo permanente para discutir estos temas ya que la inteligencia artificial y la tecnología avanzan demasiado rápido.
IDE - Edgardo Lasso (Institución pública)
Destaca la oportunidad de generar mayor aprendizaje en la temática.
Respecto de los desafíos, señala la importancia de trabajar en la transparencia y confiabilidad.
Resalta que existe una normativa para la calidad de datos de Uruguay y es un desafío que los organismos lo adopten.
Respecto de la gestión del conocimiento, se debe trabajar retener conocimiento en las organizaciones y no en las personas.
BCU - Nicolás Serrano (Institución pública)
Encuentra una oportunidad para incorporar nuevas tecnologías para optimizar los usos y el análisis de datos. La incorporación de la inteligencia artificial podría brindar nuevas herramientas laborales. Funciona como un incentivo y motivación para las personas.
Respecto de los desafíos señala la movilidad de los datos. Hay una oportunidad que existe en la certificación electrónica para la realización de trámites y agilidad en la vida diaria.
Respecto de los desafíos, identifica la gobernanza de los datos y la retención del talento en las organizaciones estatales.
Resalta que estos temas deben abordarse a tiempo y de forma no sesgada y desde todos los sectores. Se debe buscar transversalidad y un equilibrio que recoja las visiones de todos los sectores.
Intermedia - Ignacio Gabito (Sector privado)
Remarca la importancia de elaborar una estrategia con enfoque a largo plazo y esto puede ayudar a mantener el talento. Se debe trabajar para definir qué herramientas se van a utilizar y cómo se va a adoptar para brindar sostenibilidad.
Intermedia - Mateo Musitelli (Sector privado)
Respecto de los desafíos, indica que muchas veces no es necesario conocer la caja negra del algoritmo para poder utilizarlo. Lo importante es el cómo se utiliza.
Hay una oportunidad en el campo educativo para capacitar a los jóvenes. Destaca que hay disponibilidad a nivel país de una computadora por niño y es importante que comience la formación en edades tempranas. Esta formación va a potenciar el alcance la inteligencia artificial.
Indica que muchas veces no es necesario conocer el modelo para programar o integrar. Remarca que existe una oportunidad para utilizar el modelo sin necesidad de conocerlo completamente. Esto permite potenciar los alcances de la inteligencia artificial.
Microsoft - Gonzalo Laguna Sierra (Sector privado)
Remarca que hay una dificultad para trabajar a largo plazo y es necesario planificar sabiendo que puede cambiar. Representa un desafío la regulación de la propiedad intelectual relacionada con la entrada y salida del modelo. Es importante poder definir quién es el autor de los resultados que logran con la inteligencia artificial (la empresa, el qué generó los datos, el técnico). Estas son preguntan razonables para hacerse y para responder al momento de regular
También, plantea como desafío el impacto de las herramientas de inteligencia artificial a nivel académico. Se debería repensar la forma de enseñar (qué es necesario y qué no).
Ancap - Soledad Graña (Institución pública)
Destaca como desafío la alfabetización de datos. Identifica una oportunidad para desarrollar una cultura de datos.