Subgrupo 3
Moderadora: Carolina Aguerre, UNESCO
Relatora: Cyntia Pais, Agesic
Participaron 16 (dieciséis) personas de 12 (doce) Instituciones públicas, Organizaciones de la Sociedad Civil, Academia y/o Sector Privado.
Intercambio realizado durante cada una de las rondas de conversación
La moderadora propone avanzar en visión sobre el alcance de la nueva estrategia de IA de Uruguay considerando todo lo que se mencionó y las preocupaciones que traen de lo que ha avanzado en los últimos años y no solo desde el lanzamiento de ChatGPT.
Repasa cuales son los principios generales, focalizando en que la actual es una estrategia orientada al Estado y la administración pública.
Comenta sobre ley europea basada en regulación dinámica por riesgos, sobre tecnologías prohibidas por riesgos sociales, de niveles medio y alto. Las capacidades regulatorias que tiene la Unión Europea no son las mismas por recursos y tiempo ya que es muy caro, con lo cual indica que no sería muy eficiente pensar en estos modelos.
Comentó sobre promover la capacidad crítica: educar, alfabetización digital y cómo funcionan los sistemas de IA. Hay que pensar en esta idea de riesgo como una posibilidad. ¿Hay tecnologías que usan IA y que van a estar prohibidas en su uso? Prohibimos tecnologías, prohibimos uso, ¿cómo?
Agesic – Virginia Pardo (Institución pública)
Comenta las 4 líneas de acción: gobernanza e institucionalidad, fortalecimiento, ciudadanía, adopción y uso y los diferentes niveles de avance, desde piloto, hasta puesta en producción. Propone revisar que es lo que debería tener la próxima estrategia.
Recalca la importancia de lograr un consenso de definiciones antes que al marco regulatorio. Si se está aplicando cierto algoritmo, como funciona, como se transparenta para que la gente lo pueda entender. Necesitamos un consenso como país sobre qué información del algoritmo mostrar, temas comerciales, propiedad intelectual, código fuente, etc.; pero puede ser problemático para empresas e inentendible para las personas.
Un desafío es definir una línea de trabajo fuerte para lograr consenso de que sería transparencia en algoritmos y que exigencias implica a nivel del sector público y el privado, que nos haga sentido a todos como país, al ser un tema social y tecnológico.
UM - Pablo Fleurkin (Academia)
Cuando hablamos de IA es mejor empezar sobre la base que el gobierno provea lineamientos de datos abiertos que pueden ser del INE, del BSE, digamos como el portal de Estados Unidos Data.com, dado que eso permite a empresas privadas hacer pilotos, desarrollos, y a instituciones educativas por el lado de investigación y usando esos datos, de modo que el gobierno pueda impulsar la transparencia por ese lado y abrir la cancha a los proveedores privados.
No sabemos el impacto de lo que va a generar la IA. En términos de explicabilidad en el mundo ideal sería el open source de las empresas privadas, aunque no se publique el código hay frameworks que sin tener que entender el código de base, dicen por qué se toma de forma probabilística una decisión. Propone que para los modelos que vaya a tomar el gobierno, que afectan a los ciudadanos, aplicarle este tipo de lineamientos que sea explicable para un humano. Homologar, ver con un algoritmo al igual que vemos en el prospecto de una bebida, los ingredientes, para que a la persona común permita tomar decisiones en base a temas probabilísticos saber cómo funciona.
En cuanto a la educación, el enfoque es como enseñar a los niños a utilizar las herramientas y generar pensamiento crítico, en no limitar pero ver como se potencia a los niños en tener criterios éticos, de uso, ser reflexivos.
Microsoft - Alejandro Pazos (Sector privado)
Menciona que una de las cosas que definieron de los 5 pilares es la estructura de la infraestructura de seguridad de datos: todo lo que va a pasar es sobre datos que tenemos que controlar.
Comenta sobre dos casos:
El primero ChatGpt, que indexa las búsquedas de la gente. Un caso es el de Italia, que lo prohibió porque hay gente que lo usaba para buscar información confidencial y usarlo para su propia inteligencia.
El otro caso es el de un grupo de desarrolladores de Samsung que colocaron el código y otra empresa lo consulto y accedió a dicho código en vivo como resultado de la búsqueda. Eso habla no solo del gobierno sino del riesgo de no tener un control Open Source sobre este tipo de tecnología que no tiene límites ni ningún tipo de barreras estratégicas.
Coincide con lo expuesto por otros integrantes en cuanto a la necesidad de focalizar en la educación. Hay mucha gente que habla de IA y no entiende.
Menciona como oportunidad el concepto de persona digital, referente al concepto de desinformación, hay muchas personas que están creadas por la IA y hay una competencia comercial por certificar personas. La misma tecnología que está a favor de certificar está buscando como un certificado se puede falsear y hacer algo totalmente contrario. Va a llegar un punto en donde no va a ser posible identificar que es falso y que no.
Otro tema crítico de oportunidad es el sector salud, para detectar cosas muy simples, se propone introducir tecnología para análisis de datos que puede generar un impacto gigante.
Empezar a pensar como capturamos el dato. Si pensamos en la infraestructura de seguridad de todas las capas, desde la app, hasta la base de datos, no estamos pensando en la seguridad desde que se captura el dato, por ejemplo en salud. Pensarlo desde que se sube el resultado de un estudio, considerando que está relacionado con la persona y que en base a eso se va a realizar un análisis. Propone pensar en cómo empezar a buscar el dato para que sea útil y no vincularlo con el riesgo de la persona.
En cuanto a los algoritmos de IA, lo importante es como el algoritmo da la trazabilidad para entender el resultado. Hay mucho de exclusión, y poca accesibilidad. El riesgo no es tan importante como la oportunidad: tenemos que educar a la comunidad, acceder, entender, y tener disponibilidad sabiendo discernir. Faltan chicos de 17 años acá, es el punto clave para que esto sea exitoso.
En cuanto al futuro del trabajo, se va a buscar gente más senior, con capacidades distintas, los desarrolladores no van a tener tanta necesidad de aprendizaje para poder desarrollar. IA va a dar más capacidad para pensar lo que pasa y no tener que estudiar para crear código.
En las fuentes de trabajo, en el corto plazo va a haber un impacto, descendente y ascendente hasta que la industria se acomode. En el medio hay que ver cómo llevar el impacto de lo que va a suceder.
Hay muchas empresas en Uruguay con proyectos de huella de carbono, empresas pequeñas presentando proyectos como optimizar el uso del agua en arroceras, temas de ganadería, de pesca, de transporte. Hace hincapié en que hay muchos proyectos chiquitos, de altísimo impacto y sin riesgo para la comunidad, que podemos lograr hacerlos.
BHU - Kariné Dolabdjian (Institución pública)
Debe estar regulado que se va a disponibilizar como datos abiertos. Las leyes están, lo que falta es el hábito de la gente de declararlo.
Debería cambiarse la forma de evaluar a los alumnos para que se evalúe el conocimiento más que la aplicación de herramientas.
Propone ver cómo hacer llegar la tecnología a todas las personas, mucha gente hoy en día tampoco usa celular y eso limita el tema de trámites en línea. Están atados a dar un ‘OK’ a todos los términos y condiciones, que muchas veces no saben que es y si no se indica no se pueden hacer las cosas, estamos vulnerando los derechos de esas personas.
Otro aspecto a destacar es el tema de investigación, debería haber algo privado o público como laboratorio, ver cómo podemos ayudarnos para poder hacerlo. Desde el punto de vista del Estado, potenciar convenios con otras empresas para podernos hacer con el conocimiento, porque con limitaciones de presupuesto no podemos acceder a las tecnologías.
Está de acuerdo con que no se puede regular y que el país va para adelante con la IA, no podemos decir que no porque nos quedamos atrás, pero debemos ver como logramos no ser rehenes: ‘si no acepto, no puedo seguir’, tiene que haber una alternativa.
SONDA - Joaquín Ávalos (Sector privado)
Plantea la temática de toda la información y la desinformación que se genera al haber muchas entidades e información falsa. Es importante tener una regulación sobre lo que es correcto y que no.
Propone crear un centro de excelencia de datos, de gobernanza de datos que verifique cual es correcto y cual no.
Hoy está migrándose a tecnologías Open Source para que haya más interconexiones y generar interconexión de datos, que antes no lo tenían.
Debemos tener una gobernanza de datos del sector público que a la vez alimente al sector privado. Todo lo que son datos de personas que trabajan en lugares públicos, cada vez hay más datos en páginas de gobiernos. Además de CV digitales, cuando se empiece a conectar todo se va a poder generar un perfil digital que todo el mundo va a tener acceso.
Hace foco en la importancia de la conexión con las empresas privadas pequeñas que son muy ágiles, ya que no visualiza que las empresas grandes tengan la agilidad necesaria para fomentar los laboratorios de IA, que toman liderazgo con mucho conocimiento.
Internet Society - Laura Margolis (Sector privado)
Cita la importancia de ver donde le ponemos límites a la IA, en términos de educación, la herramienta chat GPT ya se está utilizando, más por parte de los alumnos que de los docentes, desde primaria hasta universidad. Eso habría que regularlo, la gente lo usa sin saber cómo, es decir sin conocimientos profundos del tema, preocupa un poco el libre uso sin límite sobre todo en los menores.
ANTEL – Silvia Motta (Institución pública)
Considera que la capacitación debe realizarse a todo nivel, no solo a técnicos, para que no solo sean los que desarrollan los modelos, los tomadores de decisión en base a los resultados de los modelos, también a otros niveles de la sociedad. Más que regularlo, que se conozca en sus fortalezas y se pueda incluir correctamente. Que lo podamos utilizar para apalancarnos y sacar mejores resultados, tomarlo como una referencia, acelerar el proceso de resumir información. El pilar de capacitación, educación, dentro de la estrategia debe ser importante a todo nivel, desde los que desarrollan los modelos a los tomadores de decisiones para que sepan de donde vienen los datos. Respecto al riesgo de las pérdidas de puestos de trabajo, el desafío es la reconversión laboral.
BSE – Fernando Cocco (Institución pública)
La IA es una excelente oportunidad. Un factor clave es la credibilidad y la confianza que es lo que necesitamos trabajar. Desde la ética, ver como medimos la información que nos devuelve, es un aspecto clave para entenderlo y que tenga valor, eso nos define como sociedad, ya que tengo que confiar en la información que voy recibiendo, desde un lugar que nos ponga a todos en el mismo lugar de decisión. Por eso es necesario definir una estrategia para gestionar la credibilidad y confianza.
Desde la gestión humana, surgen desafíos sobre cómo hacemos para transitar este proceso que genera mucha inquietud, como desarrollar a las personas para que puedan agregar valor a esas tareas que hacen, trabajar para mejorar las competencias, primero identificarlas y luego desarrollarlas, fortalecer todo lo relacionado con la educación, pensamiento crítico, creatividad para que la menor cantidad de gente posible quede fuera de este tren. (Referencia a la revolución industrial) siempre poniendo al ser humano en el centro.
Udelar – FIC - Leticia Gambetta (Academia)
En el seminario que hicimos en la FIC de encuentro de la academia principalmente, una de las discusiones que surgió fundamentalmente fue de este equilibrio entre regulación y desarrollo, porque uno piensa en la regulación como algo que limita, vigila, controla, pero también es brindar seguridad, es mostrar un territorio más claro.
Al mismo tiempo hay una necesidad de desarrollar esa tecnología como país, como sociedad necesitamos acceder a ese desarrollo para crecer, competir y para expandirnos.
Propone pensar críticamente porque el problema es que más allá de los datos que recibimos también están los datos que generamos. Desmitificar la vida virtual como algo ajeno a uno mismo, auto gestionar una vida integrada entre lo virtual y lo físico, encontrar herramienta para fomentar ese pensamiento crítico, equilibrio entre crecer y a su vez encontrar las normas que brinden seguridad.
Al trabajar con los alumnos hay una cuestión inter generacional, ha habido cambio y tiene que haber gente no solamente con formación sino en formación, sin contaminación a ver qué quieren, qué precisan y que les pasa, además de la inter formación ver la inter disciplina, distintas áreas de conocimiento, buscar traer desde las ciencias sociales otra visión, juntarnos y pensar en este nuevo momento de integración de saberes, edades y lograr pensamiento crítico.
Otro desafío es la aplicación del derecho, con esto aumenta la complejidad al cambiar la lógica completamente, como comprobar algo. Rescatar la inversión en formación en cosas que son por ahora humanas. Rescatar la formación en cosas más básicas como la creatividad, un momento muy poderoso de resurgimiento de la filosofía. Invertir en la creatividad y cuestiones de cooperación, las habilidades van a jugar un papel muy importante.
UM – Elizabeth Scherschener (Academia)
Recalca la importancia de tener este tipo de discusiones, no es un movimiento tecnológico sino también sociológico. Destaca que en estas instancias a la hora de establecer regulaciones es importante que quienes participan tengan formación técnica sobre lo que se está hablando. A su vez de que haya un piso técnico, fomentarlo en general en la sociedad, debido a que hay valores compartidos para que se tenga voz independientemente de la raza, la religión, etc.
Por otra parte, si bien es bueno regular, pensar en una ética única para todos es difícil, así que sería interesante ver como segmentar los usos de la IA, priorizarlo dependiendo del ámbito. Propone evaluar el impacto de cómo se expone la vida de una persona por el simple hecho de haber aceptado con un clic los términos y condiciones. En la regulación en el uso, debería ser claro para la gente que se va a autorizar y qué no. Destaca en términos de explicabilidad y protección de datos, cuando uno desarrolla un algoritmo, si está exponiendo el código, ver lo que muestra el desarrollador y hasta qué punto es posible identificar determinadas soluciones que toma el algoritmo.
BSE – Guillermo Hernandez (Institución pública)
Está en boga hablar de IA y categorizar datos que hay que compartir, los datos ya son sensibles, si la sociedad sabe discernir bien y se baja una información concreta de que es IA, es una buena forma de pensar para arriba más allá de las organizaciones.
La IA va a sacar muchos puestos de trabajo pero muchos se van a reconvertir. El tiempo que se invierte por la persona va disminuir en tareas. A partir del apoyo de empresas y academia es que se puede enfocar el trabajo para que aumente con el paso del tiempo.
UTE – Andrea Tutte (Institución pública)
Todos estamos viviendo una transformación en cuanto a la información que tenemos de todos. Recalca la responsabilidad que tenemos de usar los datos de manera correcta ya que se están generando con mayor velocidad. Es necesario ver como desde cada organismo estamos usando esos datos, y verificar la calidad de los mismos.
Debemos analizar como poder brindar la información a alguien que puede involucrar la información de distintos organismos del Estado. Un ejemplo es la constancia de voto para hacer un trámite. Tenemos un montón de información que no estamos usando para mejorar la gestión del ciudadano donde se lo pasea por todos los organismos para un trámite. Queremos hacer una base de IA para clientes pero precisamos una base de conocimiento a partir de la cual nutrir.
Comentarios finales del subgrupo
Educación desde etapas tempranas para que haya claridad en cuanto que competencias se van a estar buscando (inserción compleja en la sociedad).
Hay pequeñas regulaciones que se pueden realizar para lograr asumiendo ciertos riesgos, cosas simples para tener grandes resultados y oportunidades.
Mecanismos tecnológicos para detectar falsos (hoy día no se puede tomar como evidencia una foto o video).
No ir por el foco de las limitaciones, relación riesgos y oportunidades con énfasis en las oportunidades.
Unión de empresas chicas con el Estado, hacer sinergia (foco en empresas chicas más agiles).
Promover pensamiento crítico, transparencia.
Integrar la visión de la sociedad en su conjunto.