sala.red Desde Bolivia, sala.red investiga, analiza y comenta cómo la tecnología da forma a la sociedad en el sur global.

Laboratorio Alfabetización de IA

¿Como aprende una IA?

Una IA no entiende nada: mira miles de ejemplos, encuentra lo que se repite, y lo que no está en los datos para ella no existe.

Por — Investigadora en tecnología.

Ves a una mujer de pollera cruzando la calle y en un segundo sabes un montón de cosas. De qué región puede ser. Si va a una fiesta o al mercado. Qué edad tiene, más o menos. Si el sombrero está puesto de una manera o de otra.

Nadie te enseñó eso en una clase. Lo aprendiste viendo. Miles de personas, miles de veces, durante toda tu vida.

Una inteligencia artificial también aprende de ejemplos. Ahí termina el parecido.

Cómo aprende una máquina

Para que reconozca una pollera hay que mostrarle fotos. No una. Miles. Polleras de distintos colores, en distintas ciudades, de día y de noche, de cerca y de lejos.

La máquina no mira las fotos como tú. Las convierte en números y busca , o sea cosas que se repiten en todas.

patrón: algo que aparece una y otra vez. En una pollera: los pliegues, la caída, la forma del sombrero encima. La máquina no sabe qué es una pollera. Sabe que esas formas aparecen juntas muchísimas veces.

Entrénala tú

Elige cuántas fotos le muestras y mira qué pasa.

Entrenador

Le estás enseñando a reconocer una mujer de pollera.

Elige una cantidad.

Nadie le explicó qué es una pollera. Nadie le contó de dónde viene, ni por qué se usa, ni lo que significa. Contó formas hasta que le salió una regla.

1. MILES DE EJEMPLOS distintos colores, lugares, luces 2. BUSCA LO QUE SE REPITE pliegues, caida, sombrero 3. UNA REGLA SI SE VE ASI, ES PROBABLE nunca certeza. probabilidad.

Todo el proceso. En ningún paso aparece la palabra entender.

Lo que ves tú, lo que ve ella

Misma mujer, misma foto. Toca para comparar.

La misma imagen, dos lecturas

Una mujer de pollera en la calle.

Elige quién mira.

Tú lees una historia. La máquina mide una forma.

¿Y si nunca vio suficiente Bolivia?

Acá está el punto de todo esto.

La inteligencia artificial se está construyendo sobre todo en otros países, con otros idiomas, otras culturas y otros datos. Los modelos que usas todos los días aprendieron de lo que había en internet. Y en internet hay millones de fotos de Nueva York y poquísimas de El Alto. Bibliotecas enteras en inglés y casi nada en quechua o aymara.

Prueba con distintos conjuntos de fotos y mira el resultado.

¿Con qué la entrenaron?

Mismo modelo, mismo tiempo. Cambia solo el material.

Elige un conjunto de fotos.

Eso se llama . No es un error de programación. Es el reflejo exacto de lo que había en las fotos.

sesgo: cuando un modelo funciona bien para unos casos y mal para otros, porque los ejemplos no estaban repartidos parejo. Si casi todas las fotos vinieron de un solo lugar del mundo, va a ser bueno ahí y flojo en todo el resto.

Qué pasa cuando no estamos

Nos describe malUna pollera puede terminar etiquetada como disfraz, y una danza como espectáculo. La máquina usa la categoría más parecida que conoce, y las que conoce vienen de otro lado.
InventaCuando no sabe, no dice no sé. Rellena el hueco con lo más parecido y lo afirma con toda seguridad. Le preguntas por una fiesta de tu pueblo y se saca fechas, nombres y detalles que suenan perfectos y no existen. Eso se llama .
alucinación: cuando el modelo produce algo falso con el mismo tono de seguridad que usa cuando acierta. Nada en la respuesta te avisa cuál es cuál. Por eso todo dato que te dé hay que verificarlo en otro lado.
Te da la razónSi insistes, muchas veces cambia su respuesta para complacerte, aunque la primera estuviera bien. Cede porque la entrenaron para caerte bien.
No traduce lo nuestroTraducir del inglés al español le sale bien porque vio millones de ejemplos. Con quechua y aymara tiene poquísimo material, y se nota.

Lo que no está en los datos, para la máquina no existe.

Y esto se puede cambiar

No hace falta ser ingeniero. Los datos son fotos, grabaciones, videos y textos, y eso lo produce cualquiera con un teléfono.

Grabar. Fotografiar. Anotar qué es cada cosa, quién baila, dónde y cuándo. Registrar gente hablando quechua y aymara, conversando normal, no solo recitando. Armar colecciones que hoy no existen en ninguna parte del mundo.

Y antes de empezar hay una pregunta que responder: de quién son esos datos.

Una comunidad que presta su música, su tejido o su lengua para entrenar un modelo está entregando algo que vale. Le toca decidir quién lo usa, para qué, y si eso genera plata, recibir su parte. Eso se escribe antes de grabar.

Bolivia no tiene por qué ser solo usuaria de tecnología hecha en otro lado. Puede poner datos, conocimiento, cultura, investigación y creatividad en lo que se está construyendo ahora.

La inteligencia artificial aprende de los datos que le damos. Si Bolivia no está en esos datos, la IA tampoco aprenderá quiénes somos. Crear nuestros propios datos también es una forma de preservar nuestra cultura.

Sigue en esta serie
  1. ¿Cómo aprende exactamente una IA?
  2. ¿Quién controla la inteligencia artificial?
  3. ¿Qué pasa si Bolivia no crea sus propios datos?

Jasmin Jiménez Gonzales.
Estudiante de psicología, 26 años, Cochabamba. Quechua.
Trabaja en el cruce entre psicología, tecnología, cultura e inteligencia artificial.
Producción y desarrollo interactivo: sala.red.