IA lista, IA responsable

Datos sesgados, IA sesgada

Antes dijimos que la IA aprende de datos.
Muestrale muchos ejemplos
y decide segun los patrones dentro de ellos.
Pero, y si los ejemplos mostrados
se inclinan a un lado?
La IA aprende tambien esa inclinacion.
Si ve mucho solo un tipo de ejemplo,
reconoce mal los otros tipos.
No el prejuicio humano sino el desequilibrio de los datos
fluye directo a las decisiones de la IA.

Mete los ejemplos hacia un lado. Cuando los datos se sesgan a un color, la linea de decision de la IA se inclina hacia alli y falla con el lado menor.

Al apilar los datos hacia un lado,
el juicio de la IA se inclino con ellos.
El lado que vio mucho lo acierta,
pero el que vio poco lo sigue fallando.
No es que la IA sea mala.
Su material de aprendizaje estaba sesgado.
A esto lo llamamos sesgo.
Asi que al construir una IA,
las personas deben revisar con cuidado
si los datos se reunieron de forma pareja.

Inventa cosas con seguridad

Antes aprendimos que un LLM elige la palabra siguiente
por probabilidad y la encadena.
Su meta es conectar palabras de forma plausible,
asi que no sabe aparte que es verdad.
Por eso, aun preguntandole lo que no sabe,
en vez de decir que no sabe
a veces hila una frase plausible.
El tono parece muy seguro
pero el contenido es falso.
A esto lo llamamos alucinacion.

Toca una pregunta que la IA sabe y otra que no. Incluso con lo que no sabe no se detiene, sino que inventa con seguridad una respuesta plausible, eso es la alucinacion.

A una pregunta que sabia, salio la respuesta correcta,
pero a una que no sabia no se detuvo
y produjo igual una respuesta plausible.
Ademas, un LLM solo conoce material
hasta cuando fue entrenado,
asi que flaquea con lo mas reciente despues de eso.
Por eso la respuesta de una IA
siempre hay que verificar si es cierta.
Sobre todo numeros, fuentes y hechos recientes
estan mas seguros cuando una persona lo revisa.

La misma tecnologia, para bien o para mal

La IA puede hacer imagenes, imitar voces
y escribir texto sin trabarse.
Esta capacidad es de veras util de muchas formas.
Puede restaurar nitida una vieja foto perdida,
leer texto en voz alta a quien no ve,
e interpretar un idioma extranjero al momento.
Pero con esa misma capacidad
se podrian hacer falsos que parecen reales
y usarlos para enganar a otros.
La herramienta es una, pero la intencion puede ser doble.

Elige una tecnologia y enciende su uso util y su uso danino, lado a lado. Veras que aun con la misma herramienta, como se usa decide lo bueno o lo malo.

La misma tecnologia podia ayudar de un lado
y danar del otro.
La tecnologia en si no tiene bien ni mal.
Lo que decide lo bueno o lo malo
es la eleccion de quien la usa.
Asi que cuanto mas potente la herramienta,
mas hacen falta acuerdos sobre como usarla.
Si se hace un falso, marcarlo como falso,
y trazar una linea para que no dane a otros,
esa clase de acuerdo.

Revisado por personas, transparente y justo

Entonces, como usamos la IA de forma responsable?
Ayuda recordar solo tres cosas.
Primera, las personas revisan.
No creas la respuesta de la IA tal cual;
para decisiones importantes una persona mira de nuevo.
Segunda, ser transparente.
Con que datos y como se construyo,
mostrarlo sin ocultar.
Tercera, vigilar la justicia.
Cuidar que ningun lado en particular salga perdiendo.

Toca las tres revisiones en orden para aprobarlas. Solo cuando revision humana, transparencia y justicia estan todas activas, la IA pasa a ser segura para confiar.

Con las tres activadas,
por fin paso a ser segura de usar.
Mirando atras, lo que aprendimos
se reune aqui en uno.
La IA aprende de datos,
apila neuronas y capas para captar patrones,
y un LLM encadena palabras por probabilidad.
Tan potente como es, sus limites tambien son claros.
Por eso el ultimo recuadro es siempre la parte humana.
Revisar, declarar, y ser justos.

Resumamos

Reunido en una linea, es esto.
La IA es potente pero no perfecta.
Datos sesgados sesgan decisiones (sesgo),
inventa con seguridad lo que no sabe (alucinacion),
y la misma tecnologia puede usarse mal (mal uso).
Por eso la responsabilidad de usarla con personas que revisan,
de forma transparente y justa, debe ir siempre con ella.
Cuanto mas lista la IA,
mas importa usar esa inteligencia con responsabilidad.

Toca el recorrido de la IA en orden para cerrarlo. (aprende de datos -> patrones de neuronas y capas -> el LLM habla por probabilidad -> limites son sesgo, alucinacion, mal uso -> usarla con responsabilidad)

Hemos llegado de veras lejos.
Partiendo de los datos,
a una neurona, una red neuronal apilada en capas,
un LLM que encadena palabras por probabilidad,
y hasta una IA que crea cosas nuevas.
Ahora, al final, ganamos una cosa mas.
No solo como usar la IA con astucia
sino como usarla con responsabilidad.
Desde el lugar de una persona con una herramienta potente,
busquemos mejores respuestas junto con la IA.