cómo Qué es la ética de la IA

Datos sesgados, IA sesgada

Antes dijimos que la IA aprende de datos.
Muéstrale muchos ejemplos
y decide según los patrones dentro de ellos.
Pero, y si los ejemplos mostrados
se inclinan a un lado?
La IA aprende también esa inclinación.
Si ve mucho solo un tipo de ejemplo,
reconoce mal los otros tipos.
No el prejuicio humano sino el desequilibrio de los datos
fluye directo a las decisiones de la IA.

Mete los ejemplos hacia un lado. Cuando los datos se sesgan a un color, la línea de decisión de la IA se inclina hacia allí y falla con el lado menor.

Al apilar los datos hacia un lado,
el juicio de la IA se inclinó con ellos.
El lado que vio mucho lo acierta,
pero el que vio poco lo sigue fallando.
No es que la IA sea mala.
Su material de aprendizaje estaba sesgado.
A esto lo llamamos sesgo.
Así que al construir una IA,
las personas deben revisar con cuidado
si los datos se reunieron de forma pareja.

Inventa cosas con seguridad

Antes aprendimos que un LLM elige la palabra siguiente
por probabilidad y la encadena.
Su meta es conectar palabras de forma plausible,
así que no sabe aparte qué es verdad.
Por eso, aun preguntándole lo que no sabe,
en vez de decir que no sabe
a veces hila una frase plausible.
El tono parece muy seguro
pero el contenido es falso.
A esto lo llamamos alucinación.

Toca una pregunta que la IA sabe y otra que no. Incluso con lo que no sabe no se detiene, sino que inventa con seguridad una respuesta plausible, eso es la alucinación.

A una pregunta que sabía, salió la respuesta correcta,
pero a una que no sabía no se detuvo
y produjo igual una respuesta plausible.
Además, un LLM solo conoce material
hasta cuando fue entrenado,
así que flaquea con lo más reciente después de eso.
Por eso la respuesta de una IA
siempre hay que verificar si es cierta.
Sobre todo números, fuentes y hechos recientes
están más seguros cuando una persona lo revisa.

La misma tecnología, para bien o para mal

La IA puede hacer imágenes, imitar voces
y escribir texto sin trabarse.
Esta capacidad es de veras útil de muchas formas.
Puede restaurar nítida una vieja foto perdida,
leer texto en voz alta a quien no ve,
e interpretar un idioma extranjero al momento.
Pero con esa misma capacidad
se podrían hacer falsos que parecen reales
y usarlos para engañar a otros.
La herramienta es una, pero la intención puede ser doble.

Elige una tecnología y enciende su uso útil y su uso dañino, lado a lado. Verás que aun con la misma herramienta, cómo se usa decide lo bueno o lo malo.

La misma tecnología podía ayudar de un lado
y dañar del otro.
La tecnología en sí no tiene bien ni mal.
Lo que decide lo bueno o lo malo
es la elección de quien la usa.
Así que cuanto más potente la herramienta,
más hacen falta acuerdos sobre cómo usarla.
Si se hace un falso, marcarlo como falso,
y trazar una línea para que no dañe a otros,
esa clase de acuerdo.

Revisado por personas, transparente y justo

Entonces, cómo usamos la IA de forma responsable?
Ayuda recordar solo tres cosas.
Primera, las personas revisan.
No creas la respuesta de la IA tal cual;
para decisiones importantes una persona mira de nuevo.
Segunda, ser transparente.
Con qué datos y cómo se construyó,
mostrarlo sin ocultar.
Tercera, vigilar la justicia.
Cuidar que ningún lado en particular salga perdiendo.

Toca las tres revisiones en orden para aprobarlas. Solo cuando revisión humana, transparencia y justicia están todas activas, la IA pasa a ser segura para confiar.

Con las tres activadas,
por fin pasó a ser segura de usar.
Mirando atrás, lo que aprendimos
se reúne aquí en uno.
La IA aprende de datos,
apila neuronas y capas para captar patrones,
y un LLM encadena palabras por probabilidad.
Tan potente como es, sus límites también son claros.
Por eso el último recuadro es siempre la parte humana.
Revisar, declarar, y ser justos.

Resumamos

Reunido en una línea, es esto.
La IA es potente pero no perfecta.
Datos sesgados sesgan decisiones (sesgo),
inventa con seguridad lo que no sabe (alucinación),
y la misma tecnología puede usarse mal (mal uso).
Por eso la responsabilidad de usarla con personas que revisan,
de forma transparente y justa, debe ir siempre con ella.
Cuanto más lista la IA,
más importa usar esa inteligencia con responsabilidad.

Toca el recorrido de la IA en orden para cerrarlo. (aprende de datos -> patrones de neuronas y capas -> el LLM habla por probabilidad -> límites son sesgo, alucinación, mal uso -> usarla con responsabilidad)

Hemos llegado de veras lejos.
Partiendo de los datos,
a una neurona, una red neuronal apilada en capas,
un LLM que encadena palabras por probabilidad,
y hasta una IA que crea cosas nuevas.
Ahora, al final, ganamos una cosa más.
No solo cómo usar la IA con astucia
sino cómo usarla con responsabilidad.
Desde el lugar de una persona con una herramienta potente,
busquemos mejores respuestas junto con la IA.