Qué es la ética de la IA

Datos sesgados, IA sesgada

La IA aprende de datos. Si le muestras muchos ejemplos, juzga siguiendo los patrones que hay en ellos. Pero si los ejemplos se inclinan hacia un lado, la IA también aprende esa inclinación. Una IA que ha visto muchísimos ejemplos de un tipo reconoce mal los de otros tipos.
El sesgo no viene solo de cantidades desiguales. Si las decisiones que tomaron personas en el pasado tenían prejuicios, una IA que aprende de esos registros los repite. Por ejemplo, una IA entrenada con antiguos registros de contratación puede acabar descartando más a un grupo de candidatos.

Pulsa el botón de círculo o de triángulo para añadir ejemplos solo a un lado. Cuando los datos se inclinan hacia un lado, la frontera se desplaza y el lado con menos ejemplos sale mal una y otra vez.

Añadir ejemplos a un solo lado desplazó la frontera. El lado que la IA vio mucho lo acierta; el que vio poco lo falla una y otra vez. No es que la IA sea mala: es que aquello de lo que aprendió estaba sesgado. Esto se llama sesgo.
Por eso, al construir una IA, hay que comprobar que los datos se reunieron de forma equilibrada y que no esconden prejuicios antiguos. Una vez construida, se mide su precisión por separado para distintos grupos, para ver si los trata por igual.

Inventar con total seguridad

Aprendimos que un LLM continúa un texto eligiendo la siguiente palabra por probabilidad. Su objetivo es continuar de forma plausible, así que no comprueba aparte si lo que dice es verdad. Si le preguntas algo que no sabe, en lugar de decir que no lo sabe, puede producir una frase que suena convincente.
El tono es seguro, pero el contenido es falso. Esto se llama alucinación.

Toca las preguntas que la IA puede responder y las que no. Incluso ante lo que nadie puede saber, como los números de la lotería de mañana, no se detiene e inventa una respuesta plausible. Eso es una alucinación.

Ante las preguntas que conocía salió la respuesta correcta, pero ante las que nadie podía responder inventó una respuesta con el mismo tono seguro. Además, un LLM solo conoce el material hasta el momento en que se entrenó, así que flojea en lo que pasó después.
Por eso las respuestas de una IA siempre hay que comprobarlas. Los números, las fuentes y los hechos recientes, sobre todo, es más seguro volver a buscarlos en fuentes fiables. Hoy algunos sistemas muestran resultados de búsqueda junto a sus respuestas para facilitar esa comprobación.

La misma tecnología, para bien o para mal

La IA puede crear imágenes, imitar voces y escribir con soltura. Estas capacidades son muy útiles: pueden restaurar una foto antigua borrosa, devolver su propia voz a personas que la perdieron por una enfermedad y explicar textos difíciles con palabras sencillas.
Pero esas mismas capacidades pueden crear caras o voces falsas que parecen reales y usarse para engañar. A estas falsificaciones se les llama deepfakes. Una misma herramienta puede tener usos opuestos.

Elige una tecnología y mira su uso útil y su uso dañino uno al lado del otro. Se ve que la forma de usar una herramienta decide si hace bien o mal.

La misma tecnología ayudaba por un lado y hacía daño por el otro. La tecnología en sí no es buena ni mala; lo que decide es la elección de quien la usa. Por eso, cuanto más poderosa es una herramienta, más necesitamos acuerdos sobre cómo usarla.
Indicar que un contenido se hizo con IA, no usar la cara o la voz de alguien sin permiso y no apropiarse de obras ajenas ni de datos personales son acuerdos de ese tipo. Varios países ya han empezado a recoger estas reglas en sus leyes.

Revisión humana, transparencia y justicia

Entonces, ¿qué implica usar la IA con responsabilidad? Conviene recordar tres cosas. Primero, que revisen las personas: no hay que dar por buena sin más la respuesta de una IA, y las decisiones importantes las revisa una persona.
Segundo, ser transparentes: no ocultar con qué datos ni cómo se construyó el sistema, ni dónde se usó IA. Tercero, vigilar la justicia: asegurarse de que ningún grupo de personas sea el que sale perdiendo.

Toca las tres revisiones en orden para aprobarlas. Solo cuando la revisión humana, la transparencia y la justicia están activas, la IA queda en un estado en el que se puede usar con confianza.

Con las tres activas, por fin se pudo usar con confianza. Si miramos atrás, todo lo aprendido se reúne aquí. La IA aprende de datos, apila neuronas y capas para captar patrones, y un LLM continúa el texto por probabilidad.
Sus límites son tan claros como su poder. Por eso la última casilla siempre es de las personas: comprobar, explicar y usarla con justicia.

Resumen

En resumen, la IA es poderosa pero no perfecta. Los datos sesgados sesgan sus juicios (sesgo), puede inventar con seguridad lo que no sabe (alucinación) y la misma tecnología puede usarse para hacer daño (mal uso).
Por eso la responsabilidad de revisar, ser transparentes y actuar con justicia debe acompañarla siempre. Cuanto más lista se vuelve la IA, más importa usar esa capacidad con responsabilidad.

Toca el recorrido de la IA en orden para cerrarlo. (aprende de datos → patrones con neuronas y capas → un LLM habla por probabilidad → los límites son sesgo, alucinación y mal uso → usarla con responsabilidad)

Hemos recorrido un largo camino. Partiendo de los datos, vimos una sola neurona, redes apiladas en capas, CNN que miran imágenes, embeddings que dan coordenadas a las palabras, atención que lee el contexto, LLM que continúan textos por probabilidad e IA generativa que crea algo nuevo.
Al final ganamos una cosa más: no solo cómo usar la IA con inteligencia, sino cómo usarla con responsabilidad. Sopesar lo que dice una IA y decidir dónde y cómo usarla es un juicio que sigue siendo de las personas hasta el final.