Imagina que decides crear tu propio despertador gestionado por un sistema de Inteligencia Artificial.
No porque necesites realmente otro despertador más en tu vida. Sino porque puedes hacerlo, quieres curiosear un poco más sobre programación con IA y ... bueno, todos sabemos que esa ya es una razón perfectamente válida para dedicar unas cuantas horas a complicar un sistema que ya funcionaba bien. 😄
La idea inicial es sencilla. El despertador consulta tu calendario, determina a qué hora tienes que levantarte y selecciona aleatoriamente canciones de tu colección de música.
Pero ya que estamos utilizando Inteligencia Artificial, podemos hacerlo un poco más interesante, ¿no? Por supuesto que SÍ.
Agregamos geolocalización para tener en cuenta el huso horario, hacemos que el volumen aumente progresivamente y añadimos algunos comandos de voz:
- Tiempo — nos proporciona la previsión meteorológica para nuestra ubicación actual.
- Agenda — nos cuenta las reuniones, actividades y tareas de la jornada.
- Noticias — prepara un resumen personalizado utilizando exclusivamente las fuentes y sectores que realmente nos interesan. Nada de la última metedura de pata del gobierno de turno, las vacaciones del futbolista de moda o los amoríos de influencers, cantantes y raperos (Vamos, las tradicionales noticias de folclóricas y toreros, pero en versión 2.0).
- Stop — detiene el despertador.
Semanas de pequeños retoques, nuevas funcionalidades y pruebas. Pruebas reales y también pruebas de prueba.
Todo funciona perfectamente.
Y un día suenan los Pixies
Y justo esa mañana que tienes una reunión súper importante a primera hora, el despertador escoge aleatoriamente empezar con la canción “Where is my mind?”, de Pixies.
Aunque no conozcas NADA de Pixies —por cierto, deberías hacértelo mirar— probablemente la reconocerás por la película El club de la lucha. Es una de mis canciones preferidas, aunque demasiado conocida para entrar en mi Top 5 de Pixies.
Bien, pues esa canción comienza con una palabra:
STOP!
Y el despertador obedece.
La música se detiene, nosotros seguimos durmiendo y llegamos tarde —o directamente no llegamos— a nuestra reunión súper importante.
Pero hay un pequeño detalle. El despertador no ha fallado. Le dijimos que escuchara instrucciones. Le dijimos que cuando escuchara Stop detuviera la música.
Ha escuchado Stop. Ha detenido la música. Desde su punto de vista: IM-PECABLE.
El problema es que nosotros queríamos decir algo ligeramente diferente:
Cuando YO diga Stop con la intención de detener el despertador, detén la música.
Para nosotros la diferencia resulta evidente. Para una máquina, no necesariamente.
Instrucción e intención no son lo mismo.
Los humanos interpretamos continuamente contexto, ironías, bromas, errores y dobles sentidos sin apenas darnos cuenta.
Los sistemas de IA pueden realizar interpretaciones excesivamente literales cuando no disponen del contexto suficiente. La imagen que puedes ver aquí encima es ya algo antigua y los modelos han mejorado muchísimo desde entonces, pero sigue siendo un ejemplo bastante divertido de lo que ocurre cuando una broma se interpreta literalmente.
En mis tiempos mozos esto se arreglaba con un simple if
Durante décadas hemos automatizado procesos mediante reglas relativamente deterministas:
IF condición THEN acción.
Si ocurre A, haz B.
Con la IA introducimos algo extraordinariamente potente en nuestras automatizaciones: la capacidad de interpretar.
Ya no tenemos que programar explícitamente todas las situaciones posibles. Podemos proporcionar información, contexto e instrucciones y permitir que un modelo decida qué debe hacer.
Pero eso también cambia el problema.
Ahora necesitamos diseñar todo lo que rodea al modelo: qué información recibe, qué contexto conoce, qué herramientas puede utilizar, qué permisos tiene, cuándo puede actuar y cuándo debe preguntar.
Todo ese sistema que construimos alrededor del modelo es lo que suele denominarse AI harness, y diseñarlo empieza a conocerse como harness engineering.
El modelo puede ser inteligente. Pero el proceso también tiene que estar bien diseñado.
Y necesitamos además poder reconstruir posteriormente qué ocurrió.
En nuestro despertador, un registro podría mostrarnos:
- 08:00:01 — Reproduciendo Where Is My Mind?.
- 08:00:03 — Audio detectado: Stop.
- 08:00:03 — Clasificado como instrucción.
- 08:00:04 — Alarma detenida.
Ya sabemos dónde estuvo el problema.
No basta con saber que algo ha fallado. Necesitamos poder responder:
¿Dónde? ¿Cuándo? ¿Por qué?
Cuando interpretar significa actuar
En nuestro ejemplo, la consecuencia es llegar tarde a una reunión importante.
Pero imaginemos un agente capaz de enviar correos, modificar nuestro CRM o ERP, actualizar documentos o ejecutar aplicaciones.
La secuencia ahora es:
Percibir → interpretar → decidir → actuar.
Cuanto mayores sean las consecuencias de una acción, más importante resulta decidir qué puede ejecutar autónomamente y qué necesita nuestra aprobación.
Ahí aparece Human in the Loop.
No significa que una persona tenga que aprobar absolutamente todo. Significa colocar la intervención humana donde realmente aporta valor por riesgo, ambigüedad o dificultad para deshacer una acción.
Automatizar no consiste únicamente en diseñar cómo debe funcionar un proceso.
También consiste en imaginar cómo puede fallar.
Where Is My Mind?
Y aquí los humanos seguimos teniendo una ventaja interesante.
Yo bromeo mucho con mis hijos. Demasiado. Puedo aparentar estar enfadado y ellos saben perfectamente que estoy de broma. Pero también saben muy bien cuándo estoy realmente enfadado.
Interpretan mis palabras, pero también mi tono, mis gestos, la situación y nuestra experiencia compartida. Si estamos esperando o caminando por la calle les puedo decir “Nos os acerquéis a mí, que la gente va a pensar que sois hijos míos” y lo normal es que se rían y se acerquen mucho más o me cojan de la mano.
Y si les digo: «Mete la ropa sucia en la nevera» ninguno abre obedientemente la nevera para meter dentro sus calcetines. (Si, a veces les digo cosas así y además a propósito)
Pero ellos saben que algo no encaja.
Entienden que probablemente quería decir la lavadora, o que dije nevera para hacer una broma. O simplemente me preguntan.
Y eso me parece especialmente interesante:
A veces ser inteligente consiste precisamente en no hacer literalmente lo que nos han dicho que hagamos.
Consiste en interpretar la intención, utilizar el contexto, detectar que algo no encaja y, cuando no estamos seguros, preguntar.
Una IA demasiado obediente
Quizá uno de los grandes retos al automatizar procesos con Inteligencia Artificial no sea conseguir que la IA haga lo que le pedimos.
Será conseguir que entienda qué queríamos decir, cuándo se lo estamos pidiendo realmente y cuándo debería preguntarnos antes de hacerlo.
Porque el problema de una IA no será que desobedezca nuestras instrucciones.
A veces el problema será que las obedezca demasiado bien.
Así que, si algún día decides utilizar una IA para programar tu despertador, haz una última prueba antes de ponerlo en producción.
Reproduce Where Is My Mind?.
Y comprueba qué ocurre después de...
STOP!