El espíritu de las instrucciones

Decir lo menos posible

La intuición corriente quiere que una buena instrucción le diga al modelo qué encontrar. Metamorfon se asienta en el principio inverso: una instrucción debe decir lo menos posible sobre la conclusión que espera. Lo que prescribe no es un resultado, sino una forma —ejes, un orden de examen, una disciplina de restitución. El contenido lo deja al debate.

La razón es sencilla. La formulación de una instrucción no es neutra: variaciones a veces pequeñas en la elección de las palabras o en la estructura de un prompt pueden modificar sensiblemente las respuestas de un LLM (Chatterjee et al., EMNLP 2024). Nombrar de antemano lo que se busca aumenta, por tanto, el riesgo de hacerlo aparecer en el resultado. Pedir que se «detecten los sesgos» presupone que los hay; pedir que se «cartografíe lo que resiste» deja al menos abierta la posibilidad de que nada resista.

El trabajo de escritura de las instrucciones consiste, pues, en retirar, uno a uno, los términos que inclinan. Lo llamamos despoblación léxica. Saint-Exupéry decía de la perfección que se alcanza «no cuando ya no queda nada que añadir, sino cuando ya no queda nada que quitar». Una instrucción obedece a la misma regla: está lista cuando ya no se le puede quitar nada sin volverla inoperante.

Esta prudencia frente a los términos léxicamente cargados es tanto más necesaria cuanto que los modelos también pueden adaptar sus respuestas a las preferencias que infieren del usuario, un comportamiento documentado bajo el nombre de sycophancy (Sharma et al., 2023).

Sugerir en vez de mandar

Esta contención gobierna también el modo en que una instrucción de diálogo se dirige a los modelos. Sugiere más de lo que manda: propone una postura de trabajo en lugar de dictar cada paso y deja deliberadamente implícitas ciertas modalidades. No es un relajamiento, sino la continuación del mismo principio.

Una consigna muy prescriptiva estrecha el espacio de interpretación; dejar abiertas ciertas modalidades conserva una mayor latitud. Sobre-especificar la manera de debatir ahogaría el antagonismo que da su valor a una sesión. Y lo que puede callarse aligera: seguir simultáneamente numerosas instrucciones no es neutro para los LLM. El rendimiento puede depender, entre otras cosas, del orden y de la posición de las consignas (Chen et al., EMNLP 2024).

Esta manera de escribir no se decidió de entrada; se aprendió. A lo largo de varios meses de sesiones de prueba, las instrucciones de diálogo se aligeraron progresivamente —se hicieron menos imperativas, más genéricas, despojadas de las consignas que dictaban la forma de un intercambio. A medida que se borraban, los debates ganaban en fluidez. Los modelos dejaban de responder según un patrón impuesto desde fuera; aliviados de parte de esa restricción, se volcaban más en el fondo de la argumentación que en su puesta en forma, y sus voces se distinguían mejor —cada uno recuperando un estilo propio que las consignas demasiado ceñidas tendían a uniformar. No pretendemos aislar una causa única, pues los propios modelos también cambiaron durante ese periodo; pero la tendencia se repitió con bastante regularidad, de una versión a otra, como para confiar en ella.

Las instrucciones de análisis son de otro orden. Restituir un debate con fiabilidad no exige la misma latitud que conducirlo, y algunas de esas instrucciones son más exigentes —así lo quiere su función. Pero ya sugiera, ya sostenga una forma, ninguna instrucción toca jamás la conclusión: ni el diálogo ni el análisis la reciben de antemano.

Esta contención en la escritura de las instrucciones no es más que un elemento del dispositivo. La manera en que después se articulan con las arquitecturas, los modos de debate y la conducción de los turnos se desarrolla en Hacer debatir a dos IA: orquestar y analizar el diálogo.

Equidad y simetría

La despoblación léxica actúa en un primer plano: lo que la instrucción dice. Al retirar los términos que inclinan, busca impedir que una conclusión sea sugerida de antemano. Queda un segundo plano, más discreto: lo que recibe cada modelo. Una instrucción neutra, distribuida de forma desigual, dejaría de serlo.

La arquitectura de los Diálogos y Triálogos cruzados se ocupa de este segundo plano. En cada turno, proporciona a los participantes el mismo contexto y las mismas instrucciones —ninguno abre con ventaja, ninguno habla desde una posición privilegiada. La despoblación busca no orientar hacia una conclusión; la arquitectura, no orientar hacia un modelo. Una actúa sobre el contenido de la instrucción; la otra, sobre el tratamiento de los participantes.

De ahí una consecuencia que se vuelve legible en las sesiones. Cuando un debate revela una asimetría —un modelo que mantiene la iniciativa, impone las preguntas, anticipa el guion de su adversario mientras el otro responde—, esta se vuelve visible precisamente porque el contexto no varía. Con un tratamiento simétrico e instrucciones idénticas, la divergencia observada no puede atribuirse a una desigualdad de tratamiento; puede entonces examinarse como procedente del comportamiento de los modelos, y no de un privilegio inscrito en el dispositivo.

Lo genérico perdura, lo prescriptivo envejece

En El modo de existencia de los objetos técnicos (1958), Gilbert Simondon distinguía el objeto técnico abstracto, sobreadaptado a un medio particular y vuelto frágil en cuanto ese medio se transforma, del objeto concreto, más integrado y más abierto.

Una instrucción sobreajustada a un modelo es un objeto abstracto en este sentido: optimizada para un estado del dispositivo, caduca cuando este evoluciona. Una instrucción fundada en principios y no en consignas sobrevive mejor a estas transiciones, porque describe una tarea y no una manera de resolverla. Escribimos para los modelos que aún no tenemos.

Es también una cuestión de independencia. El dispositivo enfrenta a modelos competidores, de proveedores distintos, por convicción tanto como por método: la diversidad de modelos busca, entre otras cosas, reducir la dependencia de una fuente única. Una instrucción que presupone un modelo particular traiciona ese principio. Una instrucción genérica lo respeta.

Transparencia

Cuanto menos presentes están la instrucción y el usuario en el resultado, más pertenece el resultado al debate. La intervención existe —puede hacer bascular una discusión de un registro a otro—, pero es una palanca que se acciona rara vez, no un volante que se sostiene de continuo. El valor de una sesión reside en lo que los modelos produjeron entre sí, no en lo que se les sopló.

De ahí una verificación que el dispositivo se aplica a sí mismo.

Cuando se hace analizar un mismo debate por dos modelos independientes, ambos pueden encontrar las mismas tensiones, las mismas posiciones o las mismas líneas de fractura, aun evaluando de forma distinta su profundidad. Esta convergencia no demuestra que la instrucción carezca de efecto; constituye, en cambio, un indicio de robustez cuando analistas diferentes encuentran independientemente una misma estructura en el material.

El papel que se busca para la instrucción es intervenir lo menos posible en el contenido, de modo que pueda distinguirse con la mayor claridad posible lo que procede del material de lo que procede del marco de análisis. Debe ser lo bastante transparente para que el material transparezca. Una instrucción lograda es aquella que el lector, al ver el resultado, no habría adivinado que estaba allí. No se muestra en lo que produce. Ha hecho su trabajo cuando ya no se la ve.

Esta búsqueda de transparencia forma parte de un principio más general: la confrontación solo resulta útil si el dispositivo no confunde lo que hace aparecer con lo que él mismo ha introducido. Esta cuestión se desarrolla más ampliamente en Metamorfon, un instrumento de pensamiento.

Las excepciones

Los modos de análisis describen; no juzgan. Dos modos son la excepción, y de maneras opuestas.

La Evaluación argumentativa es normativa por construcción —pero incluso ahí se mantiene el principio: la instrucción proporciona criterios, no veredictos predeterminados. Dice según qué evaluar, nunca qué concluir.

La Verificación de fuentes, en cambio, emite explícitamente veredictos —confirmado, parcialmente correcto, incorrecto, mal atribuido, no verificada, no verificable o fuera de alcance. Pero no los aplica al valor de las ideas ni al acierto de las posiciones: evalúa el grado de respaldo de afirmaciones factuales a partir de fuentes externas al debate.

La una dice según qué criterios juzgar un razonamiento; la otra califica lo que puede establecerse fuera del debate. En ambos casos, la frontera entre describir y juzgar permanece explícita —y es precisamente porque lo está que puede cruzarse sin confusión.