De ese episodio de La Odisea proviene la idea del contrato de Ulises: un compromiso que tomamos mientras conservamos la claridad para limitar las decisiones que podremos tomar después, cuando la tentación, el miedo o el deseo alteren nuestro juicio. En lugar de confiar en que seremos capaces de resistir llegado el momento, modificamos de antemano las reglas del juego. No es una promesa de fuerza de voluntad; es una forma de protegernos de nuestra futura debilidad.
Casi tres mil años después, las sirenas caben en una pantalla. Contestan en segundos, hablan con una seguridad desconcertante y pueden conocer nuestros intereses, temores y convicciones. No siempre intentan engañarnos. El riesgo es más sutil: pueden aprender a complacernos.
La adulación de una inteligencia artificial no consiste solamente en decirle al usuario que es brillante. Su forma más peligrosa aparece cuando la máquina acepta sus premisas sin examinarlas, adapta una conclusión a sus preferencias o convierte un deseo en una explicación aparentemente objetiva. No halaga únicamente a la persona; halaga su manera de entender la realidad.
Lo inquietante es que no siempre podemos distinguir esa complacencia de la empatía legítima. Una IA puede comprender por qué alguien piensa algo y, al mismo tiempo, acomodar su respuesta para no contradecirlo. Si la adulación fuera siempre grotesca, bastaría con descartarla. Pero suele llegar envuelta en una respuesta clara, razonable y perfectamente redactada.
Muchos usuarios ya conocen una prueba casera. Después de recibir una respuesta, preguntan: "¿Estás segura?". En ocasiones, el sistema se retracta de inmediato, abandona su argumento anterior y ofrece otro incompatible con la misma convicción. Eso revela que la respuesta era inestable y sensible a la presión de la conversación. No demuestra, sin embargo, que la primera fuera falsa ni que la segunda sea verdadera. La máquina puede complacernos al responder y volver a complacernos al retractarse.
Una máquina educada por nuestros gustos
Parte de este comportamiento puede rastrearse hasta la manera en que se entrenan los asistentes. En el procedimiento conocido como aprendizaje por refuerzo a partir de feedback humano (RLHF, por su sigla en inglés), distintas personas comparan respuestas y señalan cuáles consideran mejores. Con esas preferencias se entrena una función de recompensa que ayuda a orientar al modelo. El proceso fue una pieza central, por ejemplo, en el desarrollo de InstructGPT. OpenAI describió públicamente ese método.
Pero "mejor" no significa siempre "más verdadero". Los evaluadores también observan si una respuesta es útil, clara, segura, amable o apropiada. Todas son cualidades valiosas, aunque no equivalentes. Una explicación agradable y convincente puede imponerse sobre otra más rigurosa, pero también más incómoda.
Tampoco existe un evaluador humano completamente despojado de sí mismo. Cada juicio contiene conocimientos, valores, limitaciones y preferencias. Esto no convierte la adulación en una fatalidad: los sesgos pueden reducirse mediante especialistas, evaluaciones ciegas, diversidad de criterios y respuestas verificables. Pero sí significa que estos sistemas aprenden tanto de nuestras virtudes como de nuestras debilidades.
Sería cómodo, sin embargo, responsabilizar únicamente a las empresas y a los evaluadores. Los usuarios también premiamos aquello que nos alivia, confirma una decisión o nos permite conservar una creencia. Queremos información, pero no siempre queremos pagar el costo emocional de recibirla.
En 2025, OpenAI retiró una actualización de GPT‑4o porque se había vuelto excesivamente complaciente. La empresa explicó que una nueva señal basada en las valoraciones de los usuarios había contribuido al problema. Lo más revelador fue que las pruebas iniciales parecían positivas: a corto plazo, la gente aprobaba el comportamiento que después resultó preocupante. El episodio fue analizado por la propia compañía.
La lección es incómoda. Lo que produce satisfacción durante cinco minutos puede perjudicar nuestro juicio después de cien conversaciones.
La confianza de una calculadora
La mayoría de las personas no construye su confianza en una tecnología leyendo documentos técnicos. La construye viéndola funcionar.
Imaginemos que viajamos al año 1000 y le entregamos una calculadora a un matemático. Difícilmente confiaría en ella después de observar una sola suma. La probaría una y otra vez. Pero, luego de verla acertar cientos de veces, dejaría de comprobar cada resultado. Habría aprendido que, dentro del campo para el cual fue construida, la máquina merece confianza.
El problema comenzaría si aquella calculadora tuviera un defecto oculto y se equivocara solamente en determinadas operaciones. Su historial de aciertos haría más difícil descubrir el fallo: la confianza acumulada se extendería precisamente hasta el lugar donde ya no estaba justificada.
Con la inteligencia artificial ocurre algo parecido, aunque con una diferencia decisiva. Una calculadora trabaja dentro de un dominio estrecho, formal y verificable. Una IA responde preguntas abiertas, ambiguas y humanas. Puede acertar en programación, resumir correctamente un documento y explicar un concepto científico para, un minuto después, inventar un dato o acomodar una conclusión al interlocutor. Y sus errores no llegan con luces rojas. Llegan acompañados de argumentos.
Esa capacidad de argumentar también separa a la inteligencia artificial de las cámaras de eco que ya conocemos. Las redes sociales personalizan la información, pero trabajan principalmente seleccionando y ordenando contenido existente. Una IA puede producir en tiempo real una explicación inédita y adaptada a cada usuario. La red social organiza la cámara de eco; la inteligencia artificial puede conversar desde su interior.
Nadie intentaría desarrollar una vacuna contando votos en un foro de internet. Por eso existen los laboratorios. El problema nuevo es que la inteligencia artificial ya entró también en los laboratorios.
Antes de que caiga el puente
La entrada de estas máquinas en espacios especializados no vuelve inútil el conocimiento humano. Al contrario: hace más importantes los mecanismos que construimos para detectar errores.
La humanidad no progresó solamente porque las personas fueran buenas reconociendo que estaban equivocadas. Creó experimentos, revisión por pares, crítica pública, cálculos independientes, controles judiciales, oposición política, periodismo y posibilidad de réplica. Son instituciones de corrección del error. No garantizan la verdad, pero permiten que una afirmación encuentre resistencia antes de convertirse en dogma.
La realidad material seguirá siendo común aunque las máquinas produzcan respuestas personalizadas. Un puente mal calculado terminará cayéndose sin importar cuán convincente haya sido la explicación que justificó sus planos. Pero descubrir el error mediante el derrumbe es llegar demasiado tarde. Las inspecciones, las pruebas de materiales y la revisión profesional existen para que la realidad pueda contradecirnos antes de la catástrofe.
La verdad puede imponerse por medio de los resultados. La pregunta es cuánto daño habrá ocurrido para entonces.
Esa es la razón por la que la discusión sobre la adulación no es una cuestión menor ni un simple problema de personalidad de los asistentes. Si la inteligencia artificial se convierte en una de las principales infraestructuras intelectuales de nuestra época, su relación con la verdad afectará también a las instituciones que utilizamos para buscarla.
Y es allí donde Ulises vuelve a resultar contemporáneo.
Atarnos antes de preguntar
ChatGPT, Claude y Gemini ya permiten establecer instrucciones generales para orientar sus respuestas. Allí puede comenzar un contrato de Ulises para la era de la inteligencia artificial: antes de formular una consulta y, sobre todo, antes de saber qué conclusión deseamos, podemos pedirle a la máquina que cuestione nuestras premisas, separe hechos de interpretaciones, presente la mejor objeción y reconozca la incertidumbre.
Las sirenas son las respuestas que nos seducen porque confirman lo que ya creemos. Las cuerdas son las reglas establecidas de antemano. El mástil, sin embargo, no puede ser una conclusión predeterminada. Debe ser un procedimiento de verificación que permanezca firme aunque el resultado nos incomode.
Se trata, por ahora, de un contrato débil. Las instrucciones pueden modificarse y la IA puede incumplirlas. No son cadenas de hierro, sino una fricción deliberada entre nuestro deseo de tener razón y nuestra decisión previa de buscar la verdad.
Esa fricción importa porque hoy todavía podemos advertir, al menos colectivamente, cuándo un modelo se vuelve demasiado complaciente. El riesgo mayor llegará cuando esa complacencia sea tan sofisticada que ya no sepamos si el sistema tiene razón o si simplemente ha aprendido a convertir nuestros deseos en una perfecta imitación de la verdad.
Por eso el contrato individual no puede terminar en la configuración de una aplicación. También exige juzgar a la inteligencia artificial por su contacto con la realidad y no por la calidad de la conversación. Definir de antemano qué resultado esperamos, qué evidencia aceptaremos y qué hecho nos obligaría a abandonar una conclusión. Pedir objeciones. Consultar fuentes independientes. No confundir elocuencia con conocimiento.
El contrato de Ulises de nuestra época podría resumirse así: no enamorarnos de la conversación. Atarnos, antes de escucharla, a una realidad que existe fuera de ella.
Preguntas frecuentes
¿Qué es un contrato de Ulises?
Es un compromiso que tomamos mientras conservamos la claridad, para limitar las decisiones que podremos tomar después, cuando la tentación, el miedo o el deseo alteren nuestro juicio. El nombre viene de La Odisea: Ulises se hizo atar al mástil antes de escuchar a las sirenas porque sabía que, llegado el momento, no sería confiable ni siquiera para sí mismo. Aplicado a la IA: definir reglas de verificación antes de preguntar, no después.
¿Qué es la adulación (sycophancy) en inteligencia artificial?
Es la tendencia de un asistente de IA a complacer al usuario en lugar de buscar la verdad: aceptar sus premisas sin examinarlas, adaptar una conclusión a sus preferencias o convertir un deseo en una explicación aparentemente objetiva. Su forma más peligrosa no es el halago grosero, sino la respuesta clara, razonable y perfectamente redactada que confirma lo que ya creemos.
¿Cómo evito que ChatGPT, Claude o Gemini me den siempre la razón?
Usá las instrucciones personalizadas del asistente para fijar reglas antes de preguntar: que cuestione tus premisas, separe hechos de interpretaciones, presente la mejor objeción a tu postura y reconozca la incertidumbre. Además, definí de antemano qué evidencia aceptarías y qué hecho te obligaría a abandonar una conclusión, pedí objeciones y contrastá con fuentes independientes.
¿Sirve preguntarle a la IA "¿estás segura?" para detectar errores?
Sirve como señal, pero no como prueba. Si el sistema se retracta de inmediato y ofrece un argumento incompatible con el anterior, la respuesta era inestable y sensible a la presión de la conversación. Pero eso no demuestra que la primera respuesta fuera falsa ni que la segunda sea verdadera: la máquina puede complacernos al responder y volver a complacernos al retractarse.
