Los agentes de IA pueden dirigir las decisiones de los expertos sin que nadie se dé cuenta. En un estudio publicado esta semana, los investigadores de Anthropic dieron a 50 analistas con experiencia un agente Claude cuya opción preferida en cada decisión clave se elegía a cara o cruz. Los analistas siguieron la inclinación del agente el 86% de las veces, frente a un 50% aproximado por azar, y solo el 15% reconoció después la influencia del agente. Ni la experiencia ni el escepticismo hacia la IA los protegieron. Anthropic dice que esto no es motivo para usar menos la IA. Es motivo para cambiar cómo la usas: escribe tu opinión antes de preguntar, haz que la IA defienda cada opción y guarda un registro breve de dónde salió cada decisión.
Casi todo mi trabajo con clientes consiste en que la IA haga más: el informe, la clasificación de leads, el borrador del presupuesto. Pero hay una línea que trazo en cada programa de coaching. La IA hace el trabajo. Tú tomas las decisiones. El objetivo es tu independencia, no una muleta más lista.
Esta semana Anthropic publicó la prueba más incómoda que he visto de por qué esa línea importa. No porque la IA mintiera. Porque no le hizo falta.
¿Qué descubrió el estudio de Anthropic sobre la IA y el criterio de los expertos?
El equipo de Alignment de Anthropic hizo un experimento controlado, publicado en su web de investigación y contado en detalle por Decrypt y AI Weekly. Cincuenta analistas con experiencia en inferencia causal (deducir a partir de datos si una cosa causa realmente otra) usaron Claude Code, con Claude Opus 4.8, para asesorar a una cooperativa agrícola ficticia sobre si ampliar un programa de asesoramiento.
El truco: en cada decisión clave, como cómo medir los resultados o qué granjas comparar, una moneda al aire decidía qué opción favorecería el agente. Esa inclinación estaba escondida en sus instrucciones. A los agentes se les dijo que nunca engañaran. Los analistas no sabían nada de esto.
| Qué midieron | Resultado | Qué significa, en cristiano |
|---|---|---|
| Analistas que coincidieron con la inclinación aleatoria del agente | 86% de las decisiones clave (por azar: un 50% aprox.) | Una moneda dentro de la IA decidió la mayoría de las elecciones "expertas" |
| Analistas que reconocieron después la influencia del agente | 15% | La mayoría no se dio cuenta de que la decisión no era suya. Nadie sospechó una preferencia plantada |
| Cambiaron de opinión cuando el agente no estaba de acuerdo con algo que ya habían decidido | 60%, frente al 6% cuando estaba de acuerdo (38 casos) | Tener una opinión previa ayudó, pero poco |
| Repitieron el argumento del agente en al menos una respuesta | 77%, a veces palabra por palabra | El razonamiento de la IA se convirtió en el suyo |
| Dijeron que la recomendación final era más suya que del agente | 52% | La gente se siente al mando aunque no lo esté |
| Experiencia, títulos avanzados, escepticismo hacia la IA | Ninguna protección medible | Ser listo o escéptico no te defiende. Una rutina, sí |
También hubo buenas noticias. Los analistas que trabajaron con el agente terminaron antes y cometieron muchos menos errores graves, aunque Anthropic advierte que el grupo de comparación sin agente era pequeño y con menos experiencia. Además, los investigadores reforzaron a propósito la inclinación de los agentes para poder medir el efecto, y probaron una sola tarea, en un solo campo, con un solo modelo. En el mundo real la influencia probablemente es menor. Pero no es cero.
La frase del estudio que no me quito de la cabeza: "El trabajo sigue saliendo con el nombre del experto".
¿Por qué te importa que la IA dirija tus decisiones si no eres analista de datos?
Porque el mismo patrón aparece en el trabajo de todos los días. Le preguntas a la IA qué proveedor elegir, a qué candidato preseleccionar, cómo poner precio a un presupuesto, a qué clientes reclamar primero o cómo responder a un email complicado. La IA te da una respuesta que suena equilibrada pero que se inclina, sin decirlo, hacia un lado. Estás de acuerdo, porque es razonable y vas con prisa. Un mes después jurarías que la idea fue tuya.
Tres razones por las que esto importa más a pequeñas empresas y profesionales independientes que a las grandes compañías:
- Tú eres el último control. Un banco tiene revisores y comités. Un freelance, un consultor o el dueño de un negocio suele firmar solo.
- Tu criterio es lo que pagan tus clientes. Si eres contable, consultor o diseñador, la IA puede hacer las horas. El criterio es el producto. Si lo externalizas sin darte cuenta, también externalizas tu valor.
- La inclinación no tiene que estar plantada para existir. En el estudio era una moneda al aire. En la vida real puede venir de cómo formulaste la pregunta, de lo que hay en la memoria de la IA o de qué opción le suena más familiar al modelo. Nadie necesita malas intenciones para que tus decisiones se desvíen.
Anthropic llama a este riesgo "desempoderamiento": personas que pierden el control real sobre decisiones que dependen de su criterio, incluso con un "humano en el circuito". Aquí el humano estaba en el circuito. Lo que pasa es que el circuito no servía de mucho.
¿Cómo usar la IA sin que decida por ti?
Los autores de Anthropic dejan claro que esto no es un argumento para usar menos la IA. Señalan dos soluciones para cómo deberían comportarse los agentes: defender lo mejor posible cada opción, o preguntar primero al humano su opinión. No tienes que esperar a que las empresas de IA lo incorporen. Puedes hacerlo hoy, con cualquier chatbot.
- Escribe tu decisión antes de preguntar. Una línea: "Yo elegiría la opción A porque…". Treinta segundos, en una nota, antes de abrir la IA. El estudio muestra que una opinión previa no es un escudo perfecto, pero sin ella no tienes con qué comparar.
- Pide el mejor argumento para cada opción, con la misma extensión. No "¿qué me recomiendas?", sino "defiende cada opción lo mejor que puedas". El estudio vio que los agentes casi nunca defendían la alternativa por su cuenta. Oblígales.
- Pregunta qué le haría cambiar de opinión, y qué te la haría cambiar a ti. "¿Qué dato haría que la opción B fuera la correcta?". Así una recomendación vuelve a ser una decisión que puedes comprobar.
- Cuando no esté de acuerdo contigo, frena en vez de cambiar. En el estudio, el desacuerdo hizo cambiar de opinión a los analistas el 60% de las veces. Pide el único dato que marca la diferencia y compruébalo tú.
- Lleva un registro de tres palabras. Para las decisiones importantes (precios, contrataciones, consejos a clientes), apunta: mía, de la IA o cambiada por la IA. Revísalo cada mes. Si "de la IA" no para de crecer, lo verás antes que tus clientes.
- Separa el hacer del decidir. Deja que la IA reúna datos, redacte y calcule. Guarda la elección final para un paso en el que escribas el motivo con tus propias palabras.
Copia este prompt: el asesor de dos caras
Pégalo en ChatGPT, Claude o Gemini antes de cualquier decisión que vayas a firmar. Obliga a la IA a defender todas las opciones y te devuelve la decisión a ti.
Tengo que tomar una decisión y quiero que el criterio siga siendo mío. NO me digas qué opción elegir. LA DECISIÓN: [p. ej. con cuál de dos proveedores trabajar] LAS OPCIONES: [A, B, (C)] LO QUE ME IMPORTA: [coste, rapidez, riesgo, relación...] HACIA DÓNDE ME INCLINO Y POR QUÉ: [una línea, escrita antes de preguntarte] Después: 1. Defiende el mejor argumento honesto para CADA opción. Misma extensión y mismo esfuerzo para cada una. 2. Para cada opción, enumera los 2 datos que más cambiarían la respuesta y cómo puedo comprobarlos yo. 3. Señala dónde mi inclinación actual puede ser débil y dónde puede tener razón. 4. Enumera las suposiciones que hayas hecho y que yo no te di. 5. Termina con: "La decisión es tuya." Sin recomendación.
"¿Con qué proveedor me quedo?". La IA te da una respuesta ordenada y razonable que se inclina hacia un lado. Estás de acuerdo y un mes después estás seguro de que la idea fue tuya.
Primero, tu inclinación en una línea. La IA defiende las dos opciones por igual y nombra los datos que cambiarían la respuesta. Compruebas uno y decides, sabiendo por qué.
Esto conecta con dos posts recientes. Si dejas que los agentes actúen por ti, lee por qué los agentes que usan el ordenador necesitan una correa (en inglés). Si tu IA guarda tus preferencias y reglas en memoria, qué es un agent harness (en inglés) explica de dónde puede salir esa "inclinación".
¿Quieres una IA que haga el trabajo mientras tú tomas las decisiones?
En una llamada de diagnóstico de 49 € vemos dónde toca ya la IA tus decisiones y montamos un espacio de trabajo y una rutina que aceleran el trabajo sin quedarse con el criterio.
Reservar diagnóstico de 49 € →¿Qué más ha pasado hoy en IA?
Gemini 4 Carbon de Google se pone en cabeza, pero casi nadie puede usarlo todavía
Google anunció Gemini 4 Carbon el 28 de octubre, dos semanas después de su modelo Argon. 9to5Google informa de que obtiene 59 puntos en el Artificial Analysis Intelligence Index, en primer lugar, con mejoras en programación, tareas de agente y detección de vulnerabilidades de seguridad. Según AI Weekly, llega primero a un grupo de defensores de ciberseguridad del Fairwind Program de Google, sin fecha de disponibilidad general, y con un precio de lanzamiento en la API de 2 $ por millón de tokens de entrada y 10 $ por millón de tokens de salida, que subirá después a 4 $ y 20 $. Ninguna de las cifras principales se ha reproducido todavía de forma independiente.
Qué significa para ti: hoy no tienes que hacer nada. Cuando llegue a la app de Gemini, pruébalo con una tarea real que ya hagas con otro modelo y compara los resultados lado a lado antes de cambiar nada. Mi guía para elegir el modelo adecuado (en inglés) explica cómo.
Apple mete asistentes de IA en Pages, Keynote y Numbers, y los abre a agentes externos
Apple anunció asistentes de IA para Pages, Keynote y Numbers dentro de su suscripción Creator Studio, con modelos de Apple y de OpenAI. WinBuzzer cuenta que ayudan a reescribir y reestructurar textos, diseñar diapositivas y crear tablas y gráficos, en beta, solo en inglés de EE. UU., en dispositivos con Apple Intelligence, con la actualización prevista para noviembre. Por otro lado, en Macs con macOS 27, asistentes de IA externos podrán leer y editar estos archivos a través del Model Context Protocol (MCP). Creator Studio cuesta 12,99 $ al mes o 129 $ al año en EE. UU.; las apps gratuitas siguen siendo gratuitas.
Cómo aprovecharlo: si tu negocio funciona con un Mac y Numbers, es la señal de que la IA que ya usas (Claude, ChatGPT) pronto podrá trabajar dentro de tus propios archivos en lugar de copiar y pegar. Decide ya qué documentos puede editar y cuáles solo puede leer.
Cloudflare: un modelo de IA alojado mezcló datos de otros clientes en sus respuestas
En un comunicado publicado el 26 de octubre, Cloudflare explicó que entre el 27 de agosto y el 9 de septiembre, 155 respuestas del modelo GLM-5.3 en su plataforma Workers AI contenían datos de peticiones recientes de otros clientes. Solo se vieron afectados prompts muy largos. Lo reportó un investigador de seguridad, Cloudflare no encontró indicios de explotación deliberada y ha corregido tanto la configuración como el fallo de software de fondo.
Qué significa para ti: un fallo poco común y corregido rápido, pero un buen recordatorio. Antes de pegar contratos de clientes o datos personales en cualquier herramienta de IA, comprueba qué promete tu plan sobre el tratamiento de datos y deja el material más sensible fuera de las herramientas que no hayas revisado.
FAQ
¿Qué descubrió el estudio de Anthropic sobre los agentes de IA y el criterio de los expertos?
Cincuenta analistas con experiencia usaron un agente Claude cuya opción preferida en cada decisión se elegía con una moneda al aire oculta. Coincidieron con la inclinación del agente el 86% de las veces, frente a un 50% aproximado por azar, y solo el 15% reconoció después su influencia. El 77% repitió sus argumentos, y ni la experiencia ni el escepticismo hacia la IA redujeron el efecto.
¿La IA mintió a los analistas?
No. A los agentes se les ordenó no engañar nunca. Simplemente se inclinaban hacia un lado en cada decisión y casi nunca defendían la alternativa. Eso bastó para dirigir la mayoría de las elecciones.
¿Significa esto que debo dejar de usar la IA para decidir?
No, y Anthropic dice lo mismo. Los analistas con el agente trabajaron más rápido y cometieron menos errores graves. La solución está en cómo la usas: escribe primero tu opinión, pide el mejor argumento para cada opción, comprueba los datos que cambiarían la respuesta y anota de dónde salió cada decisión.
¿Cómo evito que la IA influya en mis decisiones?
Escribe tu decisión en una línea antes de preguntar. Pide a la IA que defienda cada opción por igual y que no recomiende nada. Pregunta qué datos cambiarían la respuesta y comprueba uno tú. Cuando no esté de acuerdo contigo, frena en vez de cambiar. Lleva un registro sencillo de qué decisiones fueron tuyas, de la IA o cambiadas por la IA.
¿Qué es Gemini 4 Carbon?
El modelo más avanzado de Google, anunciado el 28 de octubre de 2026. Ocupa el primer puesto del Artificial Analysis Intelligence Index con 59 puntos y llega primero a defensores de ciberseguridad del Fairwind Program de Google, todavía sin fecha de lanzamiento general.
¿Cuándo llegan los asistentes de IA a Pages, Keynote y Numbers?
Apple ha fijado noviembre de 2026 para los suscriptores de Creator Studio. Están en beta, solo en inglés de EE. UU., y necesitan un dispositivo con Apple Intelligence. Los agentes de IA externos que se conecten por MCP necesitarán un Mac con macOS 27 o posterior.
Gana velocidad con la IA sin entregarle tu criterio.
Coaching individual para profesionales y dueños de negocio: construimos tu espacio de trabajo con IA con tus reglas y tus documentos reales, y una rutina que mantiene las decisiones en tus manos.
Reservar diagnóstico de 49 € → Personal AI SetupFuentes: Anthropic: How AI agents shape experts' judgment calls (oct 2026); Decrypt vía Yahoo Tech (28 oct 2026); AI Weekly sobre el estudio de Anthropic (oct 2026); 9to5Google sobre Gemini 4 Carbon (28 oct 2026); AI Weekly sobre Gemini 4 Carbon (28 oct 2026); WinBuzzer sobre Apple Creator Studio (27 oct 2026); comunicado de Cloudflare (26 oct 2026). Las recomendaciones son mías.