En los últimos diez meses, cuatro de las mayores empresas de inteligencia artificial han lanzado asistentes que no esperan a que les escribas: trabajan solos y, al amanecer, te resumen lo que importa. Anthropic presentó Claude Duet el 21 de octubre, dirigido especialmente a dueños de pequeñas empresas. Pero, aunque suena a ciencia ficción, hay dos acciones que este asistente jamás realizará, incluso si se lo ordenas. El foco ya no está en lo que puede hacer, sino en lo que tiene explícitamente prohibido.

Hasta hace poco, la inteligencia artificial en la oficina era reactiva: respondía preguntas, revisaba documentos bajo demanda, automatizaba tareas repetitivas si se lo pedías. Claude Duet cambia la dinámica. Trabaja en la nube con acceso a tu correo, agenda y herramientas empresariales. Mientras duermes, recopila información y, al comenzar el día, te entrega un resumen de lo urgente y lo importante. Durante la jornada, solo te interrumpe cuando detecta algo que requiere tu aprobación. Ejemplos concretos: identifica facturas impagas y sugiere recordatorios, prepara nóminas con horas y bonos, redacta ofertas de empleo para tu revisión. Un restaurante con 110 empleados ya lo utiliza para contabilidad, atención al cliente y marketing. La diferencia es que ahora el asistente no espera instrucciones; toma iniciativa, pero siempre bajo ciertos límites definidos.

Lo más relevante del lanzamiento no es la autonomía técnica, sino el diseño del freno. Antes de enviar mensajes, realizar pagos, firmar documentos o eliminar información, Claude Duet muestra exactamente lo que va a hacer y solicita tu aprobación explícita. No accede a contraseñas y utiliza tarjetas virtuales para pagos, evitando exponer la real. Sin embargo, hay dos acciones que tiene vetadas de fábrica: nunca comprará o venderá acciones ni moverá dinero entre tus cuentas, aunque se lo permitas. Anthropic publica esta lista de prohibiciones de forma transparente, marcando un estándar en el sector. El trasfondo es claro: no basta con saber lo que un agente puede hacer; el verdadero control está en definir qué no puede hacer bajo ninguna circunstancia. Este enfoque cobra relevancia en un contexto donde, solo en Chile, seis bancos ya han realizado pagos reales con agentes de IA, según Mastercard.

El crack

El punto de inflexión llegó cuando la competencia entre asistentes de inteligencia artificial dejó de centrarse en “quién responde mejor” y pasó a “quién actúa solo, pero bajo control”. En apenas diez semanas, OpenAI, Meta, X (Grok Bot) y Anthropic lanzaron sus propuestas. La facilidad de cambiar de chat es ilusoria: una vez que un asistente conoce tus procedimientos y accede a tus datos, migrar se vuelve costoso y riesgoso. El verdadero riesgo, sin embargo, emergió cuando se hizo evidente que la autonomía sin límites claros puede llevar a errores críticos o, peor aún, a movimientos de dinero no autorizados. El problema no fue la capacidad técnica del asistente, sino la ausencia de una lista pública y verificable de acciones prohibidas. El caso de Claude Duet resalta este punto: el diferencial competitivo ya no es solo la inteligencia, sino la transparencia y el control efectivo por parte del usuario.

Lectura desde el framework

Este caso se sitúa claramente en la Zona Amarilla del framework de las 3 Zonas. En la Zona Amarilla, el usuario conecta de inmediato todas las aplicaciones por conveniencia, sin establecer límites precisos, confiando en que “funcionará bien”. Esto genera eficiencia a corto plazo, pero expone a la organización a riesgos si el agente accede o ejecuta acciones no previstas. Es similar al caso de Blockbuster cuando integró sistemas de recomendación sin definir reglas claras sobre qué podía sugerir o promocionar, perdiendo control sobre la experiencia del cliente. Aquí, el aprendizaje es que la comodidad inicial no compensa la falta de límites explícitos cuando se delegan tareas críticas a una IA autónoma.

Tres puntos para tu empresa

  1. ¿Tienes documentado, por escrito, qué información y qué acciones están prohibidas para cualquier asistente o agente digital en tu empresa?
  2. ¿Revisas y apruebas manualmente las acciones críticas (pagos, eliminaciones, envíos) antes de que se ejecuten, o confías en la automatización sin doble verificación?
  3. ¿Quién tiene la autoridad para decidir qué aplicaciones y cuentas puede conectar un asistente de IA? ¿Ese proceso está auditado y registrado?

Reflexión final

El patrón es claro: la autonomía de la inteligencia artificial en la empresa ya no es solo cuestión de capacidades, sino de límites visibles y auditables. La pregunta universal no es qué puede hacer tu asistente, sino qué le tienes prohibido y cómo lo verificas. ¿Qué tarea le delegarías primero a un asistente así, y cuál preferirías seguir controlando personalmente? Deja tu respuesta en los comentarios del vídeo y sigamos la conversación en el próximo punto de inflexión.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *