Cómo construyo agentes

Primero los controles, después el modelo. Antes de decidir dónde se ejecuta un modelo, decido dónde aprueba una persona, qué se registra, cómo se detiene el agente y adónde van tus datos. Estos son los principios con los que diseño. Aquí describo patrones y dejo fuera la configuración que hay detrás.

Niveles de autonomía

A cada agente le asigno un nivel de autonomía fijo, y no puede subir a uno superior por su cuenta.

• Solo lectura. El agente lee y clasifica, y nunca envía nada.
• Redactar y aprobar. El agente escribe el borrador; una persona lo envía o lo aplica.
• Actuar, con aprobación humana para todo lo que sea público o irreversible.
• Construido pero apagado. Algunas capacidades existen en el código y siguen bloqueadas hasta que tú las apruebes.

El agente no guarda credenciales. Las acciones que las necesitan se ejecutan en un servicio aparte, acotado y fuera del agente, de modo que el agente no puede hacer lo prohibido aunque alguien se lo pida. La seguridad vive en la estructura, donde un prompt no puede anularla.

Puntos de aprobación humana

Una persona aprueba antes de que algo se publique o ya no se pueda deshacer. Un equipo de agentes no puede crecer sin que antes lo apruebe una persona. Todo agente tiene una vía de escalado que marca una conversación para que la vea una persona, en lugar de seguir a ciegas.

Registro de auditoría

Cada cambio en producción queda registrado con sus valores de antes y de después y una ruta para revertirlo, y los secretos se ocultan en el registro. Las entradas sospechosas se registran, no se ejecutan.

Interruptor de apagado y reversión

Puedes detener el agente en cualquier momento.

Hago una copia de seguridad antes de cada cambio y despliego los flujos de trabajo con esa copia lista, nunca a mano. Durante las ventanas de mantenimiento, un vigilante automático revierte el código si algo falla. Nunca toca la base de datos y deja un comprobante de lo que hizo.

Evaluaciones

Mido los prompts y las habilidades contra una línea base en vez de afirmar que funcionan. Publico los fallos junto a los aciertos, busco la causa raíz y los corrijo. Un resultado nulo se publica como resultado nulo. Antes de lanzar, el sistema pasa por un red team y corrijo cada hallazgo.

Estos controles reducen el riesgo. No garantizan nada.

Adónde van tus datos

Tres opciones mantienen el modelo de tu lado. Una lo pone del mío.

• Modelo local. Se ejecuta en hardware que tú controlas y los prompts no salen de ese hardware.
• Tu propia suscripción a Codex. Contratas directamente con el proveedor del modelo, a tu nombre.
• OpenRouter sin retención de datos. Uso solo rutas que no conservan los prompts.
• Un agente alojado por mí. Mi empresa, Evolve 47 AB, es el encargado del tratamiento según el artículo 28 del RGPD.

Contacto de seguridad

Si encuentras una debilidad en algo que construí, escribe a hello@byronfabrizio.com. Cómo trata este sitio web tus datos está en la página de privacidad.

Siguiente paso

Si así es como quieres que se construyan tus agentes, trabaja conmigo. Si te sirve, reenvía antes esta página a quien revisa TI o cumplimiento en tu empresa.