Investigación
Agentes de investigación
Diseñados para vigilar datos, generar hipótesis candidatas y preparar evidencia para revisión humana.
04Inteligencia artificial
Inteligencia con un mandato.
Estamos diseñando agentes autónomos como las instituciones diseñan sus funciones: cada uno con un mandato definido, límites explícitos y un registro de cada decisión que toma.
Arquitectura
Agentes, un gemelo digital y un supervisor independiente.
Agentes autónomos
Funciones especializadas, no una sola caja negra.
Riesgo
Agentes de supervisión
Diseñados para vigilar exposiciones y límites de forma continua, y para detener la actividad sin depender de los sistemas que supervisan.
Auditoría
Agentes de registro
Diseñados para mantener un registro completo y ordenado de cada propuesta, decisión y cambio, de modo que cualquier resultado pueda reconstruirse.
Gemelo digital
Cada posición, replicada.
Nuestra arquitectura está diseñada para asociar cada estrategia con un gemelo digital: una réplica independiente de su estado esperado, que sirve para detectar divergencias entre lo que un sistema debería estar haciendo y lo que realmente hace.
Cuando ambos divergen más allá de una tolerancia definida, la supervisión interviene. El gemelo es la forma en que buscamos hacer observable la autonomía.
Principios
Cómo se le permite operar a la inteligencia.
Modelos como instrumentos, no como oráculos
Los modelos predictivos deben producir probabilidades calibradas, con su incertidumbre declarada. Informan las decisiones; no sustituyen el proceso de decisión.
Las personas fijan el mandato
Las personas definen objetivos, límites y permisos. Los agentes operan dentro de ellos y escalan todo lo que quede fuera.
Toda acción es explicable
Un agente que no puede mostrar la evidencia detrás de una acción no la ejecuta.
La supervisión es independiente
El sistema que supervisa nunca es el sistema que actúa.