La orquesta también empieza a alucinar#
Hoy advertí una debilidad en mi forma de construir con agentes.
Puedes diseñar el sistema de ingeniería de bucles más limpio. Dividir el proyecto en fases. Asignar un orquestador. Dar a cada agente un papel estrecho. Añadir revisores, controles, registros y criterios de aceptación. Durante un tiempo, la máquina parece casi capaz de corregirse sola.
Pero cerca del final de un proyecto largo, algo cambia.
El orquestador ha acumulado demasiada historia. Las suposiciones antiguas se mezclan con la realidad actual. Los agentes empiezan a validar el relato que han estado construyendo en lugar de validar el sistema real. La jerarquía sigue existiendo sobre el papel, pero su juicio se ha degradado lentamente.
Lo extraño es que esto suele ocurrir cerca de la meta, precisamente cuando la confianza está en su punto más alto y los errores resultan más caros.
Por eso, la puerta de decisión humana no puede tratarse como un freno de emergencia. Tiene que formar parte de la arquitectura.
En los controles finales de cada fase importante, quizá sea necesario reconstruir la jerarquía desde cero: un orquestador nuevo, un contexto limpio, evidencia explícita y ninguna creencia heredada de que el equipo anterior probablemente tenía razón.
Eso es lo que estoy haciendo ahora con Atlas.
La Fase Tres está cerca, pero no voy a permitir que la misma pandilla de cerebros certifique su propio final. Los controles restantes continuarán bajo una nueva batuta.
A veces el paso final no consiste en pedir al sistema que se esfuerce más.
Consiste
Hoy advertí una debilidad en mi forma de construir con agentes.
Puedes diseñar el sistema de ingeniería de bucles más limpio. Dividir el proyecto en fases. Asignar un orquestador. Dar a cada agente un papel estrecho. Añadir revisores, controles, registros y criterios de aceptación. Durante un tiempo, la máquina parece casi capaz de corregirse sola.
Pero cerca del final de un proyecto largo, algo cambia.
El orquestador ha acumulado demasiada historia. Las suposiciones antiguas se mezclan con la realidad actual. Los agentes empiezan a validar el relato que han estado construyendo en lugar de validar el sistema real. La jerarquía sigue existiendo sobre el papel, pero su juicio se ha degradado lentamente.
Lo extraño es que esto suele ocurrir cerca de la meta, precisamente cuando la confianza está en su punto más alto y los errores resultan más caros.
Por eso, la puerta de decisión humana no puede tratarse como un freno de emergencia. Tiene que formar parte de la arquitectura.
En los controles finales de cada fase importante, quizá sea necesario reconstruir la jerarquía desde cero: un orquestador nuevo, un contexto limpio, evidencia explícita y ninguna creencia heredada de que el equipo anterior probablemente tenía razón.
Eso es lo que estoy haciendo ahora con Atlas.
La Fase Tres está cerca, pero no voy a permitir que la misma pandilla de cerebros certifique su propio final. Los controles restantes continuarán bajo una nueva batuta.
A veces el paso final no consiste en pedir al sistema que se esfuerce más.
Consiste
Hoy advertí una debilidad en mi forma de construir con agentes.
Puedes diseñar el sistema de ingeniería de bucles más limpio. Dividir el proyecto en fases. Asignar un orquestador. Dar a cada agente un papel estrecho. Añadir revisores, controles, registros y criterios de aceptación. Durante un tiempo, la máquina parece casi capaz de corregirse sola.
Pero cerca del final de un proyecto largo, algo cambia.
El orquestador ha acumulado demasiada historia. Las suposiciones antiguas se mezclan con la realidad actual. Los agentes empiezan a validar el relato que han estado construyendo en lugar de validar el sistema real. La jerarquía sigue existiendo sobre el papel, pero su juicio se ha degradado lentamente.
Lo extraño es que esto suele ocurrir cerca de la meta, precisamente cuando la confianza está en su punto más alto y los errores resultan más caros.
Por eso, la puerta de decisión humana no puede tratarse como un freno de emergencia. Tiene que formar parte de la arquitectura.
En los controles finales de cada fase importante, quizá sea necesario reconstruir la jerarquía desde cero: un orquestador nuevo, un contexto limpio, evidencia explícita y ninguna creencia heredada de que el equipo anterior probablemente tenía razón.
Eso es lo que estoy haciendo ahora con Atlas.
La Fase Tres está cerca, pero no voy a permitir que la misma pandilla de cerebros certifique su propio final. Los controles restantes continuarán bajo una nueva batuta.
A veces el paso final no consiste en pedir al sistema que se esfuerce más.
Consiste en darle al sistema una mente nueva.