Un análisis de criticidad llega a una auditoría y alguien pregunta cómo se llegó a esa prioridad. Si lo preparó un agente de inteligencia artificial, la respuesta tiene que existir en algún registro y no solo en el resultado que el agente entregó, porque en confiabilidad un documento vale por la evidencia que lo respalda.
Conversamos con Blas Galván, especialista en ingeniería RAMS (confiabilidad, disponibilidad, mantenibilidad y seguridad), sobre por qué un agente necesita evidencia, qué vuelve verificable una tarea y cómo entrenarlo con el trabajo de la organización.
En esta edición:
Por qué un agente sin evidencia no sirve como respaldo
Cuándo una tarea prueba de verdad una competencia
Cómo entrenar al agente con el trabajo de la propia organización
Blas Galván
Especialista en ingeniería RAMS (Reliability, Availability, Maintainability and Safety)
Blas Galván combina desde hace más de 30 años la práctica en empresas privadas con la docencia universitaria. Es ingeniero industrial con especialidad en Electricidad y doctor por la Universidad de Las Palmas de Gran Canaria.
Quien audita pide el recorrido, no solo el resultado
Un agente recién instalado no conoce la terminología, los procedimientos ni los criterios de calidad de quien lo usa. Galván lo resume así: "Responde, pero no trabaja". Y si nadie comprobó lo que sabe hacer, queda una promesa sin respaldo.
Para Galván, la falta de comprobación pesa especialmente cuando se trabaja en confiabilidad y seguridad de activos. Un análisis de criticidad, un árbol de fallos, un plan de confiabilidad o un análisis de modos de falla, efectos y criticidad tienen que poder defenderse ante un cliente, un organismo de seguridad o un regulador. “En RAMS la evidencia no es un adorno: es el producto”, sostiene.
Un resultado comprobable no depende de la opinión de quien lo revisa
Galván propone medir al agente con tareas verificables y afirma: "Es la pieza que lo cambia todo". Se trata de ejercicios cuyo resultado se puede revisar de forma objetiva. Puede ser un dato que debe cuadrar, un documento que debe cumplir una estructura, un informe que debe pasar un control de calidad o una respuesta que debe coincidir con una referencia.
Esa lógica ya la usan los benchmarks (pruebas estándar con las que se comparan agentes) como SWE-bench, que le pide al agente resolver un problema real de software con una solución que supere las pruebas. Esa comprobación es la que convierte un resultado en evidencia.
El camino de un agente es el de una persona que se incorpora
Según Galván, lo que está emergiendo en la industria se parece más a lo que una organización hace con un empleado nuevo que a buscar un modelo mejor. Primero se le dan instrucciones, que en el caso de un agente toman la forma de skills, conjuntos de indicaciones reutilizables que le dicen qué hacer, qué no hacer, con qué herramientas y cuándo detenerse.
Después se definen sus herramientas y permisos. Galván advierte que fijar esos permisos es una decisión de ingeniería, porque implica decidir qué operaciones son irreversibles, qué datos puede tocar y cómo se registra cada acción. Luego llegan la práctica y la evaluación, con tareas tomadas del trabajo real de la organización y no solo con ejercicios genéricos.
Nota del entrevistador: Algo que me pareció valioso del planteo de Blas es que no pide inventar una disciplina nueva, sino aplicar a los agentes lo que la confiabilidad ya hace con las personas, los procesos y las máquinas, algo que también se reconoce aquí en Barcelona. Entonces, antes de sumar un agente, quizás conviene empezar por las áreas donde esas pruebas ya existen.
Para resumir: Al evaluar la incorporación de un agente de IA, importa menos el modelo que usa y más el trabajo que puede mostrar. Con pruebas propias y registros que las respalden, el agente pasa de ser una promesa a ser una herramienta cuyo trabajo se puede explicar ante terceros.
Como dice Galván: “Un agente entrenado no es un lujo: es la diferencia entre un experimento y un profesional.”
Te invitamos a visitar nuestra web para leer más artículos como este » Elreliabilitypost
