Saber qué modelo intervino, para qué y con qué resultado
Genlicit registra cada intervención de un modelo y conserva el rastro del proyecto. La trazabilidad permite revisar una salida, no la da por correcta.
Trazabilidad de la IA, no una caja negra
La trazabilidad de la IA consiste en dejar constancia de lo que ocurrió cada vez que interviene un modelo: qué se le pidió, quién lo pidió, cuándo, qué respondió y qué recursos consumió. No es una promesa de exactitud, sino un registro de hechos que permite reconstruir el camino desde una salida hasta su origen.
En un proceso de licitación esto importa porque las conclusiones deben poder revisarse, cuestionarse y justificarse. La trazabilidad convierte el análisis asistido por IA en algo auditable: puedes volver atrás, comparar alternativas y entender en qué se apoyó cada paso. Es la base sobre la que la supervisión humana funciona de verdad, y no como un requisito solo teórico.
Cada intervención de un modelo
- ✓Las llamadas a modelos realizadas.
- ✓El propósito de cada intervención.
- ✓El actor que la originó.
- ✓El consumo asociado a la operación.
- ✓La respuesta devuelta por el modelo.
El rastro del proyecto
- ✓Las lecturas documentales.
- ✓Las versiones sucesivas de los materiales.
- ✓La actividad del proyecto.
Cómo se ve un rastro de intervenciones
Representación abstracta de un registro: momento, propósito, actor y estado de cada intervención. Los valores son ilustrativos.
| Momento | Propósito | Actor | Estado |
|---|---|---|---|
| Entrada del expediente | Análisis de pliego | Analista | Registrado |
| Preparación de la oferta | Diagnóstico de encaje | Responsable | Registrado |
| Revisión del borrador | Contraste de requisitos | Revisor | En revisión |
| Cierre del análisis | Verificación de citas | Analista | Pendiente |
La trazabilidad no convierte una salida en correcta.
Permite revisarla, compararla y determinar de dónde procede. La decisión sobre su validez sigue siendo de las personas que la usan.
Preguntas sobre la trazabilidad de IA
¿Qué registra Genlicit de cada intervención de un modelo?＋
Las llamadas a modelos realizadas, el propósito de cada intervención, el actor que la originó, el consumo asociado a la operación y la respuesta devuelta por el modelo.
¿Qué se conserva del proyecto?＋
Las lecturas documentales, las versiones sucesivas de los materiales y la actividad del proyecto, de forma que el rastro de trabajo quede disponible para su revisión.
¿La trazabilidad garantiza que una respuesta sea correcta?＋
No. La trazabilidad permite revisar una salida, compararla y determinar de dónde procede, pero la decisión sobre su validez sigue siendo de las personas que la usan.
¿Quién puede acceder al registro de trazabilidad?＋
El acceso se define con los roles y los permisos de tu organización. La idea es que la información esté disponible para quien deba revisar, auditar o justificar una decisión, respetando la separación de datos entre organizaciones.
¿Cómo ayuda la trazabilidad en una auditoría o revisión?＋
Permite mostrar qué se procesó, cuándo, quién lo originó y qué devolvió el modelo. Así un proceso que sería opaco pasa a poder examinarse paso a paso y a poder justificarse.
¿La trazabilidad cumple con el Reglamento de IA de la UE?＋
El Reglamento (UE) 2024/1689 exige supervisión humana y una gobernanza adecuada de los sistemas de IA. La trazabilidad es una pieza de esa gobernanza: documenta las intervenciones y hace posible la supervisión humana. Aun así, la conformidad depende de una evaluación completa de tu caso de uso concreto, no solo de la trazabilidad.
Veamos cómo queda registrado un análisis
Te mostramos qué se registra en cada intervención de un modelo y cómo se revisa después.