Una demostración de IA puede resolver unos cuantos ejemplos y dejar abierta la pregunta importante: ¿qué sucede cuando llegan datos incompletos, casos ambiguos o un fallo del proveedor? Convertirla en un proceso fiable exige definir cómo se evalúa, quién responde por sus resultados y qué ocurre cuando necesita ayuda.
Esta guía se centra en IA generativa aplicada a tareas de negocio, como clasificar solicitudes, extraer información o preparar borradores. El criterio de avance es que el proceso completo funcione dentro de límites conocidos, con resultados verificables y una alternativa cuando la IA no pueda completar la tarea.
1. Define una tarea y el resultado que necesita el negocio
Empieza por una unidad de trabajo concreta. «Usar IA en operaciones» es demasiado amplio; «extraer campos de una solicitud para que una persona prepare el alta» permite identificar entradas, salida y responsable.
- Entrada: qué documentos, mensajes o datos puede recibir el sistema.
- Salida: qué debe producir y qué condiciones la hacen utilizable.
- Límite: qué casos quedan fuera y qué acciones no puede ejecutar.
- Responsable: quién acepta el resultado y resuelve las excepciones.
Compara con la alternativa actual: reglas, búsqueda, una integración convencional o trabajo manual. La IA debe justificar su lugar en el flujo. Cuenta también el esfuerzo de revisar y corregir sus resultados.
2. Evalúa con casos que representen el trabajo real
Prepara un conjunto de evaluación separado de los ejemplos utilizados para ajustar el sistema. Incluye casos frecuentes, excepciones, información ausente y entradas que deberían rechazarse. Utiliza datos autorizados y minimiza la información personal necesaria.
- Calidad: ¿los campos, clasificaciones o afirmaciones son correctos para la tarea?
- Errores relevantes: ¿qué fallo podría causar más daño, aunque aparezca pocas veces?
- Derivación: ¿envía a revisión los casos que exceden su alcance?
- Operación: ¿cuánto tarda y cuánto cuesta completar un caso, incluida la revisión?
Acuerda criterios de aceptación antes de ver los resultados. Registra diferencias por tipo de caso; una media global puede ocultar fallos en una categoría importante. La confianza que el modelo declara sobre sí mismo no sustituye esta evaluación.
El AI RMF de NIST organiza la gestión del riesgo alrededor de gobernar, contextualizar, medir y gestionar. Sirve como referencia para asignar responsabilidades y revisar el sistema durante su ciclo de vida; las métricas deben adaptarse al uso concreto.
3. Decide qué propone la IA y qué puede ejecutar
Redactar un borrador, recomendar una decisión y modificar un sistema son capacidades distintas. Especifica la autorización de cada paso. Si la IA interpreta una solicitud, el código que aplica la acción debe seguir comprobando permisos, datos obligatorios y reglas del negocio.
- Asistencia: prepara una salida que una persona revisa antes de utilizarla.
- Ejecución acotada: actúa sobre operaciones permitidas y verificables, con límites explícitos.
- Excepción: se detiene y deriva el caso cuando faltan datos o no se cumplen las condiciones.
La revisión humana necesita contexto, tiempo y capacidad real de rechazar o corregir. Define quién recibe la tarea y qué pasa si nadie la atiende. Una bandeja de revisión sin responsable puede convertirse en un atasco.
OWASP describe la agencia excesiva como un riesgo asociado a capacidades, permisos o autonomía demasiado amplios. Su recomendación de limitar herramientas y privilegios ayuda a contener el impacto de una salida incorrecta.
4. Protege la frontera entre contenido e instrucciones
Un documento, una página o un correo puede contener instrucciones que intenten desviar al modelo. El sistema debe tratar ese material como datos de entrada y conservar los controles de autorización fuera del modelo.
La guía de OWASP sobre prompt injection recoge ataques directos e indirectos. Pedir al modelo que ignore instrucciones maliciosas no ofrece una garantía suficiente: combina restricciones de acceso, validación de salidas y controles sobre las acciones disponibles.
Verifica también qué información puede consultar cada usuario y qué datos se envían al proveedor. Cuando hay búsqueda documental, filtra el acceso antes de recuperar el contenido. Añade pruebas con entradas adversarias y con respuestas que intenten ejecutar acciones fuera de alcance.
5. Pasa del piloto a una operación observable
Empieza con un uso limitado y supervisado. Amplía el alcance cuando tengas evidencia sobre calidad, revisión y recuperación. La decisión debe contemplar tanto los resultados correctos como el trabajo que el equipo necesita para sostenerlos.
- Versiona modelo, instrucciones, configuración y fuentes para poder comparar cambios.
- Registra errores, correcciones, derivaciones y costes con la mínima información necesaria.
- Define alertas, límites de consumo y un procedimiento para suspender el componente de IA.
- Mantén una alternativa: revisión manual, cola de trabajo o una operación más simple.
Vuelve a evaluar cuando cambien el modelo, las instrucciones, las fuentes o el proceso. Evita reintentos que dupliquen acciones: el sistema necesita distinguir entre una petición fallida y una operación ya completada cuya confirmación no llegó.
Un ejemplo: preparar altas de proveedores
Ejemplo ilustrativo, no un caso de cliente: una empresa recibe fichas de proveedores y quiere preparar su alta. En el piloto, la IA extrae campos y señala datos ausentes; una persona comprueba el documento antes de confirmar el registro.
El sistema comprueba formatos y duplicados mediante reglas. Los documentos ambiguos pasan a revisión. La IA no puede modificar datos bancarios ni confirmar el alta por su cuenta. El equipo mide errores por campo, tiempo de revisión y casos pendientes antes de decidir si automatiza algún paso adicional.
Checklist para decidir si está preparado
- La tarea, las entradas, las salidas y las exclusiones están documentadas.
- La evaluación incluye casos representativos, excepciones y ataques relevantes.
- Los criterios de aceptación y los errores inaceptables están definidos.
- Cada acción tiene permisos y controles independientes del modelo.
- La revisión humana y la alternativa operativa tienen un responsable.
- Hay seguimiento de calidad, consumo, incidencias y cambios de versión.
Un proceso fiable con IA se construye con evidencia y capacidad de respuesta. La siguiente inversión debe responder a lo aprendido en la evaluación y en la operación, con límites que el equipo pueda explicar y mantener.
En Codiloop podemos ayudarte a evaluar un caso de IA aplicada y definir un piloto con criterios de calidad, supervisión e integración antes de ampliar su alcance.