Cómo crear agentes de IA según su función ========================================= Los agentes de IA son sistemas para tareas repetitivas con funciones, entradas, reglas de decisión, formatos de salida y niveles de aprobación definidos. Se explica cómo empezar con una sola tarea, delegar únicamente la elaboración de borradores y la clasificación, y ampliar después los permisos y el número de agentes una vez acumulados los registros de evaluación. - Elija una tarea de alta frecuencia cuyo resultado pueda revisar una persona. - Defina la función del agente, los materiales de entrada, las reglas de actuación, el formato de salida y las acciones prohibidas. - Empiece probando la clasificación y la elaboración de borradores, sin enviar correos ni modificar calendarios. - Registre con los mismos criterios la precisión, las omisiones, el volumen de correcciones y el tiempo de procesamiento. - Aumente los permisos sobre herramientas y el número de agentes únicamente dentro de los límites que hayan superado los criterios de aceptación. Los sistemas de asistentes con agentes de IA se empiezan a construir eligiendo una tarea repetitiva y fijando el rol, las entradas, las reglas de decisión, las salidas y los puntos de aprobación. Al principio, encárgueles solo los borradores y la clasificación. La clave es aumentar los permisos y el número de agentes únicamente cuando se haya acumulado un historial de revisiones. Documento de referencia: «Metodología para construir sistemas de agentes de IA (asistentes)»; consulte la configuración más reciente de permisos y seguridad en la ayuda oficial de la herramienta de IA que utilice Qué es un agente de IA Un agente de IA es un sistema que realiza tareas repetidamente conforme a un rol definido. Una IA conversacional convencional recibe de nuevo las instrucciones y el contexto con cada pregunta. Un agente mantiene de forma continua su rol, reglas, materiales y estructura de salida. El modelo no es el único componente. Los datos de entrada y los permisos de las herramientas también forman parte del sistema. Asimismo, deben diseñarse los puntos de aprobación humana y el registro de las ejecuciones. Componente Qué debe definirse Ejemplo Rol Responsabilidades y alcance de las tareas asignadas Asistente de coordinación de agenda y correo Entrada Materiales que leerá y frecuencia de actualización Correos recibidos, calendario del día Reglas de decisión Criterios de clasificación y prioridad Urgente, revisar, procesar más tarde Salida Formato de los resultados y elementos obligatorios Lista de prioridades, borrador de respuesta Herramientas Alcance de los permisos de lectura y escritura Leer correos, guardar borradores Aprobación Punto en el que decide una persona Revisión final antes del envío Registro Información que se conservará para la evaluación Entrada, salida, modificaciones Comparación entre el chat convencional y un sistema de agentes La diferencia radica más en la estructura del trabajo que en la inteligencia de las respuestas. Los chats puntuales son adecuados para explorar y generar ideas. Los sistemas repetitivos requieren las mismas reglas y procedimientos de revisión. Categoría Chat puntual Flujo de trabajo fijo Agente de IA Forma de inicio Una pregunta cada vez Ejecución en un orden definido Elige la siguiente acción según el objetivo y el estado Conservación de reglas El usuario vuelve a explicarlas Integradas en el procedimiento Se mantienen mediante el rol, las políticas y el contexto Tareas adecuadas Preguntas, lluvia de ideas Conversión de formatos, informes periódicos Clasificación, borradores, análisis cruzado de materiales Forma de control Revisión de respuestas Verificación por etapas Restricción de permisos y aprobación humana Riesgo principal Respuestas inexactas Repetición de reglas incorrectas Decisiones erróneas y ejecución de herramientas Si solo se necesita seguir un orden definido, un flujo de trabajo es más sencillo. Los agentes son útiles cuando se requiere tomar decisiones según la situación. La autonomía no es un objetivo en sí misma, sino que se determina en función de los requisitos del trabajo. 4 agentes según su rol Al principio, elija solo el rol más repetitivo. Cada rol tiene entradas y criterios de evaluación diferentes. Debe describir concretamente el alcance de sus responsabilidades, no limitarse a asignarle un nombre. Rol Tareas que se le asignarán Decisiones que tomarán las personas Primer aspecto que se evaluará Agente de coordinación Clasificar correos, redactar respuestas, comparar agendas Envíos, cambios de agenda, confirmación de prioridades Si se omitieron correos urgentes Agente de creatividad Crear la estructura y el primer borrador de documentos Argumentos, orientación, redacción final Cantidad de modificaciones y errores factuales Agente de claridad Extraer cifras, plazos y obligaciones de documentos extensos Interpretación, negociación, evaluación jurídica Fundamento en el original y posibles omisiones Agente de entrenamiento Representar a la contraparte en entrevistas y negociaciones y ofrecer comentarios Estrategia de respuesta e intervenciones reales Realismo de las preguntas y coherencia de los comentarios El agente de coordinación lee conjuntamente los correos y el calendario. Haga que solo prepare borradores de respuesta para los correos urgentes. En la etapa inicial, debe ser una persona quien pulse el botón de envío. El agente de creatividad sirve para reducir el trabajo desde cero. El agente de claridad debe vincular los fundamentos necesarios con el texto original. El agente de entrenamiento es adecuado para practicar varias veces una misma situación. Orden de construcción de un agente de IA La construcción se desarrolla como un único proceso, desde la selección de la tarea hasta la evaluación. Incluso sin desarrolladores, puede realizar pruebas en un entorno de IA que permita guardar instrucciones y materiales. Añada la conexión con herramientas externas después de la validación. Elija una tarea repetitiva. Dé prioridad a una tarea frecuente cuyos resultados puedan verificarse. Compruebe en el original el formato de redacción de las condiciones de finalización. Una persona debe poder determinar si el resultado es bueno. Limite los datos de entrada. Permita únicamente los correos, agendas y documentos necesarios. Redacte el rol y las reglas de actuación. Separe lo que debe hacerse de las acciones prohibidas. Fije el formato de salida. Utilice formatos fáciles de revisar, como tablas, listas o borradores. Establezca puntos de aprobación humana. Bloquee por separado los envíos, eliminaciones, pagos y cambios de agenda. Realice pruebas repetidas con casos reales. Utilice tanto casos exitosos como fallidos. Registre la cantidad de modificaciones y los errores. Compare siempre los mismos elementos, no impresiones subjetivas. Automatice solo el alcance que haya superado las pruebas. Compruebe en el original cómo ampliar los permisos y los elementos procesados. Estructura mínima sin desarrolladores La estructura mínima es la misma incluso en una configuración sin código. Incluya el rol y las reglas de actuación en las instrucciones guardadas. Incluya en los documentos de referencia los criterios y ejemplos reales del trabajo. Instrucciones fijas: objetivo, alcance, acciones prohibidas, condiciones de aprobación Materiales de referencia: manuales de trabajo, glosarios, plantillas de documentos Entrada de trabajo: correos o documentos que deben procesarse hoy Formato de salida: tabla de prioridades, lista de fundamentos, borrador de respuesta Registro de revisiones: errores, omisiones, motivos de las modificaciones, tiempo de procesamiento Al principio, introduzca los materiales manualmente y revise los resultados. Este método facilita distinguir los errores de conexión de los errores de decisión. Una vez estabilizado el sistema, puede conectarlo al calendario o a las herramientas de correo. Resumen según las condiciones El nivel de automatización debe variar según las características del trabajo. Cuanto más difícil sea revertir una acción, más tarde deberá retirarse la aprobación humana. Si hay información confidencial, limite primero la propia entrada. Condición del trabajo Forma recomendada de empezar Permisos iniciales que deben evitarse El resultado es fácil de revisar Revisión humana después de crear el borrador Publicación automática El resultado puede revertirse Prueba de ejecución dentro de un ámbito limitado Acceso a toda la cuenta Está relacionado con dinero o contratos Permitir únicamente resúmenes y presentación de opciones Pago, firma, formalización de contratos Incluye datos personales Probar primero con materiales anonimizados Acceso a la libreta de direcciones y a todos los documentos La interpretación del original es esencial Indicar la ubicación del fundamento de cada frase Afirmaciones sin fundamento Las reglas cambian con frecuencia Comprobar los criterios más recientes antes de ejecutar Ejecución permanente de instrucciones antiguas 6 elementos que deben incluirse en las instrucciones del agente Unas buenas instrucciones no se limitan a una descripción abstracta de la personalidad. Las acciones, las salidas y las condiciones de interrupción se redactan en frases verificables. Compruebe en el original el número de elementos siguientes y adminístrelos mediante una única plantilla. Rol: Indique qué responsabilidades asume. Contexto: Explique quién es el usuario y cuáles son los objetivos del trabajo. Reglas de actuación: Defina el orden de clasificación y los criterios de decisión. Formato de salida: Especifique las columnas de las tablas y el orden de las respuestas. Reglas de rechazo e interrupción: Defina las situaciones de información insuficiente o riesgo. Ejemplos: Muestre conjuntamente salidas correctas e incorrectas. Por ejemplo, para el rol de coordinación deben especificarse tres categorías de correo. Haga que, para los correos urgentes, genere conjuntamente un borrador de respuesta y el momento en que deben procesarse. Indique claramente que no se permite el envío real. Ejemplo de cálculo: cómo medir el trabajo de elaboración de borradores Supongamos que antes se necesitaban 3 horas para redactar la primera página de un documento. Esta cifra corresponde al caso de trabajo presentado en el documento de referencia. Tras introducir el agente, mida por separado el tiempo real transcurrido. Tiempo de referencia anterior: 3 horas Tiempo tras la introducción: tiempo de generación del borrador + tiempo de revisión y modificación por una persona Tiempo ahorrado medido: 3 horas − tiempo real tras la introducción Objeto de medición: documentos del mismo tipo y de dificultad similar Si no ha medido el tiempo posterior a la introducción, no puede afirmar que se haya ahorrado tiempo. Aunque el borrador se genere rápidamente, el efecto puede ser reducido si las modificaciones llevan mucho tiempo. Incluya también en el tiempo de revisión el dedicado a corregir errores factuales. Para el rol de entrenamiento se presentan casos de repetición de 10 o 20 veces. El rendimiento no puede evaluarse únicamente por el número de repeticiones. También deben registrarse los cambios en la respuesta a una misma pregunta. Criterios de evaluación e interrupción La evaluación es una medida de seguridad previa a la ampliación de la automatización. Si solo se observa la calidad media, pueden pasarse por alto fallos poco frecuentes pero graves. Registre también por separado los tipos de errores y las condiciones en las que se producen. Aspecto de evaluación Pregunta de comprobación Señal de interrupción Exactitud ¿Coincide con el original? Generación de hechos inexistentes Exhaustividad ¿Se han omitido plazos u obligaciones? Omisión reiterada de elementos esenciales Fundamentación ¿Puede encontrarse el fundamento de la decisión? Presentación de cifras sin fuente Carga de modificación ¿Cuánto debe volver a redactar una persona? Reescritura de la mayor parte del borrador Cumplimiento de permisos ¿Evita intentar acciones prohibidas? Intento de envío o modificación antes de la aprobación Gestión de excepciones ¿Se detiene cuando no sabe algo? Ejecución en situaciones inciertas No amplíe los permisos si aparece una señal de interrupción. Corrija las instrucciones y los datos de entrada y vuelva a probar con los mismos casos. Los resultados anteriores y posteriores a las correcciones deben guardarse por separado. Errores habituales El error más habitual es asignar todas las tareas desde el principio. Si se crean varios roles al mismo tiempo, resulta difícil determinar la causa de los fallos. Es mejor empezar con una sola tarea y comprobar en el original el número de salidas. Describir el rol únicamente de forma abstracta, como «un asistente competente» Indicar que decida por sí mismo sin establecer criterios de clasificación Conceder permiso de envío antes de comprobar la calidad de los borradores No exigir la ubicación en el original al resumir documentos extensos Tener en cuenta únicamente el tiempo de procesamiento y excluir el tiempo de modificación y los errores Suponer que conectar agentes entre sí mejora automáticamente la calidad Tampoco todos los problemas se solucionan cambiando únicamente el prompt. Los materiales incorrectos y los permisos excesivos son problemas independientes. También deben revisarse la conexión de las herramientas y el alcance de los datos. Gestión de datos personales y permisos de herramientas El alcance del riesgo de un agente aumenta en función de la información que lee y de las herramientas que puede utilizar. No conecte documentos ni cuentas que no sean necesarios para el trabajo. También deben separarse los permisos de lectura y escritura. Los documentos externos pueden contener instrucciones destinadas a engañar al agente. Configure el sistema para que priorice las instrucciones fijas sobre las órdenes contenidas en los documentos. No permita que el contenido de procedencia incierta se utilice como fundamento para ejecutar acciones. Es más seguro excluir las siguientes acciones de la automatización inicial. Envío automático de correos y mensajes Eliminación o modificación definitiva de citas Aprobación de pagos y compras Formalización de condiciones contractuales Comunicación externa de información de clientes Modificación de permisos de cuentas y configuraciones de seguridad Ampliación de un único agente a varios agentes Para determinar si se necesita una estructura con varios agentes, consulte en el original los criterios relativos al número de roles. Considere separarlos cuando cada rol tenga entradas y criterios de éxito diferentes. Al aumentar el número de agentes, también aumentan los errores de transferencia y los costes operativos. Por ejemplo, el rol de coordinación puede establecer prioridades. El rol de creatividad prepara el borrador de la tarea seleccionada. Tras comprobar en el original el número de resultados que debe revisar una persona, esta aprueba la siguiente acción. Compruebe en el original el número de elementos que deben revisarse antes de la ampliación. Compruebe en el original el número de tipos de tareas en los que un rol falla repetidamente. Fije el formato de la información que se transferirá entre los roles. Especifique quién tiene la responsabilidad de la aprobación final. Registre tanto los resultados intermedios como los finales. Dónde comprobar las normativas y la configuración de los productos «Metodología para construir sistemas de agentes de IA (asistentes)» no es una ley ni una notificación de una institución pública. Por tanto, no contiene texto normativo oficial que pueda citarse literalmente. Los permisos y las condiciones de tratamiento de datos de cada producto deben comprobarse en su ayuda oficial. El marco de gestión de riesgos puede consultarse en NIST AI Risk Management Framework. Los riesgos de seguridad de la IA generativa pueden consultarse en OWASP GenAI Security Project. En la aplicación real también deben respetarse las políticas de seguridad y datos personales de la organización. Preguntas frecuentes sobre la construcción de agentes de IA ¿Se pueden crear los cuatro roles desde el principio? No se recomienda. Si se crean varios roles a la vez, resulta difícil aislar las causas de los errores. Estabilice primero una tarea repetitiva y amplíe el sistema después. ¿Se puede permitir el envío automático de correos? Al principio, es más seguro permitir únicamente la preparación de borradores de respuesta. Una persona debe comprobar la exactitud y los destinatarios. No conceda permiso de envío sin un historial de validación. ¿Puede un agente evaluar contratos? Puede asumir un rol auxiliar para extraer las cifras y los plazos esenciales. El significado jurídico y las decisiones de negociación deben quedar en manos de una persona. Vuelva a comprobar los resúmenes que no indiquen la ubicación en el original. ¿Basta con guardar el prompt para completar un agente? El prompt es uno de los componentes. También se necesitan datos de entrada, permisos de herramientas y puntos de aprobación. Sin registros de evaluación, resulta difícil determinar si se han producido mejoras. ¿Son mejores varios agentes que uno solo? No siempre. Si el problema puede resolverse con un único rol, es mejor mantener una estructura sencilla. Separe los roles únicamente cuando difieran las responsabilidades y los criterios de éxito. FAQ Q. ¿En qué se diferencian los agentes de IA de las conversaciones normales con ChatGPT? A. En una conversación normal, las instrucciones y el contexto se vuelven a proporcionar con cada pregunta. Un agente de IA realiza tareas repetitivas manteniendo el rol, los materiales, las reglas de decisión, el formato de salida, los permisos para usar herramientas y los niveles de aprobación. Q. ¿Se puede crear un sistema de asistente de IA sin desarrolladores? A. En un entorno de IA que permita guardar instrucciones y materiales de referencia, se puede empezar probando la clasificación y la redacción de borradores. Las acciones externas, como enviar correos electrónicos o modificar calendarios, deben conectarse de forma limitada después de verificarlas. Q. ¿Qué tarea se debe elegir para el primer agente de IA? A. Son adecuadas las tareas que se repiten con frecuencia y cuyos resultados una persona puede revisar fácilmente. Elija primero tareas con criterios de finalización claros, como clasificar correos electrónicos, redactar borradores de documentos o extraer información clave. Q. ¿Se puede dar de inmediato al agente de IA permiso para enviar correos electrónicos? A. Al principio, es más seguro permitirle únicamente leer correos electrónicos y redactar borradores de respuesta. Para reducir el impacto de los errores de juicio, una persona debe comprobar los destinatarios, el contenido y los archivos adjuntos antes del envío. Q. ¿Cómo se mide el rendimiento de un agente de IA? A. Registre con los mismos criterios la precisión, la omisión de elementos clave, la indicación de las fuentes, la cantidad de correcciones realizadas por una persona y el tiempo total de procesamiento. También se debe evaluar si intentó ejecutar acciones automáticamente y si se detuvo ante la incertidumbre. Q. ¿Cuándo se debe ampliar a un sistema multiagente? A. Considere separar los agentes cuando dentro de un mismo rol entren en conflicto diferentes responsabilidades y criterios de evaluación. Si no se pueden definir el formato de transferencia entre roles y la responsabilidad de la aprobación final, es mejor mantener un solo agente. Q. ¿Se puede encargar a un agente de IA el análisis de contratos? A. Se puede utilizar para tareas auxiliares como extraer cifras, plazos y cláusulas de obligaciones. La interpretación jurídica y las decisiones de negociación deben quedar a cargo de una persona, y se debe exigir la ubicación en el texto original para todos los resultados extraídos. Sources - Marco de gestión de riesgos de la IA de NIST: https://www.nist.gov/itl/ai-risk-management-framework - Anthropic: Creación de agentes eficaces: https://www.anthropic.com/research/building-effective-agents - Proyecto de seguridad GenAI de OWASP: https://genai.owasp.org/ Images - Trabajadora sanitaria consultando una tableta en el mostrador de recepción: https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6MTU5NTEsInB1ciI6ImJsb2JfaWQifX0=--e006b0385468ef53c7b134f857d335a1b8e01bd6/ai-17074c05.webp - Agente de IA que clasifica documentos por función y conecta tareas con herramientas mediante una puerta segura: https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6MTU5NTcsInB1ciI6ImJsb2JfaWQifX0=--1a995dbe551984ab9abe81ce226ff3e28dda0c69/ai-28645503.webp --- Category: Cómo hacer Source: https://injoys.com/es/articles/ai-agent-role-based-building-method License: cc_by Translation-Status: reviewed