La incorporación de nuevos empleados de IA requiere ingeniería de contexto: aquí está su plan de acción de 3 pasos

Publicado el:

spot_img
- Advertisment -spot_img

Siga ZDNET: Agréganos como fuente preferida en Google.


Conclusiones clave de ZDNET

  • La adopción exitosa de agentes de IA requiere ingeniería de contexto.
  • La ingeniería de contexto requiere acceso a datos, metadatos, flujo de procesos y más.
  • La ingeniería de contexto garantiza que sus datos estén listos para el uso de IA agente.

¿Por qué sus empleados actuales inicialmente superan a la nueva estrella de rock que acaba de contratar? ¿Y por qué hay un período de incorporación antes de que un nuevo empleado se ponga al día?

- Advertisement -[wpcode id="699"]

Conocimiento institucional. La nueva estrella de rock sabe cómo hacer el trabajo. Por eso los contrataste. Pero necesitan tiempo para comprender la cultura, los procesos, los enfoques, las aplicaciones, su equipo, sus clientes y socios de la empresa.

En el mundo de la IA, el conocimiento institucional se llama contexto. Los agentes de IA son los nuevos empleados estrella del rock. Puede incorporarlos en minutos, no en meses. Y cuanto más contexto pueda brindarles, mejor podrán desempeñarse.

Ahora, cuando escuche informes de que los agentes de IA se desempeñan mejor cuando tienen datos precisos, piense de manera más amplia que los datos de los clientes. Los datos que la IA necesita para hacer el trabajo de manera efectiva también incluyen los datos que describen el conocimiento institucional: contexto.

Llegaremos a la ingeniería de contexto en un minuto.

- Advertisement -[wpcode id="699"]

Comprender el contexto

Entonces, veamos los diferentes tipos de contexto, su fuente y si está estructurado o no estructurado, todo lo cual determinará cómo se presenta al agente de IA.

Sigues escuchando sobre modelos que tienen una ventana de contexto grande. Claude tiene una ventana de contexto de 1 millón de tokens; ChatGPT 5.2 tiene una ventana de 400.000 tokens. Pero esto no es suficiente para gestionar todo lo relacionado con la empresa. Considere la configuración de la organización de Salesforce: 20 clases principales de complejidad relativamente alta equivalen a más de 250.000 tokens. Por lo tanto, debemos ser selectivos y proporcionar el contexto para la función que desempeña el agente de IA: Ingeniería de contexto.

Ingeniería de contexto

Como puede ver en la siguiente tabla, gran parte de esta información no está estructurada. Sus empleados son buenos interpretándolo y llenando los vacíos utilizando su criterio y aplicando el conocimiento institucional. Los agentes de IA ahora pueden analizar datos no estructurados, pero no son tan buenos a la hora de aplicar criterios cuando hay conflictos, matices, ambigüedades u omisiones. Por eso tenemos alucinaciones.

Categoría de contenido

Fuente

Estructurado / No estructurado

Fuentes de ejemplo

- Advertisement -[wpcode id="699"]

Cultura de la empresa

Informes anuales

Pautas de marketing de marca

Nuevo manual del empleado

No estructurado

Almacenamiento de archivos

Operaciones/procesos comerciales

Diagramas de proceso UPN

No estructurado

Mapeo de procesos

Configuración de la aplicación

Metadatos y dependencias

Estructurado

Inteligencia de cambios, sistemas de ticketing, gestión de datos maestros

Datos

Aplicaciones CRM y ERP

Estructurado

Aplicaciones empresariales

Equipo

organigrama

Descripciones de trabajo

No estructurado

Aplicación de recursos humanos, almacenamiento de archivos

Por lo tanto, el contexto que proporcione debe ser completo y legible por IA. Pero el contexto también debe ser específico de la función del agente de IA, para que la ventana de contexto no se vea abrumada. La forma de hacerlo es considerar el proceso de un extremo a otro que está realizando el agente de IA y utilizarlo para determinar el contexto. Eso requiere analizar las diversas aplicaciones que almacenan el contexto para extraer el nivel correcto de información. Si observamos las adquisiciones de Salesforce, comienza a tener sentido: Data360, Informatica, MuleSoft y Tableau son formas diferentes de contexto a escala.

Leer  AI slop e informes falsos están llegando para sus programas de recompensa de errores

Contexto en contexto

Como hemos dicho, proporcionar el contexto correcto al Agente de IA con el nivel correcto de detalle significa analizar estas fuentes de datos con una comprensión clara de cuál es el proceso de extremo a extremo que intenta realizar.

Esta es una combinación del proceso de negocio documentado y la configuración de la aplicación codificada en los metadatos y las dependencias. Y no se trata sólo de si los metadatos utilizan otros metadatos, sino de por qué y cómo.

Los mapas de procesos brindan visibilidad de las actividades manuales entre aplicaciones o dentro de las aplicaciones. La precisión y exhaustividad de los diagramas de proceso documentados varían enormemente. Los procesos de recepción son generalmente muy deficientes. Los procesos administrativos en industrias reguladas suelen ser muy buenos. Y para explotar el poder de los agentes de IA, las organizaciones deben racionalizarlos y optimizar sus procesos comerciales. Esto ha desencadenado una revolución de reingeniería de procesos que refleja la de los años noventa. Esta vez, el nivel de detalle requerido por los agentes de IA es mayor que el de los humanos.

La comprensión de la configuración de la aplicación a través de los metadatos y las dependencias está disponible, pero a menudo se ve confundida por los altos niveles de deuda técnica. Y requiere un análisis sofisticado para ser completo y confiable. Los agentes de IA aún no son capaces de tomar todos los metadatos y darles sentido. Simplemente hay demasiados datos. El único enfoque es utilizar flujos de trabajo agentes muy inteligentes de tareas quirúrgicas encadenadas para ejecutar el análisis.

¿Está su contenido listo para la IA?

Para cada tipo de contenido, debemos hacer cinco preguntas.

  1. ¿Existe la información, a quién pertenece y qué incentivos tienen para apoyar el proyecto?
  2. ¿Está actualizado y cuál es el proceso para mantenerlo y gobernarlo?
  3. ¿Está escrito para IA y qué cambios se deben realizar para evitar ambigüedades y confusión?
  4. ¿Dónde debería almacenarse para que la IA pueda acceder a él y qué controles de seguridad y acceso deberían aplicarse?
  5. ¿Cómo debería estructurarse y etiquetarse para su curación, equilibrando los detalles con el uso de tokens?

Veamos tres tipos de contenido (cultura, procesos de negocio y aplicaciones) y consideremos cada uno de ellos por separado.

Cultura de la empresa

Esta es la información que normalmente se proporciona a los nuevos empleados durante la incorporación, pero también es el conocimiento intangible que se absorbe con el tiempo. Los agentes de IA lo necesitan todo a la vez.

  • Existencia y propiedad: Esto se refiere al contenido de incorporación que utiliza la organización, incluidas las políticas de la empresa. A los agentes de IA no les importa qué tan seco esté el contenido. También pueden ser otros documentos que muestren la cultura y la personalidad de la organización: las pautas de marketing de la marca, los informes anuales y las presentaciones a los accionistas. Incluso el estilo de los testimonios de clientes, los vídeos de marketing y el diseño de la oficina aportarán color a un lienzo en blanco. Quizás haya una tabla de siglas corporativas. La complicación es que esto pertenece a diferentes equipos. Hay trabajo que deben realizar para apoyar el proyecto, pero ¿cuáles son sus prioridades e incentivos? Idealmente, el marketing debería tomar la iniciativa.
  • Válido y valioso: De toda la documentación de la empresa, esta probablemente se mantiene razonablemente actualizada, a menos que haya habido un cambio de marca reciente. Si es así, hay que tener cuidado con lo que se incluye. Puede que esté actualizado, pero ¿sigue siendo relevante y valioso?
  • Escrito para IA: Es posible que el material de incorporación haya sido escrito para presentarlo a los nuevos principiantes, no para leerlo. Por lo tanto, podrían existir enormes vacíos de contexto, que deberían llenarse con un preámbulo o notas. El resto del contenido debe establecerse en su propio contexto. Por ejemplo, es necesario decirle al agente de IA cómo interpretar videos de testimonios de clientes o pautas de marca. Los documentos de políticas de la empresa a menudo están escritos para humanos, con matices y suposiciones que el agente de IA no captará durante la incorporación y a través del conocimiento tribal.
  • Acceso y seguridad: Este contenido es en su mayoría no estructurado y de gran volumen. Es posible que sea necesario transcribir los testimonios de los clientes a texto en lugar de indexarlos como video. Esto significa que es necesario utilizar una solución como Data 360 para que sea accesible y fácil de buscar. Sin embargo, también debemos considerar los controles de seguridad y acceso. ¿Existe IP, datos sensibles o información personal que no deba exponerse? El nivel de seguridad de dos o tres conjuntos de datos cuando se mantienen aislados puede ser mucho menor que cuando se combinan. Una vez que se agregan los datos, el nivel de seguridad puede ser muchos niveles más alto según la información que ahora está disponible.
  • Estructura y etiquetado: Se trata de datos difíciles de estructurar, ya que prácticamente todos ellos se necesitan como base para el agente de IA y no en el contexto de la ejecución de un proceso. Existe un equilibrio entre proporcionar toda la información a un nivel detallado y el costo y la viabilidad del uso del token. Por lo tanto, es necesario considerar cómo categorizar los datos para que puedan dividirse y entregarse al agente de IA de la manera más eficiente en cuanto a tokens.
Leer  Cómo se liberó la IA de Anthropic para convertirla en un arma

Operaciones/procesos comerciales

Los procesos de negocio documentados son la estructura crítica para que el agente de IA obtenga un resultado. Pero también describen los procesos de apoyo que rodean al agente de IA y en los que éste confía o delega.

  • Existencia y propiedad: La mayoría de las organizaciones tienen procesos documentados. En más de 30 años de trabajo en ingeniería de procesos de negocios, hemos descubierto que los procesos normalmente están incompletos, desactualizados y en una variedad de formatos. Afortunadamente, no es necesario actualizar todos los procesos; solo los relacionados con el agente de IA que está creando, que probablemente sean propiedad de una o dos unidades de negocio. Los procesos deben cubrir tanto las actividades automatizadas como las humanas, pero con un nivel de detalle mucho mayor. Los agentes de IA no manejan los matices, las lagunas y la ambigüedad tan bien como lo hacen los humanos. Ahora puede utilizar la IA para ayudarle a crear el proceso del primer corte. Puede generar diagramas de procesos a partir de notas, diagramas o incluso metadatos de sistemas. Estos pueden perfeccionarse trabajando con líderes y usuarios.
  • Válido y valioso: El proceso más importante a documentar y optimizar es el proceso de mejora de procesos. Esto se vuelve de vital importancia para los agentes de IA que tomarán el contenido literalmente y confiarán en la documentación de procesos actualizada para comportarse como se espera.
  • Escrito para IA: La IA es muy buena para comprender diagramas relacionados con procesos y documentos procesales. La cuestión es la calidad de la documentación: su integridad, exactitud y actualidad.
  • Acceso y seguridad: Nuevamente, si se trata de documentación no estructurada, como imágenes, se necesita una solución como Data 360 para que sea accesible y fácil de buscar. Pero los diagramas de procesos podrían presentarse como JSON estructurado, que la IA puede consumir más fácilmente.
  • Estructura y etiquetado: Esto es muy específico del alcance y resultado del agente de IA. Por tanto, los metadatos de los diagramas de proceso son importantes.
Leer  Openai y perplejidad para desafiar el dominio de Chrome con los nuevos navegadores de IA

Configuración de la aplicación

Los metadatos de la aplicación describen la estructura de datos, la lógica empresarial y los permisos de una aplicación específica. Si los agentes de IA trascienden los límites de las aplicaciones, el contenido debe ampliarse con diagramas arquitectónicos que describan cómo funcionan juntas las aplicaciones. También se podría incluir en estos diagramas cómo trabajan juntos los agentes.

  • Existencia y propiedad: Estos datos se almacenan dentro de cada aplicación como metadatos. Sin embargo, debe ser más que una lista de metadatos. Debe incluir dependencias de metadatos, como el análisis de metadatos que Elements.cloud produce para Salesforce. Una aplicación como Informatica está diseñada para almacenar metadatos de múltiples sistemas.
  • Válido y valioso: Los metadatos son 100% precisos. El análisis de metadatos se puede realizar siempre que cambie, por lo que también puede ser 100% preciso.
  • Escrito para IA: Los metadatos están muy estructurados y, por lo tanto, son ideales para que los lea la IA.
  • Acceso y seguridad: Al estar altamente estructurado, se puede almacenar en cualquier base de datos. Lo que es fundamental es cómo está estructurado para que se pueda acceder a él. El problema es que cualquier aplicación tiene demasiados metadatos y superará los límites de los tokens.
  • Estructura y etiquetado: Los metadatos deben estar relacionados con los procesos operativos de negocio que el agente de IA está entregando y las fuentes de datos que el agente de IA necesita.

Sólo el 7% de la comunicación son palabras.

Existe la expresión común de que la comunicación se compone sólo del 7% de palabras. Entonces, ¿qué pasa con el otro 93%?

  • Las palabras (7%): Contenido verbal (el significado literal).
  • El tono (38%): Calidad de voz, tono y volumen.
  • Las imágenes (55%): Expresiones faciales y lenguaje corporal.

La tonalidad actúa como puntuación del lenguaje hablado. Tomemos la frase simple: «Quiero verte en mi oficina». El contexto es el 93%. Instruimos a la IA con palabras; el 7%. ¿Es de extrañar que tengamos alucinaciones y resultados inconsistentes? Necesitamos aportar el otro 93%. El contexto. Esto podría incluir: la relación entre el cliente y la empresa, la importancia relativa de los diferentes aspectos de los datos, la etapa del proceso, la urgencia y el valor del resultado. Y ese contexto se proporciona en forma de palabras y datos. Por eso debemos asegurarnos de que haya un contexto para el contexto.

La ingeniería de contexto es un término nuevo para los agentes de IA, pero el contenido ya existe dentro de las organizaciones como conocimiento institucional que las personas absorben con el tiempo. Los agentes de IA están diseñados para aceptar una gran cantidad de información, pero requieren que sea precisa e inequívoca. Esto tiene implicaciones para las organizaciones que desean aprovechar los beneficios de los agentes de IA capaces de ofrecer resultados sofisticados. Aquí hay un plan de acción de 3 pasos:

  1. Documente el alcance de sus agentes de IA, incluidos el proceso y los resultados de un extremo a otro.
  2. Identifique la información contextual crítica necesaria para que los agentes de IA se desempeñen al más alto nivel y revise su calidad.
  3. Formatee la información contextual en las plataformas que puedan seleccionarla para los agentes de IA.

Este artículo fue coautor de Ian Gottsinvestigador principal en Visión Keenancofundador de Elements.Cloud, autor, asesor tecnológico, orador e inversor de 10X.

spot_img

Relacionada

Leave a Reply

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí

spot_img