Un representante de ventas pide a un agente de IA los precios para un cliente, y este extrae datos de múltiples fuentes: sistemas de tarificación de acceso restringido, comunicaciones internas y presupuestos archivados. El resultado le parece correcto al agente, por lo que un segundo agente utiliza esos datos para redactar la propuesta para el representante de ventas. Ningún humano supervisa ninguno de los traspasos. Cuando se descubre que la propuesta incluye información no autorizada, confidencial y sensible, nadie es capaz de rastrear en qué punto entraron los datos problemáticos en el flujo de trabajo ni cómo se propagaron entre sistemas, archivos y agentes.
Este escenario ilustra por qué la gobernanza de la IA debe evolucionar, de forma rápida y dinámica. A medida que más empresas empiezan a utilizar la IA agéntica en sus flujos de trabajo diarios, se dan cuenta de que deben gestionar mucho más que archivos estáticos; deben gestionar datos en movimiento y fragmentados que se ingieren, copian, resumen, transforman, reutilizan y redistribuyen continuamente de nuevas formas. En resumen, la seguridad de la IA no es un problema de herramientas; es un problema de visibilidad de los datos.
Por consiguiente, los enfoques tradicionales de seguridad centrados exclusivamente en aplicaciones, sistemas, redes o endpoints ya no son suficientes. Proteger la IA agéntica a escala exige comprender cómo se mueven los datos. Por tanto, los equipos deben establecer el linaje de los datos para gestionar eficazmente la gobernanza, la rendición de cuentas y la confianza en los flujos de trabajo humanos, agénticos e híbridos.
Este contenido ha sido elaborado por Insights, la división de contenido personalizado de MIT Technology Review, y no por su equipo editorial. Ha sido investigado y redactado por humanos, y cualquier herramienta de IA que haya podido utilizarse se ha limitado a procesos de producción bajo supervisión humana.