Productos, soluciones and servicios para los negocios
Hoy en día, la IA se está integrando rápidamente en las industrias tradicionales. En el sector financiero, la "IA+" ya no es una opción, sino una necesidad. La IA está transformando los procesos empresariales, las experiencias de los clientes y los modelos operativos. Para escalar el despliegue de grandes modelos de lenguaje (LLM), las instituciones financieras deben equilibrar cuatro factores críticos: costes óptimos, seguridad y cumplimiento normativo, un valor empresarial claro y rapidez de lanzamiento al mercado. Aquí es donde residen las mayores oportunidades.

La aplicación de los modelos de lenguaje de gran tamaño (LLM) en el sector bancario está atravesando una transformación significativa. Desde el soporte inicial y los bots de preguntas y respuestas hasta las interacciones con clientes en el front-office, el control de riesgos y los complejos flujos de trabajo del back-office, los agentes de IA han dejado de ser meros "juguetes tecnológicos" experimentales. Han evolucionado hasta convertirse en motores de productividad integrales incorporados a las operaciones financieras fundamentales. Esta transición de una inteligencia experimental a una de nivel de producción se sustenta en modelos especializados para el sector, desarrollados a partir de datos y flujos de trabajo corporativos propios y, a menudo, ajustados mediante técnicas de fine-tuning sobre LLM de código abierto.
Sin embargo, implementar LLM de código abierto en la infraestructura privada de un banco no solo representa un desafío riguroso de ingeniería de sistemas, sino que, sobre todo, exige equilibrar los resultados empresariales, la eficiencia de costes y los aspectos de seguridad y cumplimiento normativo. El despliegue de LLM a gran escala se basa en cinco pilares: ingeniería de potencia de cálculo, ingeniería de datos, ingeniería de modelos, ingeniería de agentes e ingeniería de seguridad. En conjunto, estos elementos potencian con precisión las áreas de front-office, middle-office y back-office de las entidades bancarias.

Hemos clasificado los agentes de IA en tres tipos según el dominio y el método. Este es el diseño de alto nivel para alinear la tecnología con los objetivos empresariales.
1. Agentes de tareas (dominio y método específicos)
• Posicionamiento: Automatización de tareas con límites claros y reglas fijas
• Escenarios: Conciliación financiera interna, extracción de elementos no estructurados de contratos
• Valor fundamental: Sustitución de trabajo repetitivo y de gran volumen, con el objetivo de lograr cero errores y costes ultrabajos
2. Agentes de dominio (dominio definido / método no definido)
• Posicionamiento: Dominio de negocio fijo, pero con planificación dinámica de rutas y herramientas mediante LLM.
• Escenarios: Llamadas inteligentes en *front-office*, aprobación de préstamos corporativos en *middle-office*.
• Valor fundamental: Replicar capacidades expertas e impulsar el crecimiento del negocio en dominios específicos.
3. Superagentes (Dominio incierto / Método incierto)
• Posicionamiento: Entornos complejos totalmente abiertos, transversales a sistemas y departamentos
• Escenarios: Superaplicaciones integradas tanto para clientes como para equipos internos
• Valor fundamental: Eliminar los silos de negocio y de datos para convertirse en un motor de productividad omnipresente en todo el banco

La actividad bancaria se fundamenta esencialmente en la gestión de riesgos y en operaciones optimizadas. Toda innovación tecnológica debe evaluarse a partir de tres interrogantes: ¿impulsa el crecimiento del negocio?, ¿son controlables los costos?, ¿cumple plenamente con la normativa? Nuestros cuatro pilares de ingeniería actúan como barreras defensivas fundamentales.
• Ingeniería de potencia de cómputo: logre latencias de milisegundos y elimine las restricciones de costos por token.
En los servicios de atención al cliente por voz de alta concurrencia, una latencia superior a 1,5 segundos provoca una tasa de abandono de clientes de hasta el 23 %. Mediante una optimización en cuatro pasos (agilización de tareas, almacenamiento en caché de prefijos, interceptación del estado de caché en Redis y asincronía de canalizaciones), la latencia de extremo a extremo se reduce a unos 500 milisegundos, protegiendo así los resultados del negocio. En las aplicaciones de back-office para "Superagentes", las estrategias de compresión de tokens dinámicas y basadas en escenarios reducen los costes operativos de infraestructura en más de un 40 %.
• Ingeniería de modelos: Acumular activos financieros clave mediante un flujo de datos de circuito cerrado.
Los LLM de propósito general carecen de conocimientos empresariales específicos de un dominio. En escenarios de control de riesgos financieros, hemos desarrollado un flujo de datos de ciclo cerrado que integra ingeniería de características, verificación de calidad, síntesis de datos y la participación de expertos (expert-in-the-loop) para transformar el conocimiento tácito de expertos sénior en conjuntos de datos explícitos de cadena de pensamiento (CoT). Este ajuste fino especializado dota a los LLM de capacidades de razonamiento de nivel experto, al tiempo que permite a los bancos conservar sus activos clave, garantizando así la soberanía de los datos y el cumplimiento normativo.
• Ingeniería de agentes: utilice el MoA para equilibrar la rigidez y la flexibilidad al gestionar flujos de trabajo complejos.
Hemos implementado una arquitectura de aplicaciones multiagente basada en el marco de trabajo *Mixture of Agents* (MoA), utilizando un sistema de reconocimiento de intenciones de dos niveles (enrutamiento global y por dominio). Cuando un cliente interrumpe el flujo de trabajo actual o se desvía de él, el sistema programa las tareas de manera flexible mediante configuraciones de parámetros globales. Esta alternancia dinámica de tareas garantiza tanto la flexibilidad de las conversaciones (resultados de negocio) como el cumplimiento estricto de la ejecución mediante máquinas de estados.
• Ingeniería de seguridad: establecer un mecanismo de seguridad de cinco capas bajo la arquitectura de confianza cero (zero-trust).
Cuando un agente cuenta con capacidades de programación entre sistemas y planificación autónoma, su funcionamiento debe estar estrictamente regulado. Hemos integrado un mecanismo de ingeniería de seguridad de cinco capas para la ejecución del agente, que abarca desde el aislamiento de procesos en la capa base hasta la segmentación del espacio de trabajo bajo el modelo de confianza cero (zero-trust), el bloqueo de configuraciones y un motor de salvaguardas que bloquea inyecciones maliciosas. Este mecanismo garantiza que el agente opere de forma segura y continua mientras impulsa resultados empresariales.
Los sistemas convencionales de atención al cliente presentan cuellos de botella, tales como una comprensión deficiente y flujos de trabajo rígidos. Si un cliente interrumpe un flujo basado en guiones, la sesión se interrumpe.
Al combinar la ingeniería de agentes y la ingeniería de capacidad de cómputo bajo el marco MoA, hemos implementado un sistema de reconocimiento de intenciones de dos niveles. La capa de enrutamiento global realiza una clasificación semántica preliminar en cuestión de milisegundos, mientras que la capa de enrutamiento de dominio transfiere el contexto a agentes especializados para captar la intención exacta detrás de consultas breves o fragmentadas. Si un cliente interrumpe una operación de gestión patrimonial para consultar los extractos de su tarjeta de crédito, el sistema activa dinámicamente un cambio de contexto multiagente en menos de 500 ms, activando el agente de facturación y sincronizando la memoria de forma fluida.
El control de riesgos financieros exige una precisión extremadamente alta y la capacidad de explicar el cumplimiento normativo, sin margen para las «alucinaciones» de los LLM. Durante la transformación inteligente de los procesos de aprobación de préstamos corporativos, observamos que los LLM de propósito general registraban bajas tasas de adopción debido a su falta de razonamiento específico del dominio.
Mediante la ingeniería de modelos, trasladamos explícitamente la metodología de "marco unificado multidimensional" empleada por los expertos sénior en control de riesgos. Aprovechando un flujo de datos de ciclo cerrado, transformamos dicha experiencia en conjuntos de datos estructurados de Cadena de Pensamiento (CoT), basándonos en la ingeniería de características, la verificación de calidad y la síntesis de datos. La lógica de razonamiento de los modelos ajustados se alinea estrechamente con los patrones cognitivos de los expertos sénior, lo que eleva la tasa final de adopción de agentes por parte del equipo de control de riesgos a más del 85 %.
Para afrontar el entorno abierto e incierto de las operaciones interdepartamentales e intersistémicas, los bancos pueden transformar su marco de ejecución de tareas a largo plazo en una "superaplicación" integrada de nivel empresarial denominada BankClaw, la cual actúa como un superagente integral.
Dado que las aplicaciones Claw suelen consumir una enorme cantidad de tokens, la ingeniería de potencia de cómputo permite una compresión dinámica de tokens adaptada a cada escenario. Para equilibrar perfectamente las exigencias de alta precisión de los distintos flujos de trabajo en cuanto a la actualidad del contexto, hemos incorporado una gestión jerárquica del ciclo de vida basada en el tiempo de vida (TTL), aplicando gradientes de compresión precisos y controles de retención en caché ajustados a cada situación.
• Servicios fundamentales (p. ej., gestión de riesgos, cumplimiento normativo y aprobación de préstamos): Se aplica una tasa de compresión obligatoria del 85 % para mantener el contexto extremadamente conciso. Dado que el razonamiento entre sistemas y de múltiples interacciones requiere una gran estabilidad del contexto, el sistema utiliza un tiempo de vida (TTL) de 30 minutos. Esto evita que una expiración prematura de la caché desencadene costes adicionales de recarga durante tareas complejas de ciclo largo.
• Servicios especializados (p. ej., operaciones diarias, análisis de datos multidimensionales): Se aplica una tasa de compresión moderada del 75 %. Dado que los datos de mercado y operativos cambian con frecuencia, el sistema utiliza un TTL de 10 minutos. Esto garantiza la reutilización eficiente de la caché KV para análisis continuos de alta frecuencia y, al mismo tiempo, libera periódicamente los recursos caducados, evitando la saturación excesiva de la caché (*cache thrashing*) provocada por contextos largos persistentes en la memoria.
• Servicios generales (p. ej., preguntas y respuestas generales para empleados): El sistema mantiene una tasa de compresión base del 65 %, preservando una mayor redundancia semántica para mantener la naturalidad y fluidez de las interacciones. Para consultas altamente específicas y, a menudo, de sesión única, el sistema aplica un TTL ultracorto de 3 minutos (o un modo efímero), liberando rápidamente todos los recursos de hardware ocupados por los tokens una vez finalizada la sesión.
Además, para mitigar los riesgos de escalada de privilegios y bucles de ejecución infinitos cuando los agentes autónomos interactúan con API entre sistemas, la ingeniería de seguridad emplea un control de llamadas secundario para interrumpir los bucles en tiempo real. Al combinarse con la segmentación de espacios de trabajo basada en el modelo de confianza cero (zero-trust), este enfoque elimina las preocupaciones de cumplimiento relacionadas con la fuga de datos entre departamentos, logrando un equilibrio perfecto entre un control de costes extremo y una seguridad y cumplimiento absolutos.
En conclusión, el despliegue a gran escala de modelos de lenguaje de gran tamaño (LLM) en operaciones financieras clave no se centra en el número de parámetros ni en características técnicas puras. Por el contrario, es el resultado de una profunda integración entre la ingeniería de potencia de cómputo, la ingeniería de datos, la ingeniería de modelos, la ingeniería de agentes y la ingeniería de seguridad, lo que da lugar a sistemas optimizados que ofrecen una experiencia superior al cliente.
Aviso legal: Las opiniones expresadas en este artículo pertenecen al autor y no reflejan necesariamente la política oficial, la postura, los productos ni las tecnologías de Huawei Technologies Co., Ltd. Si desea obtener más información sobre los productos y tecnologías de Huawei Technologies Co., Ltd., visite nuestro sitio web e.huawei.com o póngase en contacto con nosotros.