Los grandes modelos están profundizando en la industria financiera, pasando de un entusiasmo desbordante a un regreso a la racionalidad.

Desde que ChatGPT fue lanzado, ha generado una considerable ansiedad en la industria financiera. Este sector, que tiene fe en la tecnología, teme quedar atrás en medio de la rápida evolución de las tendencias. Esta atmósfera de tensión se ha extendido incluso a lugares inesperados. Un profesional del sector reveló que, durante un viaje de negocios a Dali en mayo, incluso en un templo, pudo encontrar a otros profesionales financieros discutiendo sobre modelos grandes.

Sin embargo, esta ansiedad se está calmando gradualmente, y las ideas de la gente se están volviendo más claras y racionales. Un experto en banca describió varias etapas de la actitud de la industria financiera hacia los grandes modelos este año: de febrero a marzo, había una sensación general de ansiedad, miedo a quedarse atrás; de abril a mayo, se formaron equipos para llevar a cabo trabajos relacionados; en los meses siguientes, encontraron dificultades en la búsqueda de dirección y en la implementación, volviéndose más racionales; ahora, comienzan a centrarse en las empresas de referencia, intentando validar escenarios de aplicación probados.

Una nueva tendencia es que muchas instituciones financieras han comenzado a dar importancia a los grandes modelos desde una perspectiva estratégica. Según estadísticas incompletas, al menos 11 bancos en las empresas que cotizan en el A-share han mencionado claramente en sus últimos informes semestrales que están explorando la aplicación de grandes modelos. A partir de las acciones recientes, también están realizando un pensamiento y una planificación de caminos más claros desde una perspectiva estratégica y de diseño de alto nivel.

De la euforia a la racionalidad

A principios de año, cuando ChatGPT apareció por primera vez, la emoción de la industria financiera por los grandes modelos era alta, pero en realidad su comprensión sobre la esencia y las formas de aplicación era muy limitada. Algunos grandes bancos tomaron la delantera, comenzando a hacer todo tipo de publicidad para "aprovechar la moda". Al mismo tiempo, los departamentos de tecnología de algunas instituciones financieras líderes estaban activos en discusiones con grandes empresas sobre la construcción de grandes modelos. Generalmente, esperaban construir sus propios grandes modelos y planteaban preguntas sobre la creación de conjuntos de datos, la compra de servidores y los métodos de entrenamiento.

Después de mayo, la situación comenzó a cambiar gradualmente. Debido a la escasez de recursos de computación y a los altos costos, muchas instituciones financieras comenzaron a cambiar de la simple esperanza de construir su propia infraestructura a un enfoque más centrado en el valor de la aplicación. Ahora, cada institución financiera está prestando atención a la situación y los resultados del uso de modelos grandes por parte de otras instituciones.

En concreto, las empresas de diferentes tamaños han seguido diferentes caminos. Las grandes instituciones financieras, que cuentan con una gran cantidad de datos financieros y escenarios de aplicación, pueden introducir modelos de base avanzados, construir sus propios modelos empresariales y, al mismo tiempo, utilizar un enfoque de ajuste fino para formar modelos de tareas en campos especializados, lo que permite una rápida habilitación de los negocios. Las instituciones financieras pequeñas y medianas, por otro lado, pueden considerar el retorno de la inversión y, según sea necesario, introducir APIs de nube pública de varios modelos grandes o servicios de implementación privada para satisfacer directamente las necesidades comerciales.

Sin embargo, debido a los altos requisitos de cumplimiento de datos, seguridad y confiabilidad en la industria financiera, algunas personas creen que el avance en la implementación de grandes modelos en este sector es ligeramente inferior a lo esperado a principios de año. Un experto afirmó que inicialmente predecían que la industria financiera podría adoptar a gran escala los grandes modelos primero, pero la realidad es que la velocidad de aplicación en la industria financiera no es tan rápida como en sectores como el legal o el de reclutamiento.

Para abordar las diversas limitaciones en el proceso de implementación de grandes modelos, algunas instituciones financieras han comenzado a tomar medidas. En términos de potencia de cálculo, han surgido varias soluciones en la industria:

1. Construir capacidad de cálculo directamente, con un costo más alto pero buena seguridad, adecuado para grandes instituciones financieras con sólidos recursos que desean construir modelos grandes para la industria o la empresa.

2. Implementación de poder de cómputo híbrido, aceptando la llamada a la interfaz de servicios de modelos grandes desde la nube pública sin que los datos sensibles salgan del dominio, al mismo tiempo que se procesan los servicios de datos locales a través de implementaciones privatizadas. Este enfoque tiene un costo relativamente bajo y es adecuado para instituciones financieras medianas y pequeñas con recursos limitados que aplican únicamente según demanda.

Ante la escasez y los altos precios de las tarjetas GPU que enfrentan las pequeñas y medianas instituciones, las autoridades están explorando la creación de una infraestructura de modelos grandes orientada a la industria de valores, concentrando recursos como el poder de cálculo y modelos grandes generales, para que las pequeñas y medianas instituciones financieras también puedan utilizar los servicios de modelos grandes y evitar el rezago tecnológico.

Además de la capacidad de cómputo, con la exploración de la implementación de grandes modelos, muchas instituciones financieras también han fortalecido la gobernanza de datos. Cada vez más instituciones financieras de tamaño mediano están comenzando a construir plataformas de datos y sistemas de gobernanza de datos. Algunos expertos creen que construir un sistema de gobernanza de datos completo y una plataforma de tecnología de lago de datos será una dirección importante para la construcción de TI de las instituciones financieras en el futuro.

Algunos bancos están resolviendo problemas de datos mediante la combinación de modelos grandes y MLOps. Por ejemplo, un gran banco ha adoptado un modelo MLOps para establecer un sistema de ciclo de datos de modelos grandes, logrando la automatización de todo el proceso, así como la gestión unificada y el procesamiento eficiente de datos heterogéneos de múltiples fuentes. Se informa que actualmente han construido y acumulado un conjunto de datos de entrenamiento de alta calidad de 2.6TB.

Desde la perspectiva del entorno

En los últimos seis meses, los proveedores de servicios de modelos grandes y las instituciones financieras han estado buscando activamente escenarios de aplicación, explorando campos como la oficina inteligente, el desarrollo inteligente, el marketing inteligente, el servicio al cliente inteligente, la investigación de inversiones inteligente, el control de riesgos inteligente y el análisis de demanda.

Cada institución financiera tiene ricas ideas sobre los grandes modelos. Un banco afirma que ya ha implementado aplicaciones en más de 20 escenarios, otro banco indica que ha realizado pruebas en más de 30 escenarios, y una compañía de valores está explorando la integración de grandes modelos con la plataforma de personas digitales virtuales lanzada anteriormente.

Pero en el proceso de implementación real, el consenso en la industria es primero interno y luego externo. Después de todo, en la etapa actual, la tecnología de modelos grandes no es madura, existen problemas como las alucinaciones, y la industria financiera es un campo de alta regulación, alta seguridad y alta confiabilidad.

Expertos sugieren que las instituciones financieras deberían priorizar la aplicación de grandes modelos en la comprensión y creación de análisis de textos e imágenes financieras en escenarios intensivos en inteligencia, utilizando asistentes en una colaboración hombre-máquina para mejorar la eficiencia laboral del personal.

Actualmente, el asistente de código se ha implementado en varias instituciones financieras. Por ejemplo, un banco ha construido un sistema de desarrollo inteligente basado en un modelo grande, donde la cantidad de código generado por el asistente de codificación representa el 40% del total de código. En el sector de seguros, hay empresas que han desarrollado un complemento de programación asistida basado en un modelo grande, que se integra directamente en las herramientas de desarrollo internas.

En el ámbito de la oficina inteligente también hay varios casos de implementación. Un producto de gran modelo financiero se ha lanzado en un importante banco y ya se ha promovido a cientos de sucursales, con una tasa de adopción de respuestas superior al 85%. Las soluciones relacionadas también se han replicado rápidamente en otros bancos e instituciones financieras.

Sin embargo, los expertos de la industria consideran que estos escenarios que ya se han implementado ampliamente, en realidad aún no son aplicaciones centrales de las instituciones financieras. Los grandes modelos aún tienen un cierto camino por recorrer para integrarse profundamente en el nivel de negocio de la industria financiera. Escenarios como marketing, gestión de riesgos y cumplimiento son partes donde los grandes modelos podrían traer cambios, y también donde se encuentran las necesidades de los clientes financieros, pero en la actualidad, estos trabajos aún dependen de la mejora de las capacidades de los proveedores de grandes modelos subyacentes.

Se prevé que para finales de este año aparezcan proyectos de construcción o información sobre licitaciones que utilicen verdaderamente grandes modelos en escenarios de negocios centrales de instituciones financieras.

Mientras tanto, se están llevando a cabo algunos cambios en el diseño de alto nivel. Todo el sistema inteligente y digital del futuro se volverá a construir sobre la base de grandes modelos. Esto requiere que la industria financiera reestructure sus sistemas en el proceso de implementación de grandes modelos. Al mismo tiempo, no se debe ignorar el valor de los modelos pequeños tradicionales, sino que se debe permitir la colaboración entre grandes y pequeños modelos.

Actualmente, varias instituciones financieras líderes han construido un marco de sistema jerárquico que incluye múltiples niveles, como la capa de infraestructura, la capa de modelo, la capa de servicio de modelo grande y la capa de aplicación, basado en modelos grandes. Estos sistemas de marco generalmente tienen dos características principales: primero, el modelo grande ejerce capacidades centrales, utilizando modelos tradicionales como habilidades para ser invocadas; segundo, la capa de modelo grande adopta una estrategia de múltiples modelos, comparando internamente para seleccionar el efecto óptimo.

La brecha de talento sigue siendo enorme

La aplicación de modelos grandes ya ha comenzado a plantear algunos desafíos y cambios en la estructura del personal de la industria financiera. Algunas empresas de tecnología financiera han despedido a más de 300 analistas de grandes datos desde principios de este año hasta finales de mayo. Algunas tareas de recopilación y síntesis de información que antes eran realizadas por pasantes ahora pueden completarse mediante modelos grandes.

Sin embargo, algunos bancos no desean que los grandes modelos resulten en despidos. Esperan que los grandes modelos puedan traer nuevas oportunidades, mejorar la calidad del servicio y la eficiencia del trabajo de los empleados, al mismo tiempo que liberan a algunos empleados para que hagan trabajos de mayor valor.

Esta consideración se debe, por un lado, a la necesidad de estabilidad en el personal y la estructura, y por otro lado, a que hay muchas vacantes en varios puestos dentro de la industria. Los grandes bancos tienen mucho trabajo por hacer, y algunos plazos de las demandas de TI incluso se han extendido hasta finales del próximo año. Esperan que los grandes modelos puedan ayudar a los empleados a mejorar su eficiencia y velocidad, en lugar de provocar una reducción de personal.

Más importante aún, la demanda de grandes modelos ha aumentado drásticamente, pero la escasez de talentos difícilmente puede coincidir en un corto período de tiempo. Un alto ejecutivo bancario comentó que, entre los nuevos empleados contratados recientemente, hay un alto porcentaje que estudia en el campo de la IA, pero son pocos los talentos que entienden los grandes modelos.

Hay expertos que opinan que la demanda de talento para aplicar directamente modelos grandes es relativamente simple, y que principalmente se necesita personas que sepan formular preguntas. Pero si se desea construir un modelo grande específico para la industria o la empresa, se requiere que las instituciones financieras cuenten con un equipo técnico especializado en modelos grandes.

Para hacer frente a la falta de talento, algunas instituciones ya han tomado medidas. Algunas empresas se han unido al equipo de recursos humanos del laboratorio bancario para diseñar una serie de cursos de formación, como la optimización de Prompt, el ajuste fino, la operación de grandes modelos, etc., y han colaborado con varios departamentos para establecer grupos de proyectos conjuntos que impulsen la mejora de las capacidades del personal empresarial.

En este proceso, la estructura de personal de las instituciones financieras también experimentará algunos ajustes y cambios. Los desarrolladores que utilicen modelos grandes pueden tener más facilidad para establecerse en este entorno que aquellos que no los utilizan.

En general, aunque la tecnología de grandes modelos presenta oportunidades y desafíos para la industria financiera, para lograr un cambio de paradigma real, se necesita un equipo dentro del sistema financiero que integre profundamente las necesidades internas y realice innovaciones significativas.