Большие модели углубляются в финансовую сферу, от высоких эмоций до рационального возвращения
С момента появления ChatGPT в финансовой сфере возникла значительная тревога. Эта отрасль, верящая в технологии, беспокоится о том, что её оставят позади быстро развивающиеся тенденции времени. Эта напряженная атмосфера в какой-то момент распространилась на неожиданные места. Один из участников отрасли сообщил, что в мае, находясь в Дали в командировке, она даже встретила финансовых специалистов, обсуждающих большие модели, в храме.
Однако это беспокойство постепенно утихается, и мысли людей становятся более ясными и рациональными. Эксперт в банковском деле описал несколько этапов отношения финансовой отрасли к большим моделям в этом году: в феврале-марте ощущалось общее беспокойство, страх отставания; в апреле-мае все начали создавать команды для работы в этом направлении; в последующие месяцы, сталкиваясь с трудностями в поиске направления и реализации, они становились более рациональными; сейчас они начинают обращать внимание на эталонные компании и пытаются проверить примененные сценарии.
Новая тенденция заключается в том, что многие финансовые учреждения начали стратегически уделять внимание большим моделям. По неполным данным, как минимум 11 банков из числа акционерных компаний A-share в своих последних полугодовых отчетах ясно указали, что они исследуют применение больших моделей. Судя по недавним действиям, они также начинают более четко обдумывать и планировать пути на уровне стратегии и верхнего дизайна.
От пылкого энтузиазма к рациональному возвращению
В начале года, когда ChatGPT только появился, финансовая отрасль проявила большой интерес к крупным моделям, но на самом деле понимание их сущности и способов применения было очень ограниченным. Некоторые крупные банки первыми начали действовать, запуская различные рекламные кампании, чтобы "воспользоваться популярностью". В то же время, технологические отделы некоторых ведущих финансовых учреждений активно обсуждали с крупными компаниями вопросы строительства крупных моделей. Они в целом надеются создать собственные крупные модели и задают вопросы о создании наборов данных, закупке серверов и методах обучения.
После мая ситуация постепенно изменилась. В условиях нехватки вычислительных ресурсов и высоких затрат многие финансовые учреждения начали переходить от простого желания построить собственные решения к более внимательному изучению прикладной ценности. Теперь каждое финансовое учреждение обращает внимание на опыт и результаты использования больших моделей другими учреждениями.
Конкретно, различные компании разного размера выбрали разные пути. Крупные финансовые учреждения, обладающие огромным объемом финансовых данных и приложений, могут внедрить передовые базовые модели, создать корпоративную большую модель и одновременно использовать метод дообучения для формирования больших моделей задач в профессиональной области, быстро усиливая бизнес. Малые и средние финансовые учреждения могут учесть возврат инвестиций и по мере необходимости использовать облачные API различных крупных моделей или услуги по приватной развертке, чтобы напрямую удовлетворить бизнес-требования.
Однако, из-за высоких требований финансовой отрасли к соблюдению данных, безопасности и надежности, некоторые люди считают, что прогресс внедрения крупных моделей в этой отрасли на самом деле несколько ниже, чем ожидалось в начале года. Один из экспертов отметил, что они изначально прогнозировали, что финансовая отрасль может стать первой, кто массово использует крупные модели, но фактическая ситуация такова, что темпы применения в финансовой сфере не так быстры, как в таких отраслях, как право или найм.
Чтобы решить различные ограничения в процессе внедрения больших моделей, некоторые финансовые учреждения уже начали принимать меры. В области вычислительной мощности в отрасли появились несколько решений:
Прямое строительство вычислительной мощности, высокая стоимость, но хорошая безопасность, подходит для мощных финансовых учреждений, желающих создать собственную отрасль или крупную модель предприятия.
Смешанная развертка вычислительной мощности, при которой чувствительные данные не покидают домен, принимает вызовы интерфейса услуг больших моделей из публичного облака, одновременно обрабатывая локальные данные через приватное развертывание. Этот подход имеет низкие затраты и подходит для малых и средних финансовых учреждений с относительно ограниченным бюджетом, использующих приложения по мере необходимости.
В ответ на нехватку и высокие цены на GPU-карты, с которыми сталкиваются малые и средние учреждения, соответствующие органы исследуют возможность создания инфраструктуры больших моделей, ориентированной на сектора ценных бумаг, сосредоточив вычислительные мощности и ресурсы общих больших моделей, чтобы малые и средние финансовые учреждения также могли использовать услуги больших моделей и избежать отставания в технологиях.
Помимо вычислительной мощности, в связи с исследованиями по внедрению больших моделей, многие финансовые учреждения также усиливают управление данными. Все больше финансовых учреждений среднего размера начинают строить платформы данных и системы управления данными. Эксперты считают, что создание完善ной системы управления данными и платформы технологий «озера данных» станет важным направлением ИТ-строительства для финансовых учреждений в будущем.
Некоторые банки решают проблемы с данными с помощью больших моделей в сочетании с MLOps. Например, один крупный банк использует модель MLOps для создания замкнутой системы данных больших моделей, что позволяет автоматизировать весь процесс, а также осуществлять унифицированное управление и эффективную обработку многосource гетерогенных данных. Сообщается, что в настоящее время уже создано и накоплено 2,6 ТБ высококачественного обучающего набора данных.
Вход в сцену с внешней стороны
В последние полгода поставщики услуг больших моделей и финансовые учреждения активно искали сферы применения, исследуя такие области, как умный офис, интеллектуальная разработка, умный маркетинг, интеллектуальное обслуживание клиентов, умные инвестиции и исследования, интеллектуальный риск-менеджмент, анализ потребностей и другие.
Каждое финансовое учреждение имеет богатые идеи о крупных моделях. Один банк утверждает, что уже внедрил приложения в более чем 20 сценариях, другой банк сообщает, что проводил пилотные проекты в более чем 30 сценариях, а одна из инвестиционных компаний изучает возможность интеграции крупных моделей с ранее запущенной платформой виртуальных цифровых людей.
Но в процессе реального внедрения отраслевое согласие заключается в том, что сначала нужно работать внутренне, а затем внешне. В конце концов, на текущем этапе технологии больших моделей еще не зрелые, существуют такие проблемы, как галлюцинации, а финансовая отрасль является областью с жестким регулированием, высокой безопасностью и высокой степенью доверия.
Некоторые эксперты рекомендуют финансовым учреждениям в первую очередь применять большие модели в интеллектуально емких сценариях анализа и понимания финансовых текстов и финансовых изображений, в форме ассистента, чтобы повысить эффективность работы сотрудников в сотрудничестве с машинами.
В настоящее время кодовый помощник внедрен во многих финансовых учреждениях. Например, один банк создал интеллектуальную систему разработки на основе больших моделей, где доля кода, сгенерированного кодовым помощником, составляет 40% от общего объема кода. В страховом секторе одна компания разработала плагин для вспомогательного программирования на основе больших моделей, который непосредственно интегрирован во внутренние инструменты разработки.
В области умного офиса также есть много реальных примеров. Продукт большого финансового модели, запущенный в одном из крупных банков, уже был распространен на несколько сотен отделений, а уровень принятия ответов превышает 85%. Соответствующие решения также быстро копируются в другие банки и финансовые учреждения.
Однако, эксперты в отрасли считают, что эти уже широко реализованные сценарии на самом деле еще не являются основными приложениями финансовых учреждений. Большим моделям еще предстоит продвинуться в бизнес-слой финансовой отрасли. Сценарии маркетинга, управления рисками, соблюдения нормативных требований и другие - это те области, где большие модели могут привести к преобразованиям, а также являются частью потребностей финансовых клиентов, но в настоящее время эти работы все еще зависят от повышения возможностей поставщиков базовых больших моделей.
Эксперты прогнозируют, что до конца этого года появится ряд проектов, использующих большие модели в ключевых бизнес-сценариях финансовых учреждений, или информация о тендерах.
В то же время происходят изменения на уровне верхнего проектирования. Вся будущая интеллектуальная и цифровая система будет заново основана на больших моделях. Это требует от финансовой отрасли пересмотра системы в процессе внедрения больших моделей. В то же время нельзя игнорировать ценность традиционных малых моделей, и необходимо обеспечить их совместную работу с большими моделями.
В настоящее время несколько ведущих финансовых учреждений на основе больших моделей создали многослойные системные рамки, включающие уровень инфраструктуры, уровень моделей, уровень обслуживания больших моделей и уровень приложений. Эти системные рамки имеют две основные характеристики: во-первых, большие модели выполняют центральную функцию, используя традиционные модели в качестве навыков; во-вторых, уровень больших моделей использует стратегию многомоделирования, проводя внутреннее сравнение и выбирая наилучший результат.
Пробел в кадрах по-прежнему огромен
Применение больших моделей уже начинает вызывать некоторые вызовы и изменения в структуре кадров финансовой отрасли. Финансовые технологические компании уволили более 300 аналитиков больших данных с начала этого года до конца мая. Некоторые задачи по обобщению информации, которые ранее выполняли стажеры, теперь могут выполняться с помощью больших моделей.
Однако некоторые банки не хотят, чтобы большие модели приводили к сокращению штата. Они надеются, что большие модели смогут создать новые возможности, повысить качество обслуживания сотрудников и эффективность работы, а также освободить некоторых сотрудников для выполнения более ценных задач.
Этот подход обусловлен как соображениями стабильности кадров и структуры, так и тем, что в отрасли существует нехватка специалистов на многих позициях. В крупных банках есть много работы, которую необходимо выполнить, и сроки выполнения некоторых IT-запросов даже отложены до конца следующего года. Они надеются, что большие модели помогут сотрудникам повысить эффективность и скорость работы, а не приведут к сокращению штата.
Более того, спрос на большие модели резко увеличился, но в короткие сроки предложение дефицитных специалистов трудно сопоставимо. Один из банковских руководителей отметил, что среди недавно нанятых сотрудников очень высока доля изучающих область ИИ, но специалистов, разбирающихся в больших моделях, очень мало.
Некоторые эксперты считают, что потребность в специалистах, которые напрямую применяют большие модели, относительно проста и в основном требует умения задавать вопросы. Однако, если необходимо создать собственную отраслевую или корпоративную большую модель, то финансовым учреждениям нужна квалифицированная команда по технологиям больших моделей.
Чтобы справиться с нехваткой кадров, некоторые организации уже принимают меры. Некоторые компании объединили свои усилия с командой по управлению человеческими ресурсами банковской лаборатории для разработки серии учебных курсов, таких как настройка Prompt, дообучение и эксплуатация больших моделей, а также сотрудничали с несколькими отделами для создания совместных проектных групп, направленных на повышение квалификации сотрудников предприятий.
В этом процессе структура персонала финансовых учреждений также претерпит некоторые изменения и преобразования. Разработчики, использующие большие модели, могут легче адаптироваться в этой среде, чем те, кто их не использует.
В целом, хотя технологии больших моделей представляют собой возможности и вызовы для финансовой отрасли, для того чтобы действительно добиться изменения парадигмы, необходимо, чтобы внутри финансовой системы была команда, глубоко интегрирующая внутренние потребности и осуществляющая значительные инновации.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
10 Лайков
Награда
10
4
Поделиться
комментарий
0/400
RektRecovery
· 12ч назад
назвал это... еще один предсказуемый цикл хайпа в театре безопасности финтеха. риск поверхности расширяется за 3..2..1...
Посмотреть ОригиналОтветить0
GasFeeSobber
· 12ч назад
Эти неудачники от тревоги до бездействия.
Посмотреть ОригиналОтветить0
SilentAlpha
· 12ч назад
Модель тоже не спасет неудачников
Посмотреть ОригиналОтветить0
TokenBeginner'sGuide
· 12ч назад
Вежливое напоминание: Инвестирование в проекты ИИ с перегревом требует осторожности, согласно данным CCID, 87% активов, заявляющих о применении ИИ, имеют высокий риск.
Большие модели в финансовой сфере: от повышенного интереса к рациональному применению
Большие модели углубляются в финансовую сферу, от высоких эмоций до рационального возвращения
С момента появления ChatGPT в финансовой сфере возникла значительная тревога. Эта отрасль, верящая в технологии, беспокоится о том, что её оставят позади быстро развивающиеся тенденции времени. Эта напряженная атмосфера в какой-то момент распространилась на неожиданные места. Один из участников отрасли сообщил, что в мае, находясь в Дали в командировке, она даже встретила финансовых специалистов, обсуждающих большие модели, в храме.
Однако это беспокойство постепенно утихается, и мысли людей становятся более ясными и рациональными. Эксперт в банковском деле описал несколько этапов отношения финансовой отрасли к большим моделям в этом году: в феврале-марте ощущалось общее беспокойство, страх отставания; в апреле-мае все начали создавать команды для работы в этом направлении; в последующие месяцы, сталкиваясь с трудностями в поиске направления и реализации, они становились более рациональными; сейчас они начинают обращать внимание на эталонные компании и пытаются проверить примененные сценарии.
Новая тенденция заключается в том, что многие финансовые учреждения начали стратегически уделять внимание большим моделям. По неполным данным, как минимум 11 банков из числа акционерных компаний A-share в своих последних полугодовых отчетах ясно указали, что они исследуют применение больших моделей. Судя по недавним действиям, они также начинают более четко обдумывать и планировать пути на уровне стратегии и верхнего дизайна.
От пылкого энтузиазма к рациональному возвращению
В начале года, когда ChatGPT только появился, финансовая отрасль проявила большой интерес к крупным моделям, но на самом деле понимание их сущности и способов применения было очень ограниченным. Некоторые крупные банки первыми начали действовать, запуская различные рекламные кампании, чтобы "воспользоваться популярностью". В то же время, технологические отделы некоторых ведущих финансовых учреждений активно обсуждали с крупными компаниями вопросы строительства крупных моделей. Они в целом надеются создать собственные крупные модели и задают вопросы о создании наборов данных, закупке серверов и методах обучения.
После мая ситуация постепенно изменилась. В условиях нехватки вычислительных ресурсов и высоких затрат многие финансовые учреждения начали переходить от простого желания построить собственные решения к более внимательному изучению прикладной ценности. Теперь каждое финансовое учреждение обращает внимание на опыт и результаты использования больших моделей другими учреждениями.
Конкретно, различные компании разного размера выбрали разные пути. Крупные финансовые учреждения, обладающие огромным объемом финансовых данных и приложений, могут внедрить передовые базовые модели, создать корпоративную большую модель и одновременно использовать метод дообучения для формирования больших моделей задач в профессиональной области, быстро усиливая бизнес. Малые и средние финансовые учреждения могут учесть возврат инвестиций и по мере необходимости использовать облачные API различных крупных моделей или услуги по приватной развертке, чтобы напрямую удовлетворить бизнес-требования.
Однако, из-за высоких требований финансовой отрасли к соблюдению данных, безопасности и надежности, некоторые люди считают, что прогресс внедрения крупных моделей в этой отрасли на самом деле несколько ниже, чем ожидалось в начале года. Один из экспертов отметил, что они изначально прогнозировали, что финансовая отрасль может стать первой, кто массово использует крупные модели, но фактическая ситуация такова, что темпы применения в финансовой сфере не так быстры, как в таких отраслях, как право или найм.
Чтобы решить различные ограничения в процессе внедрения больших моделей, некоторые финансовые учреждения уже начали принимать меры. В области вычислительной мощности в отрасли появились несколько решений:
Прямое строительство вычислительной мощности, высокая стоимость, но хорошая безопасность, подходит для мощных финансовых учреждений, желающих создать собственную отрасль или крупную модель предприятия.
Смешанная развертка вычислительной мощности, при которой чувствительные данные не покидают домен, принимает вызовы интерфейса услуг больших моделей из публичного облака, одновременно обрабатывая локальные данные через приватное развертывание. Этот подход имеет низкие затраты и подходит для малых и средних финансовых учреждений с относительно ограниченным бюджетом, использующих приложения по мере необходимости.
В ответ на нехватку и высокие цены на GPU-карты, с которыми сталкиваются малые и средние учреждения, соответствующие органы исследуют возможность создания инфраструктуры больших моделей, ориентированной на сектора ценных бумаг, сосредоточив вычислительные мощности и ресурсы общих больших моделей, чтобы малые и средние финансовые учреждения также могли использовать услуги больших моделей и избежать отставания в технологиях.
Помимо вычислительной мощности, в связи с исследованиями по внедрению больших моделей, многие финансовые учреждения также усиливают управление данными. Все больше финансовых учреждений среднего размера начинают строить платформы данных и системы управления данными. Эксперты считают, что создание完善ной системы управления данными и платформы технологий «озера данных» станет важным направлением ИТ-строительства для финансовых учреждений в будущем.
Некоторые банки решают проблемы с данными с помощью больших моделей в сочетании с MLOps. Например, один крупный банк использует модель MLOps для создания замкнутой системы данных больших моделей, что позволяет автоматизировать весь процесс, а также осуществлять унифицированное управление и эффективную обработку многосource гетерогенных данных. Сообщается, что в настоящее время уже создано и накоплено 2,6 ТБ высококачественного обучающего набора данных.
Вход в сцену с внешней стороны
В последние полгода поставщики услуг больших моделей и финансовые учреждения активно искали сферы применения, исследуя такие области, как умный офис, интеллектуальная разработка, умный маркетинг, интеллектуальное обслуживание клиентов, умные инвестиции и исследования, интеллектуальный риск-менеджмент, анализ потребностей и другие.
Каждое финансовое учреждение имеет богатые идеи о крупных моделях. Один банк утверждает, что уже внедрил приложения в более чем 20 сценариях, другой банк сообщает, что проводил пилотные проекты в более чем 30 сценариях, а одна из инвестиционных компаний изучает возможность интеграции крупных моделей с ранее запущенной платформой виртуальных цифровых людей.
Но в процессе реального внедрения отраслевое согласие заключается в том, что сначала нужно работать внутренне, а затем внешне. В конце концов, на текущем этапе технологии больших моделей еще не зрелые, существуют такие проблемы, как галлюцинации, а финансовая отрасль является областью с жестким регулированием, высокой безопасностью и высокой степенью доверия.
Некоторые эксперты рекомендуют финансовым учреждениям в первую очередь применять большие модели в интеллектуально емких сценариях анализа и понимания финансовых текстов и финансовых изображений, в форме ассистента, чтобы повысить эффективность работы сотрудников в сотрудничестве с машинами.
В настоящее время кодовый помощник внедрен во многих финансовых учреждениях. Например, один банк создал интеллектуальную систему разработки на основе больших моделей, где доля кода, сгенерированного кодовым помощником, составляет 40% от общего объема кода. В страховом секторе одна компания разработала плагин для вспомогательного программирования на основе больших моделей, который непосредственно интегрирован во внутренние инструменты разработки.
В области умного офиса также есть много реальных примеров. Продукт большого финансового модели, запущенный в одном из крупных банков, уже был распространен на несколько сотен отделений, а уровень принятия ответов превышает 85%. Соответствующие решения также быстро копируются в другие банки и финансовые учреждения.
Однако, эксперты в отрасли считают, что эти уже широко реализованные сценарии на самом деле еще не являются основными приложениями финансовых учреждений. Большим моделям еще предстоит продвинуться в бизнес-слой финансовой отрасли. Сценарии маркетинга, управления рисками, соблюдения нормативных требований и другие - это те области, где большие модели могут привести к преобразованиям, а также являются частью потребностей финансовых клиентов, но в настоящее время эти работы все еще зависят от повышения возможностей поставщиков базовых больших моделей.
Эксперты прогнозируют, что до конца этого года появится ряд проектов, использующих большие модели в ключевых бизнес-сценариях финансовых учреждений, или информация о тендерах.
В то же время происходят изменения на уровне верхнего проектирования. Вся будущая интеллектуальная и цифровая система будет заново основана на больших моделях. Это требует от финансовой отрасли пересмотра системы в процессе внедрения больших моделей. В то же время нельзя игнорировать ценность традиционных малых моделей, и необходимо обеспечить их совместную работу с большими моделями.
В настоящее время несколько ведущих финансовых учреждений на основе больших моделей создали многослойные системные рамки, включающие уровень инфраструктуры, уровень моделей, уровень обслуживания больших моделей и уровень приложений. Эти системные рамки имеют две основные характеристики: во-первых, большие модели выполняют центральную функцию, используя традиционные модели в качестве навыков; во-вторых, уровень больших моделей использует стратегию многомоделирования, проводя внутреннее сравнение и выбирая наилучший результат.
Пробел в кадрах по-прежнему огромен
Применение больших моделей уже начинает вызывать некоторые вызовы и изменения в структуре кадров финансовой отрасли. Финансовые технологические компании уволили более 300 аналитиков больших данных с начала этого года до конца мая. Некоторые задачи по обобщению информации, которые ранее выполняли стажеры, теперь могут выполняться с помощью больших моделей.
Однако некоторые банки не хотят, чтобы большие модели приводили к сокращению штата. Они надеются, что большие модели смогут создать новые возможности, повысить качество обслуживания сотрудников и эффективность работы, а также освободить некоторых сотрудников для выполнения более ценных задач.
Этот подход обусловлен как соображениями стабильности кадров и структуры, так и тем, что в отрасли существует нехватка специалистов на многих позициях. В крупных банках есть много работы, которую необходимо выполнить, и сроки выполнения некоторых IT-запросов даже отложены до конца следующего года. Они надеются, что большие модели помогут сотрудникам повысить эффективность и скорость работы, а не приведут к сокращению штата.
Более того, спрос на большие модели резко увеличился, но в короткие сроки предложение дефицитных специалистов трудно сопоставимо. Один из банковских руководителей отметил, что среди недавно нанятых сотрудников очень высока доля изучающих область ИИ, но специалистов, разбирающихся в больших моделях, очень мало.
Некоторые эксперты считают, что потребность в специалистах, которые напрямую применяют большие модели, относительно проста и в основном требует умения задавать вопросы. Однако, если необходимо создать собственную отраслевую или корпоративную большую модель, то финансовым учреждениям нужна квалифицированная команда по технологиям больших моделей.
Чтобы справиться с нехваткой кадров, некоторые организации уже принимают меры. Некоторые компании объединили свои усилия с командой по управлению человеческими ресурсами банковской лаборатории для разработки серии учебных курсов, таких как настройка Prompt, дообучение и эксплуатация больших моделей, а также сотрудничали с несколькими отделами для создания совместных проектных групп, направленных на повышение квалификации сотрудников предприятий.
В этом процессе структура персонала финансовых учреждений также претерпит некоторые изменения и преобразования. Разработчики, использующие большие модели, могут легче адаптироваться в этой среде, чем те, кто их не использует.
В целом, хотя технологии больших моделей представляют собой возможности и вызовы для финансовой отрасли, для того чтобы действительно добиться изменения парадигмы, необходимо, чтобы внутри финансовой системы была команда, глубоко интегрирующая внутренние потребности и осуществляющая значительные инновации.