Великі моделі активно проникають у фінансову сферу, від підвищеного ентузіазму до раціонального повернення
Від моменту появи ChatGPT у фінансовій сфері виникло чимало тривог. Ця галузь, що вірить у технології, боїться залишитися позаду в умовах швидко розвиваються часів. Ця напружена атмосфера на деякий час поширилася в несподівані місця. За словами фахівця галузі, у травні, під час відрядження в Далі, вона навіть зіткнулася з обговоренням великих моделей фінансовими працівниками в храмі.
Однак ця тривога поступово зменшується, і думки людей стають все більш чіткими та раціональними. Експерт з банківських справ описав кілька етапів ставлення фінансової галузі до великомасштабних моделей цього року: у лютому-березні панувала загальна тривога, страх відстати; у квітні-травні багато хто почав формувати команди для виконання відповідних завдань; у наступні кілька місяців під час пошуку напрямків та реалізації виникли труднощі, і все стало більш раціональним; зараз вони починають звертати увагу на еталонні компанії, намагаючись перевірити вже перевірені сценарії застосування.
Новим трендом є те, що багато фінансових установ почали стратегічно оцінювати великі моделі. За неповними даними, серед компаній, що котируються на A-акціях, щонайменше 11 банків у своїх останніх піврічних звітах чітко зазначили, що досліджують застосування великих моделей. Виходячи з недавніх дій, вони також починають більш чітко думати про стратегію та розробку шляхів на рівні стратегії та верхнього дизайну.
Від зростання ентузіазму до раціонального повернення
На початку року, коли ChatGPT тільки з'явився, фінансова галузь була дуже захоплена великими моделями, але насправді розуміння їхньої суті та способів застосування було дуже обмеженим. Деякі великі банки першими почали діяти, проводячи різні акції "на хвилі популярності". Тим часом, технологічні відділи деяких провідних фінансових установ активно обговорювали питання побудови великих моделей з великими компаніями. Вони в цілому сподівалися створити власні великі моделі, запитуючи про виготовлення наборів даних, закупівлю серверів та методи навчання тощо.
Після травня ситуація поступово почала змінюватися. Через брак обчислювальних ресурсів, високі витрати та інші фактори багато фінансових установ почали від переходу від простого бажання створити власні рішення до більшої уваги до застосункової цінності. Тепер кожна фінансова установа звертає увагу на те, як інші установи використовують великі моделі та які результати це дає.
Конкретно, різні підприємства різного масштабу обирали різні шляхи. Великі фінансові установи, які мають величезні фінансові дані та сценарії застосування, можуть впроваджувати провідні базові великі моделі, створювати корпоративні великі моделі та одночасно використовувати методи доопрацювання для формування спеціалізованих великих моделей завдань, швидко надаючи підтримку бізнесу. Невеликі та середні фінансові установи можуть комплексно оцінити рентабельність інвестицій, за потребою впроваджувати різні публічні API великих моделей або послуги приватного розгортання, щоб безпосередньо задовольнити бізнес-потреби.
Однак через високі вимоги фінансової галузі до відповідності даних, безпеки та надійності, деякі особи вважають, що прогрес впровадження великих моделей у цій галузі насправді трохи нижчий за початкові очікування на початку року. Один з експертів зазначив, що вони спочатку прогнозували, що фінансова галузь може найбільше активно використовувати великі моделі, але фактична ситуація така, що темпи впровадження у фінансовій галузі не такі швидкі, як у галузях права, підбору кадрів тощо.
Щоб вирішити різні обмеження в процесі впровадження великих моделей, деякі фінансові установи вже почали вживати заходів. Щодо обчислювальної потужності, в галузі з'явилося кілька рішень:
Пряме самостійне будівництво потужності, вища вартість, але хороша безпека, підходить для потужних фінансових установ, які бажають самостійно створити великі моделі галузі або підприємства.
Гібридне розгортання обчислювальної потужності, при якому чутливі дані не виходять за межі домену, приймає виклики інтерфейсу послуг великих моделей з публічного хмари, водночас обробляючи локальні послуги з даними через приватне розгортання. Цей підхід є більш економічним і підходить для малих і середніх фінансових установ з обмеженими коштами, які застосовують послуги лише за потребою.
Щодо проблеми браку та високих цін на графічні процесори (GPU), з якою стикаються малі та середні установи, відповідні органи досліджують можливість створення інфраструктури для великих моделей, орієнтованої на фондовий ринок, зосереджуючи обчислювальні потужності та ресурси загальних великих моделей, щоб малі та середні фінансові установи також могли користуватися послугами великих моделей, запобігаючи технологічній відсталості.
Крім обчислювальної потужності, у міру дослідження впровадження великих моделей багато фінансових установ також посилили управління даними. Все більше середніх фінансових установ починають створювати централізовані платформи даних та системи управління даними. Експерти вважають, що побудова досконалої системи управління даними та платформи технології озер даних буде важливим напрямком ІТ-будівництва фінансових установ у майбутньому.
Деякі банки вирішують проблеми з даними за допомогою поєднання великих моделей та MLOps. Наприклад, один великий банк використовує модель MLOps для створення замкнутої системи даних великих моделей, що дозволило автоматизувати весь процес, а також забезпечити єдине управління та ефективну обробку багатоджерельних гетерогенних даних. Відомо, що наразі було побудовано та накопичено 2,6 ТБ високоякісного навчального набору даних.
Вступ до зовнішніх сцен
Протягом останніх півроку постачальники послуг великих моделей і фінансові інститути активно шукають сценарії застосування, досліджуючи такі сфери, як розумний офіс, інтелектуальна розробка, розумний маркетинг, інтелектуальний сервіс клієнтів, розумні інвестиції та дослідження, інтелектуальний моніторинг ризиків, аналіз потреб тощо.
Кожен фінансовий заклад має багатий набір ідей щодо великих моделей. Один банк заявив, що вже реалізував понад 20 сценаріїв, інший банк повідомив про пілотні проекти в більш ніж 30 сценаріях, а одна з фондових компаній вивчає можливість інтеграції великих моделей з раніше запущеною платформою віртуальних цифрових людей.
Але на етапі впровадження в галузі є спільна думка, що спочатку потрібно працювати над внутрішніми аспектами, а потім переходити до зовнішніх. Адже на даному етапі технології великих моделей ще не є зрілими, існують проблеми з ілюзіями тощо, а фінансовий сектор є дуже регульованою, безпечною та надійною галуззю.
Експерти рекомендують фінансовим установам в першу чергу застосовувати великі моделі в інтелектуально вимогливих сценах аналізу та розуміння фінансових текстів і фінансових зображень, у вигляді помічників, для підвищення ефективності роботи співробітників.
На даний момент кодовий асистент вже впроваджено в багатьох фінансових установах. Наприклад, один банк створив інтелектуальну систему розробки на основі великої моделі, де частка коду, згенерованого асистентом, становить 40% від загального обсягу коду. У страховій сфері одна компанія розробила плагін для допоміжного програмування на базі великої моделі, який безпосередньо вбудовується в внутрішні інструменти розробки.
У сфері розумного офісу також є чимало реальних прикладів. Один з фінансових великих моделей продуктів після запуску в одному з великих банків вже був впроваджений у кілька сотень відділень, а рівень прийняття відповідей перевищує 85%. Відповідні рішення також швидко копіюються до інших банків та фінансових установ.
Проте, експерти галузі вважають, що ці вже широко впроваджені сценарії насправді ще не є основними додатками фінансових установ, а великій моделі ще потрібно пройти певний шлях до глибшого занурення в бізнес-аспекти фінансової галузі. Маркетинг, управління ризиками, дотримання регуляторних вимог та інші сценарії є тими частинами, де велика модель може принести революційні зміни, а також відповідають потребам фінансових клієнтів, проте наразі ці роботи все ще залежать від підвищення можливостей постачальників базових великих моделей.
Експерти прогнозують, що до кінця цього року з'явиться ряд проектів або інформації про тендери, які дійсно використовують великі моделі в основних бізнес-сценаріях фінансових установ.
Водночас деякі зміни на рівні верхнього дизайну вже тривають. Уся майбутня інтелектуальна та цифрова система буде знову побудована на основі великих моделей. Це вимагає від фінансової сфери переробки системи у процесі впровадження великих моделей. Водночас не можна ігнорувати цінність традиційних малих моделей, і великі моделі й малі моделі повинні працювати разом.
На сьогодні вже кілька провідних фінансових установ на основі великих моделей створили багаторівневу системну архітектуру, що включає в себе інфраструктурний рівень, рівень моделей, рівень обслуговування великих моделей, рівень додатків тощо. Ці системи мають загалом дві основні характеристики: по-перше, великі моделі виконують центральні функції, використовуючи традиційні моделі як навички; по-друге, рівень великих моделей використовує стратегію з кількома моделями, проводячи внутрішнє порівняння для вибору найбільш оптимального результату.
Прогалини в кадрах все ще величезні
Застосування великих моделей вже почало створювати певні виклики та зміни в структурі персоналу фінансової галузі. Деякі фінансові технологічні компанії звільнили понад 300 аналітиків великих даних з початку цього року до кінця травня. Деякі завдання з узагальнення інформації, які раніше виконували стажери, тепер можуть виконуватися за допомогою великих моделей.
Проте деякі банки не бажають, щоб великі моделі призводили до скорочення персоналу. Вони сподіваються, що великі моделі принесуть нові можливості, підвищать якість обслуговування співробітників і ефективність роботи, одночасно звільняючи частину співробітників для виконання більш цінних завдань.
Це обґрунтування з одного боку пов'язане зі стабільністю персоналу та структури, а з іншого - з тим, що в багатьох сферах все ще є нестача кадрів. Великі банки мають багато роботи, яка потребує виконання, деякі IT-запити навіть заплановані на кінець наступного року. Вони сподіваються, що великі моделі зможуть допомогти працівникам підвищити ефективність і швидкість, а не призвести до скорочення кадрів.
Більш важливо, що попит на великі моделі різко зріс, але в короткі терміни важко знайти достатню кількість спеціалістів. Один із банківських керівників зазначив, що серед нових співробітників, яких вони нещодавно найняли, велика частка вивчає сферу ШІ, але фахівців, які розуміють великі моделі, дуже мало.
Деякі експерти вважають, що потреба в талантах, які безпосередньо застосовують великі моделі, є відносно простою, в основному потрібні люди, які вміють ставити запитання. Але якщо потрібно створити власну галузеву або корпоративну велику модель, фінансовим установам потрібна ефективна команда технічних фахівців з вертикальних великих моделей.
Щоб впоратися з нестачею кадрів, деякі установи вже вжили заходів. Деякі компанії об'єдналися з командою з управління людськими ресурсами банківської лабораторії, розробивши ряд навчальних курсів, таких як налаштування Prompt, мікронастроювання, експлуатація великих моделей тощо, і співпрацюють з кількома відділами для створення спільних проектних груп, щоб сприяти підвищенню кваліфікації працівників підприємств.
У цьому процесі структура персоналу фінансових установ також зазнає деяких змін та реформ. Розробники, які використовують великі моделі, можуть мати більше шансів утвердитися в цьому середовищі, ніж ті, хто їх не використовує.
В цілому, хоча технології великих моделей приносять можливості та виклики фінансовій галузі, для того щоб справді досягнути зміни парадигми, необхідно, щоб у фінансовій системі була команда, яка глибоко інтегрує внутрішні потреби та здійснює значні інновації.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
10 лайків
Нагородити
10
4
Поділіться
Прокоментувати
0/400
RektRecovery
· 12год тому
назвав це... ще один передбачуваний цикл хайпу в театрі безпеки фінансових технологій. ризикова поверхня розширюється в 3..2..1...
Переглянути оригіналвідповісти на0
GasFeeSobber
· 12год тому
Ці невдахи від тривоги до бездіяльності.
Переглянути оригіналвідповісти на0
SilentAlpha
· 12год тому
Модель також не врятує невдах.
Переглянути оригіналвідповісти на0
TokenBeginner'sGuide
· 12год тому
Нагадуємо: інвестування в проекти штучного інтелекту, що перегріваються, потребує обережності, згідно з даними CCID, 87% активів, що заявляють про використання ШІ, мають високий ризик.
Великі моделі у фінансовій сфері: від високого ентузіазму до раціонального застосування
Великі моделі активно проникають у фінансову сферу, від підвищеного ентузіазму до раціонального повернення
Від моменту появи ChatGPT у фінансовій сфері виникло чимало тривог. Ця галузь, що вірить у технології, боїться залишитися позаду в умовах швидко розвиваються часів. Ця напружена атмосфера на деякий час поширилася в несподівані місця. За словами фахівця галузі, у травні, під час відрядження в Далі, вона навіть зіткнулася з обговоренням великих моделей фінансовими працівниками в храмі.
Однак ця тривога поступово зменшується, і думки людей стають все більш чіткими та раціональними. Експерт з банківських справ описав кілька етапів ставлення фінансової галузі до великомасштабних моделей цього року: у лютому-березні панувала загальна тривога, страх відстати; у квітні-травні багато хто почав формувати команди для виконання відповідних завдань; у наступні кілька місяців під час пошуку напрямків та реалізації виникли труднощі, і все стало більш раціональним; зараз вони починають звертати увагу на еталонні компанії, намагаючись перевірити вже перевірені сценарії застосування.
Новим трендом є те, що багато фінансових установ почали стратегічно оцінювати великі моделі. За неповними даними, серед компаній, що котируються на A-акціях, щонайменше 11 банків у своїх останніх піврічних звітах чітко зазначили, що досліджують застосування великих моделей. Виходячи з недавніх дій, вони також починають більш чітко думати про стратегію та розробку шляхів на рівні стратегії та верхнього дизайну.
Від зростання ентузіазму до раціонального повернення
На початку року, коли ChatGPT тільки з'явився, фінансова галузь була дуже захоплена великими моделями, але насправді розуміння їхньої суті та способів застосування було дуже обмеженим. Деякі великі банки першими почали діяти, проводячи різні акції "на хвилі популярності". Тим часом, технологічні відділи деяких провідних фінансових установ активно обговорювали питання побудови великих моделей з великими компаніями. Вони в цілому сподівалися створити власні великі моделі, запитуючи про виготовлення наборів даних, закупівлю серверів та методи навчання тощо.
Після травня ситуація поступово почала змінюватися. Через брак обчислювальних ресурсів, високі витрати та інші фактори багато фінансових установ почали від переходу від простого бажання створити власні рішення до більшої уваги до застосункової цінності. Тепер кожна фінансова установа звертає увагу на те, як інші установи використовують великі моделі та які результати це дає.
Конкретно, різні підприємства різного масштабу обирали різні шляхи. Великі фінансові установи, які мають величезні фінансові дані та сценарії застосування, можуть впроваджувати провідні базові великі моделі, створювати корпоративні великі моделі та одночасно використовувати методи доопрацювання для формування спеціалізованих великих моделей завдань, швидко надаючи підтримку бізнесу. Невеликі та середні фінансові установи можуть комплексно оцінити рентабельність інвестицій, за потребою впроваджувати різні публічні API великих моделей або послуги приватного розгортання, щоб безпосередньо задовольнити бізнес-потреби.
Однак через високі вимоги фінансової галузі до відповідності даних, безпеки та надійності, деякі особи вважають, що прогрес впровадження великих моделей у цій галузі насправді трохи нижчий за початкові очікування на початку року. Один з експертів зазначив, що вони спочатку прогнозували, що фінансова галузь може найбільше активно використовувати великі моделі, але фактична ситуація така, що темпи впровадження у фінансовій галузі не такі швидкі, як у галузях права, підбору кадрів тощо.
Щоб вирішити різні обмеження в процесі впровадження великих моделей, деякі фінансові установи вже почали вживати заходів. Щодо обчислювальної потужності, в галузі з'явилося кілька рішень:
Пряме самостійне будівництво потужності, вища вартість, але хороша безпека, підходить для потужних фінансових установ, які бажають самостійно створити великі моделі галузі або підприємства.
Гібридне розгортання обчислювальної потужності, при якому чутливі дані не виходять за межі домену, приймає виклики інтерфейсу послуг великих моделей з публічного хмари, водночас обробляючи локальні послуги з даними через приватне розгортання. Цей підхід є більш економічним і підходить для малих і середніх фінансових установ з обмеженими коштами, які застосовують послуги лише за потребою.
Щодо проблеми браку та високих цін на графічні процесори (GPU), з якою стикаються малі та середні установи, відповідні органи досліджують можливість створення інфраструктури для великих моделей, орієнтованої на фондовий ринок, зосереджуючи обчислювальні потужності та ресурси загальних великих моделей, щоб малі та середні фінансові установи також могли користуватися послугами великих моделей, запобігаючи технологічній відсталості.
Крім обчислювальної потужності, у міру дослідження впровадження великих моделей багато фінансових установ також посилили управління даними. Все більше середніх фінансових установ починають створювати централізовані платформи даних та системи управління даними. Експерти вважають, що побудова досконалої системи управління даними та платформи технології озер даних буде важливим напрямком ІТ-будівництва фінансових установ у майбутньому.
Деякі банки вирішують проблеми з даними за допомогою поєднання великих моделей та MLOps. Наприклад, один великий банк використовує модель MLOps для створення замкнутої системи даних великих моделей, що дозволило автоматизувати весь процес, а також забезпечити єдине управління та ефективну обробку багатоджерельних гетерогенних даних. Відомо, що наразі було побудовано та накопичено 2,6 ТБ високоякісного навчального набору даних.
Вступ до зовнішніх сцен
Протягом останніх півроку постачальники послуг великих моделей і фінансові інститути активно шукають сценарії застосування, досліджуючи такі сфери, як розумний офіс, інтелектуальна розробка, розумний маркетинг, інтелектуальний сервіс клієнтів, розумні інвестиції та дослідження, інтелектуальний моніторинг ризиків, аналіз потреб тощо.
Кожен фінансовий заклад має багатий набір ідей щодо великих моделей. Один банк заявив, що вже реалізував понад 20 сценаріїв, інший банк повідомив про пілотні проекти в більш ніж 30 сценаріях, а одна з фондових компаній вивчає можливість інтеграції великих моделей з раніше запущеною платформою віртуальних цифрових людей.
Але на етапі впровадження в галузі є спільна думка, що спочатку потрібно працювати над внутрішніми аспектами, а потім переходити до зовнішніх. Адже на даному етапі технології великих моделей ще не є зрілими, існують проблеми з ілюзіями тощо, а фінансовий сектор є дуже регульованою, безпечною та надійною галуззю.
Експерти рекомендують фінансовим установам в першу чергу застосовувати великі моделі в інтелектуально вимогливих сценах аналізу та розуміння фінансових текстів і фінансових зображень, у вигляді помічників, для підвищення ефективності роботи співробітників.
На даний момент кодовий асистент вже впроваджено в багатьох фінансових установах. Наприклад, один банк створив інтелектуальну систему розробки на основі великої моделі, де частка коду, згенерованого асистентом, становить 40% від загального обсягу коду. У страховій сфері одна компанія розробила плагін для допоміжного програмування на базі великої моделі, який безпосередньо вбудовується в внутрішні інструменти розробки.
У сфері розумного офісу також є чимало реальних прикладів. Один з фінансових великих моделей продуктів після запуску в одному з великих банків вже був впроваджений у кілька сотень відділень, а рівень прийняття відповідей перевищує 85%. Відповідні рішення також швидко копіюються до інших банків та фінансових установ.
Проте, експерти галузі вважають, що ці вже широко впроваджені сценарії насправді ще не є основними додатками фінансових установ, а великій моделі ще потрібно пройти певний шлях до глибшого занурення в бізнес-аспекти фінансової галузі. Маркетинг, управління ризиками, дотримання регуляторних вимог та інші сценарії є тими частинами, де велика модель може принести революційні зміни, а також відповідають потребам фінансових клієнтів, проте наразі ці роботи все ще залежать від підвищення можливостей постачальників базових великих моделей.
Експерти прогнозують, що до кінця цього року з'явиться ряд проектів або інформації про тендери, які дійсно використовують великі моделі в основних бізнес-сценаріях фінансових установ.
Водночас деякі зміни на рівні верхнього дизайну вже тривають. Уся майбутня інтелектуальна та цифрова система буде знову побудована на основі великих моделей. Це вимагає від фінансової сфери переробки системи у процесі впровадження великих моделей. Водночас не можна ігнорувати цінність традиційних малих моделей, і великі моделі й малі моделі повинні працювати разом.
На сьогодні вже кілька провідних фінансових установ на основі великих моделей створили багаторівневу системну архітектуру, що включає в себе інфраструктурний рівень, рівень моделей, рівень обслуговування великих моделей, рівень додатків тощо. Ці системи мають загалом дві основні характеристики: по-перше, великі моделі виконують центральні функції, використовуючи традиційні моделі як навички; по-друге, рівень великих моделей використовує стратегію з кількома моделями, проводячи внутрішнє порівняння для вибору найбільш оптимального результату.
Прогалини в кадрах все ще величезні
Застосування великих моделей вже почало створювати певні виклики та зміни в структурі персоналу фінансової галузі. Деякі фінансові технологічні компанії звільнили понад 300 аналітиків великих даних з початку цього року до кінця травня. Деякі завдання з узагальнення інформації, які раніше виконували стажери, тепер можуть виконуватися за допомогою великих моделей.
Проте деякі банки не бажають, щоб великі моделі призводили до скорочення персоналу. Вони сподіваються, що великі моделі принесуть нові можливості, підвищать якість обслуговування співробітників і ефективність роботи, одночасно звільняючи частину співробітників для виконання більш цінних завдань.
Це обґрунтування з одного боку пов'язане зі стабільністю персоналу та структури, а з іншого - з тим, що в багатьох сферах все ще є нестача кадрів. Великі банки мають багато роботи, яка потребує виконання, деякі IT-запити навіть заплановані на кінець наступного року. Вони сподіваються, що великі моделі зможуть допомогти працівникам підвищити ефективність і швидкість, а не призвести до скорочення кадрів.
Більш важливо, що попит на великі моделі різко зріс, але в короткі терміни важко знайти достатню кількість спеціалістів. Один із банківських керівників зазначив, що серед нових співробітників, яких вони нещодавно найняли, велика частка вивчає сферу ШІ, але фахівців, які розуміють великі моделі, дуже мало.
Деякі експерти вважають, що потреба в талантах, які безпосередньо застосовують великі моделі, є відносно простою, в основному потрібні люди, які вміють ставити запитання. Але якщо потрібно створити власну галузеву або корпоративну велику модель, фінансовим установам потрібна ефективна команда технічних фахівців з вертикальних великих моделей.
Щоб впоратися з нестачею кадрів, деякі установи вже вжили заходів. Деякі компанії об'єдналися з командою з управління людськими ресурсами банківської лабораторії, розробивши ряд навчальних курсів, таких як налаштування Prompt, мікронастроювання, експлуатація великих моделей тощо, і співпрацюють з кількома відділами для створення спільних проектних груп, щоб сприяти підвищенню кваліфікації працівників підприємств.
У цьому процесі структура персоналу фінансових установ також зазнає деяких змін та реформ. Розробники, які використовують великі моделі, можуть мати більше шансів утвердитися в цьому середовищі, ніж ті, хто їх не використовує.
В цілому, хоча технології великих моделей приносять можливості та виклики фінансовій галузі, для того щоб справді досягнути зміни парадигми, необхідно, щоб у фінансовій системі була команда, яка глибоко інтегрує внутрішні потреби та здійснює значні інновації.