Büyük modeller finans sektörüne derinlemesine iniyor, coşkunun yükselişinden rasyonel bir geri dönüşe

ChatGPT'nin ortaya çıkmasından bu yana, finans sektöründe kayda değer bir kaygı oluştu. Teknolojiye inanan bu sektör, hızla gelişen çağın gerisinde kalmaktan endişe ediyor. Bu gergin atmosfer, beklenmedik yerlere kadar yayıldı. Sektörden bir kişi, Mayıs ayında Dali'de iş seyahatinde iken, hatta bir tapınakta büyük modelleri tartışan finans profesyonelleriyle karşılaştığını açıkladı.

Ancak, bu kaygı duygusu giderek yatışıyor ve insanların düşünceleri daha net ve mantıklı hale geliyor. Bir bankacılık uzmanı, bu yıl finans sektörünün büyük modellerle olan tutumunu birkaç aşamada tanımladı: 2-3. aylar, genel bir kaygı hissedildi, geride kalmaktan korkuldu; 4-5. aylar, ilgili çalışmalar yürütmek için ekipler kuruldu; sonraki birkaç ay, yön arayışı ve uygulama sürecinde zorluklarla karşılaşıldı, daha mantıklı hale gelindi; şimdi, benchmark şirketlere odaklanmaya ve doğrulanmış uygulama senaryolarını denemeye başlıyorlar.

Yeni bir eğilim, birçok finans kurumunun stratejik düzeyde büyük modelleri önemsemeye başlamasıdır. Tam olmayan verilere göre, A-shares borsa şirketleri arasında en az 11 banka, son altı aylık raporlarında büyük modellerin uygulanmasını araştırdıklarını açıkça belirtmiştir. Son dönemdeki hareketlerine bakıldığında, strateji ve üst düzey tasarım açısından daha net düşünme ve yol haritası planlaması yapmaktadırlar.

Yükselişten rasyonel geri dönüşe

Yılın başında ChatGPT ilk ortaya çıktığında, finans sektörünün büyük model konusundaki heyecanı yüksek olsa da, onun doğası ve uygulama yöntemleri hakkında bilgi oldukça sınırlıydı. Bazı büyük bankalar öncülük ederek çeşitli "popülerlik kazanma" tanıtımları yapmaya başladılar. Aynı zamanda, bazı önde gelen finans kurumlarının teknoloji departmanları, büyük şirketlerle büyük model inşası konusunu aktif olarak tartıştılar. Genel olarak, kendi büyük modellerini inşa etme umuduyla veri seti oluşturma, sunucu alımı ve eğitim yöntemleri gibi konularda sorular sordular.

Mayıs ayından sonra durum yavaş yavaş değişmeye başladı. Hesaplama gücü kaynaklarının kıtlığı, yüksek maliyetler gibi faktörlerin etkisiyle, birçok finans kurumu sadece kendi sistemlerini inşa etme umudundan daha çok uygulama değerine odaklanmaya başladı. Şu anda her finans kurumu, diğer kurumların büyük modelleri kullanma durumunu ve etkisini izlemekte.

Spesifik olarak, farklı ölçeklerdeki işletmeler farklı yollar izledi. Büyük finansal kurumlar, büyük miktarda finansal veriye ve uygulama senaryolarına sahip olduklarından, öncü temel büyük modelleri kullanabilir, kendi kurumsal büyük modellerini oluşturabilir ve aynı zamanda ince ayar yöntemi kullanarak uzmanlık alanlarına yönelik görev büyük modelleri geliştirerek hızlı bir şekilde işlerini güçlendirebilirler. Küçük ve orta ölçekli finansal kurumlar ise yatırım getirilerini göz önünde bulundurarak, ihtiyaç duydukları çeşitli büyük modellerin kamu bulut API'lerini veya özel dağıtım hizmetlerini kullanarak doğrudan iş ihtiyaçlarını karşılayabilirler.

Ancak, finans sektörünün veri uyumluluğu, güvenliği ve güvenilirlik gibi gereksinimlerinin yüksek olması nedeniyle, bazı kişiler bu sektörün büyük modellerinin uygulanmasının, yılın başındaki beklentilerin biraz altında olduğunu düşünüyor. Bir uzman, başlangıçta finans sektörünün büyük modelleri en hızlı bir şekilde benimseyeceğini tahmin ettiklerini, ancak gerçekte finans sektörünün uygulama hızının hukuk, işe alım gibi sektörlerden daha yavaş olduğunu belirtti.

Büyük modelin uygulama sürecindeki çeşitli sınırlamaları çözmek için bazı finansal kuruluşlar önlemler almaya başladı. Hesaplama gücü açısından, sektörde birkaç çözüm önerisi ortaya çıktı:

1. Doğrudan kendi madencilik gücünü oluşturmak, maliyeti yüksek ancak güvenliği iyi, güçlü bir finansal kurumu olan ve kendi sektör veya işletme büyük modellerini oluşturmak isteyenler için uygundur.

2. Güç karışık dağıtım, hassas verilerin alan dışına çıkmaması durumunda, kamu bulutundan büyük model hizmeti arayüzlerine çağrı alırken, aynı zamanda yerel veri hizmetlerini özel dağıtım yoluyla işleme almaktadır. Bu yöntem düşük maliyetlidir ve kaynakları nispeten sınırlı, yalnızca ihtiyaç dahilinde uygulama gerçekleştiren orta ve küçük ölçekli finansal kuruluşlar için uygundur.

Orta ve küçük ölçekli kuruluşların karşılaştığı GPU kart sıkıntısı ve yüksek fiyat sorunlarıyla ilgili olarak, ilgili departmanlar, menkul kıymetler sektörüne yönelik büyük model altyapısını oluşturmayı, hesaplama gücünü ve genel büyük model gibi kaynakları merkezileştirmeyi araştırıyor. Böylece orta ve küçük ölçekli finansal kuruluşlar da büyük model hizmetlerinden yararlanabilecek, teknolojik gerilikten kaçınılacaktır.

Güç dışında, büyük modellerin uygulanmasına yönelik arayışlarla birlikte birçok finans kurumu veri yönetimini de güçlendirdi. Orta ölçekli finans kuruluşlarının giderek daha fazla veri merkezi ve veri yönetim sistemleri kurmaya başladığı görülüyor. Uzmanlar, kapsamlı bir veri yönetimi sistemi ve veri gölü teknolojisi platformu oluşturmanın, gelecekteki finans kuruluşlarının BT inşasında önemli bir yön olacağını düşünüyor.

Bazı bankalar, veri sorunlarını çözmek için büyük modelleri MLOps yöntemi ile birleştiriyor. Örneğin, büyük bir banka MLOps modeli kullanarak büyük model veri kapalı döngü sistemi kurdu ve tüm sürecin otomatikleşmesini sağladı; ayrıca çok kaynaklı heterojen verilerin birleştirilmiş yönetimi ve verimli işlenmesi gerçekleştirildi. Şu anda 2.6TB yüksek kaliteli eğitim veri seti oluşturulmuş ve birikmiştir.

Dış çevre senaryosuna giriş

Geçtiğimiz altı ayda, büyük model hizmet sağlayıcıları ve finansal kurumlar uygulama senaryoları arayışında aktif olarak yer aldılar; akıllı ofis, akıllı geliştirme, akıllı pazarlama, akıllı müşteri hizmetleri, akıllı yatırım araştırması, akıllı risk kontrolü, talep analizi gibi alanlar keşfedildi.

Her finansal kurum büyük modellerle ilgili zengin tasarımlara sahip. Bir banka, içlerinde 20'den fazla senaryonun uygulamaya alındığını belirtirken, başka bir banka 30'dan fazla senaryoda pilot çalışmalar yaptıklarını ifade etti. Ayrıca bir menkul kıymet şirketi, büyük modelleri daha önce piyasaya sürdükleri sanal dijital insan platformuyla entegre etme konusunda araştırmalar yapıyor.

Ancak uygulama sürecinde, sektördeki genel görüş önce içsel, sonra dışsal olması yönündedir. Sonuçta, mevcut aşamada büyük model teknolojisi yeterince olgun değildir, yanılsama gibi sorunlar bulunmaktadır ve finans sektörü güçlü düzenlemelere, yüksek güvenliğe ve yüksek güvenilirliğe sahip bir alandır.

Uzmanlar, finansal kurumların büyük modelleri öncelikle finansal metinler ve finansal görsellerin analiz ve anlayış yaratma gibi zeka yoğun senaryolarında asistan şeklinde, insan-makine iş birliği ile iş gücü verimliliğini artırmak için uygulamaları gerektiğini önermektedir.

Şu anda, kod asistanı birçok finans kurumunda uygulanmaktadır. Örneğin, bir banka büyük model temelinde akıllı bir Ar-Ge sistemi kurmuştur; kodlama asistanının ürettiği kod miktarı toplam kod miktarının %40'ını oluşturmaktadır. Sigorta alanında, bazı şirketler büyük model temelinde yardımcı programlama eklentileri geliştirmiştir ve bu eklentiler doğrudan iç geliştirme araçlarına entegre edilmiştir.

Akıllı ofis alanında da birçok uygulama örneği bulunmaktadır. Bir finansal büyük model ürünü, bir büyük bankada faaliyete geçtikten sonra yüzlerce şubeye yayılmıştır ve cevap kabul oranı %85'in üzerindedir. İlgili çözümler de diğer bankalara ve finansal kuruluşlara hızlıca kopyalanmıştır.

Ancak, sektör uzmanları, bu sahnelerin geniş bir şekilde uygulandığını belirtirken, aslında bunların finansal kurumların çekirdek uygulamaları olmadığını düşünüyor. Büyük modellerin finansal sektörün iş katmanlarına derinlemesine ulaşması için henüz bir mesafe var. Pazarlama, risk yönetimi, uyum gibi sahneler büyük modellerin dönüşüm getirebileceği alanlar ve aynı zamanda finansal müşterilerin ihtiyaçlarının bulunduğu kısımlar, ancak şu anda bu çalışmalar hâlâ temel büyük model tedarikçilerinin yeteneklerinin geliştirilmesine bağlı.

Uzmanlar, bu yılın sonuna kadar finans kurumlarının temel iş senaryolarında büyük modellerin kullanılmasına yönelik projelerin inşa edilmesi veya ihale bilgilerinin ortaya çıkacağını öngörüyor.

Bu arada, bazı üst düzey tasarım değişiklikleri gerçekleştirilmektedir. Gelecekteki tüm akıllı ve dijital sistemler, büyük modelin temeli üzerine yeniden inşa edilecektir. Bu, finans sektörünün büyük modelin uygulanması sürecinde sistemini yeniden yapılandırmasını gerektirmektedir. Aynı zamanda, geleneksel küçük modellerin değerini de göz ardı etmemek ve büyük modellerin, küçük modellerle birlikte çalışmasını sağlamak gerekir.

Şu anda birçok önde gelen finans kurumu, büyük model temelinde, altyapı katmanı, model katmanı, büyük model hizmet katmanı, uygulama katmanı gibi birden fazla katmandan oluşan katmanlı sistem çerçeveleri kurmuştur. Bu çerçeve sistemlerinin genel olarak iki temel özelliği vardır: birincisi, büyük model merkezi bir yetenek sergileyerek, geleneksel modelleri beceri olarak çağırmaktadır; ikincisi, büyük model katmanı çoklu model stratejisi benimsemekte, içsel karşılaştırmalar yaparak en iyi sonucu seçmektedir.

Yetenek açığı hâlâ büyük

Büyük modelin uygulamaları, finans sektöründeki personel yapısına bazı zorluklar ve değişimler getirmeye başladı. Finans teknolojisi şirketleri, bu yılın başından Mayıs ayı sonuna kadar 300'den fazla büyük veri analistini işten çıkardı. Daha önce stajyerler tarafından yapılan bazı bilgi derleme ve özetleme işleri, artık büyük model aracılığıyla yapılabiliyor.

Ancak bazı bankalar, büyük modellerin işten çıkarmalara neden olmasını istemiyor. Onlar, büyük modellerin yeni fırsatlar sunmasını, çalışanların hizmet kalitesini ve iş verimliliğini artırmasını, aynı zamanda bazı çalışanların daha yüksek değerli işler yapması için serbest kalmasını umuyor.

Bu tür bir düşünce, bir yandan personel ve yapı istikrarı açısından, diğer yandan sektörde birçok pozisyonda hala insan gücü açığı olduğu için ortaya çıkıyor. Büyük bankaların tamamlanması gereken çok sayıda işi var ve bazı BT taleplerinin iş süreleri hatta gelecek yılın sonuna kadar uzandı. Onlar, büyük modellerin çalışanların verimliliğini ve hızını artırmasına yardımcı olmasını, personel sayısının azalmasına neden olmasını değil.

Daha da önemlisi, büyük model talebi patladı, ancak kısa sürede kıt olan yetenek arzı karşılanamıyor. Bir banka yöneticisi, son zamanlarda işe aldıkları yeni çalışanların AI alanında eğitim alanlarının oranının çok yüksek olduğunu, ancak büyük model konusunda bilgi sahibi yeteneklerin çok az olduğunu belirtti.

Bazı uzmanlar, büyük modelleri doğrudan uygulamak için gereken yeteneklerin nispeten basit olduğunu, esasen soru sorabilen kişilere ihtiyaç duyulduğunu düşünüyor. Ancak sektör veya şirket için özel bir büyük model oluşturmak gerekiyorsa, finans kuruluşlarının uzman bir dikey büyük model teknolojisi ekibine sahip olması gerekiyor.

Yetenek açığını gidermek için bazı kurumlar harekete geçti. Bazı şirketler, bankaların laboratuvarlarının insan kaynakları ekipleriyle işbirliği yaparak, Prompt ayarlama, ince ayar, büyük model işletimi gibi bir dizi eğitim programı tasarladılar ve çeşitli departmanlarla işbirliği yaparak ortak proje grupları kurdular, işletmelerin çalışan yeteneklerini artırmayı teşvik ettiler.

Bu süreçte, finans kurumlarının personel yapısında bazı ayarlamalar ve değişiklikler yaşanacak. Büyük model kullanabilen geliştiricilerin, kullanamayanlara göre bu ortamda ayakta kalması daha kolay olabilir.

Genel olarak, büyük model teknolojisi finans sektörüne fırsatlar ve zorluklar getirse de, gerçek bir paradigma değişikliği sağlamak için finans sisteminin içinde iç taleplerle derinlemesine birleşen ve büyük yenilikler yapan bir ekibe ihtiyaç vardır.