恒生电子白硕：大模型商业化不能“裸”奔 要打通AI落地“最终一公里”

  原标题：恒生电子白硕：大模型商业化不能“裸”奔 要打通AI落地“最终一公里”

  上证报我国证券网讯（记者 温婷）大模型年代，新场景新产品层出不穷，而金融大模型的探究现已呈现出百家争鸣状况。日前，恒生电子发布金融大模型LightGPT最新的才干晋级作用，以及根据LightGPT打造的多款光子系列大模型运用产品，并宣告正式敞开产品公测。

  恒生电子董事长刘曙峰表明，当时金融职业关于大模型技能的重视度和参加度很高，但在大模型实践落地过程中首要存在模型挑选难、算力供给缺乏、运用成熟度缺乏等问题。

  作为一款专为金融范畴打造的大言语模型，LightGPT根据海量金融数据练习而来。经过近4个月的打磨，对金融有关问题的了解和金融使命的处理，比通用大模型更有优势，更适合金融专业场景的运用。

  恒生电子首席科学家、大模型产品总监白硕告知上海证券报记者，“裸”的大模型在笔直职业没有过多的生存空间，恒生电子金融大模型是以通用大模型为技能底座，在此根底上对接职业首要运用数据和专业内容，然后“站在伟人的膀子上”，更好地去处理金融大模型的场景运用问题。

  日前，恒生电子发布了LightGPT自6月底发布以来的晋级作用。据白硕介绍，现在，LightGPT在全体模型作用上提高15%，安全合规性上提高13%，推理速度上提高50%，并面向金融机构完成LightGPT-7B的开源，推理和练习全面适配华为昇腾系列。

  白硕表明，相较于其他金融大模型，LightGPT首要有两个方面特征：一是数据，LightGPT会衔接恒生聚源悉数的金融数据，包含历史数据、实时数据等，和大模型共同完成金融使命。二是运用，根据恒生在大金融范畴全面的产品体系，LightGPT有广泛的时机与各类金融场景立异进行有机结合。

  经过前期调研，现在LigthGPT重点在投研、投顾、运营、合规四大范畴进行了大模型研制和探究，以促进这些运用场景的产品首先落地。关于金融职业而言，“安全合规”是金融大模型运用的根底。针对生成内容的可控问题，LightGPT构建了包含语料安全、模型安全、模型点评等在内完善的安全机制，从八大点评维度保证大模型生成内容的安全合规，契合我国金融市场的监管要求。

  白硕以投顾、投研两大中心金融场景为例，详细阐释了LightGPT在金融专业范畴的才干优势。在投顾场景中，LightGPT经过添加1200多万tokens专业投顾语料，削减日常语料占比以及12类使命指令微调，应对金融术语白话很多、常识错觉、监管严厉等应战，在安慰话术生成、客户目的辨认、实体辨认、Json辨认才干等方面均匀超出国内通用大模型13%。

  在谈及大模型的商业化途径时，白硕坦言，“裸”的大模型在笔直职业没有过多的生存空间，也很难完成商业化，无法体现大模型的专业价值。只要与其他专业东西、插件和相应资源相结合，才干发明商业闭环。而未来金融信息体系的晋级换代需求中，就有了大模型供给嵌入式增值服务的空间。

  根据金融职业的大模型运用需求，恒生电子于6月底首先推出金融智能帮手光子，定位为金融运用对接大模型的“中控”部位，串联了“通用东西链+金融插件东西+金融数据+金融事务场景”，旨在处理大模型和实践运用之间的衔接问题，打通金融范畴AI运用的“最终一公里”。

  现在，恒生电子根据光子打造了多款大模型运用产品。据白硕介绍，现在光子赋能下的智能产品能分为重塑和嵌入两种形式。重塑是指根据大模型才干重构运用，重塑事务流程和服务形式；嵌入是指经过光子将数据、运用、常识库等资源组装成各类插件，将大模型才干无缝集成到原有程序和运用中，为事务体系注入AI力气。

  “光子自身便是一个架构，它能够衔接各类组件和插件，包含大模型也是它的一个组件，咱们并不认为大模型便是中心，”白硕坦言，“在提高大模型全体体现的过程中，除了提高自身的技能和数据质量外，还包含把更优质的数据放到更适宜的部位，加强壮模型跟其他组件的对接才干，让适宜的组件供给适宜的服务，而不是让大模型无所不能，这样才能够构筑杰出的大模型生态。”

  白硕表明，接下来，恒生电子将加强完善光子智能生态，根据光子继续构建智能产品矩阵。一方面，继续发布和公测大模型运用新品，如面向金融事务岗前仿真训练的光子·问学，面向事务数据智能办理的光子·数见，面向会议语音内容生成举动AP的光子·会悟等；另一方面，加快恒生原有事务体系的光子插件嵌入，让光子成为真实的事务智能帮手。

  他一起呼吁，针对现在算力问题，当时国内承载大模型的已有算力或处于一种涣散状况，运用量不行丰满；未来是否有或许经过职业协作方法，把算力会集起来，以职业的方法一致供给服务，让更多的金融机构取得运用大模型时机，加快大模型生态开展。“生态构成得越早，AI运用就越有优势。”回来搜狐，检查更加多