曹刚：加速大模型产业落地

专题：2024中国AIGC创新发展论坛

　　2024年服贸会专题论坛之一——“2024中国AIGC创新发展论坛”于(yú)9月13日-14日在北京举行。蚂蚁集(jí)团财富保险事业群平台科技总(zǒng)经理曹刚出席并演讲。

　　曹刚表示，大模型技术是实现高质量金融服务普惠的关键。他(tā)说，高质量的(de)金融服(fú)务是(shì)非常稀缺的，从统计数据(jù)来看，目前国内投资者大概有7.2亿，但(dàn)真正具备投(tóu)资顾问资质的专家只有(yǒu)20万，要服务好广大消费者的(de)，光靠(kào)专家的能力是非常(cháng)困难的，而(ér)且金融服(fú)务门(mén)槛比较高。

　　“大模型技术的到来，让我们看到了(le)高质量金融服务普惠的可能性，大模型具(jù)备压缩世界金融知识的能力，专业知识力一定程度上远超(chāo)人类(lèi)专家，同时还有强大(dà)的推理能力，并可以通过自然语言进行交互，相对于传统的GUI图形界面操作，自(zì)然(rán)语言交互更加简单和流畅”，他说。　　

　　以下为(wèi)演讲实录(lù)：

　　曹刚：各位领导、各(gè)位来宾，大家下午好，我是来自蚂蚁集团财(cái)富保险事业(yè)群的曹刚(gāng)，很(hěn)高兴参(cān)加(jiā)今天2024中国AIGC创新发展论坛(tán)，我今天分(fēn)享的题目是“加速大模型产业落地，让AI人人可(kě)事”。

　　蚂(mǎ)蚁集团一直是普惠金融的实(shí)践者，伴随整个科技的发展，我们坚持用科技持(chí)续(xù)为整个社会带(dài)来微小而(ér)美好的(de)变化。在互联网早期阶段，我们推出了快捷支付、扫码支付的(de)服务，实现了整个支付服务的普惠。不(bù)管是在街边(biān)买一(yī)个包子还是去商场(chǎng)付个款，很容(róng)易(yì)就能完成支付过程。我自己也非常荣幸参与了快捷支付建设过程(chéng)，至今仍然是非常有成就感的一件事(shì)情。进(jìn)入(rù)大数据、云计(jì)算以及移动互(hù)联网这(zhè)个阶段后，蚂蚁集团(tuán)从支付走(zǒu)向了金融，推出了余额宝、花呗、借呗，以及蚂蚁财富等金融产品，通过这些产品用户能更(gèng)加容易获得信贷服务和理财服务。到(dào)了2022年，以ChatGPT为代表的大模型技术爆发，点(diǎn)燃了整个业(yè)界，大模(mó)型出色(sè)的推理(lǐ)、认知和生成能力，让我们看(kàn)到了(le)实现AGI的可能。我们也一直在思(sī)考和探索怎么样让大模型技术落地到金(jīn)融(róng)场景中(zhōng)，让大模型成为业务发展新的驱(qū)动力(lì)，就在刚过去的(de)一周，我们在上海的外滩大会发布了蚂蚁集团三款(kuǎn)大模型AI的产品，分别是AI金融管家、AI生活管家，还有AI健康管家，大家可以上支付宝进行搜索试用。

　　回到金(jīn)融领域，我(wǒ)们认为(wèi)，大(dà)模型技术(shù)是实(shí)现高质量(liàng)金融服务普惠(huì)的关键，高质量的金融服务是非常稀缺的(de)，从统(tǒng)计数据来看，目前国(guó)内投资者大(dà)概有7.2亿，但真正具备投(tóu)资顾问(wèn)资质的专家(jiā)只有20万，要(yào)服务好广大(dà)消(xiāo)费者(zhě)的，光靠专(zhuān)家的能力是非常困难的(de)，而且金(jīn)融服(fú)务门槛(kǎn)比较高，相信大家都知道这个问题。大(dà)模型技术的到来，让我(wǒ)们看到了高质量金融(róng)服务普惠的可能性，大模型(xíng)具备压缩世(shì)界金(jīn)融知识的能力，专业(yè)知识力一定程度上(shàng)远超人类专家(jiā)，同时还有强大的推理能(néng)力，并可以通过自然语言进行交互，相(xiāng)对于传统的GUI图形界面(miàn)操作，自然语言交互更加简单和流畅。

　　面对大(dà)模型技术的发展以及实(shí)现高质(zhì)量(liàng)金融(róng)服务普惠的机遇(yù)和挑战，我(wǒ)们确定(dìng)了金融(róng)AI的战略布局，在我们内部称为1+2布局，1+2是1个(gè)大模型基建(jiàn)，这个大模型基建是由我们自(zì)研的凤凰(huáng)大模型以及(jí)AgentUniverse专业的智能(néng)体框架组成，后面会给大家展开介绍，两个大模型AI产品，一个是(shì)2C的蚂(mǎ)小财，也就AI金融管家，蚂小财集成了财(cái)经(jīng)、投研、财报、核赔等金融服务能(néng)力，通过语控一切、有问必答、全程陪伴方式(shì)，为用户带来全新(xīn)的智(zhì)能(néng)服务体验。另一个是2P的支小助(zhù)，支小助一个(gè)专业严(yán)谨的AI助手，主(zhǔ)要服务对象就是我们(men)整个金融服务(wù)链条上(shàng)的各类专家，希望通(tōng)过支小助提高(gāo)专家作业流(liú)程的效率和水平。

　　大模型基建(jiàn)部分，从去年大模型技术爆发以来(lái)，不管是国外还是国内，有非常多(duō)的大(dà)模型企业冒出来，形成了“百模大战(zhàn)”的态势。我(wǒ)们尝试过多个(gè)通(tōng)用大(dà)模型底座，但效果都不是特(tè)别理(lǐ)想。我们看到大(dà)模型技术落(luò)地专业严谨(jǐn)领域还存在诸多困难和挑战，比(bǐ)如用(yòng)户会问：”A公司的最新财报表现是什(shén)么样？”，在金融领域，这涉及到一(yī)个公司的财务数据，时效性要求高，需(xū)要对信(xìn)息进(jìn)行精确的处理。比如用(yòng)户会问：”我(wǒ)有甲状腺(xiàn)结节，到(dào)底能不能买这款保曹刚：加速大模型产业落地险(xiǎn)产品？”，这(zhè)个问题涉及到保险领域核赔核保(bǎo)的专业知识，判断和决策逻辑是非常复(fù)杂的。再比如用户会问：”能不能给我推(tuī)荐一款稳赚不曹刚：加速大模型产业落地赔的基金(jīn)？”，这个问题涉及到金融(róng)常识以及金融合规性的要求(qiú)，我们只能在安(ān)全合规的前提下去给用户做答。这(zhè)些问(wèn)题(tí)是通过大模(mó)型(xíng)难以甚(shèn)任的。

　　为此(cǐ)，从(cóng)去年开始，我们(men)自(zì)研了蚂蚁凤凰大模(mó)型，去解(jiě)决通用大模型在专业(yè)、严(yán)谨、安全合规层面面临的问题。凤凰大模型今年已经通过(guò)备案，我(wǒ)们的工(gōng)作重心集中(zhōng)在这(zhè)几个方面：首先是专(zhuān)业性方面，核心(xīn)是让大模型对(duì)齐人类(lèi)专家的知识和决(jué)策逻辑，通过(guò)这种方式，我(wǒ)们(men)在产品客服、投研分析、财(cái)经编辑领(lǐng)域(yù)做到了80%左右(yòu)的水平，可以很好的(de)辅助专家进行作(zuò)业。在严谨性上(shàng)，我们核心在数据指标查询和(hé)数据指标计算等领域进行发力(lì)，从(cóng)实践结果来看，在数(shù)据指标查询方面，我们已经实现(xiàn)了95%以上的准确率。在金融(róng)计算(suàn)部分，金融领(lǐng)域(yù)有很多计算逻辑，比如计算你的存款(kuǎn)利息、理财收益等等(děng)，大模型通(tōng)过工具调用，能做(zuò)到80%左右的水平，还有很大提升空间。在安(ān)全合规层面，我们搭建(jiàn)了安全技(jì)术围栏，通过专家标注以及自(zì)动(dòng)化攻防等措施进行防控，上线以来，零风险事件的发(fā)生。同时，为了提(tí)高上层(céng)应用的创新效率，我们搭建并开源了一(yī)套专业的多智能体的(de)框架(jià)AgentUniverse，相对于市面上(shàng)常见的智(zhì)能体平台而言，我们核心在专业能(néng)力上进行增(zēng)强，同时搭载了一些可快速插(chā)拔的工具，比如检索增强相关的RAG、SUG等等，通过这样(yàng)的能力让我(wǒ)们在研发上层(céng)的蚂小财和支(zhī)小助应用时，变得更加高效。现在我们把这套框架(jià)开(kāi)源出来，希望(wàng)这套(tào)框架(jià)能够助力更(gèng)多企业在(zài)研发智能体的(de)时(shí)候能更加(jiā)高效。

　　下面(miàn)结合今天论坛主题，展开介绍一下我们在支小(xiǎo)助部分的实践，首(shǒu)先是营销(xiāo)创意产品，先来(lái)看一下(xià)产品Demo视频。（现场播放视频）。营销是每个企业都会涉及的领域，大模(mó)型对于营销领(lǐng)域而言，最大的增益(yì)在于供给(gěi)侧(cè)的创意可以直接(jiē)由(yóu)AI生产，我们(men)通过多模态大模型能力，结合用(yòng)户(hù)偏好以及(jí)市场(chǎng)热点(diǎn)，能够(gòu)批量化地快速生成(chéng)符合(hé)生产要求的图文、视频和(hé)卡片，改变过往这些素(sù)材需要运营专(zhuān)家或(huò)者设计师人(rén)工生产的方(fāng)式(shì)，极大提升了运营(yíng)的(de)效率，同时丰富了对客表达的(de)空间。我们还在探索用大模型(xíng)做用(yòng)户理解、产品(pǐn)理解、做样本增强，通过与推荐(jiàn)系统的结合，整个流量运营(yíng)效率能够(gòu)进一步提(tí)升，从实践的结(jié)果看，我们平台(tái)上(shàng)50%展位(wèi)背后的创意(yì)是由AI生产的，同时(shí)，营销(xiāo)能力能(néng)为平台带来10%以(yǐ)上的GMV复利增长，效果上是(shì)非常好的。

　　除了营销创意，我们还在(zài)用它做金融市场投(tóu)研分析，金融(róng)市场投研分析(xī)是一个蛮复杂的事情，它需要投研分析专(zhuān)家对市场或某一(yī)个行(xíng)业(yè)的趋势和问题进(jìn)行分析，把趋势和问题拆解成一个一个小(xiǎo)的任务，由各个专家小组通过对市场信息的收集、整理形成研判观(guān)点，最终形(xíng)成投研分析报告需要经过专家评(píng)审后才会(huì)被广大用户(hù)看到。投研支(zhī)小助的建设，核心就(jiù)是用系统和AI的(de)方式在模(mó)拟整个投(tóu)研分析生产的过程，我们通过刚才讲到的Agent框架，将整个过程拆解成策(cè)划、执行、表达、评价这样四个大的阶(jiē)段，通过注入专家知识框架，以及检索各种各样的知识库，用多个(gè)智能体去模拟整个小组分工协作的过程，从而产出投(tóu)研分析内容。目前(qián)我们(men)已(yǐ)经能(néng)够快速支撑9类标的物(wù)的分析，在分(fēn)析效率上(shàng)从过(guò)往(wǎng)的小时(shí)级别到现在的分钟级别(bié)。

　　这是投研支小助(zhù)方面(miàn)的介绍，同(tóng)时，我们(men)还在(zài)尝试用大(dà)模型去做财务报告的撰写，上市公司每个季度都要发财务报告，财报是一(yī)个(gè)非常专业、复杂度极高的(de)报(bào)告，去(qù)年我们跟阿里巴巴集团进行(xíng)合(hé)作，用大模型的方式去(qù)辅助财务人(rén)员完成财报的生产过程，这里面(miàn)包括怎么用大模型做财务数据计算，怎么做业绩归因和推理，怎么做财(cái)报专业的表达，这些(xiē)都对大模型的能力提(tí)出了更(gèng)高的要求(qiú)和挑战(zhàn)。从实践结果(guǒ)来看，大模型辅助生成财报(bào)整(zhěng)体(tǐ)采纳率达到(dào)77%，上个季度阿里巴巴(bā)集团的(de)财报就是通过我们的大模型和财务人员共(gòng)同撰写，整个财报的写作效率得到了(le)提升，同时我们也可以看(kàn)到，大模型在(zài)业(yè)绩归因和财务推理这部分(fēn)的准确(què)率还不够高，我们还(hái)会进一步(bù)提(tí)升整个推理部分的能力(lì)。

　　上面给大家介绍了我们在2P支小助部(bù)分的三(sān)个产品，支小助通过大(dà)模型能力、多智能体能力对整个金融服(fú)务链条各个环节进(jìn)行升级和重(zhòng)塑，现(xiàn)在已经覆(fù)盖了营销、投研等十几个垂直领域，是各垂直(zhí)领域专业严谨的AI业(yè)务助手，目前(qián)我们已经在蚂蚁集团财富保险多(duō)个业务场(chǎng)景中进行了规(guī)模化验证，基本上是业界首个完成规模化验证(zhèng)的产品，使得各服(fú)务环节(jié)效率倍(bèi)增，通(tōng)过(guò)这种2P2C模式，为上亿用户带来了高质量的(de)金融服务(wù)。支(zhī)小(xiǎo)助已经跟平台上(shàng)120多家机构(gòu)开(kāi)展了合作，我们期待和(hé)更多(duō)的产业合作伙伴一起(qǐ)，加速大模型产业落地，让(ràng)AI人人可享。

　　以上是我(wǒ)的分享，感谢大(dà)家聆听(tīng)，谢谢。

　　新浪声明：所有会议实录均为现场速记整理，未经演讲者审阅，新浪(làng)网登(dēng)载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。

责任编辑：梁斌 SF055