大模型落地金融行业重在场景，算力、精度、安全合规等问题待解

2023-08-28 14:16:04 来源:21经济网

21世纪经济报道记者边万莉北京报道AIGC的发展正在从概念开始走向落地应用，从“通用大模型”走向“行业大模型”。以大模型为代表的新一代人工智能技术，将加速金融数字化和金融智能化的发展，重塑现有业务流程，改变产业格局。

那么，金融行业作为人工智能应用场景密集的行业，无疑是大模型技术落地的最佳领域之一。未来，大模型能解决金融领域哪些需求？创造什么样的价值？落地应用有哪些技术难点？多名学者及业内人士认为，大模型落地金融行业重在寻找合适的应用场景，但是在落地应用的过程中，还面临着算力、精度、安全合规等挑战。

落地最重要的是寻找应用场景

大模型让机器具有了常识，懂得了逻辑，学会了创作，让人和机器能以更自然的方式互动，通过与周边工具的结合，大模型已经具有了通用人工智能的雏形。北京大学光华管理学院商务统计与经济计量系教授王汉生表示，“好的人工智能算法、模型最终要解决的是业务问题，数据模型落地最重要的是寻找应用场景，比如在金融科技实践中，需要落地客服、销售、风控等业务场景。”

【资料图】

“大模型基于其所构建的向量空间，很可能打造出崭新的智能信息处理基础平台，进而变革各行各业的基本生态。大模型必然会导致相关产业重新洗牌。”清华大学人工智能研究院常务副院长孙茂松认为，金融大模型正在重新定义金融科技。对于金融科技公司而言，金融大模型属于兵家必争之地。金融科技公司对于金融大模型的态度决定了自身的境界，也决定了这家公司在日益激烈的竞争中能否赢得下一个五年，乃至下一个十年。

在度小满CTO许冬亮看来，金融行业是高价值行业，数字化基础好，高度依赖数据和技术，是大模型落地应用的高潜场景。对于中小金融机构，在大模型的浪潮里，有机会通过应用创新，来加快自身的数字化和智能化进程，跨越数字化鸿沟。

至于大模型怎么在行业应用，车万翔总结说，“无非也是这三板斧：语义检索、指令微调、继续预训练。通过语义检索，将检索结果作为提示词输入，能够提高通用模型处理专用任务的能力；针对特定任务标注数据并进行微调，可以进一步提高模型的性能；如果某个行业拥有大量数据，可以针对该行业进行持续的预训练，以进一步提高模型的性能。同时，还需要解决行业能力和通用能力之间的平衡问题，以及持续学习过程中的重点问题。”

光大信托数据中心总经理祝世虎认为，大模型需要大创新。目前，大模型在银行的主要应用包括智能客服、智能运营、写文章和写邮件。但是，这些应用并非银行的核心应用，没有涉及银行的核心应用。银行的核心应用仍在风险管理、资本管理和监管科技等几个方面。大模型在保险和信托领域的应用可能更多，因为银行产品主要是借贷，而保险产品非常复杂，需要耗费时间去解释。不过，从商业角度看，银行的市场会更大。

面临算力、精度、安全等挑战

大模型时代，算力、算法、数据构成了新范式的“三驾马车”。哈工大计算学部长聘教授车万翔认为，大模型的应用还需要解决定制化、小型化、角色化、个性化以及安全性、隐私性等问题。这些问题并非简单地引入一项技术就能解决，需要深入的研究和探索。

在走向落地应用金融场景的过程中，大模型仍然面临着挑战。中国农业银行研发中心大模型研发负责人耿博表示，AI 大模型面临算力需求大、训练和推理成本高、数据质量不佳、隐私和安全问题等挑战。目前，大模型和场景融合是一个不断演进、探索的过程，数据是大模型的生产要素，基础设施是大模型的入场券，场景应用是大模型的驱动力，AI 大模型未来发展将趋于通用化与专用化并行。

在许冬亮看来，大模型落地金融存在三大挑战。第一，通用模型能力不能满足金融场景需要。通用大模型本身精度不够，而金融又是一个对精准性、可控性要求很高的行业。其次是通用大模型金融知识的缺失，做通用模型的公司和机构几乎没有办法获取到这些数据，那他们的模型自然也不具备这方面的知识。再次是大模型更新迭代困难，金融是高时效的，模型必须能够实时跟踪金融市场的变化和趋势，怎样保持大模型所学知识和信息的时效性，是个比较大的挑战。

第二个挑战是大模型如何高效植入现有业务场景。一个团队既要懂场景的know-how，又要理解大模型的使用方法，而且还需要具备比较强的工程能力，这样才有可能选择出适合应用大模型的场景，高效的将大模型嵌入到实际业务流程中去。而大模型的微调和提示词工程等等都是很有技巧的。就当下而言，具备这样能力的公司和团队是极少的，懂大模型技术的大多没有具体的行业经验，行业老兵又对大模型的技术理解不够深入，需要时间去磨合和培养。

第三个挑战是大模型生成内容的安全合规和隐私保护。金融本身是一个高合规要求的行业，加上大模型是颠覆性的新技术，我们对它的风险还没有完全了解，监管部门对它的落地应用也比较审慎。本月15号，面向大模型的第一个监管文件《生成式人工智能服务管理暂行办法》已经开始实施。随着大模型落地的不断推进，如何平衡大模型落地收益和大模型风险控制，是一个越来越突出的问题。

孙茂松认为，“实际上，在技术上要做好这个大模型，不是简单的基础模型就可以做好，里面有很多对模型进行研究的成分。因此，这些挑战都不是轻而易举就可以解决的，这就要求做大模型的公司一定要有研发能力，不是简单的应用，而是自身要有比较雄厚的研发能力。”

编辑：