大模型落地金融行业重在场景,算力、精度、安全合规等问题待解
2023-08-28 14:00:57 21世纪经济报道

AIGC的发展正在从概念开始走向落地应用,从“通用大模型”走向“行业大模型”。以大模型为代表的新一代人工智能技术,将加速金融数字化和金融智能化的发展,重塑现有业务流程,改变产业格局。

那么,金融行业作为人工智能应用场景密集的行业,无疑是大模型技术落地的最佳领域之一。未来,大模型能解决金融领域哪些需求?创造什么样的价值?落地应用有哪些技术难点?多名学者及业内人士认为,大模型落地金融行业重在寻找合适的应用场景,但是在落地应用的过程中,还面临着算力、精度、安全合规等挑战。

落地最重要的是寻找应用场景


【资料图】

大模型让机器具有了常识,懂得了逻辑,学会了创作,让人和机器能以更自然的方式互动,通过与周边工具的结合,大模型已经具有了通用人工智能的雏形。北京大学光华管理学院商务统计与经济计量系教授王汉生表示,“好的人工智能算法、模型最终要解决的是业务问题,数据模型落地最重要的是寻找应用场景,比如在金融科技实践中,需要落地客服、销售、风控等业务场景。”

“大模型基于其所构建的向量空间,很可能打造出崭新的智能信息处理基础平台,进而变革各行各业的基本生态。大模型必然会导致相关产业重新洗牌。”清华大学人工智能研究院常务副院长孙茂松认为,金融大模型正在重新定义金融科技。对于金融科技公司而言,金融大模型属于兵家必争之地。金融科技公司对于金融大模型的态度决定了自身的境界,也决定了这家公司在日益激烈的竞争中能否赢得下一个五年,乃至下一个十年。

在度小满CTO许冬亮看来,金融行业是高价值行业,数字化基础好,高度依赖数据和技术,是大模型落地应用的高潜场景。对于中小金融机构,在大模型的浪潮里,有机会通过应用创新,来加快自身的数字化和智能化进程,跨越数字化鸿沟。

至于大模型怎么在行业应用,车万翔总结说,“无非也是这三板斧:语义检索、指令微调、继续预训练。通过语义检索,将检索结果作为提示词输入,能够提高通用模型处理专用任务的能力;针对特定任务标注数据并进行微调,可以进一步提高模型的性能;如果某个行业拥有大量数据,可以针对该行业进行持续的预训练,以进一步提高模型的性能。同时,还需要解决行业能力和通用能力之间的平衡问题,以及持续学习过程中的重点问题。”

光大信托数据中心总经理祝世虎认为,大模型需要大创新。目前,大模型在银行的主要应用包括智能客服、智能运营、写文章和写邮件。但是,这些应用并非银行的核心应用,没有涉及银行的核心应用。银行的核心应用仍在风险管理、资本管理和监管科技等几个方面。大模型在保险和信托领域的应用可能更多,因为银行产品主要是借贷,而保险产品非常复杂,需要耗费时间去解释。不过,从商业角度看,银行的市场会更大。

面临算力、精度、安全等挑战

大模型时代,算力、算法、数据构成了新范式的“三驾马车”。哈工大计算学部长聘教授车万翔认为,大模型的应用还需要解决定制化、小型化、角色化、个性化以及安全性、隐私性等问题。这些问题并非简单地引入一项技术就能解决,需要深入的研究和探索。

在走向落地应用金融场景的过程中,大模型仍然面临着挑战。中国农业银行研发中心大模型研发负责人耿博表示,AI 大模型面临算力需求大、训练和推理成本高、数据质量不佳、隐私和安全问题等挑战。目前,大模型和场景融合是一个不断演进、探索的过程,数据是大模型的生产要素,基础设施是大模型的入场券,场景应用是大模型的驱动力,AI 大模型未来发展将趋于通用化与专用化并行。

在许冬亮看来,大模型落地金融存在三大挑战。第一,通用模型能力不能满足金融场景需要。通用大模型本身精度不够,而金融又是一个对精准性、可控性要求很高的行业。其次是通用大模型金融知识的缺失,做通用模型的公司和机构几乎没有办法获取到这些数据,那他们的模型自然也不具备这方面的知识。再次是大模型更新迭代困难,金融是高时效的,模型必须能够实时跟踪金融市场的变化和趋势,怎样保持大模型所学知识和信息的时效性,是个比较大的挑战。

第二个挑战是大模型如何高效植入现有业务场景。一个团队既要懂场景的know-how,又要理解大模型的使用方法,而且还需要具备比较强的工程能力,这样才有可能选择出适合应用大模型的场景,高效的将大模型嵌入到实际业务流程中去。而大模型的微调和提示词工程等等都是很有技巧的。就当下而言,具备这样能力的公司和团队是极少的,懂大模型技术的大多没有具体的行业经验,行业老兵又对大模型的技术理解不够深入,需要时间去磨合和培养。

第三个挑战是大模型生成内容的安全合规和隐私保护。金融本身是一个高合规要求的行业,加上大模型是颠覆性的新技术,我们对它的风险还没有完全了解,监管部门对它的落地应用也比较审慎。本月15号,面向大模型的第一个监管文件《生成式人工智能服务管理暂行办法》已经开始实施。随着大模型落地的不断推进,如何平衡大模型落地收益和大模型风险控制,是一个越来越突出的问题。

孙茂松认为,“实际上,在技术上要做好这个大模型,不是简单的基础模型就可以做好,里面有很多对模型进行研究的成分。因此,这些挑战都不是轻而易举就可以解决的,这就要求做大模型的公司一定要有研发能力,不是简单的应用,而是自身要有比较雄厚的研发能力。”

(文章来源:21世纪经济报道)

最新新闻: