院士、专家学者、企业家代表共论金融大模型的可信安全

“金融行业作为人工智能应用要求高、场景丰富，是大模型技术和算法突破的沃土。期待你们在未来推动大模型应用在金融领域的探索和实践,从而带动和加速金融数字化和智能化的发展。”中国工程院院士倪光南在8月28日金融大模型发展论坛暨马上消费金融大模型发布会上说。

中国工程院院士倪光南在发布会上演讲。

本次论坛以“数智融合，渝见未来”为主题，云集了谭建荣、倪光南、孙茂松和杨新民四位院士及100多家金融机构，携手马上消费金融股份有限公司（下称马上消费），共同探讨金融大模型的未来。

(资料图)

论坛上，马上消费重磅发布了零售金融大模型——“天镜”，寓意大模型是人类智慧的镜像，推动金融机构高质量发展。基于此，中国信通院、重庆国家应用数学中心和马上消费牵头发起，阿里云、百行征信、北京火山引擎科技有限公司、中关村科金、毕马威、复旦大学金融科技研究院、朴道征信、腾讯云、中国科学院自动化研究所等联合倡议发起的“金融大模型可信安全验证与联合创新行动计划”。

马上消费发布首个零售金融大模型“天镜” 。

“今年年初的ChatGPT非常直面，我们感觉到无所不能，但是坦诚讲，在工业领域、金融领域，大模型还有四个关键的难题。”马上消费首席信息官蒋宁开局就直面通用大模型和金融大模型的本质区别。

他表示，大模型目前还面临关键性任务和动态适应性、个性化要求和隐私保护、群体智能与安全可信和基础设施的能力四大难题。他举例表示生成大模型，最大的困难是满腹经纶，回答错了他可以不承担风险，比如自动驾驶，它的刹车、提速、转弯、看灯，外界环境都在变化，对象车在变化，所以绝对不能出错，1%的错都会造成生命财产的损失，这就是金融大模型和传统大模型最大的区别。生成式模型它不能做解释，但是金融大模型最主要的模型叫做判别性，它需要做决策，交易决策。

拿马上消费的风控来讲，我们有将近2000个模型，20万张表，每天都在变化，但环境不管如何发生变化，让我们的模型错一个，非常不容易，这就要做到可控、安全。这背后是因为马上消费作为以科技驱动的头部持牌消费金融机构，积累了1.79亿的用户，有超2000个模型，10万+变量，近50PB的多模态、高质量的数据等，通过在这些自身数据上做模型精调对齐训练，同时再用推理加速技术实现模型可控，从而相比其他企业更懂金融。

这方面，也引发了与会院士和专家的共鸣。

关于安全的风险，中国工程院院士、浙江大学求是特聘教授谭建荣举了个例子，北京老太太接到远在美国孙子的视频电话，图像、声音都是孙子的，结果却被诈骗了，因此他说“人工智能时代，眼看的不一定是事实，大家要提高警惕。”而马上消费能探索金融大模型，说明了是行业的领头羊，有了数据和模型，才能从不确定的关系转变为确定的关系，从变量中找出不变量。

中国工程院院士、浙江大学求是特聘教授谭建荣在发布会上演讲。

而应对AI风险方面，全国政协委员、国际系统与控制科学院院士、重庆国家应用数学中心主任杨新民院士表示，随着大模型的开放开源，深度合成技术的非法使用存在加速积聚的风险。他特别提到了“与马上消费率先在金融领域进行原创性探索”，包括加强深度防伪验证系统，包括人脸识别及生物特征识别验证系统的活体检测、Deepfake伪造检测、对抗攻击与防御、深度学习可解释性等。

全国政协委员、国际系统与控制科学院院士、重庆国家应用数学中心主任杨新民院士在发布会上发表演讲。

针对提升大模型应用的可信实践，中国信息通信研究院副总工程师王爱华在致辞中表示“可信人工智能实践的路径逐步清晰。人工智能发挥作用越大，它对于安全可信的要求也是越高的。当从业者自身把安全和一些问题作为发展第一要务的时候，说明这个技术在整个领域会进行应用。”