马上消费金融CTO蒋宁：立足算法、数据、算力的纬度，应对大模型安全合规挑战

21世纪经济报道记者 边万莉 北京报道 11月8日-10日，金融街论坛在北京召开。在2023金融街论坛全球金融科技大会上，马上消费副总经理兼CTO蒋宁表示，大模型新技术给行业带来了很多期望，使很多领域出现新机会，但同时也面临着安全、合规、算法和生态四个方面的挑战，以及在算法、数据和算力这三个层次也带给我们诸多焦虑。

首先，大模型的挑战来自于安全、合规。蒋宁表示，在谈大模型决策之前，首先要保证数据安全。我们要解决数据从哪里来，并有效地组织管理起这些数据。目前数据的使用者、加工者、统筹者、利用者和管理者权益是分离的，需要从传统的君主制数据管理向联邦制数据管理构建，既有统筹、又有专业，既有应合、又有整体，才能有效规避大模型的潜在金融风险。

其次，大模型在鲁棒性决策中存在着巨大挑战，大模型可靠性依然存在巨大风险。蒋宁认为，“大模型在交易安全、生命安全等领域，在相当长一段时期里依然面临着巨大挑战，特别是在自动驾驶、医疗卫生等关乎社会安全和生命安全的领域，大模型还不能给出100%的正确建议，我们应该有效地利用大模型的建议，并对它进行有效管理”。

最后，大模型的挑战还来自于生态建设。良性大模型的构建需要行业各方共同努力，以实现各方共享大模型的技术红利。对此，蒋宁表示，“大模型技术还没有形成一个连续学习和强化学习的机制，我们要在联邦学习的基础上，发挥群体智慧，来实现互利共赢。特别是在金融领域，各家金融机构要利用自身数据优势，建立起共研、共创、共享的生态机制”。

为什么大模型在金融行业的标准要求高，挑战多？蒋宁认为，归根结底，金融行业是一个计算密集型、数据密集型，信息密集型行业。在金融科技创新的过程中，最敏感的数据被当成了一种新型的生产要素，并且还全面参与到了各类金融业务场景当中。在这一过程中，数据与算法所映射出来的人、财、物和现实中的人、财、物交织在一起，使得原来的人与人之间、人与物之间、人与资本之间的关系发生了巨大变化、出现了诸多挑战，在此影响下就产生了各种金融科技伦理问题。

蒋宁以马上消费真实的营销场景为案例，从基础设施安全、数据安全和算法安全这三个方面，系统性拆解了如何安全合规地落地金融大模型。他举例道，“对安全合规的检测，不仅要保证金融服务的安全合规，还要保证服务系统的安全合规。我们会系统性筛查每一位消费者的电话，避免消费者的对抗、诱导等行为，要保证每天每一通电话都是符合安全标准的。”

对于金融行业大模型全域标准规范建设，蒋宁还表示“金融大模型行业标准需要行业共建，完善生态，建立数据共享的机制，马上消费有幸参与到重庆大模型联盟，积极推动行业的发展，相信未来在监管、协会和同业机构的共同努力下，金融大模型客观能力评价和行业标准也将尽快落地”。