​防范AI潜在风险 CFCA人工智能算法金融应用评估显真章

字号:

  金融科技是技术驱动的金融创新,旨在运用现代科技成果改造或创新金融产品、经营模式、业务流程等,推动金融发展提质增效。在新一轮科技革命和产业变革的背景下,人工智能技术为未来金融科技发展提供无限可能。

  人工智能应用技术框架

  作为实现人工智能的重要实现方法,机器学习被广泛应用于人工智能领域。机器学习最基本的做法,是使用算法来解析数据、从中学习,然后对真实世界中的事件做出决策和预测。传统的算法包括决策树、聚类、贝叶斯分类、支持向量机、EM、Adaboost等。从学习方法上来分,机器学习算法可以分为监督学习(如分类问题)、无监督学习(如聚类问题)、半监督学习、集成学习、深度学习和强化学习。而深度学习是机器学习的子类,它是用于建立、模拟人脑进行分析学习的神经网络,并模仿人脑的机制来解释数据的一种机器学习技术。

  随着机器学习、深度学习等方法与系统的持续创新与演进,诸如图像识别、语音识别、自然语言翻译等人工智能技术广泛应用到智能客服、智能投顾、智能投研、智能营销、金融风险防控等金融场景下。  

​防范AI潜在风险 CFCA人工智能算法金融应用评估显真章

  人工智能存在的安全问题

  由于机器学习和深度学习的工作原理极为复杂,导致了人工智能算法通常缺乏可解释性。人工智能系统受到闪避攻击、药饵攻击、对抗样本攻击、物理攻击、黑盒攻击、后门攻击、窃取攻击等恶意攻击事件层出不穷,增加了金融交易风险和数据泄露风险。因此人工智能技术应用到金融领域,其安全性变得前所未有的重要。  

​防范AI潜在风险 CFCA人工智能算法金融应用评估显真章

  如何规避人工智能技术的安全风险

  2021年3月,中国人民银行正式发布《人工智能算法金融应用评价规范》(JR/T 0221-2021),为金融机构加强人工智能算法应用风险管理提供指引。该规范规定开展人工智能算法金融应用评价的金融机构、算法厂商、第三方安全评估机构应符合此规范要求。在进行人工智能算法金融应用评估时,评估工作应从安全性、可解释性、精准性和性能方面,通过查阅资料、查看系统、访谈人员、系统测试、攻击测试、算法测试、查看算法等方式开展。  

​防范AI潜在风险 CFCA人工智能算法金融应用评估显真章

  中国金融认证中心(CFCA)立足于金融行业,目前可提供符合《人工智能算法金融应用评价规范》(JR/T 0221-2021)要求的人工智能算法金融应用评估服务,和您共同守护金融领域安全防线。

  作者:吴宝民