本站支持IPv6

菜单导航
产品介绍
解决方案
信息安全服务
下载专区
服务支持
旗下品牌
解决方案
金融篇
电子商务篇
移动篇
企业信息化篇
信息安全基础篇
电子政务篇
电子数据司法实践
旗下品牌
旗下品牌

ChatGPT火“爆”了!防范AI安全风险,谁来出手?

字号:

  毫无疑问,ChatGPT的横空出世是2022年人工智能领域没有之一的“顶流”事件。2023年2月,ChatGPT甚至一度"因访问量激增而宕机",可谓是字面意思上火“爆”了。

  ChatGPT究竟是啥?简而言之,是一种人工智能技术驱动的自然语言处理工具。实践表明,ChatGPT可以作诗、写代码、做研报,甚至还能完成学术论文,引发了各行各业的无限遐想。

  最近,国内多家银行宣称布局ChatGPT应用赛道。事实上,金融业与人工智能(AI)早已“双向奔赴”多年,金融机构主要在智能风控、智能投顾、智能支付、智能客服、智能营销、智能运营等场景中应用人工智能技术。

  从技术角度来看,人工智能算法面临诸多安全风险。常见的人工智能算法攻击方法包括窃取攻击、药饵攻击、闪避攻击、逆向攻击、模仿攻击等。人工智能算法的应用可能带来更多金融交易风险和数据泄露风险,给金融领域系统安全带来新的挑战。因此人工智能技术应用到金融领域,其安全性当为重中之重。

  为保障人工智能金融应用健康发展,监管部门不断制定、完善相关法律法规与行业规范。2021年3月,中国人民银行发布了《人工智能算法金融应用评价规范》(JR/T 0221—2021),为金融机构加强人工智能算法应用风险管理提供指引。

  中国金融认证中心(CFCA)立足于金融行业,建立了涵盖安全性、可解释性、精准性和性能等方面的人工智能算法检测体系,可提供符合《人工智能算法金融应用评价规范》(JR/T 0221-2021)要求的人工智能算法金融应用评估服务。

  2021年10月,CFCA作为试点检测机构参与试点工作,对宁波银行“应用于快审快贷产品的LightGBM算法(V2.2.2)”进行了检测。检测结果显示,宁波银行送检的应用于快审快贷产品的LightGBM算法符合规范要求,具有较强的安全性保障。

  近年来,CFCA在人工智能、多方安全计算、区块链、联邦学习等领域积极布局,参与各项技术标准和检测标准的制定,持续加大人工智能领域的投入,与产业各方广泛合作,为金融行业提供涵盖安全性、可解释性、精准性和性能等方面的人工智能算法检测服务,与各方携手共同推进人工智能技术在金融行业规范、健康发展。

责任编辑:韩希宇