聚焦人工智能安全测试永信至诚与商汤科技展开战略合作

2023-07-07 21:07:40 来源：证券日报网

7月7日，永信至诚与商汤科技正式签署战略合作协议。双方将充分发挥各自在产业的专业优势，围绕人工智能安全测试评估、大模型场景化安全应用及人工智能攻防对抗等方面展开长期深度合作，共同推动人工智能技术在数字经济中的安全落地。

AI大模型时代构建安全防护体系成关键

(资料图)

当前，ChatGPT在全世界范围内引起热潮，人工智能技术以AIGC、大模型为核心迎来历史性跨越。在第六届世界人工智能大会（WAIC2023）商汤人工智能论坛上，商汤科技董事长兼CEO徐立重磅揭晓“商汤日日新SenseNova”大模型体系2.0版本，并表示自今年4月发布以来，实现了核心技术和大模型服务能力日复一日的高速迭代，已在千行百业中“落地开花”。

人工智能大模型能力不断涌现、快速发展的同时，也带来了不容忽视的安全风险。比如，针对大模型本身的网络安全攻击问题，在数据收集、数据预处理、模型训练、模型推理等各阶段面临的个人隐私、数据合规、数据篡改、投毒攻击等数据安全风险，以及企业在使用AI大模型过程中，可能遭遇的数据泄露、模型接口等安全风险。如何在抢抓AI发展重大机遇的同时，有效应对安全挑战，成为社会各界的重要命题。

签署三大战略聚力开展人工智能安全测试

永信至诚与商汤科技达成战略合作，将充分发挥各自在产业的领军优势，共同聚焦人工智能安全测试和可持续发展，从产业升级需求及生态布局出发展开深度合作。

1.永信至诚为商汤大模型的数据安全和网络安全的全生命周期安全提供测试评估服务，双方围绕大模型安全进行深度合作，结合永信至诚在网络安全和数据安全产业的多年技术积累和实践经验，依托“数字风洞”产品体系，为大模型提供全生命周期的安全测试评估服务。

2.永信至诚成为商汤对外提供大模型服务中的安全增值能力提供方，双方共同推广商汤智算中心的算力服务和AI开发平台产品，在大模型应用和服务中，结合永信至诚网络靶场、人才建设、测试评估、安全服务等方面的技术能力，提供配套的网络和数据安全产品及服务。

3.商汤科技和永信至诚共同研究探索在网络安全攻防对抗和漏洞挖掘领域的大模型应用并形成产品竞争力，双方共同打造用于网络安全攻防对抗和漏洞挖掘等领域的大模型应用，并实现产品化，以推动人工智能技术在网络和数据安全产业的创新化、规模化应用与落地。

据专家预计，未来5至10年将是人工智能发展的关键期。安全是发展的前提，在人工智能向崭新时代全速迈进的同时，安全保障与风险控制也应保持对齐。作为网络靶场和人才建设领军企业，永信至诚将积极拥抱人工智能发展带来的机遇，发挥核心优势领跑测试评估赛道，为人工智能安全以及数据安全、工业互联网安全等重要领域提供测试评估和专有人才建设支撑，力争成为中国网络空间与数字时代安全基础设施关键建设者，保障“数字健康”，实现“带给世界安全感”的愿景。

（编辑李波）

关键词：