专题：2024金融街论坛年会

  10月18日至20日，2024金融街论坛年会在京举行。中国科学院院士、中国科学院软件研究所研究员冯登国出席“AI重塑金融与安全治理”分论坛并作报告分享。

  冯登国表示，人工智能尤其是大模型的广泛应用带来众多的安全风险和挑战。国家重要敏感数据面临极大的泄漏风险，针对关键信息基础设施的网络攻击变得更加自动化和智能化，加剧了深度伪造对国家政治、社会治安、金融秩序、伦理道德的危害。同时，大模型的“幻觉”缺陷导致大量错误信息涌现，人工智能武器化带来极强的攻击优势，大模型安全测评面临技术挑战。

  为了减小人工智能尤其是大模型的应用带来的安全风险，冯登国建议加强隐私保护的模型推理研究，增加人工智能在网络攻防领域中的角色，建立大模型安全理论体系与测评体系。“人工智能安全也应有等级之分，需要有针对性地切实提升我国的人工智能安全测评和把关能力，建成国际一流的人工智能安全测评平台。”冯登国称。