专题:2024金融街论坛年会

  炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!

  10月18日至20日,2024金融街论坛年会在京举行。中国科学院院士、中国科学院软件研究所研究员冯登国出席“AI重塑金融与安全治理”分论坛并作报告分享。

中国科学院院士冯登国:人工智能已成为网络空间安全发展的关键变量  第1张

  冯登国表示,人工智能尤其是大模型的广泛应用带来众多的安全风险和挑战。国家重要敏感数据面临极大的泄漏风险,针对关键信息基础设施的网络攻击变得更加自动化和智能化,加剧了深度伪造对国家政治、社会治安、金融秩序、伦理道德的危害。同时,大模型的“幻觉”缺陷导致大量错误信息涌现,人工智能武器化带来极强的攻击优势,大模型安全测评面临技术挑战。

  为了减小人工智能尤其是大模型的应用带来的安全风险,冯登国建议加强隐私保护的模型推理研究,增加人工智能在网络攻防领域中的角色,建立大模型安全理论体系与测评体系。“人工智能安全也应有等级之分,需要有针对性地切实提升我国的人工智能安全测评和把关能力,建成国际一流的人工智能安全测评平台。”冯登国称。