2024年09月24日 星期二
世界数字科学院计划建立AI安全与伦理标准

    科技日报讯 (记者龚茜)9月22日,联合国未来峰会行动日边会线上举办。边会主题是“人工智能时代的数字身份”,重点探讨在AI快速发展时代,如何创建全球数字身份框架这一紧迫问题。

    世界数字科学院(WDTA)执行理事长、联合国科技委主席顾问李雨航概述了全球数字身份框架的关键需求:强调隐私、安全以及在AI驱动世界中的无缝集成。他倡导,应确保全球范围内的数字身份治理具有伦理和包容性。

    李雨航在会上宣布,世界数字科学院启动“人工智能安全、可信和负责任”(AI STR)认证计划。该计划将通过建立严格的国际标准,确保AI系统从设计、开发到实际应用各个阶段都遵循最高的安全与伦理标准。

    据悉,WDTA已发布3项AI STR标准,包括“生成式人工智能应用安全测试标准”“大语言模型安全测试方法”和“大模型供应链安全要求”。

    WDTA副理事长徐亭宣布,即日起WDTA中文名称为“世界数字科学院”,同时保留“世界数字技术院”作为别称,以更加强调科学与技术、工程、项目的深度融合与创新发展。

    联合国秘书长安东尼奥·古特雷斯表示,联合国2.0将把数字化作为重点,突出了全球数字解决方案在AI重塑未来时的必要性。

    联合国大会主席菲勒蒙·杨强调国际合作在应对持续技术革命中的必要性。联合国系统驻华协调员常启德则呼吁国际社会加强合作,构建安全、包容的数字身份体系,推动技术负责任应用,并保障人权与隐私。

    中国工程院院士、WDTA院士陈清泉强调,构建全球统一的数字身份框架有助于推动人工智能标准体系发展,促进技术与伦理平衡,确保科技负责任地服务于人类。

    纽约大学教授盖里·马库斯指出当前AI的现有缺陷和潜在风险,强调需要政策干预、透明度、独立监督以及制定AI全球性标准,确保AI技术负责任使用,避免长期风险。

    WDTA创始理事长、匈牙利代表彼得·梅杰指出,此次边会在塑造全球综合数字身份战略中十分重要,将有助于弥合数字身份与物理身份之间的差距。

京ICP备06005116