AI安全进程
AI安全工作始于十多年前的学术论文和会议,近年来因安全风险和公开信而获得更多关注。目前,各国政府主导相关倡议,但政治变化对持续性构成挑战。为了长期成功,AI安全需要一个全球性、包容性和社区驱动的进程,以确保跨国家和时间的一致性、协调性和可扩展性。这一过程需将安全与AI治理、发展及社会效益相结合,并通过学术界、产业界、民间社会和政府间组织的支持,确保其稳定性和有效性。
了解更多通过国际合作促进全球AI安全与治理能力建设
人工智能(AI)融合了多学科的见解,模仿自然智能,在推动社会和生态效益的同时也带来了风险。AI安全和治理旨在确保其在整个生命周期内的安全性、可靠性和可控性。目前以应对为主的风险管理需转向主动的安全框架。中国倡导通过政策、机构和全球合作实现稳健治理,并在联合国关于AI能力建设的决议中展现领导力。由联合国主导的全球包容性框架至关重要,以应对风险,确保AI助力可持续发展与人类共同未来。
了解更多避免人工智能灾难性风险以实现人工智能健康发展
人工智能推动了全球可持续发展,但也带来了潜在风险,包括生存威胁。这些担忧包括来自人工通用智能(AGI)和超级智能的长期风险,它们可能超出人类的控制,以及当前AI系统中紧迫的短期风险,如错误、滥用和生成虚假信息。应对这些风险需要采取主动的安全解决方案、全球协作以及开发者、用户和政府的广泛意识。通过建立如全球人工智能安全委员会的机制,可以最大限度地降低风险,同时确保人工智能的稳健、伦理和有益发展,为全人类的共同未来提供保障。
了解更多