联合国人工智能评估报告：机遇与风险并存

　　首届全球人工智能治理对话将于7月6日至7日在日内瓦举行。7月1日，联合国人工智能问题独立国际科学小组发布报告称，人工智能拥有巨大潜在益处，但当前防护措施难以跟上人工智能能力增长。报告呼吁完善人工智能治理，以释放其效益、降低相关风险。

　　这份题为《人工智能问题独立国际科学小组的初步报告：对人工智能带来的机遇、风险和影响的询证评估》的报告指出，如果能够审慎部署和应用，人工智能可以帮助推进实现可持续发展目标，促进卫生科学发展，扩大受教育机会。但大规模、无节制地快速部署人工智能技术也会带来巨大风险，包括损害用户心理健康、可能被用作破坏性工具、对社会经济和环境系统产生影响，并带来技术管控方面的挑战。

　　报告说，近年来人工智能能力发展迅速，而且在一些领域的进展正在加快。对算力、人工智能新方法和专业训练数据的大量投入，推动了人工智能在许多方面的持续提升。这些进展推动了人工智能在科学、卫生、农业、无障碍环境、知识工作以及信息技术领域的有益应用。向人工智能智能体的转变正在进行，但智能体未来会如何得到采用，又会造成何种经济影响，很可能取决于它们在人类监督很少或没有的情况下完成知识工作的能力是否持续提升。近年来，智能体系统进步迅速，可能带来显著经济和科学效益，但其部署也为劳动力市场、网络安全、信息生态系统以及未来人工智能系统的治理与可控性带来了紧迫的问题。

　　报告强调，人工智能的发展伴随着风险，可能对人权、社会制度和环境产生负面影响。未来，快速提升的能力与有效的风险管理方法之间的差距可能导致灾难性后果。目前，缺乏可靠的方法来保持对高度自主型人工智能系统的控制。没有任何科学方法可以保证智能体不违反指令，而且有越来越多的案例表明智能体已经存在违反指令的情况。

　　报告指出，要充分实现人工智能的效益，同时尽量降低风险，就必须完善对人工智能的治理。各国根据现有证据应对人工智能风险和影响的行动能力参差不齐，需要对会员国塑造、评估和部署人工智能的能力进行持续投资。