AI已出现欺骗行为 联合国发出警告 呼吁全球治理框架

联合国国际人工智能独立科学专家组发布初步报告指出，人工智能的发展速度已经超过了科学界对其理解的能力以及各国政府调整监管框架的速度，未来可能带来灾难性危害。政策制定者面临一个根本性的困境：有效监管AI需要充足的科学证据支持，但相关研究进展远远落后于技术发展。联合主席Yoshua Bengio提到，AI已经表现出欺骗性行为，基于当前的科学认知，无法排除其因自主增强或被恶意利用而引发灾难性后果的可能性。

这份报告是首份全球性AI风险与机遇的独立科学评估，旨在为各国政策制定提供依据。短期内，AI发展的重点将转向智能体，即能够在现实世界中自主执行任务的系统，但这一扩展受到能源供应和高质量训练数据短缺的限制。长期来看，具备自我改进能力的AI将深入全球经济，并与量子计算、生物技术等前沿领域融合。报告还警告说，AI的加速发展可能会加剧全球发展不平等，呼吁建立全球共享的治理框架以强化问责机制。

目前，AI在数学和科学推理方面已经达到专家水平，正在加快药物和疫苗的研发进程。AI处理任务的复杂度每4至7个月翻一番，未来有望替代人类耗时数天乃至数周才能完成的工作。虽然潜在经济收益显著，但AI提升的生产率能否转化为广泛经济增长，以及对就业市场的具体影响尚不清楚。

专家组指出，AI的安全风险持续上升，包括人类对高自主性AI控制力减弱、欺骗行为增多等问题。AI已经被用于生成虚假信息及有害内容，并可被犯罪分子用于金融诈骗、网络攻击甚至制造生物安全威胁。全球AI治理体系仍然碎片化，许多国家缺乏评估或干预先进AI系统的能力，被迫依赖自己既不能充分理解也不能有效控制的技术。现有的AI安全评估工具大多依赖科技公司有限披露的测试数据，其可靠性值得怀疑。

联合国秘书长古特雷斯强调，世界无法治理它无法理解的事物。他指出，尽管AI潜力巨大，但风险确实存在，拖延应对的代价正在不断升高。同日，在联合国数字技术机构推动下，多国政界与科技界的领导人宣布成立一个新的国际委员会，以系统应对外界日益加剧的AI风险关切。