人工智能是一种可以将人类大脑可以做的任何事情自动化的技术，它正在迅速发展。人工智能引起了一系列担忧，包括但不限于操纵舆论、网络操作自动化、侵犯隐私、生产和部署生物和化学武器的能力扩散、由于人工智能与大部分人口的经济竞争而对劳动力市场产生的影响、偏见的放大以及“失控”，这指的是人工智能代理可能自主工作以削弱人类权力。强调其中一些是推测性的、理解不足的和或专家之间存在激烈分歧的主题。9 对于其中许多风险，风险管理的尝试面临许多难题。
考虑一个例子风险：人工智能可能协助化学和生物武器的生产。10 为了评估和管理这种风险，人们理想情况下希望对以下问题得到有根据的答案：人工智能系统可以增强武器生产（和或采购）的哪些方面？适用于哪些类 斯洛文尼亚 whatsapp 数据 型的武器，适用于哪些类型的参与者？人工智能系统可以在多大程度上帮助每种类型的关注参与者处理每种类型的武器？如何知道哪些人工智能系统能够实现这种增强？可以采取哪些技术措施来确保相关行为者既不能从人工智能那里获取武器生产的帮助。
也不能窃取人工智能模型权重并对其进行微调以达到自己的目的？鉴于人们关注的是假设的未来人工智能系统，而不是现有的人工智能系统，因此很难得到这些问题的合理答案。没有这种人工智能系统的经验例子可供研究，没有这种人工智能辅助事件的案例研究，没有可以用来直接估计频率的统计数据，也没有可以研究以制定标准的相关高保证人工智能安全程序。我们没有这些东西并不意味着对风险的担忧是没有根据的。人工智能系统最近在多个方面的表现都接近人类专家的水平。