2月21日，一份由25名技艺与公共政策探讨员一同发表的汇报指明，迅速进行的人力智能（AI）被恶意应用的风险呈上升趋向，一朝遭黑客进击，或酿成没有人驾驭的事故，商业没有人机也可能变成有针对性的武器。参加这份汇报的撰写者包括来源剑桥、牛津和耶鲁大学的25位技艺与公共政策探讨人士，以及隐私和军事行家。汇报旨在就可能产生的滥用人力智能举止敲响警钟。

探讨人士显示，鉴于对五年内人力智能技艺进行流程的预估，其以为恶意运用人力智能会对数字、物理和政治平安形成迫在眉睫的威胁，由于它可能被应用来实行大范围的、极具针对性的高效进击。

“咱们都同意，人力智能可行有好多踊跃的利用。”牛津未来人类探讨所探讨员Miles Brundage显示：“但围绕恶意运用人力智能难题的文件少得多。”

人力智能通常运用计算机执行平常须要人类智能的任务，比如做出打算或辩别文本、语言声音或视线图像。

人力智能被以为是实现各式技艺可能性的一股强盛力量，但它曾经成为了学界剧烈争论的核心。争论涉及的难题最重要的在于，经过人力智能实现的大范围自动化能否会形成大范围失业和其它社会混乱。

而这篇98页的文章警告称，经过运用AI来达成本来可能须要人工和不业余常识才能达成的任务，或将下降进击的本钱。未来可能会显露新的进击，单靠人类独自开发或应用AI体系自身的脆弱性是不确实际的。

汇报综述了大批对于人力智能形成平安风险的学术探讨，并呼吁列国政府和政策及技艺行家通力合作，一起化解此类危险。

探讨人士具体推荐了人力智能生成合成图像、文本和音频的能力，它可行被用以在网站上模仿他人举止，以左右舆论。汇报提议的提议包括将人力智能作为军用和营运两种用途的技艺来发展治理。

汇报还提议了难题——学者能否应当对其发表和披露的相关人力智能新进行的内容有所保存，能否应当在该范畴的其它行家探讨并寻到应对潜在危险的方法后，再将结果公之于众。

“咱们终归获得的难题比谜底多得多。”Brundage说。

这篇论文诞生于2017年初的一次研讨会上，自那今后，此中少许预言根本上成真了。作者们那时预测，人力智能可行用于制作极度仿真的政府官员音频和视频，从而用于宣传目的。

而昨年年底，少许仿真的色情视频最初在网上传播，少许名人的面孔被嫁接过不同的身体上，有些成果可行以假乱真。

特拉斯企业首席执行官马斯克和硅谷投资者萨姆·阿尔特曼创立的OpenAI组织政策主管杰克·克拉克显示：“尽管它此刻被用在了色情产业，而非政治宣传，可是，这一技艺被利用于后者还不是不可能。”