英国政府7月中旬启动「战略防卫检讨」(SDR),目前已进入公共意见汇整阶段,却因为是英国中央政府机关首次在这类大型政策工程使用人工智慧(AI)分析工具,而引发讨论。
SDR的目标为以专业独立的精神,全盘检视英国面临的安全防卫威胁及应对相关威胁的能力,以利后续政策规划和执行。根据国防部之前发布的时程,军方、产业、智库等各界意见应于10月进入分析汇整阶段。 政治新闻网站Politico报导,相关分析汇整将使用AI工具,这是英国中央政府部会首次在重大政策检讨运用AI,可视为政府推动公务体系「科技化」的一环。
英国国防部已证实,将运用客制化AI分析汇整各界就SDR所涵盖议题分别提出的意见。
根据报导,相关AI模型由美国科技公司帕兰泰尔(Palantir)打造。帕兰泰尔是在今年夏天赢得合约。
不过,英国安全防卫产业界及学界部分人士对借助AI完成SDR有疑虑。一名防卫事务专家指出,相关工具恐成为「特洛伊木马」,让恶意行为者有机可乘、骇入英国政府系统。另一名专家则说,像SDR这么重大的政策检讨不适合拿来实验AI。
帕兰泰尔打造的AI工具将透过检索关键词、题目等,分析汇整国防部收到的数以千计SDR相关意见,并拟具概要,供官员参考。
牛津大学教授、防卫科技伦理专家泰德欧(Mariarosaria Taddeo)同时是国防部数个委员会的独立顾问。她指出,以AI辅助决策,这本身不是问题,令人有疑问的是AI是否仅扮演辅助角色、使用者是否能以批判眼光检视AI。
此外,AI工具如何被设计、有什么样的人涉入,以及已执行什么样的测试以避免、排除AI内建偏见,也值得思考。
泰德欧另提醒资安风险。她指出,AI其实很脆弱,即便仅供内部使用,也可能遭遇攻击。
关于AI内建「偏见」,一名防卫产业界人士透露,部分企业试图「耍弄」系统,透过重复特定字词提升己方意见通过筛选的机率。
业界人士指出,分析汇整资料时,真人参与不足恐导致重要资讯遭遗漏,而另一些资讯则被不公平、不合理地放大。
不过,政府官员强调,AI产出的资讯将持续被真人检视。英国国防部一名发言人表示,国防部一向对自身在国防领域广泛运用AI科技的野心保持透明态度,SDR团队正运用AI分析检视各界就SDR提出的大量资料与意见。
这名发言人提到,SDR的征询对象广泛,涵盖现役与退役军人、各党籍国会议员、产业界、学界、大众。
至于SDR何时完成,3名知情人士告诉Politico,SDR预计明年3月或更早之前发布,官方的政策回应则预计在明年夏天前提出。
原文地址:https://money.udn.com/money/story/5599/8283959?from=edn_subcatelist_cate如没特殊注明,文章均来源于互联网,版权归原创作者所有,如有侵权,请联系我们处理!