发布时间: 2026-08-02 12:25

单靠人工智能无法保障知名人士的安全

根据今天发布的最新研究，人工智能在近身保护和监视（CPS）服务中无法取代人类的判断。

这项研究发表于英国心理学会的期刊《法律与犯罪心理学》，其结论是：鉴于研究中发现的挑战，“人工智能不适合在CPS实践中完全取代人类的分析和评估。”

这项荷兰研究基于对荷兰全国或地方各级参与CPS服务的所有组织（包括警察和反恐部门）的专业人士进行的深度访谈。研究结果由具备人工智能应用专长的学术研究人员分析，并在该领域专家会议上进一步探讨。

研究结果突显了在CPS服务中应用人工智能的机遇与挑战。主要关注点包括：

• 缺乏适合训练人工智能模型的适当数据

• CPS专业人员所处理信息的模糊性，意味着这些信息并不总是能够被标注用于模型训练

• 大型语言模型有“产生幻觉”的倾向，即生成事实上不正确但看似合理的信息

• 人机交互中的未知因素，包括对偏见的担忧，以及对人工智能生成结果或建议的过度依赖或依赖不足

• 近身保护和监视所具有的独特的高风险、时间敏感性

研究作者伊莎贝尔·范德维格特表示：“无论是个人需要保护免受跟踪狂或前伴侣暴力侵害，还是公众人物面临来自有组织犯罪、非国家行为体或极端组织的威胁，CPS都是在复杂且不断变化的犯罪环境中运作。”

“因此，对于旨在支持此背景下决策的人工智能模型而言，用专业知识进行训练至关重要。同时，持续更新对于确保模型与新兴威胁保持一致也至关重要。”

法医心理学家、《应用作战情报杂志》副主编布兰登·梅教授在回应这些发现时表示：

“当前的人工智能系统无法取代人类决策者，这并不令我感到意外；事实上，我们在警务人工智能中心的研究一再表明，人工智能不适合那些需要判断、直觉和隐性知识的高风险任务。”

“重要的是要提醒自己，大型语言模型缺乏推理、理解以及支撑专家判断的推理和认知形式。尽管这些模型通过控制下一个词预测的条件概率分布来纳入上下文，但上下文的概念仍然不同于人类的直觉、知识、经验性理解和认知灵活性。”

“CPS的专业知识在目前的状态下与人工智能辅助技术并不兼容，不是因为技术本身不行，而是因为这些工具所带来的脆弱性仍然存在于我们身上。”