在安全环境中，人工智能有多种应用：从能够检测可疑行为或识别罪犯，到预测可能的犯罪行为。但最终，正如在这些情况下一样，期望与现实相去甚远。
尽管我们将深入探讨问题的消极方面以及为什么将我们的监控系统交给算法不是一个好主意，但我们必须记住，深度学习和机器学习等技术的出现已经帮助用户更快地做出有效的决策。
人工智能在安全方面的挑战
如今，我们已经习惯了人工智能成为我们生活的一部分。要么推荐与我们口味相关的连续剧和电影，要么帮助我们解决更严肃的事情，例如驾驶系统。
然而，当我们要求这些人工智能算法保护我们的资产或帮助警方识别和逮捕嫌疑人时，事情就变得复杂了。据该领域的专家称，我们现在看到的错误仍然与约翰·麦卡锡当时在《人工智能》（1956）一书中所预测的错误相同。
多年来，当发现算法不够智能而无法成为专家时，热情与失望交织在一起。
智能算法
此外，在许多情况下，使它们发挥作用的硬件成本是难以承受的。
几年后，由于新一代人工智能的营销，这些错误似乎已经 韩国电报电话号码列表 被遗忘。这些神奇的首字母缩略词承诺 其任务准确率高达 99% ——而且总是在现实中几乎从未发生过的理想条件下完成。
在这个百分比的保护下出现了人工智能和安全的根本问题，因为我们将安全交给了一个已经警告我们 它不会 100% 正确工作的解决方案。
揭示人工智能工作原理的缺陷
首先，我们有它的 脆弱性。深度学习系统为我们提供了强大的自学习解决方案。然而，尽管在大多数情况下深度学习算法能够完美地区分它所看到的元素，但情况并非总是如此。
此外，我们还有内在的偏见，其中最令人担忧的是： 人工智能的种族偏见。在旧金山等一些城市 ，由于这个问题，禁止使用面部识别系统。
一个非常引人注目的案件是 非洲裔美国公民罗伯特·朱利安-博尔查克·威廉姆斯（Robert Julian-Borchak Williams）的案件，他因人工智能分析了一段抢劫视频并确定他为嫌疑人而被捕。被捕后，他在牢房里度过了一段时间，并受到了多次审讯，直到有人意识到人工智能已经变得混乱。不幸的是，朱利安-博尔查克·威廉姆斯的例子并不是孤立的。事实上，类似的涉及黑人的事件已经发生过几起。
人工智能监控
如果我们询问 面部识别系统制造商 （那些向我们承诺准确率非常接近 100% 的制造商），这些数字在识别非白人时是否也相同，答案就不会那么简洁了。
另一方面， 乌克兰国防部 自2022年3月以来一直在使用Clearview AI面部识别软件，目的是核实 战争罪。该系统可以识别死者的身份，其中包括俄罗斯人和乌克兰人。然而，这款软件 在英国却成为多次争议的主角，制造该软件的以色列公司因未经同意获取和存储用户图像而被罚款。
尽管存在这些限制和缺点，以及 固有的隐私问题 ，但很明显，人工智能在安全领域的出现是有益的，虽然仍有待完善，但有益。事实上，它使系统 在质的层面上实现了技术飞跃，但我们距离让人工智能在不受 人类智能 监督的情况下自动执行流程还很远。