可怕的潜在应用：无人机+人脸识别算法=杀手无人机

俺老孙去也 · 发表于 2024-4-3 09:32:21

新技术的研发项目往往关注单项的技术更新，比如更轻巧的无人机，更准确的人脸识别算法。

最近，一位工程师突然意识到，一些这样的新技术叠加起来，可能带来非常可怕的后果，例如——利用面部识别技术追杀特定对象的杀手无人机。

追着人跑的无人机丨X@luiswenus

制造杀手无人机

拢共就三步

这项实验的设计者是 AI 创业者、工程师路易·韦努斯（Luis Wenus），他在自己的 X（原 Twitter）账号上讲述了经过。

起初，韦努斯只想发明一个高科技版的鬼抓人游戏，用无人机追着人跑：“只要使用AI物体探测模型，识别检测区域里的人，然后对无人机编程，让它一旦检测到某个人就全速冲过去。”

接下来，“我成功添加了面孔识别功能，让它只追踪目标人物，它能轻松在 10 米的距离处认出这个人”，韦努斯写道。

这时候，韦努斯开始感到害怕了。如果无人机能精准识别目标，那么只要再搭载一点**，就能让它发动攻击。

“这样的无人机实际上只要几个小时就能做出来，这让我意识到它有多么恐怖。你可以轻松在上面搭载少量**，放出 100 台这样的无人机。”

韦努斯强调，他的实验只用了一台小小的无人机，不会对人造成任何**，意在唤起大众对安全问题的关注。
微信图片_20240403093138.png

原贴内容丨X@luiswenus

开发者：制造门槛将越来越低

韦努斯自称是“开源的绝对支持者”和 AI 的拥护者，他在个人简介中写着“e/acc”，表示他支持有效加速主义（effective accelerationism）。这种思潮接近于技术乐观主义，相信 AI 的发展利大于弊，支持大力发展 AI 技术，而尽量减少监管的限制。这种观点并不否认技术具有潜在的负面影响，但强调只有将技术公开，才能找到解决办法。

但是，使用开源设备稍作改造，就能制造出如此可怕的武器，这一事实让韦努斯也有些动摇。他表示不能分享这次实验相关的代码，并强调“超级简单”。

他担心，随着 AI 辅助编程的普及，制造这类设备的门槛将越来越低。在韦努斯的视频下，埃隆·马斯克也直接表明：“没错，简单得可怕。”

微信图片_20240403093140.png

埃隆·马斯克转发实验视频称：“没错，简单得可怕。”| X@luiswenus

韦努斯还担心，目前在许多公共场所、大型活动中，安保措施仅关注传统的{BANNED}{BANNED}，而没有对无人机进行同样的限制。

无人机与反无人机的

“猫鼠游戏”

近年来，无人机已经被应用于战争领域。在俄乌冲突、巴以冲突的新闻报道中，都能看到无人机的身影。相应地，反无人机技术也在快速发展，它不仅应用于国防，也用于保障机场等重点公共设施的安全。

反无人机系统借助摄像头、声学传感器或雷达探测无人机，然后采用射频干扰、GPS 欺骗等方法，或借助射网枪、高能激光等工具，将无人机驱离或摧毁。

但是，无论是无人机还是反无人机系统，一旦被滥用，都可能造成危险的后果。2019 年，哈尔滨太平机场多架航班受到无人机反制设备干扰，造成航空器 GPS 信号丢失。经过排查发现，是当地一家企业私自设立无人机反制设备，以防范无人机进入厂区。

要防范“技术作恶”，不能只用技术手段进行制约，法律也要跟上脚步。在中国，《无人驾驶航空器飞行管理暂行条例》已经于 2024 年 1 月 1 日实施，要求无人机依法办理登记，飞越集会场所前事先报备，并仅在规定的适飞区域内飞行。随着无人机在爱好者群体中越来越普及，这样的法律法规十分必要。

参考文献

[1]Luis Wenus@X. https://twitter.com/luiswenus/status/1763978511092478221. 2024-03-03/2024-03-21.

[2]Keumars Afifi-Sabet. AI drone that could hunt and kill people built in just hours by scientist 'for a game'. LiveScience. https://www.livescience.com/tech ... ientist-for-a-game. 2024-03-07/2024-03-21.

[3]哈尔滨太平机场多架次航班受无人机反制设备干扰. 新华网. http://m.xinhuanet.com/2019-11/14/c_1125232377.htm. 2019-11-14/2024-03-21.

来源丨果壳