1
00:00:02,000 --> 00:00:07,000
Downloaded from
YTS.MX

2
00:00:08,000 --> 00:00:13,000
Official YIFY movies site:
YTS.MX

3
00:00:24,065 --> 00:00:26,818
‎我认为人工智能颇为令人惊叹

4
00:00:28,361 --> 00:00:31,489
‎好的 盘旋 阵型不错

5
00:00:33,116 --> 00:00:36,703
‎人工智能也许能消除贫困

6
00:00:36,786 --> 00:00:38,705
‎为我们提供新药

7
00:00:39,330 --> 00:00:41,583
‎让我们的世界更加和平

8
00:00:46,087 --> 00:00:46,921
‎做得好

9
00:00:49,883 --> 00:00:53,428
‎但同时 这条道路上也危机重重

10
00:01:04,773 --> 00:01:09,611
‎通过人工智能 我们实质上
‎是在创造一种难以预测的

11
00:01:09,694 --> 00:01:11,863
‎非人类的智能

12
00:01:14,407 --> 00:01:16,451
‎随着它变得越来越强大

13
00:01:16,534 --> 00:01:19,746
‎我们想要使用还是不使用人工智能

14
00:01:19,829 --> 00:01:22,665
‎这条红线该如何界定？

15
00:01:25,001 --> 00:01:28,505
‎没有哪个领域比军事应用

16
00:01:28,588 --> 00:01:31,049
‎更适合开启这一讨论了

17
00:01:34,010 --> 00:01:38,890
‎如今的战场
‎已经转移到了软件和硬件的领域

18
00:01:41,059 --> 00:01:42,936
‎目标已锁定…

19
00:01:43,019 --> 00:01:48,399
‎军方正在竞相开发人工智能
‎以求超越他们的对手

20
00:01:49,526 --> 00:01:50,360
‎我死了

21
00:01:53,780 --> 00:01:58,326
‎我们正在快步进入一个新的世界
‎在这里 不仅主要的军事力量

22
00:01:58,409 --> 00:02:02,997
‎就连非国家行为者、私人企业、

23
00:02:03,081 --> 00:02:06,459
‎甚至地方警察部门

24
00:02:06,543 --> 00:02:10,046
‎都可以使用这些
‎具备自主杀伐能力的武器

25
00:02:12,006 --> 00:02:17,303
‎我们是否会将生杀大权
‎交给算法和计算机软件？

26
00:02:18,638 --> 00:02:21,516
‎这是我们这个时代最紧迫的问题之一

27
00:02:23,935 --> 00:02:26,354
‎如果使用不当

28
00:02:26,437 --> 00:02:30,275
‎它将会对地球上的每一个人
‎构成严重的威胁

29
00:02:41,828 --> 00:02:44,914
‎片名：地球未知档案

30
00:02:46,833 --> 00:02:50,086
‎片名：地球未知档案：杀手机器人

31
00:03:28,291 --> 00:03:30,168
‎各位 做得很好

32
00:03:59,948 --> 00:04:02,200
‎这比我们以前的镜头
‎取景范围宽了很多

33
00:04:02,283 --> 00:04:03,117
‎是吗？

34
00:04:03,201 --> 00:04:04,786
‎你可以得到多得多的数据

35
00:04:05,286 --> 00:04:06,287
‎太好了

36
00:04:07,538 --> 00:04:11,167
‎在Shield AI公司
‎我们正在开发一个人工智能飞行员

37
00:04:11,251 --> 00:04:14,879
‎将自动驾驶和人工智能技术

38
00:04:14,963 --> 00:04:16,631
‎运用于飞行器上

39
00:04:19,300 --> 00:04:21,719
‎说到人工智能飞行员时

40
00:04:21,803 --> 00:04:25,139
‎我们想到的是
‎赋予飞行器更高级别的自主权

41
00:04:25,223 --> 00:04:27,850
‎它们将会自主解决问题

42
00:04:29,602 --> 00:04:32,355
‎诺瓦是一种自主四旋翼飞行器

43
00:04:32,438 --> 00:04:35,942
‎它可以为清障部队打头阵

44
00:04:36,859 --> 00:04:38,611
‎探索建筑物与地下结构

45
00:04:38,695 --> 00:04:41,322
‎对这些地区实行监控

46
00:04:41,906 --> 00:04:44,534
‎与我们上一次见到的它相比

47
00:04:44,617 --> 00:04:45,618
‎大家能看到许多改良

48
00:04:45,702 --> 00:04:47,870
‎今天我们会对一些
‎探索性的修改进行检测

49
00:04:47,954 --> 00:04:50,248
‎我们会进行逐层勘察

50
00:04:50,331 --> 00:04:53,584
‎我们的想法是 让它先完成整层楼
‎每个房间的勘察 然后再去下一层

51
00:04:54,294 --> 00:04:56,796
‎-太棒了
‎-我们最近对它进行了一些改进…

52
00:04:56,879 --> 00:04:58,548
‎常常有很多人问我

53
00:04:58,631 --> 00:05:02,468
‎人工智能
‎为什么是一种重要的军事力量

54
00:05:02,552 --> 00:05:06,973
‎我会想起我曾经执行过的那些任务

55
00:05:09,142 --> 00:05:10,935
‎我在海军服役了七年

56
00:05:11,561 --> 00:05:15,273
‎我是前海豹突击队队员
‎曾两次被派往阿富汗

57
00:05:15,356 --> 00:05:17,191
‎一次被派往太平洋战场

58
00:05:18,026 --> 00:05:22,947
‎一天之内 我们可能必须清理
‎150座不同的院落或建筑物

59
00:05:30,997 --> 00:05:34,250
‎核心能力之一就是近身战斗

60
00:05:35,293 --> 00:05:39,172
‎在建筑物内进行超近距离枪战

61
00:05:41,466 --> 00:05:42,967
‎你会被子弹击中

62
00:05:43,468 --> 00:05:46,471
‎建筑物内也许会有简易爆炸装置

63
00:05:49,015 --> 00:05:55,229
‎这是所有特种部队成员和步兵

64
00:05:55,313 --> 00:05:58,358
‎在战区会面临最危险的局面

65
00:05:58,441 --> 00:05:59,275
‎无一例外

66
00:06:12,497 --> 00:06:16,334
‎我此生都会感激
‎我在海军效力的这段时光

67
00:06:17,168 --> 00:06:22,423
‎有很多画面和回忆 每当我想起它们

68
00:06:22,507 --> 00:06:24,592
‎总会感慨万千

69
00:06:28,346 --> 00:06:32,725
‎“自由不是免费的” 这是陈词滥调了
‎但我100%相信这句话

70
00:06:33,559 --> 00:06:37,105
‎我亲身经历过
‎它需要无数的牺牲来换取

71
00:06:38,022 --> 00:06:38,856
‎抱歉

72
00:06:41,067 --> 00:06:44,570
‎当你的某位战友遭遇不幸时

73
00:06:44,654 --> 00:06:46,614
‎不论是受伤还是牺牲

74
00:06:47,490 --> 00:06:49,700
‎这都是悲剧

75
00:06:49,784 --> 00:06:52,912
‎对我来说 我们现在所做的工作

76
00:06:52,995 --> 00:06:58,835
‎其动力来源就是减少此类悲剧

77
00:06:58,918 --> 00:07:00,336
‎再次发生的概率

78
00:07:07,176 --> 00:07:08,886
‎2000年代末

79
00:07:08,970 --> 00:07:11,556
‎国防部内部开始意识到

80
00:07:11,639 --> 00:07:15,351
‎一场所谓
‎“意外的机器人革命”正在发生

81
00:07:15,893 --> 00:07:19,564
‎我们在伊拉克和阿富汗
‎部署了数千个空中和地面机器人

82
00:07:21,482 --> 00:07:24,068
‎当奥巴马政府邀请我

83
00:07:24,152 --> 00:07:26,404
‎担任国防部副部长时

84
00:07:26,904 --> 00:07:31,117
‎作战的方式正在发生改变

85
00:07:32,452 --> 00:07:36,330
‎以前用人的地方被换成了机器人

86
00:07:37,999 --> 00:07:40,376
‎早期的机器人系统都是遥控的

87
00:07:40,460 --> 00:07:45,173
‎有一个人类在驾驶、操控着它
‎就像驾驶遥控汽车一样

88
00:07:46,632 --> 00:07:51,512
‎刚开始 它们的任务
‎一般是针对那些简易爆炸装置

89
00:07:52,013 --> 00:07:54,849
‎如果炸弹爆炸了
‎机器人也会随之炸毁

90
00:07:57,393 --> 00:08:00,396
‎然后你会说：“真是不幸
‎好吧 再拿一个机器人出来”

91
00:08:02,273 --> 00:08:04,484
‎在阿富汗 有掠夺者侦察机

92
00:08:05,276 --> 00:08:09,739
‎它变成了一种非常高效的空袭工具

93
00:08:13,117 --> 00:08:16,829
‎随着时间的推移
‎军事规划人员们开始想：

94
00:08:16,913 --> 00:08:20,791
‎“机器人还能用在哪些地方？”
‎而这一趋势会发展到哪种地步？

95
00:08:20,875 --> 00:08:24,170
‎其中一个共同的主题就是
‎机器人会慢慢趋向拥有更多自主权

96
00:08:26,506 --> 00:08:30,635
‎自主武器能够自己做出决定

97
00:08:30,718 --> 00:08:33,304
‎人类无需或者只需进行极少的干预

98
00:08:33,387 --> 00:08:37,558
‎因此 它是具有
‎独立能力且能自我导向的

99
00:08:38,434 --> 00:08:41,604
‎它能否杀敌取决于它是否配备了武器

100
00:08:43,314 --> 00:08:47,026
‎当你的整个系统自主程度越来越高时

101
00:08:47,109 --> 00:08:49,779
‎一切就会开始以更快的速度运转

102
00:08:51,989 --> 00:08:56,869
‎而当你的行动速度超过你的对手时

103
00:08:57,453 --> 00:09:01,165
‎这在战场上是一项无与伦比的优势

104
00:09:03,960 --> 00:09:06,254
‎关于自主性 我们的焦点

105
00:09:07,255 --> 00:09:09,966
‎在于高度弹性的智能系统

106
00:09:12,051 --> 00:09:15,304
‎这些系统能够根据环境
‎读取信息并做出反应

107
00:09:15,805 --> 00:09:19,642
‎同时对该如何
‎在那个环境中实施操作做出决策

108
00:09:24,981 --> 00:09:29,151
‎我们今天所处的这个地方
‎建造之初是作为电影工作室之用

109
00:09:29,235 --> 00:09:30,611
‎后来进行了改造

110
00:09:30,695 --> 00:09:34,156
‎以打造出这种逼真的军事训练环境

111
00:09:39,495 --> 00:09:43,291
‎我们来这儿的目的
‎是对我们的人工智能飞行员进行测评

112
00:09:44,625 --> 00:09:49,297
‎它的任务是寻找威胁
‎重点是清除武装力量

113
00:09:49,380 --> 00:09:52,800
‎它可以自己决定要如何解决那个问题

114
00:09:55,428 --> 00:09:59,390
‎我们将这里称为“死亡狭道”
‎你必须穿过一个门道

115
00:10:01,726 --> 00:10:03,311
‎这是我们最易受到攻击的敌方

116
00:10:03,811 --> 00:10:05,146
‎这个看起来好一些

117
00:10:07,106 --> 00:10:10,151
‎诺瓦会告诉我们门后的是一名枪手

118
00:10:10,818 --> 00:10:12,653
‎还是一家平民

119
00:10:15,114 --> 00:10:18,451
‎它能帮我们更好地做出决策
‎并让大家远离危险

120
00:10:57,114 --> 00:10:59,367
‎我们使用了视觉传感器

121
00:10:59,450 --> 00:11:03,162
‎来了解该环境的情况

122
00:11:04,997 --> 00:11:06,415
‎这是一栋多层建筑

123
00:11:07,333 --> 00:11:08,334
‎这是地图

124
00:11:08,417 --> 00:11:11,671
‎在探测过程中 这就是
‎我看到的内容 以及我观看的地方

125
00:11:19,929 --> 00:11:22,098
‎人类探测器 厉害

126
00:11:23,891 --> 00:11:27,061
‎诺瓦配备的另一种探测器是热扫描仪

127
00:11:27,561 --> 00:11:30,690
‎如果是37摄氏度 那很可能是人类

128
00:11:32,358 --> 00:11:35,444
‎除非另有解释
‎否则人类都会被视作威胁

129
00:11:38,906 --> 00:11:43,244
‎它的目的是在战争中
‎拨开迷雾 以更好地做出决策

130
00:11:44,704 --> 00:11:46,539
‎当我们放眼未来时

131
00:11:47,039 --> 00:11:50,793
‎我们正在估测打造这样的
‎自主飞行器团队所需要的东西

132
00:11:53,754 --> 00:11:55,631
‎对于自动驾驶汽车

133
00:11:55,715 --> 00:11:57,466
‎基本上 人们得告诉它

134
00:11:57,550 --> 00:12:00,386
‎“我要你从A地去往B地”

135
00:12:02,972 --> 00:12:06,475
‎我们的系统得到的指令
‎不是从A地去往B地

136
00:12:06,559 --> 00:12:08,477
‎而是要达成某一目标

137
00:12:10,312 --> 00:12:13,190
‎指令更类似于：“我需要牛奶”

138
00:12:13,274 --> 00:12:17,486
‎然后机器人
‎必须判断出该去哪间杂货店

139
00:12:17,570 --> 00:12:20,239
‎才能找到牛奶 然后把它带回来

140
00:12:20,740 --> 00:12:22,074
‎甚至

141
00:12:22,158 --> 00:12:27,037
‎指令可以更适当地表述为：
‎“保持冰箱里食物充足”

142
00:12:27,538 --> 00:12:29,457
‎而这种级别的智能

143
00:12:29,540 --> 00:12:32,168
‎就需要弄清楚我们需要什么
‎以及我们需要怎么做

144
00:12:32,251 --> 00:12:34,253
‎如果遇到挑战 或者有问题

145
00:12:34,336 --> 00:12:37,381
‎或者遇到了麻烦
‎就要想办法缓解那种情况

146
00:12:40,801 --> 00:12:45,431
‎在决定从海军退役后 我开始考虑：

147
00:12:45,514 --> 00:12:47,558
‎“好吧 接下来要做什么？”

148
00:12:49,143 --> 00:12:52,021
‎我从小就是伴着网络长大的
‎我见证了它的变迁

149
00:12:53,189 --> 00:12:55,608
‎而我得到的其中一个结论是…

150
00:12:56,108 --> 00:12:58,861
‎2015年的人工智能

151
00:12:58,944 --> 00:13:02,907
‎就相当于是1991年的互联网

152
00:13:04,033 --> 00:13:06,285
‎人工智能已经蓄势待发

153
00:13:06,368 --> 00:13:09,747
‎它将成为世界上最强大的技术

154
00:13:11,791 --> 00:13:16,212
‎每天的工作都与人工智能为伴
‎我可以看到它在不断进步

155
00:13:19,048 --> 00:13:22,051
‎但对于很多人来说 提到“人工智能”

156
00:13:22,551 --> 00:13:25,221
‎他们就会立刻联想到好莱坞

157
00:13:28,057 --> 00:13:29,975
‎我们要玩游戏吗？

158
00:13:30,059 --> 00:13:35,314
‎《全球热核战争》怎么样？

159
00:13:35,898 --> 00:13:36,816
‎好吧

160
00:13:38,275 --> 00:13:40,861
‎一般 当人们想到人工智能时

161
00:13:40,945 --> 00:13:44,824
‎大家或许会想到
‎《终结者》或者《我，机器人》

162
00:13:45,574 --> 00:13:46,700
‎停止运行

163
00:13:46,784 --> 00:13:48,160
‎我是什么？

164
00:13:48,244 --> 00:13:49,620
‎或者《黑客帝国》

165
00:13:51,080 --> 00:13:53,749
‎根据你在科幻电影里看到的内容

166
00:13:53,833 --> 00:13:57,878
‎你怎么知道我是人类？
‎我可能只是计算机生成的人工智能

167
00:13:58,379 --> 00:14:02,007
‎复制人和其他所有机器人一样
‎它们要么于人有利 要么祸害无穷

168
00:14:02,675 --> 00:14:06,095
‎但还有各种较原始的人工智能

169
00:14:06,178 --> 00:14:08,097
‎在我们发展到

170
00:14:08,180 --> 00:14:11,851
‎有思考和交流能力的机器人阶段前
‎它们也会为我们的生活带来变化

171
00:14:12,643 --> 00:14:15,771
‎机器人已经出现
‎机器人正在负责决策

172
00:14:15,855 --> 00:14:18,816
‎机器人革命已经到来

173
00:14:18,899 --> 00:14:22,319
‎只是它跟大家想象的情况有所出入

174
00:14:23,320 --> 00:14:26,740
‎终结者是一个融合体 半人半机器

175
00:14:27,950 --> 00:14:31,370
‎我们说的不是一个
‎像终结者那样的杀人机器人

176
00:14:31,871 --> 00:14:35,958
‎我们说的是能够完成一些
‎人类能完成的任务的人工智能

177
00:14:36,041 --> 00:14:39,879
‎但问题在于 这些系统是否可靠

178
00:14:40,462 --> 00:14:45,426
‎昨晚优步自动驾驶休旅车
‎致命车祸的最新细节

179
00:14:45,509 --> 00:14:48,762
‎公司开发了一款人工智能聊天机器人

180
00:14:48,846 --> 00:14:51,056
‎她带着颇具种族主义色彩的口吻…

181
00:14:51,140 --> 00:14:55,394
‎26名州议员被错误地认定为罪犯

182
00:14:57,438 --> 00:15:02,026
‎问题在于 它们能否应付
‎真实世界的错综复杂

183
00:15:03,193 --> 00:15:06,655
‎（马萨诸塞州 剑桥）

184
00:15:22,212 --> 00:15:24,006
‎物质世界错综复杂

185
00:15:25,174 --> 00:15:27,426
‎有很多事情我们并不了解

186
00:15:27,968 --> 00:15:30,763
‎这让训练人工智能系统变得愈发困难

187
00:15:33,098 --> 00:15:36,977
‎这就是机器学习系统
‎开始发挥作用的地方

188
00:15:38,520 --> 00:15:41,440
‎机器学习是一个巨大的进步

189
00:15:42,024 --> 00:15:45,611
‎因为它意味着
‎我们无需教会计算机所有东西

190
00:15:47,905 --> 00:15:52,409
‎实际上 你是将
‎数百万条信息交给计算机

191
00:15:52,493 --> 00:15:54,453
‎然后机器开始自己学习

192
00:15:55,245 --> 00:15:57,289
‎这可以应用于任何事情

193
00:16:00,250 --> 00:16:02,962
‎在机器狗项目中 我们想要展示的是

194
00:16:03,045 --> 00:16:09,009
‎我们的机器狗
‎可以在许多不同的地形上面行走

195
00:16:10,052 --> 00:16:14,098
‎人类经过数十亿年的进化才学会走路

196
00:16:14,932 --> 00:16:20,688
‎但适应这些不同的地形
‎牵涉到了许多的智能

197
00:16:21,939 --> 00:16:24,316
‎对机器人系统来说 尚存的问题是

198
00:16:24,400 --> 00:16:27,069
‎它们能否
‎像动物和人类一样适应环境？

199
00:16:35,953 --> 00:16:37,413
‎通过机器学习

200
00:16:37,496 --> 00:16:40,582
‎我们在模拟过程中
‎收集到了海量的数据

201
00:16:42,668 --> 00:16:45,838
‎模拟是现实的数字化孪生体

202
00:16:46,588 --> 00:16:52,052
‎我们可以在不同的计算机上
‎运行某种现实情况的许多实例

203
00:16:53,178 --> 00:16:56,974
‎它在模拟中
‎对数以千计的动作进行采样

204
00:16:58,892 --> 00:17:02,229
‎它们遇到的地面具有不同的滑度

205
00:17:02,312 --> 00:17:03,856
‎它们有不同的柔软度

206
00:17:04,898 --> 00:17:08,318
‎我们将从模拟中得到
‎这数千个机器人的所有经验

207
00:17:08,402 --> 00:17:13,282
‎下载到真正的机器人系统中

208
00:17:15,492 --> 00:17:20,039
‎我们今天要测试的内容
‎是看看它能否适应新的地面

209
00:17:53,322 --> 00:17:55,491
‎当机器人要通过一片泡沫时

210
00:17:55,574 --> 00:17:58,577
‎其脚部的动作是在地面上跺踩

211
00:17:59,369 --> 00:18:02,206
‎而当它来到这片聚合材料表面时

212
00:18:03,248 --> 00:18:06,460
‎它会努力调整动作 以防止打滑

213
00:18:08,670 --> 00:18:10,672
‎而这正是让你震惊的时候

214
00:18:10,756 --> 00:18:14,051
‎“这就是机器学习带来的效果”

215
00:18:41,161 --> 00:18:44,123
‎我们认为机器狗

216
00:18:44,206 --> 00:18:46,166
‎在需要穿越许多不同地形的

217
00:18:46,250 --> 00:18:49,670
‎灾难应对场景中会发挥巨大的作用

218
00:18:52,631 --> 00:18:57,427
‎我们也可以让这些机器狗
‎去严酷的环境中进行监视

219
00:19:15,696 --> 00:19:19,575
‎但大部分的技术都会遇到一项挑战

220
00:19:19,658 --> 00:19:22,369
‎那就是 它们可以行善 也可以作恶

221
00:19:24,079 --> 00:19:27,875
‎比如 我们可以利用核技术供能…

222
00:19:30,419 --> 00:19:33,797
‎但我们也可以开发出
‎非常邪恶的原子弹

223
00:19:35,090 --> 00:19:38,468
‎这就是所谓的双刃剑问题

224
00:19:39,052 --> 00:19:40,929
‎火是一把双刃剑

225
00:19:41,722 --> 00:19:44,308
‎人类智慧也是双刃剑

226
00:19:44,391 --> 00:19:48,645
‎所以不用说
‎人工智能同样是把双刃剑

227
00:19:49,354 --> 00:19:53,984
‎考虑人工智能的使用环境
‎是非常重要的

228
00:19:54,693 --> 00:19:59,114
‎因为 没错 能有一个搜救机器人

229
00:19:59,198 --> 00:20:02,284
‎在雪崩后帮忙搜救是件非常好的事

230
00:20:02,868 --> 00:20:05,871
‎但这同一个机器人也可以被武器化

231
00:20:15,088 --> 00:20:21,094
‎当看到有些公司给机器人装备武器时

232
00:20:21,178 --> 00:20:22,930
‎你会感到愤怒

233
00:20:23,931 --> 00:20:28,435
‎同时我们也会意识到
‎当我们把我们的技术投放出去时

234
00:20:28,518 --> 00:20:30,103
‎这种情况就注定会发生

235
00:20:31,021 --> 00:20:34,441
‎这是一项真正的变革性技术

236
00:20:36,235 --> 00:20:38,028
‎这些武器系统

237
00:20:38,111 --> 00:20:43,617
‎可以为我们的安全和安保带来巨变

238
00:20:46,161 --> 00:20:51,500
‎目前 我们并不确定这些机器真的能

239
00:20:51,583 --> 00:20:54,962
‎区分平民与士兵

240
00:21:01,885 --> 00:21:05,597
‎阿富汗战争早期
‎我是陆军游骑兵狙击队的一员

241
00:21:05,681 --> 00:21:08,016
‎我们的任务是寻找
‎越过边界的敌方战斗人员

242
00:21:09,685 --> 00:21:12,521
‎他们派了一个小女孩
‎来侦察我们的位置

243
00:21:13,939 --> 00:21:17,067
‎我从没想过要开枪射杀这个小女孩

244
00:21:19,695 --> 00:21:22,864
‎根据战争法 那其实是合法的

245
00:21:24,950 --> 00:21:27,369
‎他们并没有规定敌方战斗人员的年龄

246
00:21:29,079 --> 00:21:33,417
‎如果你开发了一个
‎完全遵照战争法行事的机器人

247
00:21:33,500 --> 00:21:35,252
‎它一定会将那个小女孩射杀

248
00:21:36,420 --> 00:21:41,091
‎机器人怎么能够区分
‎什么是合法的 而什么是正确的？

249
00:21:43,385 --> 00:21:46,054
‎谈到自主无人机战争时

250
00:21:46,138 --> 00:21:49,933
‎他们想要减少对美国士兵

251
00:21:50,017 --> 00:21:51,601
‎和美国人心理造成的伤害

252
00:21:52,602 --> 00:21:57,149
‎但最终却导致了
‎对阿富汗、伊拉克、索马里平民

253
00:21:57,232 --> 00:21:58,775
‎的伤害剧增

254
00:22:09,619 --> 00:22:14,416
‎我真的想问问那些
‎支持将人工智能用于无人机的人：

255
00:22:15,375 --> 00:22:18,295
‎“如果你们的村庄成为了
‎受攻击的目标 你们作何感想？”

256
00:22:23,550 --> 00:22:25,594
‎人工智能是一把双刃剑

257
00:22:26,595 --> 00:22:30,724
‎它可以用来做好事
‎这也是我们通常的做法

258
00:22:31,558 --> 00:22:33,477
‎但只要轻轻按下开关

259
00:22:34,561 --> 00:22:38,023
‎这项技术就可能会变成致命的东西

260
00:22:47,032 --> 00:22:48,533
‎我是一名临床药理学家

261
00:22:49,618 --> 00:22:50,994
‎我们的团队

262
00:22:51,078 --> 00:22:54,247
‎在利用人工智能研发药物

263
00:22:54,331 --> 00:22:57,751
‎以治疗那些没有受到任何关注的疾病

264
00:22:59,711 --> 00:23:04,132
‎过去 新药研发的过程是
‎你用一个已经存在的分子

265
00:23:04,216 --> 00:23:06,885
‎对其进行微调 然后得到一种新药

266
00:23:08,261 --> 00:23:13,350
‎现在 我们开发的人工智能
‎可以为我们提供无数种思路

267
00:23:13,892 --> 00:23:15,227
‎无数种分子

268
00:23:16,186 --> 00:23:19,231
‎这为我们治疗以前无法治疗的疾病

269
00:23:19,314 --> 00:23:22,567
‎开辟了许多的可能性

270
00:23:25,153 --> 00:23:28,448
‎但这其中确实有一个
‎我从没想过自己会触及的

271
00:23:28,532 --> 00:23:29,741
‎阴暗面

272
00:23:33,161 --> 00:23:35,872
‎事情始于

273
00:23:35,956 --> 00:23:40,043
‎一个名叫施皮茨实验室的瑞士机构

274
00:23:40,544 --> 00:23:44,423
‎邀请我就“人工智能潜在的滥用问题”
‎做一次演讲

275
00:23:48,343 --> 00:23:51,221
‎西恩给我发了一封邮件

276
00:23:51,304 --> 00:23:55,308
‎列举了几种
‎可能会滥用人工智能的情况

277
00:23:56,059 --> 00:24:00,355
‎与其要求模型
‎创造出能用于疾病治疗的

278
00:24:00,439 --> 00:24:02,274
‎类药分子

279
00:24:02,774 --> 00:24:06,403
‎我们来看看
‎它能否生成毒性最强的分子吧

280
00:24:10,198 --> 00:24:11,491
‎我就是想说明

281
00:24:11,575 --> 00:24:15,203
‎我们能否利用人工智能技术
‎设计出致命的分子结构？

282
00:24:17,414 --> 00:24:20,083
‎老实说 我们以为这并不会成功

283
00:24:20,167 --> 00:24:24,504
‎因为我们只是把某个“0”改成了“1”

284
00:24:26,715 --> 00:24:30,385
‎通过反向设置 我们不再是避免毒性

285
00:24:30,469 --> 00:24:32,220
‎而是寻求毒性

286
00:24:32,721 --> 00:24:33,555
‎就这么简单

287
00:24:37,517 --> 00:24:40,729
‎我在家的时候 计算机在奋力工作

288
00:24:41,521 --> 00:24:44,816
‎它运转着 产生了成千上万个分子

289
00:24:45,650 --> 00:24:49,529
‎而除了点击“开始”
‎我们什么都不用做

290
00:24:54,493 --> 00:24:58,330
‎第二天早上
‎我的计算机上出现了一个文档

291
00:24:59,080 --> 00:25:03,376
‎里面大约有四万个分子

292
00:25:03,460 --> 00:25:05,253
‎它们可能是

293
00:25:05,337 --> 00:25:08,882
‎人类已知毒性最强的分子

294
00:25:10,217 --> 00:25:12,761
‎我脖子上的汗毛全都竖了起来

295
00:25:13,386 --> 00:25:14,554
‎我被惊呆了

296
00:25:15,388 --> 00:25:19,017
‎计算机为新的化学武器

297
00:25:19,100 --> 00:25:20,685
‎提出了数以万计种想法

298
00:25:21,645 --> 00:25:26,274
‎显然 在我们的数据组中有VX类似物

299
00:25:26,775 --> 00:25:27,609
‎以及VX分子

300
00:25:28,360 --> 00:25:31,363
‎VX是世界上最强效的化学武器之一

301
00:25:31,863 --> 00:25:33,573
‎警方的最新通报称

302
00:25:33,657 --> 00:25:37,786
‎在这起机场暗杀事件中
‎袭击金正男的女性

303
00:25:37,869 --> 00:25:41,248
‎使用的是一种名为VX的致命神经毒剂

304
00:25:41,748 --> 00:25:44,417
‎它可以导致窒息性死亡

305
00:25:45,043 --> 00:25:47,629
‎这是一种非常强效的分子

306
00:25:47,712 --> 00:25:52,092
‎据预测 这些分子中
‎大部分甚至比VX更加致命

307
00:25:53,301 --> 00:25:57,013
‎据我们所知
‎其中有许多分子都是前所未见的

308
00:25:57,639 --> 00:26:02,310
‎当西恩和我意识到这一点时
‎我们惊呼：“我们这是做了什么啊？”

309
00:26:04,771 --> 00:26:09,192
‎我很快就意识到
‎我们打开了潘多拉的盒子

310
00:26:09,901 --> 00:26:13,280
‎我说：“快停下
‎别的什么也别做 到此为止

311
00:26:13,905 --> 00:26:17,158
‎帮我把演讲要用的幻灯片做好就行”

312
00:26:19,202 --> 00:26:20,704
‎在我们做这项试验时

313
00:26:20,787 --> 00:26:23,873
‎我一直在想：
‎“最糟糕的情况会是什么？”

314
00:26:26,251 --> 00:26:30,255
‎但现在我的想法是：
‎“我们太天真了 这么做太天真了”

315
00:26:33,466 --> 00:26:36,928
‎最让我害怕的是
‎任何人都可以做我们做的这件事

316
00:26:38,930 --> 00:26:40,765
‎你只需要轻轻按一下开关就行

317
00:26:42,934 --> 00:26:46,187
‎我们该如何在这项技术被用于

318
00:26:46,271 --> 00:26:50,942
‎可能会造成毁灭性破坏的用途之前
‎对它加以控制？

319
00:26:55,780 --> 00:27:00,285
‎在围绕人工智能

320
00:27:00,368 --> 00:27:03,538
‎以及我们要如何
‎在社会中使用它的对话中

321
00:27:04,289 --> 00:27:08,835
‎其核心是一场竞赛
‎即我们开发技术的力量

322
00:27:08,918 --> 00:27:11,379
‎与我们管理它的智慧之间的竞赛

323
00:27:13,340 --> 00:27:16,926
‎这明显和赋予我们的智能手机

324
00:27:17,010 --> 00:27:20,138
‎去决定是否要夺取一条生命的权利

325
00:27:20,221 --> 00:27:23,433
‎具有相同的道德和伦理问题

326
00:27:25,727 --> 00:27:31,191
‎我就职于生命未来研究所
‎一个科学界的社会活动家群体

327
00:27:31,733 --> 00:27:33,443
‎我们的主要目标是展示出

328
00:27:33,526 --> 00:27:38,698
‎加速和升级自动化
‎还会带来另一方面的结果

329
00:27:38,782 --> 00:27:42,619
‎我们致力于保障我们创造出来的技术

330
00:27:42,702 --> 00:27:45,038
‎能以安全且合乎伦理的方式被使用

331
00:27:46,247 --> 00:27:49,959
‎我们来谈谈交战规则

332
00:27:50,043 --> 00:27:54,005
‎以及在武器系统中
‎使用人工智能的行为准则吧

333
00:27:54,798 --> 00:27:59,135
‎因为我们现在已经看到了

334
00:27:59,219 --> 00:28:01,680
‎可以自主杀人的“进入战场”技术

335
00:28:10,230 --> 00:28:15,110
‎2021年 联合国发布了一份关于

336
00:28:15,193 --> 00:28:19,364
‎在利比亚战场上
‎可能使用了致命自主武器的报告

337
00:28:20,073 --> 00:28:23,910
‎联合国的一个小组称 去年
‎在利比亚内战中使用的一架无人机

338
00:28:23,993 --> 00:28:27,330
‎被编程设定为自主攻击目标

339
00:28:28,289 --> 00:28:31,209
‎如果联合国的报告无误

340
00:28:31,292 --> 00:28:34,963
‎这将是人类的一个分水岭

341
00:28:35,046 --> 00:28:37,090
‎因为这标志着一个用例

342
00:28:37,173 --> 00:28:42,137
‎即人工智能代替人类
‎做出了夺取生命的决定

343
00:28:49,686 --> 00:28:51,688
‎我们看到了先进的自主武器

344
00:28:51,771 --> 00:28:55,150
‎开始在全球各地被投入使用

345
00:28:56,276 --> 00:28:58,278
‎有来自以色列的报告

346
00:29:00,280 --> 00:29:05,702
‎阿塞拜疆使用自主系统
‎攻击亚美尼亚的防空系统

347
00:29:07,370 --> 00:29:09,998
‎它可以在战场上盘旋数小时

348
00:29:10,081 --> 00:29:12,500
‎自己寻找攻击目标

349
00:29:12,584 --> 00:29:16,087
‎然后在无人干预的情况下冲向目标

350
00:29:16,796 --> 00:29:18,298
‎近期 我们已经看到了

351
00:29:18,381 --> 00:29:21,760
‎各种从乌克兰发出的视频

352
00:29:23,303 --> 00:29:26,890
‎目前还不清楚
‎它们运行时可能处于什么模式

353
00:29:26,973 --> 00:29:30,393
‎是有人类介入选择攻击目标？

354
00:29:30,477 --> 00:29:32,729
‎还是机器在自主决定？

355
00:29:32,812 --> 00:29:36,524
‎但无论这是否已经在
‎利比亚、乌克兰或其他地方发生过

356
00:29:36,608 --> 00:29:40,195
‎总有一天

357
00:29:40,278 --> 00:29:44,449
‎机器会在战场上自主决定它要杀死谁

358
00:29:47,035 --> 00:29:50,997
‎机器在没有人类干预的情况下

359
00:29:51,080 --> 00:29:53,374
‎对人类发起致命攻击

360
00:29:53,458 --> 00:29:57,337
‎这在政治上不可接受
‎在道德上令人反感

361
00:29:59,214 --> 00:30:01,299
‎国际社会

362
00:30:01,382 --> 00:30:05,011
‎是否有能力应对这些挑战

363
00:30:05,094 --> 00:30:06,888
‎目前还是一个巨大的问号

364
00:30:08,932 --> 00:30:12,685
‎如果我们放眼未来
‎哪怕只是短短几年后

365
00:30:12,769 --> 00:30:15,730
‎形势的发展也十分骇人听闻

366
00:30:16,564 --> 00:30:20,485
‎为了让人工智能变得更强大

367
00:30:20,568 --> 00:30:23,404
‎以及将它应用到各种不同领域

368
00:30:23,488 --> 00:30:26,032
‎所投入的资金与人力

369
00:30:26,115 --> 00:30:26,950
‎相当巨大

370
00:30:27,659 --> 00:30:32,163
‎（弗吉尼亚州 阿灵顿）

371
00:30:39,254 --> 00:30:41,214
‎我的妈 这家伙

372
00:30:41,756 --> 00:30:43,424
‎他知道自己赢不了

373
00:30:46,761 --> 00:30:51,099
‎当我看到人工智能在不同的问题中
‎取得胜利时 我会觉得备受鼓舞

374
00:30:51,683 --> 00:30:53,977
‎孤注一掷

375
00:30:54,477 --> 00:30:59,524
‎你可以把同样的战术、技术
‎以及程序应用在真正的飞行器上

376
00:31:01,401 --> 00:31:02,318
‎表现不错

377
00:31:02,402 --> 00:31:03,653
‎好了 表现不错

378
00:31:08,658 --> 00:31:09,909
‎我觉得很诧异

379
00:31:09,993 --> 00:31:14,122
‎人们不断地发表言论
‎说人工智能做不到某件事情 是吧？

380
00:31:14,205 --> 00:31:17,166
‎“哦 它永远都不可能
‎战胜国际象棋世界冠军的”

381
00:31:20,211 --> 00:31:22,672
‎一台IBM电脑在与世界象棋冠军

382
00:31:22,755 --> 00:31:25,925
‎加里卡斯帕罗夫的
‎第二轮对战中一雪前耻

383
00:31:28,136 --> 00:31:30,847
‎卡斯帕罗夫弃局了！

384
00:31:31,598 --> 00:31:34,642
‎当我看到一些超出我理解范围的事时

385
00:31:34,726 --> 00:31:38,062
‎我会害怕
‎而那远超出了我的理解范围

386
00:31:39,355 --> 00:31:41,107
‎然后人们会说：

387
00:31:41,190 --> 00:31:44,402
‎“它永远都不可能战胜围棋世界冠军”

388
00:31:44,485 --> 00:31:50,700
‎我相信人类的直觉
‎对人工智能来说还是过于先进

389
00:31:50,783 --> 00:31:52,827
‎难以赶超

390
00:31:55,330 --> 00:31:58,416
‎围棋是人类
‎能够学会的最复杂的游戏之一

391
00:31:58,499 --> 00:32:02,211
‎稍经计算 棋盘上可能的落子方法

392
00:32:02,295 --> 00:32:05,256
‎比整个宇宙中的原子数还要多

393
00:32:06,799 --> 00:32:08,968
‎谷歌有一个团队名叫“深度思维”

394
00:32:09,052 --> 00:32:11,471
‎他们开发了一个叫“阿尔法狗”的程序

395
00:32:11,554 --> 00:32:14,265
‎它能打败世界顶尖的棋手

396
00:32:16,559 --> 00:32:18,394
‎恭喜…

397
00:32:18,478 --> 00:32:19,437
‎-阿尔法狗
‎-阿尔法狗

398
00:32:19,520 --> 00:32:22,774
‎计算机程序刚刚战胜了九段职业棋手

399
00:32:25,610 --> 00:32:31,532
‎之后“深度思维”选择了《星际争霸》
‎作为他们的下一项人工智能挑战

400
00:32:33,743 --> 00:32:38,081
‎《星际争霸》也许是
‎史上最流行的即时策略游戏

401
00:32:40,333 --> 00:32:44,712
‎战胜了世界冠军后
‎“阿尔法星”开始声名大噪

402
00:32:45,338 --> 00:32:48,800
‎“阿尔法星”暴击“不朽之弧”

403
00:32:48,883 --> 00:32:49,717
‎你知道吗？

404
00:32:49,801 --> 00:32:52,553
‎职业玩家赢不了这场比赛

405
00:32:53,680 --> 00:32:54,806
‎这挺荒谬的

406
00:32:57,642 --> 00:33:00,895
‎职业玩家们都在说：
‎“我永远不会尝试那种策略

407
00:33:00,979 --> 00:33:04,816
‎我永远不会尝试那种战略
‎那不是人干的事”

408
00:33:07,151 --> 00:33:10,655
‎对我来说
‎那也许就是灵光乍现的时刻

409
00:33:13,574 --> 00:33:16,661
‎我意识到时机到了

410
00:33:17,412 --> 00:33:21,082
‎改变世界的重要技术和时机已经出现

411
00:33:24,502 --> 00:33:29,382
‎我只了解我作为海豹突击队员时
‎在近距离战斗中遇到过的问题

412
00:33:30,383 --> 00:33:34,470
‎但我的一个曾是
‎F-18飞行员的好朋友告诉我：

413
00:33:34,554 --> 00:33:37,724
‎“我们在战斗机领域
‎也遇到了同样的问题

414
00:33:37,807 --> 00:33:39,434
‎他们会干扰通讯

415
00:33:39,517 --> 00:33:42,562
‎地对空导弹基地的数量激增

416
00:33:42,645 --> 00:33:44,439
‎导致危险系数过高 无法行动”

417
00:33:47,483 --> 00:33:50,987
‎想象一下如果我们有一架
‎由人工智能控制的战斗机

418
00:33:51,070 --> 00:33:52,739
‎欢迎参加“阿尔法缠斗”测试

419
00:33:52,822 --> 00:33:56,159
‎距离上半场比赛还有几分钟时间

420
00:33:56,242 --> 00:33:59,871
‎DARPA 美国国防高级研究计划局

421
00:33:59,954 --> 00:34:03,624
‎已经见识过“阿尔法狗”和“阿尔法星”

422
00:34:04,292 --> 00:34:08,171
‎所以“阿尔法缠斗大赛”
‎这一想法也变成了现实

423
00:34:09,005 --> 00:34:11,466
‎这是你希望
‎人类战斗机飞行员能够做到的事

424
00:34:11,549 --> 00:34:13,593
‎这看起来很像人类在缠斗

425
00:34:15,595 --> 00:34:19,057
‎缠斗是战斗机与战斗机的对决

426
00:34:19,849 --> 00:34:22,852
‎你可以把它视为在空中的拳击赛

427
00:34:23,853 --> 00:34:26,314
‎大家也许看过《壮志凌云》这部电影

428
00:34:26,397 --> 00:34:27,815
‎我们斗得过他们吗？

429
00:34:28,649 --> 00:34:30,068
‎斗不过他们的导弹和枪支

430
00:34:30,151 --> 00:34:31,277
‎那只能缠斗咯

431
00:34:35,531 --> 00:34:39,410
‎成为缠斗高手可能需要八到十年

432
00:34:42,288 --> 00:34:46,209
‎以此为目标开发一个人工智能
‎是一项极其复杂的挑战

433
00:34:49,629 --> 00:34:52,381
‎（弗吉尼亚州 阿灵顿）

434
00:34:54,092 --> 00:34:58,679
‎早期的自主飞行
‎与缠斗策略往往十分脆弱

435
00:34:59,222 --> 00:35:03,017
‎我们认为机器学习
‎也许正是解决这个问题的方法

436
00:35:04,477 --> 00:35:08,189
‎起初 人工智能
‎对自己所处的环境一无所知

437
00:35:08,272 --> 00:35:11,025
‎它不知道它在飞行
‎也不知道缠斗为何物

438
00:35:11,109 --> 00:35:12,735
‎它不知道F-16是什么

439
00:35:13,236 --> 00:35:15,905
‎它只知道它可以采取的行动

440
00:35:15,988 --> 00:35:18,407
‎它会开始随机地探索尝试

441
00:35:19,325 --> 00:35:23,204
‎蓝色飞机只接受过极短时间的训练

442
00:35:23,287 --> 00:35:25,832
‎你能看到它在来回摆动

443
00:35:26,624 --> 00:35:30,545
‎飞行极其不稳定 离它的对手很远

444
00:35:31,587 --> 00:35:32,755
‎随着战斗持续进行

445
00:35:32,839 --> 00:35:36,134
‎我们可以看到
‎蓝色飞机开始制定它自己的作战计划

446
00:35:36,676 --> 00:35:38,636
‎射击位置更合理了

447
00:35:39,178 --> 00:35:41,305
‎每隔一段时间 学习算法就会说：

448
00:35:41,389 --> 00:35:43,891
‎“来块小饼干 做得好 再接再厉”

449
00:35:45,143 --> 00:35:49,147
‎我们可以利用计算机的能力
‎对个体进行多次的

450
00:35:49,230 --> 00:35:50,064
‎并行训练

451
00:35:51,357 --> 00:35:52,775
‎这就像篮球队一样

452
00:35:53,276 --> 00:35:55,778
‎我们不再重复不断地和同一球队比赛

453
00:35:55,862 --> 00:35:59,198
‎而是环游世界
‎和512支不同的球队比赛

454
00:35:59,699 --> 00:36:00,950
‎而且是在同一时间内

455
00:36:01,492 --> 00:36:03,452
‎你可以在短时间内迅速变强

456
00:36:04,162 --> 00:36:07,456
‎我们可以昼夜不停地进行模拟

457
00:36:07,540 --> 00:36:11,919
‎在十个月内
‎完成大约30年的飞行员训练

458
00:36:12,879 --> 00:36:15,673
‎我们从勉强能够控制飞机

459
00:36:15,756 --> 00:36:17,717
‎变成了一个冷血的杀手

460
00:36:19,010 --> 00:36:23,514
‎在训练时
‎我们的对手只有其他的人工智能

461
00:36:24,473 --> 00:36:28,561
‎但直接与人类的对决
‎才是真正的终极目标

462
00:36:34,192 --> 00:36:35,610
‎我叫迈克贝尼特斯

463
00:36:36,110 --> 00:36:38,362
‎我是一名美国空军中校

464
00:36:39,155 --> 00:36:41,157
‎至今已服役25年

465
00:36:42,825 --> 00:36:44,869
‎我参加过250次战斗任务

466
00:36:45,578 --> 00:36:47,538
‎我毕业于武器学校

467
00:36:48,039 --> 00:36:49,832
‎也就是空军版的《壮志凌云》

468
00:36:52,627 --> 00:36:55,171
‎我从来没有和人工智能在空中交过战

469
00:36:55,254 --> 00:36:58,549
‎我很期待看看自己的表现

470
00:36:59,634 --> 00:37:03,054
‎现在的距离是1800米
‎两机面对面准备交锋

471
00:37:04,388 --> 00:37:05,223
‎战斗开始了

472
00:37:13,314 --> 00:37:14,148
‎他不见了

473
00:37:14,732 --> 00:37:16,651
‎嗯 这还挺有意思的

474
00:37:20,780 --> 00:37:23,658
‎-死了
‎-打中他了 完胜

475
00:37:25,910 --> 00:37:27,453
‎好的 第二回合

476
00:37:35,461 --> 00:37:40,508
‎人工智能的操作精确无比

477
00:37:41,384 --> 00:37:43,219
‎我完全跟不上它的节奏

478
00:37:48,474 --> 00:37:49,725
‎进入交战状态

479
00:37:50,309 --> 00:37:51,894
‎这下你完了

480
00:37:53,145 --> 00:37:53,980
‎击中他了！

481
00:37:54,063 --> 00:37:55,022
‎我又被击中了

482
00:37:58,567 --> 00:38:00,069
‎人工智能无所畏惧

483
00:38:00,736 --> 00:38:03,781
‎驾驶舱里存在
‎人工智能所不具备的人类情感

484
00:38:04,991 --> 00:38:08,077
‎我们的人工智能
‎研究出了一种更有趣的战略

485
00:38:08,160 --> 00:38:10,121
‎我们称之为“打脸”

486
00:38:10,621 --> 00:38:14,000
‎人类通常会想要从后面射击

487
00:38:14,083 --> 00:38:16,377
‎因为对方会很难闪避

488
00:38:17,044 --> 00:38:20,381
‎他们不会尝试正面射击
‎因为这就是在玩“胆小鬼博弈”

489
00:38:21,424 --> 00:38:25,511
‎当我们相向飞行 从900米到150米

490
00:38:25,594 --> 00:38:27,096
‎可能只是眨眼之间

491
00:38:27,596 --> 00:38:31,183
‎撞机的概率很高
‎所以人类不会这样尝试

492
00:38:32,893 --> 00:38:35,938
‎而人工智能不会怕死
‎除非我们给它怕死的指令

493
00:38:37,857 --> 00:38:40,234
‎感觉像是在和人类对战

494
00:38:40,776 --> 00:38:44,113
‎不过是个完全不顾安危的人类

495
00:38:45,489 --> 00:38:47,325
‎最后这一下他逃不了了

496
00:38:57,168 --> 00:38:58,461
‎他不够时间反应

497
00:39:01,964 --> 00:39:02,965
‎晚安

498
00:39:04,091 --> 00:39:04,925
‎我死了

499
00:39:16,812 --> 00:39:17,980
‎知道我也许不是

500
00:39:18,064 --> 00:39:20,900
‎执行这项任务的最佳选择

501
00:39:21,484 --> 00:39:24,320
‎知道某一天我或许会被这玩意儿取代
‎感觉有些受挫

502
00:39:25,696 --> 00:39:26,947
‎同样的1830米和能见度

503
00:39:27,615 --> 00:39:28,824
‎偏移1000

504
00:39:29,450 --> 00:39:32,078
‎有这个人工智能飞行员来指挥战斗机

505
00:39:32,828 --> 00:39:34,830
‎它会毫不留情地追求胜利

506
00:39:34,914 --> 00:39:37,249
‎这不仅仅是悬殊巨大的胜利

507
00:39:37,333 --> 00:39:41,545
‎还是：“好吧 我们要如何把那个
‎加到我们的飞机上？” 就是这么厉害

508
00:39:43,672 --> 00:39:47,802
‎让人工智能
‎驾驶F-16的期待是很现实的

509
00:39:47,885 --> 00:39:49,970
‎而且指日可待

510
00:39:51,305 --> 00:39:56,769
‎如果和一个胜率为
‎99.99999%的人工智能飞行员对决

511
00:39:56,852 --> 00:39:58,646
‎那你毫无胜算

512
00:39:59,605 --> 00:40:02,733
‎当想到一个人工智能飞行员
‎已经战无不胜时

513
00:40:02,817 --> 00:40:06,695
‎我就会想到一支由50或100个

514
00:40:07,279 --> 00:40:12,535
‎或1000个人工智能飞行员
‎组成的战队能有何种成就

515
00:40:13,702 --> 00:40:17,415
‎“无人机战群”是一支
‎由高度智能且互相协作的飞行器

516
00:40:17,498 --> 00:40:18,791
‎组成的战队

517
00:40:19,291 --> 00:40:23,462
‎它们会分享如何行动
‎如何解决问题的相关信息

518
00:40:25,172 --> 00:40:30,469
‎“无人机战群”
‎将赋予我军和我们的盟军

519
00:40:30,553 --> 00:40:32,638
‎扭转乾坤的能力

520
00:40:34,223 --> 00:40:39,186
‎（内布拉斯加州 林肯）

521
00:41:42,750 --> 00:41:47,379
‎目标已锁定 无人机正在追踪他

522
00:42:02,019 --> 00:42:03,604
‎好的 准备降落

523
00:42:07,566 --> 00:42:10,402
‎我们目前对无人机战群的研究
‎首要目标

524
00:42:11,153 --> 00:42:13,697
‎是将大量的无人机部署到

525
00:42:13,781 --> 00:42:17,910
‎一个人力难及或高危区域的上空

526
00:42:21,705 --> 00:42:26,085
‎陆军研究实验室
‎一直在支持着这一研究项目

527
00:42:26,919 --> 00:42:28,963
‎如果你想知道某一地点里面有什么

528
00:42:29,046 --> 00:42:32,883
‎但又很难抵达那个地区
‎或者该区域范围太大

529
00:42:33,676 --> 00:42:35,886
‎那么部署一支无人机战群
‎自然就成为了

530
00:42:35,970 --> 00:42:38,389
‎扩大个体搜索范围

531
00:42:38,472 --> 00:42:41,934
‎收集任务相关重要情报的手段

532
00:42:46,689 --> 00:42:48,983
‎目前 在我们的无人机战群部署中

533
00:42:49,066 --> 00:42:53,904
‎我们基本上只会给出一个单一命令
‎去追踪某一特定目标

534
00:42:54,488 --> 00:42:57,283
‎然后无人机
‎就会自己去完成这些所有动作

535
00:42:59,493 --> 00:43:04,081
‎人工智能让机器人们
‎得以像动物集群一样以分散的方式

536
00:43:04,164 --> 00:43:05,708
‎完成集体行动

537
00:43:10,671 --> 00:43:12,506
‎在自然界的动物集群中 我们发现

538
00:43:13,299 --> 00:43:18,178
‎没有首领 没有发号施令的主体动物

539
00:43:20,556 --> 00:43:25,019
‎这种行为是由每个动物
‎遵循着一些简单的规则

540
00:43:25,102 --> 00:43:27,104
‎最终形成的

541
00:43:27,688 --> 00:43:32,443
‎大家看到的这种集体行为
‎就是这样产生的

542
00:43:33,944 --> 00:43:37,031
‎自然界的动物集群最令人惊叹的一点

543
00:43:37,114 --> 00:43:39,992
‎就是它们优雅的行动

544
00:43:40,576 --> 00:43:44,288
‎仿佛它们天生就是这个群体的一部分

545
00:43:46,790 --> 00:43:51,128
‎理想情况下
‎我们希望我们的无人机战群

546
00:43:51,211 --> 00:43:53,172
‎能像自然界中的动物集群那样

547
00:43:53,672 --> 00:43:56,717
‎群策群力

548
00:43:59,928 --> 00:44:02,765
‎我们得到的另一启发

549
00:44:02,848 --> 00:44:06,268
‎是群落的可靠性与韧性

550
00:44:07,311 --> 00:44:09,188
‎如果单个动物没有履行职责

551
00:44:09,271 --> 00:44:13,567
‎那个集群也不会崩溃

552
00:44:15,194 --> 00:44:18,697
‎就算其中一员掉队或失败

553
00:44:18,781 --> 00:44:20,866
‎甚至未能完成任务

554
00:44:21,909 --> 00:44:23,369
‎这个集群也会继续运转

555
00:44:25,204 --> 00:44:27,873
‎这是我们最终想要达到的目标

556
00:44:29,333 --> 00:44:33,879
‎在战斗中 我们需要识别敌机

557
00:44:33,962 --> 00:44:37,841
‎过去 每个机器人
‎都需要有一个人来操控

558
00:44:38,592 --> 00:44:40,552
‎随着自主性的提升

559
00:44:40,636 --> 00:44:43,555
‎我希望我们能做到

560
00:44:43,639 --> 00:44:46,558
‎只需极少数人就能控制大量的机器人

561
00:44:47,851 --> 00:44:50,854
‎我不认为1000架无人机
‎是个无法企及的目标

562
00:44:51,355 --> 00:44:54,942
‎因为每架飞机都将能自主行动

563
00:44:55,025 --> 00:44:56,443
‎而天空是无边无际的

564
00:44:57,027 --> 00:44:59,071
‎我们可以扩展学习…

565
00:44:59,154 --> 00:45:03,325
‎我们通过模拟
‎来研究无人机战群已经有段时间了

566
00:45:03,409 --> 00:45:06,829
‎现在是时候用真机演练了

567
00:45:07,329 --> 00:45:12,042
‎我们希望通过网络
‎同时控制三个机器人

568
00:45:12,126 --> 00:45:15,129
‎然后逐渐扩充队伍

569
00:45:15,879 --> 00:45:18,549
‎我们想在较小的系统上进行测试

570
00:45:18,632 --> 00:45:22,261
‎然后将同样的概念
‎运用在更大的系统上

571
00:45:22,344 --> 00:45:23,679
‎比如战斗机

572
00:45:24,596 --> 00:45:26,014
‎我们进行过大量讨论

573
00:45:26,098 --> 00:45:31,937
‎如何让一个排拥有一个营的战斗力

574
00:45:34,982 --> 00:45:39,528
‎让一个营拥有一个旅的战斗力

575
00:45:39,611 --> 00:45:41,488
‎利用无人机战群就能做到这一点

576
00:45:42,614 --> 00:45:45,200
‎当你解锁了无人机战群的力量

577
00:45:45,284 --> 00:45:48,078
‎那你就为军事进攻创造了

578
00:45:48,162 --> 00:45:49,455
‎一种新的战略威慑

579
00:45:52,332 --> 00:45:57,004
‎我觉得最令人振奋的就是
‎如果我们行之得法

580
00:45:57,087 --> 00:46:00,299
‎我们就能拯救许许多多的年轻男女

581
00:46:01,091 --> 00:46:03,594
‎我们不再用人命

582
00:46:04,553 --> 00:46:05,846
‎而是用机器来换取胜利

583
00:46:06,638 --> 00:46:10,893
‎一些人认为自主武器会让战争更精确

584
00:46:10,976 --> 00:46:12,311
‎更人性化

585
00:46:12,853 --> 00:46:15,397
‎但其实我们很难预测

586
00:46:15,481 --> 00:46:19,443
‎自主武器在未来会如何改变战争形态

587
00:46:21,320 --> 00:46:23,238
‎这就像加特林机枪的发明一样

588
00:46:25,073 --> 00:46:26,700
‎理查加特林是位发明家

589
00:46:27,201 --> 00:46:30,954
‎他看到在南北战争中
‎战士们负伤归来

590
00:46:32,289 --> 00:46:35,292
‎他想找到让战争更人道的方法

591
00:46:36,293 --> 00:46:39,797
‎通过减少参战士兵的数量

592
00:46:40,422 --> 00:46:42,633
‎来减少战死的士兵数量

593
00:46:44,092 --> 00:46:48,388
‎于是他发明了加特林机枪
‎一种由曲柄转动

594
00:46:48,472 --> 00:46:50,516
‎可以自动射击的自动枪

595
00:46:53,268 --> 00:46:57,981
‎它使士兵们的火力
‎有效地增加了一百倍

596
00:47:01,235 --> 00:47:05,239
‎通常 想要让战争
‎更精确、更人道的努力

597
00:47:06,490 --> 00:47:07,991
‎可能会带来相反的效果

598
00:47:10,160 --> 00:47:13,455
‎想想在农村地区
‎一次错误的无人机袭击

599
00:47:13,539 --> 00:47:14,540
‎会产生的影响

600
00:47:14,623 --> 00:47:17,209
‎它会促使当地民众反对美国

601
00:47:17,292 --> 00:47:20,712
‎反对当地政府
‎而他们本应该都是好人

602
00:47:22,589 --> 00:47:25,008
‎现在把程度扩大1000倍

603
00:47:26,802 --> 00:47:28,720
‎一个廉价、可扩展

604
00:47:28,804 --> 00:47:34,560
‎不需要人类操作的武器系统的创立

605
00:47:34,643 --> 00:47:37,896
‎极大地改变了战争的实际障碍

606
00:47:40,107 --> 00:47:44,486
‎一想到战争无处不在
‎我们无需再承担战争带来的

607
00:47:44,987 --> 00:47:48,657
‎人力和财政代价的世界
‎我便夜不能寐

608
00:47:48,740 --> 00:47:51,410
‎因为我们距离那些即将…

609
00:47:52,369 --> 00:47:54,037
‎消逝的生命太过遥远了

610
00:47:59,501 --> 00:48:01,420
‎这整件事深深困扰着我

611
00:48:02,212 --> 00:48:05,924
‎我本来只是需要
‎一个滥用人工智能的例子

612
00:48:06,800 --> 00:48:10,888
‎实践这个思想实验
‎所带来的意想不到的后果

613
00:48:10,971 --> 00:48:12,848
‎已经远超出了预期

614
00:48:13,348 --> 00:48:16,226
‎（药物研发中的人工智能：
‎避免弊大于利）

615
00:48:17,352 --> 00:48:18,729
‎在我进行有关

616
00:48:18,812 --> 00:48:22,107
‎人工智能技术
‎制造的有毒分子的演讲时

617
00:48:22,608 --> 00:48:24,318
‎听众们都惊掉了下巴

618
00:48:25,402 --> 00:48:27,613
‎（排名前5000的化合物
‎是已知的VX类似物）

619
00:48:29,406 --> 00:48:33,577
‎接下来要决定的
‎是我们是否应该发布这一信息

620
00:48:34,912 --> 00:48:36,914
‎一方面 你想警告世界

621
00:48:36,997 --> 00:48:40,125
‎要警惕这类能力 但另一方面

622
00:48:40,208 --> 00:48:44,087
‎你并不想让那些
‎从没想到过这一点的人得到灵感

623
00:48:46,381 --> 00:48:48,133
‎我们最终认为它值得冒险发表

624
00:48:48,216 --> 00:48:52,679
‎这样也许可以在这种类型的
‎人工智能滥用发生前 找到方法

625
00:48:52,763 --> 00:48:54,139
‎减少此类滥用

626
00:48:54,222 --> 00:48:56,975
‎（人工智能药物研发的双重性）

627
00:48:57,559 --> 00:49:00,437
‎（人工智能(AI)技术
‎如何用于药物发现）

628
00:49:01,897 --> 00:49:04,775
‎公众的普遍反应是震惊

629
00:49:07,194 --> 00:49:10,656
‎我们可以在页面上看到统计
‎有多少人浏览过文章

630
00:49:10,739 --> 00:49:14,451
‎我们平常写的那些文章 如果…

631
00:49:14,534 --> 00:49:19,831
‎在一年或几年间能有几千人
‎阅读我们的文章 我们就很幸运了

632
00:49:19,915 --> 00:49:22,084
‎一周之内有一万人阅读了那篇文章

633
00:49:22,167 --> 00:49:25,337
‎然后是两万、三万、四万人

634
00:49:25,837 --> 00:49:28,715
‎我们一天就有一万的阅读量

635
00:49:30,258 --> 00:49:33,512
‎我们的文章被
‎《经济学家》《金融时报》引用

636
00:49:35,639 --> 00:49:39,977
‎“科普电台”联系了我们
‎我听说过“科普电台”！

637
00:49:41,937 --> 00:49:45,899
‎但随后 人们的反应开始失控了

638
00:49:49,778 --> 00:49:53,532
‎我们看着那些推文 大家说：
‎“天啊 他们还能更恶劣点吗？”

639
00:49:54,324 --> 00:49:55,993
‎他们为什么要这么做？

640
00:50:01,164 --> 00:50:04,501
‎后来我们接到了一个意想不到的邀请

641
00:50:08,797 --> 00:50:12,926
‎白宫内部对这篇文章进行了很多讨论

642
00:50:13,010 --> 00:50:15,345
‎他们急切地想跟我们谈谈

643
00:50:18,849 --> 00:50:20,809
‎显然 能和这种级别的人对话

644
00:50:20,892 --> 00:50:23,020
‎是一种无上荣耀

645
00:50:23,603 --> 00:50:25,272
‎但接着你会想到：

646
00:50:25,355 --> 00:50:28,900
‎“天啊 这是白宫啊 是大首领”

647
00:50:29,693 --> 00:50:33,196
‎这涉及到
‎整理汇总开放源代码的数据…

648
00:50:33,280 --> 00:50:37,701
‎经过约六小时
‎该模型已经能生成约四万多个…

649
00:50:37,784 --> 00:50:41,038
‎他们问你们需要多强大的计算机

650
00:50:41,872 --> 00:50:43,832
‎我们告诉他们没什么特别要求

651
00:50:44,332 --> 00:50:48,211
‎一台普普通通
‎用了六年的苹果电脑就行

652
00:50:49,546 --> 00:50:51,256
‎这让他们大吃一惊

653
00:50:54,968 --> 00:50:59,473
‎那些负责研究化学战剂的人

654
00:50:59,556 --> 00:51:04,019
‎还有政府机构 他们不了解这种潜力

655
00:51:06,605 --> 00:51:09,816
‎我们得到了
‎这本制作化学武器的食谱书

656
00:51:10,650 --> 00:51:15,572
‎一旦它落入居心叵测的坏人手中

657
00:51:16,573 --> 00:51:18,992
‎情况可能会变得非常可怕

658
00:51:21,703 --> 00:51:23,205
‎大家必须坐下来好好听

659
00:51:23,288 --> 00:51:26,458
‎我们必须采取措施
‎要么规范这项技术

660
00:51:27,250 --> 00:51:30,670
‎要么限制它 令其无法被滥用

661
00:51:31,880 --> 00:51:35,175
‎因为它潜在的杀伤力…

662
00:51:36,176 --> 00:51:37,344
‎骇人听闻

663
00:51:40,680 --> 00:51:45,977
‎人工智能的伦理问题
‎主要是由社会来解决

664
00:51:46,561 --> 00:51:50,273
‎而不是靠工程师、
‎技术专家、或数学家

665
00:51:52,484 --> 00:51:56,822
‎我们带来的每一项技术 每一种创新

666
00:51:56,905 --> 00:52:00,617
‎最终都落在了
‎社会认为我们应该使用它的范畴

667
00:52:03,036 --> 00:52:06,498
‎现在 国防部说：

668
00:52:06,581 --> 00:52:09,960
‎“在战场上
‎唯一能说我们要实施杀戮的

669
00:52:10,043 --> 00:52:11,920
‎只有人类”

670
00:52:12,504 --> 00:52:14,548
‎机器可以实施杀戮

671
00:52:15,674 --> 00:52:18,927
‎但只能在人类操作员的命令之下

672
00:52:19,636 --> 00:52:21,429
‎我认为这一点永远不会改变

673
00:52:24,808 --> 00:52:28,103
‎他们向我们保证这种技术是安全的

674
00:52:29,729 --> 00:52:33,692
‎但美国军方在无人机战争方面的声誉

675
00:52:33,775 --> 00:52:35,485
‎并不值得信赖

676
00:52:36,820 --> 00:52:41,783
‎因此 说到要在
‎人工智能方面信任美国军方

677
00:52:41,867 --> 00:52:44,953
‎我想说 过去的记录说明了一切

678
00:52:46,288 --> 00:52:50,125
‎美国国防部关于让武器自主化的政策

679
00:52:50,208 --> 00:52:52,919
‎并没有禁止任何一种武器系统

680
00:52:53,003 --> 00:52:56,715
‎就算军方本身可能不想要自主武器

681
00:52:56,798 --> 00:53:01,678
‎但我们也能看到他们
‎将越来越多的决定权交给了机器

682
00:53:01,761 --> 00:53:03,680
‎只为能追上竞争对手的步伐

683
00:53:04,764 --> 00:53:08,351
‎这可能会促使军方将他们

684
00:53:08,435 --> 00:53:09,978
‎并不想自动化的决策自动化

685
00:53:12,022 --> 00:53:16,693
‎普京说过：“谁在人工智能领域领先
‎谁就将统治世界”

686
00:53:17,736 --> 00:53:23,325
‎习主席也明确表示过
‎人工智能是中国想要成为主导的

687
00:53:23,408 --> 00:53:25,702
‎头号技术之一

688
00:53:26,786 --> 00:53:29,831
‎很显然 我们正处于一场技术竞赛中

689
00:53:33,501 --> 00:53:35,670
‎你会听到人们谈论防护

690
00:53:36,463 --> 00:53:39,424
‎我认为这确实是人们应该做的事

691
00:53:40,467 --> 00:53:45,180
‎但争夺人工智能优势地位的竞赛
‎是真实存在的

692
00:53:47,265 --> 00:53:51,603
‎而我们的竞争对手
‎不论是中国、俄罗斯、或者伊朗

693
00:53:52,187 --> 00:53:56,566
‎都不会太在乎
‎我们在人工智能方面的政策

694
00:54:00,820 --> 00:54:04,324
‎你会看到越来越多
‎关于人工智能政策的讨论

695
00:54:06,117 --> 00:54:09,287
‎但我希望有越来越多的领导人会说：

696
00:54:09,371 --> 00:54:11,706
‎“我们多快能搭建起这个东西？

697
00:54:12,707 --> 00:54:15,168
‎我们快为它提供资源
‎把它搭建起来吧”

698
00:54:16,419 --> 00:54:18,838
‎（华盛顿）

699
00:54:18,922 --> 00:54:21,299
‎（美国陆军协会年会暨展览会
‎华盛顿）

700
00:54:24,177 --> 00:54:26,805
‎（美国陆军）

701
00:54:33,478 --> 00:54:38,358
‎我们现在是在
‎美国陆军协会一年中最盛大的贸易展

702
00:54:39,609 --> 00:54:44,572
‎基本上 所有向军方
‎出售产品或技术的供应商

703
00:54:44,656 --> 00:54:46,616
‎都会参加展览

704
00:54:47,701 --> 00:54:50,537
‎廷德尔空军基地有四个我们的机器人

705
00:54:50,620 --> 00:54:53,748
‎它们每周七天
‎每天24小时都在基地巡逻

706
00:54:55,750 --> 00:55:00,130
‎我们可以添加任何东西
‎从摄像头到传感器 只要你需要

707
00:55:00,213 --> 00:55:05,135
‎机械手臂 还是那句话
‎只为达成客户心中所想

708
00:55:06,678 --> 00:55:08,638
‎如果你的敌人
‎引入了人工智能怎么办？

709
00:55:09,431 --> 00:55:12,976
‎一个比你思考得更快
‎反应比人类快的战斗系统

710
00:55:13,059 --> 00:55:16,062
‎人类又能怎么办？我们必须未雨绸缪

711
00:55:17,605 --> 00:55:21,359
‎我们训练我们的系统收集敌人的情报

712
00:55:22,027 --> 00:55:26,531
‎管理敌方目标
‎并由人类监督它的杀伤链

713
00:55:33,288 --> 00:55:34,956
‎-将军您好 布兰登曾
‎-您好吗？

714
00:55:35,040 --> 00:55:36,416
‎很好 长官 您好吗？

715
00:55:37,709 --> 00:55:40,962
‎我是想说 我们在人工智能
‎飞行员身上的投入无人能及

716
00:55:41,046 --> 00:55:42,630
‎我们的人工智能飞行员叫“蜂巢思维”

717
00:55:43,298 --> 00:55:47,135
‎我们将它应用在了我们的四旋翼
‎飞行器诺瓦身上 它能进入建筑内部

718
00:55:47,218 --> 00:55:49,387
‎在特种作战部队和步兵部队之前

719
00:55:49,471 --> 00:55:50,805
‎探清情况

720
00:55:50,889 --> 00:55:52,891
‎我们将“蜂巢思维”用于V-BAT无人机

721
00:55:52,974 --> 00:55:56,811
‎我在考虑组建数百个这样的战队

722
00:55:56,895 --> 00:55:58,730
‎无论是在台湾海峡

723
00:55:58,813 --> 00:56:01,608
‎还是在乌克兰 都能威慑我们的对手

724
00:56:01,691 --> 00:56:03,360
‎我对此充满期待

725
00:56:03,943 --> 00:56:06,196
‎-好的 谢谢您
‎-谢谢您 将军

726
00:56:07,989 --> 00:56:13,370
‎人工智能飞行员
‎应该能在2025年 2030年普遍使用

727
00:56:14,204 --> 00:56:17,582
‎它将迅速在世界各地的军队中普及

728
00:56:19,250 --> 00:56:22,962
‎你要怎么对付
‎罗马尼亚军队的无人机？

729
00:56:23,046 --> 00:56:24,589
‎军事高科技

730
00:56:25,256 --> 00:56:29,803
‎到目前为止 我们已经花了
‎五亿美元来打造人工智能飞行员

731
00:56:29,886 --> 00:56:33,181
‎未来的五年里
‎我们还会再投入十亿美元资金

732
00:56:33,264 --> 00:56:37,769
‎这正是我们在美国
‎赢得创纪录项目的主要原因

733
00:56:37,852 --> 00:56:38,853
‎厉害

734
00:56:38,937 --> 00:56:42,732
‎非常惊人
‎你们已经成功将它武器化了？

735
00:56:43,650 --> 00:56:45,568
‎这个还没有被武器化

736
00:56:45,652 --> 00:56:48,321
‎还没有 但未来会的

737
00:56:48,905 --> 00:56:52,534
‎我们的客户认为它是一辆卡车
‎而我们认为它是一辆智能卡车

738
00:56:52,617 --> 00:56:54,452
‎它可以做很多不同的事情

739
00:56:54,536 --> 00:56:55,703
‎-谢谢你 伙计
‎-嗯

740
00:56:55,787 --> 00:56:57,914
‎我一定会跟进你的情况

741
00:57:01,668 --> 00:57:04,129
‎如果你十年后回来

742
00:57:04,212 --> 00:57:10,802
‎你会看到人工智能
‎和自主系统将主导整个市场

743
00:57:14,889 --> 00:57:19,352
‎有人工智能
‎和自主系统支持的武装力量

744
00:57:19,436 --> 00:57:25,108
‎绝对会支配、碾压和摧毁
‎没有人工智能和自主系统的武装力量

745
00:57:26,401 --> 00:57:30,780
‎这就相当于马匹与坦克的对抗

746
00:57:31,781 --> 00:57:34,367
‎刀剑与机关枪的对抗

747
00:57:34,909 --> 00:57:37,120
‎完全不可同日而语

748
00:57:38,746 --> 00:57:42,750
‎它将被普遍应用于战争的各个方面

749
00:57:43,585 --> 00:57:44,836
‎在战术层面

750
00:57:45,336 --> 00:57:46,546
‎在战略层面

751
00:57:47,172 --> 00:57:50,800
‎以今天的人类无法理解的速度运行

752
00:57:53,094 --> 00:57:57,098
‎指挥官们已经被过多的信息淹没了

753
00:57:57,599 --> 00:58:01,019
‎来自卫星、无人机和传感器的图像

754
00:58:02,103 --> 00:58:03,396
‎人工智能的其中一项能力

755
00:58:03,480 --> 00:58:06,774
‎就是帮助指挥官们更高效地了解现状

756
00:58:07,650 --> 00:58:09,903
‎然后思考：
‎“我需要做出怎样的决定？”

757
00:58:11,237 --> 00:58:14,866
‎人工智能将考虑所有

758
00:58:14,949 --> 00:58:17,702
‎决定战争方式的因素

759
00:58:18,286 --> 00:58:20,246
‎出谋划策…

760
00:58:22,540 --> 00:58:25,668
‎并为如何赢得战斗提出建议

761
00:58:30,256 --> 00:58:32,133
‎（弗吉尼亚州 萨福克）

762
00:58:32,217 --> 00:58:34,344
‎（洛克希德马丁创新中心）

763
00:58:36,971 --> 00:58:40,266
‎在洛克希德马丁公司
‎和我们的国防部客户一样

764
00:58:40,350 --> 00:58:43,770
‎我们将人工智能视为指挥与控制的

765
00:58:43,853 --> 00:58:45,104
‎关键技术推动力

766
00:58:47,065 --> 00:58:50,109
‎传播速度平均为每秒0.6米

767
00:58:50,193 --> 00:58:52,278
‎视野计约为283.3公顷

768
00:58:52,779 --> 00:58:55,782
‎战争迷雾对于我们防御方来说
‎确实是一种需要面对的现实

769
00:58:57,158 --> 00:59:00,495
‎但它与处于自然环境中

770
00:59:00,578 --> 00:59:03,206
‎又不得不针对野火
‎做出决策也有相似之处

771
00:59:03,289 --> 00:59:06,543
‎沃什伯恩大火就发生在瓦沃纳市北部

772
00:59:06,626 --> 00:59:09,629
‎你必须借助并不完善的数据做出决策

773
00:59:10,630 --> 00:59:14,300
‎那我们要如何让
‎人工智能帮我们摆脱战争迷雾呢？

774
00:59:17,637 --> 00:59:19,597
‎野火非常混乱

775
00:59:20,181 --> 00:59:21,266
‎它们非常复杂

776
00:59:22,267 --> 00:59:26,354
‎所以我们正在努力利用人工智能

777
00:59:26,437 --> 00:59:27,855
‎来帮助我们做决定

778
00:59:31,442 --> 00:59:33,987
‎“认知任务管理器”
‎是我们正在开发的一个程序

779
00:59:34,070 --> 00:59:37,949
‎它会采集空中红外视频

780
00:59:38,032 --> 00:59:41,786
‎然后通过我们的
‎人工智能算法进行处理

781
00:59:41,869 --> 00:59:45,248
‎从而预测火灾的未来状态

782
00:59:48,042 --> 00:59:49,794
‎展望未来

783
00:59:49,877 --> 00:59:52,922
‎“认知任务管理器”将借助模拟

784
00:59:53,006 --> 00:59:57,093
‎在数千个循环中运行某些场景

785
00:59:57,176 --> 01:00:00,722
‎从而给出效率最高的资源配置方案

786
01:00:00,805 --> 01:00:04,058
‎以抑制高优先级区域火灾

787
01:00:08,062 --> 01:00:12,400
‎它会说：“去这里
‎用‘火鹰’进行空中压制

788
01:00:13,568 --> 01:00:15,903
‎率领清理灌木的地面小组

789
01:00:16,946 --> 01:00:19,032
‎以及喷水的消防队员

790
01:00:19,657 --> 01:00:23,077
‎将他们拉到最高优先级的地区”

791
01:00:26,289 --> 01:00:29,292
‎这些决策将能够更快

792
01:00:29,375 --> 01:00:31,044
‎更有效地产生

793
01:00:35,840 --> 01:00:38,468
‎我们认为 人工智能是唯一

794
01:00:38,551 --> 01:00:42,305
‎能让人类跟上瞬息万变的环境的东西

795
01:00:43,389 --> 01:00:46,517
‎洛克希德马丁公司的防御业务中

796
01:00:46,601 --> 01:00:50,355
‎有很多与上述情况类似

797
01:00:52,231 --> 01:00:55,860
‎军方不再只谈论使用人工智能

798
01:00:55,943 --> 01:01:00,323
‎和单个武器系统
‎来进行目标定位和杀伐决策

799
01:01:00,865 --> 01:01:02,200
‎而是将人工智能整合到

800
01:01:02,283 --> 01:01:05,787
‎整个军事决策架构中

801
01:01:09,457 --> 01:01:12,960
‎陆军有一个
‎名叫“项目融合”的大型项目

802
01:01:14,545 --> 01:01:16,589
‎海军有“超配计划”

803
01:01:16,673 --> 01:01:19,592
‎而空军有“先进作战管理系统”

804
01:01:21,886 --> 01:01:24,138
‎国防部正在试图弄清楚

805
01:01:24,222 --> 01:01:26,683
‎“我们要如何将这些板块拼凑在一起

806
01:01:26,766 --> 01:01:29,268
‎让我们能比对手行动得更快

807
01:01:30,395 --> 01:01:32,355
‎并获得真正的优势？”

808
01:01:33,481 --> 01:01:37,527
‎人工智能战斗管理人
‎将是一位级别相当高的将军

809
01:01:37,610 --> 01:01:39,821
‎它会负责指挥战斗

810
01:01:41,155 --> 01:01:44,158
‎协助对众多的军队下达指令

811
01:01:45,118 --> 01:01:49,247
‎协调所有武器的行动

812
01:01:49,330 --> 01:01:51,958
‎而且它的行动速度
‎是任何人类都无法企及的

813
01:01:53,543 --> 01:01:55,294
‎在过去的70年里

814
01:01:55,378 --> 01:01:58,798
‎我们打造出了地球上最先进的军队

815
01:01:58,881 --> 01:02:03,177
‎现在我们面临的决定是
‎是否要把对基础设施的控制权

816
01:02:03,261 --> 01:02:07,598
‎交给算法、交给软件

817
01:02:10,351 --> 01:02:13,187
‎而这个决定带来的结果

818
01:02:13,271 --> 01:02:16,774
‎可能会触发我们军事武库的全部力量

819
01:02:16,858 --> 01:02:19,902
‎届时就不是一次广岛核爆
‎而是成百上千次

820
01:02:25,616 --> 01:02:27,869
‎现在是我们需要采取行动的时候了

821
01:02:27,952 --> 01:02:33,166
‎因为控制这种风险的窗口
‎正在迅速关闭

822
01:02:35,126 --> 01:02:39,338
‎今天下午 我们首先讨论
‎致命自主武器系统领域的

823
01:02:39,422 --> 01:02:41,132
‎新兴技术

824
01:02:41,215 --> 01:02:44,343
‎对国际安全所带来的挑战

825
01:02:44,427 --> 01:02:47,722
‎联合国正在就致命自主武器的威胁

826
01:02:47,805 --> 01:02:50,016
‎以及我们禁止使用人工智能

827
01:02:50,600 --> 01:02:56,564
‎来选择和定位人员的系统进行讨论

828
01:02:56,647 --> 01:03:00,777
‎技术专家之间的共识明确且坚决

829
01:03:00,860 --> 01:03:04,030
‎我们反对以人类为目标的自主武器

830
01:03:05,615 --> 01:03:08,993
‎多年来 各国其实一直在帮助

831
01:03:09,076 --> 01:03:11,329
‎讨论致命自主武器系统这一问题

832
01:03:12,288 --> 01:03:16,793
‎这关乎一种普遍的、共同的安全意识

833
01:03:17,794 --> 01:03:20,546
‎当然 这并非易事

834
01:03:21,297 --> 01:03:25,968
‎某些国家 尤其是那些军事强国

835
01:03:26,052 --> 01:03:27,762
‎他们希望能够独占鳌头

836
01:03:28,429 --> 01:03:31,599
‎这样他们才能领先于他们的对手

837
01:03:32,600 --> 01:03:36,187
‎问题是 所有人都必须意见一致
‎这样才能有所进展

838
01:03:36,896 --> 01:03:39,065
‎反对的国家肯定会有

839
01:03:39,148 --> 01:03:42,109
‎当然 美国和俄罗斯都明确表示

840
01:03:42,193 --> 01:03:45,655
‎他们反对一项禁止自主武器的条约

841
01:03:47,198 --> 01:03:53,204
‎当我们想到有多少人
‎正致力于让人工智能变得更强大

842
01:03:54,747 --> 01:03:56,457
‎那可谓是万头攒动

843
01:03:57,750 --> 01:04:02,880
‎当我们想到有多少人
‎在努力确保人工智能安全无害

844
01:04:04,340 --> 01:04:07,510
‎那几乎可说是门可罗雀

845
01:04:11,764 --> 01:04:13,724
‎但我还是非常乐观的

846
01:04:16,060 --> 01:04:19,480
‎我会想到冷战时期

847
01:04:19,564 --> 01:04:22,358
‎签署的《生物武器公约》此类的东西

848
01:04:23,025 --> 01:04:27,655
‎虽然苏美两国剑拔弩张

849
01:04:29,156 --> 01:04:33,536
‎但他们仍能意识到 生物武器的发展

850
01:04:33,619 --> 01:04:36,247
‎既不符合他们的最佳利益

851
01:04:36,330 --> 01:04:38,749
‎也不符合全世界的最佳利益

852
01:04:41,335 --> 01:04:44,714
‎军备竞赛重视速度 而非安全

853
01:04:45,715 --> 01:04:48,342
‎但我认为最重要的是要考虑到

854
01:04:48,426 --> 01:04:52,430
‎到了一定程度
‎过速发展的代价将变得过于高昂

855
01:04:56,225 --> 01:04:59,270
‎我们不能孤立地发展某些领域

856
01:05:00,021 --> 01:05:06,611
‎并将成果贸然投入使用
‎毫不考虑它们未来可能走向何方

857
01:05:07,862 --> 01:05:10,823
‎我们必须避免让原子弹爆炸

858
01:05:14,577 --> 01:05:17,705
‎人工智能竞赛的风险十分巨大

859
01:05:18,289 --> 01:05:22,001
‎我认为很多人并不珍惜

860
01:05:22,084 --> 01:05:28,174
‎在过去75年中
‎因为一支强大军事力量的存在

861
01:05:28,257 --> 01:05:31,135
‎而为全球带来的这份稳定

862
01:05:32,887 --> 01:05:35,681
‎因此 美国和我们的盟军

863
01:05:36,557 --> 01:05:38,684
‎需要超越对手的人工智能技术

864
01:05:43,314 --> 01:05:44,774
‎战争中没有第二名

865
01:05:45,524 --> 01:05:49,111
‎中国制定了一项雄心勃勃的计划
‎2030年成为AI领域的世界领导者

866
01:05:49,195 --> 01:05:51,656
‎这场比赛 有人说美国已现败象…

867
01:05:52,740 --> 01:05:56,160
‎你会加快采用人工智能技术

868
01:05:56,243 --> 01:05:59,246
‎以确保我们在军事领域的竞争优势

869
01:06:02,875 --> 01:06:05,461
‎我们正在快速发展这项技术

870
01:06:05,544 --> 01:06:08,673
‎我认为尚不明确的是
‎我们会走到多远？

871
01:06:09,507 --> 01:06:12,760
‎是我们在控制技术
‎还是它在控制我们？

872
01:06:14,136 --> 01:06:16,973
‎我们没有重来一次的机会

873
01:06:17,807 --> 01:06:20,977
‎精灵一旦从瓶子里出来
‎它便不受控制

874
01:06:22,019 --> 01:06:25,189
‎要把它塞回去会非常困难

875
01:06:28,609 --> 01:06:31,737
‎如果我们现在不采取行动
‎那一切可能就太迟了

876
01:06:33,114 --> 01:06:34,657
‎也许现在已经太迟了

877
01:08:48,124 --> 01:08:53,254
‎字幕翻译：Lynn S