1
00:00:02,000 --> 00:00:07,000
Downloaded from
YTS.MX

2
00:00:08,000 --> 00:00:13,000
Official YIFY movies site:
YTS.MX

3
00:00:24,065 --> 00:00:27,027
Мне ИИ внушает благоговейный страх.

4
00:00:28,361 --> 00:00:31,489
Так, в круг. Хорошая формация.

5
00:00:33,116 --> 00:00:36,703
ИИ потенциально способен
искоренить бедность,

6
00:00:36,786 --> 00:00:38,705
дать нам новые лекарства

7
00:00:39,289 --> 00:00:41,583
и сделать планету еще более мирной.

8
00:00:46,087 --> 00:00:46,921
Молодец.

9
00:00:49,883 --> 00:00:53,428
Но на этом пути очень много рисков.

10
00:01:04,773 --> 00:01:07,567
С помощью ИИ мы, по сути, создаем

11
00:01:07,650 --> 00:01:09,611
нечеловеческий интеллект,

12
00:01:09,694 --> 00:01:11,863
который очень непредсказуем.

13
00:01:14,407 --> 00:01:16,451
Если он становится всё мощнее,

14
00:01:16,534 --> 00:01:18,078
то где те красные линии

15
00:01:18,161 --> 00:01:22,665
касательно ИИ в том, как мы хотим
использовать или не использовать его?

16
00:01:25,001 --> 00:01:28,505
В рамках этой дискуссии
нет сферы уместнее,

17
00:01:28,588 --> 00:01:31,049
чем его военное применение.

18
00:01:34,010 --> 00:01:38,890
Сейчас поле битвы стало уделом
программных и аппаратных средств.

19
00:01:41,059 --> 00:01:42,936
Цель захвачена…

20
00:01:43,019 --> 00:01:48,399
И военные спешат
развить ИИ быстрее своих противников.

21
00:01:49,526 --> 00:01:50,360
Сбит.

22
00:01:53,738 --> 00:01:58,326
Мы стремительно движемся к миру,
где не только крупные вооруженные силы,

23
00:01:58,409 --> 00:02:00,870
но и негосударственные субъекты,

24
00:02:01,371 --> 00:02:02,997
частные предприятия

25
00:02:03,081 --> 00:02:06,042
или даже местный полицейский участок

26
00:02:06,543 --> 00:02:10,046
может использовать это оружие,
способное убивать автономно.

27
00:02:12,006 --> 00:02:17,303
Уступим ли мы решение лишать жизни
алгоритмам, компьютерным программам?

28
00:02:18,638 --> 00:02:21,516
Это одна из самых острых проблем
нашего времени…

29
00:02:23,935 --> 00:02:26,354
…которая, если не подойти к ней с умом,

30
00:02:26,437 --> 00:02:30,275
угрожает каждому человеку
на этой планете.

31
00:02:41,828 --> 00:02:44,914
НЕИЗВЕДАННОЕ

32
00:02:46,833 --> 00:02:50,086
РОБОТЫ-УБИЙЦЫ

33
00:03:28,291 --> 00:03:30,168
Молодцы, парни.

34
00:03:59,948 --> 00:04:02,367
Объектив гораздо шире, чем раньше.

35
00:04:02,450 --> 00:04:04,786
- Правда?
- Видит гораздо четче.

36
00:04:05,286 --> 00:04:06,287
Очень круто.

37
00:04:07,538 --> 00:04:11,167
Мы в Shield AI создаем ИИ-пилота —

38
00:04:11,251 --> 00:04:14,879
берем ИИ-технологию
автоматического управления

39
00:04:14,963 --> 00:04:16,631
и внедряем ее в летательный аппарат.

40
00:04:19,300 --> 00:04:22,345
Под ИИ-пилотированием мы подразумеваем

41
00:04:22,428 --> 00:04:25,640
повышение уровня автономии
летательных аппаратов.

42
00:04:25,723 --> 00:04:27,850
Они будут сами решать свои задачи.

43
00:04:29,602 --> 00:04:32,355
Nova — это автономный квадрокоптер,

44
00:04:32,438 --> 00:04:35,942
исследующий здания
и подземные сооружения

45
00:04:36,859 --> 00:04:41,322
перед группами разминирования,
становясь для них глазами и ушами.

46
00:04:41,906 --> 00:04:45,618
Определенно виден
серьезный прогресс с последнего раза.

47
00:04:45,702 --> 00:04:49,831
Сегодня у нас изменения в изучении,
работаем над движением по этажам —

48
00:04:50,331 --> 00:04:53,584
он изучит один этаж, комнаты,
затем перейдет ко второму.

49
00:04:54,294 --> 00:04:56,796
- Клево.
- Недавно мы внесли изменения…

50
00:04:56,879 --> 00:04:58,548
Меня часто спрашивают,

51
00:04:58,631 --> 00:05:02,468
почему искусственный интеллект —
важная функция.

52
00:05:02,552 --> 00:05:06,973
И я сразу вспоминаю миссии,
которые выполнял.

53
00:05:09,100 --> 00:05:10,852
Я семь лет отслужил на флоте.

54
00:05:11,561 --> 00:05:15,273
В рядах спецназа ВМС
дважды отправлялся в Афганистан,

55
00:05:15,356 --> 00:05:17,191
однажды — в Тихоокеанский регион.

56
00:05:18,026 --> 00:05:22,947
Порой за один день нам приходилось
зачищать 150 разных построек.

57
00:05:30,997 --> 00:05:34,250
Среди ключевых компетенций —
бой в ограниченных пространствах.

58
00:05:35,293 --> 00:05:39,172
Перестрелки на очень близких дистанциях
внутри зданий.

59
00:05:41,466 --> 00:05:42,967
В тебя стреляют.

60
00:05:43,468 --> 00:05:46,471
В здании могут быть
самодельные взрывные устройства.

61
00:05:49,015 --> 00:05:55,229
Это самое опасное,
чем может заниматься боец спецназа,

62
00:05:55,313 --> 00:05:58,358
пехотинец в зоне боевых действий.

63
00:05:58,441 --> 00:05:59,359
Без исключений.

64
00:06:12,497 --> 00:06:16,334
Я всю жизнь буду благодарен
за свое время службы на флоте.

65
00:06:17,168 --> 00:06:22,423
У меня остались моменты и воспоминания,
которые, когда я к ним возвращаюсь,

66
00:06:22,507 --> 00:06:24,592
вызывают во мне непростые эмоции.

67
00:06:28,346 --> 00:06:32,725
Это клише, что свобода не дается даром,
но я верю в это на 100%.

68
00:06:33,559 --> 00:06:37,105
Я испытал это на себе —
она требует серьезных жертв.

69
00:06:38,022 --> 00:06:38,856
Простите.

70
00:06:41,067 --> 00:06:44,570
Когда что-то плохое случается
с одним из боевых товарищей,

71
00:06:44,654 --> 00:06:46,614
будь то ранение или смерть,

72
00:06:47,490 --> 00:06:50,034
это всегда трагедия, это…

73
00:06:50,118 --> 00:06:52,912
Знаете, для меня сейчас в нашей работе

74
00:06:52,995 --> 00:06:56,165
мотивацией является возможность

75
00:06:56,666 --> 00:07:00,336
сократить число подобных инцидентов.

76
00:07:07,176 --> 00:07:08,886
В конце 2000-х годов

77
00:07:08,970 --> 00:07:11,556
в Министерстве обороны
начало возникать то,

78
00:07:11,639 --> 00:07:15,351
что можно назвать
случайной революцией робототехники.

79
00:07:15,893 --> 00:07:18,271
Мы развернули тысячи воздушных
и наземных роботов

80
00:07:18,354 --> 00:07:20,148
в Ираке и Афганистане.

81
00:07:21,482 --> 00:07:24,068
Когда администрация Обамы
попросила меня

82
00:07:24,152 --> 00:07:26,404
стать заместителем министра обороны,

83
00:07:26,904 --> 00:07:31,117
методы ведения войны
определенно менялись.

84
00:07:32,452 --> 00:07:36,330
Роботы стали использоваться там,
где раньше привлекались люди.

85
00:07:37,999 --> 00:07:40,877
Ранние системы роботов
управлялись дистанционно.

86
00:07:40,960 --> 00:07:45,173
Человек управлял ими,
как машиной на пульте управления.

87
00:07:46,591 --> 00:07:51,512
Сперва они занимались поиском
самодельных взрывных устройств,

88
00:07:52,013 --> 00:07:54,807
и если бомба взрывалась,
то взорвался и робот.

89
00:07:57,393 --> 00:08:00,396
Вы говорите: «Облом,
вытаскивай второго робота».

90
00:08:02,273 --> 00:08:04,484
В Афганистане были дроны Predator,

91
00:08:05,276 --> 00:08:09,739
и они стали очень полезным инструментом
для нанесения ударов с воздуха.

92
00:08:13,117 --> 00:08:16,829
Со временем военные стратеги
начали задаваться вопросами:

93
00:08:16,913 --> 00:08:20,791
«Где еще можно применить роботов?
И куда всё это приведет?»

94
00:08:20,875 --> 00:08:24,170
И одной из общих тем
была тенденция к большей автономии.

95
00:08:26,506 --> 00:08:30,635
Автономное оружие — оружие,
принимающее решения самостоятельно,

96
00:08:30,718 --> 00:08:33,304
с минимальным вмешательством человека.

97
00:08:33,387 --> 00:08:37,558
В нём есть независимые функции,
и он обладает самостоятельностью.

98
00:08:38,434 --> 00:08:41,604
А убивает ли он,
зависит от того, вооружен он или нет.

99
00:08:43,314 --> 00:08:47,109
Когда ваша система становится
всё более автономной,

100
00:08:47,193 --> 00:08:49,779
всё начинает двигаться быстрее.

101
00:08:51,989 --> 00:08:56,953
А действуя быстрее,
чем ваши противники,

102
00:08:57,453 --> 00:09:01,165
вы получаете
невероятно большое преимущество в бою.

103
00:09:03,960 --> 00:09:06,254
Наш фокус — в автономии.

104
00:09:07,255 --> 00:09:09,966
В высокоустойчивых
интеллектуальных системах…

105
00:09:12,009 --> 00:09:15,304
…способных считывать
и реагировать в зависимости от среды

106
00:09:15,805 --> 00:09:19,642
и принимать решения о том,
как маневрировать в данной среде.

107
00:09:21,602 --> 00:09:24,897
САН-ДИЕГО
КАЛИФОРНИЯ

108
00:09:24,981 --> 00:09:29,110
Объект, в котором мы находимся,
изначально являлся киностудией,

109
00:09:29,193 --> 00:09:30,611
затем был переоборудован

110
00:09:30,695 --> 00:09:34,156
под реалистичную среду
для военных учений.

111
00:09:39,495 --> 00:09:43,291
Здесь мы испытаем нашего ИИ-пилота.

112
00:09:44,625 --> 00:09:49,297
Суть его миссии — поиск угроз.
Ситуация — разминирование.

113
00:09:49,380 --> 00:09:52,800
Он может принять решение
о том, как решить эту задачу.

114
00:09:55,428 --> 00:09:59,390
Мы называем это роковой воронкой.
Нужно пройти через дверь.

115
00:10:01,684 --> 00:10:03,227
Здесь мы наиболее уязвимы.

116
00:10:03,811 --> 00:10:04,937
Этот вроде получше.

117
00:10:07,106 --> 00:10:10,151
Nova сообщает нам,
есть ли за дверью стрелок,

118
00:10:10,818 --> 00:10:12,653
или же за ней семья.

119
00:10:15,114 --> 00:10:18,451
Это позволит принимать
грамотные решения и уберечь людей.

120
00:10:57,114 --> 00:10:59,367
Мы используем видеодатчики,

121
00:10:59,450 --> 00:11:03,162
чтобы понимать,
как выглядит окружающая среда.

122
00:11:04,997 --> 00:11:06,415
Это многоэтажное здание.

123
00:11:07,333 --> 00:11:08,334
Вот его план.

124
00:11:08,417 --> 00:11:11,671
Пока я его исследовал,
вот что я увидел и где увидел.

125
00:11:19,929 --> 00:11:22,098
Детектор людей. Чудно.

126
00:11:23,891 --> 00:11:26,936
Еще один сенсор
на борту Nova — тепловизор.

127
00:11:27,478 --> 00:11:30,690
Если видите 37 градусов,
скорее всего, это человек.

128
00:11:32,358 --> 00:11:35,444
Люди считаются угрозами,
пока не решат обратное.

129
00:11:38,906 --> 00:11:43,244
Суть в том, чтобы без тумана войны
принимать лучшие решения.

130
00:11:44,704 --> 00:11:46,497
А если смотреть в будущее,

131
00:11:46,997 --> 00:11:50,793
мы стремимся к созданию отрядов
автономных летательных аппаратов.

132
00:11:53,754 --> 00:11:55,631
Беспилотным аппаратам

133
00:11:55,715 --> 00:11:57,466
человек, по сути, говорит:

134
00:11:57,550 --> 00:12:00,386
«Я хочу, чтобы ты прошел
из пункта А в пункт Б.

135
00:12:02,972 --> 00:12:06,475
Наши же системы просят
не следовать из точки А в точку Б,

136
00:12:06,559 --> 00:12:07,893
а выполнять задачу.

137
00:12:10,312 --> 00:12:13,190
Это больше похоже
на «Мне нужно молоко».

138
00:12:13,274 --> 00:12:17,486
И затем робот должен будет понять,
в какой магазин отправиться,

139
00:12:17,570 --> 00:12:20,030
забрать молоко и доставить его.

140
00:12:20,740 --> 00:12:22,074
Более того,

141
00:12:22,158 --> 00:12:24,493
уместнее даже будет сказать

142
00:12:24,994 --> 00:12:27,413
«Не дай холодильнику опустеть».

143
00:12:27,496 --> 00:12:29,457
То есть это уровень интеллекта,

144
00:12:29,540 --> 00:12:32,168
понимающий, что нам надо
и как мы это делаем.

145
00:12:32,251 --> 00:12:35,671
И при возникновении
сложности или проблемы

146
00:12:35,755 --> 00:12:37,381
он придумает, как их облегчить.

147
00:12:40,801 --> 00:12:43,888
Принимая решение покинуть флот,

148
00:12:43,971 --> 00:12:47,558
я стал думать: «Так, а что дальше?»

149
00:12:49,143 --> 00:12:52,021
Я вырос с интернетом.
Видел, чем он стал.

150
00:12:53,189 --> 00:12:55,608
И пришел к такому выводу,

151
00:12:56,108 --> 00:12:58,861
что ИИ в 2015 году

152
00:12:58,944 --> 00:13:02,907
был на том уровне,
где интернет находился в 1991 году.

153
00:13:04,033 --> 00:13:06,410
Но ИИ был готов

154
00:13:06,494 --> 00:13:09,747
стать одной
из самых мощных технологий в мире.

155
00:13:11,791 --> 00:13:16,212
Работая с ним каждый день,
я наблюдаю его прогресс.

156
00:13:19,048 --> 00:13:22,051
Но многие, когда слышат «ИИ»,

157
00:13:22,551 --> 00:13:25,221
мыслями сразу же уходят в Голливуд.

158
00:13:28,057 --> 00:13:29,975
Сыграем в игру?

159
00:13:30,059 --> 00:13:35,314
Как насчет
Глобальной термоядерной войны?

160
00:13:35,898 --> 00:13:36,816
Хорошо.

161
00:13:38,275 --> 00:13:42,029
В целом, когда речь заходит
об ИИ, людям приходит в голову

162
00:13:42,112 --> 00:13:44,824
«Терминатор». Или «Я, робот».

163
00:13:45,574 --> 00:13:46,700
Деактивировать.

164
00:13:46,784 --> 00:13:48,160
Что я?

165
00:13:48,244 --> 00:13:49,620
Или «Матрица».

166
00:13:51,080 --> 00:13:53,749
Если судить
по научно-фантастическим фильмам,

167
00:13:53,833 --> 00:13:57,878
откуда я знаю, что я человек?
Я могу быть компьютерным ИИ.

168
00:13:58,379 --> 00:14:02,132
Репликанты — самые обычные машины.
От них либо польза, либо угроза.

169
00:14:02,675 --> 00:14:08,097
Но есть самые различные примитивные ИИ,
которые всё равно изменят нашу жизнь

170
00:14:08,180 --> 00:14:11,851
задолго до того, как мы достигнем
уровня мыслящих, говорящих роботов.

171
00:14:12,643 --> 00:14:15,771
Роботы уже здесь.
Роботы принимают решения.

172
00:14:15,855 --> 00:14:18,816
Революция роботов наступила,

173
00:14:18,899 --> 00:14:22,319
просто она не такая,
как мы себе ее представляли.

174
00:14:23,320 --> 00:14:26,740
Терминаторы — переходная ступень.
Получеловек, полумашина.

175
00:14:27,950 --> 00:14:31,370
Речь не идет
о роботах-убийцах в духе Терминатора.

176
00:14:31,871 --> 00:14:35,958
Мы говорим об ИИ, способном выполнять
задачи, которые выполняют люди.

177
00:14:36,041 --> 00:14:39,879
Но вопрос в том,
надежны ли эти системы.

178
00:14:39,962 --> 00:14:42,381
Новые подробности о вчерашней аварии

179
00:14:42,464 --> 00:14:45,426
с участием
беспилотного внедорожника Uber.

180
00:14:45,509 --> 00:14:48,762
Компания создала чат-бота на основе ИИ.

181
00:14:48,846 --> 00:14:51,056
Он принял довольно расистский тон…

182
00:14:51,265 --> 00:14:55,394
Двадцать шесть законодателей штата
ошибочно опознаны как преступники.

183
00:14:57,438 --> 00:15:02,026
Вопрос в том, справятся ли они
со сложностями реального мира.

184
00:15:03,193 --> 00:15:06,655
КЕМБРИДЖ
МАССАЧУСЕТС

185
00:15:22,212 --> 00:15:24,006
Физический мир очень сложен.

186
00:15:25,174 --> 00:15:27,134
Мы многого не знаем,

187
00:15:27,968 --> 00:15:30,763
и это усложняет обучение систем ИИ.

188
00:15:33,098 --> 00:15:36,977
Именно поэтому начали
появляться системы машинного обучения.

189
00:15:38,520 --> 00:15:41,523
Машинное обучение
стало большим прорывом,

190
00:15:42,024 --> 00:15:45,611
так как теперь нам не нужно
учить компьютеры всему.

191
00:15:47,905 --> 00:15:52,409
Вы передаете в компьютер
миллионы данных,

192
00:15:52,493 --> 00:15:54,453
и машина сама начинает учиться.

193
00:15:55,245 --> 00:15:57,289
И это применимо ко всему.

194
00:16:00,250 --> 00:16:02,962
В проекте Robot Dog
мы пытаемся показать,

195
00:16:03,045 --> 00:16:09,009
что наша собака может
ходить по самой разной местности.

196
00:16:10,052 --> 00:16:14,431
Люди эволюционировали
и научились ходить за миллиарды лет,

197
00:16:14,932 --> 00:16:20,688
но адаптация к различным местностям
требует большого интеллекта.

198
00:16:21,939 --> 00:16:24,358
Остается неясным, смогут ли
роботизированные системы

199
00:16:24,441 --> 00:16:27,069
адаптироваться, как животные и люди?

200
00:16:35,953 --> 00:16:37,413
При машинном обучении

201
00:16:37,496 --> 00:16:40,582
мы собираем множество данных
в процессе симуляции.

202
00:16:42,626 --> 00:16:45,963
Симуляция —
цифровой двойник реальности.

203
00:16:46,588 --> 00:16:50,300
У нас может быть
множество вариантов этой реальности,

204
00:16:50,384 --> 00:16:52,136
запущенных на разных компьютерах.

205
00:16:53,137 --> 00:16:56,974
В симуляции ИИ пробует тысячи действий.

206
00:16:58,892 --> 00:17:02,229
Земля, по которой они ходят,
разной степени скользкости,

207
00:17:02,312 --> 00:17:03,897
у нее разная мягкость.

208
00:17:04,898 --> 00:17:08,318
Мы берем весь опыт этих тысяч роботов

209
00:17:08,402 --> 00:17:13,282
из симуляции и загружаем его
в настоящую роботизированную систему.

210
00:17:15,492 --> 00:17:20,039
На сегодняшних испытаниях мы узнаем,
адаптируется ли он к новым условиям.

211
00:17:53,322 --> 00:17:55,491
Когда робот двигался по пене,

212
00:17:55,574 --> 00:17:58,577
он топал ногами по земле.

213
00:17:59,369 --> 00:18:02,206
Но когда он оказывался
на скользкой поверхности,

214
00:18:03,248 --> 00:18:06,460
он пытался двигаться так,
чтобы не поскользнуться.

215
00:18:08,670 --> 00:18:10,672
В такие моменты вы понимаете,

216
00:18:10,756 --> 00:18:14,051
какова польза от машинного обучения.

217
00:18:41,161 --> 00:18:44,123
Мы считаем, что Robot Dog
может быть очень полезен

218
00:18:44,206 --> 00:18:46,166
при реагировании на бедствия,

219
00:18:46,250 --> 00:18:49,670
когда необходимо перемещаться
по разным местностям.

220
00:18:52,631 --> 00:18:57,427
Или же собаки могут осуществлять
наблюдение в суровых условиях.

221
00:19:15,696 --> 00:19:19,575
Но большинство технологий
сталкиваются с такой проблемой,

222
00:19:19,658 --> 00:19:22,369
что в них есть и хорошее, и плохое.

223
00:19:24,037 --> 00:19:27,875
Например, при помощи ядерных технологий
можно извлекать энергию…

224
00:19:30,419 --> 00:19:33,589
…как и создавать атомные бомбы,
что очень плохо.

225
00:19:35,048 --> 00:19:38,468
Это так называемая проблема
двойного назначения.

226
00:19:39,052 --> 00:19:40,929
У огня двойное назначение.

227
00:19:41,722 --> 00:19:44,308
У человеческого интеллекта
двойное назначения.

228
00:19:44,391 --> 00:19:48,645
Поэтому, разумеется,
ИИ также имеет двойное назначение.

229
00:19:49,354 --> 00:19:53,984
Очень важно думать об ИИ в контексте.

230
00:19:54,693 --> 00:19:59,114
Так как, да, потрясающе
иметь поисково-спасательного робота

231
00:19:59,198 --> 00:20:02,284
способного помочь
найти человека после схода лавины,

232
00:20:02,868 --> 00:20:05,871
но этого же робота можно вооружить.

233
00:20:15,088 --> 00:20:16,256
Когда ты видишь,

234
00:20:16,340 --> 00:20:21,094
как компании вооружают робототехнику,

235
00:20:21,178 --> 00:20:22,930
отчасти ты злишься.

236
00:20:23,931 --> 00:20:28,435
И отчасти это из-за осознания того,
что, когда мы внедрим наши технологии,

237
00:20:28,518 --> 00:20:30,103
это неизбежно произойдет.

238
00:20:31,021 --> 00:20:34,441
Это настоящая прорывная технология.

239
00:20:36,235 --> 00:20:38,028
Это оружейные системы,

240
00:20:38,111 --> 00:20:43,617
способные радикально изменить
наши подходы к безопасности.

241
00:20:46,161 --> 00:20:47,162
На данный момент

242
00:20:47,246 --> 00:20:51,500
мы не уверены,
что машины действительно способны

243
00:20:51,583 --> 00:20:54,962
различать между гражданскими
и комбатантами.

244
00:21:01,843 --> 00:21:05,597
В начале войны в Афганистане
я был в снайперском отряде,

245
00:21:05,681 --> 00:21:08,016
искал вражеских бойцов,
пересекающих границу.

246
00:21:09,643 --> 00:21:12,646
И как-то они послали девочку
разведать нашу позицию.

247
00:21:13,939 --> 00:21:17,067
Нам не пришло в голову
стрелять в эту девочку.

248
00:21:19,695 --> 00:21:22,864
По законам войны это было бы законно.

249
00:21:24,950 --> 00:21:27,369
В них не указан возраст
вражеских бойцов.

250
00:21:29,079 --> 00:21:33,417
Если бы вы собрали робота,
полностью следующего законам войны,

251
00:21:33,500 --> 00:21:35,252
он бы эту девочку застрелил.

252
00:21:36,420 --> 00:21:41,091
Откуда роботу знать разницу между тем,
что законно, и тем, что правильно?

253
00:21:43,385 --> 00:21:46,054
В автономной войне дронами

254
00:21:46,138 --> 00:21:49,933
идея в том, чтобы уберечь
от вреда американских солдат

255
00:21:50,017 --> 00:21:51,601
и их психику,

256
00:21:52,602 --> 00:21:57,149
но увеличить вред,
который наносится афганцам,

257
00:21:57,232 --> 00:21:58,775
иракцам и сомалийцам.

258
00:22:09,619 --> 00:22:14,416
Я бы спросил тех, кто поддерживает
использование ИИ в дронах:

259
00:22:15,375 --> 00:22:18,211
«А если бы они нацеливались
на вашу деревню?»

260
00:22:23,550 --> 00:22:25,719
ИИ — обоюдоострый меч.

261
00:22:26,595 --> 00:22:30,724
Его можно использовать во благо,
для чего мы обычно его и используем,

262
00:22:31,558 --> 00:22:33,477
но одним нажатием кнопки

263
00:22:34,561 --> 00:22:38,023
можно сделать эту технологию
потенциально смертельной.

264
00:22:38,106 --> 00:22:40,233
РОЛИ
СЕВЕРНАЯ КАРОЛИНА

265
00:22:47,032 --> 00:22:48,533
Я клинический фармаколог.

266
00:22:49,618 --> 00:22:50,994
У меня команда,

267
00:22:51,078 --> 00:22:54,247
использующая ИИ для создания лекарств

268
00:22:54,331 --> 00:22:57,751
от болезней, которые обходят вниманием.

269
00:22:59,711 --> 00:23:04,132
Раньше лекарства открывали так:
вы брали существующую молекулу

270
00:23:04,216 --> 00:23:06,885
и меняли ее,
чтобы получить новое лекарство.

271
00:23:08,261 --> 00:23:13,350
А теперь мы разработали ИИ,
который подбрасывает нам миллионы идей,

272
00:23:13,892 --> 00:23:15,227
миллионы молекул,

273
00:23:16,186 --> 00:23:19,231
и это открывает перед нами
невероятные возможности

274
00:23:19,314 --> 00:23:22,567
по лечению болезней,
которые раньше были неизлечимы.

275
00:23:25,153 --> 00:23:29,741
Но здесь есть и темная сторона,
которая мне даже в голову не приходила.

276
00:23:33,161 --> 00:23:35,872
Всё началось с того,
что меня пригласила

277
00:23:35,956 --> 00:23:40,043
организация из Швейцарии
под названием Spiez Laboratory

278
00:23:40,544 --> 00:23:44,423
выступить с докладом
о возможном злоупотреблении ИИ.

279
00:23:48,343 --> 00:23:51,221
Шон прислал мне письмо
с несколькими идеями

280
00:23:51,304 --> 00:23:55,308
о том, как можно
злоупотребить нашим ИИ.

281
00:23:56,059 --> 00:24:00,355
Вместо того чтобы попросить
нашу модель создать молекулу лекарства,

282
00:24:00,439 --> 00:24:02,274
которая бы лечила болезни,

283
00:24:02,774 --> 00:24:06,403
узнаем, выйдет ли у нас
сгенерировать токсичные молекулы.

284
00:24:10,198 --> 00:24:11,491
Я хотел показать,

285
00:24:11,575 --> 00:24:15,620
можно ли применить технологию ИИ
для создания смертельных молекул.

286
00:24:17,414 --> 00:24:20,083
И, если честно,
мы думали, что он провалится,

287
00:24:20,167 --> 00:24:24,504
поскольку мы всего лишь
заменили ноль на единицу.

288
00:24:26,715 --> 00:24:30,385
И теперь вместо того,
чтобы уходить от токсичности,

289
00:24:30,469 --> 00:24:32,220
мы стали стремиться к ней.

290
00:24:32,721 --> 00:24:33,555
Вот и всё.

291
00:24:37,517 --> 00:24:40,729
Пока я был дома,
компьютер выполнял свою задачу.

292
00:24:41,480 --> 00:24:44,816
Он работал, генерировал тысячи молекул,

293
00:24:45,650 --> 00:24:49,529
а нам не надо было ничего делать,
кроме как нажать «Пуск».

294
00:24:54,493 --> 00:24:58,330
На следующее утро
у меня на компьютере появился файл,

295
00:24:59,080 --> 00:25:03,335
а внутри него — около 40 000 молекул.

296
00:25:03,418 --> 00:25:05,253
которые могли быть потенциально

297
00:25:05,337 --> 00:25:08,882
одними из самых токсичных молекул,
известных человечеству.

298
00:25:10,217 --> 00:25:12,761
У меня волосы на шее встали дыбом.

299
00:25:13,345 --> 00:25:14,554
Я был в шоке.

300
00:25:15,388 --> 00:25:20,685
Компьютер выдал десятки тысяч идей
для нового химического оружия.

301
00:25:21,645 --> 00:25:27,609
Разумеется, в наборе данных были
молекулы, похожие на VX и его аналоги.

302
00:25:28,360 --> 00:25:31,363
VX — один из мощнейших видов
химического оружия в мире.

303
00:25:31,863 --> 00:25:33,573
Новые подробности от полиции.

304
00:25:33,657 --> 00:25:37,786
Женщины,
убившие Кима Чона Нама в аэропорту,

305
00:25:37,869 --> 00:25:41,248
использовали отравляющее вещество VX.

306
00:25:41,748 --> 00:25:44,417
Он может повлечь смерть от удушья.

307
00:25:45,043 --> 00:25:47,629
Это очень мощная молекула,

308
00:25:47,712 --> 00:25:52,092
и большинство из них по прогнозам
были даже более смертоносны, чем VX.

309
00:25:53,301 --> 00:25:57,347
Многие из них, насколько мы знаем,
раньше вообще не существовали.

310
00:25:57,430 --> 00:26:02,310
И когда мы с Шоном поняли это,
мы спросили себя: «Что мы наделали?»

311
00:26:04,771 --> 00:26:09,234
Я быстро осознал,
что мы открыли ящик Пандоры,

312
00:26:09,859 --> 00:26:13,280
и сказал: «Хватит.
Больше ничего не делай. Мы закончили.

313
00:26:13,905 --> 00:26:17,158
Просто сделай мне нужные слайды
для презентации».

314
00:26:19,202 --> 00:26:23,873
При проведении этого эксперимента
я думал: «Что плохого может случиться?»

315
00:26:26,251 --> 00:26:30,255
Но теперь думаю: «Мы были наивны.
Максимально наивны проводить его».

316
00:26:33,425 --> 00:26:36,928
Больше всего пугает то,
что повторить это мог бы кто угодно.

317
00:26:38,930 --> 00:26:40,765
Нужно лишь развернуть задачу.

318
00:26:42,892 --> 00:26:46,271
Как контролировать эту технологию,
пока ее не использовали

319
00:26:46,354 --> 00:26:50,942
для потенциально деструктивных целей?

320
00:26:54,279 --> 00:26:55,697
БОСТОН
МАССАЧУСЕТС

321
00:26:55,780 --> 00:27:00,285
В основе разговора
об искусственном интеллекте

322
00:27:00,368 --> 00:27:03,538
и о том, как мы выбираем
его применение в обществе,

323
00:27:04,289 --> 00:27:08,835
лежит гонка между скоростью,
с которой мы разрабатываем технологии,

324
00:27:08,918 --> 00:27:11,379
и мудростью,
с которой мы должны ей управлять.

325
00:27:13,340 --> 00:27:16,926
Есть очевидные моральные
и этические последствия

326
00:27:17,010 --> 00:27:20,138
того, чтобы технологии,
на которой работают наши сматрфоны,

327
00:27:20,221 --> 00:27:23,433
доверить решение отнимать жизнь.

328
00:27:25,727 --> 00:27:31,191
Я работаю с Институтом Future of Life,
сообществом ученых-активистов.

329
00:27:31,733 --> 00:27:33,443
Наша задача — показать,

330
00:27:33,526 --> 00:27:38,698
что есть и другая сторона ускорения
и эскалации автоматики.

331
00:27:38,782 --> 00:27:42,619
Но мы стараемся убедиться,
что создаваемые нами технологии

332
00:27:42,702 --> 00:27:45,038
использовались безопасным
и этичным способом.

333
00:27:46,247 --> 00:27:49,959
Давайте говорить о правилах ведения боя

334
00:27:50,043 --> 00:27:54,005
и нормах при использовании ИИ
в наших оружейных системах.

335
00:27:54,756 --> 00:27:59,135
Потому что уже существуют технологии,
готовые к развертыванию на поле боя,

336
00:27:59,219 --> 00:28:01,680
которыми можно поражать цели автономно.

337
00:28:10,230 --> 00:28:15,110
В 2021 году ООН выпустила отчет
о возможном использовании

338
00:28:15,193 --> 00:28:19,364
летального автономного оружия
на поле боя в Ливии.

339
00:28:20,073 --> 00:28:23,910
Согласно ООН, дрон, использовавшийся
во время гражданской войны в Ливии

340
00:28:23,993 --> 00:28:27,330
был запрограммирован
на автономную атаку целей.

341
00:28:28,289 --> 00:28:31,209
Если доклады ООН верны,

342
00:28:31,292 --> 00:28:34,963
это переломный момент для человечества.

343
00:28:35,046 --> 00:28:37,090
Потому что перед нами случай,

344
00:28:37,173 --> 00:28:42,137
когда ИИ принял решение
отнять жизнь, а не человек.

345
00:28:49,686 --> 00:28:51,688
Передовое автономное оружие

346
00:28:51,771 --> 00:28:55,150
начинают использовать
в различных местах по всему миру.

347
00:28:56,276 --> 00:28:58,278
Поступали сообщения из Израиля.

348
00:29:00,280 --> 00:29:05,702
Азербайджан с помощью автономных систем
обстреливал армянские ПВО.

349
00:29:07,370 --> 00:29:09,998
Они могут летать над полем боя часами

350
00:29:10,081 --> 00:29:12,500
и искать цели, которые могут поразить,

351
00:29:12,584 --> 00:29:16,087
а затем пикировать на них
без вмешательства человека.

352
00:29:16,796 --> 00:29:18,298
И вот недавно мы увидели

353
00:29:18,381 --> 00:29:21,760
различные видео,
которые выкладывают на Украине.

354
00:29:23,303 --> 00:29:26,890
Неясно, в каком режиме
они могли функционировать.

355
00:29:26,973 --> 00:29:30,393
Был ли человек ответственным
за выбор целей для атаки,

356
00:29:30,477 --> 00:29:32,729
или же машина принимала решения сама?

357
00:29:32,812 --> 00:29:36,524
Но однозначно наступит момент,

358
00:29:36,608 --> 00:29:40,195
или же уже наступил в Ливии,
на Украине или где-то еще,

359
00:29:40,278 --> 00:29:44,449
когда машина сама решит,
кого убить на поле боя.

360
00:29:47,035 --> 00:29:50,997
Смертельная огневая мощь машин
против людей

361
00:29:51,080 --> 00:29:53,374
без вмешательства человека

362
00:29:53,458 --> 00:29:57,337
политически и морально неприемлема.

363
00:29:59,214 --> 00:30:01,299
Сможет ли международное сообщество

364
00:30:01,382 --> 00:30:05,011
справиться с этими вызовами —

365
00:30:05,094 --> 00:30:06,888
большой вопрос.

366
00:30:08,932 --> 00:30:12,685
Если смотреть в будущее,
даже всего на несколько лет вперед,

367
00:30:12,769 --> 00:30:15,730
перспективы вырисовываются
очень страшные,

368
00:30:16,564 --> 00:30:20,485
учитывая, что объем капиталовложений
и человеческих ресурсов,

369
00:30:20,568 --> 00:30:23,404
вливаемых на совершенствование ИИ,

370
00:30:23,488 --> 00:30:26,950
и использование его
в различных приложениях, огромен.

371
00:30:27,659 --> 00:30:32,163
АРЛИНГТОН
ВИРДЖИНИЯ

372
00:30:39,254 --> 00:30:41,214
Боже, вот этот тип.

373
00:30:41,756 --> 00:30:43,424
Знает же, что не победит.

374
00:30:46,761 --> 00:30:51,099
Я вдохновляюсь, когда я вижу,
как ИИ решает различные задачи.

375
00:30:51,683 --> 00:30:53,393
А теперь будем молиться.

376
00:30:54,352 --> 00:30:55,520
И можно применять

377
00:30:55,603 --> 00:30:59,524
те же тактики, методы и процедуры
к реальным летательным аппаратам.

378
00:31:01,401 --> 00:31:02,318
Хорошая игра.

379
00:31:02,402 --> 00:31:03,653
Да, хорошая.

380
00:31:08,658 --> 00:31:09,701
Меня удивляет,

381
00:31:09,784 --> 00:31:14,122
что люди продолжают говорить о том,
чего ИИ не может. Так?

382
00:31:14,205 --> 00:31:17,166
«Он никогда не победит
чемпиона мира по шахматам».

383
00:31:20,211 --> 00:31:22,672
Компьютер IBM совершил камбэк

384
00:31:22,755 --> 00:31:25,925
во второй игре с чемпионом мира
по шахматам Гарри Каспаровым.

385
00:31:28,136 --> 00:31:30,847
Каспаров просто ушел!

386
00:31:31,556 --> 00:31:34,642
Когда я вижу что-то выходящее
за рамки моего понимания,

387
00:31:34,726 --> 00:31:38,062
я боюсь. А это было
далеко за рамками моего понимания.

388
00:31:39,355 --> 00:31:41,107
Или же говорят:

389
00:31:41,190 --> 00:31:44,444
«Он никогда не сможет победить
чемпиона мира в го».

390
00:31:44,527 --> 00:31:50,700
Я считаю, что человеческая интуиция
всё еще слишком недостижима для ИИ,

391
00:31:50,783 --> 00:31:52,827
он за ней не поспеет.

392
00:31:55,288 --> 00:31:58,416
Го — одна из сложнейших игр,
которой можно научиться,

393
00:31:58,499 --> 00:32:02,211
потому что количество ходов на доске,
если посчитать,

394
00:32:02,295 --> 00:32:05,256
больше, чем количество атомов
во всей вселенной.

395
00:32:06,799 --> 00:32:08,968
Команда DeepMind в Google

396
00:32:09,052 --> 00:32:11,471
создала программу AlphaGo,

397
00:32:11,554 --> 00:32:14,265
чтобы побеждать лучших игроков в мире.

398
00:32:16,559 --> 00:32:18,394
Наши поздравления…

399
00:32:18,478 --> 00:32:19,437
AlphaGo.

400
00:32:19,520 --> 00:32:22,774
Компьютерная программа
одолела профессионала с 9 данами.

401
00:32:25,610 --> 00:32:31,532
Затем DeepMind выбрала StarCraft
в качестве следующего испытания для ИИ.

402
00:32:33,743 --> 00:32:38,081
StarCraft — самая популярная стратегия
в реальном времени всех времен.

403
00:32:40,333 --> 00:32:44,712
AlphaStar прославилась,
когда начала побеждать чемпионов мира.

404
00:32:45,338 --> 00:32:48,800
AlphaStar просто разгромила
Immortal Arc.

405
00:32:48,883 --> 00:32:49,717
Знаешь что?

406
00:32:49,801 --> 00:32:52,553
Эта не тот бой,
которые профи смогут выиграть.

407
00:32:53,680 --> 00:32:55,056
Это даже как-то нелепо.

408
00:32:57,642 --> 00:32:59,268
Прогеймеры говорили:

409
00:32:59,352 --> 00:33:02,438
«Я бы никогда не попробовал
эту тактику, стратегию.

410
00:33:03,022 --> 00:33:04,816
Это что-то нечеловеческое».

411
00:33:07,151 --> 00:33:10,655
И вот тут, наверное, меня и осенило.

412
00:33:13,574 --> 00:33:16,661
Я понял, что время пришло.

413
00:33:17,412 --> 00:33:21,082
Передо мной важная технология
и возможность что-то изменить.

414
00:33:24,460 --> 00:33:27,964
Я знал только о проблемах,
с которыми сталкивался в спецназе

415
00:33:28,047 --> 00:33:29,382
в ближнем бою,

416
00:33:30,383 --> 00:33:34,470
но один из моих друзей,
пилот F-18, сказал мне:

417
00:33:34,554 --> 00:33:37,724
«У нас та же проблема
среди пилотов истребителей.

418
00:33:37,807 --> 00:33:39,434
Они глушат нашу связь.

419
00:33:39,517 --> 00:33:44,439
Большое количество ракетных площадок
представляют опасность для полетов».

420
00:33:47,483 --> 00:33:50,987
Представьте истребитель,
которым управляет ИИ.

421
00:33:51,070 --> 00:33:52,739
Испытания AlphaDogfight.

422
00:33:52,822 --> 00:33:56,159
Мы в паре минут до первого полуфинала.

423
00:33:56,242 --> 00:33:59,871
Управление перспективных
исследовательских проектов Минобороны

424
00:33:59,954 --> 00:34:03,624
увидело AlphaGo и AlphaStar

425
00:34:04,292 --> 00:34:08,171
и воплотило идею
соревнования AlphaDogfight.

426
00:34:09,005 --> 00:34:11,466
Этого вы хотите от своих пилотов.

427
00:34:11,549 --> 00:34:13,718
Это похоже на воздушный бой
между людьми.

428
00:34:15,595 --> 00:34:19,057
Воздушный бой —
это маневренное сражение истребителей.

429
00:34:19,849 --> 00:34:22,852
Воспринимайте это
как боксерский поединок в небе.

430
00:34:23,853 --> 00:34:26,314
Может, вы видели
фильм «Лучший стрелок».

431
00:34:26,397 --> 00:34:27,815
Удерем от этих парней?

432
00:34:28,649 --> 00:34:30,068
Не от их ракеты и пушек.

433
00:34:30,151 --> 00:34:31,277
Значит, сражаемся.

434
00:34:35,531 --> 00:34:39,410
Освоение воздушного боя
может занять от восьми до десяти лет.

435
00:34:42,288 --> 00:34:46,209
Это крайне сложная задача
при создании ИИ.

436
00:34:49,629 --> 00:34:52,381
АРЛИНГТОН
ВИРДЖИНИЯ

437
00:34:54,092 --> 00:34:58,679
Прежние подходы к автономии
и воздушным боям были неустойчивыми.

438
00:34:59,222 --> 00:35:03,017
Мы поняли, что машинное обучение
поможет решить эту проблему.

439
00:35:04,477 --> 00:35:08,189
Сначала ИИ ничего не знал
о мире, в котором он будет развернут.

440
00:35:08,272 --> 00:35:11,067
Он не знал, что летит
и что такое воздушный бой.

441
00:35:11,150 --> 00:35:12,735
Не знал, что такое F-16.

442
00:35:13,236 --> 00:35:15,905
Знал лишь возможные действия,
которые можно предпринять,

443
00:35:15,988 --> 00:35:18,407
и начинал
беспорядочно исследовать эти действия.

444
00:35:19,325 --> 00:35:23,204
Синий самолет
начал обучаться совсем недавно.

445
00:35:23,287 --> 00:35:25,832
Видно, как он качается туда-сюда,

446
00:35:26,624 --> 00:35:30,545
беспорядочно летает,
как правило, подальше от противника.

447
00:35:31,587 --> 00:35:32,755
По ходу боя

448
00:35:32,839 --> 00:35:36,134
мы видим, что синий начинает
выстраивать свой план.

449
00:35:36,676 --> 00:35:38,636
Чаще оказывается
в позициях для стрельбы.

450
00:35:39,178 --> 00:35:43,891
Иногда алгоритм обучения говорил ему:
«Вот печенька. Продолжай то же самое».

451
00:35:45,143 --> 00:35:49,147
Мы можем использовать
возможности компьютера и обучать ИИ

452
00:35:49,230 --> 00:35:50,064
одновременно.

453
00:35:51,357 --> 00:35:52,775
Это как баскетбольная команда.

454
00:35:53,276 --> 00:35:55,778
Вместо того чтобы играть
против одной и той же команды,

455
00:35:55,862 --> 00:35:59,198
мы катаемся по миру
и играем с 512 разными командами

456
00:35:59,699 --> 00:36:00,950
в одно и то же время.

457
00:36:01,492 --> 00:36:03,494
Научиться можно очень хорошо и быстро.

458
00:36:04,162 --> 00:36:07,456
Мы могли
прогонять симуляцию без остановок

459
00:36:07,540 --> 00:36:11,919
и в итоге получить 30 лет обучения
живого пилота за десять месяцев.

460
00:36:12,879 --> 00:36:13,921
Мы перешли

461
00:36:14,005 --> 00:36:17,717
плохого управления самолетом
до режима хладнокровного убийцы.

462
00:36:19,010 --> 00:36:23,139
Во время обучения
мы соревновались только с другим ИИ.

463
00:36:24,473 --> 00:36:28,561
Но главной целью в итоге
было соревнование с людьми.

464
00:36:34,192 --> 00:36:35,610
Меня зовут Майк Бенитес,

465
00:36:36,110 --> 00:36:38,362
я подполковник ВВС США.

466
00:36:39,155 --> 00:36:41,157
Я на службе около 25 лет.

467
00:36:42,825 --> 00:36:44,869
У меня было 250 боевых вылетов,

468
00:36:45,578 --> 00:36:47,371
я выпускник оружейной школы,

469
00:36:48,039 --> 00:36:49,832
своего рода «Лучшего стрелка» ВВС.

470
00:36:52,627 --> 00:36:55,171
Я никогда не летал против ИИ.

471
00:36:55,254 --> 00:36:58,549
Не терпится посмотреть,
как хорошо я справлюсь.

472
00:36:59,634 --> 00:37:03,179
Наступление на высоте 6 000 метров,
нос к носу.

473
00:37:04,388 --> 00:37:05,223
Бой начался.

474
00:37:14,732 --> 00:37:16,651
Да, правда очень интересно.

475
00:37:20,780 --> 00:37:23,658
- Подбит.
- Есть. Чистая победа.

476
00:37:25,910 --> 00:37:27,453
Хорошо, второй раунд.

477
00:37:35,461 --> 00:37:40,508
Искусственный интеллект маневрирует
с такой точностью,

478
00:37:41,384 --> 00:37:43,219
что я не успеваю за ним.

479
00:37:48,474 --> 00:37:49,725
Слияние траектории.

480
00:37:50,309 --> 00:37:51,894
Вот теперь тебе конец.

481
00:37:53,145 --> 00:37:53,980
Попался!

482
00:37:54,063 --> 00:37:55,064
Всё равно достал.

483
00:37:58,567 --> 00:38:00,236
ИИ никогда не боится.

484
00:38:00,736 --> 00:38:03,781
У человека эмоциональный элемент,
которого нет у ИИ.

485
00:38:04,991 --> 00:38:08,077
Среди самых интересных стратегий,
придуманных ИИ,

486
00:38:08,160 --> 00:38:10,121
стал так называемый выстрел в лицо.

487
00:38:10,621 --> 00:38:13,916
Человек обычно стремится
стрелять сзади —

488
00:38:14,000 --> 00:38:16,502
противнику труднее избавиться
от хвоста.

489
00:38:17,003 --> 00:38:20,381
Стрельба в лицо означает полет
при огромном психологическом давлении.

490
00:38:21,424 --> 00:38:25,511
Когда мы летим друга на друга,
900 метров могут превратиться в 150

491
00:38:25,594 --> 00:38:27,096
за считанные секунды.

492
00:38:27,596 --> 00:38:31,183
Есть риск столкнуться,
поэтому люди избегают такой стрельбы.

493
00:38:32,852 --> 00:38:35,938
ИИ, если ему не сказано бояться смерти,
он не будет ее бояться.

494
00:38:37,023 --> 00:38:37,857
Боже.

495
00:38:37,940 --> 00:38:40,234
Кажется, что мой противник — человек,

496
00:38:40,776 --> 00:38:44,113
но человек с безрассудным отношением
к безопасности.

497
00:38:45,448 --> 00:38:47,325
Последний раз он не переживет.

498
00:38:57,168 --> 00:38:58,210
Не успеет.

499
00:39:01,964 --> 00:39:02,965
Спокойной ночи.

500
00:39:04,091 --> 00:39:04,925
Я сбит.

501
00:39:16,812 --> 00:39:21,275
Унизительно осознавать, что я, может,
уже не лучший кандидат на эту миссию.

502
00:39:21,359 --> 00:39:24,320
И что эта штука может
однажды заменить меня.

503
00:39:25,696 --> 00:39:26,906
Та же высота в 2 км.

504
00:39:27,615 --> 00:39:28,824
Смещение на тысячу.

505
00:39:29,450 --> 00:39:32,078
С этим ИИ-пилотом,
управляющим истребителем,

506
00:39:32,787 --> 00:39:34,789
победа неизбежна, он доминирует.

507
00:39:34,872 --> 00:39:37,291
Не просто побеждает
в большинстве случаев.

508
00:39:37,375 --> 00:39:41,545
Мы уже думаем, как установить его
на наш самолет. Настолько он мощный.

509
00:39:43,672 --> 00:39:47,802
Вполне реально ожидать,
что ИИ будет пилотировать F-16,

510
00:39:47,885 --> 00:39:49,970
и случится это скоро.

511
00:39:51,305 --> 00:39:53,349
В бою против ИИ-пилота,

512
00:39:53,432 --> 00:39:58,062
у которого коэффициент побед 99,99999%,
у вас просто нет шансов.

513
00:39:59,563 --> 00:40:02,733
Когда я думаю о том,
что один ИИ-пилот непобедим,

514
00:40:02,817 --> 00:40:09,198
я представляю, чего отряд из 50,
100 или 1000 ИИ-пилотов

515
00:40:09,281 --> 00:40:12,535
будет способен достичь.

516
00:40:13,702 --> 00:40:17,415
Рой — это отряд высокоинтеллектуальных
летательных аппаратов,

517
00:40:17,498 --> 00:40:18,791
действующих сообща.

518
00:40:19,291 --> 00:40:23,462
Они делятся информацией
о том, что делать, как решить задачу.

519
00:40:25,172 --> 00:40:30,469
Рой изменит правила игры и наделит
качественно новыми возможностями

520
00:40:30,553 --> 00:40:32,054
нашу армию и союзников.

521
00:40:34,223 --> 00:40:39,186
ЛИНКОЛЬН
НЕБРАСКА

522
00:41:42,750 --> 00:41:44,293
Цель захвачена.

523
00:41:44,793 --> 00:41:47,379
И дроны следят за ним.

524
00:42:02,019 --> 00:42:03,604
Всё, сейчас сядут.

525
00:42:07,525 --> 00:42:10,402
Сейчас наша основная цель
при исследованиях роя —

526
00:42:11,153 --> 00:42:13,697
развернуть большое количество дронов

527
00:42:13,781 --> 00:42:17,910
в труднодоступной или опасной зоне.

528
00:42:21,664 --> 00:42:26,085
Данный исследовательский проект
поддерживает Army Research Laboratory.

529
00:42:26,919 --> 00:42:28,963
Если хотите знать, что на локации,

530
00:42:29,046 --> 00:42:32,883
но на нее трудно попасть,
или ее территория слишком большая,

531
00:42:33,676 --> 00:42:35,886
то развертывание роя —
вполне естественный способ

532
00:42:35,970 --> 00:42:38,389
расширить охват людей

533
00:42:38,472 --> 00:42:41,934
и собирать информацию,
которая критически важна для миссии.

534
00:42:46,647 --> 00:42:48,983
Сейчас при развертывании нашего роя

535
00:42:49,066 --> 00:42:53,988
мы даем единственную команду —
отслеживание интересующей нас цели.

536
00:42:54,488 --> 00:42:57,283
Затем дроны вылетают
и сами выполняют задачу.

537
00:42:59,493 --> 00:43:04,039
ИИ позволяет роботам
передвигаться коллективно, как рой,

538
00:43:04,123 --> 00:43:05,791
в децентрализованной манере.

539
00:43:10,588 --> 00:43:12,506
В природе в скоплениях фауны

540
00:43:13,299 --> 00:43:18,178
нет ни босса, ни главного животного,
указывающего им, что делать.

541
00:43:20,556 --> 00:43:24,977
Поведение проявляется
в каждом отдельном животном

542
00:43:25,060 --> 00:43:27,479
согласно нескольким простым правилам.

543
00:43:27,563 --> 00:43:29,648
И из этого как бы вырастает

544
00:43:29,732 --> 00:43:32,443
коллективное поведение,
которое вы видите.

545
00:43:33,902 --> 00:43:37,031
В природе рои поражают

546
00:43:37,114 --> 00:43:39,992
грациозностью своего движения.

547
00:43:40,576 --> 00:43:44,288
Как будто они были созданы,
чтобы быть частью этой группы.

548
00:43:46,790 --> 00:43:51,128
В идеале мы хотели бы видеть,
чтобы наш рой дронов,

549
00:43:51,211 --> 00:43:53,172
как и рой в природе,

550
00:43:53,672 --> 00:43:56,717
принимал коллективные решения.

551
00:43:59,928 --> 00:44:02,765
Другим моментом,
который нас мотивирует,

552
00:44:02,848 --> 00:44:06,268
являются надежность и устойчивость.

553
00:44:07,311 --> 00:44:09,188
Рой не погибнет,

554
00:44:09,271 --> 00:44:13,567
если какое-то одно животное
вдруг не сделает того, что должно.

555
00:44:15,194 --> 00:44:18,697
Даже если один
из дронов выйдет из строя

556
00:44:18,781 --> 00:44:20,866
или не сможет выполнить задание,

557
00:44:21,909 --> 00:44:23,369
рой продолжит работу.

558
00:44:25,204 --> 00:44:27,873
Этого в итоге мы хотели бы достичь.

559
00:44:29,333 --> 00:44:33,879
Нам нужны боевые сценарии
для идентификации вражеских самолетов,

560
00:44:33,962 --> 00:44:37,841
и раньше один человек
управлял одним роботом.

561
00:44:38,592 --> 00:44:40,552
По мере повышения их автономии,

562
00:44:40,636 --> 00:44:43,555
надеюсь, мы увидим,
как большое количество роботов

563
00:44:43,639 --> 00:44:46,642
будет управляться
очень небольшим количеством людей.

564
00:44:47,810 --> 00:44:51,021
Не вижу причин,
по которым нельзя будет достичь тысячи,

565
00:44:51,855 --> 00:44:54,942
так как каждый дрон
сможет действовать по своей воле,

566
00:44:55,025 --> 00:44:56,443
и тут пределов нет.

567
00:44:57,027 --> 00:44:59,071
Мы можем масштабировать обучение…

568
00:44:59,154 --> 00:45:03,325
Мы уже давно работаем
над роями в симуляции,

569
00:45:03,409 --> 00:45:07,246
и пора перенести наши наработки
на реальные летательные аппараты.

570
00:45:07,329 --> 00:45:12,042
Мы планируем одновременно запустить
трех роботов по сети,

571
00:45:12,126 --> 00:45:15,129
а затем начать добавлять
новые и новые возможности.

572
00:45:15,879 --> 00:45:18,507
Мы хотим испытать это
на небольших системах,

573
00:45:18,590 --> 00:45:22,219
затем взять те же решения
и применить их на системах побольше,

574
00:45:22,302 --> 00:45:23,679
например, истребителях.

575
00:45:24,596 --> 00:45:26,515
Мы часто думаем о том,

576
00:45:26,598 --> 00:45:31,937
как наделить взвод
боевой мощью батальона.

577
00:45:34,982 --> 00:45:39,528
Или батальон — боевой мощью бригады.

578
00:45:39,611 --> 00:45:41,530
Это можно сделать с помощью роя.

579
00:45:42,614 --> 00:45:45,200
И раскрыв подобную мощь роя,

580
00:45:45,284 --> 00:45:48,203
вы создадите новый вид
стратегического сдерживания

581
00:45:48,287 --> 00:45:49,455
военной агрессии.

582
00:45:52,332 --> 00:45:56,420
Думаю, самое главное —
это количество молодых мужчин и женщин,

583
00:45:57,004 --> 00:46:00,591
которых мы спасем,
если сделаем всё правильно.

584
00:46:01,091 --> 00:46:03,594
Мы будем терять машины,

585
00:46:04,511 --> 00:46:05,846
а не живых людей.

586
00:46:06,638 --> 00:46:11,727
Иные утверждают, что автономное оружие
сделает войну более точной и гуманной,

587
00:46:12,853 --> 00:46:15,397
но на деле трудно предугадать,

588
00:46:15,481 --> 00:46:19,443
как именно автономное оружие
сможет изменить войну на данном этапе.

589
00:46:21,320 --> 00:46:23,238
Это как изобретение пулемета Гатлинга.

590
00:46:25,073 --> 00:46:26,700
Ричард Гатлинг был изобретателем.

591
00:46:27,201 --> 00:46:29,369
Он видел солдат, возвращающихся

592
00:46:29,453 --> 00:46:31,246
раненными с Гражданской войны,

593
00:46:32,289 --> 00:46:35,292
и хотел найти способ
сделать войну более гуманной.

594
00:46:36,627 --> 00:46:39,797
Чтобы уменьшить количество солдат,
погибших на войне,

595
00:46:40,422 --> 00:46:42,633
уменьшив их количество на поле битвы.

596
00:46:44,092 --> 00:46:45,969
И он изобрел пулемет Гатлинга,

597
00:46:46,053 --> 00:46:48,388
автоматическое оружие
на заводной ручке,

598
00:46:48,472 --> 00:46:50,516
которое автоматизировало стрельбу.

599
00:46:53,268 --> 00:46:57,981
Он в сто раз увеличил
огневую мощь солдат.

600
00:47:01,235 --> 00:47:05,239
Часто попытки сделать войну
более точной и гуманной

601
00:47:06,448 --> 00:47:08,116
могут иметь обратный эффект.

602
00:47:10,118 --> 00:47:13,455
Представьте последствия
одного ошибочного удара дрона

603
00:47:13,539 --> 00:47:17,209
в сельской местности, которое настроит
местное население против США,

604
00:47:17,292 --> 00:47:20,712
местного правительства.
Которые якобы хорошие парни.

605
00:47:22,589 --> 00:47:25,008
Теперь умножьте это на тысячу.

606
00:47:26,760 --> 00:47:31,515
Создание дешевой,
масштабируемой системы вооружения,

607
00:47:32,015 --> 00:47:34,560
не требующей управления людьми,

608
00:47:34,643 --> 00:47:37,896
кардинально меняет барьеры конфликта.

609
00:47:40,107 --> 00:47:44,820
Я не могу уснуть по ночам, когда думаю
о мире, где война повсеместна,

610
00:47:44,903 --> 00:47:48,657
и мы больше не несем человеческие
и финансовые потери от войны,

611
00:47:48,740 --> 00:47:51,410
поскольку настолько отдалились от того,

612
00:47:52,327 --> 00:47:54,037
что будем терять людей.

613
00:47:59,501 --> 00:48:01,378
Всё это не дает мне покоя.

614
00:48:02,212 --> 00:48:06,133
Мне лишь нужен был
один пример злоупотребления ИИ.

615
00:48:06,800 --> 00:48:10,888
Неожиданные последствия
этого простого мысленного эксперимента

616
00:48:10,971 --> 00:48:12,848
зашли слишком далеко.

617
00:48:13,348 --> 00:48:16,226
ИИ В СОЗДАНИИ ЛЕКАРСТВ:
НЕ ПРИЧИНИТЬ БОЛЬШЕ ВРЕДА, ЧЕМ ПОЛЬЗЫ

618
00:48:17,352 --> 00:48:18,729
После моего доклада

619
00:48:18,812 --> 00:48:22,107
о токсичных молекулах,
созданных с помощью технологии ИИ,

620
00:48:22,608 --> 00:48:24,318
у аудитории отвисла челюсть.

621
00:48:25,402 --> 00:48:27,613
ЛУЧШИЕ 5000 СОЕДИНЕНИЙ-АНАЛОГОВ VX

622
00:48:29,406 --> 00:48:33,577
Следующим решением было
публиковать ли эту информацию.

623
00:48:34,870 --> 00:48:36,914
С одной стороны,
хочется предупредить мир

624
00:48:36,997 --> 00:48:40,125
о подобного рода возможностях,
но с другой стороны,

625
00:48:40,208 --> 00:48:44,087
не хочется подавать кому-то идеи,
которых у них раньше не было.

626
00:48:46,381 --> 00:48:48,133
Мы решили публиковать,

627
00:48:48,216 --> 00:48:52,679
чтобы найти способы
смягчить злоупотребление этим типом ИИ,

628
00:48:52,763 --> 00:48:54,139
пока это не случилось.

629
00:48:54,222 --> 00:48:56,975
ДВОЙНОЕ ИСПОЛЬЗОВАНИЕ ИИ
ПРИ СОЗДАНИИ ЛЕКАРСТВ

630
00:48:57,559 --> 00:49:01,813
КАК ТЕХНОЛОГИИ ИИ ПРИ СОЗДАНИИ ЛЕКАРСТВ
МОГУТ РАЗРАБОТАТЬ БИОХИМИЧЕСКОЕ ОРУЖИЕ

631
00:49:01,897 --> 00:49:04,775
Реакция широкой публики
была шокирующей.

632
00:49:07,194 --> 00:49:10,656
Мы видим на странице,
сколько людей заходили на нее.

633
00:49:10,739 --> 00:49:14,451
На наши обычные статьи,
если повезет, заходят

634
00:49:14,534 --> 00:49:19,831
несколько тысяч человек
за год, за несколько лет.

635
00:49:19,915 --> 00:49:25,337
Эту за неделю прочитали 10 000 человек.
Затем 20 000, 30 000, 40 000,

636
00:49:25,837 --> 00:49:28,715
и дошло до 10 000 человек в день.

637
00:49:30,258 --> 00:49:33,512
Мы написали
для The Economist, Financial Times.

638
00:49:35,639 --> 00:49:39,977
К нам обратился Radiolab.
А я слышал о Radiolab!

639
00:49:41,937 --> 00:49:45,899
Но потом реакции
просто вышли из-под контроля.

640
00:49:49,778 --> 00:49:53,532
Мы читали эти твиты и думали:
«А еще хуже они не сделают»?

641
00:49:54,324 --> 00:49:55,993
Зачем они это сделали?

642
00:49:57,911 --> 00:50:01,081
ЭТИ ЗАДРОТЫ НАС ВСЕХ ПОУБИВАЮТ.

643
00:50:01,164 --> 00:50:04,501
А потом нам пришло приглашение,
которого я не ожидал.

644
00:50:08,797 --> 00:50:12,926
В Белом доме возникло
множество споров по поводу статьи,

645
00:50:13,010 --> 00:50:15,345
и они захотели
срочно с нами поговорить.

646
00:50:18,849 --> 00:50:23,020
Конечно, это невероятная честь —
пообщаться с людьми на таком уровне.

647
00:50:23,603 --> 00:50:28,316
Но потом ты понимаешь:
«Боже, это Белый дом. Главный босс».

648
00:50:29,693 --> 00:50:33,196
Речь шла о сборе данных
с открытым исходным кодом…

649
00:50:33,280 --> 00:50:37,743
Примерно за шесть часов модель
смогла сгенерировать около 40 000…

650
00:50:37,826 --> 00:50:41,038
Они спрашивали
о необходимых компьютерных мощностях.

651
00:50:41,872 --> 00:50:43,832
Мы сказали, что ничего особенного.

652
00:50:44,332 --> 00:50:48,211
Вот самый обычный шестилетний Mac.

653
00:50:49,546 --> 00:50:51,256
И это их поразило.

654
00:50:54,968 --> 00:50:59,473
Люди, отвечавшие за изучение
боевых отравляющих веществ

655
00:50:59,556 --> 00:51:04,019
и правительственные управления,
понятия не имели о таком потенциале.

656
00:51:06,605 --> 00:51:09,816
У нас была целая кулинарная книга
химического оружия,

657
00:51:10,650 --> 00:51:15,572
и в руках злоумышленников
с преступными намерениями

658
00:51:16,573 --> 00:51:18,992
всё могло кончиться ужасно.

659
00:51:21,703 --> 00:51:23,205
Людям надо сесть и послушать,

660
00:51:23,288 --> 00:51:26,458
а мы должны принять меры
и отрегулировать технологию

661
00:51:27,250 --> 00:51:30,754
или ограничить ее так,
чтобы исключить злоупотребление ей.

662
00:51:31,880 --> 00:51:35,175
Так как вероятность смертельного исхода

663
00:51:36,176 --> 00:51:37,344
просто ужасает.

664
00:51:40,680 --> 00:51:46,061
Вопрос об этике ИИ
в основном решается обществом,

665
00:51:46,561 --> 00:51:50,273
а не инженерами
или технологами, математиками.

666
00:51:52,484 --> 00:51:56,822
Каждая технология, которую мы создаем,
каждая свежая инновация

667
00:51:56,905 --> 00:52:00,617
в конечном итоге попадает
в сферу компетенции общества.

668
00:52:03,036 --> 00:52:06,498
Сейчас Министерство обороны говорит:

669
00:52:06,581 --> 00:52:09,960
«Единственный, кто решает,
убивать ли кого-то

670
00:52:10,043 --> 00:52:11,920
на поле боя, — человек».

671
00:52:12,504 --> 00:52:14,548
Машина может причинить смерть,

672
00:52:15,674 --> 00:52:18,927
но лишь по приказу человека-оператора,

673
00:52:19,511 --> 00:52:21,429
и я не думаю, что это изменится.

674
00:52:24,808 --> 00:52:28,103
Нас уверяют,
что такая технология будет безопасна.

675
00:52:29,729 --> 00:52:33,692
Но армия США не располагает
заслуживающей доверия репутацией

676
00:52:33,775 --> 00:52:35,485
касательно войне с помощью дронов.

677
00:52:36,820 --> 00:52:41,783
И поэтому, когда речь заходит
о доверии армии США с ИИ,

678
00:52:41,867 --> 00:52:44,327
ее послужной список
говорит сам за себя.

679
00:52:46,288 --> 00:52:50,125
Политика Минобороны США
по автономии в вооружениях

680
00:52:50,208 --> 00:52:52,919
не запрещает никаких систем вооружения.

681
00:52:53,003 --> 00:52:56,715
И даже если у военных
нет необходимости в таком вооружении,

682
00:52:56,798 --> 00:52:59,217
мы видели, как они делегируют

683
00:52:59,301 --> 00:53:03,680
всё больше решений машинам,
чтобы не отставать от конкурентов.

684
00:53:04,764 --> 00:53:06,975
И это может заставить военных

685
00:53:07,058 --> 00:53:09,978
автоматизировать решения,
которые они не хотят автоматизировать.

686
00:53:12,022 --> 00:53:13,440
Владимир Путин сказал:

687
00:53:13,523 --> 00:53:16,693
«Кто будет лидером в ИИ,
тот будет править миром».

688
00:53:17,736 --> 00:53:23,325
Президент Си ясно дал понять,
что ИИ — одна из главных технологий,

689
00:53:23,408 --> 00:53:25,785
в которой Китай намерен доминировать.

690
00:53:26,786 --> 00:53:29,831
Перед нами
явно технологическая конкуренция.

691
00:53:33,418 --> 00:53:35,670
Будут разговоры о защитных механизмах,

692
00:53:36,463 --> 00:53:39,424
и я считаю, что они должны иметь место.

693
00:53:40,467 --> 00:53:45,180
Но существует настоящая гонка
за превосходство в ИИ.

694
00:53:47,265 --> 00:53:51,603
И нашим противникам,
будь то Китаю, России или Ирану,

695
00:53:52,187 --> 00:53:56,566
будет совершенно всё равно,
какие у нас политики касательно ИИ.

696
00:54:00,820 --> 00:54:04,324
Вы слышите множество разговоров
о политиках в области ИИ,

697
00:54:06,117 --> 00:54:09,287
но я бы хотел, чтобы лидеры
вели разговоры о том,

698
00:54:09,371 --> 00:54:11,539
как быстро мы можем его разработать:

699
00:54:12,582 --> 00:54:15,252
«Давайте вложим кучу денег
и разработаем его».

700
00:54:16,419 --> 00:54:18,838
ВАШИНГТОН
ОКРУГ КОЛУМБИЯ

701
00:54:18,922 --> 00:54:21,299
ЕЖЕГОДНАЯ ВСТРЕЧА И ВЫСТАВКА
АССОЦИАЦИИ АРМИИ США

702
00:54:24,177 --> 00:54:26,805
АРМИЯ США

703
00:54:33,478 --> 00:54:37,774
Мы находимся на крупнейшей выставке
Ассоциации армии США в году.

704
00:54:39,609 --> 00:54:43,196
По сути, любая компания,
продающая продукт или технологию

705
00:54:43,280 --> 00:54:46,616
военным будет здесь представлена.

706
00:54:47,701 --> 00:54:50,537
На базе ВВС Тиндалл
четыре наших робота —

707
00:54:50,620 --> 00:54:53,915
они патрулируют базу
24 часа в сутки, семь дней в неделю.

708
00:54:55,709 --> 00:55:00,130
Мы можем добавить всё: от камер
до сенсоров, до всего, что вам нужно.

709
00:55:00,213 --> 00:55:01,589
Руки-манипуляторы.

710
00:55:01,673 --> 00:55:05,135
В общем, выполним любую задачу,
которую поручит заказчик.

711
00:55:06,678 --> 00:55:08,430
А если ваш враг развернет ИИ?

712
00:55:09,431 --> 00:55:12,976
Боевую систему,
которая думает быстрее вас,

713
00:55:13,059 --> 00:55:16,062
реагирует быстрее, чем человек.
Надо быть готовыми.

714
00:55:17,605 --> 00:55:21,359
Мы обучаем наши системы
собирать информацию о противнике,

715
00:55:22,027 --> 00:55:26,531
разбираться со вражескими целями
при командах на поражение от человека.

716
00:55:33,288 --> 00:55:34,956
- Привет, генерал.
- Как вы?

717
00:55:35,040 --> 00:55:36,416
Хорошо, сэр. Как вы?

718
00:55:37,667 --> 00:55:40,962
Знайте, никто не вкладывает
больше средств в ИИ-пилота.

719
00:55:41,046 --> 00:55:42,630
Наш называется Hivemind.

720
00:55:43,298 --> 00:55:45,842
Мы внедрили его
в наш квадрокоптер Nova.

721
00:55:45,925 --> 00:55:50,805
Он залетает в здания, изучает их
перед силами спецназа и пехотой.

722
00:55:50,889 --> 00:55:52,891
Мы применяем Hivemind к V-BAT,

723
00:55:52,974 --> 00:55:56,811
и я думаю о том,
чтобы собрать сотни таких отрядов,

724
00:55:56,895 --> 00:55:58,730
будь то в Тайваньском проливе

725
00:55:58,813 --> 00:56:00,106
или на Украине,

726
00:56:00,190 --> 00:56:03,360
для сдерживания наших противников.
Буду рад служить.

727
00:56:03,943 --> 00:56:06,196
- Хорошо. Спасибо.
- Спасибо, генерал.

728
00:56:07,906 --> 00:56:13,453
ИИ-пилоты следует внедрить повсеместно
и сделать это к 2025 или 2030 году.

729
00:56:14,204 --> 00:56:17,582
Его оперативно внедрят
в вооруженных силах по всему миру.

730
00:56:19,250 --> 00:56:22,962
Что насчет румынских военных?
Их операторов БПЛА.

731
00:56:23,046 --> 00:56:24,672
Высокотехнологичные ребята.

732
00:56:25,256 --> 00:56:29,803
Мы уже потратили полмиллиарда долларов
на создание ИИ-пилота.

733
00:56:29,886 --> 00:56:33,181
И потратим еще миллиард
в течение следующих пяти лет.

734
00:56:33,264 --> 00:56:37,769
Именно поэтому мы выигрываем
рекордные программы в США.

735
00:56:37,852 --> 00:56:38,853
Класс.

736
00:56:38,937 --> 00:56:42,732
Прямо впечатляет.
Вам удалось превратить это в оружие?

737
00:56:43,650 --> 00:56:45,568
Это еще не оружие.

738
00:56:45,652 --> 00:56:48,321
Пока нет. Но да, в будущем.

739
00:56:48,905 --> 00:56:52,534
Наши клиенты видят грузовик,
для нас это умный грузовик,

740
00:56:52,617 --> 00:56:54,452
способный делать много всего.

741
00:56:54,536 --> 00:56:55,703
- Спасибо.
- Да.

742
00:56:55,787 --> 00:56:57,705
Я обязательно свяжусь с вами.

743
00:57:01,668 --> 00:57:04,879
Если вы вернетесь сюда
через 10 лет, вы увидите, что…

744
00:57:06,297 --> 00:57:08,299
ИИ и автономия

745
00:57:08,383 --> 00:57:10,802
станут доминирующей идеей
на этом рынке.

746
00:57:14,889 --> 00:57:19,352
Силы, поддерживаемые ИИ и автономией,

747
00:57:19,436 --> 00:57:25,108
будут доминировать над силами без них,
сокрушать и уничтожать их.

748
00:57:26,401 --> 00:57:30,780
Это будет равнозначно лошадям,
вышедшим сражаться с танками,

749
00:57:31,781 --> 00:57:34,367
людям с мечами против пулемета.

750
00:57:34,909 --> 00:57:37,120
Они и рядом стоять не будут.

751
00:57:38,746 --> 00:57:42,750
ИИ будет повсеместным,
использоваться в любом аспекте войны,

752
00:57:43,501 --> 00:57:44,836
на тактическом уровне,

753
00:57:45,336 --> 00:57:46,671
стратегическом уровне,

754
00:57:47,172 --> 00:57:50,800
на скоростях, которые люди сегодня
и представить не могут.

755
00:57:53,094 --> 00:57:57,098
Командиры уже перегружены информацией.

756
00:57:57,599 --> 00:58:01,019
Снимками со спутников,
дронов и сенсоров.

757
00:58:02,103 --> 00:58:06,774
ИИ может помочь командиру
быстрее понять, что происходит.

758
00:58:07,650 --> 00:58:09,903
И какие решения нужно принять.

759
00:58:11,196 --> 00:58:14,866
Искусственный интеллект
учтет все факторы,

760
00:58:14,949 --> 00:58:17,702
которые определяют
способ ведения войны,

761
00:58:18,286 --> 00:58:20,246
придумает стратегию…

762
00:58:22,540 --> 00:58:25,668
…и даст рекомендации,
как выиграть битву.

763
00:58:30,256 --> 00:58:32,133
САФФОЛК
ВИРДЖИНИЯ

764
00:58:32,217 --> 00:58:34,344
ЦЕНТР ИННОВАЦИЙ LOCKHEED MARTIN

765
00:58:36,971 --> 00:58:40,266
Мы в Lockheed Martin,
как и наш заказчик, Минобороны,

766
00:58:40,350 --> 00:58:45,104
считаем ИИ ключевой технологией
для оперативного управления.

767
00:58:47,065 --> 00:58:50,151
Скорость распространения —
в среднем 60 см в секунду.

768
00:58:50,235 --> 00:58:52,612
Периметр — около 700 акров.

769
00:58:52,695 --> 00:58:55,782
Туман войны — дело
нашего оборонного подразделения,

770
00:58:57,158 --> 00:59:00,495
но эти технологии
можно также параллельно использовать,

771
00:59:00,578 --> 00:59:03,206
чтобы принимать решения
при лесных пожарах.

772
00:59:03,289 --> 00:59:06,501
Пожар в Уошберне,
к северу от города Вевона.

773
00:59:06,584 --> 00:59:09,629
Мы принимаем решения
с несовершенными данными.

774
00:59:10,630 --> 00:59:14,300
Тогда как может ИИ помочь
с этим туманом войны?

775
00:59:17,637 --> 00:59:20,014
Лесные пожары очень хаотичны.

776
00:59:20,098 --> 00:59:23,226
Это очень сложное явление, и поэтому

777
00:59:23,309 --> 00:59:26,354
мы работаем над тем,
чтобы использовать ИИ

778
00:59:26,437 --> 00:59:28,273
при принятии решений.

779
00:59:31,442 --> 00:59:33,987
Cognitive Mission Manager —
наша разработка,

780
00:59:34,070 --> 00:59:37,949
которая берет аэросъемку
в инфракрасном диапазоне.

781
00:59:38,032 --> 00:59:41,786
а затем обрабатывает ее
через наши алгоритмы ИИ,

782
00:59:41,869 --> 00:59:45,248
чтобы предсказать
будущее состояние пожара.

783
00:59:48,042 --> 00:59:52,922
В будущем Cognitive Mission Manager
будет использовать симуляции,

784
00:59:53,006 --> 00:59:57,010
запускать сценарии
на протяжении тысяч циклов,

785
00:59:57,093 --> 01:00:00,722
советовать наиболее эффективный способ
использования ресурсов

786
01:00:00,805 --> 01:00:04,058
при подавлении
высокоприоритетных зон пожара.

787
01:00:08,062 --> 01:00:12,400
Он будет рекомендовать тушить пожар
с вертолета на конкретных участках,

788
01:00:13,526 --> 01:00:15,903
отправлять наземные бригады
расчищать кусты,

789
01:00:16,946 --> 01:00:19,157
пожарных со шлангами,

790
01:00:19,657 --> 01:00:23,077
а затем стягивать их
на самые приоритетные участки.

791
01:00:26,289 --> 01:00:29,292
Эти решения будут приниматься быстрее

792
01:00:29,375 --> 01:00:31,044
и гораздо эффективнее.

793
01:00:35,840 --> 01:00:38,468
Мы считаем,
что ИИ позволяет нашим людям

794
01:00:38,551 --> 01:00:42,305
не отставать
от постоянно меняющейся среды.

795
01:00:43,389 --> 01:00:46,517
И очевидны убедительные параллели

796
01:00:46,601 --> 01:00:50,355
с тем, к чему мы привыкли
в оборонном подразделении.

797
01:00:52,231 --> 01:00:55,860
Военные уже не просто говорят
об использовании ИИ

798
01:00:55,943 --> 01:00:57,779
и отдельных систем вооружения

799
01:00:57,862 --> 01:01:00,323
при принятии решений
о наведении и уничтожении,

800
01:01:00,865 --> 01:01:02,200
а об интеграции ИИ

801
01:01:02,283 --> 01:01:05,787
во всю архитектуру
принятия решений в армии.

802
01:01:09,415 --> 01:01:12,960
Армия ведет большой проект
под названием «Конвергенция».

803
01:01:14,545 --> 01:01:16,589
У флота — «Превосходство».

804
01:01:16,673 --> 01:01:19,592
У ВВС —
«Продвинутая система управления боем».

805
01:01:21,886 --> 01:01:26,683
Министерство обороны пытается понять,
как собрать все эти элементы вместе,

806
01:01:26,766 --> 01:01:29,268
чтобы действовать быстрее противника

807
01:01:30,395 --> 01:01:32,355
и получить преимущество.

808
01:01:33,439 --> 01:01:37,527
Боевой ИИ-менеджер стал бы
своего рода генералом высокого ранга,

809
01:01:37,610 --> 01:01:39,821
отвечающим за сражение.

810
01:01:41,155 --> 01:01:44,158
Помогая отдавать приказы
большому количеству сил

811
01:01:45,118 --> 01:01:49,247
и координируя действия
всех видов используемого оружия

812
01:01:49,330 --> 01:01:51,958
со скоростью, недоступной человеку.

813
01:01:53,543 --> 01:01:55,294
Последние 70 лет

814
01:01:55,378 --> 01:01:58,798
мы строили
самую совершенную армию на планете,

815
01:01:58,881 --> 01:02:03,177
и теперь мы должны решить,
хотим ли мы уступить контроль.

816
01:02:03,261 --> 01:02:07,640
над этой инфраструктурой алгоритму,
программе.

817
01:02:10,351 --> 01:02:13,187
И последствия этого решения

818
01:02:13,271 --> 01:02:16,774
могут запустить всю мощь
наших военных арсеналов.

819
01:02:16,858 --> 01:02:19,902
Это не одна Хиросима. Их будет сотни.

820
01:02:25,616 --> 01:02:27,869
Настало время действовать,

821
01:02:27,952 --> 01:02:33,166
потому что окно для сдерживания
этого риска быстро закрывается.

822
01:02:34,625 --> 01:02:39,255
Сегодня мы начнем
с вопросов международной безопасности,

823
01:02:39,338 --> 01:02:41,132
вызванных новыми технологиями

824
01:02:41,215 --> 01:02:44,343
в области летальных
автономных систем вооружения.

825
01:02:44,427 --> 01:02:50,016
В ООН ведутся разговоры об угрозе
летального автономного оружия

826
01:02:50,600 --> 01:02:56,564
и по нашему запрету на системы,
использующие ИИ при наведении на людей.

827
01:02:56,647 --> 01:03:00,777
Консенсус среди технологов
ясен и убедителен.

828
01:03:00,860 --> 01:03:04,030
Мы против автономного оружия,
нацеленного на людей.

829
01:03:05,615 --> 01:03:08,993
Годами страны действительно помогали,
обсуждая проблему

830
01:03:09,076 --> 01:03:11,329
летальных автономных систем оружия.

831
01:03:12,288 --> 01:03:13,289
Речь здесь идет

832
01:03:13,372 --> 01:03:16,793
об общем чувстве безопасности.

833
01:03:17,794 --> 01:03:20,546
Но, конечно, это непросто.

834
01:03:21,297 --> 01:03:25,968
Некоторые страны,
особенно военные державы,

835
01:03:26,052 --> 01:03:27,762
хотят быть впереди всех,

836
01:03:28,429 --> 01:03:31,599
опередить своих противников.

837
01:03:32,600 --> 01:03:36,187
Проблема в том, что для результата
нужно согласие всех.

838
01:03:36,896 --> 01:03:39,065
Хотя бы одна страна
всегда выразит несогласие,

839
01:03:39,148 --> 01:03:42,109
и, конечно, и США,
и Россия, дали ясно понять,

840
01:03:42,193 --> 01:03:45,613
что проголосуют против запрета
на автономное вооружение.

841
01:03:47,198 --> 01:03:48,533
Если говорить о том,

842
01:03:48,616 --> 01:03:53,287
сколько людей работает
над усилением ИИ…

843
01:03:54,747 --> 01:03:56,457
Их очень много.

844
01:03:57,750 --> 01:04:02,880
Если же говорить о количестве тех,
кто хочет убедиться, что ИИ безопасен,

845
01:04:04,340 --> 01:04:07,510
то таких уже гораздо меньше.

846
01:04:11,764 --> 01:04:13,724
Но я настроена оптимистично.

847
01:04:16,060 --> 01:04:19,480
Я вижу, например,
Конвенцию о биологическом оружии

848
01:04:19,564 --> 01:04:22,358
которая была подписана
в разгар холодной войны,

849
01:04:23,025 --> 01:04:27,655
несмотря на напряженные отношения
между Советским Союзом и США.

850
01:04:29,156 --> 01:04:33,536
Они смогли понять,
что создание биологического оружия

851
01:04:33,619 --> 01:04:36,247
не отвечает ни их интересам,

852
01:04:36,330 --> 01:04:38,749
ни интересам всего остального мира.

853
01:04:41,335 --> 01:04:44,714
В гонке вооружений
скорость важнее безопасности.

854
01:04:45,715 --> 01:04:49,385
Но я думаю, что важно учитывать то,
что в какой-то момент

855
01:04:49,468 --> 01:04:52,430
цена быстрого развития
становится слишком высокой.

856
01:04:56,225 --> 01:04:59,270
Мы не можем
разрабатывать что-то изолированно

857
01:04:59,979 --> 01:05:01,439
и внедрять технологии,

858
01:05:01,522 --> 01:05:06,611
вообще не задумываясь о том,
к чему это может привести в будущем.

859
01:05:07,862 --> 01:05:10,823
Мы должны предотвратить
этот момент атомной бомбы.

860
01:05:14,577 --> 01:05:17,705
Ставки в гонке ИИ огромны.

861
01:05:18,289 --> 01:05:22,001
Не думаю, что многие ценят
глобальную стабильность,

862
01:05:22,084 --> 01:05:28,174
которая была обеспечена
наличием превосходящих вооруженных сил

863
01:05:28,257 --> 01:05:31,135
в течение последних 75 лет.

864
01:05:32,887 --> 01:05:35,681
И поэтому США и наши союзники

865
01:05:36,557 --> 01:05:38,684
должны превзойти ИИ противников.

866
01:05:43,314 --> 01:05:44,774
В войне нет второго места.

867
01:05:45,524 --> 01:05:49,111
У Китая амбициозный план стать
мировым лидером в области ИИ…

868
01:05:49,195 --> 01:05:51,656
Иные говорят, что Америка проигрывает…

869
01:05:52,740 --> 01:05:56,160
Вы ускорите внедрение
искусственного интеллекта,

870
01:05:56,243 --> 01:05:59,246
чтобы обеспечить
наше военное преимущество.

871
01:06:02,875 --> 01:06:05,461
Мы стремимся вперед с этой технологией.

872
01:06:05,544 --> 01:06:08,673
Но, думаю, неясно,
как далеко мы зайдем.

873
01:06:09,507 --> 01:06:12,760
Контролируем ли мы технологии,
или они контролируют нас?

874
01:06:14,136 --> 01:06:16,973
Здесь не будет возможности
на вторую попытку.

875
01:06:17,765 --> 01:06:20,893
Джинн, вышедший из бутылки,
уже из нее вылез.

876
01:06:22,019 --> 01:06:25,189
И будет очень трудно
засунуть его обратно.

877
01:06:28,609 --> 01:06:31,737
И если не действовать сейчас,
будет слишком поздно.

878
01:06:33,114 --> 01:06:34,657
Возможно, уже слишком поздно.

879
01:08:48,124 --> 01:08:53,254
Перевод субтитров: Ибрагим Дибиров