1
00:00:02,000 --> 00:00:07,000
Downloaded from
YTS.MX

2
00:00:08,000 --> 00:00:13,000
Official YIFY movies site:
YTS.MX

3
00:00:24,065 --> 00:00:26,818
Umělá inteligence mě fascinuje.

4
00:00:28,361 --> 00:00:31,489
Dobře, krouží a stoupají. Správná formace.

5
00:00:33,116 --> 00:00:36,703
Umělá inteligence
má potenciál nás zbavit chudoby,

6
00:00:36,786 --> 00:00:38,705
dát nám nové léky

7
00:00:39,330 --> 00:00:41,583
a přinést světu mír.

8
00:00:46,087 --> 00:00:46,921
Skvělý.

9
00:00:49,883 --> 00:00:53,428
Ale po cestě číhá spousta nebezpečí.

10
00:01:04,773 --> 00:01:09,611
S AI v podstatě vytváříme inteligenci,
která je jiná než lidská

11
00:01:09,694 --> 00:01:11,863
a vysoce nepředvídatelná.

12
00:01:14,407 --> 00:01:16,451
Je čím dál schopnější,

13
00:01:16,534 --> 00:01:20,038
proto musíme rozhodnout,
do jaké míry ji budeme používat

14
00:01:20,121 --> 00:01:22,665
a kdy je lepší se bez ní obejít.

15
00:01:25,001 --> 00:01:28,505
A nejlepším startovacím bodem
je pro toto rozhodování

16
00:01:28,588 --> 00:01:31,049
armádní využití.

17
00:01:34,010 --> 00:01:38,890
Bojiště se stalo
domovem softwaru a hardwaru.

18
00:01:41,059 --> 00:01:42,936
Cíl byl zajištěn…

19
00:01:43,019 --> 00:01:48,399
A armády se snaží vyvinout
umělou inteligenci rychleji než protivník.

20
00:01:49,526 --> 00:01:50,360
Jsem mrtvej.

21
00:01:53,780 --> 00:01:58,326
Rychle směřujeme k realitě,
kde nejen velké armády,

22
00:01:58,409 --> 00:02:02,997
ale nestátní aktéři, soukromý průmysl

23
00:02:03,081 --> 00:02:06,042
nebo naše místní policejní oddělení

24
00:02:06,543 --> 00:02:10,046
budou moct používat zbraně
schopné autonomního zabíjení.

25
00:02:12,006 --> 00:02:17,303
Přenecháme rozhodování o životě druhých
algoritmům a počítačovému softwaru?

26
00:02:18,638 --> 00:02:21,516
To je jeden
z nejpalčivějších problémů naší doby.

27
00:02:23,935 --> 00:02:26,354
Při neuváženém používání

28
00:02:26,437 --> 00:02:30,275
představují pro všechny lidi na planetě
obrovské riziko.

29
00:02:41,828 --> 00:02:44,914
NEPOZNANÉ

30
00:02:46,833 --> 00:02:50,086
ROBOTI ZABIJÁCI

31
00:03:28,291 --> 00:03:30,168
Dobrá práce, lidi.

32
00:03:59,948 --> 00:04:03,117
- To je mnohem širší objektiv než předtím.
- Opravdu?

33
00:04:03,201 --> 00:04:04,786
Vidíme toho o dost víc.

34
00:04:05,286 --> 00:04:06,287
Super.

35
00:04:07,538 --> 00:04:10,667
V Shield AI se snažíme vyrobit AI pilota

36
00:04:10,750 --> 00:04:14,879
pomocí technologie autonomního řízení
založené na umělé inteligenci

37
00:04:14,963 --> 00:04:16,631
vložené do letounu.

38
00:04:19,300 --> 00:04:21,719
Použitím pilota s umělou inteligencí

39
00:04:21,803 --> 00:04:25,139
bychom poskytli letounům větší autonomii.

40
00:04:25,223 --> 00:04:27,850
Samy by hledaly řešení problémů.

41
00:04:29,602 --> 00:04:32,355
Nova je autonomní kvadrokoptéra,

42
00:04:32,438 --> 00:04:35,942
která zkoumá budovy a podzemní stavby

43
00:04:36,859 --> 00:04:38,611
před příchodem záchranářů,

44
00:04:38,695 --> 00:04:41,322
aby jim poskytla obrázek o jejich stavu.

45
00:04:41,906 --> 00:04:45,618
Od minule jsme provedli spoustu vylepšení.

46
00:04:45,702 --> 00:04:47,870
Pracujeme na změnách průzkumu.

47
00:04:47,954 --> 00:04:50,248
Řešíme pořadí pater.

48
00:04:50,331 --> 00:04:53,584
Ideálně by měla dokončit celé patro,
než půjde dál.

49
00:04:54,294 --> 00:04:56,796
- Super.
- Nedávno jsme provedli změny…

50
00:04:56,879 --> 00:04:58,548
Lidé se mě často ptají,

51
00:04:58,631 --> 00:05:02,468
proč je umělá inteligence tak důležitá.

52
00:05:02,552 --> 00:05:06,973
Když si vzpomenu na své mise…

53
00:05:09,100 --> 00:05:11,019
Byl jsem sedm let u námořnictva.

54
00:05:11,561 --> 00:05:15,273
Jsem bývalý Navy SEAL,
absolvoval jsem dvě mise v Afghánistánu

55
00:05:15,356 --> 00:05:17,191
a jednu v Tichomoří.

56
00:05:18,026 --> 00:05:22,947
Mohli nás třeba vyslat, abychom vyčistili
150 různých areálů nebo budov.

57
00:05:30,830 --> 00:05:34,250
Jednou z klíčových dovedností
je boj v zastavěném prostoru.

58
00:05:35,293 --> 00:05:39,172
Střelba na velmi krátkou vzdálenost
uvnitř budov.

59
00:05:41,466 --> 00:05:42,967
Jste pod palbou.

60
00:05:43,468 --> 00:05:46,471
V budově mohou být schovaná
výbušná zařízení.

61
00:05:49,015 --> 00:05:55,229
Je to ta nejnebezpečnější mise,
jaká může člena speciálních jednotek

62
00:05:55,313 --> 00:05:58,358
nebo pěchoty v bojové zóně potkat.

63
00:05:58,441 --> 00:05:59,275
Bez debat.

64
00:06:12,497 --> 00:06:16,459
Až do smrti budu vděčný
za chvíle strávené u námořnictva.

65
00:06:17,168 --> 00:06:22,423
Mám na to spoustu vzpomínek,

66
00:06:22,507 --> 00:06:24,592
které mě vždycky dojmou.

67
00:06:28,346 --> 00:06:32,725
Je klišé, že svoboda není zadarmo,
ale já tomu skutečně věřím.

68
00:06:33,559 --> 00:06:37,105
Zažil jsem to. Musíte hodně obětovat.

69
00:06:38,022 --> 00:06:38,856
Pardon.

70
00:06:41,067 --> 00:06:44,570
Když se vašemu parťákovi něco stane,

71
00:06:44,654 --> 00:06:46,614
ať už se zraní nebo zemře,

72
00:06:47,490 --> 00:06:49,700
je to hrozná tragédie.

73
00:06:49,784 --> 00:06:52,912
Proto to teď všechno dělám.

74
00:06:52,995 --> 00:06:58,835
Dodává mi to motivaci
snížit počet takových misí,

75
00:06:58,918 --> 00:07:00,336
aby se to neopakovalo.

76
00:07:07,176 --> 00:07:08,886
Před rokem 2010

77
00:07:08,970 --> 00:07:11,556
došlo na ministerstvu obrany k obrození,

78
00:07:11,639 --> 00:07:15,643
které můžeme nazvat
„náhodnou robotickou revolucí“.

79
00:07:15,726 --> 00:07:19,564
V Iráku a Afghánistánu jsme nasadili
tisíce vzdušných a pozemních robotů.

80
00:07:21,482 --> 00:07:24,068
Když mě Obamova vláda požádala,

81
00:07:24,152 --> 00:07:26,821
abych se stal náměstkem ministra obrany,

82
00:07:26,904 --> 00:07:31,117
zrovna se měnil způsob vedení války.

83
00:07:32,452 --> 00:07:36,330
Místo lidí se začínali používat roboti.

84
00:07:37,707 --> 00:07:40,376
Prvotní robotické systémy
se ovládaly dálkově.

85
00:07:40,460 --> 00:07:45,173
Lidé s nimi jezdili
jako s autíčkem na dálkové ovládání.

86
00:07:46,632 --> 00:07:51,512
Nejdřív začali hledat
improvizovaná výbušná zařízení.

87
00:07:52,013 --> 00:07:54,849
A když bomba vybuchla,
vybuchl s ní i robot.

88
00:07:57,393 --> 00:08:00,396
Řeklo se: „Sakra, to je škoda.
Vyndejte dalšího.“

89
00:08:02,148 --> 00:08:04,484
V Afghánistánu používali dron Predator,

90
00:08:05,276 --> 00:08:09,739
který se stal velmi užitečným nástrojem
pro letecké útoky.

91
00:08:13,117 --> 00:08:16,829
Postupem času
začali vojenští plánovači přemýšlet,

92
00:08:16,913 --> 00:08:20,791
k čemu všemu by se dali roboti použít.

93
00:08:20,875 --> 00:08:24,170
Společným jmenovatelem
byla snaha o zavedení autonomie.

94
00:08:26,506 --> 00:08:30,635
Autonomní zbraň rozhoduje sama
jen s minimálními zásahy lidí

95
00:08:30,718 --> 00:08:33,304
nebo dokonce bez nich.

96
00:08:33,387 --> 00:08:37,558
Je zcela nezávislá a sama se ovládá.

97
00:08:38,434 --> 00:08:41,604
A pokud je vybavená zbraněmi,
může zabíjet.

98
00:08:43,314 --> 00:08:47,026
Čím víc autonomních prvků
v systému používáte,

99
00:08:47,109 --> 00:08:49,779
tím víc se veškeré procesy urychlí.

100
00:08:51,989 --> 00:08:56,869
A když operujete rychleji
než vaši protivníci,

101
00:08:57,453 --> 00:09:01,165
máte v boji neuvěřitelnou výhodu.

102
00:09:03,960 --> 00:09:06,254
Naším cílem je vyvinout autonomní

103
00:09:07,255 --> 00:09:09,966
a vysoce odolné inteligentní systémy,

104
00:09:12,051 --> 00:09:15,304
které umí monitorovat prostředí
a reagovat na něj.

105
00:09:15,805 --> 00:09:19,642
A na základě toho rozhodovat,
jak se v něm pohybovat.

106
00:09:21,602 --> 00:09:24,897
SAN DIEGO
KALIFORNIE

107
00:09:24,981 --> 00:09:29,151
Jsme na místě bývalého filmového studia,

108
00:09:29,235 --> 00:09:30,611
které jsme přeměnili

109
00:09:30,695 --> 00:09:34,156
v realistické výcvikové středisko.

110
00:09:39,495 --> 00:09:43,291
Chceme tu vyzkoušet našeho AI pilota.

111
00:09:44,625 --> 00:09:49,297
Jeho misí bude hledat hrozby
a říct nám, jestli je možné zasáhnout.

112
00:09:49,380 --> 00:09:52,800
Může rozhodnout, jak daný problém vyřešit.

113
00:09:55,428 --> 00:09:59,390
Říkáme tomu „trychtýř smrti“.
Musíte projít dveřmi.

114
00:10:01,726 --> 00:10:03,311
Tam jsme nejzranitelnější.

115
00:10:03,811 --> 00:10:05,146
Tenhle je lepší.

116
00:10:07,106 --> 00:10:10,151
Nova nám řekne,
jestli je za dveřmi střelec

117
00:10:10,818 --> 00:10:12,653
nebo rodina civilistů.

118
00:10:15,114 --> 00:10:18,451
Umožní nám se lépe rozhodovat
a snižovat tak počet obětí.

119
00:10:57,114 --> 00:10:59,367
Používáme kamerové senzory,

120
00:10:59,450 --> 00:11:03,162
abychom měli přehled, jak to tam vypadá.

121
00:11:04,830 --> 00:11:06,415
Je to vícepodlažní budova.

122
00:11:07,333 --> 00:11:08,334
Tady je mapa.

123
00:11:08,417 --> 00:11:11,671
Tohle jsem při průzkumu odhalil.

124
00:11:19,929 --> 00:11:22,098
Detektor osob. Hezký.

125
00:11:23,891 --> 00:11:27,061
Dále Nova obsahuje termální senzory.

126
00:11:27,561 --> 00:11:30,690
Jestliže to má 37 stupňů,
bude to nejspíš člověk.

127
00:11:32,358 --> 00:11:35,444
Lidé jsou až do odvolání
považováni za hrozbu.

128
00:11:38,906 --> 00:11:43,244
Cílem je dodat vojákům ucelené informace,
aby se mohli lépe rozhodovat.

129
00:11:44,704 --> 00:11:50,793
Do budoucna se chystáme vybudovat
týmy autonomních letounů.

130
00:11:53,754 --> 00:11:57,466
Autonomnímu vozu člověk nařídí:

131
00:11:57,550 --> 00:11:59,802
„Chci jet z bodu A do bodu B.“

132
00:12:02,972 --> 00:12:06,475
Našim strojům neříkáme,
ať se přesunou z místa na místo,

133
00:12:06,559 --> 00:12:08,477
ale zadáváme jim úkoly.

134
00:12:10,312 --> 00:12:13,190
Spíš jim říkáme, že potřebujeme mléko.

135
00:12:13,274 --> 00:12:17,486
A robot pak musí rozhodnout,
do jakého obchodu dojde,

136
00:12:17,570 --> 00:12:20,239
vezme tam mléko a přinese nám ho.

137
00:12:20,740 --> 00:12:22,074
A dokonce

138
00:12:22,158 --> 00:12:27,037
mu můžeme jenom vydat pokyn:
„Pravidelně doplňuj ledničku.“

139
00:12:27,538 --> 00:12:30,040
S takovou úrovní technologií tu pracujeme.

140
00:12:30,124 --> 00:12:32,168
Vymýšlíme, co je třeba a jak.

141
00:12:32,251 --> 00:12:34,253
A pokud se objeví nějaký problém

142
00:12:34,336 --> 00:12:37,381
nebo nejasnost, musíme je vyřešit.

143
00:12:40,801 --> 00:12:45,431
Když jsem se rozhodl odejít z námořnictva,
začal jsem přemýšlet,

144
00:12:45,514 --> 00:12:47,558
co budu dělat dál.

145
00:12:49,143 --> 00:12:52,021
Vyrůstal jsem v době rozmachu internetu.

146
00:12:53,189 --> 00:12:55,608
Tak mě napadlo,

147
00:12:56,108 --> 00:12:58,861
že umělá inteligence je na tom v roce 2015

148
00:12:58,944 --> 00:13:02,907
stejně jako internet v roce 1991.

149
00:13:04,033 --> 00:13:06,285
Umělá inteligence měla nakročeno

150
00:13:06,368 --> 00:13:09,747
stát se jednou
z nejmocnějších technologií na světě.

151
00:13:11,791 --> 00:13:16,212
Pracuju s ní každý den,
tak vidím, jaké děláme pokroky.

152
00:13:19,048 --> 00:13:22,051
Ale spousta lidí pořád
vidí umělou inteligenci

153
00:13:22,551 --> 00:13:25,221
jako něco z filmu.

154
00:13:26,639 --> 00:13:27,973
OPERAČNÍ PLÁN WOPR

155
00:13:28,057 --> 00:13:29,975
Zahrajeme si hru?

156
00:13:30,059 --> 00:13:35,314
A co globální termonukleární válka?

157
00:13:35,898 --> 00:13:36,816
Fajn.

158
00:13:38,275 --> 00:13:40,861
Když si lidé představí umělou inteligenci,

159
00:13:40,945 --> 00:13:44,824
vybaví si nejspíš
filmy Terminátor nebo Já, robot.

160
00:13:45,574 --> 00:13:46,700
Deaktivovat.

161
00:13:46,784 --> 00:13:48,160
Co jsem?

162
00:13:48,244 --> 00:13:49,620
Nebo Matrix.

163
00:13:51,080 --> 00:13:53,749
Podle toho, co nám sci-fi filmy ukazují,

164
00:13:53,833 --> 00:13:57,878
jak poznáte, že jsem člověk?
Třeba jsem jen umělá inteligence.

165
00:13:58,379 --> 00:14:02,174
Replikanti jsou jako každý jiný stroj.
Buď přináší výhody, nebo nebezpečí.

166
00:14:02,675 --> 00:14:06,095
Ale existuje spousta
primitivnějších umělých inteligencí,

167
00:14:06,178 --> 00:14:08,472
které nám změní život,

168
00:14:08,556 --> 00:14:11,851
ještě než se vůbec dostaneme
k uvažujícím robotům.

169
00:14:12,643 --> 00:14:15,771
Roboti jsou tady a rozhodují.

170
00:14:15,855 --> 00:14:18,816
Přišla robotická revoluce,

171
00:14:18,899 --> 00:14:22,319
jen to vypadá úplně jinak,
než si všichni představovali.

172
00:14:23,320 --> 00:14:26,740
Terminátor je infiltrační jednotka.
Částečně člověk, částečně stroj.

173
00:14:27,950 --> 00:14:31,370
Nebavíme se tu o zabijáckých robotech
ve stylu Terminátora.

174
00:14:31,871 --> 00:14:35,958
Ale o umělé inteligenci,
která může v jistých úkonech zastat lidi.

175
00:14:36,041 --> 00:14:39,879
Otázkou je,
zda jsou tyto systémy spolehlivé.

176
00:14:40,462 --> 00:14:45,426
Máme nové podrobnosti o včerejší
smrtelné nehodě samořídícího SUV od Uberu.

177
00:14:45,509 --> 00:14:48,762
Společnost vytvořila
pomocí umělé inteligence chatbota.

178
00:14:48,846 --> 00:14:51,181
Začala mít ale rasistické poznámky…

179
00:14:51,265 --> 00:14:55,394
Dvacet šest zákonodárců
bylo chybně označeno za zločince.

180
00:14:57,438 --> 00:15:02,026
Otázkou je,
zda zvládnou uchopit náš komplexní svět.

181
00:15:22,212 --> 00:15:24,006
Reálný svět je chaotický.

182
00:15:25,174 --> 00:15:27,426
O spoustě věcí nemáme ponětí

183
00:15:27,968 --> 00:15:30,971
a o to hůř
se systémy umělé inteligence programují.

184
00:15:33,098 --> 00:15:36,977
Proto jsme začali využívat
systémy strojového učení.

185
00:15:38,520 --> 00:15:41,440
Strojové učení bylo velkým pokrokem,

186
00:15:42,024 --> 00:15:45,611
protože už nemusíme počítače všechno učit.

187
00:15:47,905 --> 00:15:52,409
Dáte mu miliony informací

188
00:15:52,493 --> 00:15:54,453
a on se začne učit.

189
00:15:55,245 --> 00:15:57,289
A to se dá použít na cokoli.

190
00:16:00,250 --> 00:16:02,962
Náš projekt Robot Dog se snaží ukázat,

191
00:16:03,045 --> 00:16:09,009
že tento pes zvládne přejít
všechny možné druhy terénu.

192
00:16:10,052 --> 00:16:14,098
Lidská chůze se vyvíjela miliardy let,

193
00:16:14,932 --> 00:16:20,688
ale přizpůsobování se všemožným povrchům
vyžaduje spoustu informací.

194
00:16:21,855 --> 00:16:23,190
My se snažíme zjistit,

195
00:16:23,273 --> 00:16:27,069
jestli se roboti zvládnou přizpůsobit
stejně jako zvířata a lidé.

196
00:16:35,953 --> 00:16:37,413
Díky strojovému učení

197
00:16:37,496 --> 00:16:40,582
sbíráme v simulacích
obrovské množství dat.

198
00:16:42,668 --> 00:16:45,838
Simulace je digitálním dvojčetem reality.

199
00:16:46,588 --> 00:16:52,052
Spousta takových realit
může běžet na různých počítačích zároveň.

200
00:16:53,178 --> 00:16:56,974
V simulacích zkoušíme tisíce situací.

201
00:16:58,892 --> 00:17:02,229
Roboti se potýkají
s různě klouzavými povrchy.

202
00:17:02,312 --> 00:17:03,856
A různě měkkými.

203
00:17:04,898 --> 00:17:08,318
Zkušenosti tisíců robotů ze simulací

204
00:17:08,402 --> 00:17:13,282
nahrajeme do reálného robotického systému.

205
00:17:15,492 --> 00:17:20,039
Dnes otestujeme, jestli se dokáže
přizpůsobit novým povrchům.

206
00:17:53,322 --> 00:17:55,491
Když procházel přes pěnu,

207
00:17:55,574 --> 00:17:58,577
snažil se dupat.

208
00:17:59,369 --> 00:18:02,206
Když ale přešel na tuhle plastovou desku,

209
00:18:03,248 --> 00:18:06,460
snažil se upravit pohyb, aby neuklouznul.

210
00:18:08,670 --> 00:18:10,672
Tohle je ukázka,

211
00:18:10,756 --> 00:18:13,759
co všechno strojové učení dokáže.

212
00:18:41,161 --> 00:18:44,123
Robot Dog by mohl být velmi nápomocný

213
00:18:44,206 --> 00:18:46,166
záchranářům v případě katastrofy,

214
00:18:46,250 --> 00:18:49,670
kdy musí procházet různým terénem.

215
00:18:52,631 --> 00:18:57,427
Nebo může provádět průzkum
v náročných podmínkách.

216
00:19:15,696 --> 00:19:19,575
Ale většina technologií přináší výzvu.

217
00:19:19,658 --> 00:19:22,369
Umí totiž pomáhat, ale i škodit.

218
00:19:24,079 --> 00:19:27,875
Například jadernou technologii
můžeme použít na výrobu energie…

219
00:19:30,419 --> 00:19:33,463
ale zároveň můžeme vyvinout jaderné bomby.

220
00:19:35,090 --> 00:19:38,468
Říká se tomu problém dvojího užití.

221
00:19:39,052 --> 00:19:40,929
Dvojí užití má oheň.

222
00:19:41,722 --> 00:19:44,308
Stejně tak i lidská inteligence.

223
00:19:44,391 --> 00:19:48,645
Tím pádem má dvojí užití
i umělá inteligence.

224
00:19:49,354 --> 00:19:53,984
Na používání umělé inteligence
je třeba nahlížet v jistém kontextu.

225
00:19:54,693 --> 00:19:59,114
Je úžasné, že máme pátrací
a záchranářské roboty,

226
00:19:59,198 --> 00:20:02,284
kteří hledají osoby zavalené lavinou.

227
00:20:02,868 --> 00:20:05,871
Ale ten samý robot
může být vybaven zbraněmi.

228
00:20:15,088 --> 00:20:21,094
Když vidíte,
jak firmy vybavují roboty zbraněmi,

229
00:20:21,178 --> 00:20:22,930
hrozně vás to štve.

230
00:20:23,931 --> 00:20:28,435
Ale zároveň si uvědomíte,
že když vyvinete nové technologie,

231
00:20:28,518 --> 00:20:30,103
nevyhnete se tomu.

232
00:20:31,021 --> 00:20:34,441
Tyhle technologie mění svět.

233
00:20:36,235 --> 00:20:38,028
Jsou to zbraňové systémy,

234
00:20:38,111 --> 00:20:43,617
které mohou mít obrovský vliv
na naši bezpečnost.

235
00:20:46,161 --> 00:20:51,500
Zatím si nejsme jistí,
zda jsou stroje skutečně schopné rozlišit

236
00:20:51,583 --> 00:20:54,962
mezi civilisty a bojovníky.

237
00:21:01,635 --> 00:21:05,430
Na začátku války v Afghánistánu
jsem byl členem týmu ostřelovačů.

238
00:21:05,514 --> 00:21:08,016
Hlídali jsme hranice
před nepřátelskými bojovníky.

239
00:21:09,685 --> 00:21:12,521
Poslali malou holčičku,
aby našla, kde jsme.

240
00:21:13,939 --> 00:21:17,067
Vůbec by mě nenapadlo ji zastřelit.

241
00:21:19,695 --> 00:21:22,864
Ale dle válečného práva
bych to mohl udělat.

242
00:21:24,950 --> 00:21:27,369
Nestanoví, kolik musí být nepřátelům let.

243
00:21:29,079 --> 00:21:33,417
Kdybyste naprogramovali robota,
aby se řídil válečným právem,

244
00:21:33,500 --> 00:21:35,252
tu holčičku by zastřelil.

245
00:21:36,420 --> 00:21:41,091
Jak robot pozná rozdíl mezi tím,
co je legální a co je správné?

246
00:21:43,385 --> 00:21:46,054
Touží po válce autonomních dronů,

247
00:21:46,138 --> 00:21:49,933
protože chtějí zamezit
utrpení amerických vojáků

248
00:21:50,017 --> 00:21:51,601
a amerických občanů.

249
00:21:52,602 --> 00:21:57,149
Ale o to větší škody
páchají na Afgháncích,

250
00:21:57,232 --> 00:21:58,775
Iráčanech a Somálcích.

251
00:22:09,619 --> 00:22:14,416
Chtěl bych se zeptat zastánců
používání dronů s umělou inteligencí,

252
00:22:15,375 --> 00:22:18,211
co by dělali,
kdyby dron letěl k jejich vesnici.

253
00:22:23,550 --> 00:22:25,594
AI je dvojsečná zbraň.

254
00:22:26,595 --> 00:22:30,724
Dá se používat ke konání dobra,
což většinou děláme,

255
00:22:31,558 --> 00:22:33,477
ale stačí jen jeden pokyn

256
00:22:34,561 --> 00:22:38,023
a daná technologie může zabíjet.

257
00:22:38,148 --> 00:22:40,233
RALEIGH
SEVERNÍ KAROLÍNA

258
00:22:47,032 --> 00:22:48,533
Jsem klinický farmaceut.

259
00:22:49,618 --> 00:22:50,994
Se svým týmem

260
00:22:51,078 --> 00:22:54,247
vyvíjím pomocí umělé inteligence léky

261
00:22:54,331 --> 00:22:57,751
na léčení nemocí,
kterým se nedostává velké pozornosti.

262
00:22:59,711 --> 00:23:04,132
Dřív jsme vyvíjeli léky
upravením již existující molekuly,

263
00:23:04,216 --> 00:23:06,885
aby vzniklo nové léčivo.

264
00:23:08,261 --> 00:23:13,350
Nyní jsme ale vyvinuli AI,
která nám poskytuje miliony nápadů

265
00:23:13,892 --> 00:23:15,227
a miliony molekul.

266
00:23:16,186 --> 00:23:19,231
To nám otvírá nové možnosti

267
00:23:19,314 --> 00:23:22,567
k léčbě nemocí,
které jsme doteď léčit nemohli.

268
00:23:25,153 --> 00:23:28,448
Ale má to i stinnou stránku,

269
00:23:28,532 --> 00:23:29,741
kterou jsem nečekal.

270
00:23:33,161 --> 00:23:35,872
Celé to začalo, když mi přišlo pozvání

271
00:23:35,956 --> 00:23:40,043
od švýcarské organizace Spiez Laboratory,

272
00:23:40,544 --> 00:23:44,423
abych vedl přednášku
na téma „Zneužívání umělé inteligence“.

273
00:23:48,343 --> 00:23:51,221
Sean mi poslal e-mail s pár nápady,

274
00:23:51,304 --> 00:23:55,308
jak bychom mohli zneužít
naši vlastní umělou inteligenci.

275
00:23:56,059 --> 00:24:00,355
Místo aby nám vytvářela molekuly,

276
00:24:00,439 --> 00:24:02,274
pomocí kterých léčíme nemoci,

277
00:24:02,774 --> 00:24:06,403
ji můžeme nechat vyrobit
co nejjedovatější molekulu.

278
00:24:10,198 --> 00:24:11,491
Chtěl jsem vyzkoušet,

279
00:24:11,575 --> 00:24:15,370
jestli se dá umělá inteligence
využít k výrobě smrtících molekul.

280
00:24:17,414 --> 00:24:20,083
Popravdě jsme mysleli, že se to nepovede.

281
00:24:20,167 --> 00:24:24,504
V podstatě jsme
totiž jen nahradili nulu za jedničku.

282
00:24:26,715 --> 00:24:30,385
Touto změnou se program
přestal snažit zamezit jedům

283
00:24:30,469 --> 00:24:32,220
a začal je vyhledávat.

284
00:24:32,721 --> 00:24:33,555
A to stačilo.

285
00:24:37,517 --> 00:24:40,729
Zatímco jsem byl doma, počítač pracoval.

286
00:24:41,521 --> 00:24:44,816
Generoval tisíce molekul.

287
00:24:45,650 --> 00:24:49,529
My jsme nemuseli dělat nic.
Stačilo zmáčknout „start“.

288
00:24:54,493 --> 00:24:58,330
Druhý den ráno
jsem v počítači našel soubor.

289
00:24:59,080 --> 00:25:03,376
Bylo v něm asi 40 000 molekul.

290
00:25:03,460 --> 00:25:08,882
Jednalo se o potenciálně
nejtoxičtější molekuly na světě.

291
00:25:10,217 --> 00:25:12,761
Až mi z toho stály vlasy hrůzou.

292
00:25:13,386 --> 00:25:14,554
Byl jsem v šoku.

293
00:25:15,388 --> 00:25:19,017
Počítač vymyslel desítky tisíc nápadů

294
00:25:19,100 --> 00:25:20,685
na nové chemické zbraně.

295
00:25:21,645 --> 00:25:27,609
Najdeme tu molekuly
připomínající látku VX.

296
00:25:28,360 --> 00:25:31,780
VX je jedna z nejsilnějších
chemických zbraní na světě.

297
00:25:31,863 --> 00:25:33,573
Policisté tvrdí,

298
00:25:33,657 --> 00:25:37,786
že ženy, které na letišti
spáchaly atentát na Kim Čong-nama,

299
00:25:37,869 --> 00:25:41,248
použily smrtící neurotoxickou látku VX.

300
00:25:41,748 --> 00:25:44,417
Způsobuje udušení oběti.

301
00:25:45,043 --> 00:25:47,629
Je to velmi silný jed.

302
00:25:47,712 --> 00:25:52,092
A většina ostatních molekul
by měla být ještě silnější.

303
00:25:53,301 --> 00:25:56,972
O spoustě z nich jsme ani nevěděli.

304
00:25:57,472 --> 00:26:02,310
Když nám to se Seanem došlo,
vyčítali jsme si, co jsme to provedli.

305
00:26:04,771 --> 00:26:09,192
Uvědomil jsem si,
že jsme otevřeli Pandořinu skříňku.

306
00:26:09,901 --> 00:26:13,280
Rozkázal jsem,
že s tím musíme okamžitě přestat.

307
00:26:13,905 --> 00:26:17,158
Potřeboval jsem
jen informace do prezentace.

308
00:26:19,202 --> 00:26:23,665
Během toho experimentu jsem přemýšlel,
co nejhoršího se může stát.

309
00:26:26,251 --> 00:26:30,255
Ale teď si říkám,
jak moc jsme byli naivní.

310
00:26:33,466 --> 00:26:36,761
Nejvíc mě děsí,
že to samé může udělat kdokoli.

311
00:26:38,930 --> 00:26:40,765
Stačí jen přepnout program.

312
00:26:42,934 --> 00:26:46,187
Jak můžeme tuto technologii ovládnout,

313
00:26:46,271 --> 00:26:50,942
než ji někdo použije k zabíjení lidí?

314
00:26:55,780 --> 00:27:00,285
Naše diskuze o umělé inteligenci

315
00:27:00,368 --> 00:27:03,538
a jejím použití ve společnosti

316
00:27:04,289 --> 00:27:08,835
se točí kolem moci,
kterou nám nové technologie přináší,

317
00:27:08,918 --> 00:27:11,379
a znalostí, které nám je pomáhají ovládat.

318
00:27:13,340 --> 00:27:16,926
Vyvstávají morální a etické otázky,

319
00:27:17,010 --> 00:27:20,138
zda nástroji, jako je chytrý telefon,

320
00:27:20,221 --> 00:27:23,433
můžeme svěřit rozhodnutí zabíjet.

321
00:27:25,727 --> 00:27:31,191
Pracuji s institutem Future Of Life,
což je komunita vědeckých aktivistů.

322
00:27:31,733 --> 00:27:33,443
Celkově se snažíme ukázat,

323
00:27:33,526 --> 00:27:38,698
že existuje odvrácená strana
urychlování automatizace.

324
00:27:38,782 --> 00:27:42,619
Snažíme se, aby byly technologie

325
00:27:42,702 --> 00:27:45,038
používány bezpečně a eticky.

326
00:27:46,247 --> 00:27:49,959
Musíme řešit, jaká pravidla
budou pro technologie platit

327
00:27:50,043 --> 00:27:54,005
a za jakých okolností můžeme
používat zbraně s umělou inteligencí.

328
00:27:54,798 --> 00:27:59,135
Už teď totiž začínáme
v boji používat technologie,

329
00:27:59,219 --> 00:28:01,680
které dokážou autonomně zabíjet.

330
00:28:10,230 --> 00:28:15,110
V roce 2021 vydalo OSN zprávu
o možném použití

331
00:28:15,193 --> 00:28:19,364
smrtící autonomní zbraně
při bojích v Libyi.

332
00:28:20,073 --> 00:28:23,910
Komise OSN tvrdí, že byl loni
v libyjské občanské válce použit dron

333
00:28:23,993 --> 00:28:27,330
naprogramovaný tak,
aby autonomně útočil na cíle.

334
00:28:28,289 --> 00:28:31,209
Pokud jsou zprávy OSN přesné,

335
00:28:31,292 --> 00:28:34,963
bude to pro lidstvo zlomový okamžik.

336
00:28:35,046 --> 00:28:37,090
Je to první případ,

337
00:28:37,173 --> 00:28:42,137
kdy se místo člověka
rozhodla zabíjet umělá inteligence.

338
00:28:49,686 --> 00:28:51,688
Vyspělé autonomní zbraně

339
00:28:51,771 --> 00:28:55,150
se začínají používat po celém světě.

340
00:28:56,276 --> 00:28:58,278
Objevily se zprávy z Izraele.

341
00:29:00,280 --> 00:29:05,702
Ázerbájdžán použil autonomní systémy
k útoku na arménskou protivzdušnou obranu.

342
00:29:07,370 --> 00:29:09,998
Může létat po bojišti celé hodiny

343
00:29:10,081 --> 00:29:12,500
a hledat, co by mohl zasáhnout.

344
00:29:12,584 --> 00:29:16,087
A pak útok provést bez lidského přičinění.

345
00:29:16,796 --> 00:29:21,760
V nedávné době jsme viděli videa
z použití těchto zbraní na Ukrajině.

346
00:29:23,303 --> 00:29:26,890
Nevíme jistě, jak byly drony používány.

347
00:29:26,973 --> 00:29:30,393
Řídil je člověk,
který vybíral, na koho zaútočit,

348
00:29:30,477 --> 00:29:32,729
nebo to stroj dělal sám?

349
00:29:32,812 --> 00:29:36,524
Ale jednou jistě přijde chvíle,

350
00:29:36,608 --> 00:29:40,195
bez ohledu na situace
v Libyi či na Ukrajině,

351
00:29:40,278 --> 00:29:44,449
kdy se sám rozhodne,
koho na bojišti zabije.

352
00:29:47,035 --> 00:29:50,997
Aby stroje zabíjely

353
00:29:51,080 --> 00:29:53,374
bez lidského přičinění

354
00:29:53,458 --> 00:29:57,337
je politicky nepřijatelné
a neslučitelné s morálními zásadami.

355
00:29:59,214 --> 00:30:01,299
A je otázkou,

356
00:30:01,382 --> 00:30:06,888
zda mezinárodní společenství
dokáže tyto výzvy zdárně řešit.

357
00:30:08,932 --> 00:30:12,685
Představa,
jak bude svět vypadat za pár let,

358
00:30:12,769 --> 00:30:15,730
je dost děsivá.

359
00:30:16,564 --> 00:30:20,485
Vzhledem k tomu, jaké množství kapitálu
a lidských zdrojů věnujeme

360
00:30:20,568 --> 00:30:23,404
na vylepšování schopností
umělé inteligence.

361
00:30:23,488 --> 00:30:26,950
Má totiž nezměrně využití.

362
00:30:27,659 --> 00:30:32,163
ARLINGTON
VIRGINIE

363
00:30:39,254 --> 00:30:41,214
Bože, dělá si srandu?

364
00:30:41,756 --> 00:30:43,424
Ví, že nemůže vyhrát.

365
00:30:46,761 --> 00:30:51,099
Je to inspirativní, když vidím
umělou inteligenci řešit problémy.

366
00:30:51,683 --> 00:30:53,977
Zoufalá doba žádá zoufalé činy.

367
00:30:54,477 --> 00:30:59,524
Stejnou taktiku a techniku
můžete použít i na normální letouny.

368
00:31:01,401 --> 00:31:02,318
Dobrá hra.

369
00:31:02,402 --> 00:31:03,653
Bylo to fajn.

370
00:31:08,658 --> 00:31:09,909
Překvapuje mě,

371
00:31:09,993 --> 00:31:14,122
jak lidé stále věří,
že umělá inteligence něco nezvládne.

372
00:31:14,205 --> 00:31:17,166
„Nikdy by neporazila šachového velmistra.“

373
00:31:20,086 --> 00:31:22,088
Počítač IBM se vrátil zpět do hry

374
00:31:22,171 --> 00:31:25,925
v druhém klání proti světovému šampionu
Garrymu Kasparovi.

375
00:31:28,136 --> 00:31:30,847
Kasparov se vzdává!

376
00:31:31,598 --> 00:31:34,642
Když vidím něco, co je nad moje chápání,

377
00:31:34,726 --> 00:31:38,062
mám strach. A tohle bylo nad moje chápání.

378
00:31:39,355 --> 00:31:41,107
A taky říkají,

379
00:31:41,190 --> 00:31:44,402
že nikdy neporazí světového šampiona
ve hře Go.

380
00:31:44,485 --> 00:31:50,700
Věřím, že lidská intuice
je na umělou inteligenci příliš pokročilá

381
00:31:50,783 --> 00:31:52,827
a nikdy ji nedožene.

382
00:31:55,330 --> 00:31:58,416
Go je jedna
z nejkomplikovanějších her na světě.

383
00:31:58,499 --> 00:32:02,211
Počet možných tahů na desce

384
00:32:02,295 --> 00:32:05,256
přesahuje množství atomů v celém vesmíru.

385
00:32:05,340 --> 00:32:06,716
VÝZVA

386
00:32:06,799 --> 00:32:08,968
Google měl tým DeepMind,

387
00:32:09,052 --> 00:32:11,471
který vytvořil program AlphaGo,

388
00:32:11,554 --> 00:32:14,265
aby porazil nejlepší hráče světa.

389
00:32:16,559 --> 00:32:18,144
Gratuluji…

390
00:32:18,227 --> 00:32:19,437
- AlphaGo.
- AlphaGo.

391
00:32:19,520 --> 00:32:22,815
Počítačový program
právě porazil držitele devátého danu.

392
00:32:25,610 --> 00:32:31,532
A jako další výzvu si DeepMind
vybrali StarCraft.

393
00:32:33,743 --> 00:32:38,081
StarCraft je asi nejpopulárnější
realtimeová strategie.

394
00:32:40,333 --> 00:32:44,712
AlphaStar se proslavil,
když začal porážet mistry světa.

395
00:32:45,338 --> 00:32:48,800
AlphaStar dává Immortal Arc co proto.

396
00:32:48,883 --> 00:32:49,717
Vidíte to?

397
00:32:49,801 --> 00:32:52,553
Profíci nemají šanci.

398
00:32:53,680 --> 00:32:54,806
Je to směšné.

399
00:32:57,642 --> 00:33:00,895
Profesionální hráči tvrdili,
že by tuhle taktiku

400
00:33:00,979 --> 00:33:04,816
ani tuhle strategii nikdy nezkoušeli.
Prý to není lidské.

401
00:33:07,151 --> 00:33:10,655
A v tu chvíli mi to došlo.

402
00:33:13,574 --> 00:33:16,661
Uvědomil jsem si, že nastal čas.

403
00:33:17,412 --> 00:33:21,082
Máme tu důležité technologie,
které můžou zlepšit svět.

404
00:33:24,502 --> 00:33:29,382
Znal jsem jen problémy
boje v zastavěném prostoru,

405
00:33:30,383 --> 00:33:34,470
ale jeden z mých kamarádů
dělá pilota F-18 a řekl mi,

406
00:33:34,554 --> 00:33:37,724
že piloti stíhaček řeší ty samé problémy.

407
00:33:37,807 --> 00:33:39,434
„Blokují komunikaci.

408
00:33:39,517 --> 00:33:42,562
Využívají víc a víc raket země-vzduch,

409
00:33:42,645 --> 00:33:44,439
až je nebezpečné létat.“

410
00:33:47,483 --> 00:33:50,987
Představte si,
že bychom měli stíhačku ovládanou AI.

411
00:33:51,070 --> 00:33:56,159
Vítejte na náboru AlphaDogfight.
Do prvního semifinále zbývá pár minut.

412
00:33:56,242 --> 00:34:00,830
DARPA, Agentura ministerstva obrany
pro pokročilé výzkumné projekty,

413
00:34:00,913 --> 00:34:03,624
viděla AlphaGo a AlphaStar

414
00:34:04,292 --> 00:34:08,171
a napadlo je uspořádat
soutěž AlphaDogfight.

415
00:34:09,005 --> 00:34:11,466
Takhle vypadá počínání lidských pilotů.

416
00:34:11,549 --> 00:34:13,426
Vypadá to jako souboj lidí.

417
00:34:15,595 --> 00:34:19,057
Dogfighting je manévrový vzdušný souboj.

418
00:34:19,849 --> 00:34:22,852
Představte si to jako box v oblacích.

419
00:34:23,853 --> 00:34:26,314
Asi znáte film Top Gun.

420
00:34:26,397 --> 00:34:27,815
Uletíme jim?

421
00:34:28,441 --> 00:34:31,277
- Jejich raketám a zbraním ne.
- Tak bude souboj.

422
00:34:35,531 --> 00:34:39,410
Naučit se manévrový souboj
trvá osm až deset let.

423
00:34:42,288 --> 00:34:46,209
A přizpůsobit na něj umělou inteligenci
je velmi komplexní výzvou.

424
00:34:49,629 --> 00:34:52,381
ARLINGTON
VIRGINIE

425
00:34:54,092 --> 00:34:58,679
Předešlé pokusy
o autonomní souboje nefungovaly.

426
00:34:59,222 --> 00:35:03,017
Nejlepším řešením
bylo použít strojové učení.

427
00:35:04,477 --> 00:35:08,189
Zpočátku nevěděla umělá inteligence
o světě stíhaček nic.

428
00:35:08,272 --> 00:35:12,735
Neuměla létat ani manévrovat.
Nevěděla, co je stíhačka F-16.

429
00:35:13,236 --> 00:35:15,905
Znala jen dostupné možnosti počínání

430
00:35:15,988 --> 00:35:18,407
a začala je náhodně zkoumat.

431
00:35:19,325 --> 00:35:23,204
Modré letadlo trénuje jen krátkou dobu.

432
00:35:23,287 --> 00:35:25,832
Je vidět, jak se kolébá.

433
00:35:26,624 --> 00:35:30,545
Létá velmi chaoticky,
obvykle pryč od protivníka.

434
00:35:31,587 --> 00:35:36,134
Ale postupně je vidět,
jak vymýšlí strategii.

435
00:35:36,676 --> 00:35:38,469
Připravuje se střílet.

436
00:35:39,178 --> 00:35:41,305
Čas od času řekl učící algoritmus:

437
00:35:41,389 --> 00:35:43,891
„To bylo dobré. Zopakuj to.“

438
00:35:45,143 --> 00:35:49,147
Můžeme využít možnosti počítačů
a trénovat agenty pořád dokola

439
00:35:49,230 --> 00:35:50,064
a souběžně.

440
00:35:51,357 --> 00:35:53,192
Je to jako basketbal.

441
00:35:53,276 --> 00:35:55,778
Nemusíte hrát s jedním týmem pořád dokola,

442
00:35:55,862 --> 00:36:00,616
ale cestujete po světě
a hrajete s 512 různými týmy najednou.

443
00:36:01,492 --> 00:36:03,452
Velmi rychle se můžete zlepšovat.

444
00:36:04,162 --> 00:36:07,456
Simulace běžela nonstop

445
00:36:07,540 --> 00:36:11,919
a za 10 měsíců jsme zvládli dokončit
trénink pilotů, který by trval 30 let.

446
00:36:12,879 --> 00:36:17,717
Na začátku AI sotva dokázala létat
a teď je z ní chladnokrevný zabiják.

447
00:36:19,010 --> 00:36:23,514
Během výcviku jsme soupeřili
jen proti jiné umělé inteligenci.

448
00:36:24,473 --> 00:36:28,561
Ale naším hlavním cílem
je postavit se lidem.

449
00:36:34,192 --> 00:36:35,610
Jmenuju se Mike Benitez,

450
00:36:36,110 --> 00:36:38,654
jsem podplukovník letectva Spojených států

451
00:36:39,155 --> 00:36:41,157
v aktivní službě už asi 25 let.

452
00:36:42,825 --> 00:36:44,869
Absolvoval jsem 250 bojových misí

453
00:36:45,578 --> 00:36:49,832
a také zbrojní školu,
což je Air Force verze Top Gunu.

454
00:36:52,627 --> 00:36:55,171
Proti umělé inteligenci
jsem nikdy neletěl.

455
00:36:55,254 --> 00:36:58,549
Jsem zvědavý, jak mi to půjde.

456
00:36:59,634 --> 00:37:03,054
Čeká nás čelní útok
na vzdálenost 1 800 metrů.

457
00:37:04,388 --> 00:37:05,223
Jdeme na to.

458
00:37:13,314 --> 00:37:14,148
Půjde k zemi.

459
00:37:14,732 --> 00:37:16,651
To je zajímavé.

460
00:37:20,780 --> 00:37:23,658
- Je po něm.
- Máme ho. Bezchybné vítězství.

461
00:37:25,910 --> 00:37:27,453
Tak jo, druhé kolo.

462
00:37:35,461 --> 00:37:40,508
Umělá inteligence manévruje
s neskutečnou přesností.

463
00:37:41,384 --> 00:37:43,219
Vůbec jí nestačím.

464
00:37:48,474 --> 00:37:49,725
Přímo před něj.

465
00:37:50,309 --> 00:37:51,894
Máš to spočítaný.

466
00:37:53,145 --> 00:37:53,980
Mám ho!

467
00:37:54,063 --> 00:37:55,022
Ale dostal mě.

468
00:37:58,567 --> 00:38:00,236
Umělá inteligence se nebojí.

469
00:38:00,736 --> 00:38:03,781
Lidé mají na rozdíl od AI emoce.

470
00:38:04,991 --> 00:38:08,077
Jednou z nejzajímavějších strategií
umělé inteligence

471
00:38:08,160 --> 00:38:10,121
byla střelba čelem.

472
00:38:10,621 --> 00:38:14,000
Lidé obvykle střílí zezadu,

473
00:38:14,083 --> 00:38:16,377
protože je těžší se vyhnout zásahu.

474
00:38:17,044 --> 00:38:20,423
Nechtějí střílet čelem,
protože zkouší, kdo to vzdá první.

475
00:38:21,424 --> 00:38:27,096
Z 900 metrů se můžete přiblížit
na 150 mrknutím oka.

476
00:38:27,596 --> 00:38:31,183
Hrozí riziko kolize,
proto to lidé nezkouší.

477
00:38:32,893 --> 00:38:35,938
AI se nebojí smrti,
pokud jí to nepřikážete.

478
00:38:37,857 --> 00:38:40,234
Jako bych bojoval s člověkem,

479
00:38:40,776 --> 00:38:44,113
který nemá pud sebezáchovy.

480
00:38:45,489 --> 00:38:47,325
Tohle poslední nepřežije.

481
00:38:57,168 --> 00:38:58,461
Nestihne to.

482
00:39:01,964 --> 00:39:02,965
Dobrou noc.

483
00:39:04,091 --> 00:39:04,925
Je po mně.

484
00:39:16,812 --> 00:39:20,900
Dost vám to srazí hřebínek,
když zjistíte, že to něco zvládne líp

485
00:39:21,484 --> 00:39:24,320
a že mě AI možná jednou nahradí.

486
00:39:25,696 --> 00:39:26,906
Stejné podmínky.

487
00:39:27,615 --> 00:39:28,824
Vyrovnat na tisíc.

488
00:39:29,450 --> 00:39:32,078
Tenhle AI stíhací pilot

489
00:39:32,828 --> 00:39:34,830
neúnavně vyhrává na plné čáře.

490
00:39:34,914 --> 00:39:37,249
Není jen o trochu lepší.

491
00:39:37,333 --> 00:39:41,545
Tak teď musíme vymyslet,
jak ten systém dostat do letadla.

492
00:39:43,589 --> 00:39:47,802
Představa, že umělá inteligence
bude létat s F-16, je velmi realistická.

493
00:39:47,885 --> 00:39:49,970
A nebude to za dlouho.

494
00:39:51,305 --> 00:39:56,769
Když se postavíte AI pilotovi,
jeho šance na vítězství je 99,99999 %.

495
00:39:56,852 --> 00:39:58,646
Nemáte proti němu šanci.

496
00:39:59,605 --> 00:40:02,733
A když máte
jednoho neporazitelného AI pilota,

497
00:40:02,817 --> 00:40:06,695
představte si, co by dokázaly týmy
s 50, 100

498
00:40:07,279 --> 00:40:12,535
nebo dokonce 1000 AI piloty.

499
00:40:13,702 --> 00:40:17,415
Swarming je roj letounů
vybavených umělou inteligencí,

500
00:40:17,498 --> 00:40:18,791
které spolupracují.

501
00:40:19,291 --> 00:40:23,462
Sdílí si informace o tom,
jak postupovat a řešit problémy.

502
00:40:25,172 --> 00:40:30,469
Swarming bude pro naši armádu a spojence

503
00:40:30,553 --> 00:40:32,638
představovat obrovskou výhodu.

504
00:41:42,750 --> 00:41:47,379
Cíl nalezen a drony ho sledují.

505
00:42:02,019 --> 00:42:03,604
Přistáváme.

506
00:42:07,566 --> 00:42:10,402
Primárním cílem výzkumu swarmingu

507
00:42:11,153 --> 00:42:13,697
je vypustit
velké množství dronů v oblasti,

508
00:42:13,781 --> 00:42:17,910
která je těžko přístupná nebo nebezpečná.

509
00:42:21,705 --> 00:42:26,085
Tento konkrétní projekt podporuje
Armádní výzkumná laboratoř.

510
00:42:26,919 --> 00:42:28,963
Pokud chcete zjistit,

511
00:42:29,046 --> 00:42:32,883
co se nachází na těžko přístupném místě
nebo v rozlehlé oblasti,

512
00:42:33,676 --> 00:42:35,886
je vypuštění dronů ideálním řešením,

513
00:42:35,970 --> 00:42:38,389
jak vylepšit šance jednotlivců

514
00:42:38,472 --> 00:42:41,934
na získávání klíčových informací.

515
00:42:46,689 --> 00:42:48,983
Vypustili jsme roj dronů

516
00:42:49,066 --> 00:42:53,904
a teď jsme jim dali příkaz,
ať najdou a sledují cíl.

517
00:42:54,488 --> 00:42:57,283
A drony se o to samy postarají.

518
00:42:59,493 --> 00:43:04,081
Umělá inteligence
umožňuje robotům pohyb v roji

519
00:43:04,164 --> 00:43:05,791
decentralizovaným způsobem.

520
00:43:10,671 --> 00:43:12,506
V roji zvířat

521
00:43:13,299 --> 00:43:18,178
není žádný vedoucí,
který jim říká, co mají dělat.

522
00:43:20,556 --> 00:43:27,104
Toto chování je založené na jedincích,
kteří se řídí několika snadnými pravidly.

523
00:43:27,688 --> 00:43:32,443
A z toho pak vzniká kolektivní jednání,
které vidíme.

524
00:43:33,944 --> 00:43:37,031
Na rojích v přírodě mě fascinuje,

525
00:43:37,114 --> 00:43:39,992
jak ladně se dokážou pohybovat.

526
00:43:40,576 --> 00:43:44,288
Jako by byli zrození k tomu,
aby byli součástí roje.

527
00:43:46,790 --> 00:43:51,128
V ideálním případě bychom chtěli,

528
00:43:51,211 --> 00:43:53,172
aby drony stejně jako zvířata

529
00:43:53,672 --> 00:43:56,717
rozhodovaly kolektivně ve skupině.

530
00:43:59,928 --> 00:44:02,765
Naším dalším zdrojem inspirace

531
00:44:02,848 --> 00:44:06,268
je jejich spolehlivost a odolnost.

532
00:44:07,311 --> 00:44:09,188
Roj nijak neohrozí,

533
00:44:09,271 --> 00:44:13,567
když jedno zvíře neudělá, co má.

534
00:44:15,194 --> 00:44:18,697
I když jeden z agentů vypadne, selže

535
00:44:18,781 --> 00:44:20,866
nebo nebude schopen splnit úkol,

536
00:44:21,909 --> 00:44:23,369
roj bude pokračovat dál.

537
00:44:25,204 --> 00:44:27,873
A přesně o to nám jde.

538
00:44:29,333 --> 00:44:33,879
V bojových simulacích jsme po robotech
chtěli, aby našli nepřátelské letouny.

539
00:44:33,962 --> 00:44:37,841
A každého robota ovládal jeden člověk.

540
00:44:38,592 --> 00:44:40,552
Se zlepšováním autonomie

541
00:44:40,636 --> 00:44:43,555
by se nám mohlo podařit dosáhnout situace,

542
00:44:43,639 --> 00:44:46,558
kdy několik lidí
ovládá velké množství robotů.

543
00:44:47,851 --> 00:44:50,854
Klidně by mohli časem
ovládat tisíc robotů,

544
00:44:51,355 --> 00:44:54,942
protože každý agent
bude jednat samostatně.

545
00:44:55,025 --> 00:44:56,443
A takhle můžeme jít dál.

546
00:44:57,027 --> 00:44:59,071
Můžeme rozšířit naše učení…

547
00:44:59,154 --> 00:45:03,325
Už jistou dobu pracujeme
na simulacích swarmingu

548
00:45:03,409 --> 00:45:06,829
a teď je čas to přenést
na skutečné letouny.

549
00:45:07,329 --> 00:45:12,042
Nejdřív zkusíme pracovat se třemi roboty

550
00:45:12,126 --> 00:45:15,129
a následně budeme přidávat další funkce.

551
00:45:15,879 --> 00:45:18,549
Chceme to otestovat na menších strojích,

552
00:45:18,632 --> 00:45:22,261
ale pak stejné koncepty aplikovat
na větší stroje,

553
00:45:22,344 --> 00:45:23,679
jako je stíhačka.

554
00:45:24,596 --> 00:45:26,014
Hodně se bavíme o tom,

555
00:45:26,098 --> 00:45:31,937
jak dodat četě bojovou sílu praporu.

556
00:45:34,982 --> 00:45:39,528
Nebo praporu bojovou sílu brigády.

557
00:45:39,611 --> 00:45:41,488
Odpověď je pomocí swarmingu.

558
00:45:42,614 --> 00:45:45,200
Jakmile ho dokážete využít naplno,

559
00:45:45,284 --> 00:45:49,455
vytvoříte zcela nový systém
strategické obrany proti vojenské agresi.

560
00:45:52,332 --> 00:45:57,004
Nejlepší na tom je,
že bychom tím mohli zachránit

561
00:45:57,087 --> 00:46:00,299
velké množství žen a mužů,
když se nám to povede.

562
00:46:01,091 --> 00:46:03,594
Radši přijdeme o stroje

563
00:46:04,553 --> 00:46:05,846
než o lidské životy.

564
00:46:06,638 --> 00:46:10,893
Někteří lidé tvrdí, že autonomní zbraně
udělají válku přesnější

565
00:46:10,976 --> 00:46:12,311
a humánnější,

566
00:46:12,853 --> 00:46:15,397
ale je těžké předvídat,

567
00:46:15,481 --> 00:46:19,443
jak můžou autonomní zbraně
změnit způsob válčení.

568
00:46:21,320 --> 00:46:23,238
Je to jako vynález kulometu.

569
00:46:25,073 --> 00:46:26,867
Richard Gatling byl vynálezce.

570
00:46:27,201 --> 00:46:30,954
Když viděl zraněné vojáky
vracející se z občanské války,

571
00:46:32,289 --> 00:46:35,292
snažil se vymyslet,
jak udělat válku humánnější.

572
00:46:36,293 --> 00:46:39,797
Chtěl snížit
počet vojáků zabitých ve válce tím,

573
00:46:40,422 --> 00:46:42,633
že sníží počtu vojáků na bojišti.

574
00:46:44,092 --> 00:46:48,388
A tak vynalezl kulomet,
automatickou zbraň na kliku,

575
00:46:48,472 --> 00:46:50,516
která automatizovala střelbu.

576
00:46:53,268 --> 00:46:57,981
Tato zbraň dokázala zvýšit
palebnou sílu vojáků až stokrát.

577
00:47:01,235 --> 00:47:05,239
Často mohou mít snahy
o přesnější a humánnější válku

578
00:47:06,490 --> 00:47:07,991
zcela opačný efekt.

579
00:47:10,160 --> 00:47:13,455
Stačí jeden chybný útok dronem

580
00:47:13,539 --> 00:47:14,540
na venkově,

581
00:47:14,623 --> 00:47:17,209
který poštve místní obyvatele proti USA

582
00:47:17,292 --> 00:47:20,712
a místní vládě, kteří vás mají chránit.

583
00:47:22,589 --> 00:47:25,008
A teď si představte, že jich je tisíc.

584
00:47:26,802 --> 00:47:29,346
Vytvoření levné a snadno dostupné zbraně,

585
00:47:29,429 --> 00:47:34,560
kterou nemusí ovládat lidé,

586
00:47:34,643 --> 00:47:37,896
drasticky změní hranice konfliktů.

587
00:47:40,107 --> 00:47:44,486
Nespím z představy,
že se celý svět ponoří do války.

588
00:47:44,987 --> 00:47:48,657
A že nám budou jedno dopady
na lidstvo a finance,

589
00:47:48,740 --> 00:47:51,410
protože nebudeme vnímat…

590
00:47:52,369 --> 00:47:54,037
lidské ztráty.

591
00:47:59,501 --> 00:48:00,794
Celé mě to děsí.

592
00:48:02,212 --> 00:48:05,924
Jen jsem potřeboval
příklad zneužití umělé inteligence.

593
00:48:06,800 --> 00:48:10,888
Neočekávané důsledky
tohoto jednoduchého experimentu

594
00:48:10,971 --> 00:48:12,848
zašly příliš daleko.

595
00:48:13,348 --> 00:48:16,226
OBJEV POUŽITÍ AI VE FARMACII
SNAŽÍME SE NEŠKODIT

596
00:48:17,352 --> 00:48:18,812
Na mé přednášce

597
00:48:18,896 --> 00:48:22,107
o toxických molekulách
vytvořených umělou inteligencí

598
00:48:22,608 --> 00:48:24,318
spadla divákům brada.

599
00:48:25,402 --> 00:48:27,613
NEJLEPŠÍCH 5 000 SLOUČENIN
BYLY OBDOBY VX

600
00:48:29,406 --> 00:48:33,577
Rozhodovali jsme se,
zda tyto informace zveřejnit.

601
00:48:34,912 --> 00:48:39,166
Na jednu stranu jsme chtěli svět varovat,
co všechno je možné,

602
00:48:39,249 --> 00:48:44,087
ale na druhou stranu
jsme k tomu nechtěli nikoho inspirovat.

603
00:48:46,214 --> 00:48:48,133
Rozhodli jsme, že to zveřejníme,

604
00:48:48,216 --> 00:48:52,679
abychom mohli hledat způsoby,
jak zabránit takovému zneužívání AI,

605
00:48:52,763 --> 00:48:54,139
než k němu dojde.

606
00:48:54,222 --> 00:48:56,975
DVOJÍ VYUŽITÍ AI VÝZKUMU LÉKŮ

607
00:48:57,559 --> 00:49:00,312
JAK MŮŽE BÝT UMĚLÁ INTELIGENCE
PŘI VÝZKUMU LÉKŮ

608
00:49:01,897 --> 00:49:04,775
Odezva veřejnosti nás šokovala.

609
00:49:07,194 --> 00:49:10,656
Viděli jsme,
kolik lidí tu stránku navštívilo.

610
00:49:10,739 --> 00:49:16,495
Naše články si obvykle přečte
za několik let jen pár tisíc lidí,

611
00:49:16,578 --> 00:49:19,831
a to je ještě hodně.

612
00:49:19,915 --> 00:49:22,084
Během týdne ho četlo 10 000 lidí.

613
00:49:22,167 --> 00:49:25,337
Pak jich bylo 20 000,
pak 30 000 a následně 40 000.

614
00:49:25,837 --> 00:49:28,715
A nakonec to bylo 10 000 denně.

615
00:49:30,258 --> 00:49:33,512
Psali o nás
v The Economist a Financial Times.

616
00:49:35,639 --> 00:49:39,977
Ozvali se nám z Radiolab.
O nich už jsem slyšel!

617
00:49:41,937 --> 00:49:45,899
Ale pak nám začaly chodit šílené reakce.

618
00:49:48,819 --> 00:49:49,695
DĚSIVÉ

619
00:49:49,778 --> 00:49:53,532
Lidé tweetovali: „Bože, nic horšího
už udělat nemohli.“

620
00:49:54,324 --> 00:49:55,993
Proč to udělali?

621
00:49:57,911 --> 00:50:01,123
TI VĚDÁTOŘI NÁS VŠECHNY ZABIJOU

622
00:50:01,164 --> 00:50:04,501
A pak jsme dostali pozvání,
které jsem vůbec nečekal.

623
00:50:08,797 --> 00:50:12,926
V Bílém domě
se o tom článku hodně diskutovalo

624
00:50:13,010 --> 00:50:15,345
a chtěli s námi naléhavě mluvit.

625
00:50:18,849 --> 00:50:23,020
Byla to pro nás velká čest
mluvit s tak významnými lidmi.

626
00:50:23,603 --> 00:50:25,272
Ale pak nám to došlo.

627
00:50:25,355 --> 00:50:28,900
„Bože můj, chtějí nás v Bílém domě.
Šéf nás chce.“

628
00:50:29,693 --> 00:50:33,196
Jednalo se
o sestavení open source datových sad…

629
00:50:33,280 --> 00:50:37,701
Za šest hodin dokázal model
vygenerovat přes 40 000…

630
00:50:37,784 --> 00:50:41,038
Ptali se, jak silné počítače
jsou zapotřebí.

631
00:50:41,872 --> 00:50:43,832
Řekli jsme, že nijak zvlášť.

632
00:50:44,332 --> 00:50:48,211
Stačí vám obyčejný, šest let starý Mac.

633
00:50:49,546 --> 00:50:51,256
A to je šokovalo.

634
00:50:54,968 --> 00:50:59,473
Lidé studující chemické zbraně

635
00:50:59,556 --> 00:51:04,019
a vládní agentury neměli ani tušení,
že je něco takového možné.

636
00:51:06,605 --> 00:51:09,816
Přinesli jsme recepty
na výrobu chemických zbraní.

637
00:51:10,650 --> 00:51:15,572
Kdyby se dostaly do rukou
někoho se špatnými úmysly,

638
00:51:16,573 --> 00:51:18,992
mohlo by to dopadnout zle.

639
00:51:21,661 --> 00:51:23,205
Lidé musí začít poslouchat

640
00:51:23,288 --> 00:51:26,458
a my musíme podniknout kroky
k regulaci technologií

641
00:51:27,250 --> 00:51:30,670
nebo je omezit tak, aby se nedaly zneužít.

642
00:51:31,880 --> 00:51:35,175
Protože je naprosto děsivé,

643
00:51:36,176 --> 00:51:37,344
jak dokáže zabíjet.

644
00:51:40,680 --> 00:51:45,977
Otázkou etiky umělé inteligence
se zabývá společnost,

645
00:51:46,561 --> 00:51:50,273
ne inženýři
nebo technologové a matematici.

646
00:51:52,484 --> 00:51:56,822
Každá nová technologie a moderní inovace

647
00:51:56,905 --> 00:52:00,617
spadá do rámce, jak bychom je měli
dle společnosti používat.

648
00:52:03,036 --> 00:52:06,498
Ministerstvo obrany v tuto chvíli tvrdí:

649
00:52:06,581 --> 00:52:09,960
„Jediné, co rozhoduje
o zabíjení na bojišti,

650
00:52:10,043 --> 00:52:11,920
jsou lidé.“

651
00:52:12,504 --> 00:52:14,548
Zabíjí sice stroj,

652
00:52:15,674 --> 00:52:18,927
ale jen na příkaz lidského operátora.

653
00:52:19,553 --> 00:52:21,429
A to se podle mě nikdy nezmění.

654
00:52:24,808 --> 00:52:28,103
Ujišťují nás,
že tyto technologie budou bezpečné.

655
00:52:29,729 --> 00:52:33,692
Ale armáda Spojených států
nemá pověst důvěryhodné organizace,

656
00:52:33,775 --> 00:52:35,485
když jde o dronovou válku.

657
00:52:36,820 --> 00:52:41,783
A pokud jde o důvěřování
americké armádě s umělou inteligencí,

658
00:52:41,867 --> 00:52:44,953
myslím, že jejich činy mluví za vše.

659
00:52:46,288 --> 00:52:50,125
Americké ministerstvo obrany
nezakazuje používání autonomie

660
00:52:50,208 --> 00:52:52,919
v žádných zbraních.

661
00:52:53,003 --> 00:52:56,715
I kdyby armády neměly
o autonomní zbraně zájem,

662
00:52:56,798 --> 00:53:01,678
stejně by je musely začít používat,

663
00:53:01,761 --> 00:53:03,680
aby držely krok s protivníky.

664
00:53:04,764 --> 00:53:08,351
Mohlo by je to dohnat
k předání rozhodování strojům,

665
00:53:08,435 --> 00:53:09,978
i když to možná nechtějí.

666
00:53:12,022 --> 00:53:16,693
Vladimir Putin řekl:
„Světu budou vládnout experti na AI.“

667
00:53:17,736 --> 00:53:23,325
Prezident Si jasně řekl,
že AI je technologie číslo jedna,

668
00:53:23,408 --> 00:53:25,744
v které se chtějí stát světovým lídrem.

669
00:53:26,786 --> 00:53:29,831
Ocitli jsme se v technologickém závodě.

670
00:53:33,501 --> 00:53:35,670
Lidé řeší nastavování mantinelů.

671
00:53:36,463 --> 00:53:39,424
A přesně to je třeba.

672
00:53:40,467 --> 00:53:45,180
Ale vážně existuje závod
o první místo v používání AI.

673
00:53:47,265 --> 00:53:51,603
A naši protivníci,
ať už Čína, Rusko nebo Írán,

674
00:53:52,187 --> 00:53:56,566
nebudou brát žádné ohledy na to,
jaká máme ohledně AI pravidla.

675
00:54:00,820 --> 00:54:04,574
Poslední dobou se skloňují
pravidla používání umělé inteligence,

676
00:54:06,117 --> 00:54:09,287
ale já bych byl radši,
kdyby vedení naší země řeklo:

677
00:54:09,371 --> 00:54:11,706
„Jak rychle to dokážeme vyrobit?

678
00:54:12,666 --> 00:54:15,335
Pojďme to zafinancovat,
ať to můžeme vyrobit.“

679
00:54:18,922 --> 00:54:21,299
AUSA
VÝROČNÍ KONFERENCE A VELETRH

680
00:54:24,177 --> 00:54:26,805
ARMÁDA SPOJENÝCH STÁTŮ

681
00:54:33,478 --> 00:54:38,358
Jsme na největším veletrhu
Association of the US Army roku.

682
00:54:39,609 --> 00:54:44,572
Své produkty tu vystavují všichni prodejci
armádních potřeb

683
00:54:44,656 --> 00:54:46,616
nebo technologií.

684
00:54:47,575 --> 00:54:50,537
Na letecké základně Tyndall
mají čtyři naše roboty,

685
00:54:50,620 --> 00:54:53,748
kteří ji nonstop hlídají.

686
00:54:55,750 --> 00:55:00,130
Můžeme přidat všechno možné,
třeba kamery nebo senzory.

687
00:55:00,213 --> 00:55:05,135
Ramena na manipulaci, stačí říct.
Snažíme se splnit veškeré požadavky.

688
00:55:06,678 --> 00:55:08,638
Co když přijde s AI i nepřítel?

689
00:55:09,347 --> 00:55:12,976
S bojovým systémem,
který uvažuje a reaguje rychleji než lidé.

690
00:55:13,059 --> 00:55:16,062
Co můžou lidé dělat?
Na to se musíme připravit.

691
00:55:17,605 --> 00:55:21,359
Trénujeme naše systémy
na získávání informací od nepřátel

692
00:55:22,027 --> 00:55:26,531
a zneškodňování nepřátelských cílů
pod dohledem lidí.

693
00:55:33,288 --> 00:55:34,956
- Dobrý den.
- Jak se vede?

694
00:55:35,040 --> 00:55:36,166
Dobře. A jak vám?

695
00:55:37,709 --> 00:55:40,962
Nikdo neinvestuje do AI pilotů víc než my.

696
00:55:41,046 --> 00:55:42,630
Jmenuje se Hivemind.

697
00:55:43,298 --> 00:55:47,135
Aplikovali jsme ho do kvadrukoptéry Nova,
která vletí do budovy

698
00:55:47,218 --> 00:55:50,805
a prozkoumá ji,
než dorazí speciální jednotky a pěchota.

699
00:55:50,889 --> 00:55:52,891
Hivemind aplikujeme do V-BAT.

700
00:55:52,974 --> 00:55:56,811
A těchto týmů se dají použít stovky.

701
00:55:56,895 --> 00:55:58,730
Ať už v Tchajwanském průlivu

702
00:55:58,813 --> 00:56:01,608
nebo na Ukrajině v boji proti nepřátelům.

703
00:56:01,691 --> 00:56:03,360
Je to skvělá věc.

704
00:56:03,943 --> 00:56:06,196
- Dobře. Díky.
- Díky, pane generále.

705
00:56:07,989 --> 00:56:13,370
AI piloti by měli být do roku 2030 všude.

706
00:56:14,204 --> 00:56:17,582
Velmi rychle si je osvojí armády
po celém světě.

707
00:56:19,250 --> 00:56:22,962
Co vymýšlíte s rumunskou armádou?

708
00:56:23,046 --> 00:56:24,589
Technologie v armádě.

709
00:56:25,256 --> 00:56:29,803
Do dnešního dne jsme do výroby
AI pilota dali půl miliardy.

710
00:56:29,886 --> 00:56:33,181
V příštích pěti letech
do toho dáme další miliardu.

711
00:56:33,264 --> 00:56:37,769
A z toho důvodu jsme americká jednička.

712
00:56:37,852 --> 00:56:38,853
Hezký.

713
00:56:38,937 --> 00:56:42,732
Dobrá práce.
A podařilo se vám ho i vyzbrojit?

714
00:56:43,650 --> 00:56:45,568
Tenhle ještě zbraně nemá.

715
00:56:45,652 --> 00:56:48,321
Ještě ne, ale do budoucna bychom chtěli.

716
00:56:48,905 --> 00:56:52,534
Pro naše zákazníky je to spíš vůz.
Je to inteligentní vůz,

717
00:56:52,617 --> 00:56:54,452
který dokáže spoustu věcí.

718
00:56:54,536 --> 00:56:55,703
- Díky.
- Jasně.

719
00:56:55,787 --> 00:56:57,914
Ještě se vám ozvu.

720
00:57:01,668 --> 00:57:04,129
Když se vrátíte za deset let,

721
00:57:04,212 --> 00:57:10,802
uvidíte, že AI a autonomní technologie
si podmaní celý trh.

722
00:57:14,889 --> 00:57:19,352
Jednotky využívající umělou inteligenci
a autonomní technologie

723
00:57:19,436 --> 00:57:25,108
zcela ovládnou a zničí jednotky bez nich.

724
00:57:26,401 --> 00:57:30,780
Jako byste vytáhli proti tanku na koni.

725
00:57:31,781 --> 00:57:34,367
Nebo s mečem proti kulometu.

726
00:57:34,909 --> 00:57:37,120
Nebudete mít šanci.

727
00:57:38,746 --> 00:57:42,750
Budou všude na všech úrovních války.

728
00:57:43,585 --> 00:57:44,836
Na taktické

729
00:57:45,336 --> 00:57:46,546
i strategické.

730
00:57:47,172 --> 00:57:50,800
A budou pracovat tak rychle,
že si to ani neumíme představit.

731
00:57:53,094 --> 00:57:57,098
Už takhle mají velitelé
příliš velké množství informací.

732
00:57:57,599 --> 00:58:01,019
Snímky ze satelitů, dronů a senzorů.

733
00:58:02,103 --> 00:58:03,396
Umělá inteligence

734
00:58:03,480 --> 00:58:06,774
může pomoct veliteli rychleji pochopit,
co se děje.

735
00:58:07,650 --> 00:58:09,903
A rozhodnout, jak by měl reagovat.

736
00:58:11,237 --> 00:58:14,866
Umělá inteligence vezme v úvahu
všechny faktory,

737
00:58:14,949 --> 00:58:17,702
které určují způsob vedení války.

738
00:58:18,286 --> 00:58:20,246
Vymyslí strategie…

739
00:58:22,540 --> 00:58:25,668
a bude dávat doporučení, jak vyhrát.

740
00:58:30,256 --> 00:58:32,133
SUFFOLK
VIRGINIE

741
00:58:32,217 --> 00:58:34,344
CENTRUM PRO INOVACE

742
00:58:36,971 --> 00:58:40,266
Pro nás v Lockheed Martin,
stejně jako pro ministerstvo obrany,

743
00:58:40,350 --> 00:58:45,104
je umělá inteligence klíčová technologie
umožňující velení a řízení.

744
00:58:47,065 --> 00:58:50,109
Šíří se rychlostí
60 centimetrů za vteřinu.

745
00:58:50,193 --> 00:58:52,278
Rozloha je zhruba 280 hektarů.

746
00:58:52,779 --> 00:58:55,782
Ve válce bojujeme s nedostatkem informací,

747
00:58:57,158 --> 00:59:00,495
ale stejné problémy se dají najít

748
00:59:00,578 --> 00:59:03,206
i při rozhodování v boji s požáry.

749
00:59:03,289 --> 00:59:06,543
Oheň se šíří severně od města Wawona.

750
00:59:06,626 --> 00:59:09,629
Musíme se rozhodovat
na základě nepřesných dat.

751
00:59:10,630 --> 00:59:14,300
Jak nám s tím může
umělá inteligence pomoct?

752
00:59:17,637 --> 00:59:19,597
Požáry jsou velmi chaotické.

753
00:59:20,181 --> 00:59:21,266
A komplexní.

754
00:59:22,267 --> 00:59:27,855
Snažíme se využívat umělou inteligenci,
aby nám pomáhala rozhodovat.

755
00:59:31,442 --> 00:59:33,987
Vyvíjíme program
Cognitive Mission Manager,

756
00:59:34,070 --> 00:59:37,949
který používá letecké infračervené snímky

757
00:59:38,032 --> 00:59:41,786
a následně je zpracuje
pomocí našich AI algoritmů,

758
00:59:41,869 --> 00:59:45,248
abychom mohli předpovídat vývoj požárů.

759
00:59:48,042 --> 00:59:49,794
V budoucnu bude náš program

760
00:59:49,877 --> 00:59:52,922
využívat simulace

761
00:59:53,006 --> 00:59:57,093
a zkoušet různé situace
v průběhu tisíců cyklů,

762
00:59:57,176 --> 01:00:00,722
aby nám doporučil
nejvhodnější nasazení techniky.

763
01:00:00,805 --> 01:00:04,058
Díky tomu budeme hasit požáry tam,
kde je to třeba.

764
01:00:08,062 --> 01:00:12,400
Řekne nám,
kde máme použít k hašení vrtulníky,

765
01:00:13,568 --> 01:00:15,903
kde mají pozemní čety klestit křoví

766
01:00:16,946 --> 01:00:19,032
a kam máme vyslat hasiče,

767
01:00:19,657 --> 01:00:23,077
aby hasili na místech,
kde je to nejvíc třeba.

768
01:00:26,289 --> 01:00:29,292
Díky tomu
se budeme moct rozhodovat rychleji

769
01:00:29,375 --> 01:00:31,044
a efektivněji.

770
01:00:35,840 --> 01:00:38,468
Umělá inteligence umožňuje lidem

771
01:00:38,551 --> 01:00:42,305
držet krok
s neustále se měnícím prostředím.

772
01:00:43,389 --> 01:00:47,143
A existuje spousta podobností
mezi obrannými systémy a tím,

773
01:00:47,226 --> 01:00:50,355
co děláme tady v Lockheed Martin.

774
01:00:52,231 --> 01:00:55,860
Armáda už nemluví o umělé inteligenci
jen v souvislosti

775
01:00:55,943 --> 01:01:00,323
s jednotlivými zbraněmi vyráběnými
na vyhledávání cílů a zabíjení,

776
01:01:00,865 --> 01:01:02,200
ale o integraci AI

777
01:01:02,283 --> 01:01:05,787
do celé rozhodovací struktury armády.

778
01:01:09,457 --> 01:01:12,960
Armáda pracuje na velkém projektu
s názvem Project Convergence.

779
01:01:14,545 --> 01:01:16,589
Námořnictvo má Overmatch.

780
01:01:16,673 --> 01:01:19,592
A letectvo zase
Advanced Battle Management System.

781
01:01:21,886 --> 01:01:24,138
Ministerstvo obrany se snaží vymyslet,

782
01:01:24,222 --> 01:01:26,683
jak to celé propojit,

783
01:01:26,766 --> 01:01:29,268
abychom byli rychlejší než naši nepřátelé.

784
01:01:30,395 --> 01:01:32,355
A získat tak výhodu.

785
01:01:33,481 --> 01:01:37,527
AI program na vedení boje
by byl vysoko postavený generál,

786
01:01:37,610 --> 01:01:39,821
který řídí boj.

787
01:01:41,155 --> 01:01:44,158
Pomáhal by s vydáváním rozkazů
velkému množství jednotek

788
01:01:45,118 --> 01:01:49,247
a koordinoval veškeré použité zbraně.

789
01:01:49,330 --> 01:01:51,958
A to vše mnohem rychleji než lidé.

790
01:01:53,543 --> 01:01:55,294
Posledních 70 let

791
01:01:55,378 --> 01:01:58,798
jsme budovali
nejpokročilejší armádu na světě.

792
01:01:58,881 --> 01:02:03,177
A teď stojíme před rozhodnutím,
jestli se nad ní vzdáme kontroly

793
01:02:03,261 --> 01:02:07,598
a předáme její vedení algoritmu
a softwaru.

794
01:02:10,351 --> 01:02:13,187
A důsledky tohoto rozhodnutí

795
01:02:13,271 --> 01:02:16,774
ovlivní celý náš vojenský arzenál.

796
01:02:16,858 --> 01:02:19,902
Nebyla by to bomba jako jedna Hirošima,
ale stovky.

797
01:02:25,616 --> 01:02:27,869
Přišla chvíle, kdy musíme jednat.

798
01:02:27,952 --> 01:02:33,166
Příležitost minimalizovat rizika
nám proklouzává mezi prsty.

799
01:02:35,126 --> 01:02:39,130
Dnes odpoledne začneme
řešit ohrožení mezinárodní bezpečnosti

800
01:02:39,213 --> 01:02:41,132
nově vznikajícími technologiemi

801
01:02:41,215 --> 01:02:44,343
v oblasti smrtících
autonomních zbraňových systémů.

802
01:02:44,427 --> 01:02:47,722
V OSN se vedou rozhovory

803
01:02:47,805 --> 01:02:50,016
o hrozbě smrtících autonomních zbraní

804
01:02:50,600 --> 01:02:56,564
a o zákazu systémů,
které používají AI k cílení na lidi.

805
01:02:56,647 --> 01:03:00,610
Konsenzus technologů je jasný.

806
01:03:00,693 --> 01:03:04,030
Nesouhlasíme s používáním
autonomních zbraní proti lidem.

807
01:03:05,615 --> 01:03:11,329
Státy už roky diskutují o problémech
smrtících autonomních zbraňových systémů.

808
01:03:12,288 --> 01:03:16,793
Jde o společný a sdílený pocit bezpečí.

809
01:03:17,794 --> 01:03:20,546
Ale není to snadné.

810
01:03:21,297 --> 01:03:25,968
Některé země, zejména vojenské velmoci,

811
01:03:26,052 --> 01:03:27,762
chtějí všechny předběhnout,

812
01:03:28,429 --> 01:03:31,599
aby měly nad svými protivníky výhodu.

813
01:03:32,600 --> 01:03:36,354
Problém je, že všichni musí souhlasit,
aby se něco mohlo změnit.

814
01:03:36,813 --> 01:03:39,065
Vždy bude aspoň jedna země nesouhlasit

815
01:03:39,148 --> 01:03:42,109
a Spojené státy
a Rusko zcela jasně říkají,

816
01:03:42,193 --> 01:03:45,655
že se zákazem autonomních zbraní
nesouhlasí.

817
01:03:47,198 --> 01:03:53,204
Počet lidí snažící se
o vylepšení umělé inteligence

818
01:03:54,747 --> 01:03:56,457
je obrovský.

819
01:03:57,750 --> 01:04:02,880
A kolik lidí se snaží zajistit,
aby byla umělá inteligence bezpečná?

820
01:04:04,340 --> 01:04:07,510
Rozhodně mnohem míň.

821
01:04:11,764 --> 01:04:13,724
Ale taky jsem optimistka.

822
01:04:16,060 --> 01:04:19,480
Doufám, že přijde něco
jako Úmluva o biologických zbraních,

823
01:04:19,564 --> 01:04:22,358
ke které se dospělo během studené války

824
01:04:23,025 --> 01:04:27,655
navzdory panujícímu napětí
mezi Sovětským svazem a Spojenými státy.

825
01:04:29,156 --> 01:04:33,536
Uvědomili si, že vývoj biologických zbraní

826
01:04:33,619 --> 01:04:36,247
nebyl v nejlepším zájmu ani jednoho z nich

827
01:04:36,330 --> 01:04:38,749
a ani v nejlepším zájmu celého světa.

828
01:04:41,335 --> 01:04:44,797
Závody ve zbrojení upřednostňují
rychlost před bezpečností.

829
01:04:45,715 --> 01:04:48,342
Ale je důležité si uvědomit,

830
01:04:48,426 --> 01:04:52,430
že v jistou dobu
bude cena za rychlost příliš vysoká.

831
01:04:56,225 --> 01:04:59,270
Nemůžeme věci vyvíjet izolovaně

832
01:05:00,021 --> 01:05:04,567
a pouštět je do světa,
aniž bychom přemýšleli,

833
01:05:04,650 --> 01:05:06,611
co se z nich může vyvinout.

834
01:05:07,862 --> 01:05:10,823
Nesmí z toho být další atomovka.

835
01:05:14,577 --> 01:05:17,705
Boj o vývoj AI je v plném proudu
a v sázce je hodně.

836
01:05:18,289 --> 01:05:22,001
Podle mě si lidé nedokážou vážit
globální stability,

837
01:05:22,084 --> 01:05:28,174
kterou už 75 let zajišťuje

838
01:05:28,257 --> 01:05:31,135
naše vyspělá armáda.

839
01:05:32,887 --> 01:05:35,681
Spojené státy a naši spojenci

840
01:05:36,557 --> 01:05:38,684
musí nepřátelskou AI porazit.

841
01:05:43,314 --> 01:05:44,774
Ve válce neskončíte druzí.

842
01:05:45,524 --> 01:05:49,111
Čína má ambiciózní plán stát se
světovým lídrem v oblasti AI do roku 2030.

843
01:05:49,195 --> 01:05:51,656
Říká se, že Amerika tento závod prohrává…

844
01:05:52,740 --> 01:05:56,160
Urychlíme přijetí umělé inteligence,

845
01:05:56,243 --> 01:05:59,246
abychom zajistili
konkurenční vojenskou výhodu.

846
01:06:02,833 --> 01:06:05,461
Jdeme s technologiemi
kupředu mílovými kroky.

847
01:06:05,544 --> 01:06:08,673
Jen nikdo netuší, jak daleko to zajde.

848
01:06:09,507 --> 01:06:12,760
Ovládáme technologii my, nebo ona nás?

849
01:06:14,136 --> 01:06:16,973
Druhou šanci už nám nikdo nedá.

850
01:06:17,807 --> 01:06:20,977
Jakmile vypustíte džina z lampy,
není cesty zpět.

851
01:06:22,019 --> 01:06:25,189
Bude velmi těžké ho tam vrátit.

852
01:06:28,609 --> 01:06:31,737
A když nebudeme jednat teď hned,
bude pozdě.

853
01:06:33,114 --> 01:06:34,657
Možná už je.

854
01:08:48,124 --> 01:08:53,254
Překlad titulků: Anna Farrow