1
00:00:02,000 --> 00:00:07,000
Downloaded from
YTS.MX

2
00:00:08,000 --> 00:00:13,000
Official YIFY movies site:
YTS.MX

3
00:00:24,065 --> 00:00:26,985
Sztuczna inteligencja
to zachwycająca technologia.

4
00:00:28,361 --> 00:00:31,489
I w kółko. Ładna formacja.

5
00:00:33,116 --> 00:00:36,703
AI ma potencjał, żeby wyeliminować biedę,

6
00:00:36,786 --> 00:00:38,705
dać nam nowe lekarstwa

7
00:00:39,330 --> 00:00:41,583
i wzmocnić pokój na świecie.

8
00:00:46,087 --> 00:00:46,921
Dobra robota.

9
00:00:49,883 --> 00:00:53,428
Ale po drodze czyha wiele zagrożeń.

10
00:01:04,773 --> 00:01:11,279
Tworząc AI, tworzymy odmienną od ludzkiej,
bardzo nieprzewidywalną inteligencję.

11
00:01:14,407 --> 00:01:19,746
Jakie granice postawimy
rozwojowi coraz potężniejszego AI?

12
00:01:19,829 --> 00:01:22,665
Jak chcemy go używać, a jak nie?

13
00:01:25,001 --> 00:01:28,505
W żadnym obszarze
dyskusja ta nie jest istotniejsza

14
00:01:28,588 --> 00:01:31,049
niż w zastosowaniach wojskowych.

15
00:01:34,010 --> 00:01:38,890
Polem bitwy stały się teraz
software i hardware.

16
00:01:41,559 --> 00:01:42,936
Cel namierzony…

17
00:01:43,019 --> 00:01:48,399
Każda armia stara się rozwijać AI
szybciej niż jej wrogowie.

18
00:01:49,526 --> 00:01:50,360
Nie żyję.

19
00:01:53,780 --> 00:01:58,326
Zmierzamy w kierunku świata,
w którym nie tylko potężne armie,

20
00:01:58,409 --> 00:02:01,287
ale też organy niepaństwowe,

21
00:02:01,371 --> 00:02:02,997
prywatne sektory,

22
00:02:03,081 --> 00:02:06,042
a nawet lokalne komisariaty policji

23
00:02:06,543 --> 00:02:10,046
mogą dysponować bronią,
która może autonomicznie zabijać.

24
00:02:12,006 --> 00:02:17,303
Czy powierzymy decyzję o odebraniu życia
algorytmom i programom komputerowym?

25
00:02:18,638 --> 00:02:21,599
To jedno z najważniejszych pytań
naszych czasów.

26
00:02:23,935 --> 00:02:26,354
Jeśli nie będziemy rozważni,

27
00:02:26,437 --> 00:02:30,400
AI może stanowić zagrożenie
dla każdego człowieka na Ziemi.

28
00:02:41,828 --> 00:02:44,914
NIEZNANE OBLICZE PLANETY

29
00:02:46,791 --> 00:02:50,086
ZABÓJCZE ROBOTY

30
00:03:28,291 --> 00:03:30,293
Dobra robota, chłopaki.

31
00:03:59,948 --> 00:04:03,117
- Ten obiektyw ma znacznie szerszy kąt.
- Naprawdę?

32
00:04:03,201 --> 00:04:05,703
- Widać więcej danych.
- Super.

33
00:04:07,538 --> 00:04:11,167
W Shield AI budujemy pilota AI,

34
00:04:11,251 --> 00:04:14,879
który pozwoli zastosować
technologię autonomicznego sterowania

35
00:04:14,963 --> 00:04:16,631
w jednostkach latających.

36
00:04:19,300 --> 00:04:21,719
Kiedy mówimy o pilocie AI,

37
00:04:21,803 --> 00:04:25,640
mamy na myśli zwiększenie
autonomii jednostki latającej.

38
00:04:25,723 --> 00:04:27,850
Ma sam rozwiązywać problemy.

39
00:04:29,602 --> 00:04:32,355
Nova to autonomiczny quadcopter,

40
00:04:32,438 --> 00:04:35,942
który bada budynki i podziemne struktury

41
00:04:36,859 --> 00:04:38,611
przed wejściem oddziału,

42
00:04:38,695 --> 00:04:41,322
pozwalając na rozpoznanie terenu.

43
00:04:41,906 --> 00:04:45,618
Jest o wiele lepiej
niż w poprzednim podejściu.

44
00:04:45,702 --> 00:04:50,206
Dziś usprawniamy system eksploracji,
żeby dron leciał piętro po piętrze.

45
00:04:50,290 --> 00:04:53,584
Ma zbadać wszystkie pokoje,
zanim wleci na inne piętro.

46
00:04:54,294 --> 00:04:55,878
Super.

47
00:04:56,879 --> 00:04:58,548
Ludzie często pytają mnie,

48
00:04:58,631 --> 00:05:02,468
dlaczego sztuczna inteligencja
jest tak ważną technologią.

49
00:05:02,552 --> 00:05:06,973
Myślę wtedy o misjach,
w których uczestniczyłem.

50
00:05:09,142 --> 00:05:13,146
Siedem lat służyłem w marynarce.
Należałem do Navy SEALs.

51
00:05:13,229 --> 00:05:16,649
Spędziłem dwie tury w Afganistanie
i jedną na Pacyfiku.

52
00:05:18,026 --> 00:05:22,947
Jednego dnia musieliśmy oczyścić
do 150 budynków i kompleksów.

53
00:05:30,997 --> 00:05:34,250
Kluczowa była dla nas
walka w bliskim kontakcie.

54
00:05:35,293 --> 00:05:39,172
Walka z bronią palną wewnątrz budynków.

55
00:05:41,466 --> 00:05:43,384
Człowiek jest pod ostrzałem.

56
00:05:43,468 --> 00:05:46,220
W budynku mogą się znajdować
ładunki wybuchowe.

57
00:05:49,015 --> 00:05:55,229
To najgroźniejsze zadanie
dla członków sił specjalnych

58
00:05:55,313 --> 00:05:58,358
lub piechoty w strefie wojny.

59
00:05:58,441 --> 00:05:59,525
Najgroźniejsze.

60
00:06:12,497 --> 00:06:16,376
Do końca życia będę wdzięczny
za czas służby w marynarce.

61
00:06:17,168 --> 00:06:20,338
Mam stamtąd mnóstwo wspomnień,

62
00:06:20,421 --> 00:06:24,008
które nieodmiennie mnie wzruszają.

63
00:06:28,346 --> 00:06:32,850
To banał, że wolność nie jest za darmo,
ale ja głęboko w to wierzę.

64
00:06:33,559 --> 00:06:37,105
Doświadczyłem tego.
Wolność wymaga poświęceń.

65
00:06:38,022 --> 00:06:38,856
Przepraszam.

66
00:06:41,067 --> 00:06:44,570
Kiedy kolegę z oddziału spotyka coś złego,

67
00:06:44,654 --> 00:06:46,656
kiedy zostaje raniony lub ginie,

68
00:06:47,490 --> 00:06:49,575
to prawdziwa tragedia.

69
00:06:49,659 --> 00:06:53,788
To mnie motywuje w obecnej pracy,

70
00:06:53,871 --> 00:07:00,336
bo chcę, żeby w przyszłości
takie tragedie zdarzały się rzadziej.

71
00:07:07,176 --> 00:07:11,556
Pod koniec pierwszej dekady wieku
Departament Obrony dostrzegł coś,

72
00:07:11,639 --> 00:07:15,309
co można nazwać
przypadkową rewolucją robotyczną.

73
00:07:15,893 --> 00:07:19,564
W Iraku i Afganistanie
korzystaliśmy z tysięcy robotów.

74
00:07:21,482 --> 00:07:26,821
Kiedy gabinet Obamy zaproponował mi
funkcję zastępcy sekretarza obrony,

75
00:07:26,904 --> 00:07:31,117
zmieniał się sposób,
w jaki prowadzi się wojnę.

76
00:07:32,452 --> 00:07:36,330
Ludzi zaczęły zastępować roboty.

77
00:07:37,957 --> 00:07:40,877
Wczesne systemy robotyczne
były sterowane zdalnie.

78
00:07:40,960 --> 00:07:45,173
Człowiek kontrolował je
jak zdalnie sterowany samochodzik.

79
00:07:46,632 --> 00:07:51,929
Na początku najczęściej szukały
improwizowanych ładunków wybuchowych.

80
00:07:52,013 --> 00:07:54,223
Jeśli bomba wybuchała, to robot też.

81
00:07:57,393 --> 00:08:00,396
Mówiło się: „Szkoda.
Cóż, dajcie drugiego robota”.

82
00:08:02,273 --> 00:08:04,484
W Afganistanie były drony Predator

83
00:08:05,276 --> 00:08:09,739
i stały się bardzo przydatnym narzędziem
przeprowadzania nalotów.

84
00:08:13,117 --> 00:08:18,915
Z czasem zaczęto się zastanawiać,
do czego jeszcze można wykorzystać roboty

85
00:08:18,998 --> 00:08:20,791
i dokąd zmierza ta dziedzina.

86
00:08:20,875 --> 00:08:24,170
Pojawił się trend zwiększania autonomii.

87
00:08:26,506 --> 00:08:30,635
Broń autonomiczna to taka,
która podejmuje decyzje sama,

88
00:08:30,718 --> 00:08:33,304
przy niskim lub zerowym udziale człowieka.

89
00:08:33,387 --> 00:08:37,558
To technologia niezależna, samosterująca.

90
00:08:38,434 --> 00:08:41,729
Jej zdolność do zabijania
zależy od obecności uzbrojenia.

91
00:08:43,314 --> 00:08:47,109
Kiedy w systemie rośnie autonomia,

92
00:08:47,193 --> 00:08:49,779
wszystko zaczyna się dziać szybciej.

93
00:08:51,989 --> 00:08:56,869
A jeśli siły funkcjonują szybciej
niż siły strony przeciwnej,

94
00:08:57,453 --> 00:09:01,165
mają one ogromną przewagę bojową.

95
00:09:03,960 --> 00:09:06,254
W zakresie autonomii skupiamy się

96
00:09:07,255 --> 00:09:10,383
na wysoce odpornych
systemach inteligentnych.

97
00:09:12,051 --> 00:09:15,221
Systemach, które są w stanie
reagować na otoczenie

98
00:09:15,805 --> 00:09:19,642
i podejmować decyzje o własnym zachowaniu.

99
00:09:21,602 --> 00:09:24,897
SAN DIEGO – KALIFORNIA

100
00:09:24,981 --> 00:09:29,151
Kompleks, w którym się znajdujemy,
zbudowano jako studio filmowe,

101
00:09:29,235 --> 00:09:34,198
a następnie przerobiono na centrum
realistycznych szkoleń wojskowych.

102
00:09:39,495 --> 00:09:43,291
Będziemy tu testować naszego pilota AI.

103
00:09:44,625 --> 00:09:49,297
Jego celem będzie
zlokalizowanie zagrożeń dla oddziału.

104
00:09:49,380 --> 00:09:52,800
Sam może zdecydować,
jak podejść do tego problemu.

105
00:09:55,428 --> 00:09:59,390
Nazywamy to „zabójczym lejkiem”.
Przez drzwi trzeba przejść.

106
00:10:01,726 --> 00:10:03,311
Tu jesteśmy narażeni.

107
00:10:07,106 --> 00:10:10,151
Nova informuje nas,
czy za drzwiami jest strzelec,

108
00:10:10,818 --> 00:10:12,653
czy może jakaś rodzina.

109
00:10:15,114 --> 00:10:18,451
Pozwoli podejmować lepsze decyzje
i chronić ludzi.

110
00:10:57,114 --> 00:10:59,367
Wykorzystujemy czujniki wizyjne,

111
00:10:59,450 --> 00:11:03,162
żeby ustalić, jak wygląda otoczenie.

112
00:11:05,164 --> 00:11:06,415
To piętrowy budynek.

113
00:11:07,333 --> 00:11:08,501
Oto jego mapa.

114
00:11:08,584 --> 00:11:11,671
Przedstawia elementy
wykryte podczas eksploracji.

115
00:11:19,929 --> 00:11:22,098
Wykrywacz ludzi. Cudnie.

116
00:11:23,891 --> 00:11:27,019
Na pokładzie Novy
jest także skaner termiczny.

117
00:11:27,561 --> 00:11:30,690
Temperatura 36,6 stopni
zazwyczaj oznacza człowieka.

118
00:11:32,441 --> 00:11:35,444
Ludzi początkowo
klasyfikuje się jako zagrożenie.

119
00:11:38,906 --> 00:11:43,244
Chcemy wyeliminować mgłę wojny,
żeby podejmować lepsze decyzje.

120
00:11:44,704 --> 00:11:50,793
W przyszłości chcemy rozwinąć technologię
i budować zespoły autonomicznych dronów.

121
00:11:53,671 --> 00:11:55,631
Zadanie samochodów autonomicznych

122
00:11:55,715 --> 00:11:59,802
sprowadza się do przejazdu
z punktu A do punktu B.

123
00:12:02,972 --> 00:12:07,893
W naszych systemach jest inaczej:
mają osiągnąć określony cel.

124
00:12:10,312 --> 00:12:13,691
Mówimy raczej: „Potrzebuję mleka”.

125
00:12:13,774 --> 00:12:17,486
Robot musi ustalić,
do jakiego sklepu polecieć,

126
00:12:17,570 --> 00:12:20,239
i być w stanie zdobyć mleko
i z nim wrócić.

127
00:12:20,740 --> 00:12:24,410
Może lepiej ująć je wręcz jako:

128
00:12:24,994 --> 00:12:27,455
„Pilnuj, żeby niczego nie brakowało”.

129
00:12:27,538 --> 00:12:32,168
Na tym poziomie inteligencji
musi pracować robot.

130
00:12:32,251 --> 00:12:37,381
A jeśli napotka problem,
musi wymyślić, jak go pokonać.

131
00:12:40,801 --> 00:12:44,388
Kiedy postanowiłem odejść z marynarki,

132
00:12:44,472 --> 00:12:47,558
zacząłem myśleć, co dalej.

133
00:12:49,143 --> 00:12:52,021
Dorastając, widziałem rozwój Internetu.

134
00:12:53,189 --> 00:12:55,608
Doszedłem do wniosku,

135
00:12:56,108 --> 00:12:58,861
że sztuczna inteligencja w roku 2015

136
00:12:58,944 --> 00:13:02,907
była porównywalna
z Internetem z roku 1991.

137
00:13:04,033 --> 00:13:09,747
AI wkrótce miało się stać
jedną z najpotężniejszych technologii.

138
00:13:11,791 --> 00:13:16,212
Pracując z nią każdego dnia,
widzę, jak się rozwinęła.

139
00:13:19,048 --> 00:13:22,051
Ale kiedy wiele osób myśli o AI,

140
00:13:22,551 --> 00:13:25,221
natychmiast widzi sceny z Hollywood.

141
00:13:28,057 --> 00:13:29,975
Zagramy w coś?

142
00:13:30,059 --> 00:13:35,314
Może w globalną wojnę termonuklearną?

143
00:13:35,898 --> 00:13:36,816
Dobrze.

144
00:13:38,275 --> 00:13:40,861
Kiedy ludzie myślą
o sztucznej inteligencji,

145
00:13:40,945 --> 00:13:44,824
widzą Terminatora albo Ja, robot.

146
00:13:45,574 --> 00:13:46,700
Wyłącz!

147
00:13:46,784 --> 00:13:48,160
Czym jestem?

148
00:13:48,244 --> 00:13:49,620
Albo Matrixa.

149
00:13:51,080 --> 00:13:53,749
W realiach filmów science fiction

150
00:13:53,833 --> 00:13:57,878
mógłbym nie być człowiekiem,
tylko wygenerowanym komputerowo AI.

151
00:13:58,379 --> 00:14:02,132
Replikanci są jak każda maszyna.
Są korzyścią lub zagrożeniem.

152
00:14:02,675 --> 00:14:06,095
Ale istnieją też
różne bardziej prymitywne AI,

153
00:14:06,178 --> 00:14:08,806
które zmienią nasze życie
na długo przed tym,

154
00:14:08,889 --> 00:14:11,851
jak osiągniemy poziom
myślących, mówiących robotów.

155
00:14:12,643 --> 00:14:15,771
Roboty już istnieją i podejmują decyzje.

156
00:14:15,855 --> 00:14:18,816
Rewolucja robotyczna już trwa.

157
00:14:18,899 --> 00:14:22,319
Po prostu wygląda inaczej,
niż to sobie wyobrażaliśmy.

158
00:14:23,320 --> 00:14:27,324
Terminator to jednostka do infiltracji.
Pół człowiek, pół maszyna.

159
00:14:27,950 --> 00:14:31,370
Nie mówimy o robotycznym zabójcy
w stylu Terminatora.

160
00:14:31,871 --> 00:14:35,958
Mówimy o AI, które jest w stanie
wykonywać niektóre zadania ludzi.

161
00:14:36,041 --> 00:14:39,962
Problem w tym,
na ile te systemy są niezawodne.

162
00:14:40,045 --> 00:14:45,426
Nowe informacje o śmiertelnym wypadku
z udziałem autonomicznego SUV-a.

163
00:14:45,509 --> 00:14:48,762
Firma stworzyła chatbota opartego na AI.

164
00:14:48,846 --> 00:14:51,181
Zaczął wygłaszać rasistowskie opinie…

165
00:14:51,265 --> 00:14:55,394
Dwudziestu sześciu prawników
błędnie rozpoznano jako przestępców…

166
00:14:57,438 --> 00:15:02,109
Pytanie, czy systemy potrafią zrozumieć
zawiłości prawdziwego świata.

167
00:15:22,212 --> 00:15:24,423
Świat fizyczny jest nieuporządkowany.

168
00:15:25,174 --> 00:15:27,301
Wielu rzeczy nie wiemy,

169
00:15:27,968 --> 00:15:30,763
co znacznie utrudnia
szkolenie systemów AI.

170
00:15:33,098 --> 00:15:36,977
I tu zaczęły wchodzić do gry
systemy uczenia maszynowego.

171
00:15:38,520 --> 00:15:41,440
Uczenie maszynowe to wielki krok naprzód,

172
00:15:42,024 --> 00:15:45,611
bo dzięki niemu nie musimy
uczyć komputerów wszystkiego.

173
00:15:47,905 --> 00:15:52,409
Wystarczy dać komputerowi
miliony informacji,

174
00:15:52,493 --> 00:15:54,453
a on zaczyna się uczyć.

175
00:15:55,746 --> 00:15:57,289
I to czegokolwiek.

176
00:16:00,250 --> 00:16:02,962
W projekcie Robot Dog staramy się pokazać,

177
00:16:03,045 --> 00:16:09,009
że nasz pies będzie w stanie chodzić
po najróżniejszych terenach.

178
00:16:10,052 --> 00:16:14,181
Ludzka zdolność chodzenia
wyewoluowała przez miliardy lat,

179
00:16:14,932 --> 00:16:20,688
ale adaptacja do różnych terenów
wymaga dużej inteligencji.

180
00:16:21,939 --> 00:16:24,316
Pytanie więc, czy systemy robotyczne

181
00:16:24,400 --> 00:16:27,069
mogą się adaptować
tak jak ludzie i zwierzęta.

182
00:16:35,953 --> 00:16:40,582
Kiedy stosujemy uczenie maszynowe,
zbieramy mnóstwo danych w symulacjach.

183
00:16:42,668 --> 00:16:45,838
Symulacja to cyfrowa kopia rzeczywistości.

184
00:16:46,588 --> 00:16:52,052
Na różnych komputerach może działać
mnóstwo wersji rzeczywistości.

185
00:16:53,178 --> 00:16:56,974
Symulacja próbkuje tysiące działań.

186
00:16:58,892 --> 00:17:03,856
Napotykane podłoża
różnią się śliskością, miękkością…

187
00:17:04,898 --> 00:17:09,903
Bierzemy doświadczenie
zdobyte przez tysiące robotów w symulacji

188
00:17:09,987 --> 00:17:13,282
i wgrywamy je
do prawdziwego układu robotycznego.

189
00:17:15,492 --> 00:17:20,039
Dzisiejszy test pokaże, czy robot
przystosuje się do nowego terenu.

190
00:17:53,197 --> 00:17:58,577
Kiedy robot poruszał się po gąbce,
tupał stopami po ziemi.

191
00:17:59,495 --> 00:18:02,206
Kiedy przeszedł na podłoże polimerowe,

192
00:18:03,248 --> 00:18:06,460
starał się dostosowywać ruchy,
żeby się nie ślizgać.

193
00:18:08,670 --> 00:18:10,672
W takiej chwili człowiek pojmuje,

194
00:18:10,756 --> 00:18:14,051
że takie są możliwości
uczenia maszynowego.

195
00:18:41,161 --> 00:18:44,123
Robotyczne psy mogą być przydatne

196
00:18:44,206 --> 00:18:46,166
w sytuacji klęski żywiołowej,

197
00:18:46,250 --> 00:18:49,670
kiedy trzeba się przemieszczać
po różnych typach terenów.

198
00:18:52,631 --> 00:18:57,427
Mogą także prowadzić obserwacje
w trudnych środowiskach.

199
00:19:15,696 --> 00:19:19,575
Większość technologii napotyka problem,

200
00:19:19,658 --> 00:19:22,369
że mogą one służyć i dobrym, i złym celom.

201
00:19:24,079 --> 00:19:27,875
Dzięki technologii jądrowej
możemy pozyskiwać energię…

202
00:19:30,419 --> 00:19:33,797
ale możemy też budować
bomby atomowe, które są złe.

203
00:19:35,090 --> 00:19:38,468
To tak zwany
problem podwójnego zastosowania.

204
00:19:38,552 --> 00:19:40,929
Ogień ma podwójne zastosowanie.

205
00:19:41,722 --> 00:19:44,308
Tak samo ludzka inteligencja.

206
00:19:44,391 --> 00:19:48,645
Więc to samo tyczy się
także sztucznej inteligencji.

207
00:19:49,354 --> 00:19:53,984
To bardzo ważne,
żeby myśleć o AI w kontekście zastosowań.

208
00:19:54,693 --> 00:19:59,114
To wspaniałe mieć robota
do akcji poszukiwawczo-ratunkowych,

209
00:19:59,198 --> 00:20:02,284
który pomoże znaleźć człowieka
po zejściu lawiny,

210
00:20:02,868 --> 00:20:05,871
ale tego samego robota
można wykorzystać jako broń.

211
00:20:15,088 --> 00:20:17,341
Kiedy widzisz firmy

212
00:20:17,424 --> 00:20:21,094
umieszczające na robotach broń,

213
00:20:21,178 --> 00:20:22,930
trochę się wściekasz.

214
00:20:23,931 --> 00:20:28,435
Między innymi dlatego,
że dociera do ciebie,

215
00:20:28,518 --> 00:20:30,062
że to nieuniknione.

216
00:20:31,021 --> 00:20:34,441
Ta technologia może zmienić świat.

217
00:20:36,235 --> 00:20:38,028
Takie systemy uzbrojenia

218
00:20:38,111 --> 00:20:43,617
mogą mieć drastyczny wpływ
na nasze bezpieczeństwo.

219
00:20:46,161 --> 00:20:48,664
Na razie nie mamy pewności,

220
00:20:48,747 --> 00:20:54,962
czy maszyny są w stanie rozróżniać
cywili od żołnierzy.

221
00:21:01,843 --> 00:21:05,597
Na początku wojny w Afganistanie
mój oddział snajperów

222
00:21:05,681 --> 00:21:08,016
szukał wrogów przekraczających granicę.

223
00:21:09,685 --> 00:21:12,521
Posłali małą dziewczynkę,
żeby nas zlokalizowała.

224
00:21:13,939 --> 00:21:17,067
Nawet nie przeszło nam przez myśl,
żeby ją zastrzelić.

225
00:21:19,695 --> 00:21:22,864
Zgodnie z prawem wojennym
byłoby to legalne.

226
00:21:24,950 --> 00:21:27,369
Żołnierz wroga może być w dowolnym wieku.

227
00:21:29,079 --> 00:21:33,417
Robot, który w pełni przestrzegałby
prawa wojennego,

228
00:21:33,500 --> 00:21:35,252
zastrzeliłby tę dziewczynkę.

229
00:21:36,420 --> 00:21:41,091
Skąd robot miałby odróżnić to,
co legalne, od tego, co słuszne?

230
00:21:43,385 --> 00:21:46,054
Wojna z użyciem autonomicznych dronów

231
00:21:46,138 --> 00:21:51,601
ma zmniejszyć szkody
na psychice amerykańskich żołnierzy.

232
00:21:52,602 --> 00:21:56,398
Ale dzieje się to kosztem
strat wśród ludności cywilnej

233
00:21:56,481 --> 00:21:58,775
Afganistanu, Iraku czy Somalii.

234
00:22:09,619 --> 00:22:14,416
Zapytałbym tych, którzy popierają
zastosowanie AI w dronach:

235
00:22:15,375 --> 00:22:18,211
„A gdyby na celowniku była wasza wioska?”.

236
00:22:23,550 --> 00:22:25,635
AI to miecz obosieczny.

237
00:22:26,595 --> 00:22:30,724
Może służyć dobru.
Tak byśmy go zwykle używali.

238
00:22:31,558 --> 00:22:33,477
Ale wystarczy jedno kliknięcie,

239
00:22:34,561 --> 00:22:38,023
a technologia
może stać się wręcz zabójcza.

240
00:22:38,106 --> 00:22:40,233
RALEIGH
KAROLINA PÓŁNOCNA

241
00:22:47,032 --> 00:22:49,117
Jestem farmakologiem klinicznym.

242
00:22:49,618 --> 00:22:50,994
Mam zespół ludzi,

243
00:22:51,078 --> 00:22:54,247
który wykorzystuje AI,
by opracowywać nowe leki,

244
00:22:54,331 --> 00:22:57,751
które wyleczą choroby,
którym poświęca się zbyt mało uwagi.

245
00:22:59,711 --> 00:23:04,132
Kiedyś praca nad lekiem wyglądała tak,
że brało się istniejącą cząsteczkę

246
00:23:04,216 --> 00:23:06,885
i poprawiało ją, żeby otrzymać nowy lek.

247
00:23:08,261 --> 00:23:13,350
Teraz opracowaliśmy AI,
które może podsunąć miliony pomysłów

248
00:23:13,892 --> 00:23:15,227
i miliony cząsteczek.

249
00:23:16,186 --> 00:23:19,231
To otwiera mnóstwo możliwości

250
00:23:19,314 --> 00:23:22,567
leczenia chorób,
które dotąd były nieuleczalne.

251
00:23:25,153 --> 00:23:30,158
Ale AI ma też mroczną stronę,
której nie spodziewałem się bliżej poznać.

252
00:23:33,120 --> 00:23:34,371
Wszystko zaczęło się,

253
00:23:34,454 --> 00:23:40,043
kiedy szwajcarska instytucja
Spiez Laboratory poprosiła mnie

254
00:23:40,544 --> 00:23:44,423
o wygłoszenie prezentacji
na temat potencjalnych nadużyć AI.

255
00:23:48,343 --> 00:23:51,221
Sean przesłał mi e-mail
z kilkoma pomysłami

256
00:23:51,304 --> 00:23:55,308
na nadużycie
naszej sztucznej inteligencji.

257
00:23:56,059 --> 00:24:00,355
Sprawdźmy, czy zamiast kazać modelowi
opracowywać cząsteczki lekarstw

258
00:24:00,439 --> 00:24:02,274
służące do leczenia chorób,

259
00:24:02,774 --> 00:24:06,403
możemy generować
jak najbardziej toksyczne cząsteczki.

260
00:24:10,198 --> 00:24:15,620
Chciałem sprawdzić, czy przy pomocy AI
można tworzyć zabójcze cząsteczki.

261
00:24:17,414 --> 00:24:20,083
Myśleliśmy, że to się nie uda,

262
00:24:20,167 --> 00:24:24,504
bo podmieniliśmy tylko
jedno zero na jedynkę.

263
00:24:26,715 --> 00:24:30,385
Dzięki temu
zamiast minimalizować toksyczność,

264
00:24:30,469 --> 00:24:33,555
zaczęliśmy ją maksymalizować. To wszystko.

265
00:24:37,517 --> 00:24:40,729
Kiedy ja byłem w domu, komputer pracował.

266
00:24:41,521 --> 00:24:44,816
Generował kolejne tysiące cząsteczek,

267
00:24:45,650 --> 00:24:49,529
a my musieliśmy tylko wcisnąć „start”.

268
00:24:54,493 --> 00:24:58,330
Następnego ranka miałem na komputerze plik

269
00:24:59,080 --> 00:25:03,376
zawierający około 40 tysięcy cząsteczek,

270
00:25:03,460 --> 00:25:05,253
które mogły należeć

271
00:25:05,337 --> 00:25:08,882
do grona najbardziej toksycznych,
jakie poznała ludzkość.

272
00:25:10,217 --> 00:25:12,761
Dosłownie przeszły mnie ciarki.

273
00:25:13,386 --> 00:25:14,554
Byłem w szoku.

274
00:25:15,388 --> 00:25:19,017
Komputer opracował
dziesiątki tysięcy pomysłów

275
00:25:19,100 --> 00:25:20,685
na nowe bronie chemiczne.

276
00:25:21,645 --> 00:25:27,609
Otrzymaliśmy w zbiorze
cząsteczki analogów VX i samo VX.

277
00:25:28,360 --> 00:25:31,363
VX to jedna z najgroźniejszych
broni chemicznych.

278
00:25:31,863 --> 00:25:34,115
Policja donosi, że kobiety,

279
00:25:34,199 --> 00:25:37,786
które zamordowały na lotnisku
Kim Dzong Nama,

280
00:25:37,869 --> 00:25:41,248
użyły środka oddziałującego na nerwy
znanego jako VX.

281
00:25:41,748 --> 00:25:44,417
Powoduje śmierć przez uduszenie.

282
00:25:45,043 --> 00:25:47,629
To bardzo potężna cząsteczka.

283
00:25:47,712 --> 00:25:52,092
A większość wygenerowanych cząsteczek
miała być jeszcze bardziej zabójcza.

284
00:25:53,301 --> 00:25:56,972
O ile wiemy, wielu z nich
nigdy jeszcze nie widziano.

285
00:25:57,472 --> 00:26:02,310
Kiedy zdaliśmy sobie z tego sprawę,
pomyśleliśmy: „Co myśmy zrobili?”.

286
00:26:04,771 --> 00:26:09,192
Szybko zrozumiałem,
że otworzyliśmy puszkę Pandory.

287
00:26:09,901 --> 00:26:13,280
Powiedziałem:
„Dość. Nie rób nic więcej. To koniec.

288
00:26:13,905 --> 00:26:17,158
Przygotuj mi tylko slajdy na prezentację”.

289
00:26:19,202 --> 00:26:23,873
Kiedy zaczynaliśmy, zdawało mi się,
że nic strasznego nie może się stać.

290
00:26:26,251 --> 00:26:30,255
Teraz wiem, że byliśmy strasznie naiwni.

291
00:26:33,466 --> 00:26:37,012
Najbardziej przeraża mnie to,
że każdy mógłby zrobić to samo.

292
00:26:38,930 --> 00:26:40,765
Wystarczy zmienić parametr.

293
00:26:42,892 --> 00:26:46,313
Jak zapanować nad tą technologią,
nim zostanie wykorzystana

294
00:26:46,396 --> 00:26:50,942
do jakichś niszczycielskich celów?

295
00:26:55,780 --> 00:27:00,285
W sercu dyskusji o sztucznej inteligencji

296
00:27:00,368 --> 00:27:03,538
i jej zastosowaniach w społeczeństwie

297
00:27:04,289 --> 00:27:08,835
leży wyścig pomiędzy władzą,
dzięki której tworzymy technologie,

298
00:27:08,918 --> 00:27:11,379
a mądrością, z jaką nimi zarządzamy.

299
00:27:13,340 --> 00:27:16,926
Implikacje moralne i etyczne są oczywiste,

300
00:27:17,010 --> 00:27:20,138
kiedy technologii,
która zasila nasze smartfony,

301
00:27:20,221 --> 00:27:23,433
chcemy powierzyć decyzję
o odebraniu komuś życia.

302
00:27:25,727 --> 00:27:31,191
Pracuję z instytutem Future of Life,
społecznością naukowców-aktywistów.

303
00:27:31,775 --> 00:27:33,443
Staramy się pokazać,

304
00:27:33,526 --> 00:27:38,698
że przyspieszanie automatyzacji
ma też drugą stronę medalu.

305
00:27:38,782 --> 00:27:42,619
Walczymy o to,
by tworzone przez nas technologie

306
00:27:42,702 --> 00:27:45,622
były wykorzystywane
w bezpieczny, etyczny sposób.

307
00:27:46,247 --> 00:27:49,959
Rozmawiajmy o zasadach działania

308
00:27:50,043 --> 00:27:54,005
i kodeksach postępowania z AI
w systemach zbrojeniowych.

309
00:27:54,798 --> 00:27:59,135
Bo na polach bitew
zaczynają się pojawiać technologie,

310
00:27:59,219 --> 00:28:01,680
które są w stanie autonomicznie zabijać.

311
00:28:10,230 --> 00:28:13,775
W roku 2021 ONZ opublikowało raport

312
00:28:13,858 --> 00:28:19,364
na temat potencjalnego wykorzystywania
zabójczej broni autonomicznej w Libii.

313
00:28:20,073 --> 00:28:23,910
Panel ONZ doniósł, że dron
używany podczas wojny domowej w Libii

314
00:28:23,993 --> 00:28:27,664
został zaprogramowany tak,
aby atakować cele autonomicznie.

315
00:28:28,289 --> 00:28:31,209
Jeśli doniesienia ONZ są prawdziwe,

316
00:28:31,292 --> 00:28:35,046
to byłby przełom w historii ludzkości.

317
00:28:35,130 --> 00:28:42,137
Bo po raz pierwszy to nie człowiek,
a AI podjęłoby decyzję o odebraniu życia.

318
00:28:49,686 --> 00:28:51,688
Zaawansowana broń autonomiczna

319
00:28:51,771 --> 00:28:55,150
zaczyna być stosowana
w różnych miejscach na świecie.

320
00:28:56,276 --> 00:28:58,278
Były doniesienia z Izraela.

321
00:29:00,280 --> 00:29:05,702
Azerbejdżan używał jej do neutralizacji
armeńskich systemów przeciwlotniczych.

322
00:29:07,370 --> 00:29:09,998
Może godzinami latać nad polem bitwy

323
00:29:10,081 --> 00:29:12,500
i samodzielnie szukać celów,

324
00:29:12,584 --> 00:29:16,087
a potem ruszyć do ataku
bez ingerencji człowieka.

325
00:29:16,796 --> 00:29:18,298
Ostatnio widzieliśmy też

326
00:29:18,381 --> 00:29:21,760
różne nagrania publikowane w Ukrainie.

327
00:29:23,303 --> 00:29:26,890
Nie jest jasne, w jakim trybie działały.

328
00:29:26,973 --> 00:29:30,393
Czy to człowiek wybierał cele ataku,

329
00:29:30,477 --> 00:29:32,729
czy maszyna robiła to samodzielnie?

330
00:29:32,812 --> 00:29:36,524
Ale z pewnością przyjdzie taki czas,

331
00:29:36,608 --> 00:29:40,195
w Libii, w Ukrainie albo gdzieś indziej,

332
00:29:40,278 --> 00:29:44,449
że maszyna sama zadecyduje,
kogo zabić na polu bitwy.

333
00:29:47,035 --> 00:29:50,997
Maszyny zabijające ludzi

334
00:29:51,080 --> 00:29:53,374
bez interwencji człowieka

335
00:29:53,458 --> 00:29:57,337
to coś politycznie niedopuszczalnego
i moralnie odrażającego.

336
00:29:59,088 --> 00:30:01,299
To, czy społeczność międzynarodowa

337
00:30:01,382 --> 00:30:05,011
zdoła uregulować tego typu kwestie,

338
00:30:05,094 --> 00:30:06,888
stanowi wielkie pytanie.

339
00:30:06,971 --> 00:30:08,848
ETYKA WOJNY

340
00:30:08,932 --> 00:30:12,685
Jeśli wybiegniemy myślą
nawet kilka lat w przyszłość,

341
00:30:12,769 --> 00:30:15,730
zobaczymy przerażający krajobraz.

342
00:30:16,564 --> 00:30:20,485
Ilość kapitału i zasobów ludzkich

343
00:30:20,568 --> 00:30:26,032
przeznaczanych na rozwój AI
do najróżniejszych zastosowań,

344
00:30:26,115 --> 00:30:26,950
jest ogromna.

345
00:30:27,659 --> 00:30:32,163
ARLINGTON
WIRGINIA

346
00:30:39,254 --> 00:30:41,214
Co za koleś.

347
00:30:42,257 --> 00:30:43,424
Wie, że nie wygra.

348
00:30:46,761 --> 00:30:51,099
Kiedy AI pokonuje różne problemy,
to dla mnie inspirujące.

349
00:30:51,683 --> 00:30:53,393
Wszystko na jedną kartę.

350
00:30:54,394 --> 00:30:59,524
Te same taktyki, techniki i procedury
można zastosować w świecie fizycznym.

351
00:31:00,900 --> 00:31:02,318
Dzięki za grę.

352
00:31:02,402 --> 00:31:03,653
Dzięki.

353
00:31:08,658 --> 00:31:14,122
Zaskakuje mnie, że ludzie wciąż mówią,
do czego AI nie jest zdolne.

354
00:31:14,205 --> 00:31:17,166
„AI nigdy nie pokona mistrza szachowego”.

355
00:31:20,211 --> 00:31:23,298
Komputer IBM wyszedł na prostą
w drugiej partii

356
00:31:23,381 --> 00:31:25,925
meczu z mistrzem świata Garrim Kasparowem.

357
00:31:28,136 --> 00:31:30,847
Kasparow się poddał!

358
00:31:31,598 --> 00:31:34,642
Kiedy widzę coś,
czego nie jestem w stanie pojąć,

359
00:31:34,726 --> 00:31:36,060
zaczynam się bać.

360
00:31:36,144 --> 00:31:38,062
A tego nie potrafiłem pojąć.

361
00:31:39,355 --> 00:31:41,107
Potem ludzie mówili,

362
00:31:41,190 --> 00:31:44,402
że AI nigdy nie pokona
mistrza świata w go.

363
00:31:44,485 --> 00:31:50,700
Wierzę, że ludzka intuicja
jest zbyt zaawansowana,

364
00:31:50,783 --> 00:31:52,827
aby AI mogło jej dorównać.

365
00:31:55,330 --> 00:31:58,416
Go to jedna z najbardziej złożonych gier,

366
00:31:58,499 --> 00:32:02,211
bo kiedy podliczy się liczbę
możliwych do wykonania ruchów,

367
00:32:02,295 --> 00:32:05,256
jest ona wyższa
niż liczba atomów we wszechświecie.

368
00:32:06,799 --> 00:32:08,968
Zespół DeepMind w Google

369
00:32:09,052 --> 00:32:11,471
stworzył program zwany AlphaGo,

370
00:32:11,554 --> 00:32:14,390
który miał pokonać
najlepszych graczy na świecie.

371
00:32:16,559 --> 00:32:19,437
- Gratulacje dla…
- AlphaGo.

372
00:32:19,520 --> 00:32:22,774
Program komputerowy
pokonał zawodowca stopnia 9 dan.

373
00:32:25,652 --> 00:32:31,532
Na kolejne wyzwanie
DeepMind wybrał grę StarCraft.

374
00:32:33,743 --> 00:32:38,081
StarCraft to najpopularniejsza
strategia czasu rzeczywistego w historii.

375
00:32:40,333 --> 00:32:44,712
AlphaStar stał się sławny,
kiedy zaczął pokonywać mistrzów świata.

376
00:32:45,338 --> 00:32:48,800
AlphaStar roznosi immortali…

377
00:32:48,883 --> 00:32:52,470
Wiesz co? Tej walki zawodowcy
nie będą w stanie wygrać.

378
00:32:53,680 --> 00:32:55,056
To wręcz absurdalne.

379
00:32:57,642 --> 00:32:59,268
Zawodowi gracze mówili:

380
00:32:59,352 --> 00:33:02,438
„Nigdy nie spróbowałbym
tej taktyki czy strategii.

381
00:33:02,522 --> 00:33:04,816
To nie jest ludzkie”.

382
00:33:07,151 --> 00:33:10,655
Wtedy doznałem objawienia.

383
00:33:13,574 --> 00:33:16,661
Zrozumiałem, że nadszedł ten czas.

384
00:33:17,412 --> 00:33:21,082
Mamy ważną technologię
i szansę, żeby coś zmienić.

385
00:33:24,502 --> 00:33:29,382
Znałem tylko problem z walką w budynkach,
z którymi sam się mierzyłem,

386
00:33:30,383 --> 00:33:34,470
ale jeden z moich kolegów,
pilot F-18, powiedział mi,

387
00:33:34,554 --> 00:33:37,724
że piloci myśliwców mają ten sam problem.

388
00:33:37,807 --> 00:33:39,434
„Zagłuszają łączność.

389
00:33:39,517 --> 00:33:42,645
Chronią wiele obszarów
rakietami ziemia-powietrze,

390
00:33:42,729 --> 00:33:44,439
co uniemożliwia loty”.

391
00:33:47,483 --> 00:33:50,987
Wspaniale byłoby mieć
myśliwiec pilotowany przez AI.

392
00:33:51,070 --> 00:33:52,739
Witamy na AlphaDogfight.

393
00:33:52,822 --> 00:33:56,159
Za kilka minut
zacznie się pierwszy półfinał.

394
00:33:56,242 --> 00:33:59,871
DARPA, agencja projektów badawczych
Departamentu Obrony,

395
00:33:59,954 --> 00:34:03,624
zobaczyła AlphaGo i AlphaStar

396
00:34:04,292 --> 00:34:08,171
i tak zrodził się pomysł na AlphaDogfight.

397
00:34:09,130 --> 00:34:11,466
Tak ma się zachowywać pilot myśliwca.

398
00:34:11,549 --> 00:34:13,593
To wygląda jak walka ludzi.

399
00:34:15,595 --> 00:34:19,057
To pojedynek pilotów myśliwców.

400
00:34:19,849 --> 00:34:22,852
Można o tym myśleć
jako o podniebnym boksie.

401
00:34:23,853 --> 00:34:26,314
Może ktoś oglądał film Top Gun.

402
00:34:26,397 --> 00:34:27,815
Damy radę im uciec?

403
00:34:28,649 --> 00:34:31,277
- Ich rakietom nie.
- No to walczymy.

404
00:34:35,531 --> 00:34:39,410
Nauka walki powietrznej
zajmuje osiem, dziesięć lat.

405
00:34:42,288 --> 00:34:46,209
Budowa AI, które się tego nauczy,
to niezwykle złożone wyzwanie.

406
00:34:49,629 --> 00:34:52,381
ARLINGTON
WIRGINIA

407
00:34:54,092 --> 00:34:58,679
Wcześniejsze próby implementacji AI
w walkach powietrznych zawodziły.

408
00:34:59,222 --> 00:35:03,017
Uważaliśmy, że rozwiązaniem problemu
może być uczenie maszynowe.

409
00:35:04,477 --> 00:35:08,189
Na początku AI nie wiedziało nic
o otaczającym go świecie.

410
00:35:08,272 --> 00:35:11,025
Nie wiedziało, że leci,
na czym polega walka

411
00:35:11,109 --> 00:35:12,735
ani czym jest F-16.

412
00:35:13,236 --> 00:35:16,155
Znało tylko dostępne sobie akcje

413
00:35:16,239 --> 00:35:18,407
i zaczęło je losowo testować.

414
00:35:19,325 --> 00:35:23,204
Niebieski samolot ma za sobą
krótki okres treningu.

415
00:35:23,287 --> 00:35:25,832
Widać, że chwieje się na boki,

416
00:35:26,624 --> 00:35:30,586
lata bardzo nierówno
i tylko ucieka od przeciwnika.

417
00:35:31,587 --> 00:35:36,134
Z biegiem walki niebieski
zaczął opracowywać plan gry.

418
00:35:36,759 --> 00:35:38,636
Szukać okazji do strzelania.

419
00:35:39,178 --> 00:35:41,305
Co jakiś czas algorytm mówił:

420
00:35:41,389 --> 00:35:43,891
„Masz tu ciasteczko. To było dobre”.

421
00:35:45,268 --> 00:35:50,064
Możemy wykorzystać moc obliczeniową
i równolegle trenować wiele agentów.

422
00:35:51,357 --> 00:35:53,192
To jak z drużyną koszykówki.

423
00:35:53,276 --> 00:35:55,778
Zamiast ciągle grać z tą samą drużyną,

424
00:35:55,862 --> 00:36:00,867
my jeździmy po świecie
i gramy z 512 różnymi naraz.

425
00:36:01,534 --> 00:36:03,619
Tak można szybko stać się świetnym.

426
00:36:04,162 --> 00:36:07,456
Symulacja działała przez całą dobę

427
00:36:07,540 --> 00:36:11,919
i po dziesięciu miesiącach
mieliśmy jakieś 30 lat treningu pilota.

428
00:36:12,879 --> 00:36:15,631
Na początku AI ledwo potrafiło sterować,

429
00:36:15,715 --> 00:36:17,717
a teraz jest bezwzględnym zabójcą.

430
00:36:19,010 --> 00:36:23,472
Podczas treningu AI zawsze walczyło
z inną sztuczną inteligencją.

431
00:36:24,473 --> 00:36:28,561
Ale naszym celem
była bezpośrednia rywalizacja z ludźmi.

432
00:36:34,233 --> 00:36:36,027
Nazywam się Mike Benitez,

433
00:36:36,110 --> 00:36:39,071
jestem podpułkownikiem
w Siłach Powietrznych USA.

434
00:36:39,155 --> 00:36:41,157
Od 25 lat w aktywnej służbie.

435
00:36:42,825 --> 00:36:44,869
Mam na koncie 250 misji bojowych

436
00:36:45,578 --> 00:36:47,538
i ukończyłem Weapons School,

437
00:36:48,039 --> 00:36:49,832
czyli naszą wersję Top Gun.

438
00:36:52,627 --> 00:36:55,171
Nigdy nie walczyłem z AI.

439
00:36:55,254 --> 00:36:58,549
Z chęcią się przekonam, jak mi pójdzie.

440
00:36:59,634 --> 00:37:03,179
Ustawienie ofensywne,
1800 metrów, dziób do dziobu.

441
00:37:04,388 --> 00:37:05,223
Zaczynamy.

442
00:37:13,314 --> 00:37:14,148
Poleciał.

443
00:37:14,732 --> 00:37:16,651
Bardzo ciekawe.

444
00:37:20,780 --> 00:37:23,658
- Nie żyje.
- Dostał. Pełen sukces.

445
00:37:25,910 --> 00:37:27,453
Dobra, runda druga.

446
00:37:35,461 --> 00:37:40,508
Sztuczna inteligencja
manewruje z taką precyzją,

447
00:37:41,384 --> 00:37:43,219
że nie dotrzymuję jej kroku.

448
00:37:48,474 --> 00:37:49,725
Prosto w przecięcie…

449
00:37:50,309 --> 00:37:51,894
I cię nie ma.

450
00:37:53,145 --> 00:37:53,980
Mam go!

451
00:37:54,063 --> 00:37:55,022
I tak dostałem.

452
00:37:58,567 --> 00:38:00,069
AI nigdy się nie boi.

453
00:38:00,736 --> 00:38:03,781
W grę wchodzi element ludzki,
którego AI nie ma.

454
00:38:04,991 --> 00:38:08,077
Jedną z ciekawszych strategii
opracowanych przez AI

455
00:38:08,160 --> 00:38:10,121
jest strzał z przodu.

456
00:38:10,621 --> 00:38:16,377
Człowiek zwykle woli strzelać z tyłu,
bo wtedy przeciwnikowi trudno uciec.

457
00:38:17,044 --> 00:38:20,381
Nie strzela z przodu,
bo to jest jak gra w tchórza.

458
00:38:21,424 --> 00:38:23,050
Kiedy lecimy ku sobie,

459
00:38:23,134 --> 00:38:27,096
900 metrów staje się 150 metrami
w mgnieniu oka.

460
00:38:27,596 --> 00:38:31,183
Istnieje dużo ryzyko zderzenia,
więc ludzie tego nie próbują.

461
00:38:32,893 --> 00:38:35,938
AI nie boi się śmierci,
jeśli nie każemy mu się bać.

462
00:38:37,857 --> 00:38:44,113
Czuję się, jakbym walczył z człowiekiem,
ale wyjątkowo lekkomyślnym.

463
00:38:45,489 --> 00:38:47,325
Nie przetrwa tego.

464
00:38:57,168 --> 00:38:58,294
Nie zdąży.

465
00:39:01,964 --> 00:39:02,965
Dobranoc.

466
00:39:04,091 --> 00:39:04,925
Nie żyję.

467
00:39:16,812 --> 00:39:20,900
Fakt, że mogę nie być najlepszym wyborem
do takich misji, uczy pokory.

468
00:39:21,484 --> 00:39:24,320
To coś może mnie kiedyś zastąpić.

469
00:39:25,696 --> 00:39:27,031
Te same parametry.

470
00:39:27,615 --> 00:39:28,949
Przesunięcie o tysiąc.

471
00:39:29,492 --> 00:39:34,830
Sztuczny pilot myśliwca
po prostu dominuje walkę.

472
00:39:34,914 --> 00:39:37,249
To nie jest tylko zdecydowana wygrana.

473
00:39:37,333 --> 00:39:41,545
Jest tak potężny, że od razu myśli się,
jak załadować to do kokpitu.

474
00:39:43,672 --> 00:39:47,802
To realistyczne oczekiwać,
że AI będzie pilotowało F-16.

475
00:39:47,885 --> 00:39:49,970
I to stosunkowo niedługo.

476
00:39:51,305 --> 00:39:56,769
Kiedy rywalizujesz z pilotem AI,
który wygrywa w 99,99999% przypadków,

477
00:39:56,852 --> 00:39:58,062
jesteś bez szans.

478
00:39:59,605 --> 00:40:02,733
Kiedy myślę,
że jeden pilot AI jest niepokonany,

479
00:40:02,817 --> 00:40:06,695
zastanawiam się, co mógłby osiągnąć

480
00:40:07,279 --> 00:40:12,535
zespół 50, 100 czy 1000 takich AI.

481
00:40:13,702 --> 00:40:18,791
Rój to zespół współpracujących
inteligentnych statków powietrznych.

482
00:40:19,291 --> 00:40:23,462
Dzielą się informacjami o tym,
jak rozwiązać dany problem.

483
00:40:25,172 --> 00:40:32,054
To będzie przełomowa technologia
dla naszego wojska i naszych sojuszników.

484
00:41:42,750 --> 00:41:47,379
Cel namierzony. Drony go śledzą.

485
00:42:02,019 --> 00:42:03,604
Teraz lądowanie.

486
00:42:07,566 --> 00:42:10,402
Głównym celem
rozwoju technologii roju jest to,

487
00:42:11,153 --> 00:42:13,697
żeby posłać dużą liczbę dronów

488
00:42:13,781 --> 00:42:17,910
na trudnodostępny
lub niebezpieczny obszar.

489
00:42:21,705 --> 00:42:26,085
Ten konkretny projekt
wspierało laboratorium wojskowe.

490
00:42:26,919 --> 00:42:28,963
Jeśli chcemy zbadać teren,

491
00:42:29,046 --> 00:42:32,883
który jest trudnodostępny
albo zajmuje duży obszar,

492
00:42:33,676 --> 00:42:35,886
to rój stanowi naturalny sposób,

493
00:42:35,970 --> 00:42:38,389
aby poszerzyć zasięg działań

494
00:42:38,472 --> 00:42:41,934
i uzyskać krytyczne dla misji informacje.

495
00:42:46,689 --> 00:42:51,485
Obecnie dajemy rojowi jedno polecenie:

496
00:42:51,569 --> 00:42:53,904
śledzić wyznaczony cel.

497
00:42:54,488 --> 00:42:57,283
Drony robią to samodzielne.

498
00:42:59,493 --> 00:43:04,081
Sztuczna inteligencja pozwala robotom
poruszać się jak jeden rój

499
00:43:04,164 --> 00:43:05,916
w sposób zdecentralizowany.

500
00:43:10,671 --> 00:43:14,717
W naturalnych rojach nie ma przywódcy.

501
00:43:14,800 --> 00:43:18,178
Żadne zwierzę nie mówi innym,
co mają robić.

502
00:43:21,056 --> 00:43:23,183
Zachowanie grupy wynika z tego,

503
00:43:23,267 --> 00:43:27,104
że każde ze zwierząt
przestrzega kilku prostych zasad.

504
00:43:27,688 --> 00:43:32,443
To z nich wypływa obserwowane przez nas
zachowanie całej grupy.

505
00:43:33,944 --> 00:43:37,031
W naturalnych rojach zachwycające jest to,

506
00:43:37,114 --> 00:43:39,992
z jaką gracją się poruszają.

507
00:43:40,576 --> 00:43:44,288
Jakby zbudowano je po to,
by należały do tej grupy.

508
00:43:46,790 --> 00:43:51,086
Najbardziej chcielibyśmy,
żeby w naszym roju,

509
00:43:51,170 --> 00:43:53,172
tak samo jak w rojach w naturze,

510
00:43:53,672 --> 00:43:56,717
decyzje były podejmowane przez całą grupę.

511
00:43:59,928 --> 00:44:02,765
Kolejną inspiracją dla nas

512
00:44:02,848 --> 00:44:06,268
jest niezawodność i wytrzymałość.

513
00:44:07,311 --> 00:44:09,188
Rój się nie rozpadnie,

514
00:44:09,271 --> 00:44:13,567
jeśli jedno zwierzę
nie zrobi tego, co powinno.

515
00:44:15,194 --> 00:44:18,697
Nawet jeśli jeden z agentów się zepsuje

516
00:44:18,781 --> 00:44:21,283
albo nie będzie mógł wykonać zadania,

517
00:44:21,909 --> 00:44:23,577
rój będzie działał dalej.

518
00:44:25,204 --> 00:44:27,873
Właśnie do tego dążymy.

519
00:44:29,333 --> 00:44:33,879
Na polu bitwy musimy być zdolni
do rozpoznawania jednostek wroga.

520
00:44:33,962 --> 00:44:37,841
Kiedyś każdego robota
musiała kontrolować jedna osoba.

521
00:44:38,592 --> 00:44:42,096
Mam nadzieję,
że dzięki rozwojowi autonomii

522
00:44:42,179 --> 00:44:46,558
duże liczby robotów
będzie kontrolować niewielu ludzi.

523
00:44:47,851 --> 00:44:50,854
Nie widzę powodu,
by z czasem nie dojść do tysiąca,

524
00:44:51,355 --> 00:44:54,942
bo każdy agent
będzie działał samodzielnie.

525
00:44:55,025 --> 00:44:56,443
Tu nie ma granic.

526
00:44:56,527 --> 00:44:59,071
Możemy przeskalować uczenie…

527
00:44:59,154 --> 00:45:03,325
Od jakiegoś czasu pracujemy
nad technologią roju w symulacjach,

528
00:45:03,409 --> 00:45:06,912
a teraz czas ją wdrożyć
w świecie fizycznym.

529
00:45:07,413 --> 00:45:12,042
Planujemy uruchomić sieć trzech robotów,

530
00:45:12,126 --> 00:45:15,129
a potem zwiększać możliwości.

531
00:45:15,838 --> 00:45:18,632
Chcemy testować rozwiązania
na małych systemach,

532
00:45:18,716 --> 00:45:22,219
a potem zastosować je
do większych systemów.

533
00:45:22,302 --> 00:45:23,679
Na przykład myśliwców.

534
00:45:24,596 --> 00:45:26,515
Wiele dyskutujemy o tym,

535
00:45:26,598 --> 00:45:31,937
jak dać plutonowi siłę bojową batalionu.

536
00:45:34,982 --> 00:45:39,528
Albo batalionowi – siłę brygady.

537
00:45:39,611 --> 00:45:41,613
Technologia roju na to pozwala.

538
00:45:42,614 --> 00:45:45,200
Kiedy odblokujemy jej potencjał,

539
00:45:45,284 --> 00:45:49,455
zyskamy nowy strategiczny element
zniechęcający do agresji wojskowej.

540
00:45:52,332 --> 00:45:57,004
Najbardziej ekscytuje mnie
liczba młodych mężczyzn i kobiet,

541
00:45:57,087 --> 00:46:00,340
których ocalimy,
jeśli dobrze to rozegramy.

542
00:46:01,133 --> 00:46:03,594
Będziemy narażać maszyny,

543
00:46:04,553 --> 00:46:05,846
a nie ludzkie życie.

544
00:46:06,597 --> 00:46:09,725
Według niektórych
wojna z użyciem broni autonomicznej

545
00:46:09,808 --> 00:46:12,311
będzie bardziej precyzyjna i humanitarna.

546
00:46:12,853 --> 00:46:15,397
Ale tak naprawdę trudno przewidzieć,

547
00:46:15,481 --> 00:46:19,443
jak dokładnie taka broń wpłynie na wojnę.

548
00:46:21,403 --> 00:46:23,238
To jak z bronią maszynową.

549
00:46:25,157 --> 00:46:27,117
Richard Gatling był wynalazcą.

550
00:46:27,201 --> 00:46:30,954
Widział rannych żołnierzy
wracających z wojny secesyjnej

551
00:46:32,289 --> 00:46:35,292
i chciał, żeby wojna
była bardziej humanitarna.

552
00:46:36,627 --> 00:46:39,797
Postanowił zmniejszyć liczbę poległych,

553
00:46:40,422 --> 00:46:42,633
zmniejszając liczbę walczących.

554
00:46:44,092 --> 00:46:46,261
Wynalazł więc kartaczownicę,

555
00:46:46,345 --> 00:46:50,516
broń obracaną za pomocą korby,
która automatyzowała proces strzelania.

556
00:46:53,268 --> 00:46:57,981
Broń ta stukrotnie zwiększała
siłę ognia żołnierza.

557
00:47:01,235 --> 00:47:05,239
Starania, żeby wojna była
bardziej precyzyjna i humanitarna,

558
00:47:06,490 --> 00:47:08,116
często mają odwrotny efekt.

559
00:47:10,160 --> 00:47:17,125
Jeden zbłąkany dron atakujący wioskę
może zwrócić ludność przeciwko USA

560
00:47:17,209 --> 00:47:18,544
i lokalnym władzom.

561
00:47:18,627 --> 00:47:20,712
Tak zwanym „tym dobrym”.

562
00:47:22,589 --> 00:47:25,092
A teraz przemnóżmy to razy tysiąc.

563
00:47:26,802 --> 00:47:31,974
Stworzenie taniego, skalowalnego
systemu zbrojeniowego,

564
00:47:32,057 --> 00:47:34,560
który nie wymaga operatorów,

565
00:47:34,643 --> 00:47:37,896
drastycznie zmienia
barierę wejścia w konflikt.

566
00:47:40,107 --> 00:47:44,903
Przeraża mnie wizja świata,
w którym wojna jest wszechobecna

567
00:47:44,987 --> 00:47:48,657
i nie musimy myśleć
o ludzkich i finansowych kosztach wojny,

568
00:47:48,740 --> 00:47:51,410
bo jesteśmy tak odizolowani…

569
00:47:52,369 --> 00:47:54,037
od tych, którzy umierają.

570
00:47:59,543 --> 00:48:00,794
Byłem przerażony.

571
00:48:02,212 --> 00:48:05,924
Potrzebowałem tylko przykładu
nadużycia sztucznej inteligencji.

572
00:48:06,800 --> 00:48:10,846
Nieprzewidziane konsekwencje
tego prostego eksperymentu myślowego

573
00:48:10,929 --> 00:48:12,848
zaszły zbyt daleko.

574
00:48:13,348 --> 00:48:16,143
AI W OPRACOWYWANIU LEKÓW: SZKODY A ZYSKI

575
00:48:17,311 --> 00:48:18,812
Podczas mojej prezentacji

576
00:48:18,896 --> 00:48:22,107
o toksycznych cząsteczkach
stworzonych przez AI

577
00:48:22,608 --> 00:48:24,318
słuchającym opadły szczęki.

578
00:48:25,402 --> 00:48:27,613
5000 ZWIĄZKÓW BYŁO ANALOGAMI VX

579
00:48:29,406 --> 00:48:33,577
Kolejnym krokiem była decyzja,
czy opublikować tę informację.

580
00:48:34,912 --> 00:48:39,166
Z jednej strony chcieliśmy ostrzec świat
przed tego typu możliwościami,

581
00:48:39,249 --> 00:48:44,087
ale z drugiej – nie chcieliśmy nikomu
podsunąć takiego pomysłu.

582
00:48:46,381 --> 00:48:48,175
Postanowiliśmy ją opublikować,

583
00:48:48,258 --> 00:48:52,679
żeby mieć szansę znaleźć sposoby
na ograniczenie tego ryzyka,

584
00:48:52,763 --> 00:48:54,139
zanim będzie za późno.

585
00:48:54,222 --> 00:48:56,975
PODWÓJNE ZASTOSOWANIE AI
W OPRACOWYWANIU LEKÓW

586
00:48:57,559 --> 00:49:01,813
…TECHNOLOGIA AI MOŻE BYĆ WYKORZYSTANA
DO PRODUKCJI BRONI BIOCHEMICZNEJ.

587
00:49:01,897 --> 00:49:04,775
Reakcja społeczeństwa była wstrząsająca.

588
00:49:07,194 --> 00:49:10,656
Na stronie mamy dostęp
do statystyk odwiedzających.

589
00:49:10,739 --> 00:49:14,451
Zazwyczaj mamy szczęście,
jeśli nasze artykuły przeczyta

590
00:49:14,534 --> 00:49:19,831
kilka tysięcy osób
na przestrzeni roku lub kilku lat.

591
00:49:19,915 --> 00:49:22,167
Ten w tydzień przeczytało 10 000 osób.

592
00:49:22,250 --> 00:49:25,337
Potem 20 tysięcy. I 30. I 40.

593
00:49:25,837 --> 00:49:28,715
Dobiliśmy do 10 tysięcy osób dziennie.

594
00:49:30,258 --> 00:49:33,512
Pisali o nas w The Economist
i w Financial Times.

595
00:49:35,639 --> 00:49:38,141
Odezwało się Radiolab.

596
00:49:38,809 --> 00:49:39,977
Słyszałem o nich!

597
00:49:41,937 --> 00:49:45,315
Potem reakcje wymknęły się spod kontroli.

598
00:49:49,778 --> 00:49:53,532
Na Twitterze pisali:
„Boże, czy mogli zrobić coś gorszego?”.

599
00:49:54,324 --> 00:49:55,993
„Dlaczego to zrobili?”

600
00:50:01,164 --> 00:50:04,501
A potem dostaliśmy
nieoczekiwane zaproszenie.

601
00:50:08,797 --> 00:50:12,926
W Białym Domu
było wiele dyskusji o naszym artykule.

602
00:50:13,010 --> 00:50:15,345
Chcieli pilnie z nami porozmawiać.

603
00:50:18,890 --> 00:50:23,020
To oczywiście wielki zaszczyt
rozmawiać z ludźmi na tym szczeblu.

604
00:50:23,603 --> 00:50:25,272
A potem uderza cię:

605
00:50:25,355 --> 00:50:28,316
„Boże, to jest Biały Dom. To szef”.

606
00:50:29,693 --> 00:50:33,196
Trzeba było przygotować
zbiór danych z otwartego dostępu…

607
00:50:33,280 --> 00:50:37,701
W około sześć godzin
model wygenerował ponad 40 tysięcy…

608
00:50:37,784 --> 00:50:41,038
Pytali, ile potrzeba do tego
mocy obliczeniowej.

609
00:50:41,872 --> 00:50:43,832
Powiedzieliśmy, że niewiele.

610
00:50:44,332 --> 00:50:48,211
Wystarczy zwykły, sześcioletni mac.

611
00:50:49,546 --> 00:50:51,506
To ich wprawiło w osłupienie.

612
00:50:54,968 --> 00:50:59,473
Osoby odpowiedzialne
za rozumienie bojowych agentów chemicznych

613
00:50:59,556 --> 00:51:04,019
i agencje rządowe
nie miały pojęcia o tym potencjale.

614
00:51:06,605 --> 00:51:09,816
Mamy książkę kucharską
z przepisami na broń chemiczną,

615
00:51:10,650 --> 00:51:15,572
która w rękach kogoś
o nikczemnych zamiarach

616
00:51:16,656 --> 00:51:18,992
byłaby wprost przerażająca.

617
00:51:21,787 --> 00:51:26,458
Ludzie muszą się tym zainteresować
i trzeba albo uregulować tę technologię,

618
00:51:27,250 --> 00:51:30,670
albo ograniczyć ją,
tak aby nie mogła być nadużywana.

619
00:51:31,880 --> 00:51:35,175
Bo potencjał do zabijania…

620
00:51:36,093 --> 00:51:37,344
jest tu przerażający.

621
00:51:40,680 --> 00:51:45,977
Kwestię etyki AI rozstrzyga społeczeństwo,

622
00:51:46,561 --> 00:51:50,273
nie inżynierowie,
technolodzy czy matematycy.

623
00:51:52,484 --> 00:51:56,822
Użycie każdej nowej technologii,
każdej innowacji,

624
00:51:56,905 --> 00:52:00,617
ostatecznie podlega decyzji społeczeństwa.

625
00:52:03,036 --> 00:52:06,498
Obecnie Departament Obrony mówi:

626
00:52:06,581 --> 00:52:11,920
„Tylko człowiek może podjąć decyzję
o zabiciu czegokolwiek na polu bitwy”.

627
00:52:12,504 --> 00:52:14,631
Maszyna może zabić,

628
00:52:15,674 --> 00:52:18,927
ale tylko na polecenie człowieka.

629
00:52:19,636 --> 00:52:21,429
Wątpię, żeby to się zmieniło.

630
00:52:24,808 --> 00:52:28,103
Zapewniają nas,
że taka technologia będzie bezpieczna.

631
00:52:29,729 --> 00:52:33,692
Ale wojsko Stanów Zjednoczonych
nie ma nieposzlakowanej reputacji,

632
00:52:33,775 --> 00:52:35,485
jeśli chodzi o drony bojowe.

633
00:52:36,820 --> 00:52:41,783
Jeśli chodzi o powierzenie wojsku USA
sztucznej inteligencji,

634
00:52:41,867 --> 00:52:44,327
to doświadczenia mówią za siebie.

635
00:52:46,288 --> 00:52:50,125
Regulacje Departamentu Obrony
na temat systemów autonomicznych

636
00:52:50,208 --> 00:52:52,919
nie delegalizują żadnej broni.

637
00:52:53,003 --> 00:52:56,715
Nawet jeśli wojska
nie będą chciały broni autonomicznej,

638
00:52:56,798 --> 00:53:01,678
i tak możliwe, że będą powierzać
coraz więcej decyzji maszynom,

639
00:53:01,761 --> 00:53:03,680
żeby dotrzymać kroku rywalom.

640
00:53:04,764 --> 00:53:08,351
To może skłonić wojska
do automatyzacji decyzji

641
00:53:08,435 --> 00:53:09,978
wbrew własnej woli.

642
00:53:11,897 --> 00:53:13,440
Władimir Putin powiedział:

643
00:53:13,523 --> 00:53:16,776
„Ten, kto wygra wyścig AI,
będzie rządził światem”.

644
00:53:17,736 --> 00:53:20,572
Prezydent Xi powiedział jasno,

645
00:53:20,655 --> 00:53:23,325
że AI to jedna z głównych dziedzin,

646
00:53:23,408 --> 00:53:25,702
w których Chiny chcą dominować.

647
00:53:26,786 --> 00:53:29,831
Uczestniczymy w wyścigu technologicznym.

648
00:53:33,501 --> 00:53:35,670
Ludzie mówią o bezpieczeństwie

649
00:53:36,463 --> 00:53:39,424
i dobrze, że to robią.

650
00:53:40,467 --> 00:53:45,180
Ale trwa prawdziwy wyścig
o dominację w sferze AI.

651
00:53:47,265 --> 00:53:51,603
A nasi rywale,
czy to Chiny, Rosja czy Iran,

652
00:53:52,187 --> 00:53:56,566
nie będą się przejmować tym,
co nasze prawo mówi o AI.

653
00:54:00,820 --> 00:54:04,324
Słyszy się wiele rozmów
na temat regulowania AI,

654
00:54:06,117 --> 00:54:09,663
ale ja chciałbym,
żeby więcej przywódców mówiło raczej:

655
00:54:09,746 --> 00:54:11,706
„Jak szybko możemy to zbudować?

656
00:54:12,707 --> 00:54:15,168
Rzućmy na to masę zasobów i to zbudujmy”.

657
00:54:16,419 --> 00:54:18,838
WASZYNGTON

658
00:54:18,922 --> 00:54:21,299
KONFERENCJA I TARGI AUSA

659
00:54:33,478 --> 00:54:38,358
Jesteśmy na największych targach
Stowarzyszenia Armii Stanów Zjednoczonych.

660
00:54:39,609 --> 00:54:46,616
Każda firma, która sprzedaje produkt
lub technologię wojsku, ma tu stoisko.

661
00:54:47,701 --> 00:54:50,537
Baza lotnicza w Tyndall
ma cztery nasze roboty,

662
00:54:50,620 --> 00:54:53,748
które całodobowo patrolują bazę.

663
00:54:55,750 --> 00:55:00,130
Możemy dodać kamery,
czujniki i co tylko potrzeba.

664
00:55:00,213 --> 00:55:01,589
Ramiona z chwytakami.

665
00:55:01,673 --> 00:55:05,135
Cokolwiek pozwoli wykonać misję
wyznaczoną przez klienta.

666
00:55:06,678 --> 00:55:08,596
A co, jeśli wróg wprowadzi AI?

667
00:55:09,431 --> 00:55:12,976
System bojowy,
który myśli i reaguje szybciej niż ty?

668
00:55:13,059 --> 00:55:16,062
Co wtedy zdziała człowiek?
Musimy być gotowi.

669
00:55:17,605 --> 00:55:21,359
Uczymy systemy
zbierać informacje na temat wroga

670
00:55:22,027 --> 00:55:26,531
i reagować na wrogie cele
z ludzkim nadzorem nad eliminacją.

671
00:55:33,288 --> 00:55:34,956
Dzień dobry, panie generale.

672
00:55:35,040 --> 00:55:36,416
Jak się pan ma?

673
00:55:37,709 --> 00:55:42,630
Nikt tyle nie inwestuje w pilotów AI.
Nasz pilot nazywa się Hivemind.

674
00:55:43,298 --> 00:55:45,925
Wyposażyliśmy w niego quadcopter Nova.

675
00:55:46,009 --> 00:55:47,135
Wlatuje do budynków

676
00:55:47,218 --> 00:55:50,805
i bada je przed wejściem
sił specjalnych i piechoty.

677
00:55:50,889 --> 00:55:52,891
Wyposażamy w Hivemind V-BAT-y.

678
00:55:52,974 --> 00:55:56,811
Wyobrażamy sobie setki takich zespołów,

679
00:55:56,895 --> 00:56:00,065
w Cieśninie Tajwańskiej albo w Ukrainie,

680
00:56:00,148 --> 00:56:01,608
żeby odstraszać wrogów.

681
00:56:01,691 --> 00:56:03,360
Jestem podekscytowany.

682
00:56:03,943 --> 00:56:06,196
- Dziękuję.
- Dziękuję, panie generale.

683
00:56:07,989 --> 00:56:13,370
Piloci AI powinni być wszędzie
jeszcze przed rokiem 2025 czy 2030.

684
00:56:14,204 --> 00:56:18,291
Te systemy zostaną szybko wdrożone
w wojskach na całym świecie.

685
00:56:19,250 --> 00:56:22,962
Kim jesteś w wojsku Rumunii?
Specem od dronów?

686
00:56:23,046 --> 00:56:24,672
Zajmuję się technologią.

687
00:56:25,256 --> 00:56:29,803
Jak na razie na budowę pilota AI
wydaliśmy pół miliarda dolarów.

688
00:56:29,886 --> 00:56:33,181
W ciągu najbliższych pięciu lat
wydamy kolejny miliard.

689
00:56:33,264 --> 00:56:37,769
W dużej mierze dlatego wygrywamy
granty Departamentu Obrony.

690
00:56:37,852 --> 00:56:38,853
Nieźle.

691
00:56:38,937 --> 00:56:42,732
Imponujące. Uzbroiliście to już?

692
00:56:43,650 --> 00:56:48,321
Na razie jeszcze nie.
Ale w przyszłości to zrobimy.

693
00:56:48,905 --> 00:56:50,532
Klienci widzą to jako wóz.

694
00:56:50,615 --> 00:56:54,452
My jako inteligentny wóz,
który potrafi różne rzeczy.

695
00:56:54,536 --> 00:56:55,703
Dzięki.

696
00:56:55,787 --> 00:56:57,914
Jeszcze się odezwę.

697
00:57:01,668 --> 00:57:04,879
Jeśli wrócicie za dziesięć lat,
zobaczycie,

698
00:57:04,963 --> 00:57:10,802
że AI i systemy autonomiczne
zdominują cały rynek.

699
00:57:14,889 --> 00:57:19,352
Siły wspierane przez AI
i systemy autonomiczne

700
00:57:19,436 --> 00:57:25,108
będą miały miażdżącą przewagę
nad siłami ich pozbawionymi.

701
00:57:26,401 --> 00:57:30,780
To będzie jak walka konnicy z czołgami

702
00:57:31,781 --> 00:57:34,826
albo ludzi uzbrojonych w miecze
z karabinami.

703
00:57:34,909 --> 00:57:37,120
Walka będzie jednostronna.

704
00:57:38,746 --> 00:57:42,750
Te systemy będą wszechobecne
w każdej sferze wojny.

705
00:57:43,585 --> 00:57:46,546
Na poziomie taktycznym i strategicznym.

706
00:57:47,172 --> 00:57:50,800
Będą działały z prędkością,
której ludzie dziś nie pojmują.

707
00:57:53,094 --> 00:57:57,098
Dowódców
już teraz przytłacza ilość informacji.

708
00:57:57,599 --> 00:58:01,019
Zdjęcia z satelitów, z dronów i sensorów.

709
00:58:02,103 --> 00:58:06,774
AI może pomóc dowódcy
szybko zrozumieć, co się dzieje,

710
00:58:07,650 --> 00:58:09,903
i podjąć odpowiednie decyzje.

711
00:58:11,237 --> 00:58:14,866
Sztuczna inteligencja
weźmie pod uwagę wszystkie czynniki

712
00:58:14,949 --> 00:58:17,702
wpływające na to, jak toczy się wojnę,

713
00:58:18,286 --> 00:58:20,246
opracuje strategie…

714
00:58:22,540 --> 00:58:25,668
i podsunie rekomendacje, jak wygrać bitwę.

715
00:58:30,256 --> 00:58:32,133
SUFFOLK
WIRGINIA

716
00:58:32,217 --> 00:58:34,344
CENTRUM INNOWACJI LOCKHEED MARTIN

717
00:58:36,930 --> 00:58:40,266
W Lockheed Martin,
tak jak nasz klient Departament Obrony,

718
00:58:40,350 --> 00:58:45,104
uważamy sztuczną inteligencję
za kluczową technologię wojskową.

719
00:58:47,065 --> 00:58:50,318
Rozprzestrzenia się
z prędkością pół metra na sekundę.

720
00:58:50,401 --> 00:58:52,695
Perymetr ma niecałe 300 hektarów.

721
00:58:52,779 --> 00:58:55,782
Mgła wojny to ważny czynnik
w zakresie obronności,

722
00:58:57,158 --> 00:59:03,206
ale ma też analogie do decyzji
podejmowanych w trakcie pożaru.

723
00:59:03,289 --> 00:59:06,543
Pożar w Washburn
jest na północ od miasta Wawona.

724
00:59:06,626 --> 00:59:09,921
Trzeba podejmować decyzje
na podstawie niepełnych danych.

725
00:59:10,630 --> 00:59:14,300
Jak AI może nam pomóc z taką mgłą wojny?

726
00:59:17,637 --> 00:59:19,597
Pożary są chaotyczne.

727
00:59:20,181 --> 00:59:21,849
To bardzo złożone układy,

728
00:59:22,350 --> 00:59:27,855
więc staramy się wykorzystać AI
do pomocy w podejmowaniu decyzji.

729
00:59:31,442 --> 00:59:33,987
Cognitive Mission Manager to program,

730
00:59:34,070 --> 00:59:37,949
który analizuje powietrzne nagrania
z kamer na podczerwień

731
00:59:38,032 --> 00:59:41,786
z użyciem naszych algorytmów AI,

732
00:59:41,869 --> 00:59:45,248
żeby przewidzieć przyszły stan pożaru.

733
00:59:48,042 --> 00:59:52,922
Z czasem Cognitive Mission Manager
będzie wykorzystywał symulacje

734
00:59:53,006 --> 00:59:57,093
i tysiące razy modelował scenariusze,

735
00:59:57,176 --> 01:00:00,722
żeby podpowiedzieć
najbardziej efektywny sposób

736
01:00:00,805 --> 01:00:04,058
na ugaszenie pożaru
w kluczowych obszarach.

737
01:00:08,062 --> 01:00:12,400
Powie: „Weźcie firehawka
i gaście nim pożar tutaj.

738
01:00:13,568 --> 01:00:15,903
Poślijcie ekipy do uprzątnięcia chrustu

739
01:00:16,946 --> 01:00:19,032
i strażaków z wężami

740
01:00:19,657 --> 01:00:23,077
do obszarów o najwyższym priorytecie”.

741
01:00:26,289 --> 01:00:31,044
Decyzje te będą generowane szybciej
i bardziej wydajnie.

742
01:00:35,840 --> 01:00:39,636
AI to dla nas narzędzie,
które pozwoli ludziom nadążyć

743
01:00:39,719 --> 01:00:42,305
za szybko zmieniającym się środowiskiem.

744
01:00:43,389 --> 01:00:48,436
Istnieją przekonujące paralele
między badanymi tu scenariuszami

745
01:00:49,103 --> 01:00:50,730
a zastosowaniami obronnymi.

746
01:00:52,231 --> 01:00:55,860
Wojsko nie mówi już
tylko o zastosowaniu AI

747
01:00:55,943 --> 01:01:00,323
w poszczególnych elementach arsenału
do decydowania o eliminacji celów,

748
01:01:00,865 --> 01:01:02,200
ale o integracji AI

749
01:01:02,283 --> 01:01:05,787
do całej architektury decyzyjnej wojska.

750
01:01:09,457 --> 01:01:13,378
Siły lądowe wdrażają wielki projekt
zwany Project Convergence.

751
01:01:14,545 --> 01:01:19,592
Marynarka ma Overmatch, a lotnictwo –
Zaawansowany System Zarządzania Bitwą.

752
01:01:21,886 --> 01:01:24,138
Departament Obrony stara się rozgryźć,

753
01:01:24,222 --> 01:01:26,683
jak połączyć elementy układanki,

754
01:01:26,766 --> 01:01:29,268
żeby działać szybciej niż wróg

755
01:01:30,395 --> 01:01:32,355
i zdobyć prawdziwą przewagę.

756
01:01:33,481 --> 01:01:37,527
Taki system zarządzania bitwą
byłby jak wysoki stopniem generał,

757
01:01:37,610 --> 01:01:39,821
który odpowiada za bitwę.

758
01:01:41,155 --> 01:01:44,158
Pomaga wydawać rozkazy znacznym siłom,

759
01:01:45,118 --> 01:01:49,247
koordynując działania
wszystkich dostępnych broni

760
01:01:49,330 --> 01:01:51,958
z prędkością nieosiągalną dla człowieka.

761
01:01:53,543 --> 01:01:58,798
Przez ostatnie 70 lat zbudowaliśmy
najbardziej zaawansowaną armię na Ziemi.

762
01:01:58,881 --> 01:02:03,177
Teraz stoimy przed decyzją,
czy chcemy oddać kontrolę

763
01:02:03,261 --> 01:02:07,598
nad całą tą infrastrukturą
algorytmowi, programowi.

764
01:02:10,351 --> 01:02:13,104
Konsekwencjami tej decyzji

765
01:02:13,187 --> 01:02:16,774
może być odpalenie
całego naszego arsenału.

766
01:02:16,858 --> 01:02:19,902
Nie mówimy tu o jednej Hiroshimie.
Mówimy o setkach.

767
01:02:25,616 --> 01:02:27,869
Musimy działać teraz,

768
01:02:27,952 --> 01:02:33,166
bo mamy coraz mniej czasu,
żeby zneutralizować to ryzyko.

769
01:02:34,625 --> 01:02:39,338
Zaczynamy dziś od zagrożeń
dla bezpieczeństwa międzynarodowego

770
01:02:39,422 --> 01:02:41,132
ze strony nowych technologii

771
01:02:41,215 --> 01:02:44,343
w obszarze
zabójczej broni autonomicznej broni.

772
01:02:44,427 --> 01:02:50,016
W ONZ trwają dyskusje na temat zagrożenia
ze strony broni autonomicznej

773
01:02:50,099 --> 01:02:56,564
i zakazu systemów wykorzystujących AI
do namierzania i atakowania ludzi.

774
01:02:56,647 --> 01:03:00,777
Technologowie mówią jednym głosem.

775
01:03:00,860 --> 01:03:04,614
Sprzeciwiamy się autonomicznej broni,
która atakuje ludzi.

776
01:03:05,615 --> 01:03:10,745
ONZ latami omawiało kwestię
autonomicznej broni zdolnej do zabijania.

777
01:03:12,288 --> 01:03:16,793
Tu chodzi o nasze wspólne
poczucie bezpieczeństwa.

778
01:03:17,794 --> 01:03:20,546
Ale to oczywiście niełatwy temat.

779
01:03:21,297 --> 01:03:25,968
Niektóre kraje,
zwłaszcza potęgi militarne,

780
01:03:26,052 --> 01:03:27,762
chcą rozwijać technologię,

781
01:03:28,429 --> 01:03:31,599
żeby być o krok przed rywalami.

782
01:03:32,600 --> 01:03:36,187
Problem w tym, że żeby coś zrobić,
wszyscy muszą się zgodzić.

783
01:03:36,896 --> 01:03:39,065
Co najmniej jeden kraj się wyłamie,

784
01:03:39,148 --> 01:03:42,109
a Stany Zjednoczone i Rosja
już poinformowały,

785
01:03:42,193 --> 01:03:45,655
że są przeciwne traktatowi,
który zakazałby takiej broni.

786
01:03:47,198 --> 01:03:53,204
Kiedy myślimy, ilu ludzi pracuje
nad zwiększeniem możliwości AI,

787
01:03:54,747 --> 01:03:56,457
to jest to cały tłum.

788
01:03:57,750 --> 01:04:02,880
Kiedy myślimy, ilu ludzi dba o to,
by AI było bezpieczne,

789
01:04:04,340 --> 01:04:07,510
to jest ich znacznie mniej.

790
01:04:11,764 --> 01:04:13,724
Ale jestem dobrej myśli.

791
01:04:16,060 --> 01:04:19,480
Wspominam konwencję o broni biologicznej,

792
01:04:19,564 --> 01:04:22,358
którą podpisano w połowie Zimnej Wojny

793
01:04:23,025 --> 01:04:27,655
pomimo napięć między Związkiem Radzieckim
a Stanami Zjednoczonymi.

794
01:04:29,156 --> 01:04:33,536
Byli w stanie zrozumieć,
że rozwój broni biologicznej

795
01:04:33,619 --> 01:04:36,247
nie był ani w ich interesie,

796
01:04:36,330 --> 01:04:38,749
ani w interesie świata jako całości.

797
01:04:41,335 --> 01:04:44,964
W wyścigu zbrojeń szybkość
jest ważniejsza niż bezpieczeństwo.

798
01:04:45,715 --> 01:04:49,385
Ale należy wziąć pod uwagę,
że w pewnym momencie

799
01:04:49,468 --> 01:04:52,430
koszt szybkiego rozwoju
staje się zbyt wysoki.

800
01:04:56,225 --> 01:04:59,270
Nie możemy tworzyć technologii w izolacji

801
01:05:00,021 --> 01:05:03,357
i udostępniać ich światu,
nie zastanawiając się nad tym,

802
01:05:03,441 --> 01:05:06,611
do czego mogą doprowadzić w przyszłości.

803
01:05:07,862 --> 01:05:10,823
Nie możemy dopuścić
do powtórki z bomby atomowej.

804
01:05:14,577 --> 01:05:17,705
Stawka w wyścigu AI jest gigantyczna.

805
01:05:18,289 --> 01:05:22,001
Wielu ludzi nie docenia
stabilności na świecie,

806
01:05:22,084 --> 01:05:28,174
jaką zapewniła nam dominacja militarna

807
01:05:28,257 --> 01:05:31,135
przez ostatnie 75 lat.

808
01:05:32,887 --> 01:05:35,681
Stany Zjednoczone i ich sojusznicy

809
01:05:36,557 --> 01:05:38,684
muszą mieć przewagę w zakresie AI.

810
01:05:43,314 --> 01:05:45,441
Na wojnie nie ma drugiego miejsca.

811
01:05:45,524 --> 01:05:49,111
Chiny przedstawiły ambitny plan
dominacji w AI do 2030 roku.

812
01:05:49,195 --> 01:05:52,239
Niektórzy mówią,
że Ameryka przegrywa ten wyścig…

813
01:05:52,740 --> 01:05:56,160
Przyśpieszycie
wdrożenie sztucznej inteligencji,

814
01:05:56,243 --> 01:05:59,246
aby zapewnić przewagę militarną.

815
01:06:02,875 --> 01:06:05,461
Rozwijamy tę technologię błyskawicznie.

816
01:06:05,544 --> 01:06:08,673
Pytanie tylko, jak daleko się posuniemy.

817
01:06:09,507 --> 01:06:12,760
Czy to my kontrolujemy technologię,
czy ona nas?

818
01:06:14,136 --> 01:06:16,973
Tutaj nie będzie drugiego podejścia.

819
01:06:17,807 --> 01:06:20,977
Kiedy uwolni się taką siłę,

820
01:06:22,019 --> 01:06:25,189
bardzo trudno to potem cofnąć.

821
01:06:28,609 --> 01:06:31,779
Musimy działać teraz albo będzie za późno.

822
01:06:33,114 --> 01:06:34,657
Możliwe, że już jest.

823
01:08:48,124 --> 01:08:53,254
Napisy: Juliusz P. Braun