1
00:00:02,000 --> 00:00:07,000
Downloaded from
YTS.MX

2
00:00:08,000 --> 00:00:13,000
Official YIFY movies site:
YTS.MX

3
00:00:24,065 --> 00:00:26,901
Jeg syns kunstig intelligens (KI)
er formidabel.

4
00:00:28,361 --> 00:00:31,489
Greit, sirkler oppover. God formasjon.

5
00:00:33,116 --> 00:00:36,703
KI kan eliminere fattigdom,

6
00:00:36,786 --> 00:00:38,705
gi oss nye medisiner

7
00:00:39,330 --> 00:00:41,583
og gjøre verden enda mer fredelig.

8
00:00:46,087 --> 00:00:46,921
Bra jobba.

9
00:00:49,883 --> 00:00:53,428
Men det er
så mange farer som truer underveis.

10
00:01:04,773 --> 00:01:09,611
Med KI skaper vi
en ikke-menneskelig intelligens

11
00:01:09,694 --> 00:01:11,863
som er veldig uforutsigbar.

12
00:01:14,407 --> 00:01:16,451
Ettersom den blir mektigere,

13
00:01:16,534 --> 00:01:19,746
hvor skal vi sette streken med KI

14
00:01:19,829 --> 00:01:22,665
når det gjelder hvordan vi vil bruke den?

15
00:01:25,001 --> 00:01:31,049
Det beste stedet å starte denne samtalen
er ved militær anvendelse.

16
00:01:34,010 --> 00:01:38,890
Slagmarken er nå blitt et sted
for programvare og maskinvare.

17
00:01:41,059 --> 00:01:42,936
Målet er funnet…

18
00:01:43,019 --> 00:01:48,399
Og militær er i et kappløp
for å utvikle KI raskere enn motstanderen.

19
00:01:49,526 --> 00:01:50,360
Jeg er død.

20
00:01:53,780 --> 00:01:58,326
Vi går raskt mot en verden
der ikke bare store hærer,

21
00:01:58,409 --> 00:02:02,997
men også ikke-statlige aktører,
private næringer

22
00:02:03,081 --> 00:02:06,042
eller vårt lokale politi nedi gata,

23
00:02:06,543 --> 00:02:10,046
vil kunne bruke våpen
som kan drepe autonomt.

24
00:02:12,006 --> 00:02:17,303
Skal vi overlate det til algoritmer
og dataprogramvare hvem som får leve?

25
00:02:18,638 --> 00:02:21,516
Det er en av vår tids
mest presserende saker.

26
00:02:23,935 --> 00:02:26,354
Og, hvis det ikke brukes klokt,

27
00:02:26,437 --> 00:02:30,275
utgjør det
en stor risiko for alle på planeten.

28
00:02:41,828 --> 00:02:44,914
DET UKJENTE:

29
00:02:46,833 --> 00:02:50,086
DRAPSROBOTER

30
00:03:28,291 --> 00:03:30,168
Bra jobba der ute, folkens.

31
00:03:59,948 --> 00:04:03,117
-Det er en bredere linse enn den vi hadde.
-Jaså?

32
00:04:03,201 --> 00:04:04,786
Du kan se mye mer data.

33
00:04:05,286 --> 00:04:06,287
Så kult.

34
00:04:07,538 --> 00:04:11,167
På Shield AI lager vi en KI-pilot

35
00:04:11,251 --> 00:04:14,879
som tar selvkjøring
og kunstig intelligens-teknologi

36
00:04:14,963 --> 00:04:16,631
og bruker den i fly.

37
00:04:19,300 --> 00:04:21,719
Når vi snakker om en KI-pilot,

38
00:04:21,803 --> 00:04:25,139
vil vi gi fly et høyere nivå av autonomi.

39
00:04:25,223 --> 00:04:27,850
De vil løse problemer på egen hånd.

40
00:04:29,602 --> 00:04:32,355
Nova er et autonomt kvadrokopter

41
00:04:32,438 --> 00:04:35,942
som utforsker bygninger
og underjordiske strukturer

42
00:04:36,859 --> 00:04:38,611
foran klareringsstyrkene

43
00:04:38,695 --> 00:04:41,322
for å gi øyne og ører på slike steder.

44
00:04:41,906 --> 00:04:45,618
Man kan se mange forbedringer
siden vi så det sist.

45
00:04:45,702 --> 00:04:50,248
Vi jobber med noen endringer i dag.
Vi jobber fra gulv til gulv.

46
00:04:50,331 --> 00:04:53,584
Den skal bli ferdig i én etasje
før den går til neste.

47
00:04:54,294 --> 00:04:56,796
-Det er fantastisk.
-Vi har endret…

48
00:04:56,879 --> 00:05:02,218
Mange spør meg om hvorfor KI
er en viktig kapasitet.

49
00:05:02,302 --> 00:05:04,095
TIDLIGERE US NAVY SEAL

50
00:05:04,178 --> 00:05:06,973
Og da tenker jeg tilbake på mine oppdrag.

51
00:05:09,142 --> 00:05:10,935
Jeg tilbrakte sju år i hæren.

52
00:05:11,561 --> 00:05:15,398
Jeg er tidligere Navy SEAL
utstasjonert to ganger til Afghanistan

53
00:05:15,481 --> 00:05:17,191
og én gang til Stillehavet.

54
00:05:18,026 --> 00:05:22,947
På en gitt dag må vi kanskje rydde 150
forskjellige områder eller bygninger.

55
00:05:30,997 --> 00:05:34,250
En av kjernefunksjonene er nærkamp.

56
00:05:35,293 --> 00:05:39,172
Våpenkamp på ekstremt nært hold
inne i bygninger.

57
00:05:41,466 --> 00:05:42,967
Du blir beskutt.

58
00:05:43,468 --> 00:05:46,471
Det kan være
hjemmelagde bomber inne i bygningen.

59
00:05:49,015 --> 00:05:55,229
Det er det farligste spesialstyrkene

60
00:05:55,313 --> 00:05:58,358
eller infanteriet kan gjøre i en kampsone.

61
00:05:58,441 --> 00:05:59,275
Uten unntak.

62
00:06:12,497 --> 00:06:16,334
Jeg vil være takknemlig
for min tid i hæren resten av livet.

63
00:06:17,168 --> 00:06:22,423
Det er noen øyeblikk
og minner som, når jeg tenker på dem,

64
00:06:22,507 --> 00:06:24,592
jeg blir emosjonell av.

65
00:06:28,346 --> 00:06:32,725
Det er en klisjé at frihet ikke er fritt,
men jeg tror det absolutt,

66
00:06:33,559 --> 00:06:37,105
jeg har opplevd det,
og det krever et stort offer.

67
00:06:38,022 --> 00:06:38,856
Beklager.

68
00:06:41,067 --> 00:06:44,570
Når noe ille skjer
med en av lagkameratene dine,

69
00:06:44,654 --> 00:06:46,614
om de blir skadet eller drept,

70
00:06:47,490 --> 00:06:49,700
er det bare virkelig tragisk.

71
00:06:49,784 --> 00:06:52,912
For meg, i arbeidet vi gjør nå,

72
00:06:52,995 --> 00:06:58,835
er det motiverende
å kunne redusere antall ganger

73
00:06:58,918 --> 00:07:00,336
det vil skje igjen.

74
00:07:07,176 --> 00:07:11,556
På slutten av 2000-tallet
ble Forsvarsdepartementet var

75
00:07:11,639 --> 00:07:15,351
det man kan kalle
den utilsiktede robotikkrevolusjonen.

76
00:07:15,893 --> 00:07:19,564
Vi sendte mange luft- og bakkeroboter
til Irak og Afghanistan.

77
00:07:21,482 --> 00:07:24,068
Da jeg ble bedt av Obama-administrasjonen

78
00:07:24,152 --> 00:07:26,404
om å være viseforsvarsminister,

79
00:07:26,904 --> 00:07:29,115
var krigføring i endring.

80
00:07:29,198 --> 00:07:31,117
VISEFORSVARSMINISTER 2014 - 2017

81
00:07:32,452 --> 00:07:36,330
Roboter ble brukt
der folk ellers ville ha blitt brukt.

82
00:07:37,999 --> 00:07:40,376
Tidlige robotsystemer ble fjernstyrt.

83
00:07:40,460 --> 00:07:45,173
Det er et menneske som styrer det,
som en fjernstyrt bil.

84
00:07:46,632 --> 00:07:51,512
I begynnelsen gikk de etter
improviserte sprengladninger,

85
00:07:52,013 --> 00:07:54,849
og om bomben sprengte, sprengte roboten.

86
00:07:57,393 --> 00:08:00,396
Man sa da: "Så kjipt. Finn neste robot."

87
00:08:02,106 --> 00:08:04,484
I Afghanistan hadde man Predator-dronen,

88
00:08:05,276 --> 00:08:09,739
og den ble et veldig nyttig verktøy
for å utføre luftangrep.

89
00:08:13,117 --> 00:08:16,829
Med tiden begynte
militære planleggere å lure på:

90
00:08:16,913 --> 00:08:20,791
"Hva mer kan roboter brukes til?"
Og hvor var dette på vei?

91
00:08:20,875 --> 00:08:24,170
Et av temaene
var trenden mot større autonomi.

92
00:08:26,506 --> 00:08:30,510
Et autonomt våpen
er et som tar avgjørelser på egen hånd,

93
00:08:30,593 --> 00:08:35,264
med liten eller ingen menneskelig input.
Så den kan være uavhengig og selvstyrt.

94
00:08:35,348 --> 00:08:37,558
SENTER FOR EN NY AMERIKANSK SIKKERHET

95
00:08:38,434 --> 00:08:41,604
Og om den kan drepe,
avhenger av om den er bevæpnet.

96
00:08:43,314 --> 00:08:47,026
Når du har mer og mer
autonomi i hele systemet,

97
00:08:47,109 --> 00:08:49,779
begynner alt å bevege seg hurtigere.

98
00:08:51,989 --> 00:08:56,869
Og når du opererer
i raskere tempo enn motstanderne dine,

99
00:08:57,453 --> 00:09:01,165
er det en svært stor fordel i kamp.

100
00:09:03,960 --> 00:09:06,254
Det vi fokuserer på ved autonomi,

101
00:09:07,255 --> 00:09:09,966
er svært robuste intelligenssystemer.

102
00:09:12,051 --> 00:09:15,304
Systemer som kan lese og reagere
basert på omgivelsene

103
00:09:15,805 --> 00:09:19,642
og ta avgjørelser om
hvordan man manøver i den verdenen.

104
00:09:24,981 --> 00:09:26,857
Anlegget her var et filmstudio.

105
00:09:26,941 --> 00:09:29,986
STRATEGISKE OPERASJONER
REALISTISK TAKTISK TRENING

106
00:09:30,069 --> 00:09:34,156
Det ble omgjort for å muliggjøre
realistiske militære treningsmiljøer.

107
00:09:39,495 --> 00:09:43,291
Vi er her for å evaluere vår KI-pilot.

108
00:09:44,625 --> 00:09:49,297
Oppdraget er å lete etter trusler.
Det handler om klareringsstyrker.

109
00:09:49,380 --> 00:09:53,217
Den kan ta avgjørelser
om hvordan man skal angripe problemer.

110
00:09:55,428 --> 00:10:00,016
Vi kaller dette "den dødelige trakten".
Du må komme gjennom en døråpning.

111
00:10:01,726 --> 00:10:03,728
Det er der vi er mest sårbare.

112
00:10:03,811 --> 00:10:05,146
Denne ser bedre ut.

113
00:10:07,106 --> 00:10:12,653
Nova forteller oss om det er
en skytter eller en familie bak den døra.

114
00:10:15,031 --> 00:10:18,451
Da kan vi ta bedre avgjørelser
og holde folk unna fare.

115
00:10:57,114 --> 00:10:59,367
Vi bruker synssensorene

116
00:10:59,450 --> 00:11:03,162
for å forstå hvordan omgivelsene ser ut.

117
00:11:04,872 --> 00:11:06,415
Det er et fleretasjesbygg.

118
00:11:07,333 --> 00:11:08,334
Her er kartet.

119
00:11:08,417 --> 00:11:11,671
Mens jeg utforsket, var det dette jeg så.

120
00:11:19,929 --> 00:11:22,098
Persondetektor. Det er tøft.

121
00:11:23,849 --> 00:11:27,061
En av de andre sensorene på Nova
er en termisk skanner.

122
00:11:27,561 --> 00:11:30,690
Hvis det er 37 grader,
er det nok et menneske.

123
00:11:32,358 --> 00:11:35,861
Folk blir ansett som trusler
inntil noe annet er bevist.

124
00:11:38,906 --> 00:11:43,244
Det handler om å eliminere krigståken
for å ta bedre avgjørelser.

125
00:11:44,704 --> 00:11:46,539
Og når vi ser fremover,

126
00:11:47,039 --> 00:11:50,793
planlegger vi å bygge lag
med autonome fly.

127
00:11:53,754 --> 00:11:57,341
Med selvkjørende kjøretøy
har noen sagt til det:

128
00:11:57,425 --> 00:11:58,342
SJEFSTEKNOLOG

129
00:11:58,426 --> 00:12:00,386
"Gå fra punkt A til punkt B."

130
00:12:02,972 --> 00:12:06,475
Våre system blir ikke bedt
om å gå fra punkt A til punkt B,

131
00:12:06,559 --> 00:12:08,477
men om å oppnå et mål.

132
00:12:10,312 --> 00:12:13,190
Det er mer som: "Jeg trenger melk."

133
00:12:13,274 --> 00:12:17,486
Og så må roboten finne ut
hvilken matbutikk den skal dra til,

134
00:12:17,570 --> 00:12:20,239
hente melken og så bringe den tilbake.

135
00:12:20,740 --> 00:12:27,037
Eller det kan bli mer hensiktsmessig
angitt som: "Hold kjøleskapet fylt."

136
00:12:27,538 --> 00:12:29,331
Så dette er et intelligensnivå

137
00:12:29,415 --> 00:12:32,168
der den må finne ut
hva den trenger og hvordan.

138
00:12:32,251 --> 00:12:37,381
Og dersom noe oppstår,
må den finne en løsning.

139
00:12:40,801 --> 00:12:45,431
Da jeg bestemte meg
for å forlate hæren, tenkte jeg:

140
00:12:45,514 --> 00:12:47,558
"Ok. Hva blir det neste?"

141
00:12:49,143 --> 00:12:52,021
Jeg vokste opp med internett.
Så hva det ble.

142
00:12:53,189 --> 00:12:55,608
Og en del av konklusjonen jeg nådde, var:

143
00:12:56,108 --> 00:12:58,861
KI i 2015

144
00:12:58,944 --> 00:13:02,907
var der internettet var i 1991.

145
00:13:04,033 --> 00:13:06,285
Og KI var klar til å ta av

146
00:13:06,368 --> 00:13:09,747
og bli en av
de mektigste teknologiene i verden.

147
00:13:11,791 --> 00:13:16,212
Når jeg jobber med det hver dag,
ser jeg fremgangen.

148
00:13:19,048 --> 00:13:22,051
Men for mange når de tenker på KI,

149
00:13:22,551 --> 00:13:25,221
går tankene straks til Hollywood.

150
00:13:26,639 --> 00:13:28,474
WOPR:
KRIG OPPDRAG PLAN SVAR

151
00:13:28,557 --> 00:13:29,975
Skal vi spille et spill?

152
00:13:30,059 --> 00:13:35,314
Hva med Global termonukleær krig?

153
00:13:35,898 --> 00:13:36,816
Greit.

154
00:13:37,399 --> 00:13:39,652
USA MOT SOVJET
HVILKEN SIDE VIL DU HA?

155
00:13:39,735 --> 00:13:44,824
Når folk tenker på KI, tenker de kanskje
på Terminator. Eller I, Robot.

156
00:13:45,574 --> 00:13:46,700
Deaktiver.

157
00:13:46,784 --> 00:13:48,160
Hva er jeg?

158
00:13:48,244 --> 00:13:49,620
Eller The Matrix.

159
00:13:51,080 --> 00:13:53,749
Basert på det du ser i sci-fi-filmer,

160
00:13:53,833 --> 00:13:57,837
hvordan vet du at jeg er et menneske?
Jeg kan være datagenerert KI.

161
00:13:58,337 --> 00:14:02,591
Replikatorer er som alle andre maskiner.
De er en fordel eller en ulempe.

162
00:14:02,675 --> 00:14:06,095
Men det fins mange mer primitive KI-er

163
00:14:06,178 --> 00:14:08,097
som fortsatt vil endre våre liv…

164
00:14:08,180 --> 00:14:10,015
POLITIKER OG TEK-ENTREPRENØR

165
00:14:10,099 --> 00:14:12,601
…før vi når tenkende og snakkende roboter.

166
00:14:12,685 --> 00:14:15,771
Robotene er her. Robotene tar avgjørelser.

167
00:14:15,855 --> 00:14:17,648
Robotrevolusjonen har kommet…

168
00:14:17,731 --> 00:14:20,025
DATAJOURNALISTIKKPROFESSOR, NYU

169
00:14:20,109 --> 00:14:22,319
…men den ser ikke ut som noen trodde.

170
00:14:23,112 --> 00:14:26,740
Terminator er en infiltrasjonsenhet.
Halvt mann, halvt maskin.

171
00:14:27,950 --> 00:14:31,370
Vi snakker ikke om
en drapsrobot i Terminator-stil.

172
00:14:31,871 --> 00:14:35,958
Vi snakker om KI som kan gjøre
noen menneskelige oppgaver.

173
00:14:36,041 --> 00:14:39,879
Men spørsmålet er
om disse systemene er pålitelige.

174
00:14:40,462 --> 00:14:45,426
Nye detaljer rundt gårkveldens dødsulykke
med en selvkjørende Uber SUV.

175
00:14:45,509 --> 00:14:47,136
MICROSOFTS RASISTISKE ROBOT

176
00:14:47,219 --> 00:14:49,722
Selskapet skapte en rasistisk KI-chatbot.

177
00:14:49,805 --> 00:14:51,056
JEG HATER JØDER

178
00:14:51,140 --> 00:14:55,394
Tjueseks delstatslovgivere
ble feilaktig identifisert som kriminelle.

179
00:14:55,477 --> 00:14:58,147
MATCHET 28 KONGRESSMEDLEMMER
MED FORBRYTERE

180
00:14:58,230 --> 00:15:02,026
Spørsmålet er om de takler kompleksiteter
i den virkelige verden.

181
00:15:22,212 --> 00:15:24,006
Den fysiske verden er rotete.

182
00:15:25,174 --> 00:15:27,426
Det er mye vi ikke vet,

183
00:15:27,968 --> 00:15:30,763
noe som gjør det vanskeligere
å lære opp KI.

184
00:15:33,098 --> 00:15:35,643
Det er der maskinlæringssystemer
kommer inn.

185
00:15:35,726 --> 00:15:36,977
USANNSYNLIG KI-LAB

186
00:15:38,520 --> 00:15:44,151
Maskinlæring har vært et stort fremskritt,
for da må vi ikke lære datamaskinene alt.

187
00:15:44,234 --> 00:15:45,611
UNDERSØKENDE JOURNALIST

188
00:15:47,905 --> 00:15:52,409
Man gir en datamaskin
millioner biter informasjon,

189
00:15:52,493 --> 00:15:54,453
og maskinen begynner å lære.

190
00:15:55,204 --> 00:15:57,289
Og det kan brukes på hva som helst.

191
00:16:00,250 --> 00:16:02,962
I vårt Robothund-prosjekt prøver vi å vise

192
00:16:03,045 --> 00:16:09,009
at hunden vår kan gå
på mange ulike typer terreng.

193
00:16:10,052 --> 00:16:14,098
Mennesker har utviklet seg
gjennom milliarder av år for å gå,

194
00:16:14,932 --> 00:16:20,688
men det krever intelligens
å tilpasse seg de ulike terrengene.

195
00:16:21,939 --> 00:16:24,316
Spørsmålet for robotsystemer er:

196
00:16:24,400 --> 00:16:27,069
Kan de også tilpasse seg
som dyr og mennesker?

197
00:16:35,953 --> 00:16:37,413
Med maskinlæring

198
00:16:37,496 --> 00:16:40,582
samler vi inn masse data i simulering.

199
00:16:42,668 --> 00:16:45,838
En simulering er
en digital tvilling av virkeligheten.

200
00:16:46,588 --> 00:16:52,052
Vi kan ha mange tilfeller av virkeligheten
på forskjellige datamaskiner.

201
00:16:53,178 --> 00:16:56,974
Den prøver tusenvis av handlinger
i simulering.

202
00:16:58,892 --> 00:17:03,856
De møter underlag
med ulike glatthetsgrader og sprett.

203
00:17:04,898 --> 00:17:08,318
Vi tar all erfaringen
fra disse mange tusen robotene

204
00:17:08,402 --> 00:17:13,282
fra simulering og laster ned dette
til et ekte robotsystem.

205
00:17:15,492 --> 00:17:20,039
Testen vi skal gjøre i dag, er å se
om den kan tilpasse seg nye terreng.

206
00:17:53,322 --> 00:17:55,491
Da roboten gikk over skum,

207
00:17:55,574 --> 00:17:58,577
trampet føttene i bakken.

208
00:17:59,369 --> 00:18:02,206
Men da den kom til et variert underlag,

209
00:18:03,248 --> 00:18:06,460
prøvde den å justere bevegelsen,
så den ikke gled.

210
00:18:08,670 --> 00:18:10,672
Det er da det slår deg:

211
00:18:10,756 --> 00:18:14,051
"Dette er hva maskinlæring gjør."

212
00:18:41,161 --> 00:18:44,123
Vi tror at Robothunden
kan være til stor hjelp

213
00:18:44,206 --> 00:18:49,670
i katastrofesituasjoner
der man må navigere mange typer terreng.

214
00:18:52,631 --> 00:18:57,427
Eller sette disse hundene
til å overvåke røffe omgivelser.

215
00:19:15,696 --> 00:19:19,575
Men det meste av teknologi
møter på utfordringer

216
00:19:19,658 --> 00:19:22,369
ved at den kan gjøre noe bra og noe fælt.

217
00:19:24,079 --> 00:19:27,875
For eksempel kan vi bruke
atomteknologi til energi…

218
00:19:30,419 --> 00:19:33,797
…men vi kan også
utvikle atombomber som er skikkelig ille.

219
00:19:35,090 --> 00:19:38,468
Det er dette
som kalles dobbeltbruk-problemet.

220
00:19:39,052 --> 00:19:40,512
Ild er dobbeltbruk.

221
00:19:40,596 --> 00:19:41,638
FYSIKER

222
00:19:41,722 --> 00:19:44,308
Menneskelig intelligens er dobbeltbruk.

223
00:19:44,391 --> 00:19:48,645
Så kunstig intelligens
er selvfølgelig også dobbeltbruk.

224
00:19:49,354 --> 00:19:53,984
Det er viktig å tenke på KI i sammenheng,

225
00:19:54,693 --> 00:19:59,114
for det er kjempefint
å ha en søk- og redningsrobot

226
00:19:59,198 --> 00:20:02,284
som kan finne noen etter et snøskred,

227
00:20:02,868 --> 00:20:05,871
men den samme roboten kan bevæpnes.

228
00:20:15,088 --> 00:20:21,094
Når du ser firmaer bruker robotikk
for å sette våpen på dem,

229
00:20:21,178 --> 00:20:22,930
blir en del av deg sint.

230
00:20:23,931 --> 00:20:28,435
Og en del av det er å innse
at når vi sender ut teknologi,

231
00:20:28,518 --> 00:20:30,103
vil dette skje.

232
00:20:31,021 --> 00:20:34,441
Dette er virkelig
transformerende teknologi.

233
00:20:36,235 --> 00:20:38,028
Dette er våpensystemer

234
00:20:38,111 --> 00:20:43,617
som kan endre vår sikkerhet
på en dramatisk måte.

235
00:20:46,161 --> 00:20:51,500
I dette øyeblikk er vi ikke sikre på
at maskiner faktisk kan skille…

236
00:20:51,583 --> 00:20:53,210
NEDRUSTNINGSEKSPERT I FN

237
00:20:53,293 --> 00:20:54,962
…mellom sivile og stridende.

238
00:21:01,802 --> 00:21:05,430
Tidlig i krigen i Afghanistan
var jeg med i et snikskytterteam

239
00:21:05,514 --> 00:21:08,016
som så etter fiender som kom over grensen.

240
00:21:09,685 --> 00:21:12,521
Og de sendte ei lita jente
for å spane på oss.

241
00:21:13,939 --> 00:21:17,067
Det ble aldri vurdert å skyte denne jenta.

242
00:21:19,695 --> 00:21:22,864
Under krigens lover ville det vært lovlig.

243
00:21:24,950 --> 00:21:27,369
Fiendtlige stridende har ingen alder.

244
00:21:29,079 --> 00:21:33,417
Hvis man hadde bygget en robot
som fulgte krigens regler,

245
00:21:33,500 --> 00:21:35,252
hadde den skutt denne jenta.

246
00:21:36,420 --> 00:21:41,091
Hvordan vet en robot forskjellen på
hva som er lovlig og hva som er rett?

247
00:21:43,385 --> 00:21:46,054
Når det gjelder autonom dronekrig,

248
00:21:46,138 --> 00:21:51,351
vil de fjerne den skaden det påfører
amerikanske soldater og deres psyke…

249
00:21:51,435 --> 00:21:53,353
AFGHANERE FOR EN BEDRE MORGENDAG

250
00:21:53,437 --> 00:21:57,149
…men skaden på sivile øker
og havner hos afghanere,

251
00:21:57,232 --> 00:21:58,775
irakere og somaliere.

252
00:22:09,619 --> 00:22:14,416
Jeg ber virkelig de som støtter
å stole på KI i droner om:

253
00:22:15,375 --> 00:22:18,211
"Tenk om det var din landsby
som var mottakeren?"

254
00:22:23,550 --> 00:22:25,594
KI er et tveegget sverd.

255
00:22:26,595 --> 00:22:30,724
Den kan brukes til det gode,
som er det den brukes mest til,

256
00:22:31,558 --> 00:22:33,477
men ved å trykke på en bryter

257
00:22:34,561 --> 00:22:38,023
blir teknologien noe
som potensielt er livsfarlig.

258
00:22:46,990 --> 00:22:48,533
Jeg er klinisk farmakolog.

259
00:22:49,618 --> 00:22:50,994
Jeg har et team av folk

260
00:22:51,078 --> 00:22:54,247
som bruker kunstig intelligens
til å finne legemidler

261
00:22:54,331 --> 00:22:57,751
som kurerer sykdommer
som ikke får oppmerksomhet.

262
00:22:59,711 --> 00:23:04,132
Tidligere tok man et molekyl som fantes

263
00:23:04,216 --> 00:23:06,885
og justerte det for å få et nytt stoff.

264
00:23:08,261 --> 00:23:13,350
Og nå har vi utviklet KI
som kan gi oss millioner av ideer,

265
00:23:13,892 --> 00:23:15,268
millioner av molekyler,

266
00:23:16,186 --> 00:23:19,231
og det åpner opp for mange muligheter…

267
00:23:19,314 --> 00:23:20,148
ADM. DIR.

268
00:23:20,232 --> 00:23:23,318
…til å behandle sykdommer
vi ikke kunne behandle før.

269
00:23:25,153 --> 00:23:28,448
Men det er definitivt en mørk side
jeg aldri hadde trodd

270
00:23:28,532 --> 00:23:29,741
at jeg ville gå til.

271
00:23:33,161 --> 00:23:35,872
Dette begynte da jeg ble invitert

272
00:23:35,956 --> 00:23:40,043
av en organisasjon fra Sveits
kalt Spiez Laboratory

273
00:23:40,544 --> 00:23:44,423
for å gi en presentasjon
om mulig misbruk av KI.

274
00:23:48,343 --> 00:23:51,221
Sean sendte meg en e-post med noen ideer

275
00:23:51,304 --> 00:23:55,308
for hvordan vi kan misbruke
vår egen kunstige intelligens.

276
00:23:56,059 --> 00:24:00,355
I stedet for å be vår modell
om å lage stofflignende molekyler

277
00:24:00,439 --> 00:24:02,274
som kan brukes til behandling,

278
00:24:02,774 --> 00:24:06,403
la oss se om vi kan generere
så giftige molekyler som mulig.

279
00:24:10,198 --> 00:24:11,491
Jeg ville poengtere

280
00:24:11,575 --> 00:24:15,203
om vi kan bruke KI
til å designe dødelige molekyler?

281
00:24:17,414 --> 00:24:20,125
For å være ærlig
trodde vi det ville mislykkes,

282
00:24:20,208 --> 00:24:24,504
for alt vi egentlig gjorde,
var å bytte null til én.

283
00:24:26,715 --> 00:24:30,385
Så vi endret den fra å gå fra toksisitet

284
00:24:30,469 --> 00:24:32,220
til å kjøre mot toksisitet.

285
00:24:32,721 --> 00:24:33,555
Det var alt.

286
00:24:37,517 --> 00:24:40,729
Mens jeg var hjemme,
gjorde datamaskinen jobben.

287
00:24:41,521 --> 00:24:44,816
Den kjørte på,
genererte tusenvis av molekyler,

288
00:24:45,650 --> 00:24:49,529
og alt vi trengte å gjøre,
var å trykke "start".

289
00:24:54,493 --> 00:24:58,330
Neste morgen var det en fil
på datamaskinen min,

290
00:24:59,080 --> 00:25:05,253
og med den var det
omtrent 40 000 molekyler som potensielt

291
00:25:05,337 --> 00:25:08,882
var noen av de giftigste molekylene
kjent for menneskeheten.

292
00:25:10,217 --> 00:25:12,761
Nakkehårene mine reiste seg.

293
00:25:13,386 --> 00:25:14,638
Jeg ble helt satt ut.

294
00:25:15,388 --> 00:25:19,017
Datamaskinen lagde titusenvis av ideer

295
00:25:19,100 --> 00:25:20,685
for nye kjemiske våpen.

296
00:25:21,645 --> 00:25:27,609
Vi har selvsagt molekyler som ser ut
som VX-analoger og VX i datasettet.

297
00:25:28,360 --> 00:25:31,363
VX er et av de sterkeste
kjemiske våpnene i verden.

298
00:25:31,863 --> 00:25:33,573
Nye påstander fra politiet

299
00:25:33,657 --> 00:25:37,786
om at kvinnene som ble sett angripe
Kim Jong-nam i flyplassmordet,

300
00:25:37,869 --> 00:25:39,996
brukte en dødelig nervegass kalt VX.

301
00:25:40,080 --> 00:25:42,707
VX-NERVEGASS
ER 10 GANGER GIFTIGERE ENN SARIN

302
00:25:42,791 --> 00:25:44,960
Den kan forårsake død ved kvelning.

303
00:25:45,043 --> 00:25:47,629
Dette er et veldig sterkt molekyl,

304
00:25:47,712 --> 00:25:52,092
og de fleste av disse molekylene
antas å være enda mer dødelig enn VX.

305
00:25:53,301 --> 00:25:56,972
Mange av dem hadde aldri blitt sett før,
så vidt vi vet.

306
00:25:57,472 --> 00:26:02,310
Så da Sean og jeg innså dette,
tenkte vi: "Oi, hva har vi gjort?!"

307
00:26:04,771 --> 00:26:09,192
Jeg innså fort
at vi hadde åpnet Pandoras eske,

308
00:26:09,901 --> 00:26:13,280
og jeg sa: "Stopp.
Ikke gjør noe mer. Vi er ferdige.

309
00:26:13,905 --> 00:26:17,158
Bare lag lysbildene jeg trenger
til presentasjonen."

310
00:26:19,202 --> 00:26:20,829
Da vi gjorde eksperimentet,

311
00:26:20,912 --> 00:26:23,873
tenkte jeg:
"Hva er det verste som kan skje?"

312
00:26:26,251 --> 00:26:30,255
Men nå tenker jeg:
"Vi var naive som gjorde det."

313
00:26:33,466 --> 00:26:37,095
Det som skremmer meg mest,
er at alle kan gjøre det vi gjorde.

314
00:26:38,930 --> 00:26:40,765
Bare trykk på en bryter.

315
00:26:42,934 --> 00:26:46,438
Hvordan kontrollerer vi
denne teknologien før den blir brukt

316
00:26:46,521 --> 00:26:50,942
til å gjøre noe som potensielt
er helt destruktivt?

317
00:26:55,780 --> 00:27:00,285
Sentralt i samtalen om KI

318
00:27:00,368 --> 00:27:03,538
og hvordan vi velger
å bruke den i samfunnet,

319
00:27:04,289 --> 00:27:08,835
er kappløpet mellom makten
som vi utvikler teknologi med

320
00:27:08,918 --> 00:27:11,379
og visdommen vi har til å styre den.

321
00:27:13,340 --> 00:27:16,926
Det er åpenbare moralske og etiske følger

322
00:27:17,010 --> 00:27:20,138
av at det samme
som driver smarttelefonene våre

323
00:27:20,221 --> 00:27:23,433
skal få det moralske ansvaret om å ta liv.

324
00:27:25,727 --> 00:27:31,191
Jeg jobber med Future Of Life Institute,
et fellesskap av aktivistiske forskere.

325
00:27:31,733 --> 00:27:33,443
Vi prøver å vise

326
00:27:33,526 --> 00:27:38,698
at det er en annen side ved å fremskynde
og trappe opp automatiseringen.

327
00:27:38,782 --> 00:27:42,619
Men vi prøver å sørge for
at teknologi vi lager

328
00:27:42,702 --> 00:27:45,038
blir brukt på en trygg og etisk måte.

329
00:27:46,247 --> 00:27:49,959
La oss ta samtaler om regelverk

330
00:27:50,043 --> 00:27:54,005
og atferdsregler for bruk av KI
i våre våpensystem.

331
00:27:54,798 --> 00:27:59,135
Fordi vi ser nå
"inn på slagmarken"-teknologier

332
00:27:59,219 --> 00:28:01,680
som kan brukes til autonom dreping.

333
00:28:10,230 --> 00:28:15,110
I 2021 utga FN en rapport
om potensiell bruk

334
00:28:15,193 --> 00:28:19,364
av et dødelig autonomt våpen
på slagmarken i Libya.

335
00:28:19,906 --> 00:28:23,910
Et FN-panel sa at en drone
som fløy i den libyske borgerkrigen i fjor

336
00:28:23,993 --> 00:28:27,330
hadde blitt programmert
til å angripe mål autonomt.

337
00:28:27,414 --> 00:28:29,040
UTEN MENNESKELIG PÅVIRKNING

338
00:28:29,124 --> 00:28:34,879
Om FN-rapporten er korrekt, vil dette være
et historisk vannskille for menneskeheten.

339
00:28:34,963 --> 00:28:37,215
For det markerer et spesifikt tilfelle

340
00:28:37,298 --> 00:28:42,137
der KI tok beslutningen om å ta liv,
i stedet for et menneske.

341
00:28:49,686 --> 00:28:51,688
Du ser avanserte autonome våpen

342
00:28:51,771 --> 00:28:55,150
begynne å bli brukt
på forskjellige steder i verden.

343
00:28:55,233 --> 00:28:56,943
Det var rapporter fra Israel.

344
00:28:57,026 --> 00:29:00,196
ISRAEL SENDTE DRONESVERMER
FOR Å JAKTE PÅ HAMAS-LEDERE

345
00:29:00,280 --> 00:29:05,702
Aserbajdsjan brukte autonome systemer
for å angripe armensk luftforsvar.

346
00:29:07,370 --> 00:29:09,998
Den kan fly rundt på slagmarken i timevis,

347
00:29:10,081 --> 00:29:12,500
lete etter ting å treffe av seg selv,

348
00:29:12,584 --> 00:29:16,087
og så pløye inn i dem
uten menneskelig inngripen.

349
00:29:16,171 --> 00:29:19,591
RUSSLAND OG UKRAINA
UTKJEMPER DEN FØRSTE DRONEKRIGEN

350
00:29:19,674 --> 00:29:22,469
Og vi har nylig sett
ulike videoer fra Ukraina.

351
00:29:23,303 --> 00:29:25,930
Det er uklart hvilken modus
de kan ha vært i.

352
00:29:26,014 --> 00:29:28,975
SPANINGS- OG ANGREPSDRONER
FLYR DAGLIG OVER UKRAINA

353
00:29:29,058 --> 00:29:32,729
Valgte et menneske angrepsmål
eller gjorde maskinen det alene?

354
00:29:32,812 --> 00:29:36,524
Men det vil komme et tidspunkt,

355
00:29:36,608 --> 00:29:40,195
enten det alt har skjedd
i Libya, Ukraina eller andre steder,

356
00:29:40,278 --> 00:29:44,449
der en maskin tar egne avgjørelser
om hvem de skal drepe på slagmarken.

357
00:29:47,035 --> 00:29:50,997
Maskiner som utøver
dødelig makt over mennesker

358
00:29:51,080 --> 00:29:53,374
uten menneskelig inngripen

359
00:29:53,458 --> 00:29:57,337
er politisk uakseptabelt
og moralsk motbydelig.

360
00:29:57,921 --> 00:30:01,883
KI-DRONER BRUKT I UKRAINA SKAPER FRYKT
FOR FREMTIDENS DRAPSROBOTER.

361
00:30:01,966 --> 00:30:06,888
Er det internasjonale samfunnet
tilstrekkelig for å styre utfordringene?

362
00:30:06,971 --> 00:30:09,682
ER DRONER I UKRAINA
ET SKRITT MOT DRAPSROBOTER?

363
00:30:09,766 --> 00:30:12,685
Om vi ser fremover,
bare noen få år fra nå,

364
00:30:12,769 --> 00:30:15,730
ser landskapet skremmende ut

365
00:30:16,564 --> 00:30:20,527
med tanke på all kapitalen
og de menneskelige ressursene

366
00:30:20,610 --> 00:30:23,404
som anvendes for å gjøre AI bedre,

367
00:30:23,488 --> 00:30:26,032
på så mange bruksområder,

368
00:30:26,115 --> 00:30:26,950
er enorm.

369
00:30:39,254 --> 00:30:41,214
Herregud, den fyren.

370
00:30:41,756 --> 00:30:43,550
Han vet at han ikke kan vinne.

371
00:30:46,761 --> 00:30:51,099
Når jeg ser at KI vinner nytt terreng,
er det inspirerende.

372
00:30:51,683 --> 00:30:53,977
Jeg går for siste utvei.

373
00:30:54,477 --> 00:30:59,524
Og du kan bruke samme taktikk, teknikk
og prosedyrer på ekte fly.

374
00:31:01,401 --> 00:31:02,318
Bra kamp.

375
00:31:02,402 --> 00:31:03,653
Ja, bra kamp.

376
00:31:08,658 --> 00:31:09,909
Det er overraskende

377
00:31:09,993 --> 00:31:14,122
at folk fortsatt påstår
at KI ikke kan gjøre ting.

378
00:31:14,205 --> 00:31:17,166
"Den vil aldri kunne slå
en verdensmester i sjakk."

379
00:31:20,169 --> 00:31:22,547
En datamaskin fra IBM har gjort comeback

380
00:31:22,630 --> 00:31:25,925
i andre kamp mot verdensmesteren
i sjakk, Garry Kasparov.

381
00:31:28,136 --> 00:31:30,847
Kasparov har trukket seg!

382
00:31:31,598 --> 00:31:34,642
Når jeg ser noe
som er langt utenfor min forståelse,

383
00:31:34,726 --> 00:31:38,062
blir jeg redd.
Og dette var noe jeg ikke kunne forstå.

384
00:31:39,355 --> 00:31:41,024
Og så sa folk:

385
00:31:41,107 --> 00:31:44,402
"Den vil aldri kunne slå
en verdensmester i spillet Go."

386
00:31:44,485 --> 00:31:50,700
Jeg tror at menneskelig intuisjon
er for avansert for KI.

387
00:31:50,783 --> 00:31:52,827
Den holder ikke følge.

388
00:31:55,330 --> 00:31:58,416
Go er et av
de mest kompliserte spillene som finnes,

389
00:31:58,499 --> 00:32:01,961
fordi antall trekk på brettet,
når du regner på det,

390
00:32:02,045 --> 00:32:05,256
tilsvarer flere atomer
enn det er i universet.

391
00:32:06,799 --> 00:32:11,471
Det var et team i Google kalt DeepMind
som lagde et program kalt AlphaGo

392
00:32:11,554 --> 00:32:14,265
for å kunne slå verdens beste spillere.

393
00:32:16,559 --> 00:32:18,394
Gratulerer til…

394
00:32:18,478 --> 00:32:19,437
-AlphaGo.
-Ja.

395
00:32:19,520 --> 00:32:22,774
Et dataprogram har slått
en spiller på øverste nivå.

396
00:32:25,610 --> 00:32:31,532
Og så valgte DeepMind StarCraft
som deres neste KI-utfordring.

397
00:32:33,743 --> 00:32:38,081
StarCraft er kanskje tidenes
mest populære sanntidsstrategispill.

398
00:32:38,164 --> 00:32:41,125
DEEPMINDS KI KAN NÅ KNUSE
NESTEN ALLE I STARCRAFT 2

399
00:32:41,209 --> 00:32:44,754
AlphaStar ble berømt
da den begynte å beseire verdensmestere.

400
00:32:45,338 --> 00:32:48,800
AlphaStar knuser Immortal Arc.

401
00:32:48,883 --> 00:32:51,302
Denne kampen kan ikke proffene vinne.

402
00:32:51,427 --> 00:32:52,345
SEIER!
ALPHASTAR

403
00:32:53,680 --> 00:32:54,847
Det er helt vilt.

404
00:32:54,931 --> 00:32:57,558
KI STORMESTER
I 'DØDSKOMPLISERT' STARCRAFT II

405
00:32:57,642 --> 00:33:00,895
Profesjonelle spillere
"hadde aldri prøvd den taktikken

406
00:33:00,979 --> 00:33:04,816
eller den strategien.
Det er noe som ikke er menneskelig."

407
00:33:07,151 --> 00:33:10,655
Og det var kanskje åpenbaringen for meg.

408
00:33:13,574 --> 00:33:16,661
Jeg innså at nå er tiden inne.

409
00:33:17,412 --> 00:33:21,666
Dette er viktig teknologi
og en mulighet til å gjøre en forskjell.

410
00:33:24,502 --> 00:33:29,382
Jeg kjente bare til problemene
jeg hadde møtt i nærkamp som SEAL,

411
00:33:30,383 --> 00:33:34,470
men en av mine gode venner,
som var F-18-pilot, sa:

412
00:33:34,554 --> 00:33:39,434
"Vi har samme problem med jagerfly.
De forstyrrer kommunikasjonslinjene.

413
00:33:39,517 --> 00:33:44,439
Det er et økende antall luft-til-bakke-
missil-steder som gjør jobben for farlig."

414
00:33:47,483 --> 00:33:50,987
Tenk om vi hadde et jagerfly
som ble kommandert av KI.

415
00:33:51,070 --> 00:33:53,322
Velkommen til Alpha Luftkamptest.

416
00:33:53,406 --> 00:33:56,159
Vi er et par minutter unna
første semifinale.

417
00:33:56,242 --> 00:33:59,871
DARPA, Forsvarets
avanserte forskningsprosjektetat

418
00:33:59,954 --> 00:34:03,624
hadde sett AlphaGo og AlphaStar,

419
00:34:04,292 --> 00:34:08,171
så ideen om
Alpha Luftkamp-konkurransen kom i gang.

420
00:34:08,963 --> 00:34:11,466
Slik vil man se menneskelige jagerpiloter.

421
00:34:11,549 --> 00:34:13,760
Dette ligner en menneskelig luftkamp.

422
00:34:15,595 --> 00:34:19,057
Luftkamp er jagerfly mot jagerfly.

423
00:34:19,849 --> 00:34:22,852
Du kan tenke på det
som en boksekamp i himmelen.

424
00:34:23,853 --> 00:34:26,314
Kanskje folk har sett filmen Top Gun.

425
00:34:26,397 --> 00:34:27,815
Kan vi stikke fra dem?

426
00:34:28,357 --> 00:34:31,277
-Ikke rakettene og våpnene.
-Da blir det luftkamp.

427
00:34:35,531 --> 00:34:39,410
Å lære å mestre luftkamp
kan ta åtte til ti år.

428
00:34:42,288 --> 00:34:46,209
Det er en ekstremt kompleks utfordring
å bygge KI rundt.

429
00:34:54,092 --> 00:34:58,679
De tidligere tilnærmingene
til autonomi og luftkamp var skrale.

430
00:34:59,222 --> 00:35:03,017
Vi fant ut at maskinlæring
måtte være løsningen på problemet.

431
00:35:04,477 --> 00:35:08,189
Først visste ikke KI noe
om verdenen den ble satt i.

432
00:35:08,272 --> 00:35:12,735
Den visste ikke at den fløy
eller hva luftkamp eller F-16 var.

433
00:35:13,236 --> 00:35:17,490
Den visste kun hva den kunne gjøre,
og utforsket så alternativene.

434
00:35:17,573 --> 00:35:18,407
PRODUKTSJEF

435
00:35:19,325 --> 00:35:23,204
Det blå flyet har kun trent en kort stund.

436
00:35:23,287 --> 00:35:25,832
Man kan se den vippe frem og tilbake.

437
00:35:26,624 --> 00:35:30,545
Den flyr uberegnelig,
vanligvis bort fra motstanderen.

438
00:35:31,587 --> 00:35:36,134
Etter som kampen utvikler seg,
ser vi at blå begynner å etablere en plan.

439
00:35:36,676 --> 00:35:38,636
Den er i bedre skytestilling.

440
00:35:39,178 --> 00:35:41,305
Av og til sier læringsalgoritmen:

441
00:35:41,389 --> 00:35:43,891
"Her er en cookie. Gjør mer av det."

442
00:35:45,143 --> 00:35:50,064
Vi kan utnytte datakraften
og trene agentene mange ganger parallelt.

443
00:35:51,357 --> 00:35:55,778
Det er som et basketballag.
Istedenfor å stadig spille mot samme lag,

444
00:35:55,862 --> 00:35:59,198
reiser vi verden rundt
og spiller mot 512 ulike lag,

445
00:35:59,699 --> 00:36:00,950
samtidig.

446
00:36:01,492 --> 00:36:03,452
Man kan raskt bli veldig god.

447
00:36:04,162 --> 00:36:07,456
Vi klarte å kjøre
simuleringen 24 timer i døgnet

448
00:36:07,540 --> 00:36:11,919
og fikk 30 år pilottrening på ti måneder.

449
00:36:12,879 --> 00:36:15,673
Vi gikk fra å knapt kunne styre flyet

450
00:36:15,756 --> 00:36:17,717
til å bli en iskald snikmorder.

451
00:36:19,010 --> 00:36:23,514
I treningen konkurrerte vi kun
mot annen kunstig intelligens.

452
00:36:24,473 --> 00:36:28,561
Men å konkurrere direkte mot mennesker
var det endelige målet.

453
00:36:34,192 --> 00:36:35,610
Jeg heter Mike Benitez,

454
00:36:36,110 --> 00:36:41,157
jeg er oberstløytnant i USAs flyvåpen
og har vært i aktiv tjeneste i 25 år.

455
00:36:42,825 --> 00:36:44,785
Jeg har 250 kampoppdrag,

456
00:36:45,286 --> 00:36:49,832
og jeg er uteksaminert fra våpenskolen,
som er luftforsvarsutgaven av Top Gun.

457
00:36:52,627 --> 00:36:55,171
Jeg har faktisk aldri fløyet mot KI.

458
00:36:55,254 --> 00:36:58,549
Jeg gleder meg
til å se hvor godt jeg klarer meg.

459
00:36:59,634 --> 00:37:03,054
Vi har satt opp
en 6000 fot offensiv nærkamp.

460
00:37:04,388 --> 00:37:05,223
Vi er i gang.

461
00:37:13,314 --> 00:37:14,148
Han er borte.

462
00:37:14,732 --> 00:37:16,651
Ja, det er jo interessant.

463
00:37:20,780 --> 00:37:23,658
-Død.
-Jeg tok ham. Feilfri seier.

464
00:37:25,910 --> 00:37:27,453
Greit, andre runde.

465
00:37:35,461 --> 00:37:40,508
Det kunstige intelligens gjør,
er å manøvrere så presist

466
00:37:41,384 --> 00:37:43,219
at jeg ikke klarer å følge med.

467
00:37:48,474 --> 00:37:49,725
Rett inn i fusjon.

468
00:37:50,309 --> 00:37:51,894
Nå er du borte.

469
00:37:53,145 --> 00:37:53,980
Tok ham!

470
00:37:54,063 --> 00:37:55,064
Har det fortsatt.

471
00:37:58,567 --> 00:38:00,069
KI er aldri redd.

472
00:38:00,736 --> 00:38:03,781
Det er et menneskelig følelseselement
KI ikke har.

473
00:38:04,991 --> 00:38:08,119
En av de mer interessante strategiene
vår KI utviklet,

474
00:38:08,202 --> 00:38:10,121
er det vi kaller ansiktsskudd.

475
00:38:10,621 --> 00:38:14,000
Vanligvis vil et menneske skyte bakfra

476
00:38:14,083 --> 00:38:16,377
fordi da er en vanskelig å bli kvitt.

477
00:38:17,044 --> 00:38:20,381
De prøver ikke ansiktsskudd,
for det er et vågespill.

478
00:38:21,424 --> 00:38:25,511
Når vi kommer forfra,
kan 3000 - 500 fot unna

479
00:38:25,594 --> 00:38:27,096
skje på et øyeblikk.

480
00:38:27,596 --> 00:38:31,183
Man risikerer å kollidere,
så mennesker prøver ikke det.

481
00:38:32,685 --> 00:38:35,938
KI frykter ikke døden
om den ikke blir instruert om det.

482
00:38:37,857 --> 00:38:40,234
Føles som jeg kjemper mot et menneske,

483
00:38:40,776 --> 00:38:44,113
men noen som ikke bryr seg om sikkerhet.

484
00:38:45,489 --> 00:38:47,325
Han overlever ikke denne siste.

485
00:38:57,168 --> 00:38:58,461
Han har ikke nok tid.

486
00:39:01,964 --> 00:39:02,965
God natt.

487
00:39:04,091 --> 00:39:04,925
Jeg er død.

488
00:39:16,771 --> 00:39:20,983
Jeg blir ydmyk av å vite at jeg
kanskje ikke er den beste for oppdraget,

489
00:39:21,484 --> 00:39:24,320
og at den greia en dag kan erstatte meg.

490
00:39:25,696 --> 00:39:26,906
Samme 6000 fot.

491
00:39:27,615 --> 00:39:28,824
Ett tusen offset.

492
00:39:29,450 --> 00:39:32,078
Denne KI-piloten som kommanderer kampflyet

493
00:39:32,828 --> 00:39:34,830
vinner nådeløst og overlegent.

494
00:39:34,914 --> 00:39:37,249
Det er ikke bare at den vinner stort.

495
00:39:37,333 --> 00:39:41,545
Men: "Ok, hvordan kan vi få det på flyet?"
Så mektig er det.

496
00:39:43,672 --> 00:39:47,802
Det er realistisk å forvente
at KI vil styre en F-16,

497
00:39:47,885 --> 00:39:49,970
og det vil ikke være så lenge til.

498
00:39:51,305 --> 00:39:56,769
Hvis du kjemper mot en KI-pilot
som vinner 99,99999 % av tiden,

499
00:39:56,852 --> 00:39:58,646
har du ikke nubbesjanse.

500
00:39:59,605 --> 00:40:02,733
Når jeg tenker på at én pilot er uslåelig,

501
00:40:02,817 --> 00:40:06,695
lurer jeg på hva et team på 50, 100

502
00:40:07,279 --> 00:40:12,535
eller 1000 KI-piloter kan oppnå.

503
00:40:13,702 --> 00:40:18,791
Sverming er et team av høyintelligente fly
som jobber med hverandre.

504
00:40:19,291 --> 00:40:23,671
De deler informasjon om hva de skal gjøre,
hvordan de skal løse problemer.

505
00:40:25,172 --> 00:40:30,469
Sverming vil være
banebrytende og transformerende

506
00:40:30,553 --> 00:40:32,638
for militæret og våre allierte.

507
00:41:42,750 --> 00:41:47,379
Målet er ervervet, og dronene sporer ham.

508
00:42:02,019 --> 00:42:03,604
Her kommer landingen.

509
00:42:07,566 --> 00:42:10,402
Hovedmålet med svermforskningen
vi jobber med nå,

510
00:42:11,153 --> 00:42:13,697
er å utgruppere et stort antall droner

511
00:42:13,781 --> 00:42:17,910
over et område som er
vanskelig tilgjengelig eller farlig.

512
00:42:21,705 --> 00:42:26,085
Hærens forskningslab
har støttet dette forskningsprosjektet.

513
00:42:26,919 --> 00:42:28,963
Vil du vite hva som er på et sted,

514
00:42:29,046 --> 00:42:32,883
men det er vanskelig tilgjengelig
eller over et stort område,

515
00:42:33,676 --> 00:42:35,886
så er det naturlig å bruke en sverm

516
00:42:35,970 --> 00:42:38,389
for å utvide individers rekkevidde

517
00:42:38,472 --> 00:42:41,934
og samle informasjon
som er viktig for oppdraget.

518
00:42:46,689 --> 00:42:48,983
Så i svermutplasseringen nå

519
00:42:49,066 --> 00:42:53,904
gir vi én kommando om å spore målet vårt.

520
00:42:54,488 --> 00:42:57,283
Så drar dronene
og gjør alt det på egen hånd.

521
00:42:59,493 --> 00:43:04,081
Kunstig intelligens lar robotene
bevege seg kollektivt som en sverm

522
00:43:04,164 --> 00:43:05,708
på en desentralisert måte.

523
00:43:10,671 --> 00:43:12,506
Svermer vi ser i naturen

524
00:43:13,299 --> 00:43:18,178
har ingen sjef eller hoveddyr
som forteller dem hva de skal gjøre.

525
00:43:20,556 --> 00:43:25,019
Oppførselen kommer fra hvert enkelt dyr

526
00:43:25,102 --> 00:43:27,104
basert på noen enkle regler.

527
00:43:27,688 --> 00:43:32,443
Og ut av det vokser
denne kollektive atferden du ser.

528
00:43:33,944 --> 00:43:37,031
Det som er imponerende
med svermer i naturen,

529
00:43:37,114 --> 00:43:39,992
er den grasiøse måten de beveger seg på.

530
00:43:40,576 --> 00:43:44,288
Det er som om de er lagd
for å være en del av denne gruppen.

531
00:43:46,790 --> 00:43:51,128
Ideelt sett vil vi gjerne
at det i vår dronesverm,

532
00:43:51,211 --> 00:43:56,717
i likhet med svermer i naturen,
blir tatt avgjørelser kollektiv i gruppen.

533
00:43:59,928 --> 00:44:02,765
Den andre inspirasjonen for oss

534
00:44:02,848 --> 00:44:06,268
kommer i form av
pålitelighet og tilpasningsdyktighet.

535
00:44:07,311 --> 00:44:13,567
Den svermen vil ikke falle sammen
om ett enkelt dyr ikke gjør som det skal.

536
00:44:15,194 --> 00:44:18,697
Selv om en av agentene
faller fra eller mislykkes,

537
00:44:18,781 --> 00:44:20,866
eller ikke kan fullføre oppgaven,

538
00:44:21,909 --> 00:44:23,369
vil svermen fortsette.

539
00:44:25,204 --> 00:44:27,873
Og det er det vi vil ha
til syvende og sist.

540
00:44:29,333 --> 00:44:33,879
I kampscenarioer har vi behov for
å identifisere fiendtlige fly,

541
00:44:33,962 --> 00:44:37,841
og før trengte vi én person
for å styre én robot.

542
00:44:38,592 --> 00:44:40,552
Etter hvert som autonomien øker,

543
00:44:40,636 --> 00:44:43,555
håper jeg vi får se
et stort antall roboter

544
00:44:43,639 --> 00:44:46,558
som styres av
et veldig lite antall mennesker.

545
00:44:47,851 --> 00:44:50,854
Jeg ser ingen grunn til
at vi ikke kan oppnå tusen,

546
00:44:51,355 --> 00:44:56,443
for hver agent vil kunne handle
på egen hånd, så mulighetene er uendelige.

547
00:44:57,027 --> 00:44:59,071
Vi kan skalere læringen vår…

548
00:44:59,154 --> 00:45:03,325
Vi har jobbet med sverming
i simulering ganske lenge,

549
00:45:03,409 --> 00:45:06,829
og det er på tide
å overføre det til virkelige fly.

550
00:45:07,329 --> 00:45:12,042
Vi forventer å ta tre roboter
samtidig over nettverket,

551
00:45:12,126 --> 00:45:15,129
og så legge til flere og flere muligheter.

552
00:45:15,879 --> 00:45:18,549
Vi vil kunne teste det på mindre systemer,

553
00:45:18,632 --> 00:45:22,261
men ta de samme konseptene
og bruke dem på større systemer,

554
00:45:22,344 --> 00:45:23,679
som et jagerfly.

555
00:45:24,596 --> 00:45:26,014
Vi snakker mye om

556
00:45:26,098 --> 00:45:31,937
hvordan man gir en tropp
en bataljons slagkraft.

557
00:45:34,982 --> 00:45:39,528
Eller en bataljon en brigades slagkraft?

558
00:45:39,611 --> 00:45:41,488
Man kan gjøre det med sverming.

559
00:45:42,614 --> 00:45:45,200
Og når man forstår svermingens kraft,

560
00:45:45,284 --> 00:45:49,455
har man skapt en ny strategisk avskrekking
mot militær aggresjon.

561
00:45:52,332 --> 00:45:57,004
Jeg syns det beste
er antall unge menn og kvinner

562
00:45:57,087 --> 00:46:00,299
vi vil redde hvis vi
virkelig gjør dette riktig.

563
00:46:01,091 --> 00:46:03,594
Og vi bytter maskiner

564
00:46:04,553 --> 00:46:05,846
fremfor menneskeliv.

565
00:46:06,597 --> 00:46:08,098
FORFATTER AV ARMY OF NONE

566
00:46:08,182 --> 00:46:12,311
Noen hevder at autonome våpen
vil gjøre krigføring mer presis og human,

567
00:46:12,853 --> 00:46:15,397
men det er vanskelig å forutsi

568
00:46:15,481 --> 00:46:19,443
hvordan autonome våpen
kan endre krigføring på forhånd.

569
00:46:21,278 --> 00:46:23,238
Det er som da gatlingkanonen kom.

570
00:46:23,322 --> 00:46:25,407
MASKINVÅPEN
PATENTERT 9. MAI 1865

571
00:46:25,491 --> 00:46:27,284
Richard Gatling var oppfinner,

572
00:46:27,367 --> 00:46:30,954
og han så soldater
komme tilbake, såret i borgerkrigen,

573
00:46:32,289 --> 00:46:35,417
og ville finne måter
å gjøre krigføring mer human på.

574
00:46:36,293 --> 00:46:39,797
Å redusere antall soldater
som ble drept i krig

575
00:46:40,380 --> 00:46:42,633
ved å redusere antall soldater i kamp.

576
00:46:44,092 --> 00:46:48,388
Så han oppfant gatlingkanonen,
et våpen som ble dreid av en sveiv

577
00:46:48,472 --> 00:46:50,516
som kunne automatisere skytingen.

578
00:46:53,268 --> 00:46:57,981
Den mangedoblet ildkraften
soldatene kunne avgi.

579
00:47:01,235 --> 00:47:05,239
Ofte kan tiltak for å gjøre krigføring
mer presist og humant

580
00:47:06,490 --> 00:47:07,991
ha motsatt effekt.

581
00:47:10,160 --> 00:47:14,540
Tenk på effekten av et feilaktig
droneangrep i et landlig område

582
00:47:14,623 --> 00:47:17,209
som driver lokalbefolkningen mot USA,

583
00:47:17,292 --> 00:47:20,712
mot en lokal myndighet.
Du vet, de som skal være snille.

584
00:47:22,589 --> 00:47:25,008
Gang det med 1000.

585
00:47:26,802 --> 00:47:28,720
Dannelsen av et våpensystem

586
00:47:28,804 --> 00:47:34,560
som er billig, skalerbart og ikke krever
menneskelige operatører,

587
00:47:34,643 --> 00:47:37,896
endrer drastisk konfliktbarrierene.

588
00:47:40,107 --> 00:47:44,653
Det holder meg våken om natta
å tenke på en verden der krig er utbredt

589
00:47:44,736 --> 00:47:48,657
og vi ikke lenger har menneskelige
og økonomiske kostnader ved krig

590
00:47:48,740 --> 00:47:51,410
fordi vi er så fjernet fra

591
00:47:52,369 --> 00:47:54,037
livene som vil gå tapt.

592
00:47:59,501 --> 00:48:01,420
Alt dette hjemsøker meg.

593
00:48:02,212 --> 00:48:05,924
Jeg trengte bare et eksempel
på misbruk av kunstig intelligens.

594
00:48:06,800 --> 00:48:10,888
De uventede konsekvensene
av det enkle tankeeksperimentet

595
00:48:10,971 --> 00:48:12,848
har gått altfor langt.

596
00:48:13,348 --> 00:48:16,226
KI I LEGEMIDDELSAK.
IKKE GJØR MER SKADE ENN GAVN.

597
00:48:17,352 --> 00:48:18,729
Da jeg presenterte

598
00:48:18,812 --> 00:48:22,107
de giftige molekylene
som ble skapt av KI-teknologi,

599
00:48:22,608 --> 00:48:24,401
ble publikum sittende og måpe.

600
00:48:25,402 --> 00:48:27,613
TOPP 5000 VAR KJENTE VX-FORBINDELSER

601
00:48:29,406 --> 00:48:33,577
Neste avgjørelse var
om vi skulle publisere informasjonen.

602
00:48:34,912 --> 00:48:40,125
På den ene siden vil du advare verden
om slike evner, men på den andre siden vil

603
00:48:40,208 --> 00:48:44,087
du ikke gi noen en idé
om de aldri har hatt den før.

604
00:48:46,381 --> 00:48:48,133
Vi ville publisere

605
00:48:48,216 --> 00:48:52,679
for å finne måter
å redusere misbruk av denne typen KI

606
00:48:52,763 --> 00:48:54,139
før det skjer.

607
00:48:54,222 --> 00:48:56,975
DOBBELTBRUK FOR KI-DREVET
LEGEMIDDELOPPDAGELSE

608
00:48:57,559 --> 00:49:02,564
UNDERSØKTE HVORDAN KI-TEKNOLOGI KAN
MISBRUKES TIL Å DESIGNE BIOKJEMISKE VÅPEN.

609
00:49:02,648 --> 00:49:04,775
Reaksjonene var sjokkerende.

610
00:49:07,194 --> 00:49:10,656
Vi kan se målingene på siden,
hvor mange som har gått inn.

611
00:49:10,739 --> 00:49:14,451
Med artiklene vi vanligvis skriver,
er vi heldige om vi får

612
00:49:14,534 --> 00:49:19,831
et par tusen som ser på artiklene
over ett eller flere år.

613
00:49:19,915 --> 00:49:22,125
Ti tusen hadde lest den innen en uke.

614
00:49:22,209 --> 00:49:25,337
Så var det 20, 30, 40 000,

615
00:49:25,837 --> 00:49:28,715
og vi var oppe i 10 000 seere om dagen.

616
00:49:30,258 --> 00:49:33,387
Vi har vært
i The Economist, the Financial Times.

617
00:49:33,470 --> 00:49:34,763
DEN MØRKE SIDEN AV KI

618
00:49:34,846 --> 00:49:37,182
RADIOLAB: 40 000 OPPSKRIFTER PÅ DRAP

619
00:49:37,265 --> 00:49:39,977
Radiolab tok kontakt.
Jeg har hørt om Radiolab!

620
00:49:41,937 --> 00:49:45,899
Men så ble reaksjonene
til noe som gikk over styr.

621
00:49:48,819 --> 00:49:49,695
SKREMMENDE.

622
00:49:49,778 --> 00:49:53,490
Når vi ser på innlegg, sier de:
"Gud, kan det bli verre?"

623
00:49:53,991 --> 00:49:55,409
Hvorfor gjorde de dette?

624
00:49:55,492 --> 00:49:57,828
NOE AV DET MEST SKREMMENDE JEG HAR LEST

625
00:49:57,911 --> 00:50:01,081
DISSE NERDENE KOMMER TIL Å DREPE OSS ALLE.

626
00:50:01,164 --> 00:50:04,501
Og så fikk vi en invitasjon
jeg aldri hadde forventet.

627
00:50:08,797 --> 00:50:12,926
Det var mye diskusjon
i Det hvite hus om artikkelen,

628
00:50:13,010 --> 00:50:15,345
og de ville snakke med oss snarlig.

629
00:50:18,849 --> 00:50:23,020
Det er åpenbart en stor ære
å kunne snakke med folk på dette nivået.

630
00:50:23,603 --> 00:50:25,272
Men så treffer det deg:

631
00:50:25,355 --> 00:50:28,900
"Herregud, det er Det hvite hus. Sjefen."

632
00:50:29,651 --> 00:50:33,196
Dette innebar å sette sammen
datasett som var åpen kildekode…

633
00:50:33,280 --> 00:50:37,701
På omtrent seks timer
klarte modellen å generere over 40 000…

634
00:50:37,784 --> 00:50:41,038
De stilte spørsmål om
hvor mye datakraft som trengtes,

635
00:50:41,872 --> 00:50:44,249
og vi sa at det ikke var noe spesielt.

636
00:50:44,332 --> 00:50:48,211
Bokstavelig talt en vanlig,
seks år gammel Mac.

637
00:50:49,546 --> 00:50:51,256
Og det overrasket dem veldig.

638
00:50:54,968 --> 00:50:59,473
De som har ansvar for
å forstå kjemiske krigføringsagenter

639
00:50:59,556 --> 00:51:04,019
og statlige byråer,
visste ikke om dette potensialet.

640
00:51:06,605 --> 00:51:09,816
Vi har en kokebok
for å lage kjemiske våpen,

641
00:51:10,650 --> 00:51:15,572
og i hendene på noen med skumle hensikter,

642
00:51:16,573 --> 00:51:18,992
kan det bli ekstreme konsekvenser.

643
00:51:21,703 --> 00:51:23,205
Folk må følge med,

644
00:51:23,288 --> 00:51:26,458
og vi må ta skritt
for å regulere teknologien

645
00:51:27,250 --> 00:51:30,670
eller begrense den på en måte
som ikke kan misbrukes.

646
00:51:31,880 --> 00:51:35,175
Fordi potensialet for dødelighet

647
00:51:36,176 --> 00:51:37,344
er skremmende.

648
00:51:40,680 --> 00:51:45,977
Spørsmålet om KIs etikk
er i stor grad adressert av samfunnet,

649
00:51:46,561 --> 00:51:50,273
ikke av ingeniører, teknologer
eller matematikere.

650
00:51:52,484 --> 00:51:56,822
Alle teknologier vi frembringer,
enhver nyskapning,

651
00:51:56,905 --> 00:52:00,617
tilfaller hvordan samfunnet
mener vi bør bruke den.

652
00:52:01,201 --> 00:52:03,495
DOD INNFØRER ETISKE PRINSIPPER FOR KI

653
00:52:03,578 --> 00:52:06,498
Akkurat nå sier Forsvarsdepartementet:

654
00:52:06,581 --> 00:52:10,836
"Det eneste som sier at vi skal drepe noe
på slagmarken, er et menneske."

655
00:52:10,919 --> 00:52:13,880
UBEMANNEDE SYSTEMER MED DØDELIG MAKT
STYRT AV FOLK

656
00:52:13,964 --> 00:52:15,090
Maskiner kan drepe,

657
00:52:15,674 --> 00:52:18,927
men bare på ordre
fra en menneskelig operatør,

658
00:52:19,010 --> 00:52:21,429
og jeg kan ikke se at det vil endre seg.

659
00:52:24,808 --> 00:52:28,311
De forsikrer oss om
at denne typen teknologi vil være trygg.

660
00:52:29,020 --> 00:52:31,565
PENTAGON MISLYKKES I DØDELIG LUFTANGREP

661
00:52:31,648 --> 00:52:35,485
Men det amerikanske militæret
har ikke et bra rykte med dronekrig.

662
00:52:35,569 --> 00:52:38,446
USA SKJULTE LUFTANGREP
SOM DREPTE SIVILE SYRERE

663
00:52:38,530 --> 00:52:41,783
Så når det gjelder
å stole på USAs militære med KI,

664
00:52:41,867 --> 00:52:44,953
vil jeg si
at historien snakker for seg selv.

665
00:52:46,288 --> 00:52:50,125
USAs forsvarsdepartements syn
på bruk av autonomi i våpen

666
00:52:50,208 --> 00:52:52,919
forbyr ikke noen våpensystem.

667
00:52:53,003 --> 00:52:56,715
Selv om militæret
kanskje ikke vil ha autonome våpen,

668
00:52:56,798 --> 00:53:01,469
kan vi se militæret
overlate flere beslutninger til maskiner

669
00:53:01,553 --> 00:53:03,680
for å holde tritt med konkurrentene.

670
00:53:04,764 --> 00:53:09,978
Og det kan få militæret til å automatisere
avgjørelser de kanskje ikke ønsker.

671
00:53:12,022 --> 00:53:16,693
Vladimir Putin sa: "Den som
fører an i KI, vil regjere verden."

672
00:53:17,736 --> 00:53:23,325
President Xi har gjort det klart
at KI er en av teknologiene

673
00:53:23,408 --> 00:53:25,702
Kina ønsker å være dominerende i.

674
00:53:26,786 --> 00:53:29,831
Vi er helt klart i et teknologisk kappløp.

675
00:53:33,501 --> 00:53:35,670
Man hører folk snakke om rekkverk,

676
00:53:36,463 --> 00:53:39,424
og jeg tror det er det folk burde gjøre.

677
00:53:40,467 --> 00:53:45,180
Men det er et stort kappløp
for å lede innen KI.

678
00:53:47,265 --> 00:53:51,603
Og våre motstandere,
enten det er Kina, Russland eller Iran,

679
00:53:52,187 --> 00:53:56,566
vil ikke bry seg om
hva politikken vår sier om KI.

680
00:54:00,820 --> 00:54:04,324
Man ser flere samtaler om KI-regler,

681
00:54:06,117 --> 00:54:09,287
men jeg skulle ønske
flere ledere hadde samtalen

682
00:54:09,371 --> 00:54:11,706
og sa: "Hvor raskt kan vi bygge dette?

683
00:54:12,707 --> 00:54:15,168
La oss for pokker løse det og bygge det."

684
00:54:18,922 --> 00:54:21,299
AUSA-ÅRSMØTE OG MESSE
I WASHINGTON D.C.

685
00:54:24,177 --> 00:54:26,805
DEN AMERIKANSKE HÆREN

686
00:54:33,478 --> 00:54:38,358
Vi er på foreningen til
den amerikanske hærens største messe i år.

687
00:54:39,609 --> 00:54:44,572
Alle som selger
et produkt eller teknologi til militæret,

688
00:54:44,656 --> 00:54:46,616
vil stille ut.

689
00:54:47,701 --> 00:54:50,537
Tyndall flyvåpenbase
har fire av våre roboter

690
00:54:50,620 --> 00:54:53,915
som patruljerer basen deres
hele døgnet, syv dager i uka.

691
00:54:55,750 --> 00:55:00,130
Vi kan legge til alt fra kameraer
til sensorer til det du trenger.

692
00:55:00,213 --> 00:55:05,135
Manipulatorarmer. Alt for å fullføre
oppdraget kunden har i tankene.

693
00:55:06,678 --> 00:55:08,763
Hva om fienden din introduserer KI?

694
00:55:09,431 --> 00:55:12,976
Et kampsystem som tenker raskere
enn deg, reagerer raskere

695
00:55:13,059 --> 00:55:16,062
enn hva et menneske kan gjøre.
Vi må være forberedt.

696
00:55:17,605 --> 00:55:21,359
Vi trener systemene våre
til å samle informasjon om fienden,

697
00:55:22,027 --> 00:55:26,531
styre fiendens mål
med mennesker som overvåker drapskjeden.

698
00:55:33,288 --> 00:55:34,956
-Hei, general.
-Går det bra?

699
00:55:35,040 --> 00:55:36,416
Ja, sir. Hva med deg?

700
00:55:37,709 --> 00:55:40,879
Jeg sier bare
at ingen investerer mer i KI-piloter.

701
00:55:40,962 --> 00:55:42,630
Vår KI-pilot heter Hivemind.

702
00:55:43,298 --> 00:55:47,135
Vi har brukt den på vårt
kvadrokopter Nova som går inn i bygninger

703
00:55:47,218 --> 00:55:50,805
og utforsker dem før spesialstyrker
og infanteriet kommer.

704
00:55:50,889 --> 00:55:52,891
Vi bruker Hivemind på V-BAT,

705
00:55:52,974 --> 00:55:56,811
så jeg tenker på å stille opp
hundrevis av de lagene,

706
00:55:56,895 --> 00:56:01,483
om det er i Taiwanstredet eller Ukraina,
for å avskrekke motstanderne våre.

707
00:56:01,566 --> 00:56:03,360
Så jeg er begeistret over det.

708
00:56:03,943 --> 00:56:06,196
-Greit. Takk.
-Så. Takk, general.

709
00:56:07,989 --> 00:56:13,370
KI-piloter bør være overalt,
og det bør være tilfelle innen 2025, 2030.

710
00:56:14,204 --> 00:56:17,582
Dens adopsjon vil skje raskt
i hærer over hele verden.

711
00:56:18,750 --> 00:56:23,004
Hva gjør du med det rumenske militæret
og den ubemannet luftsystem-fyren?

712
00:56:23,088 --> 00:56:24,589
Høyteknologi i militæret.

713
00:56:25,256 --> 00:56:29,803
Vi har brukt en halv milliard dollar
på å lage en KI-pilot.

714
00:56:29,886 --> 00:56:33,181
Vi skal bruke enda en milliard dollar
de neste fem årene.

715
00:56:33,264 --> 00:56:37,769
Det er en stor grunn til
at vi får programmene i USA.

716
00:56:37,852 --> 00:56:38,853
Bra.

717
00:56:38,937 --> 00:56:42,732
Det er imponerende.
Har dere klart å bevæpne den?

718
00:56:43,650 --> 00:56:45,568
Denne er ikke bevæpnet ennå.

719
00:56:45,652 --> 00:56:48,321
Så ikke ennå. Men ja, i fremtiden.

720
00:56:48,863 --> 00:56:52,534
Våre kunder ser det som en truck.
Vi ser det som en smart truck

721
00:56:52,617 --> 00:56:54,452
som kan gjøre mye forskjellig.

722
00:56:54,536 --> 00:56:55,703
-Takk, kompis.
-Ja.

723
00:56:55,787 --> 00:56:57,914
Jeg skal sørge for å følge deg opp.

724
00:57:01,668 --> 00:57:04,129
Hvis du kommer tilbake om ti år,

725
00:57:04,212 --> 00:57:10,802
får du se at KI og autonomi
dominerer hele markedet.

726
00:57:14,889 --> 00:57:19,352
Styrker som støttes av KI og autonomi

727
00:57:19,436 --> 00:57:25,108
vil fullstendig dominere,
knuse og ødelegge styrker uten.

728
00:57:26,401 --> 00:57:30,780
Det vil tilsvare hester
som går mot stridsvogner,

729
00:57:31,781 --> 00:57:34,367
folk med sverd som går mot maskingeværet.

730
00:57:34,909 --> 00:57:37,120
Det vil ikke være i nærheten.

731
00:57:38,746 --> 00:57:42,750
Det blir allestedsnærværende,
brukt i alle krigsaspekter,

732
00:57:43,585 --> 00:57:44,836
på taktisk nivå,

733
00:57:45,336 --> 00:57:46,546
på strategisk nivå,

734
00:57:47,172 --> 00:57:50,800
virksomme i hastigheter
som mennesker ikke kan forstå i dag.

735
00:57:53,094 --> 00:57:57,098
Kommandørene er allerede overveldet
av for mye informasjon.

736
00:57:57,599 --> 00:58:01,019
Bilder fra satellitter,
droner og sensorer.

737
00:58:02,061 --> 00:58:03,271
Det KI kan gjøre,

738
00:58:03,354 --> 00:58:06,774
er å hjelpe kommandører
med å forstå hva som skjer raskere.

739
00:58:07,650 --> 00:58:09,986
Og da: "Hvilke bestemmelser må jeg ta?"

740
00:58:11,237 --> 00:58:14,866
KI vil ta hensyn til alle faktorene

741
00:58:14,949 --> 00:58:17,702
som bestemmer hvordan krig utkjempes,

742
00:58:18,286 --> 00:58:20,246
finne strategier…

743
00:58:22,540 --> 00:58:25,668
…og gi råd om hvordan man vinner et slag.

744
00:58:32,217 --> 00:58:34,344
LOCKHEED MARTIN
INNOVASJONSSENTER

745
00:58:36,888 --> 00:58:40,266
Vi i Lockheed Martin,
i likhet med forsvarsdepartementet,

746
00:58:40,350 --> 00:58:45,104
ser på KI som muliggjørende teknologi
for kontrollsenteret.

747
00:58:47,065 --> 00:58:50,318
Spredningsraten er
gjennomsnittlig 0,6 meter per sekund.

748
00:58:50,401 --> 00:58:52,278
Omkretsen er omtrent 3 hektar.

749
00:58:52,779 --> 00:58:55,782
Krigståken er reell for oss i forsvaret,

750
00:58:57,158 --> 00:59:00,495
men den skal også fungere
i sine omgivelser

751
00:59:00,578 --> 00:59:03,206
og kunne ta avgjørelser i store branner.

752
00:59:03,289 --> 00:59:06,543
Washburn-brannen er
like nord for byen Wawona.

753
00:59:06,626 --> 00:59:09,629
Man må ta avgjørelser med ufullkomne data.

754
00:59:10,630 --> 00:59:14,300
Så hvordan kan vi få KI
til å hjelpe oss med krigståken?

755
00:59:17,637 --> 00:59:19,597
Skogbranner er veldig kaotiske.

756
00:59:20,181 --> 00:59:21,266
De er komplekse,

757
00:59:22,267 --> 00:59:27,855
så vi jobber med å bruke KI
for å hjelpe til med å ta avgjørelser.

758
00:59:31,442 --> 00:59:37,949
Den kognitive misjonslederen er et program
vi lager som tar infrarød video

759
00:59:38,032 --> 00:59:41,786
og prosesserer gjennom våre KI-algoritmer

760
00:59:41,869 --> 00:59:45,248
for å kunne forutse
brannens fremtidige forløp.

761
00:59:48,042 --> 00:59:52,922
Fremover vil Den kognitive misjonslederen
bruke simulering

762
00:59:53,006 --> 00:59:57,093
og kjøre scenarioer
av tusenvis av sykluser,

763
00:59:57,176 --> 01:00:00,722
for å anbefale den mest effektive
ressursbruken

764
01:00:00,805 --> 01:00:04,058
for å kontrollere
høyprioritetsområder med brann.

765
01:00:08,062 --> 01:00:12,400
Den vil si: "Dra og utfør brannslukking
med en Firehawk her.

766
01:00:13,568 --> 01:00:15,903
Ta bakkemannskap som rydder kratt

767
01:00:16,946 --> 01:00:19,032
og brannmenn som spyler ned,

768
01:00:19,657 --> 01:00:23,077
og trekk dem inn i høyprioritetsområder."

769
01:00:26,289 --> 01:00:29,292
De avgjørelsene
vil kunne genereres raskere

770
01:00:29,375 --> 01:00:31,044
og mer effektivt.

771
01:00:35,840 --> 01:00:42,305
Vi anser KI som noe som lar mennesker
følge med på det stadig skiftende miljøet.

772
01:00:43,389 --> 01:00:46,517
Og det er mange paralleller til

773
01:00:46,601 --> 01:00:50,355
det vi er vant til
på Lockheed Martin på forsvarssiden.

774
01:00:52,231 --> 01:00:55,860
Militæret snakker ikke lenger
om å kun bruke KI

775
01:00:55,943 --> 01:01:00,323
og individuelle våpensystem
for å ta mål- og drapsbeslutninger,

776
01:01:00,865 --> 01:01:05,787
men om å integrere KI
i hele militærets beslutningsarkitektur.

777
01:01:09,457 --> 01:01:12,960
Hæren har et stort prosjekt
kalt Prosjekt Konvergens.

778
01:01:14,545 --> 01:01:16,589
Marinen har Overmatch.

779
01:01:16,673 --> 01:01:19,592
Og luftforsvaret har
Avansert kampstyringssystem.

780
01:01:21,886 --> 01:01:26,683
Forsvarsdepartementet prøver å finne ut:
"Hvordan setter vi alle bitene sammen

781
01:01:26,766 --> 01:01:29,268
så vi kan reagere raskere enn motstanderen

782
01:01:30,395 --> 01:01:32,355
og virkelig få en fordel?"

783
01:01:33,481 --> 01:01:37,527
En KI-stridsleder
ville vært en ganske høytstående general

784
01:01:37,610 --> 01:01:39,821
som har ansvar for slaget.

785
01:01:41,155 --> 01:01:44,158
Den vil kunne gi ordrer til mange styrker,

786
01:01:45,118 --> 01:01:49,247
koordinere handlingene
til alle våpnene der ute,

787
01:01:49,330 --> 01:01:51,958
i en fart intet menneske kan følge.

788
01:01:53,543 --> 01:01:58,798
Vi har brukt de siste 70 årene på å bygge
opp planetens mest sofistikerte militære,

789
01:01:58,881 --> 01:02:03,177
og nå står vi overfor avgjørelsen
om vi vil overgi kontrollen

790
01:02:03,261 --> 01:02:07,598
over den infrastrukturen
til en algoritme, til en programvare.

791
01:02:10,351 --> 01:02:13,187
Og konsekvensene av den avgjørelsen

792
01:02:13,271 --> 01:02:16,774
kan utløse hele vekten
av vårt militære arsenal.

793
01:02:16,858 --> 01:02:19,902
Det er ikke ett Hiroshima.
Det er hundrevis.

794
01:02:25,616 --> 01:02:27,869
Dette er tiden for handling,

795
01:02:27,952 --> 01:02:33,166
fordi vinduet
for å begrense risikoen stenges hurtig.

796
01:02:34,041 --> 01:02:35,251
FN
27. SEPTEMBER 2021

797
01:02:35,334 --> 01:02:39,255
I ettermiddag starter vi
med internasjonale sikkerhetsutfordringer

798
01:02:39,338 --> 01:02:43,384
fra nye teknologier når det kommer til
dødelige autonome våpensystem.

799
01:02:43,468 --> 01:02:44,343
FORMANN

800
01:02:44,427 --> 01:02:45,595
SEKRETARIATET

801
01:02:45,678 --> 01:02:50,016
Det foregår samtaler i FN om trusselen
fra dødelige autonome våpen

802
01:02:50,600 --> 01:02:56,564
og vårt forbud mot systemer
som bruker KI til å velge ut folk.

803
01:02:56,647 --> 01:03:00,777
Enigheten blant teknologer
er klar og rungende.

804
01:03:00,860 --> 01:03:04,030
Vi er imot autonome våpen
som er rettet mot mennesker.

805
01:03:05,615 --> 01:03:08,993
I årevis hjalp land til
ved å diskutere problemet

806
01:03:09,076 --> 01:03:11,204
med dødelige autonome våpensystemer.

807
01:03:11,287 --> 01:03:13,998
DRAPSROBOTER FINS.
STADIG FLERE VIL FORBY DEM.

808
01:03:14,081 --> 01:03:16,793
Dette handler om
en felles følelse av trygghet.

809
01:03:17,293 --> 01:03:19,796
FN-SJEFEN VIL HA TILTAK MOT "DRAPSROBOTER"

810
01:03:19,879 --> 01:03:25,968
Men det er selvsagt ikke lett.
Enkelte land, særlig militære stormakter,

811
01:03:26,052 --> 01:03:27,762
vil være foran alle andre,

812
01:03:28,429 --> 01:03:31,599
slik at de er foran sine motstandere.

813
01:03:32,600 --> 01:03:36,395
Problemet er at alle må være enige for
at det skal bli gjort noe.

814
01:03:36,896 --> 01:03:39,065
Minst ett land vil protesterer,

815
01:03:39,148 --> 01:03:42,109
og både USA og Russland
har gjort det klart

816
01:03:42,193 --> 01:03:45,655
at de er imot en traktat
som vil forby autonome våpen.

817
01:03:47,198 --> 01:03:53,204
Når vi tenker på hvor mange det er
som jobber for å gjøre KI kraftigere,

818
01:03:54,747 --> 01:03:56,457
myldrer det i rommet.

819
01:03:57,750 --> 01:04:02,880
Når vi tenker på dem
som sørger for at KI er trygt,

820
01:04:04,340 --> 01:04:07,510
er det mange færre i rommet.

821
01:04:11,764 --> 01:04:13,724
Men jeg er også optimistisk.

822
01:04:16,060 --> 01:04:19,480
Jeg tenker på
Den biologiske våpenkonvensjonen,

823
01:04:19,564 --> 01:04:22,358
som skjedde midt i den kalde krigen,

824
01:04:23,025 --> 01:04:27,655
til tross for spenninger
mellom Sovjetunionen og De forente stater.

825
01:04:29,156 --> 01:04:33,536
De var i stand til å innse
at utviklingen av biologiske våpen

826
01:04:33,619 --> 01:04:36,247
ikke var i deres beste interesse,

827
01:04:36,330 --> 01:04:38,749
eller i verdens beste generelt.

828
01:04:41,335 --> 01:04:44,797
Våpenkappløp-dynamikken
favoriserer fart fremfor sikkerhet.

829
01:04:45,715 --> 01:04:48,342
Men det som er viktig å tenke på,

830
01:04:48,426 --> 01:04:52,430
er at kostnadene ved å bevege seg fort
blir for høye på et tidspunkt.

831
01:04:56,225 --> 01:04:59,270
Vi kan ikke bare utvikle ting isolert

832
01:05:00,021 --> 01:05:06,611
og sende dem ut uten å tenke på
hva som kan skje i fremtiden.

833
01:05:07,862 --> 01:05:10,823
Vi må forhindre atombombe-øyeblikket.

834
01:05:14,577 --> 01:05:17,705
Det står mye på spill i KI-løpet.

835
01:05:18,289 --> 01:05:22,001
Jeg tror ikke mange verdsetter
den globale stabiliteten

836
01:05:22,084 --> 01:05:28,174
som har blitt til
ved å ha en overlegen militærstyrke

837
01:05:28,257 --> 01:05:31,135
de siste 75 årene.

838
01:05:32,887 --> 01:05:35,681
Så USA og våre allierte styrker

839
01:05:36,557 --> 01:05:38,684
må overgå fiendtlig KI.

840
01:05:43,314 --> 01:05:45,232
Krig har ikke andreplasser.

841
01:05:45,316 --> 01:05:49,111
Kina la frem en ambisiøs plan
om å bli ledende innen KI før 2030.

842
01:05:49,195 --> 01:05:51,656
Noen sier at USA taper kappløpet…

843
01:05:51,739 --> 01:05:53,157
DET NESTE ROMLØPET ER KI

844
01:05:53,240 --> 01:05:54,951
Det vil fremskynde KI…

845
01:05:55,034 --> 01:05:56,994
OVERGIR USA KIS FREMTID TIL KINA?

846
01:05:57,078 --> 01:05:59,246
…for å sikre vår militære fordel.

847
01:06:02,875 --> 01:06:05,461
Vi haster frem med denne teknologien.

848
01:06:05,544 --> 01:06:08,673
Jeg tror spørsmålet er
hvor langt vi skal gå.

849
01:06:09,507 --> 01:06:12,760
Styrer vi teknologien,
eller styrer den oss?

850
01:06:14,136 --> 01:06:16,973
Her får man ikke nye sjanser.

851
01:06:17,807 --> 01:06:20,977
Når ånden er ute av flasken, er den ute.

852
01:06:22,019 --> 01:06:25,189
Og det er veldig vanskelig
å få den tilbake igjen.

853
01:06:28,609 --> 01:06:34,657
Hvis vi ikke handler nå, er det for sent.
Det kan være for sent allerede.

854
01:08:48,124 --> 01:08:53,254
Tekst: Anniken Einan