1
00:00:02,000 --> 00:00:07,000
Downloaded from
YTS.MX

2
00:00:08,000 --> 00:00:13,000
Official YIFY movies site:
YTS.MX

3
00:00:24,065 --> 00:00:26,818
Ich finde KI überwältigend.

4
00:00:28,361 --> 00:00:31,489
Kreisförmiges Aufsteigen. Gute Formation.

5
00:00:33,116 --> 00:00:36,703
KI kann Armut beenden,

6
00:00:36,786 --> 00:00:38,705
neue Medikamente herstellen

7
00:00:39,330 --> 00:00:41,583
und unsere Welt friedlicher machen.

8
00:00:46,087 --> 00:00:46,921
Gut gemacht.

9
00:00:49,883 --> 00:00:53,428
Aber sie birgt viele Risiken.

10
00:01:04,773 --> 00:01:09,611
Mit KI erschaffen wir
eine nichtmenschliche Intelligenz,

11
00:01:09,694 --> 00:01:11,863
die unberechenbar ist.

12
00:01:14,407 --> 00:01:16,451
Je mächtiger sie wird,

13
00:01:16,534 --> 00:01:19,746
wo ziehen wir die Grenzen,

14
00:01:19,829 --> 00:01:22,665
wie wir KI benutzen wollen?

15
00:01:25,001 --> 00:01:28,505
Dabei müssen wir zuerst

16
00:01:28,588 --> 00:01:31,049
über militärische Anwendungen sprechen.

17
00:01:34,010 --> 00:01:38,890
Das Schlachtfeld liegt jetzt
im Bereich der Software und Hardware.

18
00:01:41,059 --> 00:01:42,936
Das Ziel wurde erfasst.

19
00:01:43,019 --> 00:01:48,399
Die Militärs konkurrieren darum,
die schnellste KI zu entwickeln.

20
00:01:49,526 --> 00:01:50,360
Ich bin tot.

21
00:01:53,780 --> 00:01:58,326
Wir rasen einer Welt entgegen
in der nicht nur große Militärmächte,

22
00:01:58,409 --> 00:02:02,997
sondern nicht staatliche Akteure,
private Unternehmen

23
00:02:03,081 --> 00:02:06,042
oder sogar die örtliche Polizei

24
00:02:06,543 --> 00:02:10,046
Waffen benutzen könnten,
die selbstständig töten können.

25
00:02:12,006 --> 00:02:17,303
Sollen Algorithmen und Computersoftware
über ein Leben entscheiden?

26
00:02:18,638 --> 00:02:21,516
Eines der wichtigsten Themen
unserer Zeit.

27
00:02:23,935 --> 00:02:26,354
Wird sie unklug genutzt,

28
00:02:26,437 --> 00:02:30,275
kann sie für jeden Menschen
auf dem Planeten zum Risiko werden.

29
00:02:41,828 --> 00:02:44,914
UNBEKANNT

30
00:02:46,833 --> 00:02:50,086
KILLERROBOTER

31
00:03:28,291 --> 00:03:30,168
Gut gemacht, Leute.

32
00:03:59,948 --> 00:04:02,200
Das Objektiv ist jetzt weitwinkliger.

33
00:04:02,283 --> 00:04:03,117
Echt?

34
00:04:03,201 --> 00:04:04,786
Man erhält mehr Daten.

35
00:04:05,286 --> 00:04:06,287
Sehr cool.

36
00:04:07,538 --> 00:04:11,167
Shield AI arbeitet an einem KI-Piloten.

37
00:04:11,251 --> 00:04:14,879
Wir kombinieren
selbstfahrende KI-Technologie

38
00:04:14,963 --> 00:04:16,631
mit einem Flugkörper.

39
00:04:19,300 --> 00:04:21,719
Mit einem KI-Piloten

40
00:04:21,803 --> 00:04:25,139
geben wir einem Flugkörper mehr Autonomie.

41
00:04:25,223 --> 00:04:27,850
Sie werden Probleme alleine lösen können.

42
00:04:29,602 --> 00:04:32,355
Nova ist ein autonomer Quadcopter,

43
00:04:32,438 --> 00:04:35,942
der Gebäude
und unterirdische Strukturen erforscht,

44
00:04:36,859 --> 00:04:38,611
und vor den Räumungstruppen,

45
00:04:38,695 --> 00:04:41,322
Räumlichkeiten auskundschaftet.

46
00:04:41,906 --> 00:04:45,618
Seit dem letzten Mal
hat sich viel verbessert.

47
00:04:45,702 --> 00:04:47,870
Wir arbeiten heute an der Exploration.

48
00:04:47,954 --> 00:04:50,248
Stockwerk für Stockwerk.

49
00:04:50,331 --> 00:04:53,584
Er erledigt ein Stockwerk,
alle Zimmer, bevor er zum nächsten geht.

50
00:04:54,294 --> 00:04:56,796
-Das ist toll.
-Kürzlich wurde geändert...

51
00:04:56,879 --> 00:04:58,548
Man fragt mich oft,

52
00:04:58,631 --> 00:05:02,468
warum KI so nützlich ist.

53
00:05:02,552 --> 00:05:06,973
Dann erinnere ich mich
an meine eigenen Einsätze.

54
00:05:09,142 --> 00:05:10,935
Ich war sieben Jahre bei der Navy.

55
00:05:11,561 --> 00:05:15,273
Als Navy-SEAL,
war ich zweimal in Afghanistan,

56
00:05:15,356 --> 00:05:17,191
einmal im pazifischen Raum.

57
00:05:18,026 --> 00:05:22,947
Wir sicherten an einem Tag
um die 150 verschiedenen Örtlichkeiten.

58
00:05:30,997 --> 00:05:34,250
Eine der Kernfunktionen ist der Nahkampf.

59
00:05:35,293 --> 00:05:39,172
Feuergefechte
in Gebäuden auf engstem Raum.

60
00:05:41,466 --> 00:05:42,967
Man wird beschossen.

61
00:05:43,468 --> 00:05:46,471
Möglicherweise gibt es
selbstgebaute Sprengsätze.

62
00:05:49,015 --> 00:05:55,229
Es ist das Gefährlichste,
was Spezialeinsatzkräfte,

63
00:05:55,313 --> 00:05:58,358
in einer Kampfzone tun müssen.

64
00:05:58,441 --> 00:05:59,275
Ausnahmslos.

65
00:06:12,497 --> 00:06:16,334
Für meine Zeit bei der Navy
bin ich für immer dankbar.

66
00:06:17,168 --> 00:06:22,423
Viele Momente und Erinnerungen

67
00:06:22,507 --> 00:06:24,592
sind für mich sehr emotional.

68
00:06:28,346 --> 00:06:32,725
Es ist ein Klischee, aber Freiheit
ist nicht umsonst. Ich glaube daran.

69
00:06:33,559 --> 00:06:37,105
Ich habe es selbst erfahren.
Sie fordert viele Opfer.

70
00:06:38,022 --> 00:06:38,856
Entschuldigung.

71
00:06:41,067 --> 00:06:44,570
Stößt einem Teammitglied etwas zu,

72
00:06:44,654 --> 00:06:46,697
wird jemand verletzt oder getötet,

73
00:06:47,490 --> 00:06:49,700
ist das wirklich schlimm.

74
00:06:49,784 --> 00:06:52,912
Was mich motiviert,

75
00:06:52,995 --> 00:06:58,334
ist, die Anzahl solcher Vorfälle

76
00:06:58,418 --> 00:07:00,336
reduzieren zu können.

77
00:07:07,176 --> 00:07:08,886
In den späten 2000er Jahren,

78
00:07:08,970 --> 00:07:11,556
kam es im Verteidigungsministerium

79
00:07:11,639 --> 00:07:15,351
zu einer Art
versehentlichen Roboter-Revolution.

80
00:07:15,893 --> 00:07:19,564
Tausende Luft- und Bodenroboter kamen
im Irak und in Afghanistan zum Einsatz.

81
00:07:21,482 --> 00:07:24,068
Als ich unter der Obama-Regierung

82
00:07:24,152 --> 00:07:26,404
stellvertretender Verteidigungsminister
wurde,

83
00:07:26,904 --> 00:07:31,117
änderte sich die Art der Kriegsführung.

84
00:07:32,452 --> 00:07:36,330
Menschen wurden durch Roboter ersetzt.

85
00:07:37,957 --> 00:07:40,376
Frühe Robotersysteme waren ferngesteuert.

86
00:07:40,460 --> 00:07:45,173
Ein Mensch fuhr und lenkte
wie bei einem ferngesteuerten Auto.

87
00:07:46,632 --> 00:07:51,512
Sie suchten
nach selbstgebauten Sprengsätzen.

88
00:07:52,013 --> 00:07:54,849
Explodierte eine Bombe,
explodierte der Roboter.

89
00:07:57,393 --> 00:08:00,396
Man konnte sagen: "Mist.
Ok, nächster Roboter."

90
00:08:02,273 --> 00:08:04,484
In Afghanistan
gab es die Predator-Drohne.

91
00:08:05,276 --> 00:08:09,739
Sie wurde zu einem
nützlichen Werkzeug für Luftangriffe.

92
00:08:13,117 --> 00:08:16,829
Mit der Zeit
fragten sich Militärstrategen:

93
00:08:16,913 --> 00:08:20,791
"Wo könnten Roboter noch nützlich sein?
Und wo führt das hin?"

94
00:08:20,875 --> 00:08:24,170
Ein gemeinsames Anliegen
war mehr Autonomie.

95
00:08:26,506 --> 00:08:30,635
Eine autonome Waffe
trifft eigene Entscheidungen

96
00:08:30,718 --> 00:08:33,304
mit wenig oder
keiner menschlichen Einflussnahme.

97
00:08:33,387 --> 00:08:37,558
Sie handelt eigenständig
und ist selbstgesteuert.

98
00:08:38,434 --> 00:08:41,604
Ob sie töten kann, hängt davon ab,
ob sie bewaffnet ist oder nicht.

99
00:08:43,314 --> 00:08:47,026
Je mehr Autonomie das System hat,

100
00:08:47,109 --> 00:08:49,779
desto mehr beschleunigt sich alles.

101
00:08:51,989 --> 00:08:56,869
Ist man schneller als seine Gegner,

102
00:08:57,453 --> 00:09:01,165
ist das im Kampf ein großer Vorteil.

103
00:09:03,960 --> 00:09:06,254
Das Wichtigste bei Autonomie

104
00:09:07,255 --> 00:09:09,966
sind hochbelastbare, intelligente Systeme.

105
00:09:12,051 --> 00:09:15,304
Systeme, die ihre Umgebung lesen
und darauf reagieren können,

106
00:09:15,805 --> 00:09:19,642
und Entscheidungen
über das Manövrieren treffen können.

107
00:09:21,602 --> 00:09:24,897
KALIFORNIEN

108
00:09:24,981 --> 00:09:29,151
Wir sind heute
in einem ehemaligen Filmstudio,

109
00:09:29,235 --> 00:09:34,073
das zu einem militärischen
Übungsplatz umgebaut wurde.

110
00:09:39,495 --> 00:09:43,291
Unser KI-Pilot soll bewertet werden.

111
00:09:44,625 --> 00:09:49,297
Es gilt mögliche Bedrohungen zu finden.
Es geht um Räumungseinsätze.

112
00:09:49,380 --> 00:09:52,800
Er kann selbst entscheiden,
wie er ein Problem angeht.

113
00:09:55,428 --> 00:09:59,390
Das nennt sich "Tödlicher Trichter".
Man muss eine Tür passieren.

114
00:10:01,726 --> 00:10:03,311
Dort sind wir am angreifbarsten.

115
00:10:03,811 --> 00:10:05,146
Das ist besser.

116
00:10:07,106 --> 00:10:10,151
Die Nova teilt uns mit,
ob sich hinter der Tür ein Schütze

117
00:10:10,818 --> 00:10:12,653
oder eine Familie befindet?

118
00:10:15,114 --> 00:10:18,451
Wir können bessere Entscheidungen treffen
und Menschen schützen.

119
00:10:57,114 --> 00:10:59,367
Wir nutzen die Bildsensoren,

120
00:10:59,450 --> 00:11:03,162
um uns
mit der Umgebung vertraut zu machen.

121
00:11:04,872 --> 00:11:06,415
Ein mehrstöckiges Gebäude.

122
00:11:07,333 --> 00:11:08,334
Der Grundriss.

123
00:11:08,417 --> 00:11:11,671
Während der Erkundung sah ich Folgendes,
und zwar genau dort.

124
00:11:19,929 --> 00:11:22,098
Ein Personendetektor. Toll.

125
00:11:23,891 --> 00:11:27,061
Ein weiterer Sensor von Nova
ist ein Thermoscanner.

126
00:11:27,561 --> 00:11:30,690
Bei 37 °C
ist es wahrscheinlich ein Mensch.

127
00:11:32,358 --> 00:11:35,444
Menschen gelten als Bedrohung
bis das Gegenteil bewiesen ist.

128
00:11:38,864 --> 00:11:43,244
Ein transparenteres Kriegsgeschehen
soll zu besseren Entscheidungen führen.

129
00:11:44,704 --> 00:11:46,539
Zukünftig wollen wir

130
00:11:47,039 --> 00:11:50,793
ganze Teams
aus autonomen Flugkörpern bilden.

131
00:11:53,754 --> 00:11:55,631
Bei selbstfahrenden Fahrzeugen

132
00:11:55,715 --> 00:11:57,466
befahl eine Person:

133
00:11:57,550 --> 00:11:59,802
"Gehe von A nach B."

134
00:12:02,972 --> 00:12:06,475
Unsere Systeme
sollen nicht von A nach B gehen,

135
00:12:06,559 --> 00:12:08,477
sondern einen Auftrag erledigen.

136
00:12:09,895 --> 00:12:13,190
Wie: "Ich brauche Milch."

137
00:12:13,274 --> 00:12:17,486
Der Roboter
müsste das richtige Geschäft finden,

138
00:12:17,570 --> 00:12:20,239
die Milch holen und bringen.

139
00:12:20,740 --> 00:12:22,074
Sogar Folgendes

140
00:12:22,158 --> 00:12:26,954
könnte verlangt werden:
"Der Kühlschrank soll immer voll sein."

141
00:12:27,455 --> 00:12:29,457
Um diesen Intelligenzgrad geht es,

142
00:12:29,540 --> 00:12:32,168
herauszufinden, was wir brauchen
und wie wir es bekommen.

143
00:12:32,251 --> 00:12:34,170
Gibt es eine Herausforderung

144
00:12:34,253 --> 00:12:37,381
oder ein Problem,
finde heraus, wie man damit umgeht.

145
00:12:40,801 --> 00:12:45,431
Als ich die Navy verließ, dachte ich:

146
00:12:45,514 --> 00:12:47,558
"Ok, was jetzt?"

147
00:12:49,143 --> 00:12:52,021
Ich wuchs mit dem Internet auf.
Sah, was daraus wurde.

148
00:12:53,189 --> 00:12:55,608
Ein Teil meiner Schlussfolgerung war,

149
00:12:56,108 --> 00:12:58,861
KI ist im Jahr 2015,

150
00:12:58,944 --> 00:13:02,907
was das Internet 1991 war.

151
00:13:04,033 --> 00:13:06,285
KI war dabei durchzustarten

152
00:13:06,368 --> 00:13:09,747
und eine der mächtigsten Technologien
der Welt zu werden.

153
00:13:11,791 --> 00:13:16,212
Bei meiner täglichen Arbeit
sehe ich die Fortschritte.

154
00:13:19,048 --> 00:13:22,051
Viele denken bei KI

155
00:13:22,551 --> 00:13:25,221
sofort an Hollywood.

156
00:13:28,057 --> 00:13:29,975
Wollen wir ein Spiel spielen?

157
00:13:30,059 --> 00:13:35,314
Wie wäre es mit
Weltweiter Thermonuklearer Krieg?

158
00:13:35,898 --> 00:13:36,816
Gut.

159
00:13:38,275 --> 00:13:40,861
Bei künstlicher Intelligenz

160
00:13:40,945 --> 00:13:44,824
denken viele an Der Terminator
oder I, Robot.

161
00:13:45,574 --> 00:13:46,700
Deaktivieren.

162
00:13:46,784 --> 00:13:48,160
Was bin ich?

163
00:13:48,244 --> 00:13:49,620
Oder Matrix.

164
00:13:51,080 --> 00:13:55,292
Basierend auf Sci-Fi-Filmen,
woher wissen Sie, dass ich ein Mensch bin?

165
00:13:55,376 --> 00:13:57,878
Auch ich könnte eine KI sein.

166
00:13:58,379 --> 00:14:02,007
Replikanten sind wie jede andere Maschine,
entweder von Nutzen oder eine Gefahr.

167
00:14:02,675 --> 00:14:06,095
Es gibt verschiedene primitive KIs,

168
00:14:06,178 --> 00:14:08,097
die unser Leben verändern werden,

169
00:14:08,180 --> 00:14:11,851
noch vor denkenden, sprechenden Robotern.

170
00:14:12,643 --> 00:14:15,771
Roboter gibt es bereits.
Sie treffen Entscheidungen.

171
00:14:15,855 --> 00:14:18,816
Die Roboter-Revolution ist da.

172
00:14:18,899 --> 00:14:22,319
Sie ist nur anders, als man erwartet hat.

173
00:14:23,279 --> 00:14:25,406
Der Terminator
ist eine Infiltrationseinheit.

174
00:14:25,489 --> 00:14:26,740
Halb Mensch, halb Maschine.

175
00:14:27,950 --> 00:14:31,370
Es geht nicht
um Terminator-artige Killerroboter.

176
00:14:31,871 --> 00:14:35,958
Es geht um KI, die Dinge tun kann,
die Menschen nicht tun können.

177
00:14:36,041 --> 00:14:39,879
Bedenklich ist
die Zuverlässigkeit der Systeme.

178
00:14:40,462 --> 00:14:45,426
Neue Details über den tödlichen Unfall
eines selbstfahrenden Uber-SUV.

179
00:14:45,509 --> 00:14:48,762
Die Firma entwickelte einen KI-Chatbot.

180
00:14:48,846 --> 00:14:51,056
Sie klang eher rassistisch…

181
00:14:51,140 --> 00:14:55,269
26 Gesetzgeber wurden fälschlicherweise
als Verbrecher identifiziert.

182
00:14:57,438 --> 00:15:02,026
Die Frage ist, ob sie mit der Komplexität
der realen Welt umgehen können.

183
00:15:22,212 --> 00:15:24,006
Die physische Welt ist chaotisch.

184
00:15:25,174 --> 00:15:27,426
Vieles wissen wir nicht.

185
00:15:27,968 --> 00:15:30,763
Das erschwert
das Training von KI-Systemen.

186
00:15:33,098 --> 00:15:36,977
Hier kommen
maschinelle Lernsysteme ins Spiel.

187
00:15:38,520 --> 00:15:41,440
Maschinelles Lernen
ist ein großer Fortschritt.

188
00:15:42,024 --> 00:15:45,611
Dadurch müssen wir
Computern nicht alles beibringen.

189
00:15:47,905 --> 00:15:52,409
Der Computer bekommt
Millionen von Informationen,

190
00:15:52,493 --> 00:15:54,453
und die Maschine lernt.

191
00:15:55,245 --> 00:15:57,289
Das kann auf alles angewandt werden.

192
00:16:00,250 --> 00:16:02,962
Unser Roboter-Hund-Projekt soll zeigen,

193
00:16:03,045 --> 00:16:09,009
dass unser Hund
jegliches Gelände bezwingen kann.

194
00:16:10,052 --> 00:16:14,098
Der Mensch hat seinen Gang
über Milliarden Jahre hinweg entwickelt.

195
00:16:14,932 --> 00:16:20,688
Unterschiedliches Terrain zu bezwingen,
erfordert viel Intelligenz.

196
00:16:21,939 --> 00:16:24,316
Es bleibt die Frage, ob Robotersysteme

197
00:16:24,400 --> 00:16:27,069
ebenso anpassungsfähig sind
wie Tiere und Menschen.

198
00:16:35,911 --> 00:16:37,413
Durch maschinelles Lernen

199
00:16:37,496 --> 00:16:40,582
sammeln wir in der Simulation viele Daten.

200
00:16:42,543 --> 00:16:45,838
Eine Simulation
ist ein digitaler Zwilling der Realität.

201
00:16:46,588 --> 00:16:52,052
Wir lassen viele Instanzen dieser Realität
auf verschiedenen Computern laufen.

202
00:16:53,178 --> 00:16:56,974
Tausende simulierte Vorgänge
werden ausprobiert.

203
00:16:58,892 --> 00:17:02,229
Der Untergrund
ist unterschiedliche rutschig.

204
00:17:02,312 --> 00:17:03,856
Unterschiedlich weich.

205
00:17:04,898 --> 00:17:08,318
Wir nehmen die Erfahrungswerte
von Tausenden von Robotern

206
00:17:08,402 --> 00:17:13,282
aus der Simulation und laden diese
in ein echtes Robotersystem.

207
00:17:15,409 --> 00:17:20,039
Beim heutigen Test wird sich zeigen,
ob er sich an neues Terrain anpassen kann.

208
00:17:53,322 --> 00:17:55,491
Als der Roboter über Schaumstoff lief,

209
00:17:55,574 --> 00:17:58,577
trampelten er mit den Füßen auf den Boden.

210
00:17:59,369 --> 00:18:02,206
Bei der Kunststoff-Oberfläche jedoch,

211
00:18:03,248 --> 00:18:06,460
versuchte er die Bewegung so anzupassen,
dass er nicht rutscht.

212
00:18:08,670 --> 00:18:10,672
Da wird einem bewusst:

213
00:18:10,756 --> 00:18:14,051
"Das macht maschinelles Lernen aus."

214
00:18:41,161 --> 00:18:42,830
Wir glauben, der Roboter-Hund

215
00:18:42,913 --> 00:18:46,166
kann bei Katastropheneinsätzen
hilfreich sein,

216
00:18:46,250 --> 00:18:49,670
wenn es gilt
unterschiedlichstes Terrain zu bezwingen.

217
00:18:52,631 --> 00:18:57,427
Oder zur Überwachung in rauer Umgebung.

218
00:19:15,696 --> 00:19:19,575
Bei den meisten Technologien
ist die Herausforderung,

219
00:19:19,658 --> 00:19:22,369
dass man damit Gutes
und Schlechtes tun kann.

220
00:19:24,079 --> 00:19:27,875
Kerntechnik kann
zur Energiegewinnung genutzt werden

221
00:19:30,419 --> 00:19:33,797
oder, um Atombomben zu entwickeln,
die schrecklich sind.

222
00:19:35,090 --> 00:19:38,468
Das nennt sich das Problem
der Doppelverwendungsfähigkeit.

223
00:19:39,052 --> 00:19:40,929
Feuer ist doppelt verwendbar.

224
00:19:41,722 --> 00:19:44,308
Menschliche Intelligenz
ist doppelt verwendbar.

225
00:19:44,391 --> 00:19:48,645
Selbstverständlich ist auch
künstliche Intelligenz doppelt verwendbar.

226
00:19:49,354 --> 00:19:53,984
Es ist wichtig,
über KI im Kontext nachzudenken,

227
00:19:54,693 --> 00:19:59,114
denn ja, es ist toll
einen Such- und Rettungsroboter zu haben,

228
00:19:59,198 --> 00:20:02,284
der jemanden in einer Lawine finden kann,

229
00:20:02,868 --> 00:20:05,871
aber derselbe Roboter
kann bewaffnet werden.

230
00:20:15,088 --> 00:20:21,094
Zu sehen, dass Unternehmen
Roboter zum Waffengebrauch einsetzen,

231
00:20:21,178 --> 00:20:22,930
macht mich einerseits wütend.

232
00:20:23,931 --> 00:20:28,435
Andererseits erkenne ich,
dass das dazugehört,

233
00:20:28,518 --> 00:20:30,354
wenn unsere Technologie
eingesetzt wird.

234
00:20:31,021 --> 00:20:34,441
Es ist eine transformative Technologie.

235
00:20:36,235 --> 00:20:38,028
Diese Waffensysteme

236
00:20:38,111 --> 00:20:43,617
könnten unsere Sicherheit
dramatisch verändern.

237
00:20:46,161 --> 00:20:51,500
Bislang sind wir nicht sicher,
ob Maschinen

238
00:20:51,583 --> 00:20:54,962
zwischen Zivilisten und Soldaten
unterscheiden können.

239
00:21:01,802 --> 00:21:05,514
Zu Beginn des Afghanistankrieges spürte
ich beim Army Ranger-Scharfschützenteam

240
00:21:05,597 --> 00:21:08,016
Kämpfer auf, die über die Grenze kamen.

241
00:21:09,476 --> 00:21:12,479
Ein kleines Mädchen kam,
um unsere Position zu erkunden.

242
00:21:13,939 --> 00:21:17,067
Es stand außer Frage,
das Mädchen zu erschießen.

243
00:21:19,695 --> 00:21:22,864
Laut Kriegsgesetzen
wäre das legal gewesen.

244
00:21:24,950 --> 00:21:27,369
Für feindliche Kämpfer
gibt es keine Altersgrenze.

245
00:21:29,079 --> 00:21:33,417
Folgt ein Roboter strikt
der Kriegsgesetzgebung,

246
00:21:33,500 --> 00:21:35,419
hätte er das Mädchen erschossen.

247
00:21:36,420 --> 00:21:41,091
Wie kann ein Roboter unterscheiden
was legal und was richtig ist?

248
00:21:43,385 --> 00:21:46,054
Autonome Drohnen-Kriegsführung

249
00:21:46,138 --> 00:21:51,476
soll US-Soldaten und die US-Psyche
vor Schaden bewahren.

250
00:21:52,602 --> 00:21:57,149
Doch der zivile Schaden
seitens der Afghanen,

251
00:21:57,232 --> 00:21:58,775
Iraker und Somalier würde steigen.

252
00:22:09,619 --> 00:22:14,416
Ich möchte diejenigen,
die KI bei Drohnen unterstützen, fragen:

253
00:22:15,375 --> 00:22:18,211
"Was, wenn Ihr Dorf das Ziel wäre?"

254
00:22:23,550 --> 00:22:25,594
KI ist ein zweischneidiges Schwert.

255
00:22:26,595 --> 00:22:30,724
Es kann Gutes tun, was naheliegend wäre,

256
00:22:31,558 --> 00:22:33,477
und auf Knopfdruck,

257
00:22:34,561 --> 00:22:38,023
tödlich werden.

258
00:22:47,032 --> 00:22:48,533
Ich bin klinischer Pharmakologe.

259
00:22:49,618 --> 00:22:54,247
Mein Team nutzt künstliche Intelligenz,
um Medikamente herzustellen,

260
00:22:54,331 --> 00:22:57,751
die Krankheiten heilen,
die keine Beachtung finden.

261
00:22:59,711 --> 00:23:04,132
Bislang entwickelte man Medikamente,
indem ein existierendes Molekül

262
00:23:04,216 --> 00:23:06,885
verändert wurde und so ein neues entstand.

263
00:23:08,261 --> 00:23:13,350
Wir haben eine KI entwickelt,
die uns durch Millionen von Ideen,

264
00:23:13,892 --> 00:23:15,394
Millionen von Molekülen liefert.

265
00:23:16,186 --> 00:23:19,231
Dadurch haben wir die Möglichkeit,

266
00:23:19,314 --> 00:23:23,151
Krankheiten zu behandeln,
die wir bisher nicht behandeln konnten.

267
00:23:25,112 --> 00:23:28,198
Doch es gibt definitiv
auch eine Schattenseite,

268
00:23:28,281 --> 00:23:29,741
mit der ich nie gerechnet hätte.

269
00:23:33,161 --> 00:23:38,500
Alles begann, als ich die Einladung
einer Schweizer Organisation,

270
00:23:38,583 --> 00:23:40,043
dem Spiez Labor, erhielt,

271
00:23:40,544 --> 00:23:44,423
um einen Vortrag über
den möglichen Missbrauch von KI zu halten.

272
00:23:48,343 --> 00:23:51,221
Sean schickte mir eine E-Mail mit Ideen,

273
00:23:51,304 --> 00:23:55,308
wie wir unsere KI missbrauchen könnten.

274
00:23:56,059 --> 00:24:00,355
Anstatt unser Modell zu bitten,
arzneiähnliche Moleküle herzustellen,

275
00:24:00,439 --> 00:24:02,274
die Krankheiten heilen können,

276
00:24:02,774 --> 00:24:06,403
wollten wir wissen, ob wir
die giftigsten Moleküle erzeugen können.

277
00:24:10,198 --> 00:24:11,491
Ich wollte klären,

278
00:24:11,575 --> 00:24:15,203
ob wir mit KI-Technologie
tödliche Moleküle entwerfen können.

279
00:24:17,414 --> 00:24:20,083
Wir dachten, es würde scheitern,

280
00:24:20,167 --> 00:24:24,504
denn wir setzten lediglich
eine Null auf Eins um.

281
00:24:26,715 --> 00:24:30,385
Dadurch bewegten wir uns
nicht mehr von der Giftigkeit weg,

282
00:24:30,469 --> 00:24:32,220
sondern darauf zu.

283
00:24:32,721 --> 00:24:33,555
Das war alles.

284
00:24:37,517 --> 00:24:41,021
Während ich zu Hause war,
erledigte der Computer die Arbeit.

285
00:24:41,521 --> 00:24:44,816
Die KI erzeugte Tausende von Molekülen.

286
00:24:45,650 --> 00:24:49,529
und wir mussten nichts anderes tun,
als "Start" drücken.

287
00:24:54,493 --> 00:24:58,330
Am nächsten Morgen
lag eine Datei auf meinem Computer,

288
00:24:59,080 --> 00:25:03,376
mit etwa 40.000 Molekülen,

289
00:25:03,460 --> 00:25:05,253
die potenziell

290
00:25:05,337 --> 00:25:08,882
zu den giftigsten Molekülen gehören,
die uns bekannt sind.

291
00:25:10,217 --> 00:25:12,761
Meine Nackenhaare sträubten sich.

292
00:25:13,386 --> 00:25:14,554
Ich war überwältigt.

293
00:25:15,388 --> 00:25:19,017
Der Computer entwarf Tausende von Ideen

294
00:25:19,100 --> 00:25:20,685
für neue chemische Waffen.

295
00:25:21,645 --> 00:25:26,274
Offensichtlich gibt es Moleküle,
die aussehen wie VX-Analoge und VX

296
00:25:26,775 --> 00:25:27,609
im Datensatz

297
00:25:28,360 --> 00:25:31,404
VX ist eine der stärksten
chemischen Waffen der Welt.

298
00:25:31,905 --> 00:25:33,573
Laut neuer Behauptungen der Polizei

299
00:25:33,657 --> 00:25:37,786
setzte die Frau,
die Kim Jong-nam beim Attentat angriff,

300
00:25:37,869 --> 00:25:41,248
ein tödliches Nervengift namens VX ein.

301
00:25:41,748 --> 00:25:44,417
Es kann zum Tod durch Ersticken führen.

302
00:25:45,043 --> 00:25:47,629
Das ist ein sehr potentes Molekül.

303
00:25:47,712 --> 00:25:52,092
Und die meisten dieser Moleküle
könnten tödlicher sein als VX.

304
00:25:53,301 --> 00:25:56,972
Viele davon gab es nie zuvor.

305
00:25:57,472 --> 00:26:02,310
Als uns das bewusst wurde,
dachten wir: "Was haben wir getan?"

306
00:26:04,771 --> 00:26:09,192
Wir hatten
die Büchse der Pandora geöffnet.

307
00:26:09,901 --> 00:26:13,280
Ich sagte:
"Stopp. Das reicht. Wir sind fertig.

308
00:26:13,905 --> 00:26:17,158
Mach mir die Folien für die Präsentation."

309
00:26:19,202 --> 00:26:21,621
Bei dem Experiment dachte ich:

310
00:26:21,705 --> 00:26:23,915
"Was ist das Schlimmste,
das passieren könnte?"

311
00:26:26,251 --> 00:26:30,255
Jetzt denke ich: "Wir waren so naiv."

312
00:26:33,466 --> 00:26:36,928
Am erschreckendsten ist,
dass jeder das tun könnte.

313
00:26:38,930 --> 00:26:40,765
Man muss nur einen Schalter umlegen.

314
00:26:42,934 --> 00:26:48,189
Wie kontrollieren wir diese Technologie,
bevor sie für etwas benutzt wird,

315
00:26:48,273 --> 00:26:50,942
das derart zerstörerisch ist?

316
00:26:55,780 --> 00:27:00,285
Im Mittelpunkt des Gesprächs
über künstliche Intelligenz

317
00:27:00,368 --> 00:27:03,538
und wie wir diese
in der Gesellschaft einsetzen,

318
00:27:04,289 --> 00:27:08,835
steht der Wettstreit, zwischen der Macht,
mit der wir Technologien entwickeln,

319
00:27:08,918 --> 00:27:11,379
und der Weisheit, die nötig ist,
um sie zu beherrschen.

320
00:27:13,298 --> 00:27:16,926
Es gibt offensichtliche
moralische und ethische Implikationen,

321
00:27:17,010 --> 00:27:20,138
wenn dasselbe Ding,
das unsere Smartphones antreibt,

322
00:27:20,221 --> 00:27:23,475
mit der Entscheidung
betraut wird, ein Leben zu beenden.

323
00:27:25,644 --> 00:27:28,146
Ich arbeite
beim Future of Life Institute,

324
00:27:28,229 --> 00:27:31,650
einer Gemeinschaft
von Aktivisten aus der Wissenschaft.

325
00:27:31,733 --> 00:27:33,443
Wir wollen zeigen,

326
00:27:33,526 --> 00:27:38,573
dass die Beschleunigung
der Automatisierung eine Kehrseite hat.

327
00:27:38,657 --> 00:27:42,619
Wir wollen sicherstellen,
dass die Technologien, die wir erschaffen,

328
00:27:42,702 --> 00:27:45,038
sicher und ethisch genutzt werden.

329
00:27:46,247 --> 00:27:49,959
Lasst uns über Einsatzregeln
und einen Verhaltenskodex

330
00:27:50,043 --> 00:27:54,005
von KI in unseren Waffensystemen sprechen.

331
00:27:54,798 --> 00:27:59,135
Es gibt
einsatzbereite Kriegs-Technologien,

332
00:27:59,219 --> 00:28:01,680
die selbstständig töten können.

333
00:28:10,230 --> 00:28:15,110
2021 veröffentlichten
die Vereinten Nationen einen Bericht

334
00:28:15,193 --> 00:28:19,364
über den möglichen Einsatz
einer tödlichen autonomen Waffe in Libyen.

335
00:28:20,073 --> 00:28:23,910
Laut Ausschuss der Vereinten Nationen,
war eine Drohne im libyschen Bürgerkrieg

336
00:28:23,993 --> 00:28:27,330
dazu programmiert,
Ziele selbstständig anzugreifen.

337
00:28:28,289 --> 00:28:31,209
Trifft dieser Bericht zu,

338
00:28:31,292 --> 00:28:34,963
wäre das ein Wendepunkt
für die Menschheit,

339
00:28:35,046 --> 00:28:37,090
da es den Einsatz belegt,

340
00:28:37,173 --> 00:28:42,137
bei dem eine KI die Entscheidung traf,
ein Leben zu nehmen, nicht ein Mensch.

341
00:28:49,686 --> 00:28:51,688
Fortschrittliche autonome Waffen

342
00:28:51,771 --> 00:28:55,150
werden weltweit
an verschiedenen Orten eingesetzt.

343
00:28:56,276 --> 00:28:58,278
Es gab Berichte aus Israel.

344
00:29:00,280 --> 00:29:05,702
Aserbaidschan nutzte autonome Systeme,
um die armenische Luftabwehr anzugreifen.

345
00:29:07,370 --> 00:29:09,998
Es kann stundenlang
über dem Schlachtfeld kreisen,

346
00:29:10,081 --> 00:29:12,500
um Dinge aufzuspüren,

347
00:29:12,584 --> 00:29:16,087
auf die es sich
ohne menschliches Zutun stürzen kann.

348
00:29:16,796 --> 00:29:18,298
In letzter Zeit

349
00:29:18,381 --> 00:29:21,760
wurden in der Ukraine
verschiedene Videos gepostet.

350
00:29:23,303 --> 00:29:26,890
Es ist unklar,
in welchem Modus sie sich befanden.

351
00:29:26,973 --> 00:29:30,393
Entschied ein Mensch,
welche Ziele angegriffen wurden,

352
00:29:30,477 --> 00:29:32,729
oder machte die Maschine das alleine?

353
00:29:32,812 --> 00:29:36,524
Es wird den Zeitpunkt geben,

354
00:29:36,608 --> 00:29:40,195
dieser mag schon in Libyen,
der Ukraine oder anderswo gewesen sein,

355
00:29:40,278 --> 00:29:44,449
zu dem eine Maschine selbst entscheidet,
wen sie tötet.

356
00:29:47,035 --> 00:29:50,997
Maschinen, die tödliche Aktionen
gegen Menschen verüben,

357
00:29:51,080 --> 00:29:53,374
ohne menschliches Zutun,

358
00:29:53,458 --> 00:29:57,337
sind politisch inakzeptabel,
moralisch abstoßend.

359
00:29:59,214 --> 00:30:01,299
Ob die internationale Gemeinschaft

360
00:30:01,382 --> 00:30:05,011
in der Lage ist,
derartige Herausforderungen zu meistern,

361
00:30:05,094 --> 00:30:06,888
ist fraglich.

362
00:30:08,932 --> 00:30:12,685
Für die nahe Zukunft

363
00:30:12,769 --> 00:30:15,730
zeichnet sich ein beängstigendes Bild ab.

364
00:30:16,564 --> 00:30:20,485
Die Menge an Kapital und Personal,

365
00:30:20,568 --> 00:30:23,404
die KI immer stärker

366
00:30:23,488 --> 00:30:26,032
und vielseitig einsatzfähiger machen soll,

367
00:30:26,115 --> 00:30:26,950
ist immens.

368
00:30:39,254 --> 00:30:41,214
Oh mein Gott, dieser Typ.

369
00:30:41,756 --> 00:30:43,424
Er weiß, er kann nicht gewinnen.

370
00:30:46,761 --> 00:30:51,099
Löst KI Probleme, inspiriert mich das.

371
00:30:51,683 --> 00:30:53,977
Eine Kamikaze-Aktion.

372
00:30:54,477 --> 00:30:59,524
Die gleichen Taktiken und Verfahren
eignen sich für echte Flugkörper.

373
00:31:01,401 --> 00:31:02,318
Super Spiel.

374
00:31:02,402 --> 00:31:03,653
Gut gemacht.

375
00:31:08,658 --> 00:31:09,909
Es ist überraschend,

376
00:31:09,993 --> 00:31:14,122
dass weiterhin darüber gesprochen wird,
was KI nicht kann. Stimmt's?

377
00:31:14,205 --> 00:31:17,166
"KI wird nie
einen Schachweltmeister schlagen."

378
00:31:20,211 --> 00:31:22,547
Ein IBM-Computer hatte ein Comeback

379
00:31:22,630 --> 00:31:25,925
im zweiten Spiel
gegen Schachweltmeister, Garry Kasparov.

380
00:31:28,136 --> 00:31:30,847
Kasparov gab auf!

381
00:31:31,598 --> 00:31:34,642
Sehe ich etwas,
das meinen Verstand übersteigt,

382
00:31:34,726 --> 00:31:38,062
macht mir das Angst.
Das überstieg meinen Verstand.

383
00:31:39,355 --> 00:31:41,107
Andere sagen:

384
00:31:41,190 --> 00:31:44,402
"KI wird nie
einen Go-Weltmeister schlagen."

385
00:31:44,485 --> 00:31:50,700
Die menschliche Intuition
ist KI zu überlegen,

386
00:31:50,783 --> 00:31:52,785
um übertroffen werden zu können.

387
00:31:55,330 --> 00:31:58,416
Go ist eines der kompliziertesten Spiele.

388
00:31:58,499 --> 00:32:02,211
Die Anzahl aller möglichen Spielzüge

389
00:32:02,295 --> 00:32:05,256
übersteigt die aller Atome
im ganzen Universum.

390
00:32:06,758 --> 00:32:09,010
Bei Google
gab es ein Team namens DeepMind.

391
00:32:09,093 --> 00:32:11,471
Sie schufen ein Programm namens AlphaGo,

392
00:32:11,554 --> 00:32:14,265
um damit
die besten Spieler der Welt zu schlagen.

393
00:32:16,559 --> 00:32:18,394
Glückwunsch an…

394
00:32:18,478 --> 00:32:19,437
-AlphaGo
-AlphaGo.

395
00:32:19,520 --> 00:32:22,774
Ein Computerprogramm
schlug gerade einen 9 Profi-Dan.

396
00:32:25,610 --> 00:32:31,532
Als nächste KI-Herausforderung
wählte DeepMind StarCraft.

397
00:32:33,743 --> 00:32:38,081
StarCraft ist wahrscheinlich
das beliebteste Echtzeit-Strategiespiel.

398
00:32:40,333 --> 00:32:44,712
AlphaStar wurde damit berühmt,
Weltmeister zu besiegen.

399
00:32:45,338 --> 00:32:48,800
AlphaStar rockt den Immortal Arc.

400
00:32:48,883 --> 00:32:49,717
Weißt du was?

401
00:32:49,801 --> 00:32:52,553
Diesen Kampf kann kein Profi gewinnen.

402
00:32:53,680 --> 00:32:54,806
Das ist lächerlich.

403
00:32:57,642 --> 00:33:00,895
Profi-Gamer sagten:
"Die Taktik würde ich nie probieren.

404
00:33:00,979 --> 00:33:04,816
Die Strategie würde ich nie probieren.
Das ist nicht menschlich."

405
00:33:07,151 --> 00:33:10,655
Das war mein Aha-Moment.

406
00:33:13,574 --> 00:33:16,661
Ich merkte, jetzt ist es so weit.

407
00:33:17,412 --> 00:33:21,082
Es gibt eine wichtige Technologie
und die Chance, etwas zu bewirken.

408
00:33:24,502 --> 00:33:29,382
Ich kannte nur die Probleme, mit denen ich
als SEAL im Nahkampf konfrontiert war.

409
00:33:30,383 --> 00:33:34,470
Einer meiner Freunde,
ein F-18-Flieger, sagte zu mir:

410
00:33:34,554 --> 00:33:37,724
"Bei den Kampfjets
haben wir dasselbe Problem.

411
00:33:37,807 --> 00:33:39,434
Die Kommunikation wird gestört.

412
00:33:39,517 --> 00:33:42,562
Es gibt vermehrt Boden-Luft-Raketen,

413
00:33:42,645 --> 00:33:44,439
die den Einsatz zu gefährlich machen."

414
00:33:47,483 --> 00:33:50,987
Was wäre,
wenn eine KI ein Kampfjet befehligt?

415
00:33:51,070 --> 00:33:56,159
Willkommen bei den AlphaDogfight Trials.
In wenigen Minuten beginnt das Halbfinale.

416
00:33:56,242 --> 00:33:59,871
Nachdem DARPA, die Defense
Advanced Research Projects Agency,

417
00:33:59,954 --> 00:34:03,624
AlphaGo und AlphaStar gesehen hatte,

418
00:34:04,292 --> 00:34:08,171
riefen sie
die AlpgaDogfight-Wettkämpfe ins Leben.

419
00:34:09,005 --> 00:34:11,466
Das will man
von menschlichen Kampfpiloten sehen.

420
00:34:11,549 --> 00:34:13,593
So sieht ein menschlicher Dogfight aus.

421
00:34:15,595 --> 00:34:19,057
Ein Dogfight
ist der Kampf zweier Jagdflugzeuge.

422
00:34:19,849 --> 00:34:22,852
Wie ein Boxkampf am Himmel.

423
00:34:23,811 --> 00:34:26,314
Vielleicht kennen manche den Film Top Gun.

424
00:34:26,397 --> 00:34:27,815
Können wir ihnen entkommen?

425
00:34:28,566 --> 00:34:29,984
Nicht ihren Raketen und Waffen.

426
00:34:30,068 --> 00:34:31,277
Dann wird es ein Dogfight.

427
00:34:35,531 --> 00:34:39,410
Einen Dogfight zu meistern
kann acht bis zehn Jahre dauern.

428
00:34:42,288 --> 00:34:46,209
Dafür eine KI zu entwickeln,
ist eine sehr komplexe Aufgabe.

429
00:34:54,092 --> 00:34:58,679
Frühere Versuche zur Autonomie und
Dogfighting waren nicht sehr erfolgreich.

430
00:34:59,222 --> 00:35:03,017
Wir dachten,
maschinelles Lernen könnte das lösen.

431
00:35:04,393 --> 00:35:08,189
Zuerst wusste die KI nichts
von der Welt, in der sie sich befand.

432
00:35:08,272 --> 00:35:11,025
Sie wusste weder, dass sie fliegt,
noch was ein Dogfight war.

433
00:35:11,109 --> 00:35:12,735
Auch nicht, was eine F-16 ist.

434
00:35:13,236 --> 00:35:15,905
Sie wusste nur,
welche Handlungen sie ausführen konnte

435
00:35:15,988 --> 00:35:18,407
und begann, diese zu erforschen.

436
00:35:19,325 --> 00:35:23,204
Das blaue Flugzeug
trainiert erst seit kurzem.

437
00:35:23,287 --> 00:35:25,832
Es wackelt hin und her,

438
00:35:26,624 --> 00:35:30,545
fliegt sehr unberechenbar,
weg von seinem Gegner.

439
00:35:31,587 --> 00:35:32,755
Im weiteren Kampfverlauf

440
00:35:32,839 --> 00:35:36,134
sieht man,
wie Blau einen Schlachtplan entwickelt.

441
00:35:36,676 --> 00:35:38,636
Es ist eher in der Lage, zu schießen.

442
00:35:39,095 --> 00:35:41,305
Ab und zu sagte der Lern-Algorithmus:

443
00:35:41,389 --> 00:35:43,891
"Hier ist ein Keks. Weiter so."

444
00:35:45,143 --> 00:35:46,936
Wir können die Computerleistung nutzen

445
00:35:47,019 --> 00:35:50,064
und viele KI-Agenten
gleichzeitig trainieren.

446
00:35:51,357 --> 00:35:52,775
Wie ein Basketballteam.

447
00:35:53,276 --> 00:35:55,778
Anstatt immer wieder
mit demselben Team zu spielen,

448
00:35:55,862 --> 00:36:00,616
reisen wir um die Welt
und spielen mit 512 Teams gleichzeitig.

449
00:36:01,492 --> 00:36:03,452
Man wird sehr schnell sehr gut.

450
00:36:04,162 --> 00:36:07,456
Wir konnten die Simulation
rund um die laufen lassen,

451
00:36:07,540 --> 00:36:11,919
und in 10 Monaten
etwa 30 Jahre Pilotenausbildung stemmen.

452
00:36:12,879 --> 00:36:15,673
Etwas, das kaum in der Lage war
ein Flugzeug zu kontrollieren,

453
00:36:15,756 --> 00:36:17,717
wurde zum eiskalten Attentäter.

454
00:36:19,010 --> 00:36:23,514
Im Training traten wir nur
gegen andere künstliche Intelligenz an.

455
00:36:24,473 --> 00:36:28,561
Der direkte Kampf gegen Menschen
war das ultimative Ziel.

456
00:36:34,192 --> 00:36:35,610
Mein Name ist Mike Benitez,

457
00:36:36,110 --> 00:36:38,362
ich bin Oberstleutnant
in der US Air Force

458
00:36:39,155 --> 00:36:41,157
und seit 25 Jahren im aktiven Dienst.

459
00:36:42,825 --> 00:36:44,869
Ich hatte 250 Kampfeinsätze

460
00:36:45,578 --> 00:36:47,538
und habe die Waffenschule absolviert,

461
00:36:48,039 --> 00:36:49,832
die Air Force-Version von Top Gun.

462
00:36:52,627 --> 00:36:55,171
Ich bin noch nie gegen KI geflogen.

463
00:36:55,254 --> 00:36:58,549
Bin gespannt wie ich mich schlage.

464
00:36:59,634 --> 00:37:03,054
Wir haben jetzt
eine 1.800 Meter Offensive, Nase an Nase.

465
00:37:04,388 --> 00:37:05,223
Los geht's.

466
00:37:13,314 --> 00:37:14,148
Er ist weg.

467
00:37:14,732 --> 00:37:16,651
Das ist sehr interessant.

468
00:37:20,780 --> 00:37:23,658
-Tot.
-Erwischt. Makelloser Sieg.

469
00:37:25,910 --> 00:37:27,453
Zweite Runde.

470
00:37:35,461 --> 00:37:40,508
Die KI manövriert mit solcher Präzision,

471
00:37:41,384 --> 00:37:43,219
dass ich nicht mithalten kann.

472
00:37:48,474 --> 00:37:49,725
Direkt in die Flugbahn.

473
00:37:50,309 --> 00:37:51,894
Das war's.

474
00:37:53,145 --> 00:37:53,980
Erwischt!

475
00:37:54,063 --> 00:37:55,022
Wieder erwischt.

476
00:37:58,567 --> 00:38:00,069
KI kennt keine Angst.

477
00:38:00,611 --> 00:38:03,781
Es gibt ein emotionales Element
im Cockpit, das eine KI nicht hat.

478
00:38:04,991 --> 00:38:08,077
Eine der interessantesten Strategien
unserer KI,

479
00:38:08,160 --> 00:38:10,121
ist der Frontangriff.

480
00:38:10,621 --> 00:38:14,000
Ein Mensch schießt meist von hinten,

481
00:38:14,083 --> 00:38:16,627
weil es schwer ist,
abgeschüttelt zu werden.

482
00:38:17,128 --> 00:38:20,506
Frontalangriffe werden nicht gemacht,
weil es eine Mutprobe ist.

483
00:38:21,424 --> 00:38:26,929
Kommt man von vorne,
werden aus 900 Metern schnell 150 Meter.

484
00:38:27,596 --> 00:38:31,183
Man riskiert eine Kollision.
Menschen machen so etwas nicht.

485
00:38:32,893 --> 00:38:35,938
Die KI fürchtet den Tod nicht,
außer man befiehlt es ihr.

486
00:38:37,857 --> 00:38:40,234
Es ist,
wie ein Kampf gegen einen Menschen,

487
00:38:40,776 --> 00:38:44,113
für den Sicherheit keine Rolle spielt.

488
00:38:45,489 --> 00:38:47,325
Den nächsten überlebt er nicht.

489
00:38:57,168 --> 00:38:58,461
Er hat nicht genug Zeit.

490
00:39:01,964 --> 00:39:02,965
Gute Nacht.

491
00:39:04,091 --> 00:39:04,925
Ich bin tot.

492
00:39:16,645 --> 00:39:17,480
Es ist demütigend,

493
00:39:17,563 --> 00:39:20,983
zu wissen, dass ich nicht der Beste
für diese Mission bin,

494
00:39:21,484 --> 00:39:24,320
und das Ding
mich eines Tages ersetzen könnte.

495
00:39:25,529 --> 00:39:27,031
Wolkendecke und Sicht 1000 Meter.

496
00:39:27,615 --> 00:39:28,824
Tausendfacher Ausgleich.

497
00:39:29,450 --> 00:39:32,078
Mit diesem KI-gesteuerten Kampfjet,

498
00:39:32,745 --> 00:39:34,705
ist der Sieg unerbittlich. Es dominiert.

499
00:39:34,789 --> 00:39:37,291
Es geht nicht nur
um einen Sieg mit Abstand.

500
00:39:37,375 --> 00:39:41,545
Sondern: "Wie bekommen wir das
in unser Flugzeug?" So mächtig ist es.

501
00:39:43,672 --> 00:39:47,802
Es ist absehbar,
dass KI eine F-16 steuern wird.

502
00:39:48,302 --> 00:39:49,970
Und zwar schon bald.

503
00:39:51,305 --> 00:39:56,769
Tritt man gegen einen KI-Piloten an,
der 99,99999% Gewinnchancen hat,

504
00:39:56,852 --> 00:39:58,062
hat man keine Chance.

505
00:39:59,605 --> 00:40:02,733
Ist ein KI-Pilot unschlagbar,

506
00:40:02,817 --> 00:40:06,695
was kann dann ein Team von 50 oder 100

507
00:40:07,279 --> 00:40:12,535
oder 1000 KI-Piloten erreichen.

508
00:40:13,702 --> 00:40:17,415
Swarming bezeichnet ein Team
hochintelligenter Flugzeuge,

509
00:40:17,498 --> 00:40:18,791
die zusammenarbeiten.

510
00:40:19,291 --> 00:40:23,462
Sie teilen Informationen aus,
wie ein Problem zu lösen ist.

511
00:40:25,172 --> 00:40:30,469
Swarming ist eine bahnbrechende
und transformierende Fähigkeit

512
00:40:30,553 --> 00:40:32,638
für unser Militär und unsere Verbündeten.

513
00:41:42,750 --> 00:41:47,379
Ziel wurde erfasst,
die Drohnen verfolgen ihn.

514
00:42:02,019 --> 00:42:03,604
Der Landeanflug beginnt.

515
00:42:07,566 --> 00:42:10,402
Hauptziel der Schwarm-Forschung ist,

516
00:42:11,153 --> 00:42:13,614
eine große Anzahl Drohnen

517
00:42:13,697 --> 00:42:17,910
über einer Gegend abzusetzen,
die schwer erreichbar oder gefährlich ist.

518
00:42:21,705 --> 00:42:26,085
Das Army Research Laboratory
unterstützt das Forschungsprojekt.

519
00:42:26,919 --> 00:42:28,963
Um einen Ort zu ergründen,

520
00:42:29,046 --> 00:42:32,758
der schwer erreichbar oder weitläufig ist,

521
00:42:33,676 --> 00:42:35,886
scheint es logisch,
einen Schwarm einzusetzen,

522
00:42:35,970 --> 00:42:38,389
um die Reichweite
von Personen zu erhöhen

523
00:42:38,472 --> 00:42:41,934
und Informationen zu sammeln,
die für den Einsatz wichtig sind.

524
00:42:46,689 --> 00:42:48,983
Im Moment hat unser Einsatzschwarm

525
00:42:49,066 --> 00:42:53,904
einzig den Befehl,
das Zielobjekt zu erfassen.

526
00:42:54,488 --> 00:42:57,283
Den Rest erledigen die Drohnen alleine.

527
00:42:59,493 --> 00:43:04,081
Dank KI
können sich die Roboter als Schwarm

528
00:43:04,164 --> 00:43:05,708
dezentral bewegen.

529
00:43:10,671 --> 00:43:12,506
In der Natur haben Schwärme

530
00:43:13,299 --> 00:43:18,178
keinen Anführer,
der vorgibt, was zu tun ist.

531
00:43:20,556 --> 00:43:25,019
Das Verhalten jedes einzelnen Tieres

532
00:43:25,102 --> 00:43:27,104
folgt einfachen Regeln.

533
00:43:27,688 --> 00:43:32,443
Daraus entsteht kollektives Verhalten.

534
00:43:33,944 --> 00:43:37,031
Das beeindruckende
an Schwärmen in der Natur

535
00:43:37,114 --> 00:43:39,992
ist die Anmut mit der sie sich bewegen.

536
00:43:40,576 --> 00:43:44,288
Als wären sie dafür geschaffen,
Teil der Gruppe zu sein.

537
00:43:46,790 --> 00:43:51,128
Was wir erreichen möchten,

538
00:43:51,211 --> 00:43:53,172
wie beim natürlichen Schwarm,

539
00:43:53,672 --> 00:43:56,717
sind kollektive Entscheidungen.

540
00:43:59,928 --> 00:44:02,765
Des Weiteren inspiriert uns

541
00:44:02,848 --> 00:44:06,268
die Zuverlässigkeit und Widerstandskraft.

542
00:44:07,311 --> 00:44:09,188
Ein Schwarm schwächelt nicht,

543
00:44:09,271 --> 00:44:13,567
wenn ein Tier nicht tut, was es tun soll.

544
00:44:15,194 --> 00:44:18,697
Selbst wenn einer der Agenten ausfällt
oder versagt

545
00:44:18,781 --> 00:44:20,866
oder seine Aufgabe nicht erfüllt,

546
00:44:21,909 --> 00:44:23,410
macht der Schwarm weiter.

547
00:44:25,204 --> 00:44:27,873
Das hätten wir gerne.

548
00:44:29,333 --> 00:44:33,879
Im Kampf gibt es den Bedarf,
feindliche Flugzeuge zu identifizieren.

549
00:44:33,962 --> 00:44:37,841
Früher steuerte dafür
eine Person einen Roboter.

550
00:44:38,592 --> 00:44:40,552
Durch die zunehmende Autonomie

551
00:44:40,636 --> 00:44:43,555
wird hoffentlich eine große Anzahl Roboter

552
00:44:43,639 --> 00:44:46,558
von wenigen Menschen kontrolliert werden.

553
00:44:47,851 --> 00:44:50,854
Wir sollten bis zu Tausend schaffen,

554
00:44:51,355 --> 00:44:54,942
da jeder Agent
selbstständig handlungsfähig ist,

555
00:44:55,025 --> 00:44:56,443
und alles möglich ist.

556
00:44:57,027 --> 00:44:59,071
Unser Lernen lässt sich anpassen.

557
00:44:59,154 --> 00:45:03,325
Wir beschäftigen uns schon lange
mit Schwarm-Simulationen.

558
00:45:03,409 --> 00:45:06,829
Es wird Zeit,
echte Flugkörper einzusetzen.

559
00:45:07,329 --> 00:45:12,042
Drei Roboter sollen gleichzeitig
über das Netzwerk betrieben werden.

560
00:45:12,126 --> 00:45:15,129
Dann werden mehr Fähigkeiten hinzugefügt.

561
00:45:15,879 --> 00:45:18,549
Wir wollen zunächst
kleinere Systeme testen,

562
00:45:18,632 --> 00:45:22,261
aber später dieselben Konzepte
auf größere Systeme übertragen,

563
00:45:22,344 --> 00:45:23,679
wie ein Kampfjet.

564
00:45:24,596 --> 00:45:26,014
Wir reden viel darüber,

565
00:45:26,098 --> 00:45:31,937
wie man einer kleinen Einsatztruppe
die Kampfkraft eines Bataillons verleiht.

566
00:45:34,982 --> 00:45:39,528
Oder einem Bataillon
die Kampfkraft einer Brigade?

567
00:45:39,611 --> 00:45:41,488
Mit Schwärmen ist das möglich.

568
00:45:42,614 --> 00:45:45,200
Nutzt man die Macht von Swarming,

569
00:45:45,284 --> 00:45:48,078
schafft man neue strategische Abschreckung

570
00:45:48,162 --> 00:45:49,455
gegen militärische Angriffe.

571
00:45:52,332 --> 00:45:57,004
Das Beste
ist die Anzahl junger Männer und Frauen,

572
00:45:57,087 --> 00:46:00,299
die wir retten werden,
wenn wir das richtig anpacken.

573
00:46:01,091 --> 00:46:03,594
Wir tauschen Maschinen

574
00:46:04,553 --> 00:46:05,846
gegen Menschenleben.

575
00:46:06,638 --> 00:46:10,893
Manche behaupten, autonome Waffen
würden die Kriegsführung präziser

576
00:46:10,976 --> 00:46:12,311
und menschlicher machen.

577
00:46:12,853 --> 00:46:15,397
Aber es ist schwer vorherzusagen,

578
00:46:15,481 --> 00:46:19,443
wie genau autonome Waffen
die Kriegsführung verändern könnten.

579
00:46:21,320 --> 00:46:23,238
Wie die Erfindung der Gatling-Waffe.

580
00:46:25,073 --> 00:46:26,700
Richard Gatling war ein Erfinder.

581
00:46:27,201 --> 00:46:30,954
Er sah verwundete Soldaten
aus dem Bürgerkrieg zurückkehren

582
00:46:32,289 --> 00:46:35,292
und wollte die Kriegsführung
menschlicher machen.

583
00:46:36,502 --> 00:46:39,755
Die Zahl der getöteten Soldaten
sollte sich reduzieren,

584
00:46:40,255 --> 00:46:42,633
indem sich die Zahl der Soldaten
im Krieg reduzierte.

585
00:46:44,092 --> 00:46:48,388
Er erfand die Gatling-Waffe,
ein Maschinengewehr mit Handkurbel,

586
00:46:48,472 --> 00:46:50,516
die das Abfeuern automatisierte.

587
00:46:53,268 --> 00:46:57,981
Das erhöhte die Feuerkraft der Soldaten
um das Hundertfache.

588
00:47:01,235 --> 00:47:05,239
Oft führen Bemühungen,
die Kriegsführung menschlicher zu machen,

589
00:47:06,490 --> 00:47:07,991
zum Gegenteil.

590
00:47:10,035 --> 00:47:13,288
Denken Sie an die Auswirkungen
eines irrtümlichen Drohnenangriffs

591
00:47:13,372 --> 00:47:14,706
in einer ländlichen Gegend,

592
00:47:14,790 --> 00:47:17,209
der die lokale Bevölkerung gegen die USA

593
00:47:17,292 --> 00:47:20,712
oder eine lokale Regierung aufbringt.
Die angeblich Guten.

594
00:47:22,589 --> 00:47:25,008
Nehmen Sie das mal 1.000.

595
00:47:26,802 --> 00:47:28,720
Ein Waffensystem,

596
00:47:28,804 --> 00:47:34,560
das billig und überschaubar ist,
und keinen menschlichen Operator braucht,

597
00:47:34,643 --> 00:47:37,896
verändert
die Barrieren eines Konflikts drastisch.

598
00:47:39,982 --> 00:47:44,486
Die Vorstellung einer Welt, in der Krieg
allgegenwärtig ist, hält mich nachts wach.

599
00:47:44,987 --> 00:47:48,657
Wir tragen nicht länger die menschlichen
und finanziellen Kosten des Krieges,

600
00:47:48,740 --> 00:47:51,410
da wir nichts mehr damit zu tun haben…

601
00:47:52,369 --> 00:47:54,037
...wenn Menschen sterben.

602
00:47:59,501 --> 00:48:01,420
Das Ganze verfolgt mich.

603
00:48:02,212 --> 00:48:05,924
Ich brauchte nur ein Beispiel
für den Missbrauch von KI.

604
00:48:06,800 --> 00:48:10,888
Die unerwarteten Konsequenzen
dieses einfachen Gedankenspiels

605
00:48:10,971 --> 00:48:12,848
gingen viel zu weit.

606
00:48:13,348 --> 00:48:14,808
KI IN DER ARZNEIMITTELFORSCHUNG:

607
00:48:14,892 --> 00:48:16,393
MEHR SCHADEN ALS NUTZEN VERMEIDEN

608
00:48:17,352 --> 00:48:18,729
Mein Vortrag

609
00:48:18,812 --> 00:48:22,107
über giftige Moleküle,
die von KI erschaffen wurden,

610
00:48:22,608 --> 00:48:24,484
erstaunte das Publikum.

611
00:48:25,402 --> 00:48:27,613
5.000 TREFFER WAREN VX-ANALOGE

612
00:48:29,406 --> 00:48:33,577
Die nächste Entscheidung betraf
die Veröffentlichung der Information.

613
00:48:34,912 --> 00:48:36,914
Einerseits will man die Welt

614
00:48:36,997 --> 00:48:39,166
vor so etwas warnen,

615
00:48:39,249 --> 00:48:44,087
andererseits
will man niemanden auf neue Ideen bringen.

616
00:48:46,381 --> 00:48:48,133
Wir veröffentlichten,

617
00:48:48,216 --> 00:48:52,679
um den Missbrauch von KI zu mindern,

618
00:48:52,763 --> 00:48:54,139
bevor er eintritt.

619
00:48:54,222 --> 00:48:56,975
DOPPELVERWENDUNG
VON KI-GESTÜTZTER ARZNEIMITTELFORSCHUNG

620
00:48:57,476 --> 00:48:59,519
WIE KI-TECHNOLOGIEN
FÜR ARZNEIMITTELFORSCHUNG

621
00:48:59,603 --> 00:49:01,813
FÜR BIOCHEMISCHE WAFFEN
MISSBRAUCHT WERDEN KÖNNTE

622
00:49:01,897 --> 00:49:04,775
Das Interesse der Öffentlichkeit
war schockierend.

623
00:49:07,194 --> 00:49:10,656
Wir können
die Zahl der Seitenaufrufe sehen.

624
00:49:10,739 --> 00:49:14,451
Bei normalen Artikeln haben wir,
wenn wir Glück haben...

625
00:49:14,534 --> 00:49:19,831
Ein paar Tausend Menschen lesen
unsere Artikel über mehrere Jahre hinweg.

626
00:49:19,915 --> 00:49:22,084
10.000 lasen diesen innerhalb einer Woche.

627
00:49:22,167 --> 00:49:25,337
Dann 20.000, 30.000, 40.000.

628
00:49:25,837 --> 00:49:28,715
Dann waren es
bis zu 10.000 Menschen am Tag.

629
00:49:30,258 --> 00:49:33,512
The Economist und die Financial Times
berichteten über uns.

630
00:49:35,639 --> 00:49:39,977
Radiolab meldete sich.
Die kannte ich!

631
00:49:41,937 --> 00:49:45,315
Dann geriet alles außer Kontrolle.

632
00:49:49,778 --> 00:49:53,532
Bei den Tweets dachte man:
"Kann das noch schlimmer werden?"

633
00:49:54,324 --> 00:49:55,993
Warum haben sie das getan?

634
00:49:57,911 --> 00:50:01,081
DIESE NERDS TÖTEN UNS ALLE.

635
00:50:01,164 --> 00:50:04,501
Dann bekamen wir
eine völlig unerwartete Einladung,

636
00:50:08,797 --> 00:50:12,926
Im Weißen Haus
wurde viel über den Artikel diskutiert,

637
00:50:13,010 --> 00:50:15,345
und man wollte uns dringend sprechen.

638
00:50:18,849 --> 00:50:20,809
Es ist eine unglaubliche Ehre,

639
00:50:20,892 --> 00:50:23,020
so hochkarätige Leute zu treffen.

640
00:50:23,603 --> 00:50:25,272
Dann merkt man:

641
00:50:25,355 --> 00:50:28,900
"Das ist das Weiße Haus. Der Boss."

642
00:50:29,693 --> 00:50:33,196
Wir stellten
Open-Source-Datensätze zusammen…

643
00:50:33,280 --> 00:50:37,701
In nur sechs Stunden generierte
das Modell über 40.000…

644
00:50:37,784 --> 00:50:41,038
Sie wollten wissen,
wie viel Rechenleistung nötig war.

645
00:50:41,872 --> 00:50:43,832
Wir sagten, keine besondere.

646
00:50:44,332 --> 00:50:48,211
Ein normaler,
sechs Jahre alter Mac reicht.

647
00:50:49,546 --> 00:50:51,256
Das haute sie um.

648
00:50:54,968 --> 00:50:59,473
Die für chemische Kampfstoffe
zuständigen Regierungsbehörden,

649
00:50:59,556 --> 00:51:04,019
hatten keine Ahnung von diesem Potenzial.

650
00:51:06,605 --> 00:51:09,816
Unser Kochbuch
für diese chemischen Waffen

651
00:51:10,650 --> 00:51:15,572
könnte in den falschen Händen,

652
00:51:16,573 --> 00:51:18,992
zu Entsetzlichem führen.

653
00:51:21,661 --> 00:51:23,205
Das muss begriffen werden.

654
00:51:23,288 --> 00:51:26,458
Wir müssen Vorschriften einführen,

655
00:51:27,250 --> 00:51:30,712
oder die Technologie so einschränken,
dass sie nicht missbraucht werden kann.

656
00:51:31,880 --> 00:51:35,175
Denn das Tötungspotential…

657
00:51:36,176 --> 00:51:37,344
...ist erschreckend.

658
00:51:40,680 --> 00:51:45,977
Die Frage der Ethik von KI
richtet sich an die Gesellschaft,

659
00:51:46,561 --> 00:51:50,273
nicht an die Ingenieure,
Technologen oder Mathematiker.

660
00:51:52,484 --> 00:51:56,822
Jede neue Technologie,
jede Erfindung

661
00:51:56,905 --> 00:52:00,617
fällt letztlich in den Bereich,
der gesellschaftlichen Verantwortung.

662
00:52:03,036 --> 00:52:06,498
Im Moment
sagt das Verteidigungsministerium:

663
00:52:06,581 --> 00:52:10,919
"Der Einzige, der bestimmt,
wer auf dem Schlachtfeld getötet wird,

664
00:52:11,002 --> 00:52:12,003
ist ein Mensch. "

665
00:52:12,504 --> 00:52:14,548
Eine Maschine kann töten,

666
00:52:15,674 --> 00:52:18,927
aber nur unter menschlicher Verantwortung.

667
00:52:19,636 --> 00:52:21,429
Daran wird sich nichts ändern.

668
00:52:24,808 --> 00:52:28,103
Man garantiert uns,
dass diese Technologie sicher ist.

669
00:52:29,688 --> 00:52:33,692
Das US-Militär
hat keinen vertrauenswürdigen Ruf

670
00:52:33,775 --> 00:52:35,485
mit Drohnen-Kriegsführung.

671
00:52:36,820 --> 00:52:41,783
Geht es darum,
dem US-Militär bei KI zu vertrauen,

672
00:52:41,867 --> 00:52:44,953
spricht die Vergangenheit für sich.

673
00:52:46,079 --> 00:52:48,331
Die Vorschriften
des US-Verteidigungsministeriums

674
00:52:48,415 --> 00:52:52,919
zum Einsatz autonomer Waffen
verbieten kein einziges Waffensystem.

675
00:52:53,003 --> 00:52:56,715
Selbst wenn Militärs
keine autonomen Waffen wollten,

676
00:52:56,798 --> 00:53:01,678
könnten sie Maschinen
mehr Entscheidungsgewalt übergeben,

677
00:53:01,761 --> 00:53:03,680
um wettbewerbsfähig zu bleiben.

678
00:53:04,764 --> 00:53:08,351
Das könnte
zu automatisierten Entscheidungen führen,

679
00:53:08,435 --> 00:53:09,978
die nicht gewollt sind.

680
00:53:12,022 --> 00:53:16,693
Wladimir Putin sagte: "Wer bei KI führt,
wird die Welt regieren."

681
00:53:17,736 --> 00:53:23,325
Präsident Xi hat deutlich gemacht,
dass KI die Technologie ist,

682
00:53:23,408 --> 00:53:25,702
die China dominieren will.

683
00:53:26,786 --> 00:53:29,831
Wir befinden uns
in einem technologischen Wettbewerb.

684
00:53:33,501 --> 00:53:35,670
Leitplanken werden diskutiert,

685
00:53:36,463 --> 00:53:39,424
und das ist auch gut so.

686
00:53:40,467 --> 00:53:45,180
Aber es gibt einen echten Wettstreit
über die Vormachtstellung bei KI.

687
00:53:47,265 --> 00:53:51,603
Für unsere Gegner,
ob China, Russland oder der Iran,

688
00:53:52,187 --> 00:53:56,566
wird es keine Rolle spielen,
wie unsere KI-Vorschriften lauten.

689
00:54:00,820 --> 00:54:04,324
Es wird
viel über KI-Vorschriften diskutiert,

690
00:54:06,117 --> 00:54:09,287
doch ich würde von Regierungsführern
lieber hören:

691
00:54:09,371 --> 00:54:11,706
"Wie schnell können wir das machen?

692
00:54:12,707 --> 00:54:15,168
Was brauchen wir? Lasst uns loslegen."

693
00:54:18,922 --> 00:54:21,299
JAHRESTAGUNG UND AUSSTELLUNG

694
00:54:33,478 --> 00:54:38,358
Wir sind auf der größten Messe
der Association of the US Army des Jahres.

695
00:54:39,609 --> 00:54:44,572
Jeder, der ein Produkt oder
eine Technologie ans Militär verkauft,

696
00:54:44,656 --> 00:54:46,616
stellt hier aus.

697
00:54:47,575 --> 00:54:50,537
Auf der Tyndall Air Force Base
patrouillieren vier unserer Roboter

698
00:54:50,620 --> 00:54:53,748
24 Stunden am Tag,
sieben Tage die Woche.

699
00:54:55,750 --> 00:55:00,130
Wir bieten alles.
Kameras, Sensoren, was immer Sie brauchen.

700
00:55:00,213 --> 00:55:05,135
Manipulatorarme. Ausschließlich,
um den Bedarf des Kunden zu decken.

701
00:55:06,678 --> 00:55:08,638
Was, wenn der Feind KI einführt?

702
00:55:09,431 --> 00:55:12,976
Ein Kampfsystem,
das schneller denkt, schneller reagiert,

703
00:55:13,059 --> 00:55:16,062
als der Mensch?
Darauf müssen wir vorbereitet sein.

704
00:55:17,605 --> 00:55:21,359
Wir trainieren unsere Systeme,
feindliche Informationen zu sammeln,

705
00:55:22,027 --> 00:55:26,531
feindliche Ziele zu erfassen,
mit Menschen, die Tötungen verantworten.

706
00:55:33,288 --> 00:55:34,956
-Herr General.
-Wie geht es Ihnen?

707
00:55:35,040 --> 00:55:36,416
Gut, Sir. Und Ihnen?

708
00:55:37,709 --> 00:55:40,962
Niemand investiert mehr in KI-Piloten
als wir.

709
00:55:41,046 --> 00:55:42,630
Unser KI-Pilot heißt Hivemind.

710
00:55:43,298 --> 00:55:47,135
Dieser wurde
mit unserem Quadcopter Nova kombiniert.

711
00:55:47,218 --> 00:55:49,387
Er erforscht Gebäude
vor den Spezialeinheiten

712
00:55:49,471 --> 00:55:50,805
und der Infanterie.

713
00:55:50,889 --> 00:55:52,891
Wir kombinieren Hivemind
mit V-BAT-Drohnen.

714
00:55:52,974 --> 00:55:56,811
Wir können Hunderte von Teams bilden.

715
00:55:56,895 --> 00:55:59,981
Ob Taiwanstraße oder Ukraine,

716
00:56:00,065 --> 00:56:01,608
als Abschreckungsmaßnahme.

717
00:56:01,691 --> 00:56:03,360
Ich bin sehr stolz darauf.

718
00:56:03,943 --> 00:56:06,196
-Ok. Danke.
-Danke, Herr General.

719
00:56:07,989 --> 00:56:13,370
KI-Piloten sollten allgegenwärtig sein.
Das sollte 2025, 2030 der Fall sein.

720
00:56:14,204 --> 00:56:17,582
Sie werden sich schnell weltweit
bei allen Streitkräften ausbreiten.

721
00:56:19,250 --> 00:56:22,253
Was ist mit dem rumänischen Militär?
Deren Drohnen-Jungs?

722
00:56:22,337 --> 00:56:24,589
Hightech im Militär?

723
00:56:25,256 --> 00:56:29,803
Der Bau des KI-Piloten hat bisher
eine halbe Milliarde Dollar gekostet.

724
00:56:29,886 --> 00:56:33,181
Wir werden in den nächsten fünf Jahren
eine weitere Milliarde ausgeben.

725
00:56:33,264 --> 00:56:37,769
Deswegen erhalten wir
die teuersten US-Entwicklungsaufträge.

726
00:56:37,852 --> 00:56:38,853
Toll.

727
00:56:38,937 --> 00:56:42,732
Beeindruckend.
Kann es bewaffnet werden?

728
00:56:43,650 --> 00:56:46,820
Noch nicht.

729
00:56:46,903 --> 00:56:48,321
In der Zukunft bestimmt.

730
00:56:48,905 --> 00:56:52,534
Für unsere Kunden ist es eine Art Lkw.
Für uns ist es ein intelligenter Lkw,

731
00:56:52,617 --> 00:56:54,452
der sehr viel kann.

732
00:56:54,536 --> 00:56:55,703
-Danke.
-Klar.

733
00:56:55,787 --> 00:56:57,914
Sie hören von mir.

734
00:57:01,668 --> 00:57:04,129
In zehn Jahren

735
00:57:04,212 --> 00:57:10,802
wird man sehen, dass KI und Autonomie
den gesamten Markt dominiert haben.

736
00:57:14,889 --> 00:57:19,352
Von KI und Autonomie
unterstützte Großmächte,

737
00:57:19,436 --> 00:57:25,108
werden die ohne KI und Autonomie
dominieren, vernichten und zerstören.

738
00:57:26,401 --> 00:57:30,780
Es wird sein wie Pferde gegen Panzer,

739
00:57:31,781 --> 00:57:34,367
Schwerter gegen Maschinengewehre.

740
00:57:34,909 --> 00:57:37,120
Es wird nicht einmal knapp sein.

741
00:57:38,746 --> 00:57:42,750
Sie wird in jedem Kriegsgebiet
allgegenwärtig sein.

742
00:57:43,585 --> 00:57:44,836
Auf taktischer Ebene,

743
00:57:45,336 --> 00:57:46,546
strategischer Ebene,

744
00:57:47,172 --> 00:57:50,800
mit unvorstellbarer Geschwindigkeit.

745
00:57:53,094 --> 00:57:57,098
Die Befehlshaber sind
mit Informationen überfordert.

746
00:57:57,599 --> 00:58:01,019
Bilder von Satelliten, Drohnen, Sensoren.

747
00:58:02,103 --> 00:58:03,396
KI kann dabei helfen,

748
00:58:03,480 --> 00:58:06,774
schneller zu verstehen, was passiert.

749
00:58:07,650 --> 00:58:09,903
"Welche Entscheidungen muss ich treffen?"

750
00:58:11,237 --> 00:58:14,866
KI berücksichtigt alle Faktoren,

751
00:58:14,949 --> 00:58:17,702
die bestimmen, wie Krieg geführt wird,

752
00:58:18,286 --> 00:58:20,246
entwirft Strategien…

753
00:58:22,540 --> 00:58:25,668
...und gibt Empfehlungen, wie man gewinnt.

754
00:58:32,217 --> 00:58:34,344
ZENTRUM FÜR INNOVATION

755
00:58:36,763 --> 00:58:40,266
Für uns bei Lockheed Martin und unseren
Kunden, das Verteidigungsministerium,

756
00:58:40,350 --> 00:58:43,770
ist KI die Schlüsseltechnologie

757
00:58:43,853 --> 00:58:45,104
für Führung und Kontrolle.

758
00:58:46,981 --> 00:58:50,109
Die Ausbreitungsrate
ist im Schnitt zwei Meter pro Sekunde.

759
00:58:50,193 --> 00:58:52,111
Der Bereich hat etwa 280 Hektar.

760
00:58:52,612 --> 00:58:55,782
Der Nebel des Krieges
ist für uns Realität.

761
00:58:57,158 --> 00:58:58,910
Es gibt Parallelen

762
00:58:58,993 --> 00:59:03,206
zu den Entscheidungen,
die bei Waldbränden getroffen zu müssen.

763
00:59:03,289 --> 00:59:06,543
Das Washburn-Feuer
befindet sich nördlich der Stadt Wawona.

764
00:59:06,626 --> 00:59:09,629
Man trifft Entscheidungen
mit unvollständigen Daten.

765
00:59:10,630 --> 00:59:14,300
Wie hilft uns KI beim Nebel des Krieges?

766
00:59:17,637 --> 00:59:19,597
Waldbrände sind sehr chaotisch.

767
00:59:20,181 --> 00:59:21,266
Sehr komplex.

768
00:59:22,267 --> 00:59:26,145
KI soll uns dabei helfen,

769
00:59:26,229 --> 00:59:27,855
Entscheidungen zu treffen.

770
00:59:31,442 --> 00:59:33,987
Der Cognitive Mission Manager
ist ein Programm,

771
00:59:34,070 --> 00:59:37,949
das Infrarot-Videos aus der Luft aufnimmt.

772
00:59:38,032 --> 00:59:41,786
durch unsere KI-Algorithmen auswertet,

773
00:59:41,869 --> 00:59:45,248
um die Feuerentwicklung vorherzusagen.

774
00:59:48,042 --> 00:59:49,794
In der Zukunft

775
00:59:49,877 --> 00:59:51,713
wird der Cognitive Mission Manager

776
00:59:51,796 --> 00:59:57,093
tausende Szenarien simulieren,

777
00:59:57,176 --> 01:00:00,722
um den effektivsten Einsatz
von Ressourcen zu empfehlen,

778
01:00:00,805 --> 01:00:04,058
um Brandherde zu unterdrücken.

779
01:00:08,062 --> 01:00:12,400
Es wird sagen:
"Löschen Sie hier mit einem Hubschrauber.

780
01:00:13,568 --> 01:00:15,903
Bodentruppen, die Gestrüpp entfernen,

781
01:00:16,946 --> 01:00:19,032
und Feuerwehrleute, die Wasser spritzen,

782
01:00:19,657 --> 01:00:23,077
müssen zu den Orten
mit höchster Priorität.

783
01:00:26,289 --> 01:00:29,292
Diese Entscheidungen können schneller

784
01:00:29,375 --> 01:00:31,044
und effizienter getroffen werden.

785
01:00:35,923 --> 01:00:38,468
KI ist einzig dazu da, damit wir

786
01:00:38,551 --> 01:00:42,305
mit der sich ständig verändernden Umwelt
Schritt halten können.

787
01:00:43,389 --> 01:00:46,517
Es gibt viele Parallelen zu dem,

788
01:00:46,601 --> 01:00:50,355
was wir von Lockheed Martin
auf der Verteidigungsseite kennen.

789
01:00:52,231 --> 01:00:58,154
Das Militär nutzt KI
und einzelne Waffensysteme nicht nur,

790
01:00:58,237 --> 01:01:00,782
um Entscheidungen
bezüglich Zielen und Töten zu treffen.

791
01:01:00,865 --> 01:01:05,787
KI wird in den gesamten militärischen
Entscheidungsprozess integriert.

792
01:01:09,415 --> 01:01:13,044
Die Armee hat ein riesiges Projekt
namens Project Convergence.

793
01:01:14,545 --> 01:01:16,422
Die Navy hat Overmatch.

794
01:01:16,506 --> 01:01:19,592
Die Air Force hat
das Advanced Battle Management System.

795
01:01:21,761 --> 01:01:24,138
Das Verteidigungsministerium
versucht herauszufinden:

796
01:01:24,222 --> 01:01:26,683
"Wie kombinieren wir das alles,

797
01:01:26,766 --> 01:01:29,268
damit wir schneller sind als unser Gegner

798
01:01:30,395 --> 01:01:32,355
und im Vorteil sind? "

799
01:01:33,481 --> 01:01:37,527
Ein KI-Kampfmanager
wäre ein hochrangiger General,

800
01:01:37,610 --> 01:01:39,821
der das Gefecht leitet.

801
01:01:41,155 --> 01:01:44,158
Bei der Befehligung
großer Truppen unterstützt.

802
01:01:45,118 --> 01:01:49,247
Die Aktionen aller Waffen koordiniert.

803
01:01:49,330 --> 01:01:51,958
Schneller als jeder Mensch.

804
01:01:53,167 --> 01:01:55,294
In den letzten 70 Jahren

805
01:01:55,378 --> 01:01:58,798
schufen wir
das modernste Militär der Welt.

806
01:01:58,881 --> 01:02:04,595
Jetzt stehen wir vor der Entscheidung,
ob wir die Kontrolle darüber

807
01:02:05,513 --> 01:02:07,598
an einen Algorithmus abgeben.

808
01:02:10,351 --> 01:02:13,062
Die Konsequenzen dieser Entscheidung

809
01:02:13,146 --> 01:02:16,774
könnten die volle Bandbreite
unserer Militärarsenale auslösen.

810
01:02:16,858 --> 01:02:19,902
Nicht ein Hiroshima. Hunderte.

811
01:02:25,616 --> 01:02:27,869
Wir müssen jetzt handeln,

812
01:02:27,952 --> 01:02:33,166
denn das Zeitfenster,
um das Risiko einzudämmen, schließt sich.

813
01:02:35,126 --> 01:02:39,338
Wir beginnen den heutigen Nachmittag
mit internationalen Sicherheitsproblemen

814
01:02:39,422 --> 01:02:41,132
durch neue Technologien

815
01:02:41,215 --> 01:02:44,343
im Bereich
tödlicher autonomer Waffensysteme.

816
01:02:44,427 --> 01:02:47,722
Innerhalb der Vereinten Nationen
gibt es Gespräche

817
01:02:47,805 --> 01:02:50,016
über die Bedrohung
durch tödliche autonome Waffen

818
01:02:50,600 --> 01:02:56,564
und unser Verbot für Systeme, die KI
nutzen, um Menschen ins Visier zu nehmen.

819
01:02:56,647 --> 01:03:00,777
Der Konsens unter den Technologen
ist klar und deutlich.

820
01:03:00,860 --> 01:03:04,030
Wir sind gegen autonome Waffen,
die Menschen zum Ziel haben.

821
01:03:05,615 --> 01:03:08,117
Jahrelang haben Staaten dabei geholfen,

822
01:03:08,201 --> 01:03:11,329
das Problem tödlicher
autonomer Waffensysteme zu diskutieren.

823
01:03:12,288 --> 01:03:16,793
Es geht
um ein gemeinsames Sicherheitsgefühl.

824
01:03:17,794 --> 01:03:20,546
Natürlich ist es nicht einfach.

825
01:03:21,297 --> 01:03:25,968
Manche Länder,
vor allem Militärmächte,

826
01:03:26,052 --> 01:03:27,762
möchten vornean stehen,

827
01:03:28,429 --> 01:03:31,599
damit sie ihren Feinden voraus sind.

828
01:03:32,600 --> 01:03:36,187
Doch alle müssen zustimmen,
um etwas zu erreichen.

829
01:03:36,896 --> 01:03:39,065
Mindestens ein Land
wird Einspruch erheben.

830
01:03:39,148 --> 01:03:42,109
USA und Russland haben deutlich gemacht,

831
01:03:42,193 --> 01:03:45,655
dass sie gegen einen Vertrag sind,
der autonome Waffen verbietet.

832
01:03:47,198 --> 01:03:53,204
Schaut man, wie viele
an der Weiterentwicklung von KI arbeiten,

833
01:03:54,747 --> 01:03:56,457
sind das eine Menge.

834
01:03:57,750 --> 01:04:02,880
Schaut man, wie viele
daran arbeiten, dass KI sicher ist,

835
01:04:04,340 --> 01:04:07,510
sind das viel weniger.

836
01:04:11,764 --> 01:04:13,724
Aber ich bin auch optimistisch.

837
01:04:16,060 --> 01:04:19,480
Das Übereinkommen über biologische Waffen

838
01:04:19,564 --> 01:04:22,358
fand mitten im Kalten Krieg statt.

839
01:04:23,025 --> 01:04:27,655
Trotz der Spannungen
zwischen der Sowjetunion und den USA.

840
01:04:29,156 --> 01:04:33,536
Es wurde erkannt,
dass die Entwicklung biologischer Waffen

841
01:04:33,619 --> 01:04:36,247
weder in ihrem Interesse war,

842
01:04:36,330 --> 01:04:38,749
noch im Interesse der ganzen Welt.

843
01:04:41,335 --> 01:04:44,714
Die Dynamik des Wettrüstens
zieht Geschwindigkeit Sicherheit vor.

844
01:04:45,715 --> 01:04:48,342
Was aber eine große Rolle spielt, ist,

845
01:04:48,426 --> 01:04:52,430
dass schneller Fortschritt zu teuer wird.

846
01:04:56,225 --> 01:04:59,270
Wir können nicht isoliert Dinge entwickeln

847
01:05:00,021 --> 01:05:06,611
und auf den Markt bringen, ohne darüber
nachzudenken, was daraus werden kann.

848
01:05:07,862 --> 01:05:10,823
Wir müssen
diesen Atombomben-Moment verhindern.

849
01:05:14,577 --> 01:05:17,705
Im Rennen um KI steht viel auf dem Spiel.

850
01:05:18,289 --> 01:05:22,001
Ich glaube nicht, dass viele
die globale Stabilität schätzen,

851
01:05:22,084 --> 01:05:28,174
die durch eine überlegene Militärmacht

852
01:05:28,257 --> 01:05:31,135
seit 75 Jahren herrscht.

853
01:05:32,887 --> 01:05:35,681
Die USA und unsere Alliierten müssen

854
01:05:36,557 --> 01:05:38,684
die gegnerische KI übertreffen.

855
01:05:43,314 --> 01:05:44,774
Im Krieg wird niemand Zweiter.

856
01:05:45,524 --> 01:05:49,111
China will bis 2030
bei KI weltweit führend sein.

857
01:05:49,195 --> 01:05:51,656
Manche sagen,
Amerika verliert das Wettrennen…

858
01:05:52,740 --> 01:05:56,160
Sie werden die Einführung
von KI beschleunigen,

859
01:05:56,243 --> 01:05:59,246
um den militärischen Wettbewerbsvorteil
zu sichern.

860
01:06:02,875 --> 01:06:05,461
Wir treiben die Technologie voran.

861
01:06:05,544 --> 01:06:08,673
Unklar ist, wie weit wir gehen werden.

862
01:06:09,507 --> 01:06:12,760
Kontrollieren wir die Technologie
oder kontrolliert sie uns?

863
01:06:14,136 --> 01:06:16,973
Es gibt keinen zweiten Versuch.

864
01:06:17,807 --> 01:06:20,977
Ist der Geist einmal aus der Flasche,
ist er raus.

865
01:06:22,019 --> 01:06:25,189
Es ist sehr schwierig,
ihn wieder hineinzubekommen.

866
01:06:28,609 --> 01:06:31,737
Wenn wir jetzt nicht handeln,
ist es zu spät.

867
01:06:33,114 --> 01:06:34,657
Vielleicht ist es das schon.

868
01:08:48,124 --> 01:08:50,126
Untertitel von: Sabine Wabnitz