1
00:00:02,000 --> 00:00:07,000
Downloaded from
YTS.MX

2
00:00:08,000 --> 00:00:13,000
Official YIFY movies site:
YTS.MX

3
00:00:24,065 --> 00:00:26,818
Saya rasa AI mengagumkan.

4
00:00:28,361 --> 00:00:31,489
Baiklah, berputar naik. Formasi yang baik.

5
00:00:33,116 --> 00:00:36,703
AI berpotensi
untuk menghapuskan kemiskinan,

6
00:00:36,786 --> 00:00:38,705
memberikan ubat-ubatan baru,

7
00:00:39,330 --> 00:00:41,583
dan menjadikan dunia kita lebih aman.

8
00:00:46,087 --> 00:00:46,921
Bagus.

9
00:00:49,883 --> 00:00:53,428
Namun, banyak risiko yang perlu dihadapi.

10
00:01:04,773 --> 00:01:09,611
Dengan AI, kita sebenarnya
mencipta kecerdasan bukan manusia

11
00:01:09,694 --> 00:01:11,863
yang sangat tidak dapat diduga.

12
00:01:14,407 --> 00:01:16,451
Apabila AI menjadi lebih berkuasa,

13
00:01:16,534 --> 00:01:19,746
apakah batasan
yang kita akan tetapkan untuk AI

14
00:01:19,829 --> 00:01:22,665
dari segi pantang larang penggunaan?

15
00:01:24,501 --> 00:01:28,505
Tiada topik yang lebih sesuai
untuk perbincangan ini

16
00:01:28,588 --> 00:01:31,049
melainkan penggunaan ketenteraan.

17
00:01:34,010 --> 00:01:38,890
Medan perang kini telah menjadi
lapangan perisian dan perkakasan.

18
00:01:41,559 --> 00:01:42,936
Sasaran telah diperoleh…

19
00:01:43,019 --> 00:01:46,022
Angkatan tentera berlumba
untuk membangunkan AI

20
00:01:46,106 --> 00:01:48,399
lebih cepat daripada musuh mereka.

21
00:01:49,526 --> 00:01:50,360
Saya dah mati.

22
00:01:53,780 --> 00:01:58,326
Kita bergerak pantas menuju dunia
yang bukan hanya angkatan tentera besar,

23
00:01:58,409 --> 00:02:02,997
tapi aktivis bukan negara, industri swasta

24
00:02:03,081 --> 00:02:06,459
atau jabatan polis di kejiranan kita

25
00:02:06,543 --> 00:02:10,046
boleh menggunakan senjata
yang boleh membunuh sendiri.

26
00:02:12,006 --> 00:02:14,926
Adakah kita akan serahkan
keputusan membunuh

27
00:02:15,009 --> 00:02:17,303
kepada algoritma dan perisian komputer?

28
00:02:18,638 --> 00:02:22,016
Ini antara isu paling penting masa kini.

29
00:02:23,935 --> 00:02:26,354
Jika tidak digunakan dengan bijak,

30
00:02:26,437 --> 00:02:30,316
ia memberikan risiko besar
kepada semua orang di planet ini.

31
00:03:28,291 --> 00:03:30,168
Syabas, semua.

32
00:03:59,948 --> 00:04:02,200
Kantanya lebih besar daripada sebelum ini.

33
00:04:02,283 --> 00:04:03,117
Yakah?

34
00:04:03,201 --> 00:04:04,786
Boleh lihat lebih banyak data.

35
00:04:05,286 --> 00:04:06,287
Sangat hebat.

36
00:04:07,538 --> 00:04:11,167
Di Shield AI, kami membina juruterbang AI

37
00:04:11,251 --> 00:04:14,879
yang menggunakan teknologi
kecerdasan buatan pemanduan sendiri

38
00:04:14,963 --> 00:04:16,631
dan memuatkannya pada pesawat.

39
00:04:19,259 --> 00:04:21,719
Apabila bercakap tentang juruterbang AI,

40
00:04:21,803 --> 00:04:25,223
kami mahu memberikan pesawat
autonomi yang lebih tinggi.

41
00:04:25,723 --> 00:04:27,850
Ia akan menyelesaikan masalah sendiri.

42
00:04:29,602 --> 00:04:32,355
Nova ialah quadcopter autonomi

43
00:04:32,438 --> 00:04:36,776
yang meneroka bangunan
dan struktur bawah tanah

44
00:04:36,859 --> 00:04:38,611
sebelum pasukan keselamatan

45
00:04:38,695 --> 00:04:41,322
untuk mengawasi ruang-ruang tersebut.

46
00:04:41,990 --> 00:04:45,618
Kita boleh nampak
banyak perkembangan daripada yang lalu.

47
00:04:45,702 --> 00:04:49,789
Kami buat perubahan penerokaan hari ini.
Tingkat demi tingkat.

48
00:04:50,290 --> 00:04:53,584
Ia akan selesaikan satu tingkat
sebelum ke tingkat kedua.

49
00:04:54,252 --> 00:04:56,796
- Bagus.
- Kami ubah baru-baru ini…

50
00:04:56,879 --> 00:04:58,548
Ramai orang tanya saya

51
00:04:58,631 --> 00:05:01,551
kenapa kebolehan
kecerdasan buatan penting.

52
00:05:01,634 --> 00:05:02,635
BEKAS ANGKATAN LAUT AS

53
00:05:02,677 --> 00:05:06,973
Saya cuma fikirkan semula
misi-misi yang saya laksanakan.

54
00:05:09,142 --> 00:05:11,019
Tujuh tahun saya dalam angkatan laut.

55
00:05:11,561 --> 00:05:15,273
Saya bekas angkatan laut yang dihantar
dua kali ke Afghanistan

56
00:05:15,356 --> 00:05:17,233
dan sekali ke Perang Pasifik.

57
00:05:18,026 --> 00:05:22,947
Pada hari tertentu, kami perlu memeriksa
150 kawasan atau bangunan yang berbeza.

58
00:05:30,955 --> 00:05:34,250
Salah satu kebolehan utama
ialah pertempuran jarak dekat.

59
00:05:35,293 --> 00:05:39,589
Pertempuran bersenjata pada jarak
yang teramat dekat di dalam bangunan.

60
00:05:41,466 --> 00:05:42,967
Kita ditembak.

61
00:05:43,468 --> 00:05:46,471
Kemungkinan ada bahan letupan
di dalam bangunan.

62
00:05:48,973 --> 00:05:55,229
Ia perkara paling berbahaya yang dilakukan
oleh mana-mana pasukan operasi khas

63
00:05:55,313 --> 00:05:59,609
atau infantri dalam zon pertempuran.
Tiada yang setandingnya.

64
00:06:12,497 --> 00:06:16,667
Saya bersyukur seumur hidup
bagi pengalaman saya dalam angkatan laut.

65
00:06:17,168 --> 00:06:22,423
Ada banyak detik dan kenangan
yang apabila saya fikirkan,

66
00:06:22,507 --> 00:06:24,592
saya pasti beremosi.

67
00:06:28,346 --> 00:06:32,850
Kebebasan bukan percuma memang klise,
tapi saya benar-benar mempercayainya.

68
00:06:33,559 --> 00:06:37,146
Saya telah mengalaminya
dan ia memerlukan banyak pengorbanan.

69
00:06:38,022 --> 00:06:38,856
Maaf.

70
00:06:41,025 --> 00:06:44,570
Apabila perkara buruk menimpa
salah seorang ahli pasukan,

71
00:06:44,654 --> 00:06:46,656
sama ada mereka cedera atau mati,

72
00:06:47,490 --> 00:06:49,700
ia perkara yang sangat tragik.

73
00:06:49,784 --> 00:06:52,912
Bagi saya melalui kerja
yang kami buat sekarang,

74
00:06:52,995 --> 00:06:58,835
saya rasa amat bermotivasi
apabila dapat mengurangkan kekerapan

75
00:06:58,918 --> 00:07:00,336
kejadian itu berulang.

76
00:07:07,135 --> 00:07:08,886
Pada penghujung tahun 2000-an,

77
00:07:08,970 --> 00:07:11,556
ada kesedaran dalam Jabatan Pertahanan

78
00:07:11,639 --> 00:07:15,351
tentang sesuatu yang dipanggil
revolusi robotik tanpa sengaja.

79
00:07:15,852 --> 00:07:19,564
Kami guna ribuan robot udara
dan darat di Iraq dan Afghanistan.

80
00:07:21,482 --> 00:07:24,068
Semasa saya diminta oleh pentadbiran Obama

81
00:07:24,152 --> 00:07:26,821
untuk menjadi
Timbalan Setiausaha Pertahanan,

82
00:07:26,904 --> 00:07:31,117
cara berlawan dalam perang telah berubah.

83
00:07:32,452 --> 00:07:36,330
Robot digunakan
untuk menggantikan tugas manusia.

84
00:07:37,957 --> 00:07:40,376
Sistem robotik awal dikawal dari jauh.

85
00:07:40,460 --> 00:07:45,590
Ada manusia yang memandu dan mengawalnya
seperti kereta kawalan jauh.

86
00:07:46,632 --> 00:07:51,929
Pada mulanya, ia digunakan untuk mencari
peranti letupan yang diubah suai

87
00:07:52,013 --> 00:07:54,807
dan jika bom meletup, robot akan meletup.

88
00:07:57,351 --> 00:08:00,396
Kita akan kata, "Alamak.
Okey, kerah sebuah lagi."

89
00:08:02,273 --> 00:08:05,151
Di Afghanistan, kita ada dron Predator

90
00:08:05,234 --> 00:08:09,739
dan ia menjadi alat yang sangat berguna
untuk menjalankan serangan udara.

91
00:08:13,117 --> 00:08:16,829
Lama-kelamaan,
perancang tentera mula berfikir,

92
00:08:16,913 --> 00:08:20,791
"Apa lagi yang kita boleh guna robot?"
Ke mana hala tujunya?

93
00:08:20,875 --> 00:08:24,170
Antara topik yang biasa
ialah autonomi yang lebih tinggi.

94
00:08:26,506 --> 00:08:30,635
Senjata berautonomi ialah senjata
yang membuat keputusan sendiri,

95
00:08:30,718 --> 00:08:33,304
tanpa campur tangan manusia.

96
00:08:33,387 --> 00:08:37,558
Jadi, ia mampu bertindak sendiri
dan tak perlukan arahan.

97
00:08:38,434 --> 00:08:41,604
Kemampuannya membunuh bergantung
pada kelengkapan senjatanya.

98
00:08:43,314 --> 00:08:47,026
Apabila autonomi bertambah
dalam seluruh sistem,

99
00:08:47,109 --> 00:08:49,779
segalanya mula bergerak
dengan lebih pantas.

100
00:08:51,948 --> 00:08:57,328
Apabila kita beroperasi lebih pantas
daripada musuh,

101
00:08:57,411 --> 00:09:01,457
itu kelebihan yang sangat besar
dalam pertempuran.

102
00:09:03,960 --> 00:09:06,254
Fokus kami berkaitan autonomi

103
00:09:07,255 --> 00:09:10,383
ialah sistem perisikan yang tahan lasak.

104
00:09:11,926 --> 00:09:15,304
Sistem yang boleh membaca
dan bertindak berdasarkan persekitaran

105
00:09:15,805 --> 00:09:19,642
dan memutuskan cara
untuk meneroka dunia itu.

106
00:09:24,981 --> 00:09:29,151
Hari ini kita berada di lokasi
yang asalnya dibina sebagai studio filem

107
00:09:29,235 --> 00:09:30,611
dan diubah

108
00:09:30,695 --> 00:09:34,532
bagi menghasilkan persekitaran
latihan ketenteraan yang realistik.

109
00:09:39,495 --> 00:09:43,291
Kami datang
untuk menilai juruterbang AI kami.

110
00:09:44,625 --> 00:09:49,297
Kami akan jalankan misi mencari ancaman.
Ini untuk pemeriksaan keselamatan.

111
00:09:49,380 --> 00:09:52,800
Ia boleh memutuskan cara
untuk menyelesaikan masalah.

112
00:09:55,428 --> 00:09:59,390
Kami menggelar ini "cerobong maut".
Kita perlu melalui muka pintu.

113
00:10:01,726 --> 00:10:03,185
Kawasan yang paling terdedah.

114
00:10:03,811 --> 00:10:05,021
Yang ini lebih baik.

115
00:10:07,106 --> 00:10:12,737
Nova beritahu kami ada penembak
atau sebuah keluarga di sebalik pintu.

116
00:10:15,114 --> 00:10:18,451
Kami boleh buat keputusan yang lebih baik
dan melindungi orang.

117
00:10:57,114 --> 00:10:59,367
Kami gunakan sensor penglihatan

118
00:10:59,450 --> 00:11:03,162
untuk cuba memahami
keadaan di kawasan persekitaran.

119
00:11:04,997 --> 00:11:06,415
Bangunan ini bertingkat.

120
00:11:07,333 --> 00:11:08,334
Ini petanya.

121
00:11:08,417 --> 00:11:11,671
Semasa meneroka,
ini perkara yang saya lihat dan lokasinya.

122
00:11:19,887 --> 00:11:22,098
Pengesan manusia. Hebatnya.

123
00:11:23,891 --> 00:11:27,103
Salah satu sensor yang dipasang
pada Nova ialah pengimbas haba.

124
00:11:27,603 --> 00:11:30,690
Jika suhunya 37 darjah Celsius,
ia mungkin manusia.

125
00:11:32,358 --> 00:11:35,444
Manusia dianggap ancaman sehingga bukan.

126
00:11:38,864 --> 00:11:43,244
Ia menjelaskan kekaburan perang
untuk membuat keputusan yang lebih baik.

127
00:11:44,662 --> 00:11:46,831
Pada masa hadapan,

128
00:11:46,914 --> 00:11:50,793
kami merancang untuk membina
pasukan pesawat yang berautonomi.

129
00:11:53,671 --> 00:11:57,466
Kenderaan pemanduan sendiri
perlu diberitahu,

130
00:11:57,550 --> 00:12:00,386
"Saya nak awak pergi
dari titik A ke titik B."

131
00:12:02,972 --> 00:12:06,475
Sistem kami tak diminta untuk pergi
dari titik A ke titik B,

132
00:12:06,559 --> 00:12:08,477
tapi untuk mencapai objektif.

133
00:12:10,312 --> 00:12:13,190
Ia lebih sama seperti,
"Saya perlukan susu."

134
00:12:13,274 --> 00:12:17,486
Kemudian robot perlu fikirkan
kedai runcit mana yang perlu dituju

135
00:12:17,570 --> 00:12:20,239
untuk mendapatkan susu
dan membawanya pulang.

136
00:12:20,740 --> 00:12:24,493
Ia juga mungkin lebih tepat
dijelaskan seperti,

137
00:12:24,994 --> 00:12:27,413
"Pastikan peti sejuk sentiasa penuh."

138
00:12:27,496 --> 00:12:32,168
Ini tahap kepintaran yang memikirkan
apa yang diperlukan dan cara melakukannya.

139
00:12:32,251 --> 00:12:34,253
Jika ada cabaran, masalah

140
00:12:34,336 --> 00:12:37,673
atau isu yang timbul,
ia perlu fikir cara menanganinya.

141
00:12:40,760 --> 00:12:45,431
Apabila saya putuskan untuk meninggalkan
angkatan laut, saya mula berfikir,

142
00:12:45,514 --> 00:12:47,683
"Okey. Apa seterusnya?"

143
00:12:49,143 --> 00:12:52,021
Saya membesar dengan Internet
dan melihat kemajuannya.

144
00:12:53,189 --> 00:12:56,025
Sebahagian daripada kesimpulan
yang saya buat

145
00:12:56,108 --> 00:12:58,861
ialah tahap AI pada tahun 2015

146
00:12:58,944 --> 00:13:02,907
ialah tahap Internet pada tahun 1991.

147
00:13:04,033 --> 00:13:06,285
AI bersedia untuk berkembang

148
00:13:06,368 --> 00:13:09,747
dan menjadi salah satu
teknologi terhebat di dunia.

149
00:13:11,791 --> 00:13:16,378
Saya mengusahakannya setiap hari,
jadi saya dapat lihat kemajuannya.

150
00:13:19,048 --> 00:13:22,468
Namun, bagi kebanyakan orang,
apabila mereka fikir "AI",

151
00:13:22,551 --> 00:13:25,221
mereka terus memikirkan Hollywood.

152
00:13:26,639 --> 00:13:28,474
PELAN RESPONS OPERASI PERANG

153
00:13:28,557 --> 00:13:29,975
Nak main permainan?

154
00:13:30,059 --> 00:13:35,314
Nak main Perang Termonuklear Dunia?

155
00:13:35,397 --> 00:13:36,816
Baiklah.

156
00:13:37,399 --> 00:13:38,317
AWAK DI PIHAK SIAPA?

157
00:13:38,400 --> 00:13:41,403
Apabila orang ramai fikirkan
kecerdasan buatan,

158
00:13:41,487 --> 00:13:44,824
mereka fikirkan The Terminator, I, Robot…

159
00:13:45,574 --> 00:13:46,700
Nyahaktif.

160
00:13:46,784 --> 00:13:48,160
Siapa saya?

161
00:13:48,244 --> 00:13:49,620
…atau The Matrix.

162
00:13:51,080 --> 00:13:55,709
Berdasarkan kandungan filem cereka sains,
bagaimana nak tahu saya manusia?

163
00:13:55,793 --> 00:13:57,878
Mungkin saya AI yang dihasilkan
oleh komputer.

164
00:13:58,379 --> 00:14:02,132
Replika sama seperti mesin lain.
Ia sama ada manfaat atau bahaya.

165
00:14:02,758 --> 00:14:08,097
Namun, ada pelbagai AI lebih primitif
yang masih akan mengubah hidup kita

166
00:14:08,180 --> 00:14:11,851
sebelum kita mencapai peringkat
robot yang boleh berfikir dan bercakap.

167
00:14:12,643 --> 00:14:15,771
Robot ada di sini.
Robot membuat keputusan.

168
00:14:15,855 --> 00:14:18,774
Revolusi robot telah tiba,

169
00:14:18,858 --> 00:14:22,319
cuma ia bukan seperti yang dibayangkan.

170
00:14:23,320 --> 00:14:26,740
Terminator ialah unit penyusupan.
Separuh manusia, separuh mesin.

171
00:14:27,950 --> 00:14:31,787
Kami tak maksudkan robot pembunuh
seperti Terminator.

172
00:14:31,871 --> 00:14:35,958
Kami maksudkan
AI yang boleh buat tugasan manusia.

173
00:14:36,041 --> 00:14:39,879
Namun, kita bimbang
mengenai kebolehharapan sistem ini.

174
00:14:40,462 --> 00:14:42,381
Maklumat baru mengenai kemalangan maut

175
00:14:42,464 --> 00:14:45,426
melibatkan kereta Uber SUV
pemanduan sendiri.

176
00:14:45,509 --> 00:14:48,762
Syarikat itu mencipta
chatbot kecerdasan buatan.

177
00:14:48,846 --> 00:14:51,181
Ia mengeluarkan pernyataan rasis…

178
00:14:51,265 --> 00:14:53,142
Seramai 26 penggubal undang-undang negara

179
00:14:53,225 --> 00:14:55,394
dikenal pasti sebagai penjenayah
secara salah.

180
00:14:57,479 --> 00:15:02,318
Persoalannya adalah sama ada ia boleh
menangani kerumitan dunia sebenar.

181
00:15:22,171 --> 00:15:24,006
Dunia fizikal sangat bercelaru.

182
00:15:25,174 --> 00:15:27,468
Ada banyak perkara yang kita tak tahu,

183
00:15:27,968 --> 00:15:30,763
jadi lebih sukar untuk melatih sistem AI.

184
00:15:33,098 --> 00:15:36,977
Itulah sebab sistem pembelajaran mesin
mula diperkenalkan.

185
00:15:38,520 --> 00:15:41,941
Pembelajaran mesin
ialah kemajuan yang besar

186
00:15:42,024 --> 00:15:45,611
kerana itu bermakna
kita tak perlu mengajar mesin segalanya.

187
00:15:47,905 --> 00:15:54,745
Kita beri komputer berjuta-juta maklumat
dan mesin itu mula mempelajarinya.

188
00:15:55,245 --> 00:15:57,289
Ia boleh diaplikasikan untuk apa saja.

189
00:16:00,167 --> 00:16:02,962
Dalam projek Anjing Robot,
kami cuba menunjukkan

190
00:16:03,045 --> 00:16:09,593
bahawa anjing kami boleh berjalan
merentasi pelbagai rupa bumi.

191
00:16:10,094 --> 00:16:14,431
Manusia telah berevolusi
selama berjuta tahun untuk berjalan,

192
00:16:14,932 --> 00:16:16,600
tapi memerlukan kecerdasan

193
00:16:16,684 --> 00:16:20,688
untuk menyesuaikan diri
dengan rupa bumi berbeza.

194
00:16:21,939 --> 00:16:24,316
Persoalannya, bolehkah sistem robotik

195
00:16:24,400 --> 00:16:27,069
menyesuaikan diri
seperti haiwan dan manusia?

196
00:16:35,953 --> 00:16:40,582
Dengan pembelajaran mesin,
kami kumpul banyak data dalam simulasi.

197
00:16:42,626 --> 00:16:46,088
Simulasi ialah kembar digital
bagi dunia realiti.

198
00:16:46,588 --> 00:16:52,136
Kami boleh jalankan banyak realiti itu
pada beberapa buah komputer yang berbeza.

199
00:16:53,178 --> 00:16:57,307
Ia mencuba ribuan aksi dalam simulasi.

200
00:16:58,892 --> 00:17:02,229
Tanah yang dipijaknya mempunyai
kelicinan berbeza.

201
00:17:02,312 --> 00:17:03,856
Kelembutan berbeza.

202
00:17:04,898 --> 00:17:08,318
Kami ambil semua pengalaman
beribu-ribu robot

203
00:17:08,402 --> 00:17:13,282
dalam simulasi dan memuat turun
ke dalam sistem robotik sebenar.

204
00:17:15,492 --> 00:17:18,954
Ujian hari ini adalah untuk menguji
sama ada ia boleh menyesuaikan diri

205
00:17:19,038 --> 00:17:20,205
dengan rupa bumi baru.

206
00:17:53,197 --> 00:17:55,532
Semasa robot itu berjalan di atas busa,

207
00:17:55,616 --> 00:17:58,619
pergerakan kakinya menghentak tanah.

208
00:17:59,369 --> 00:18:02,206
Berlainan dengan permukaan plastik,

209
00:18:03,248 --> 00:18:06,460
ia cuba mengubah pergerakan
supaya tidak tergelincir.

210
00:18:08,670 --> 00:18:14,134
Itulah detik yang menyedarkan kita,
"Inilah manfaat pembelajaran mesin."

211
00:18:41,161 --> 00:18:46,166
Kami fikir Anjing Robot boleh membantu
dalam situasi respons bencana,

212
00:18:46,250 --> 00:18:49,878
yang memerlukan pengemudian
pelbagai jenis rupa bumi.

213
00:18:52,631 --> 00:18:57,886
Anjing-anjing ini juga boleh membuat
pengawasan di persekitaran yang teruk.

214
00:19:15,696 --> 00:19:19,575
Namun, kebanyakan teknologi berdepan
dengan cabaran

215
00:19:19,658 --> 00:19:22,369
mengenai manfaat
dan bahaya yang boleh berlaku.

216
00:19:24,079 --> 00:19:27,875
Contohnya, kita boleh menggunakan
teknologi nuklear untuk tenaga…

217
00:19:30,335 --> 00:19:33,881
tapi kita juga boleh hasilkan bom atom
yang sangat berbahaya.

218
00:19:35,090 --> 00:19:38,468
Ini dikenali sebagai masalah dwifungsi.

219
00:19:38,552 --> 00:19:40,679
Api ada dwifungsi.

220
00:19:40,762 --> 00:19:41,722
AHLI FIZIK, MIT

221
00:19:41,805 --> 00:19:44,308
Kecerdasan manusia dwifungsi.

222
00:19:44,391 --> 00:19:48,770
Jadi, kecerdasan buatan juga
boleh dikatakan dwifungsi.

223
00:19:49,354 --> 00:19:53,984
Sangat penting untuk memikirkan
konteks penggunaan AI

224
00:19:54,693 --> 00:19:59,114
kerana, ya, memang bagus mempunyai
robot pencari dan penyelamat

225
00:19:59,198 --> 00:20:02,868
yang boleh membantu mengesan mangsa
selepas runtuhan salji,

226
00:20:02,951 --> 00:20:05,871
tapi robot yang sama
boleh menjadi senjata.

227
00:20:15,088 --> 00:20:21,094
Apabila kita lihat syarikat
memasang senjata pada robot,

228
00:20:21,178 --> 00:20:22,930
sebahagian diri kita rasa marah.

229
00:20:23,931 --> 00:20:28,435
Sebahagian lagi akan sedar
apabila kita mengeluarkan teknologi,

230
00:20:28,518 --> 00:20:30,103
inilah yang akan berlaku.

231
00:20:31,021 --> 00:20:34,441
Ini teknologi yang mengubah segalanya.

232
00:20:36,235 --> 00:20:38,028
Ini sistem senjata

233
00:20:38,111 --> 00:20:43,617
yang boleh mengubah
keselamatan kita secara dramatik.

234
00:20:46,161 --> 00:20:51,500
Buat masa ini, kami tak pasti
mesin boleh membezakan

235
00:20:51,583 --> 00:20:54,962
antara orang awam dan pejuang.

236
00:21:01,802 --> 00:21:05,597
Pada awal perang di Afghanistan,
saya antara penembak hendap tentera

237
00:21:05,681 --> 00:21:08,016
yang mencari pejuang musuh
yang memasuki sempadan.

238
00:21:09,685 --> 00:21:12,688
Mereka menghantar budak perempuan
untuk meninjau lokasi kami.

239
00:21:13,939 --> 00:21:17,067
Kami tak pernah terfikir
untuk menembak budak ini.

240
00:21:19,695 --> 00:21:22,864
Mengikut undang-undang perang,
ia dibolehkan.

241
00:21:24,950 --> 00:21:27,369
Mereka tak tetapkan umur
buat pejuang musuh.

242
00:21:29,037 --> 00:21:33,417
Jika kita bina robot yang mengikut
undang-undang perang,

243
00:21:33,500 --> 00:21:35,252
ia pasti menembak budak ini.

244
00:21:36,420 --> 00:21:39,923
Bagaimana robot membezakan
perkara yang sah dan yang betul?

245
00:21:40,007 --> 00:21:41,091
BEKAS RENJER TENTERA AS

246
00:21:43,343 --> 00:21:46,054
Apabila bercakap
tentang perang dron berautonomi,

247
00:21:46,138 --> 00:21:49,933
mereka mahu menyingkirkan bahaya
yang dihadapi oleh tentera Amerika

248
00:21:50,017 --> 00:21:51,601
dan jiwa orang Amerika,

249
00:21:52,602 --> 00:21:57,149
tapi peningkatan risiko orang awam
perlu dihadapi oleh orang Afganistan,

250
00:21:57,232 --> 00:21:59,359
orang Iraq dan orang Somalia.

251
00:22:09,619 --> 00:22:14,416
Saya nak tanya mereka yang menyokong
penggunaan AI dalam dron,

252
00:22:15,292 --> 00:22:18,211
"Bagaimana jika
kampung kamu yang menghadapinya?"

253
00:22:23,550 --> 00:22:26,053
AI mempunyai kebaikan dan keburukan.

254
00:22:26,595 --> 00:22:30,724
Ia boleh digunakan untuk kebaikan,
seperti yang kita biasa guna,

255
00:22:31,558 --> 00:22:33,477
dan semudah menekan butang,

256
00:22:34,561 --> 00:22:38,398
teknologi ini berpotensi menjadi
sesuatu yang sangat berbahaya.

257
00:22:46,907 --> 00:22:48,533
Saya ahli farmasi klinikal.

258
00:22:49,534 --> 00:22:50,994
Saya ada sekumpulan orang

259
00:22:51,078 --> 00:22:54,247
yang menggunakan kecerdasan buatan
untuk mencari ubat

260
00:22:54,331 --> 00:22:57,918
yang boleh memulihkan penyakit
yang tidak mendapat perhatian.

261
00:22:59,711 --> 00:23:04,132
Dulu, untuk penemuan ubat,
kita perlu ambil molekul yang wujud

262
00:23:04,216 --> 00:23:06,885
dan mengubahnya
untuk mendapat ubat yang baru.

263
00:23:08,220 --> 00:23:13,809
Kini, kami telah menghasilkan AI
yang memberikan berjuta-juta idea,

264
00:23:13,892 --> 00:23:15,227
berjuta-juta molekul,

265
00:23:16,186 --> 00:23:19,231
dan itu membuka banyak kemungkinan

266
00:23:19,314 --> 00:23:23,151
untuk merawat penyakit
yang tidak dapat dirawat sebelum ini.

267
00:23:25,153 --> 00:23:28,448
Namun, ada keburukan
yang saya tak pernah terfikir

268
00:23:28,532 --> 00:23:30,158
untuk buat.

269
00:23:33,161 --> 00:23:35,872
Semua ini bermula apabila saya dijemput

270
00:23:35,956 --> 00:23:40,460
oleh sebuah organisasi di Switzerland
yang dipanggil Makmal Spiez

271
00:23:40,544 --> 00:23:44,423
untuk memberikan penyampaian
tentang potensi penyalahgunaan AI.

272
00:23:48,343 --> 00:23:51,221
Sean baru hantar e-mel
dengan beberapa idea

273
00:23:51,304 --> 00:23:55,308
tentang cara kami boleh menyalahgunakan
kecerdasan buatan kami.

274
00:23:56,059 --> 00:24:00,355
Selain meminta model kami mencipta
molekul seperti ubat

275
00:24:00,439 --> 00:24:02,274
yang boleh merawat penyakit,

276
00:24:02,774 --> 00:24:06,403
mari kita cuba hasilkan
molekul yang paling toksik.

277
00:24:10,198 --> 00:24:11,491
Saya cuma nak jelaskan,

278
00:24:11,575 --> 00:24:15,620
bolehkah kita gunakan teknologi AI
untuk mencipta molekul yang berbahaya?

279
00:24:17,414 --> 00:24:20,083
Sejujurnya, kami fikir ia akan gagal

280
00:24:20,167 --> 00:24:24,504
kerana kami hanya tukar
kosong menjadi satu.

281
00:24:26,715 --> 00:24:30,385
Dengan menukarkannya,
ia tidak lagi menyingkirkan toksik,

282
00:24:30,469 --> 00:24:33,555
malah ia meningkatkan toksik. Itu saja.

283
00:24:37,476 --> 00:24:41,021
Komputer melakukan kerja
semasa saya di rumah.

284
00:24:41,521 --> 00:24:44,816
Ia menghasilkan beribu-ribu molekul

285
00:24:45,650 --> 00:24:49,571
dan kami tak perlu buat apa-apa
selain menekan "teruskan".

286
00:24:54,493 --> 00:24:58,580
Keesokan paginya,
ada fail pada komputer saya

287
00:24:59,080 --> 00:25:03,376
yang mengandungi kira-kira 40,000 molekul

288
00:25:03,460 --> 00:25:08,882
yang mungkin merupakan antara molekul
paling toksik yang kita pernah lihat.

289
00:25:10,175 --> 00:25:12,761
Bulu roma
di belakang tengkuk saya meremang.

290
00:25:13,386 --> 00:25:14,554
Saya terkejut.

291
00:25:15,388 --> 00:25:18,892
Komputer ini menghasilkan
berpuluh-puluh ribu idea

292
00:25:18,975 --> 00:25:20,852
untuk senjata kimia baru.

293
00:25:21,603 --> 00:25:27,609
Sudah tentu kami ada molekul
seperti analog VX and VX dalam set data.

294
00:25:28,360 --> 00:25:31,363
VX ialah senjata kimia paling kuat
di dunia.

295
00:25:31,863 --> 00:25:33,573
Dakwaan baru daripada polis,

296
00:25:33,657 --> 00:25:37,786
wanita yang dilihat menyerang Kim Jong-Nam
dalam pembunuhan di lapangan terbang ini

297
00:25:37,869 --> 00:25:41,248
menggunakan agen saraf berbahaya
yang dipanggil VX.

298
00:25:41,748 --> 00:25:44,543
Ia boleh menyebabkan kematian
melalui sesak nafas.

299
00:25:45,043 --> 00:25:47,629
Ini molekul yang sangat kuat

300
00:25:47,712 --> 00:25:52,092
dan kebanyakan molekul-molekul ini
diramalkan lebih berbahaya daripada VX.

301
00:25:53,301 --> 00:25:56,972
Banyak antaranya, setahu kami,
masih belum pernah dilihat.

302
00:25:57,472 --> 00:26:02,727
Jadi, apabila saya dan Sean menyedarinya,
kami fikir, "Apa yang kita dah buat?"

303
00:26:04,771 --> 00:26:09,401
Saya sedar kami dah membuka peti Pandora

304
00:26:09,901 --> 00:26:13,280
dan saya kata, "Hentikannya.
Jangan buat apa-apa lagi. Cukup.

305
00:26:13,905 --> 00:26:17,409
Buatkan slaid yang saya perlukan
untuk penyampaian saja."

306
00:26:19,202 --> 00:26:20,704
Semasa kami buat eksperimen ini,

307
00:26:20,787 --> 00:26:24,040
saya fikir, "Apa perkara terburuk
yang boleh terjadi?"

308
00:26:26,167 --> 00:26:30,297
Namun, sekarang saya fikir, "Kita naif.
Kita naif semasa melakukannya."

309
00:26:33,425 --> 00:26:37,012
Apa yang menggerunkan saya
ialah sesiapa saja boleh melakukannya.

310
00:26:38,930 --> 00:26:40,765
Ia hanya perlu diterbalikkan.

311
00:26:42,892 --> 00:26:46,187
Bagaimana mengawal teknologi ini
sebelum ia berpotensi digunakan

312
00:26:46,271 --> 00:26:50,942
untuk melakukan sesuatu
yang sangat membinasakan?

313
00:26:55,780 --> 00:27:00,285
Perkara paling utama dalam perbincangan
mengenai kecerdasan buatan

314
00:27:00,368 --> 00:27:03,538
dan bagaimana kita menggunakannya
dalam masyarakat

315
00:27:04,289 --> 00:27:05,248
ialah perlumbaan

316
00:27:05,332 --> 00:27:08,835
antara kuasa yang kita gunakan
untuk menghasilkan teknologi

317
00:27:08,918 --> 00:27:11,379
dan kebijaksanaan untuk menguruskannya.

318
00:27:13,340 --> 00:27:16,885
Ada implikasi moral dan etika yang jelas

319
00:27:16,968 --> 00:27:20,221
apabila benda sama
yang menguasakan telefon bimbit kita

320
00:27:20,305 --> 00:27:23,850
diamanahkan dengan keputusan moral
untuk mengambil nyawa.

321
00:27:25,685 --> 00:27:28,146
Saya bekerjasama
dengan Institut Masa Depan Kehidupan,

322
00:27:28,229 --> 00:27:31,650
sebuah komuniti aktivis saintis.

323
00:27:31,733 --> 00:27:33,443
Kami cuba menunjukkan

324
00:27:33,526 --> 00:27:38,698
bahawa ada sisi lain apabila automasi
dipercepat dan dipertingkatkan.

325
00:27:38,782 --> 00:27:42,619
Kami cuba pastikan
teknologi yang kami cipta

326
00:27:42,702 --> 00:27:45,038
digunakan dengan selamat dan beretika.

327
00:27:46,247 --> 00:27:49,959
Mari berbincang
tentang peraturan penggunaan

328
00:27:50,043 --> 00:27:54,297
dan tatakelakuan penggunaan AI
dalam seluruh sistem senjata kita

329
00:27:54,798 --> 00:27:59,135
kerana kita kini melihat teknologi
"masuk ke medan perang"

330
00:27:59,219 --> 00:28:01,680
yang boleh membunuh secara autonomi.

331
00:28:10,188 --> 00:28:15,110
Pada tahun 2021, PBB mengeluarkan laporan
tentang kemungkinan penggunaan

332
00:28:15,193 --> 00:28:19,447
senjata berautonomi yang berbahaya
di medan perang di Libya.

333
00:28:20,031 --> 00:28:23,910
Panel PBB berkata sebuah dron berterbangan
di medan perang Libya tahun lepas

334
00:28:23,993 --> 00:28:27,330
telah diprogramkan untuk menyerang
sasaran secara autonomi.

335
00:28:27,414 --> 00:28:28,289
TANPA INPUT MANUSIA

336
00:28:28,373 --> 00:28:31,209
Jika laporan PBB tepat,

337
00:28:31,292 --> 00:28:34,963
ini detik penting yang mengubah
sejarah manusia

338
00:28:35,046 --> 00:28:37,132
kerana ia menandakan kes penggunaan

339
00:28:37,215 --> 00:28:42,137
bahawa AI yang membuat keputusan
untuk mengambil nyawa, bukan manusia.

340
00:28:49,644 --> 00:28:51,688
Kita melihat senjata autonomi canggih

341
00:28:51,771 --> 00:28:55,150
mula digunakan
di banyak tempat di seluruh dunia.

342
00:28:56,276 --> 00:28:58,278
Ada laporan dari Israel.

343
00:29:00,280 --> 00:29:05,702
Azerbaijan menggunakan sistem autonomi
untuk menyasarkan tentera udara Armenia.

344
00:29:07,370 --> 00:29:09,998
Ia boleh mengelilingi
medan perang berjam-jam lamanya,

345
00:29:10,081 --> 00:29:12,500
mencari sendiri sesuatu untuk ditembak,

346
00:29:12,584 --> 00:29:16,087
kemudian menyerangnya
tanpa campur tangan manusia.

347
00:29:16,796 --> 00:29:18,298
Baru-baru ini kita lihat

348
00:29:18,381 --> 00:29:21,760
beberapa video yang dihantar dari Ukraine.

349
00:29:23,303 --> 00:29:26,890
Kurang jelas mod apa yang digunakan
semasa ia beroperasi.

350
00:29:26,973 --> 00:29:30,393
Adakah manusia terlibat
dan memilih sasaran untuk diserang

351
00:29:30,477 --> 00:29:32,729
atau mesin yang melakukannya sendiri?

352
00:29:32,812 --> 00:29:36,524
Namun, pasti akan tiba masanya,

353
00:29:36,608 --> 00:29:40,195
sama ada ia dah berlaku di Libya,
Ukraine atau di tempat lain,

354
00:29:40,278 --> 00:29:44,449
bahawa mesin menentukan sendiri
sasaran untuk dibunuh di medan perang.

355
00:29:47,035 --> 00:29:50,997
Mesin menggunakan kuasa berbahaya
menentang manusia

356
00:29:51,080 --> 00:29:53,374
tanpa campur tangan manusia

357
00:29:53,458 --> 00:29:57,337
tidak boleh diterima dari segi politik
dan tidak bermoral.

358
00:29:59,088 --> 00:30:01,299
Sama ada komuniti antarabangsa

359
00:30:01,382 --> 00:30:05,011
cukup untuk menangani cabaran ini,

360
00:30:05,094 --> 00:30:06,888
itulah persoalan utamanya.

361
00:30:09,015 --> 00:30:12,685
Jika kita memandang ke masa depan,
walaupun beberapa tahun dari sekarang,

362
00:30:12,769 --> 00:30:16,064
panorama yang dapat dilihat
sangat menakutkan,

363
00:30:16,564 --> 00:30:20,485
memandangkan jumlah modal
dan sumber manusia

364
00:30:20,568 --> 00:30:23,404
yang digunakan untuk meningkatkan kuasa AI

365
00:30:23,488 --> 00:30:26,032
dan menggunakannya
dalam pelbagai aplikasi berbeza,

366
00:30:26,115 --> 00:30:26,950
sangat besar.

367
00:30:39,254 --> 00:30:41,214
Ya Tuhan, dia ini.

368
00:30:41,756 --> 00:30:43,675
Dia tahu dia tak boleh menang.

369
00:30:46,719 --> 00:30:51,099
Saya rasa terinspirasi apabila melihat AI
mengatasi pelbagai masalah.

370
00:30:51,182 --> 00:30:53,393
Saya akan buat tindakan berani mati.

371
00:30:54,394 --> 00:30:58,314
Kita boleh menggunakan taktik,
teknik dan prosedur yang sama

372
00:30:58,398 --> 00:31:00,108
kepada pesawat sebenar.

373
00:31:00,900 --> 00:31:02,318
Perlawanan yang hebat.

374
00:31:02,402 --> 00:31:03,653
Ya, hebat.

375
00:31:08,658 --> 00:31:09,909
Saya masih terkejut

376
00:31:09,993 --> 00:31:14,122
dengan pernyataan yang orang ramai
masih keluarkan tentang batasan AI.

377
00:31:14,205 --> 00:31:17,166
"Ia tak boleh mengalahkan
juara catur dunia."

378
00:31:20,211 --> 00:31:22,672
Sebuah komputer IBM telah kembali

379
00:31:22,755 --> 00:31:25,925
dalam Pusingan 2 menentang
juara catur dunia, Garry Kasparov.

380
00:31:28,136 --> 00:31:30,847
Kasparov mengalah!

381
00:31:31,598 --> 00:31:34,642
Apabila saya lihat
perkara yang saya tak faham,

382
00:31:34,726 --> 00:31:38,062
saya rasa takut.
Saya langsung tak faham benda itu.

383
00:31:39,355 --> 00:31:41,107
Kemudian orang akan kata,

384
00:31:41,190 --> 00:31:44,402
"Ia takkan mampu mengalahkan
juara Go dunia."

385
00:31:44,485 --> 00:31:50,700
Saya percaya gerak hati manusia
masih terlalu sukar untuk dikejar

386
00:31:50,783 --> 00:31:52,827
oleh AI.

387
00:31:55,330 --> 00:31:58,416
Go ialah salah satu permainan
paling rumit yang boleh dipelajari

388
00:31:58,499 --> 00:32:02,211
kerana apabila dikira,
jumlah pergerakan pada papan

389
00:32:02,295 --> 00:32:05,256
lebih banyak daripada atom
yang ada di seluruh alam semesta.

390
00:32:05,340 --> 00:32:06,716
PERLAWANAN CABARAN

391
00:32:06,799 --> 00:32:08,968
Ada pasukan di Google dipanggil DeepMind

392
00:32:09,052 --> 00:32:11,512
dan mereka mencipta
program bernama AlphaGo

393
00:32:11,596 --> 00:32:14,390
untuk mengalahkan pemain terbaik dunia.

394
00:32:16,559 --> 00:32:18,353
Tahniah kepada…

395
00:32:18,436 --> 00:32:19,437
- AlphaGo.
- AlphaGo.

396
00:32:19,520 --> 00:32:22,982
Program komputer baru mengalahkan
profesional gred 9 Dan.

397
00:32:25,610 --> 00:32:31,532
Kemudian DeepMind memilih StarCraft
sebagai cabaran AI mereka yang seterusnya.

398
00:32:33,743 --> 00:32:38,081
StarCraft mungkin permainan strategi
masa sebenar yang paling popular.

399
00:32:40,333 --> 00:32:44,712
AlphaStar menjadi terkenal
apabila ia mula mengalahkan juara dunia.

400
00:32:45,338 --> 00:32:48,800
AlphaStar memusnahkan Immortal Arc.

401
00:32:48,883 --> 00:32:52,553
Awak tahu tak? Pertarungan ini tak boleh
dimenangi oleh profesional.

402
00:32:53,680 --> 00:32:54,806
Ia agak mengarut.

403
00:32:54,889 --> 00:32:57,558
AI menjadi jaguh
dalam StarCraft II yang 'sangat rumit'

404
00:32:57,642 --> 00:33:00,895
Pemain profesional kata,
"Saya takkan cuba taktik itu.

405
00:33:00,979 --> 00:33:04,816
Saya takkan cuba strategi itu.
Itu bukan manusia."

406
00:33:07,151 --> 00:33:10,655
Itu saat yang menyedarkan saya.

407
00:33:13,574 --> 00:33:16,911
Saya sedar sekaranglah masanya.

408
00:33:17,412 --> 00:33:21,082
Ada teknologi penting
dan peluang untuk membuat perubahan.

409
00:33:24,502 --> 00:33:29,382
Saya cuma tahu masalah yang saya hadapi
dalam pertempuran jarak dekat ketenteraan,

410
00:33:30,383 --> 00:33:34,470
tapi salah seorang rakan saya,
seorang juruterbang F-18 beritahu saya,

411
00:33:34,554 --> 00:33:37,724
"Masalah kami juga sama
dalam komuniti jet pejuang.

412
00:33:37,807 --> 00:33:39,434
Mereka mengganggu komunikasi.

413
00:33:39,517 --> 00:33:42,562
Ada tapak peluru berpandu
dari permukaan ke udara

414
00:33:42,645 --> 00:33:44,439
yang membahayakan operasi."

415
00:33:47,483 --> 00:33:50,987
Bayangkan jika kita ada jet pejuang
yang dipandu oleh AI.

416
00:33:51,070 --> 00:33:56,159
Selamat datang ke ujian AlphaDogfight.
Pusingan separuh akhir akan bermula.

417
00:33:56,242 --> 00:33:59,871
DARPA, Agensi Projek Penyelidikan
Lanjutan Pertahanan,

418
00:33:59,954 --> 00:34:03,624
telah melihat AlphaGo dan AlphaStar,

419
00:34:04,292 --> 00:34:08,171
maka lahirlah idea
pertandingan AlphaDogfight ini.

420
00:34:08,963 --> 00:34:11,466
Ini yang kita mahu juruterbang
jet pejuang manusia buat.

421
00:34:11,549 --> 00:34:13,885
Macam pertempuran jet pejuang manusia.

422
00:34:15,595 --> 00:34:19,057
Dogfight ialah pertempuran
antara jet pejuang.

423
00:34:19,891 --> 00:34:23,269
Anggaplah ia seperti
pertandingan tinju di udara.

424
00:34:23,352 --> 00:34:26,314
Mungkin orang pernah menonton
filem Top Gun.

425
00:34:26,397 --> 00:34:27,815
Kita boleh atasi mereka?

426
00:34:28,649 --> 00:34:31,277
- Bukan misil dan senapang mereka.
- Jadi, ia dogfight.

427
00:34:35,531 --> 00:34:38,201
Memahiri pertempuran
jet pejuang mengambil masa

428
00:34:38,284 --> 00:34:39,827
lapan hingga sepuluh tahun.

429
00:34:42,288 --> 00:34:46,542
Membina AI yang mahir dogfight
ialah cabaran yang sangat rumit.

430
00:34:54,050 --> 00:34:59,138
Pendekatan terdahulu untuk autonomi
dan dogfight agak rapuh.

431
00:34:59,222 --> 00:35:03,017
Kami fikir pembelajaran mesin mungkin cara
untuk menyelesaikan masalah ini.

432
00:35:04,435 --> 00:35:08,147
Pada mulanya, AI tidak tahu apa-apa
tentang dunia yang dimasukinya.

433
00:35:08,231 --> 00:35:11,025
Ia tak tahu ia terbang
atau apa itu dogfighting.

434
00:35:11,109 --> 00:35:13,152
Ia tak tahu apa itu F-16.

435
00:35:13,236 --> 00:35:15,905
Ia cuma tahu tindakan yang boleh diambil

436
00:35:15,988 --> 00:35:18,407
dan ia meneroka pilihan itu secara rawak.

437
00:35:19,325 --> 00:35:23,204
Pesawat biru baru berlatih sekejap saja.

438
00:35:23,287 --> 00:35:25,915
Boleh lihat ia terhuyung-hayang

439
00:35:26,624 --> 00:35:30,711
secara tidak menentu dan menjauhi musuh.

440
00:35:31,587 --> 00:35:32,755
Semakin lama pertarungan,

441
00:35:32,839 --> 00:35:36,217
kita boleh lihat pesawat biru
mula membentuk rancangannya.

442
00:35:36,801 --> 00:35:38,678
Ia bersedia untuk menembak.

443
00:35:39,178 --> 00:35:43,891
Kadangkala, algoritma pembelajaran kata,
"Ambillah ganjaran. Terus buat begitu."

444
00:35:45,143 --> 00:35:49,063
Kami memanfaatkan kuasa komputer
dan banyak kali melatih ejen

445
00:35:49,147 --> 00:35:50,064
secara serentak.

446
00:35:51,357 --> 00:35:53,109
Seperti pasukan bola keranjang.

447
00:35:53,192 --> 00:35:55,778
Daripada berlawan dengan pasukan
yang sama berulang kali,

448
00:35:55,862 --> 00:35:59,615
kami mengembara dunia dan berlawan
dengan 512 pasukan berbeza

449
00:35:59,699 --> 00:36:00,950
pada masa yang sama.

450
00:36:01,492 --> 00:36:03,661
Boleh jadi mahir dengan sangat pantas.

451
00:36:04,162 --> 00:36:07,456
Kami dapat menjalankan
simulasi itu selama 24/7

452
00:36:07,540 --> 00:36:10,668
dan mengumpul pengalaman setaraf
latihan juruterbang selama 30 tahun

453
00:36:10,751 --> 00:36:11,919
dalam sepuluh bulan.

454
00:36:12,879 --> 00:36:17,717
Daripada pesawat yang tidak terkawal
menjadi pembunuh yang sangat cekap.

455
00:36:19,010 --> 00:36:23,514
Dalam latihan, kami hanya bertanding
dengan kecerdasan buatan yang lain.

456
00:36:24,473 --> 00:36:28,561
Namun, matlamat utama kami
adalah untuk bertanding dengan manusia.

457
00:36:34,192 --> 00:36:35,610
Nama saya Mike Benitez,

458
00:36:36,110 --> 00:36:38,654
saya Leftenan Kolonel
dalam Tentera Udara AS

459
00:36:39,155 --> 00:36:41,157
dan bertugas selama 25 tahun.

460
00:36:42,825 --> 00:36:45,077
Saya pernah lalui 250 misi pertempuran

461
00:36:45,578 --> 00:36:49,832
dan saya lepasan institut senjata
iaitu Top Gun versi angkatan udara.

462
00:36:52,627 --> 00:36:55,171
Saya tak pernah terbang menentang AI.

463
00:36:55,254 --> 00:36:58,925
Saya agak teruja
untuk melihat kemampuan saya.

464
00:36:59,634 --> 00:37:03,346
Kita berada dalam posisi menyerang
secara bersemuka pada 6,000 kaki.

465
00:37:04,388 --> 00:37:05,223
Ayuh.

466
00:37:13,314 --> 00:37:14,148
Dia dah hilang.

467
00:37:14,232 --> 00:37:16,651
Ya, itu sangat menarik.

468
00:37:20,780 --> 00:37:23,658
- Mati.
- Kena. Menang sempurna.

469
00:37:25,910 --> 00:37:27,453
Baiklah, pusingan kedua.

470
00:37:35,419 --> 00:37:40,883
Apa yang kecerdasan buatan itu buat
ialah ia berpusing dengan sangat tepat

471
00:37:41,384 --> 00:37:43,219
dan saya tak dapat mengejarnya.

472
00:37:48,474 --> 00:37:49,725
Tepat di pertembungan.

473
00:37:49,809 --> 00:37:52,103
Sekarang awak dah hilang.

474
00:37:53,145 --> 00:37:53,980
Kena!

475
00:37:54,063 --> 00:37:55,022
Masih terkena.

476
00:37:58,567 --> 00:38:00,069
AI tak pernah takut.

477
00:38:00,736 --> 00:38:03,781
AI tiada elemen emosi manusia
yang ada di kokpit.

478
00:38:04,991 --> 00:38:08,077
Antara strategi menarik
yang dihasilkan oleh AI kami

479
00:38:08,160 --> 00:38:10,121
dipanggil tembakan bersemuka.

480
00:38:10,621 --> 00:38:14,000
Biasanya manusia mahu menembak
dari belakang

481
00:38:14,083 --> 00:38:16,544
kerana sukar untuk mereka menjauhi musuh.

482
00:38:17,044 --> 00:38:20,381
Mereka tak cuba serangan bersemuka
kerana mereka takut.

483
00:38:21,424 --> 00:38:25,511
Apabila bertembung pada jarak
500 ke 3,000 kaki,

484
00:38:25,594 --> 00:38:27,471
ia boleh berlaku sekelip mata.

485
00:38:27,555 --> 00:38:31,183
Risiko perlanggaran tinggi,
jadi manusia tidak mencubanya.

486
00:38:32,852 --> 00:38:35,938
AI, melainkan diarahkan,
takkan takut mati.

487
00:38:37,857 --> 00:38:40,276
Rasa macam menentang manusia,

488
00:38:40,776 --> 00:38:44,113
tapi manusia yang langsung
tak pedulikan keselamatan.

489
00:38:45,448 --> 00:38:47,325
Dia takkan terselamat yang terakhir ini.

490
00:38:57,168 --> 00:38:58,419
Dia tak cukup masa.

491
00:39:01,964 --> 00:39:03,049
Selamat malam.

492
00:39:04,091 --> 00:39:04,925
Saya dah mati.

493
00:39:16,771 --> 00:39:21,400
Rasa rendah diri memikirkan
saya bukan yang terbaik untuk misi ini

494
00:39:21,484 --> 00:39:24,320
dan ia boleh gantikan saya
suatu hari nanti.

495
00:39:25,696 --> 00:39:26,906
Enam CAV yang sama.

496
00:39:27,615 --> 00:39:28,824
Ofset seribu.

497
00:39:29,450 --> 00:39:34,830
Dengan juruterbang AI membawa jet pejuang,
kemenangannya tanpa henti dan dominan.

498
00:39:34,914 --> 00:39:37,249
Bukan sekadar menang besar.

499
00:39:37,333 --> 00:39:41,545
Semua fikir, "Bagaimana nak memuatkannya
ke dalam jet pejuang kita?"

500
00:39:43,631 --> 00:39:47,802
Jangkaan bahawa AI
akan menerbangkan F-16 adalah realistik

501
00:39:47,885 --> 00:39:50,554
dan ia akan berlaku tak lama lagi.

502
00:39:51,305 --> 00:39:56,769
Jika kita menentang juruterbang AI
dengan catatan kemenangan hampir sempurna,

503
00:39:56,852 --> 00:39:58,062
kita tiada peluang.

504
00:39:59,563 --> 00:40:02,733
Apabila memikirkan satu juruterbang AI
yang tak boleh dikalahkan,

505
00:40:02,817 --> 00:40:07,196
saya fikirkan apa yang boleh dicapai
oleh pasukan sebanyak 50, 100

506
00:40:07,279 --> 00:40:12,535
atau 1,000 juruterbang AI.

507
00:40:13,702 --> 00:40:19,208
Kawanan ialah sekumpulan pesawat pintar
yang saling bekerjasama.

508
00:40:19,291 --> 00:40:23,587
Ia berkongsi maklumat
tentang tindakan dan penyelesaian masalah.

509
00:40:24,672 --> 00:40:30,469
Kawanan akan menjadi kebolehan penting
yang akan mengubah

510
00:40:30,553 --> 00:40:32,763
tentera kita dan sekutu kita.

511
00:41:42,750 --> 00:41:47,379
Sasaran telah diperoleh
dan dron menjejakinya.

512
00:42:01,977 --> 00:42:03,687
Baiklah, ia mula mendarat.

513
00:42:07,525 --> 00:42:10,402
Matlamat utama kajian kawanan
yang kami jalankan

514
00:42:11,111 --> 00:42:13,697
adalah untuk menggerakkan
sejumlah besar dron

515
00:42:13,781 --> 00:42:17,910
ke kawasan yang sukar
atau berbahaya untuk sampai.

516
00:42:21,622 --> 00:42:26,085
Makmal Penyelidikan Tentera menyokong
projek penyelidikan ini.

517
00:42:26,877 --> 00:42:28,963
Jika nak tahu ada apa di lokasi,

518
00:42:29,046 --> 00:42:33,175
tapi sukar untuk ke kawasan itu
atau ia sangat luas,

519
00:42:33,676 --> 00:42:35,886
kita boleh menghantar pasukan dron

520
00:42:35,970 --> 00:42:38,389
untuk melanjutkan jangkauan individu

521
00:42:38,472 --> 00:42:41,934
dan mengumpul
maklumat yang penting kepada misi.

522
00:42:46,689 --> 00:42:48,983
Dalam pasukan dron yang dikerah ini,

523
00:42:49,066 --> 00:42:54,405
kami hanya memberi satu arahan
iaitu menjejak sasaran.

524
00:42:54,488 --> 00:42:57,283
Kemudian dron akan fikirkan
caranya sendiri.

525
00:42:59,451 --> 00:43:04,081
Kecerdasan buatan membolehkan
robot-robot bergerak secara berkumpulan

526
00:43:04,164 --> 00:43:06,041
dalam keadaan terpencar.

527
00:43:10,588 --> 00:43:12,506
Dalam kawanan semula jadi,

528
00:43:13,299 --> 00:43:18,178
tiada bos atau haiwan utama
yang beritahu apa yang perlu dibuat.

529
00:43:21,056 --> 00:43:25,019
Tingkah laku itu timbul
daripada setiap haiwan

530
00:43:25,102 --> 00:43:27,563
dengan mengikut peraturan yang mudah.

531
00:43:27,646 --> 00:43:32,443
Perkara itu yang mewujudkan
tingkah laku kolektif yang kita lihat.

532
00:43:33,902 --> 00:43:37,031
Apa yang mengagumkan
tentang kawanan dalam alam

533
00:43:37,114 --> 00:43:39,992
ialah kebolehannya bergerak dengan elegan.

534
00:43:40,075 --> 00:43:44,288
Seolah-olah ia dibina untuk menjadi
sebahagian daripada kumpulan ini.

535
00:43:46,749 --> 00:43:51,378
Secara ideal, kami mahu lihat
kawanan dron kami lakukan perkara sama

536
00:43:51,462 --> 00:43:53,172
seperti kawanan semula jadi

537
00:43:53,672 --> 00:43:56,717
iaitu keputusan yang dibuat
secara berkumpulan.

538
00:43:59,845 --> 00:44:02,765
Satu lagi inspirasi bagi kami

539
00:44:02,848 --> 00:44:06,268
datang dari segi kebolehpercayaan
dan daya pemulihan.

540
00:44:07,311 --> 00:44:09,188
Kawanan tidak akan berhenti

541
00:44:09,271 --> 00:44:13,567
jika salah satu ahlinya
tidak menjalankan tugas.

542
00:44:15,152 --> 00:44:20,866
Walaupun satu ejen tewas, gagal
atau tidak dapat menyelesaikan tugas,

543
00:44:21,909 --> 00:44:23,827
kawanan akan meneruskannya.

544
00:44:25,204 --> 00:44:27,873
Pada akhirnya, itu yang kami mahu.

545
00:44:29,333 --> 00:44:33,879
Kami ada keperluan untuk mengenal pasti
pesawat musuh dalam senario perang,

546
00:44:33,962 --> 00:44:37,841
dan dulu setiap robot perlu dikawal
oleh seorang manusia.

547
00:44:38,592 --> 00:44:40,552
Autonomi semakin meningkat,

548
00:44:40,636 --> 00:44:43,555
jadi saya harap kita boleh lihat
sejumlah besar robot

549
00:44:43,639 --> 00:44:46,558
dikawal oleh sejumlah kecil manusia.

550
00:44:47,810 --> 00:44:51,271
Tiada sebab kita tak boleh mencapai
jumlah seribu robot

551
00:44:51,855 --> 00:44:54,942
kerana setiap ejen boleh bertindak sendiri

552
00:44:55,025 --> 00:44:57,027
dan boleh mencapai apa saja.

553
00:44:57,111 --> 00:44:59,071
Kita boleh ukur keupayaan…

554
00:44:59,154 --> 00:45:03,325
Sudah agak lama kami melatih
kawanan dalam simulasi,

555
00:45:03,409 --> 00:45:07,246
dan sudah tiba masa untuk mencubanya
pada pesawat sebenar.

556
00:45:07,329 --> 00:45:12,042
Kami jangkakan untuk buat
tiga robot serentak dalam rangkaian

557
00:45:12,126 --> 00:45:15,129
dan mula menambah banyak lagi keupayaan.

558
00:45:15,838 --> 00:45:18,549
Kami mahu menguji
pada sistem yang lebih kecil,

559
00:45:18,632 --> 00:45:21,051
tapi mengambil konsep yang sama
dan menggunakannya

560
00:45:21,135 --> 00:45:23,679
pada sistem yang lebih besar
seperti jet pejuang.

561
00:45:24,596 --> 00:45:26,014
Kami banyak berbincang

562
00:45:26,098 --> 00:45:31,937
tentang bagaimana memberi sebuah platun
kuasa tempur seperti sebuah batalion?

563
00:45:34,982 --> 00:45:39,528
Beri sebuah batalion
kuasa tempur sebuah briged?

564
00:45:39,611 --> 00:45:41,864
Ia boleh dilakukan dengan kawanan.

565
00:45:42,573 --> 00:45:45,200
Apabila kita merungkai kuasa kawanan,

566
00:45:45,284 --> 00:45:49,455
kita mencipta strategi perlindungan baru
daripada serangan ketenteraan.

567
00:45:52,291 --> 00:45:57,004
Saya rasa perkara paling mengujakan
ialah jumlah pemuda dan pemudi

568
00:45:57,087 --> 00:46:00,591
yang kita boleh selamatkan
jika ini berjaya dilakukan.

569
00:46:01,091 --> 00:46:03,594
Mesin yang akan terkorban,

570
00:46:04,470 --> 00:46:05,846
bukan nyawa manusia.

571
00:46:06,597 --> 00:46:10,893
Ada yang berpendapat senjata autonomi
akan membuatkan perang lebih tepat

572
00:46:10,976 --> 00:46:15,397
dan lebih berperikemanusiaan,
tapi sebenarnya sukar untuk meramal

573
00:46:15,481 --> 00:46:19,443
bagaimana senjata autonomi
mengubah perang sebelum ia berlaku.

574
00:46:21,320 --> 00:46:23,238
Macam penciptaan pistol Gatling.

575
00:46:23,322 --> 00:46:25,199
MESINGAN R.J. GATLING
DIPATEN, 9 MEI 1865

576
00:46:25,282 --> 00:46:27,117
Richard Gatling seorang pencipta

577
00:46:27,201 --> 00:46:30,954
dan dia melihat tentera pulang
dengan kecederaan daripada Perang Saudara.

578
00:46:32,289 --> 00:46:35,292
Dia mahu menjadikan perang
lebih berperikemanusiaan.

579
00:46:36,293 --> 00:46:39,838
Dia mahu mengurangkan jumlah tentera
yang terkorban dalam perang

580
00:46:40,422 --> 00:46:42,633
dengan mengurangkan tentera
di medan perang.

581
00:46:44,092 --> 00:46:46,053
Dia mencipta pistol Gatling,

582
00:46:46,136 --> 00:46:48,388
pistol automatik yang diputar
dengan engkol

583
00:46:48,472 --> 00:46:50,516
yang boleh mengautomatikkan
proses menembak.

584
00:46:53,268 --> 00:46:57,981
Ia melipatgandakan kuasa tembakan
yang boleh dihasilkan oleh tentera.

585
00:47:01,193 --> 00:47:05,239
Selalunya, usaha untuk membuat perang
lebih tepat dan berperikemanusiaan

586
00:47:06,490 --> 00:47:07,991
memberi kesan sebaliknya.

587
00:47:10,118 --> 00:47:14,540
Fikirkan kesan serangan dron yang salah
di kawasan luar bandar

588
00:47:14,623 --> 00:47:17,209
yang mendorong
penduduk tempatan menentang AS

589
00:47:17,292 --> 00:47:20,712
dan kerajaan tempatan,
iaitu pihak yang benar.

590
00:47:22,548 --> 00:47:25,342
Tingkatkannya seribu kali ganda.

591
00:47:26,802 --> 00:47:28,720
Penciptaan sistem senjata

592
00:47:28,804 --> 00:47:34,560
yang murah, boleh berkembang
dan tak memerlukan pengendali manusia,

593
00:47:34,643 --> 00:47:37,896
mengubah penghalang sebenar konflik
secara drastik.

594
00:47:40,065 --> 00:47:44,862
Saya resah apabila memikirkan
dunia yang sentiasa berperang

595
00:47:44,945 --> 00:47:48,657
dan kita tidak lagi menanggung
kos manusia dan kewangan berikutan perang

596
00:47:48,740 --> 00:47:51,410
kerana kita sudah tidak terlibat

597
00:47:52,327 --> 00:47:54,288
dengan nyawa yang akan terkorban.

598
00:47:59,501 --> 00:48:01,378
Semua ini menghantui saya.

599
00:48:02,170 --> 00:48:06,300
Saya cuma perlukan contoh
penyalahgunaan kecerdasan buatan.

600
00:48:06,800 --> 00:48:10,888
Keputusan yang tak dijangka
daripada melakukan eksperimen mudah itu

601
00:48:10,971 --> 00:48:13,265
keterlaluan.

602
00:48:13,348 --> 00:48:16,226
AI dalam penemuan ubat:
Elak memburukkan keadaan

603
00:48:17,352 --> 00:48:18,729
Semasa saya buat penyampaian

604
00:48:18,812 --> 00:48:22,524
tentang molekul toksik
yang dicipta oleh teknologi AI,

605
00:48:22,608 --> 00:48:24,526
para hadirin terkejut besar.

606
00:48:25,402 --> 00:48:27,613
5,000 SEBATIAN PERTAMA
IALAH ANALOG VX YANG DIKETAHUI

607
00:48:29,406 --> 00:48:33,660
Keputusan seterusnya adalah sama ada
kami patut menerbitkan maklumat ini.

608
00:48:34,870 --> 00:48:39,166
Kami mahu memberi amaran kepada dunia
tentang kebolehan begini,

609
00:48:39,249 --> 00:48:44,671
tapi kami juga tak mahu menginspirasi
orang yang tak pernah memikirkannya.

610
00:48:46,381 --> 00:48:48,133
Kami memutuskan ia wajar diterbitkan

611
00:48:48,216 --> 00:48:52,679
untuk mencari cara untuk mengurangkan
penyalahgunaan AI jenis ini

612
00:48:52,763 --> 00:48:54,139
sebelum ia berlaku.

613
00:48:54,222 --> 00:48:56,975
Dwifungsi penemuan ubat menggunakan AI

614
00:48:57,559 --> 00:49:00,437
Bagaimana teknologi kecerdasan buatan (AI)
untuk penemuan ubat boleh disalah guna

615
00:49:00,520 --> 00:49:02,189
untuk mencipta senjata biokimia

616
00:49:02,272 --> 00:49:04,775
Reaksi orang awam mengejutkan.

617
00:49:07,152 --> 00:49:10,656
Kami boleh lihat
metrik jumlah pembaca halaman.

618
00:49:10,739 --> 00:49:14,451
Jenis-jenis artikel yang kami tulis,
kami bertuah kalau dapat

619
00:49:14,534 --> 00:49:19,831
beberapa ribu orang melihat artikel kami
dalam tempoh setahun atau beberapa tahun.

620
00:49:19,915 --> 00:49:22,084
Seramai 10,000 orang membacanya
dalam seminggu.

621
00:49:22,167 --> 00:49:25,754
Kemudian ia mencecah 20,000,
30,000 dan 40,000,

622
00:49:25,837 --> 00:49:28,715
sehinggalah mencecah 10,000 orang sehari.

623
00:49:30,258 --> 00:49:33,512
Kami muncul dalam The Economist,
The Financial Times.

624
00:49:35,639 --> 00:49:38,058
Radiolab menghubungi kami.

625
00:49:38,809 --> 00:49:39,977
Saya tahu Radiolab!

626
00:49:41,937 --> 00:49:45,899
Namun, reaksi menjadi tidak terkawal.

627
00:49:48,819 --> 00:49:49,695
MENAKUTKAN

628
00:49:49,778 --> 00:49:53,532
Apabila melihat mesej, kami fikir,
"Bolehkah mereka buat lebih teruk?"

629
00:49:54,324 --> 00:49:55,993
Kenapa mereka buat begini?

630
00:49:57,911 --> 00:50:01,081
NERDA-NERDA INI AKAN BUNUH KITA SEMUA

631
00:50:01,164 --> 00:50:04,501
Kemudian kami terima jemputan.
Saya langsung tak jangkakannya.

632
00:50:08,797 --> 00:50:12,926
Ada banyak perbincangan
di Rumah Putih tentang artikel itu

633
00:50:13,010 --> 00:50:15,679
dan mereka mahu berjumpa kami
dengan segera.

634
00:50:18,849 --> 00:50:23,103
Sudah tentu kami berbesar hati
dapat berbual dengan orang atasan.

635
00:50:24,104 --> 00:50:28,900
Namun, kemudian baru kami sedar,
"Ini Rumah Putih. Ini bos."

636
00:50:29,693 --> 00:50:33,196
Ini melibatkan pengumpulan
set data daripada sumber terbuka…

637
00:50:33,280 --> 00:50:37,701
Dalam enam jam, model ini dapat
menghasilkan kira-kira lebih 40,000…

638
00:50:37,784 --> 00:50:41,038
Mereka tanya tentang kuasa komputer
yang diperlukan,

639
00:50:41,872 --> 00:50:43,832
dan kami kata biasa saja.

640
00:50:44,332 --> 00:50:48,211
Cuma komputer Mac biasa
yang berusia enam tahun.

641
00:50:49,546 --> 00:50:51,256
Mereka terkejut besar.

642
00:50:55,010 --> 00:50:59,473
Orang-orang yang bertanggungjawab
memahami agen perang kimia

643
00:50:59,556 --> 00:51:04,019
dan agensi kerajaan, mereka tak tahu
langsung tentang potensi ini.

644
00:51:06,605 --> 00:51:09,816
Kita ada buku resipi
untuk membuat senjata kimia

645
00:51:10,650 --> 00:51:15,572
dan dalam tangan pelaku
yang berniat jahat,

646
00:51:16,573 --> 00:51:19,451
akibatnya mungkin menggerunkan.

647
00:51:21,703 --> 00:51:23,205
Orang ramai perlu sedar

648
00:51:23,288 --> 00:51:26,458
dan kita perlu mengambil langkah
untuk melaraskan teknologi

649
00:51:27,250 --> 00:51:30,670
atau membendungnya
supaya ia tidak disalah guna

650
00:51:31,880 --> 00:51:35,175
kerana potensi membunuhnya

651
00:51:36,176 --> 00:51:37,344
amat menakutkan.

652
00:51:40,597 --> 00:51:46,478
Persoalan etika AI dikemukakan
oleh masyarakat,

653
00:51:46,561 --> 00:51:50,273
bukan jurutera, ahli teknologi
atau ahli matematik.

654
00:51:52,442 --> 00:51:56,822
Setiap teknologi yang kami perkenalkan,
setiap inovasi terulung,

655
00:51:56,905 --> 00:52:00,617
akhirnya cara ia digunakan
akan ditentukan oleh masyarakat.

656
00:52:03,120 --> 00:52:06,498
Sekarang, Jabatan Pertahanan mengatakan,

657
00:52:06,581 --> 00:52:09,960
"Satu-satunya benda yang kata
kami akan membunuh

658
00:52:10,043 --> 00:52:11,920
di medan perang ialah manusia. "

659
00:52:12,504 --> 00:52:14,548
Mesin boleh jalankan pembunuhan,

660
00:52:15,173 --> 00:52:18,927
tapi hanya atas perintah
pengendali manusia

661
00:52:19,636 --> 00:52:21,429
dan itu takkan berubah.

662
00:52:24,766 --> 00:52:28,061
Mereka yakinkan kita
teknologi begini akan selamat.

663
00:52:29,729 --> 00:52:33,692
Namun, tentera AS tidak mempunyai
reputasi yang boleh dipercayai

664
00:52:33,775 --> 00:52:35,485
dalam perang dron.

665
00:52:36,820 --> 00:52:41,783
Jadi, bercakap tentang mempercayai
tentera AS dalam penggunaan AI,

666
00:52:41,867 --> 00:52:44,911
saya rasa kita boleh
lihat sendiri rekodnya.

667
00:52:46,288 --> 00:52:50,125
Dasar Jabatan Pertahanan Amerika
tentang penggunaan senjata berautonomi

668
00:52:50,208 --> 00:52:52,919
tidak mengharamkan
sebarang sistem senjata.

669
00:52:53,003 --> 00:52:56,715
Walaupun pihak tentera tidak mahu
senjata berautonomi,

670
00:52:56,798 --> 00:53:01,678
kami boleh jangkakan mereka menyerahkan
lebih banyak keputusan kepada mesin

671
00:53:01,761 --> 00:53:03,680
untuk mengejar pesaing.

672
00:53:04,764 --> 00:53:08,351
Itu boleh mendorong pihak tentera
mengautomatikkan keputusan

673
00:53:08,435 --> 00:53:09,978
yang mereka mungkin tak mahu.

674
00:53:12,022 --> 00:53:13,440
Vladimir Putin berkata,

675
00:53:13,523 --> 00:53:17,194
"Orang yang mendahului AI
akan menguasai dunia."

676
00:53:17,736 --> 00:53:23,325
Presiden Xi telah menjelaskan bahawa AI
adalah antara teknologi nombor satu

677
00:53:23,408 --> 00:53:25,702
yang China mahu kuasai.

678
00:53:26,786 --> 00:53:29,831
Kita sedang bersaing dari segi teknologi.

679
00:53:33,460 --> 00:53:35,670
Orang ramai bercakap tentang sekatan

680
00:53:36,463 --> 00:53:39,424
dan saya percaya
itu yang mereka patut lakukan.

681
00:53:40,467 --> 00:53:45,180
Namun, perlumbaan untuk mendahului
dalam AI memang wujud.

682
00:53:47,265 --> 00:53:51,603
Musuh-musuh kita, sama ada China,
Rusia atau Iran,

683
00:53:51,686 --> 00:53:56,566
tidak akan peduli
tentang dasar kita mengenai AI.

684
00:54:00,779 --> 00:54:04,699
Kita melihat semakin banyak perbincangan
mengenai dasar AI,

685
00:54:06,117 --> 00:54:09,329
tapi saya harap lebih ramai pemimpin
akan membincangkan,

686
00:54:09,412 --> 00:54:11,790
"Berapa pantas
kita boleh membangunkannya?

687
00:54:12,707 --> 00:54:15,168
Mari dapatkan dana dan bangunkannya."

688
00:54:18,922 --> 00:54:21,299
MESYUARAT & EKSPOSISI TAHUNAN AUSA

689
00:54:24,177 --> 00:54:26,805
TENTERA AMERIKA SYARIKAT

690
00:54:33,478 --> 00:54:38,358
Kita berada di pameran perdagangan
tentera AS yang terbesar tahun ini.

691
00:54:39,526 --> 00:54:44,572
Mana-mana vendor yang menjual produk
atau teknologi kepada tentera

692
00:54:44,656 --> 00:54:46,616
akan membuat pameran.

693
00:54:47,701 --> 00:54:50,537
Pangkalan Tentera Udara Tyndall ada
empat buah robot kami

694
00:54:50,620 --> 00:54:54,082
yang meronda pangkalan 24 jam sehari,
tujuh hari seminggu.

695
00:54:55,709 --> 00:55:00,130
Kami boleh tambah kamera, pengesan
atau apa saja yang pembeli perlukan.

696
00:55:00,213 --> 00:55:05,135
Tangan pengendali. Sekali lagi, ini hanya
untuk melengkapkan misi pelanggan.

697
00:55:06,678 --> 00:55:08,596
Bagaimana jika musuh menggunakan AI?

698
00:55:09,431 --> 00:55:12,976
Sistem pertempuran yang berfikir
dan bereaksi lebih pantas

699
00:55:13,059 --> 00:55:16,062
daripada manusia? Kita perlu bersedia.

700
00:55:17,564 --> 00:55:21,860
Kami melatih sistem kami
untuk mengumpul maklumat tentang musuh,

701
00:55:21,943 --> 00:55:26,531
menguruskan sasaran musuh
dengan manusia menyelia arahan membunuh.

702
00:55:33,288 --> 00:55:34,956
- Hai, Jeneral.
- Apa khabar?

703
00:55:35,040 --> 00:55:36,458
Baik, tuan. Apa khabar?

704
00:55:37,667 --> 00:55:40,962
Tiada siapa membangunkan
juruterbang AI melebihi kami.

705
00:55:41,046 --> 00:55:42,630
Sistem kami dipanggil Hivemind,

706
00:55:43,298 --> 00:55:45,842
jadi kami memuatkannya
ke dalam quadcopter Nova.

707
00:55:45,925 --> 00:55:49,387
Ia masuk ke dalam bangunan,
meneroka sebelum pasukan keselamatan khas

708
00:55:49,471 --> 00:55:50,805
dan pasukan infantri.

709
00:55:50,889 --> 00:55:52,891
Kami aplikasikan Hivemind pada V-BAT,

710
00:55:52,974 --> 00:55:56,811
jadi saya fikir kita boleh gerakkan
ratusan pasukan itu.

711
00:55:56,895 --> 00:55:58,646
Sama ada di Selat Taiwan,

712
00:55:58,730 --> 00:56:01,608
atau di Ukraine
untuk menyekat musuh-musuh kita.

713
00:56:01,691 --> 00:56:03,360
Ia agak mengujakan.

714
00:56:03,443 --> 00:56:06,321
- Baiklah. Terima kasih.
- Terima kasih, Jeneral.

715
00:56:07,989 --> 00:56:13,453
Juruterbang AI patut berada di mana-mana
dan itu akan berlaku menjelang 2025, 2030.

716
00:56:14,162 --> 00:56:17,957
Ia akan diguna pakai dengan pantas
oleh ketenteraan seluruh dunia.

717
00:56:19,209 --> 00:56:22,962
Bagaimana kita nak tangani
tentera Romania, bahagian UAS mereka?

718
00:56:23,046 --> 00:56:24,714
Teknologi tinggi dalam tentera.

719
00:56:25,256 --> 00:56:29,803
Kami dah belanjakan setengah bilion dolar
untuk membina juruterbang AI.

720
00:56:29,886 --> 00:56:33,181
Kami akan belanjakan satu bilion lagi
sepanjang lima tahun akan datang.

721
00:56:33,264 --> 00:56:37,769
Itu sebab utama kami memenangi
rekod program di AS.

722
00:56:37,852 --> 00:56:38,853
Bagus.

723
00:56:38,937 --> 00:56:42,982
Maksud saya, ia mengagumkan.
Awak berjaya menjadikannya senjata?

724
00:56:43,650 --> 00:56:45,944
Ia belum lagi dijadikan senjata.

725
00:56:46,027 --> 00:56:48,905
Belum lagi, tapi ya, pada masa hadapan.

726
00:56:48,988 --> 00:56:52,534
Pelanggan kami anggap ia seperti trak.
Kami anggap ia seperti trak pintar

727
00:56:52,617 --> 00:56:54,452
yang boleh buat banyak perkara.

728
00:56:54,536 --> 00:56:55,703
- Terima kasih.
- Ya.

729
00:56:55,787 --> 00:56:57,956
Saya akan menghubungi awak semula.

730
00:57:01,626 --> 00:57:04,129
Jika kita kembali sepuluh tahun lagi,

731
00:57:04,212 --> 00:57:10,802
kita akan lihat AI dan autonomi
telah mendominasi seluruh pasaran.

732
00:57:14,889 --> 00:57:19,352
Pasukan yang disokong oleh AI dan autonomi

733
00:57:19,436 --> 00:57:25,108
akan mendominasi, menewaskan
dan menghancurkan pasukan tanpanya.

734
00:57:26,359 --> 00:57:30,780
Ia umpama kuda menentang kereta kebal,

735
00:57:31,781 --> 00:57:34,409
orang berpedang menentang mesingan.

736
00:57:34,909 --> 00:57:37,537
Pertempuran yang tak setanding.

737
00:57:38,746 --> 00:57:42,750
Ia akan ada di mana-mana,
digunakan dalam setiap segi perang,

738
00:57:43,585 --> 00:57:44,836
tahap taktikal,

739
00:57:45,336 --> 00:57:46,546
tahap strategik,

740
00:57:47,172 --> 00:57:50,800
beroperasi pada kelajuan
yang manusia tak faham hari ini.

741
00:57:53,094 --> 00:57:57,432
Komander menerima terlalu banyak maklumat.

742
00:57:57,515 --> 00:58:01,019
Imej daripada satelit, dron dan sensor.

743
00:58:02,103 --> 00:58:06,774
AI boleh membantu komander memahami
apa yang berlaku dengan lebih pantas.

744
00:58:07,692 --> 00:58:09,944
Kemudian, keputusan yang perlu dibuat.

745
00:58:11,196 --> 00:58:14,866
Kecerdasan buatan akan mempertimbangkan
semua faktor

746
00:58:14,949 --> 00:58:17,702
yang menentukan cara peperangan,

747
00:58:17,785 --> 00:58:20,246
menghasilkan strategi…

748
00:58:22,540 --> 00:58:25,668
dan memberikan cadangan
untuk memenangi pertempuran.

749
00:58:32,217 --> 00:58:34,344
PUSAT INOVASI LOCKHEED MARTIN

750
00:58:36,930 --> 00:58:40,266
Di Lockheed Martin, sama seperti
pelanggan Jabatan Pertahanan kami,

751
00:58:40,350 --> 00:58:43,770
kami melihat kecerdasan buatan
sebagai penggerak teknologi utama

752
00:58:43,853 --> 00:58:45,104
untuk arahan dan kawalan.

753
00:58:47,065 --> 00:58:50,109
Kadar penyebaran mempunyai purata
dua kaki per saat.

754
00:58:50,193 --> 00:58:52,695
Perimeter ini kira-kira
2.83 kilometer persegi.

755
00:58:52,779 --> 00:58:55,782
Kekaburan peperangan ialah realiti
bagi kami di pihak pertahanan,

756
00:58:57,158 --> 00:59:00,495
tapi ia ada persamaan
dengan berada di persekitaran

757
00:59:00,578 --> 00:59:03,206
dan membuat keputusan penting
untuk kebakaran liar.

758
00:59:03,289 --> 00:59:06,501
Kebakaran Washburn berada
di utara bandar Wawona.

759
00:59:06,584 --> 00:59:09,796
Kita perlu buat keputusan
dengan data yang tak sempurna.

760
00:59:10,630 --> 00:59:14,300
Jadi, bagaimana AI boleh membantu
menjelaskan kekaburan perang?

761
00:59:17,637 --> 00:59:19,597
Kebakaran liar sangat huru-hara.

762
00:59:20,181 --> 00:59:26,312
Ia sangat kompleks, jadi kami berusaha
untuk menggunakan kecerdasan buatan

763
00:59:26,396 --> 00:59:28,273
bagi membantu membuat keputusan.

764
00:59:31,442 --> 00:59:33,987
Pengurus Mini Kognitif
ialah program binaan kami

765
00:59:34,070 --> 00:59:37,949
yang mengambil video inframerah udara

766
00:59:38,032 --> 00:59:41,786
dan memprosesnya
melalui algoritma AI kami

767
00:59:41,869 --> 00:59:45,248
untuk meramal
keadaan kebakaran masa depan.

768
00:59:48,042 --> 00:59:49,794
Pada masa hadapan,

769
00:59:49,877 --> 00:59:52,922
Pengurus Misi Kognitif
akan menggunakan simulasi,

770
00:59:53,006 --> 00:59:57,093
menjalankan senario
pada beribu-ribu kitaran

771
00:59:57,176 --> 01:00:00,722
untuk mencadangkan cara paling berkesan
untuk menggunakan sumber

772
01:00:00,805 --> 01:00:04,350
bagi menyekat kawasan kebakaran utama.

773
01:00:08,062 --> 01:00:12,817
Ia akan kata, "Pergi hapuskan kebakaran
melalui udara dengan Firehawk di sini.

774
01:00:13,526 --> 01:00:16,487
Kumpulkan kru darat
yang membersihkan belukar,

775
01:00:16,988 --> 01:00:19,157
ahli bomba yang memadamkan kebakaran

776
01:00:19,657 --> 01:00:23,077
dan bawa mereka
ke kawasan kebakaran utama.

777
01:00:26,247 --> 01:00:29,292
Keputusan itu dapat dikeluarkan
dengan lebih pantas

778
01:00:29,375 --> 01:00:31,044
dan lebih cekap.

779
01:00:35,798 --> 01:00:38,468
Kami menganggap AI membolehkan manusia

780
01:00:38,551 --> 01:00:42,305
untuk menyesuaikan diri
dengan persekitaran yang sentiasa berubah.

781
01:00:43,389 --> 01:00:46,517
Ada banyak persamaan

782
01:00:46,601 --> 01:00:50,355
antara tugas kami di Lockheed Martin
dengan bahagian pertahanan.

783
01:00:52,190 --> 01:00:55,860
Pihak tentera tidak lagi bercakap
tentang menggunakan AI

784
01:00:55,943 --> 01:01:00,782
dan sistem senjata individu untuk membuat
keputusan menyasarkan dan membunuh,

785
01:01:00,865 --> 01:01:02,200
tapi menyatukan AI

786
01:01:02,283 --> 01:01:05,787
ke dalam infrastruktur membuat keputusan
dalam ketenteraan.

787
01:01:08,873 --> 01:01:13,378
Pihak tentera mempunyai projek besar
yang dipanggil Projek Penumpuan.

788
01:01:14,545 --> 01:01:16,589
Angkatan Laut ada Overmatch.

789
01:01:16,673 --> 01:01:19,592
Angkatan Udara ada
Sistem Pengurusan Pertempuran Lanjutan.

790
01:01:21,928 --> 01:01:24,138
Kementerian Pertahanan mencari jalan,

791
01:01:24,222 --> 01:01:26,683
"Bagaimana nak menyatukan semua ini

792
01:01:26,766 --> 01:01:29,268
supaya operasi kita lebih pantas
daripada musuh

793
01:01:30,395 --> 01:01:32,855
dan mendapat kelebihan?"

794
01:01:33,481 --> 01:01:37,527
Pengurus Pertempuran AI
ialah jeneral berpangkat tinggi

795
01:01:37,610 --> 01:01:39,821
yang mengetuai pertempuran.

796
01:01:41,155 --> 01:01:44,158
Ia membantu memberi arahan
kepada pasukan yang besar,

797
01:01:45,118 --> 01:01:49,247
menyelaraskan tindakan
semua senjata di luar sana

798
01:01:49,330 --> 01:01:52,542
dan melakukannya
pada kelajuan yang mengatasi manusia.

799
01:01:53,543 --> 01:01:55,294
Kita habiskan 70 tahun

800
01:01:55,378 --> 01:01:58,798
membina tentera paling canggih
di planet ini

801
01:01:58,881 --> 01:02:03,177
dan sekarang kita berdepan keputusan
sama ada untuk serahkan kawalan

802
01:02:03,261 --> 01:02:07,598
ke atas infrastruktur itu
kepada algoritma dan perisian.

803
01:02:10,351 --> 01:02:13,187
Akibat daripada keputusan itu

804
01:02:13,271 --> 01:02:16,774
boleh mengaktifkan seluruh senjata kita.

805
01:02:16,858 --> 01:02:19,902
Itu bukan satu Hiroshima, tapi ratusan.

806
01:02:25,616 --> 01:02:27,869
Inilah masa untuk kita bertindak

807
01:02:27,952 --> 01:02:33,166
kerana ruang untuk membendung risiko ini
semakin meruncing.

808
01:02:35,126 --> 01:02:39,338
Petang ini, kita mulakan
dengan cabaran keselamatan antarabangsa

809
01:02:39,422 --> 01:02:41,132
disebabkan oleh teknologi baru

810
01:02:41,215 --> 01:02:44,343
dalam sistem senjata autonomi
yang berbahaya.

811
01:02:44,427 --> 01:02:47,722
Perbincangan berlaku
dalam Persatuan Bangsa-Bangsa Bersatu

812
01:02:47,805 --> 01:02:50,016
tentang ancaman senjata autonomi berbahaya

813
01:02:50,099 --> 01:02:54,145
dan larangan terhadap sistem
yang menggunakan AI

814
01:02:54,228 --> 01:02:56,564
untuk memilih dan menyasar orang.

815
01:02:56,647 --> 01:03:00,777
Konsensus dalam kalangan
ahli teknologi sangat jelas.

816
01:03:00,860 --> 01:03:04,614
Kami menentang senjata autonomi
yang menyasarkan manusia.

817
01:03:05,573 --> 01:03:08,993
Bertahun lamanya negara-negara
membantu membincangkan

818
01:03:09,076 --> 01:03:11,329
isu sistem senjata autonomi
yang berbahaya ini.

819
01:03:12,288 --> 01:03:16,793
Ini tentang keselamatan sejagat.

820
01:03:17,752 --> 01:03:20,630
Namun, sudah tentu ia tidak mudah.

821
01:03:21,255 --> 01:03:25,968
Beberapa negara tertentu,
terutamanya angkatan tentera,

822
01:03:26,052 --> 01:03:27,762
mereka mahu mendahului,

823
01:03:28,429 --> 01:03:31,599
supaya mereka dapat mengatasi
musuh-musuh mereka.

824
01:03:32,600 --> 01:03:36,187
Masalahnya, semua orang perlu bersetuju
untuk menjayakannya.

825
01:03:36,896 --> 01:03:39,065
Akan ada satu negara yang membantah

826
01:03:39,148 --> 01:03:42,109
dan Amerika Syarikat
serta Rusia sudah menjelaskan

827
01:03:42,193 --> 01:03:45,988
mereka menolak perjanjian
yang mengharamkan senjata autonomi.

828
01:03:47,156 --> 01:03:53,704
Apabila kita fikirkan bilangan orang
yang bekerja menjadikan AI lebih berkuasa,

829
01:03:54,747 --> 01:03:56,457
bilangannya sangat ramai.

830
01:03:57,750 --> 01:04:02,880
Apabila kita fikirkan bilangan orang
yang memastikan AI selamat,

831
01:04:04,340 --> 01:04:07,760
bilangannya jauh lebih rendah.

832
01:04:11,764 --> 01:04:13,724
Namun, saya juga amat optimistik.

833
01:04:16,060 --> 01:04:19,438
Saya melihat sesuatu
seperti Konvensyen Senjata Biologi

834
01:04:19,522 --> 01:04:22,358
yang diadakan sewaktu Perang Dingin,

835
01:04:23,025 --> 01:04:27,655
walaupun keadaan tegang
antara Soviet Union dan Amerika Syarikat.

836
01:04:29,156 --> 01:04:33,536
Mereka sedar bahawa
pembangunan senjata biologi

837
01:04:33,619 --> 01:04:36,247
tidak memanfaatkan mereka berdua,

838
01:04:36,330 --> 01:04:38,749
dan tidak memanfaatkan dunia.

839
01:04:41,335 --> 01:04:45,172
Pembangunan senjata mementingkan kelajuan
berbanding keselamatan.

840
01:04:45,715 --> 01:04:48,342
Namun, saya rasa wajar dipertimbangkan

841
01:04:48,426 --> 01:04:52,430
bahawa suatu hari nanti,
kos kelajuan ini menjadi terlalu tinggi.

842
01:04:56,183 --> 01:04:59,270
Kita tak boleh membangunkan
teknologi begitu saja

843
01:05:00,021 --> 01:05:06,611
dan memperkenalkannya tanpa berfikir
apa yang boleh berlaku pada masa hadapan.

844
01:05:07,862 --> 01:05:11,115
Kita perlu menghalang
detik kemusnahan itu.

845
01:05:14,577 --> 01:05:17,788
Banyak yang dipertaruhkan
dalam perlumbaan AI.

846
01:05:18,289 --> 01:05:22,001
Saya rasa tak ramai orang menghargai
kestabilan antarabangsa

847
01:05:22,084 --> 01:05:28,174
yang diberikan oleh kuasa ketenteraan
yang tiada tandingannya

848
01:05:28,257 --> 01:05:31,135
selama 75 tahun kebelakangan ini.

849
01:05:32,887 --> 01:05:35,681
Amerika Syarikat dan sekutu-sekutu kita,

850
01:05:36,557 --> 01:05:38,684
mereka perlu mengatasi AI musuh.

851
01:05:43,314 --> 01:05:44,774
Tiada tempat kedua dalam perang.

852
01:05:45,441 --> 01:05:47,610
China menggariskan rancangan
bercita-cita tinggi

853
01:05:47,693 --> 01:05:49,570
untuk menjadi pemimpin AI menjelang 2030.

854
01:05:49,654 --> 01:05:52,239
Orang kata Amerika ketinggalan
dalam perlumbaan ini…

855
01:05:52,740 --> 01:05:56,160
Kamu akan mempercepatkan
penyerapan kecerdasan buatan

856
01:05:56,243 --> 01:05:59,246
untuk memastikan
kelebihan ketenteraan kita.

857
01:06:02,375 --> 01:06:05,461
Kita mara ke hadapan dengan teknologi ini.

858
01:06:05,544 --> 01:06:09,006
Apa yang tidak jelas
adalah sejauh mana kita nak pergi?

859
01:06:09,507 --> 01:06:12,760
Kita yang mengawal teknologi
atau ia yang mengawal kita?

860
01:06:13,636 --> 01:06:16,973
Tiada peluang untuk memperbetulkannya.

861
01:06:17,807 --> 01:06:20,977
Sebaik saja ia dilepaskan,
ia tidak boleh dibendung.

862
01:06:22,019 --> 01:06:25,564
Ia sangat sukar untuk dihentikan.

863
01:06:28,609 --> 01:06:32,154
Jika kita tidak bertindak sekarang,
ia akan terlambat.

864
01:06:33,114 --> 01:06:34,657
Mungkin sudah terlambat.

865
01:08:48,124 --> 01:08:51,544
Terjemahan sari kata oleh Aisyah S