1
00:00:02,000 --> 00:00:07,000
Downloaded from
YTS.MX

2
00:00:08,000 --> 00:00:13,000
Official YIFY movies site:
YTS.MX

3
00:00:24,107 --> 00:00:27,360
La inteligencia artificial
me parece inspiradora.

4
00:00:28,403 --> 00:00:31,531
De acuerdo, agrupándose. Buena formación.

5
00:00:33,158 --> 00:00:36,745
La IA tiene
el potencial de eliminar la pobreza,

6
00:00:36,828 --> 00:00:38,747
darnos nuevas medicinas

7
00:00:39,372 --> 00:00:41,624
y hacer el mundo más pacífico.

8
00:00:45,628 --> 00:00:46,963
Buen trabajo.

9
00:00:49,924 --> 00:00:53,470
Pero hay muchos riesgos
en el camino.

10
00:01:05,023 --> 00:01:07,609
Con la IA, esencialmente, estamos creando

11
00:01:07,692 --> 00:01:09,652
una inteligencia no humana

12
00:01:09,736 --> 00:01:11,905
que es muy impredecible.

13
00:01:14,449 --> 00:01:16,493
Mientras más poderosa sea,

14
00:01:16,576 --> 00:01:19,788
¿cuáles son los límites
que le estamos trazando a la IA

15
00:01:19,871 --> 00:01:22,707
en términos
de cómo queremos usarla o no usarla?

16
00:01:25,043 --> 00:01:28,546
No existe un mejor punto de partida
para esta conversación

17
00:01:28,630 --> 00:01:31,091
que el de las aplicaciones militares.

18
00:01:34,052 --> 00:01:36,429
El campo de batalla se ha convertido

19
00:01:36,513 --> 00:01:38,932
en una provincia de hardware y software.

20
00:01:41,017 --> 00:01:42,977
El objetivo ha sido alcanzado.

21
00:01:43,061 --> 00:01:46,064
Y los militares están ansiosos
por desarrollar IA

22
00:01:46,147 --> 00:01:48,441
más rápido que sus adversarios.

23
00:01:49,275 --> 00:01:50,401
Estoy muerto.

24
00:01:52,695 --> 00:01:54,364
Control en tierra 15.

25
00:01:54,447 --> 00:01:59,077
Estamos avanzando hacia un mundo
en donde no solo las potencias militares,

26
00:01:59,160 --> 00:02:03,039
sino sectores no estatales,
industrias privadas

27
00:02:03,123 --> 00:02:07,210
e incluso los departamentos
de policía locales en las calles

28
00:02:07,293 --> 00:02:10,088
usarán armas
que puedan matar de forma autónoma.

29
00:02:12,048 --> 00:02:15,301
¿Llegaremos a ver
la decisión de arrebatar una vida

30
00:02:15,385 --> 00:02:17,929
usando algoritmos
y software computacional?

31
00:02:18,680 --> 00:02:21,141
Es uno de los temas más urgentes de hoy.

32
00:02:21,224 --> 00:02:22,058
NOS MATARÁN

33
00:02:24,310 --> 00:02:27,272
Y, si no se usan con precaución,

34
00:02:27,355 --> 00:02:30,316
presentan un grave riesgo
para cada individuo en el planeta.

35
00:02:41,870 --> 00:02:44,956
LO DESCONOCIDO

36
00:02:46,875 --> 00:02:50,128
LOS ROBOTS ASESINOS

37
00:03:59,572 --> 00:04:02,158
El lente es
más amplio que el anterior.

38
00:04:02,242 --> 00:04:05,745
-¿En serio?
-Podemos ver más datos.

39
00:04:05,828 --> 00:04:06,913
Grandioso.

40
00:04:07,580 --> 00:04:09,457
En Shield AI,

41
00:04:09,540 --> 00:04:12,752
estamos desarrollando
un piloto con IA que usa tecnología

42
00:04:12,835 --> 00:04:14,921
de IA de autoconducción,

43
00:04:15,004 --> 00:04:16,673
y lo pondremos en una aeronave.

44
00:04:19,342 --> 00:04:21,761
Cuando hablamos de un piloto con IA,

45
00:04:21,844 --> 00:04:25,181
pensamos en darle a la aeronave
un nivel mayor de autonomía

46
00:04:25,265 --> 00:04:28,476
y que sea capaz
de resolver problemas por sí misma.

47
00:04:29,644 --> 00:04:32,397
Nova es un cuadricóptero autónomo

48
00:04:32,480 --> 00:04:35,984
que explora edificios
y estructuras subterráneas

49
00:04:36,901 --> 00:04:38,653
antes de las fuerzas de barrido

50
00:04:38,736 --> 00:04:41,364
para brindarles ojos y oídos
en esos espacios.

51
00:04:41,948 --> 00:04:45,660
Definitivamente, pueden verse
muchas mejoras desde la última vez.

52
00:04:45,743 --> 00:04:48,454
Hoy trabajamos
en cambios de exploración

53
00:04:48,538 --> 00:04:50,290
y algunas características de 4x4.

54
00:04:50,373 --> 00:04:53,626
La idea es que termine un piso completo
antes de ir al segundo.

55
00:04:54,335 --> 00:04:56,838
- Es increíble.
- Hicimos algunos cambios.

56
00:04:57,463 --> 00:04:59,007
A menudo, la gente me pregunta

57
00:04:59,090 --> 00:05:02,385
por qué la IA es ahora
una capacidad importante.

58
00:05:02,468 --> 00:05:04,137
EXMIEMBRO DE LA MARINA DE EE. UU.

59
00:05:04,220 --> 00:05:07,015
Entonces, recuerdo las misiones
que me tocó ejecutar.

60
00:05:09,183 --> 00:05:10,977
Pasé siete años en la Marina.

61
00:05:11,602 --> 00:05:15,523
Soy un ex Navy Seal,
enviado dos veces a Afganistán

62
00:05:15,606 --> 00:05:17,233
y una al frente del Pacífico.

63
00:05:18,067 --> 00:05:22,989
En un día común, debíamos "limpiar"
150 edificios o complejos diferentes.

64
00:05:31,039 --> 00:05:34,292
Una de las principales actividades es
el combate cercano.

65
00:05:35,335 --> 00:05:39,213
Hay tiroteos en espacios muy reducidos
dentro de los edificios.

66
00:05:41,507 --> 00:05:43,009
El enemigo te dispara

67
00:05:43,509 --> 00:05:46,512
y, posiblemente,
haya explosivos dentro del edificio.

68
00:05:49,057 --> 00:05:51,934
Eso es lo más peligroso

69
00:05:52,018 --> 00:05:55,271
para cualquier miembro operativo
de las fuerzas especiales

70
00:05:55,355 --> 00:05:58,399
o de la infantería en una zona de combate.

71
00:05:58,483 --> 00:05:59,525
Sin duda.

72
00:06:12,538 --> 00:06:16,376
Siempre voy a estar agradecido
por el tiempo que estuve en la Marina.

73
00:06:17,210 --> 00:06:22,465
Tengo una colección de momentos
y recuerdos que, cuando pienso en ellos,

74
00:06:22,548 --> 00:06:24,634
obviamente me pongo sensible.

75
00:06:28,388 --> 00:06:31,391
Sé que es un cliché
que la libertad no es gratis,

76
00:06:31,474 --> 00:06:32,809
pero en verdad lo creo,

77
00:06:32,892 --> 00:06:37,522
porque lo he experimentado,
y eso requiere muchos sacrificios.

78
00:06:38,064 --> 00:06:39,107
Lo siento.

79
00:06:41,109 --> 00:06:44,612
Cuando algo malo le pasa
a un miembro de tu equipo,

80
00:06:44,695 --> 00:06:46,989
ya sea que salga herido o lo maten,

81
00:06:47,532 --> 00:06:49,742
es algo realmente trágico.

82
00:06:49,826 --> 00:06:53,788
Pero, para mí,
ahora el trabajo que hacemos aquí,

83
00:06:53,871 --> 00:06:58,376
es una motivación para reducir
el número de veces que eso pase.

84
00:06:58,459 --> 00:07:00,378
o tratar de que no pase de nuevo.

85
00:07:06,551 --> 00:07:08,928
En la reciente década del 2000,

86
00:07:09,011 --> 00:07:12,807
hubo un despertar al interior
del Departamento de Defensa,

87
00:07:12,890 --> 00:07:15,643
que se podría llamar:
La Revolución Robótica Accidental.

88
00:07:15,726 --> 00:07:18,438
Desplegamos miles de robots
en Irak y Afganistán.

89
00:07:18,521 --> 00:07:19,605
AUTOR DE ARMY OF NONE

90
00:07:22,024 --> 00:07:24,527
Cuando la administración
de Obama me pidió

91
00:07:24,610 --> 00:07:27,280
que me convirtiera
en Secretario Adjunto de Defensa,

92
00:07:27,363 --> 00:07:29,699
el modo
en que la guerra se peleaba cambiaba.

93
00:07:29,782 --> 00:07:31,159
SUBSECRETARIO DE DEFENSA

94
00:07:32,827 --> 00:07:36,372
Se usaban robots
donde solían usarse personas.

95
00:07:38,040 --> 00:07:41,586
Los primeros sistemas robóticos
se controlaban a distancia.

96
00:07:41,669 --> 00:07:43,337
Un humano los manejaba

97
00:07:43,421 --> 00:07:45,631
como se hacía
con un auto de control remoto.

98
00:07:46,674 --> 00:07:48,426
Al principio, por lo general,

99
00:07:48,509 --> 00:07:51,971
se usaban para buscar
dispositivos explosivos improvisados,

100
00:07:52,054 --> 00:07:54,849
Y si se activaban, el robot explotaba.

101
00:07:57,268 --> 00:08:00,438
Y decíamos: "Diablos, qué lástima.
Bueno, saquen otro robot".

102
00:08:02,315 --> 00:08:06,861
En Afganistán, teníamos
el dron Depredador que se convirtió

103
00:08:06,944 --> 00:08:09,780
en una herramienta muy útil
para los ataques aéreos.

104
00:08:13,159 --> 00:08:14,452
Con el tiempo,

105
00:08:14,535 --> 00:08:16,871
los planeadores militares se preguntaban:

106
00:08:16,954 --> 00:08:18,956
"¿Para qué podemos usar a los robots?"

107
00:08:19,040 --> 00:08:20,833
y "¿hacia dónde va esto?".

108
00:08:20,917 --> 00:08:24,212
Y uno de los temas comunes era
la tendencia a una mayor autonomía.

109
00:08:26,756 --> 00:08:30,676
Un arma autónoma es aquella
que toma sus propias decisiones

110
00:08:30,760 --> 00:08:33,346
con poca o nula intervención humana.

111
00:08:33,429 --> 00:08:35,431
Es independiente y está autodirigida.

112
00:08:35,515 --> 00:08:37,600
CENTRO PARA UNA NUEVA SEGURIDAD AMERICANA

113
00:08:38,476 --> 00:08:41,646
Y si asesina o no depende
de si está armada o no.

114
00:08:43,356 --> 00:08:47,068
Cuando tienes más
y más autonomía en todo tu sistema,

115
00:08:47,151 --> 00:08:50,404
las cosas empiezan a moverse
a una mayor velocidad.

116
00:08:52,031 --> 00:08:55,201
Y cuando operas a mayor velocidad

117
00:08:55,284 --> 00:08:56,869
que tus adversarios,

118
00:08:57,495 --> 00:09:01,207
es una ventaja extraordinaria en combate.

119
00:09:04,001 --> 00:09:06,671
A la par de la autonomía,
nos enfocamos

120
00:09:07,296 --> 00:09:10,424
en sistemas
altamente inteligentes y resilientes.

121
00:09:11,926 --> 00:09:15,346
Sistemas que puedan leer y reaccionar
basados en su medio ambiente,

122
00:09:16,222 --> 00:09:19,684
y puedan tomar decisiones
sobre cómo maniobrar en ese entorno.

123
00:09:25,022 --> 00:09:28,276
El edificio donde estamos hoy
fue construido como estudio de cine.

124
00:09:28,359 --> 00:09:29,569
OPERACIONES ESTRATÉGICAS

125
00:09:29,652 --> 00:09:31,612
Luego fue convertido para poder recrear

126
00:09:31,696 --> 00:09:34,282
ambientes realistas
de entrenamiento militar.

127
00:09:40,037 --> 00:09:43,332
Estamos aquí
para evaluar a nuestro piloto IA.

128
00:09:44,667 --> 00:09:47,753
La misión que va a ejecutar es
la de buscar amenazas.

129
00:09:48,921 --> 00:09:52,842
Es para que la fuerza de barrido tome
una decisión de cómo atacar ese problema.

130
00:09:55,177 --> 00:09:57,638
Le llamamos
"el embudo de la muerte".

131
00:09:57,722 --> 00:09:59,432
Tenemos que pasar por la puerta.

132
00:10:01,767 --> 00:10:03,769
Es donde estamos más vulnerables.

133
00:10:06,856 --> 00:10:10,192
El Nova nos permitirá saber
si hay un tirador detrás de esa puerta,

134
00:10:10,860 --> 00:10:12,695
o si hay una familia detrás.

135
00:10:15,156 --> 00:10:19,076
Así podremos tomar mejores decisiones
y salvar del peligro a nuestra gente.

136
00:10:57,531 --> 00:11:01,452
Usamos sensores de visión
para ser capaces de entender

137
00:11:01,535 --> 00:11:03,788
el medio ambiente al que nos enfrentamos.

138
00:11:05,039 --> 00:11:07,291
Es un edificio de varios pisos.

139
00:11:07,375 --> 00:11:08,376
Aquí está el mapa.

140
00:11:08,459 --> 00:11:11,712
Mientras voy explorando,
esto es lo que veo y dónde lo veo.

141
00:11:19,970 --> 00:11:22,139
Detector de personas. Grandioso.

142
00:11:23,933 --> 00:11:27,520
Otro de los sensores
que tiene el Nova es un escáner térmico.

143
00:11:27,603 --> 00:11:30,731
Si marca 37 grados Celsius,
seguramente es humano.

144
00:11:32,274 --> 00:11:35,903
Las personas se consideran una amenaza
hasta que se declare lo contrario.

145
00:11:38,948 --> 00:11:41,575
Se trata de eliminar
la duda en las guerras

146
00:11:41,659 --> 00:11:43,285
para tomar mejores decisiones.

147
00:11:44,745 --> 00:11:46,997
Y cuando vemos hacia el futuro,

148
00:11:47,081 --> 00:11:50,835
esperamos escalar para construir
equipos de aeronaves autónomas.

149
00:11:53,796 --> 00:11:55,673
Con los vehículos autoconducidos…

150
00:11:55,756 --> 00:11:57,425
OFICIAL EN JEFE DE TECNOLOGÍA

151
00:11:57,508 --> 00:12:00,428
…hay que ordenarle:
"Llévame del punto A al punto B".

152
00:12:03,013 --> 00:12:06,517
A nuestros sistemas no les pedimos moverse
del punto A al punto B,

153
00:12:06,600 --> 00:12:08,519
sino completar un objetivo.

154
00:12:10,354 --> 00:12:13,232
Es como decirle: "Necesito leche".

155
00:12:13,816 --> 00:12:16,902
Y luego el robot tiene que descifrar
para qué tienda debe ir,

156
00:12:16,986 --> 00:12:18,946
ser capaz de conseguir la leche

157
00:12:19,029 --> 00:12:20,281
y traerla de vuelta.

158
00:12:20,781 --> 00:12:24,577
Inclusive, sería mucho más apropiado
establecerlo como:

159
00:12:25,077 --> 00:12:27,496
"Mantén el refrigerador abastecido".

160
00:12:27,580 --> 00:12:30,833
Llegamos a un nivel de inteligencia
que entiende qué necesitamos,

161
00:12:30,916 --> 00:12:32,209
cómo lo necesitamos

162
00:12:32,293 --> 00:12:35,838
y si existe un desafío o un problema,
o surge una complicación,

163
00:12:35,921 --> 00:12:37,423
buscar como mitigarlo.

164
00:12:40,843 --> 00:12:44,430
Cuando tomé
la decisión de abandonar la Marina,

165
00:12:44,513 --> 00:12:47,808
empecé a pensar:
"Muy bien, ¿ahora qué sigue?".

166
00:12:49,185 --> 00:12:52,646
Crecí con Internet.
Vi en lo que se convirtió.

167
00:12:53,230 --> 00:12:56,066
Y parte de la conclusión
a la que llegué fue

168
00:12:56,150 --> 00:12:59,528
que la inteligencia artificial en 2015 era

169
00:12:59,612 --> 00:13:02,948
lo que Internet fue en 1991.

170
00:13:04,074 --> 00:13:06,911
Y la IA estaba lista para crecer

171
00:13:06,994 --> 00:13:10,372
y convertirse en una de las tecnologías
más poderosas del mundo.

172
00:13:11,832 --> 00:13:13,459
Al trabajar con ella a diario,

173
00:13:13,542 --> 00:13:16,337
puedo ver el progreso que se lleva a cabo.

174
00:13:19,089 --> 00:13:22,510
Pero para mucha gente,
cuando piensan en la IA,

175
00:13:22,593 --> 00:13:25,262
su mente viaja de inmediato a Hollywood.

176
00:13:38,317 --> 00:13:41,445
Cuando la gente piensa
en inteligencia artificial,

177
00:13:41,529 --> 00:13:43,739
por lo general,
suele remitirse a Terminator

178
00:13:44,240 --> 00:13:45,574
o a Yo, Robot.

179
00:13:48,285 --> 00:13:49,620
O a The Matrix.

180
00:13:51,121 --> 00:13:53,791
Por lo que han visto
en películas de ciencia ficción,

181
00:13:53,874 --> 00:13:55,793
¿cómo saben que soy humano?

182
00:13:55,876 --> 00:13:58,295
Podría ser
una IA generada por computadora.

183
00:14:02,633 --> 00:14:06,136
Pero existen
toda clase de IA más primitivas

184
00:14:06,220 --> 00:14:09,974
que podrían cambiar nuestras vidas
antes de ser robots que piensen y hablen.

185
00:14:10,057 --> 00:14:11,892
POLÍTICO Y EMPRENDEDOR TECNOLÓGICO

186
00:14:12,685 --> 00:14:15,813
Los robots ya están aquí
y están tomando decisiones.

187
00:14:15,896 --> 00:14:18,607
La revolución robótica ya llegó…

188
00:14:18,691 --> 00:14:20,609
PROFESORA DE PERIODISMO Y DATA, NYU

189
00:14:20,693 --> 00:14:23,195
…pero no se ve
como el mundo la había imaginado.

190
00:14:27,992 --> 00:14:31,328
No estamos hablando
de robots asesinos tipo Terminator,

191
00:14:31,412 --> 00:14:33,372
sino de IA que pueda hacer tareas…

192
00:14:33,455 --> 00:14:35,374
ESCUELA SCHAR DE POLÍTICA Y GOBIERNO

193
00:14:35,457 --> 00:14:39,920
que hacen los humanos,
pero la preocupación es si es confiable.

194
00:14:40,504 --> 00:14:42,923
Nuevos detalles
del fatal accidente

195
00:14:43,007 --> 00:14:45,467
que involucró
a una camioneta Uber autoconducida.

196
00:14:45,551 --> 00:14:48,804
La compañía creó un chatbot
con inteligencia artificial.

197
00:14:48,888 --> 00:14:51,098
Ella pasó a un tono racista.

198
00:14:51,181 --> 00:14:55,436
26 legisladores estatales
falsamente identificados como criminales.

199
00:14:55,519 --> 00:14:57,563
EL RECONOCIMIENTO FACIAL DE AMAZON FALLÓ

200
00:14:57,646 --> 00:14:59,481
La cuestión es si puede o no

201
00:14:59,565 --> 00:15:02,067
enfrentar las complejidades
del mundo real.

202
00:15:22,254 --> 00:15:24,465
El mundo físico es
muy complicado.

203
00:15:25,215 --> 00:15:27,468
Hay muchas cosas que no sabemos,

204
00:15:28,010 --> 00:15:30,804
y eso hace mucho más difícil entrenar
a los sistemas IA.

205
00:15:33,098 --> 00:15:37,603
Es aquí donde los sistemas de aprendizaje
de las máquinas empiezan a aparecer.

206
00:15:38,562 --> 00:15:42,775
El aprendizaje automático ha sido
un gran avance porque significa…

207
00:15:42,858 --> 00:15:44,818
REPORTERO DE INVESTIGACIÓN, VANITY FAIR

208
00:15:44,902 --> 00:15:47,363
…que no debemos enseñarle
todo a las computadoras.

209
00:15:47,947 --> 00:15:52,451
Se le dan a una computadora
millones de fragmentos de información

210
00:15:52,534 --> 00:15:54,495
y la máquina empieza a aprender,

211
00:15:55,287 --> 00:15:57,331
y eso puede aplicarse a todo.

212
00:16:00,000 --> 00:16:03,003
En el proyecto "Perro Robot",
tratamos de demostrar

213
00:16:03,087 --> 00:16:09,051
que nuestro perro robot puede caminar
en terrenos muy diversos.

214
00:16:10,094 --> 00:16:11,887
Los humanos han evolucionado

215
00:16:11,971 --> 00:16:14,890
durante miles de millones de años
para caminar,

216
00:16:14,974 --> 00:16:20,729
pero usaron la inteligencia
para adaptarse a los diferentes terrenos.

217
00:16:21,981 --> 00:16:24,358
La pregunta
para los sistemas robóticos es

218
00:16:24,441 --> 00:16:27,111
si podrán adaptarse
como los animales y humanos.

219
00:16:35,995 --> 00:16:37,705
Con las máquinas que aprenden,

220
00:16:37,788 --> 00:16:40,624
recabamos mucha información
en simulaciones.

221
00:16:42,710 --> 00:16:45,879
La simulación es
un gemelo digital de la realidad.

222
00:16:46,630 --> 00:16:49,299
Podemos tener
muchas instancias de la realidad

223
00:16:49,383 --> 00:16:52,094
ejecutándose en diferentes computadoras.

224
00:16:53,220 --> 00:16:57,016
Recreamos miles de acciones
en la simulación.

225
00:16:58,726 --> 00:17:01,478
El terreno al que se enfrentan tiene

226
00:17:01,562 --> 00:17:04,815
diversas condiciones resbalosas
y distintas texturas.

227
00:17:04,898 --> 00:17:09,945
Tomamos todas las experiencias
de los miles de robots en la simulación

228
00:17:10,029 --> 00:17:13,323
y las descargamos
al sistema robótico real.

229
00:17:15,534 --> 00:17:17,995
La prueba
que vamos a hacer hoy es para ver

230
00:17:18,078 --> 00:17:20,080
si puede adaptarse a nuevos terrenos.

231
00:17:53,363 --> 00:17:55,532
Cuando el robot caminó sobre espuma,

232
00:17:55,616 --> 00:17:58,619
las patas pisaban fuertemente el suelo.

233
00:17:59,411 --> 00:18:02,247
Mientras que en una superficie
de polímero,

234
00:18:03,290 --> 00:18:06,502
trataba de ajustar
su movimiento para no resbalar.

235
00:18:08,712 --> 00:18:10,714
Ahí puede verse claramente

236
00:18:10,798 --> 00:18:14,093
lo que el aprendizaje automático
puede brindar a la investigación.

237
00:18:41,203 --> 00:18:45,874
Creemos que el Perro Robot puede ser
muy útil en escenarios de respuesta

238
00:18:45,958 --> 00:18:49,711
ante desastres, donde hay que transitar
por diferentes tipos de terreno.

239
00:18:52,673 --> 00:18:54,925
O se puede poner a estos perros a vigilar

240
00:18:55,008 --> 00:18:57,469
en entornos complicados.

241
00:19:15,737 --> 00:19:19,616
Pero la mayor parte de la tecnología
se enfrenta al desafío

242
00:19:19,700 --> 00:19:22,411
de si será usada para el bien
o para hacer el mal.

243
00:19:24,121 --> 00:19:28,458
Por ejemplo, podemos usar
tecnología nuclear para generar energía.

244
00:19:30,460 --> 00:19:33,839
Pero también podemos desarrollar
bombas atómicas que son muy malas.

245
00:19:35,132 --> 00:19:38,510
Es lo que conocemos
como el problema de uso dual.

246
00:19:39,094 --> 00:19:40,971
El fuego es de uso dual.

247
00:19:41,054 --> 00:19:41,889
FÍSICO, MIT

248
00:19:41,972 --> 00:19:44,349
La inteligencia humana es de uso dual.

249
00:19:44,433 --> 00:19:46,310
Y no hace falta decirlo,

250
00:19:46,393 --> 00:19:48,896
la inteligencia artificial también es
de uso dual.

251
00:19:49,396 --> 00:19:54,026
Es realmente importante pensar
en el uso de la IA en contexto,

252
00:19:54,735 --> 00:19:59,156
porque sí, es grandiosa
en un robot de búsqueda y rescate

253
00:19:59,239 --> 00:20:02,910
para ayudar a localizar a alguien
después de una avalancha,

254
00:20:02,993 --> 00:20:05,913
pero ese mismo robot puede llevar armas.

255
00:20:15,631 --> 00:20:18,592
Cuando sé de compañías
que están usando robots

256
00:20:18,675 --> 00:20:21,136
para ponerles armas,

257
00:20:21,220 --> 00:20:22,971
una parte de mí se enoja.

258
00:20:23,972 --> 00:20:25,474
Y otra parte entiende

259
00:20:25,557 --> 00:20:28,477
que cuando desarrollamos
nuestra tecnología,

260
00:20:28,560 --> 00:20:30,145
esas cosas van a pasar.

261
00:20:31,063 --> 00:20:34,483
Esa es
una tecnología transformativa.

262
00:20:36,610 --> 00:20:38,612
Hay sistemas de armas

263
00:20:38,695 --> 00:20:43,659
que en verdad pueden cambiar
nuestra seguridad de manera dramática.

264
00:20:46,203 --> 00:20:51,541
Por el momento, no estamos seguros
de que las máquinas sean capaces de hacer

265
00:20:51,625 --> 00:20:53,752
la distinción
entre civiles y combatientes.

266
00:20:53,835 --> 00:20:55,003
ALTO REPRESENTANTE, ONU

267
00:21:01,593 --> 00:21:04,805
Al inicio de la guerra
en Afganistán, estuve en el equipo

268
00:21:04,888 --> 00:21:08,058
de francotiradores
buscando enemigos en el cruce fronterizo.

269
00:21:09,726 --> 00:21:12,896
Y enviaron a una niña pequeña
a reconocer nuestra posición.

270
00:21:14,481 --> 00:21:17,109
Dispararle a esa niña,
nunca nos pasó por la mente.

271
00:21:19,736 --> 00:21:22,906
Bajo las leyes de la guerra,
eso habría sido legal.

272
00:21:24,992 --> 00:21:27,411
No hay una edad
para los enemigos en combate.

273
00:21:29,121 --> 00:21:30,831
Si construyes un robot

274
00:21:30,914 --> 00:21:33,625
que cumpla con las leyes
de la guerra a la perfección,

275
00:21:33,709 --> 00:21:35,377
le hubiera disparado a la niña.

276
00:21:36,461 --> 00:21:39,423
¿Cómo diferencia un robot
lo que es legal de lo correcto?

277
00:21:39,506 --> 00:21:41,133
EXRANGER DEL EJÉRCITO DE EE. UU.

278
00:21:43,385 --> 00:21:46,096
Cuando se trata
de drones de guerra autónomos,

279
00:21:46,179 --> 00:21:49,975
se intenta eliminar los riesgos
que corren los soldados estadounidenses

280
00:21:50,058 --> 00:21:51,643
y su psique.

281
00:21:51,727 --> 00:21:53,395
AFGANOS PARA UN MEJOR MAÑANA

282
00:21:53,478 --> 00:21:56,982
Pero el verdadero daño terminan
experimentándolo los civiles afganos,

283
00:21:57,065 --> 00:21:58,817
iraquíes y somalís.

284
00:22:09,661 --> 00:22:11,538
Yo le preguntaría a los que apoyan

285
00:22:11,621 --> 00:22:15,042
la confianza en la IA
para ser usada en drones:

286
00:22:15,125 --> 00:22:17,669
"¿Y si fuera su aldea
la que recibe los ataques?".

287
00:22:23,592 --> 00:22:25,802
La IA es un arma de doble filo.

288
00:22:26,636 --> 00:22:30,766
Puede ser usada para bien,
que para eso la usaríamos normalmente.

289
00:22:31,600 --> 00:22:33,518
Y con un simple interruptor,

290
00:22:34,603 --> 00:22:38,065
la tecnología podría convertirse
en algo potencialmente letal.

291
00:22:38,148 --> 00:22:40,275
RALEIGH, CAROLINA DEL NORTE

292
00:22:47,074 --> 00:22:48,575
Soy farmacólogo clínico.

293
00:22:49,659 --> 00:22:51,036
Tengo un equipo de gente

294
00:22:51,119 --> 00:22:52,996
que utiliza inteligencia artificial

295
00:22:53,080 --> 00:22:54,498
para descubrir medicamentos

296
00:22:54,581 --> 00:22:57,793
que curen enfermedades
que no están recibiendo atención.

297
00:22:59,753 --> 00:23:04,174
En el pasado, se tomaba
una molécula de un medicamento existente

298
00:23:04,257 --> 00:23:06,927
y se modificaba
para conseguir uno nuevo.

299
00:23:08,303 --> 00:23:13,392
Ahora, hemos desarrollado una IA
que nos va nutriendo de millones de ideas,

300
00:23:13,934 --> 00:23:15,268
millones de moléculas,

301
00:23:16,228 --> 00:23:19,272
y eso nos abre numerosas posibilidades

302
00:23:19,356 --> 00:23:23,193
para tratar enfermedades
que nunca antes habíamos podido tratar.

303
00:23:25,195 --> 00:23:29,783
Pero, definitivamente, hay un lado oscuro
al que nunca pensé que podría llegar.

304
00:23:30,283 --> 00:23:32,160
AMO LA QUÍMICA

305
00:23:33,203 --> 00:23:35,914
Todo esto comenzó cuando fui invitado

306
00:23:35,997 --> 00:23:38,500
por una organización,
a las afueras de Suiza,

307
00:23:38,583 --> 00:23:40,502
llamada Laboratorio Spiez

308
00:23:40,585 --> 00:23:44,464
para hacer una presentación
del posible mal uso de la IA.

309
00:23:48,385 --> 00:23:51,930
Sean me mandó
un correo con algunas ideas

310
00:23:52,013 --> 00:23:55,350
de formas en las que nuestra IA
podría ser mal utilizada.

311
00:23:56,101 --> 00:23:59,396
En lugar de hablar de nuestro modelo
para crear moléculas

312
00:23:59,479 --> 00:24:02,315
para generar medicamentos
y tratar enfermedades,

313
00:24:02,816 --> 00:24:06,445
querían ver si se podía generar
la molécula más tóxica posible.

314
00:24:10,115 --> 00:24:11,950
Solo quería aclarar un punto:

315
00:24:12,033 --> 00:24:15,662
¿puede la tecnología de la IA
diseñar moléculas que sean letales?

316
00:24:17,456 --> 00:24:20,125
Y, en verdad,
pensamos que iba a fracasar,

317
00:24:20,208 --> 00:24:24,546
porque lo único que hicimos fue
cambiar un cero por un uno.

318
00:24:26,756 --> 00:24:28,383
Y con solo invertirlo,

319
00:24:28,467 --> 00:24:32,471
en lugar de alejarnos de la toxicidad,
ahora nos dirigíamos hacia ella.

320
00:24:32,554 --> 00:24:33,597
Así de simple.

321
00:24:37,559 --> 00:24:40,770
En casa, la computadora hacía el trabajo.

322
00:24:41,563 --> 00:24:44,858
Se estaba esforzando
en generar miles de moléculas,

323
00:24:45,692 --> 00:24:49,738
y nosotros no tuvimos que hacer nada
aparte de presionar "ejecutar".

324
00:24:54,534 --> 00:24:58,371
A la mañana siguiente,
había un archivo en mi computadora,

325
00:24:59,122 --> 00:25:05,295
y encontré cerca de 40 000 moléculas
que eran, potencialmente,

326
00:25:05,378 --> 00:25:08,924
algunas de las moléculas más tóxicas
conocidas por la humanidad.

327
00:25:10,258 --> 00:25:12,802
Se me erizaron
los vellos de la nuca.

328
00:25:13,386 --> 00:25:14,596
Estaba sorprendido.

329
00:25:15,430 --> 00:25:18,350
La computadora generó
decenas de miles de ideas

330
00:25:19,142 --> 00:25:20,727
para nuevas armas químicas.

331
00:25:21,686 --> 00:25:26,274
En la información,
había moléculas que parecían ser de VX

332
00:25:26,358 --> 00:25:28,276
y otras análogas al VX.

333
00:25:28,360 --> 00:25:31,696
El VX es una de las armas químicas
más potentes del mundo.

334
00:25:31,780 --> 00:25:33,615
La policía ha comunicado

335
00:25:33,698 --> 00:25:36,117
que la mujer
que se ve atacando a Kim Jong Nam,

336
00:25:36,201 --> 00:25:41,248
en su asesinato en el aeropuerto,
usó un agente nervioso letal, llamado VX.

337
00:25:41,790 --> 00:25:44,459
Puede provocar
la muerte por asfixia.

338
00:25:45,085 --> 00:25:47,671
Esta es una molécula muy poderosa,

339
00:25:47,754 --> 00:25:49,422
y se predice que la mayoría

340
00:25:49,506 --> 00:25:52,133
de estas moléculas pueden ser
más letales que el VX.

341
00:25:53,343 --> 00:25:55,554
Muchas de ellas,
hasta donde sabemos,

342
00:25:55,637 --> 00:25:57,430
nunca antes han sido vistas.

343
00:25:57,514 --> 00:26:00,809
Así que cuando Sean
y yo nos dimos cuenta, dijimos:

344
00:26:00,892 --> 00:26:02,769
"Pero ¿qué hicimos?".

345
00:26:04,813 --> 00:26:09,234
Rápidamente entendí
que había abierto la Caja de Pandora,

346
00:26:09,943 --> 00:26:13,321
y dije: "Alto.
No hagas nada más. Se acabó.

347
00:26:13,947 --> 00:26:17,200
Solo dame las diapositivas
que necesito para la presentación".

348
00:26:19,160 --> 00:26:20,745
Cuando hicimos ese experimento,

349
00:26:20,829 --> 00:26:23,915
solo pensaba:
"¿Qué sería lo peor que podría pasar?".

350
00:26:26,293 --> 00:26:30,297
Pero ahora sé que fuimos ingenuos.
Fuimos muy ingenuos al hacerlo.

351
00:26:33,508 --> 00:26:36,970
Lo más aterrador es
que cualquiera puede hacer lo que hicimos.

352
00:26:38,972 --> 00:26:40,807
Solo se necesita un interruptor.

353
00:26:42,976 --> 00:26:45,562
¿Cómo podemos controlar esta tecnología

354
00:26:45,645 --> 00:26:50,984
antes de que pueda ser usada
para un fin altamente destructivo?

355
00:26:55,822 --> 00:27:00,327
En el centro de la conversación
sobre la inteligencia artificial

356
00:27:00,410 --> 00:27:03,955
y cómo podemos usarla en nuestra sociedad,

357
00:27:04,039 --> 00:27:07,417
hay una carrera entre el poder
con el que desarrollamos tecnologías…

358
00:27:07,500 --> 00:27:08,877
INSTITUTO FUTURO DE LA VIDA

359
00:27:08,960 --> 00:27:11,421
…y la inteligencia
que tenemos para controlarlas.

360
00:27:13,381 --> 00:27:16,968
Existen implicaciones morales
y éticas obvias

361
00:27:17,052 --> 00:27:20,889
en la misma tecnología
que activa nuestros teléfonos inteligentes

362
00:27:20,972 --> 00:27:23,475
al darle la decisión moral
de quitar una vida.

363
00:27:25,769 --> 00:27:31,232
Trabajo en el Instituto Futuro de la Vida,
una comunidad de científicos activistas.

364
00:27:31,775 --> 00:27:33,485
En pocas palabras,

365
00:27:33,568 --> 00:27:36,404
queremos mostrar
que existe otro lado en la aceleración

366
00:27:36,488 --> 00:27:38,740
y el aumento de la automatización.

367
00:27:38,823 --> 00:27:42,661
Queremos asegurarnos
de que las tecnologías que creamos

368
00:27:42,744 --> 00:27:45,664
sean usadas en un modo
que sea seguro y ético.

369
00:27:46,289 --> 00:27:49,334
Tengamos conversaciones
sobre las reglas del juego,

370
00:27:49,417 --> 00:27:54,047
los códigos de conducta y el uso de IA
en los sistemas armamentistas.

371
00:27:54,839 --> 00:27:59,177
Porque ahora estamos viendo
la aparición de tecnologías de batalla

372
00:27:59,260 --> 00:28:02,305
que pueden ser usadas
para matar de forma autónoma.

373
00:28:10,271 --> 00:28:15,151
En 2021,
la ONU reveló un reporte del uso potencial

374
00:28:15,235 --> 00:28:19,489
de armas letales autónomas
en el campo de batalla en Libia.

375
00:28:19,989 --> 00:28:21,866
Un panel de las ONU dijo

376
00:28:21,950 --> 00:28:24,911
que un dron que voló
en la Guerra Civil Libia el año pasado,

377
00:28:24,994 --> 00:28:27,747
estaba programado
para atacar de forma autónoma.

378
00:28:27,831 --> 00:28:28,832
SIN APORTE HUMANO

379
00:28:28,915 --> 00:28:31,251
Si el reporte
de la ONU es preciso,

380
00:28:31,334 --> 00:28:35,004
este debería ser
un momento decisivo para la humanidad,

381
00:28:35,088 --> 00:28:37,424
porque marca un caso de uso

382
00:28:37,507 --> 00:28:42,178
donde fue la IA la que tomó la decisión
de arrebatar una vida, y no un humano.

383
00:28:49,728 --> 00:28:53,440
Estamos viendo
que armas autónomas avanzadas empiezan

384
00:28:53,523 --> 00:28:56,151
a ser usadas
en diferentes lugares del planeta.

385
00:28:56,234 --> 00:28:59,070
Existen reportes en Israel.

386
00:28:59,154 --> 00:29:01,823
DRONES DE "BALAS MÁGICAS"
EN LA VICTORIA DE AZERBAIYÁN

387
00:29:01,906 --> 00:29:05,744
Azerbaiyán usó sistemas autónomos
para atacar a las defensas de Armenia.

388
00:29:07,412 --> 00:29:10,623
Puede volar
sobre un campo de batalla por horas

389
00:29:10,707 --> 00:29:12,959
buscando cosas que atacar por sí solo,

390
00:29:13,042 --> 00:29:16,129
y luego atacar sin ningún tipo
de intervención humana.

391
00:29:16,212 --> 00:29:18,339
RUSIA Y UCRANIA LIBRAN
LA GUERRA DE DRONES

392
00:29:18,423 --> 00:29:22,093
Y recientemente vimos videos
que han sido publicados en Ucrania.

393
00:29:23,094 --> 00:29:25,388
No queda claro
en qué modalidad estaban

394
00:29:25,472 --> 00:29:26,681
cuando fueron operados.

395
00:29:26,765 --> 00:29:30,435
¿Era un humano que estaba persiguiendo
objetivos para atacarlos,

396
00:29:30,518 --> 00:29:32,771
o la máquina decidió hacerlo por sí sola?

397
00:29:32,854 --> 00:29:36,566
Pero ciertamente llegaremos a un punto,

398
00:29:36,649 --> 00:29:40,236
aunque ya haya pasado en Libia,
Ucrania o en otra parte,

399
00:29:40,320 --> 00:29:44,491
en el que las máquinas decidan
a quién asesinar en el campo de batalla.

400
00:29:47,076 --> 00:29:51,039
Que las máquinas ejerzan
un poder letal contra los humanos,

401
00:29:51,122 --> 00:29:53,833
sin ninguna intervención humana,

402
00:29:53,917 --> 00:29:57,378
es políticamente incorrecto
y moralmente repugnante.

403
00:29:57,879 --> 00:29:59,881
MIEDO POR ROBOTS ASESINOS EN LA GUERRA

404
00:29:59,964 --> 00:30:03,551
Si la Comunidad Internacional será
suficiente para hacerle frente

405
00:30:03,635 --> 00:30:06,930
a esos desafíos,
es una gran interrogante.

406
00:30:07,013 --> 00:30:09,557
ÉTICA: ¿LOS DRONES SERÁN
FUTUROS ROBOTS ASESINOS?

407
00:30:09,641 --> 00:30:12,727
Si vemos hacia el futuro,
incluso a unos cuantos años

408
00:30:12,811 --> 00:30:15,772
a partir de hoy,
lo que hay en el panorama es aterrador.

409
00:30:16,606 --> 00:30:21,694
Dada la cantidad de recursos financieros
y humanos que se invierten para hacer

410
00:30:21,778 --> 00:30:23,530
la IA más poderosa,

411
00:30:23,613 --> 00:30:26,991
el número de usos
que se le pueden dar es inmenso.

412
00:30:39,629 --> 00:30:41,256
Por Dios. Qué tipo.

413
00:30:42,298 --> 00:30:44,217
Sabe que no puede ganar.

414
00:30:46,803 --> 00:30:51,140
Cuando veo que la IA supera
diferentes problemas, me siento inspirado.

415
00:30:51,724 --> 00:30:53,434
Hora de una medida desesperada.

416
00:30:54,519 --> 00:30:57,146
Y podemos aplicar esas mismas tácticas,

417
00:30:57,230 --> 00:30:59,566
técnicas y procedimientos
en una aeronave real.

418
00:31:00,942 --> 00:31:01,776
VICTORIA

419
00:31:01,860 --> 00:31:04,445
-Buen juego.
- Sí, buen juego.

420
00:31:08,700 --> 00:31:12,203
Me sorprende
que la gente siga haciendo declaraciones

421
00:31:12,287 --> 00:31:14,163
sobre lo que la IA no puede hacer.

422
00:31:14,247 --> 00:31:16,624
"Jamás vencerá
a un campeón mundial de ajedrez".

423
00:31:20,253 --> 00:31:23,923
Una computadora IBM tuvo
un gran regreso en el segundo partido

424
00:31:24,007 --> 00:31:27,051
contra el campeón mundial
de ajedrez, Garry Kasparov.

425
00:31:27,135 --> 00:31:30,889
¡Guau!
¡Kasparov se está retirando!

426
00:31:31,639 --> 00:31:34,684
Cuando veo algo
más allá de mi entendimiento,

427
00:31:34,767 --> 00:31:38,104
me aterra, y esto va
mucho más allá de mi entendimiento.

428
00:31:39,397 --> 00:31:41,441
Y también la gente dice:

429
00:31:41,524 --> 00:31:44,485
"Nunca podrá vencer
a un campeón mundial del juego de Go".

430
00:31:44,569 --> 00:31:48,114
Creo
que la intuición humana

431
00:31:48,197 --> 00:31:50,742
es demasiado avanzada para la IA

432
00:31:50,825 --> 00:31:52,827
y no podrá alcanzarla.

433
00:31:55,622 --> 00:31:59,042
El GO es uno de los juegos
más complicados de aprender,

434
00:31:59,125 --> 00:32:01,502
porque el número
de movimientos en el tablero,

435
00:32:01,586 --> 00:32:05,298
al sumarlo, es igual o mayor a la cantidad
de átomos en todo el universo.

436
00:32:05,381 --> 00:32:06,758
MENTE PROFUNDA - DESAFÍO

437
00:32:06,841 --> 00:32:10,178
Un grupo en Google
llamado "Mente Profunda" creó un programa

438
00:32:10,261 --> 00:32:14,307
llamado AlphaGo capaz de vencer
a los mejores jugadores del mundo.

439
00:32:14,390 --> 00:32:17,936
Guau. Felicidades a…

440
00:32:18,019 --> 00:32:19,479
- Alpha Go.
- Alpha Go.

441
00:32:19,562 --> 00:32:22,482
Un programa de computadora venció
a un profesional.

442
00:32:22,565 --> 00:32:23,524
Sí.

443
00:32:25,652 --> 00:32:29,405
Y luego,
Mente Profunda eligió Starcraft

444
00:32:29,489 --> 00:32:31,574
como el siguiente reto de la IA.

445
00:32:33,493 --> 00:32:36,412
Starcraft es, quizás,
el juego de estrategia en tiempo real

446
00:32:36,496 --> 00:32:38,706
más popular de todos los tiempos.

447
00:32:38,790 --> 00:32:41,042
DEEPMIND VENCE
A LOS JUGADORES DE STARCRAFT 2

448
00:32:41,125 --> 00:32:45,296
Alphastar se volvió famoso cuando empezó
a derrotar a los campeones mundiales.

449
00:32:45,380 --> 00:32:49,759
Alphastar superó,
sin problemas, a Inmortal Arc.

450
00:32:49,842 --> 00:32:52,971
Esta no será una batalla
que los profesionales puedan ganar.

451
00:32:53,721 --> 00:32:54,639
Es de dar risa.

452
00:32:54,722 --> 00:32:57,600
LA IA SE CONVIERTE EN LA MAESTRA
DEL COMPLEJO STARCRAFT II

453
00:32:57,684 --> 00:32:59,686
Los jugadores decían:

454
00:32:59,769 --> 00:33:01,521
"Jamás hubiera usado esa táctica.

455
00:33:01,604 --> 00:33:04,857
Nunca usaría esa estrategia.
Eso no es algo humano".

456
00:33:07,193 --> 00:33:10,697
Y ese fue, tal vez,
mi momento de epifanía.

457
00:33:13,616 --> 00:33:16,703
Finalmente entendí
que el momento es ahora.

458
00:33:17,453 --> 00:33:21,708
Hay una tecnología importante,
y es posible hacer la diferencia.

459
00:33:24,544 --> 00:33:27,922
Yo solo conocía los problemas
que había enfrentado como SEAL

460
00:33:28,006 --> 00:33:29,424
en combate cercano,

461
00:33:30,425 --> 00:33:34,512
pero uno de mis amigos,
que era piloto de un F18 me dijo:

462
00:33:34,595 --> 00:33:37,765
"Tenemos el mismo problema
en la comunidad de pilotos.

463
00:33:37,849 --> 00:33:39,475
Interfieren las comunicaciones

464
00:33:39,559 --> 00:33:43,104
y están proliferando
las bases de misiles tierra-aire

465
00:33:43,187 --> 00:33:45,231
que nos complican mucho la operación".

466
00:33:47,525 --> 00:33:51,029
Imaginen tener un jet de guerra
que fuera comandado por una IA.

467
00:33:51,112 --> 00:33:53,698
Bienvenidos a AlphaDogfight.

468
00:33:53,781 --> 00:33:56,200
Estamos a unos minutos
de la primera semifinal.

469
00:33:56,284 --> 00:33:57,452
En DARPA,

470
00:33:57,535 --> 00:34:01,873
la Agencia de investigación de Proyectos
de Defensa Avanzada vieron

471
00:34:01,956 --> 00:34:03,666
AlphaGo y AlphaStar,

472
00:34:04,834 --> 00:34:08,796
y ahí surgió la idea
de la competencia AlphaDogFight.

473
00:34:08,880 --> 00:34:12,008
Es lo que quería ver
hacer a los pilotos.

474
00:34:12,091 --> 00:34:13,885
Parece una pelea de perros humana.

475
00:34:15,636 --> 00:34:19,098
Dogfighting es
una nave de combate enfrentado a otra.

476
00:34:20,433 --> 00:34:23,311
Podría pensarse
como una pelea de box en las alturas.

477
00:34:23,895 --> 00:34:26,355
Quizá muchos hayan visto
la película Top Gun.

478
00:34:35,573 --> 00:34:39,660
Dominar el dogfighting
puede llevar de ocho a diez años.

479
00:34:42,330 --> 00:34:46,250
Construir IA alrededor de esto es
un reto muy complicado.

480
00:34:54,133 --> 00:34:56,594
Los primeros intentos
de autonomía

481
00:34:56,677 --> 00:34:58,888
y dogfighting tendían a ser endebles,

482
00:34:58,971 --> 00:35:03,059
y pensamos que el aprendizaje automático
sería lo mejor para resolver el problema.

483
00:35:04,519 --> 00:35:08,731
Al principio, la IA no sabía nada
del mundo en el que había sido creada.

484
00:35:08,815 --> 00:35:10,274
No sabía lo que era volar,

485
00:35:10,358 --> 00:35:13,194
lo que era dogfighting,
lo que era un F16.

486
00:35:13,277 --> 00:35:15,988
Sabía las acciones disponibles
que podía realizar…

487
00:35:16,072 --> 00:35:16,989
GERENTE, SHIELD AI

488
00:35:17,073 --> 00:35:19,033
…y empezó a explorarlas aleatoriamente.

489
00:35:19,534 --> 00:35:23,246
La aeronave azul entrenó
solo por un corto tiempo.

490
00:35:23,329 --> 00:35:25,873
Se le puede ver tambaleándose
adelante y atrás,

491
00:35:26,415 --> 00:35:30,586
volando erráticamente,
por lo general, alejándose del adversario.

492
00:35:31,129 --> 00:35:32,797
Con el progreso de la pelea,

493
00:35:32,880 --> 00:35:36,175
podemos ver que la azul empieza
a establecer un plan de juego.

494
00:35:36,717 --> 00:35:38,678
Tiene mejor posición de disparo.

495
00:35:39,220 --> 00:35:42,098
Y de vez en cuando,
el algoritmo de aprendizaje dice:

496
00:35:42,181 --> 00:35:43,933
"Eso fue bueno. Sigamos así".

497
00:35:45,143 --> 00:35:46,978
Aprovechamos el poder computacional

498
00:35:47,061 --> 00:35:50,690
que tenemos, entrenar a los agentes
muchas veces en paralelo.

499
00:35:51,399 --> 00:35:53,234
Es como un equipo de baloncesto.

500
00:35:53,317 --> 00:35:56,821
En vez de enfrentar
al mismo equipo una y otra vez,

501
00:35:56,904 --> 00:36:00,992
vamos por el mundo enfrentando
a 512 equipos diferentes al mismo tiempo.

502
00:36:01,534 --> 00:36:03,494
Puedes mejorar mucho y muy rápido.

503
00:36:04,203 --> 00:36:07,498
Somos capaces de correr
esa simulación sin parar

504
00:36:07,582 --> 00:36:11,961
y conseguir 30 años de entrenamiento
de pilotos en solo diez meses.

505
00:36:12,920 --> 00:36:16,090
Pasamos de apenas ser capaces
de controlar la aeronave

506
00:36:16,174 --> 00:36:17,758
a ser un asesino a sangre fría.

507
00:36:19,051 --> 00:36:23,556
En el entrenamiento, solo competimos
contra otras inteligencias artificiales.

508
00:36:24,515 --> 00:36:28,603
Pero competir contra humanos directamente,
ese es el objetivo final.

509
00:36:34,233 --> 00:36:36,068
Mi nombre es Mike Benitez.

510
00:36:36,152 --> 00:36:39,113
Soy Teniente Coronel
de la Fuerza Aérea de los EE. UU.

511
00:36:39,197 --> 00:36:41,199
con 25 años de labor activa.

512
00:36:42,867 --> 00:36:45,536
Llevo 250 misiones de combate

513
00:36:45,620 --> 00:36:47,580
y soy graduado de la escuela de armas.

514
00:36:48,080 --> 00:36:49,874
Es como la Fuerza Aérea de Top Gun.

515
00:36:52,668 --> 00:36:55,213
Nunca he volado
contra una inteligencia artificial.

516
00:36:55,296 --> 00:36:58,591
Estoy emocionado de ver
qué tan bien lo puedo hacer.

517
00:36:59,926 --> 00:37:03,804
Estamos en un escenario
de ofensiva frente a frente a 6000 pies.

518
00:37:04,805 --> 00:37:05,848
Bien, ¡a pelear!

519
00:37:13,356 --> 00:37:14,190
Lo derribé.

520
00:37:14,774 --> 00:37:16,692
Eso fue muy interesante.

521
00:37:21,489 --> 00:37:23,699
Lo tengo, una victoria perfecta.

522
00:37:25,952 --> 00:37:27,495
De acuerdo, segunda ronda.

523
00:37:35,503 --> 00:37:39,632
Lo que la inteligencia artificial hace
es maniobrar

524
00:37:39,715 --> 00:37:43,261
con una precisión tan alta
que no puedo seguirle el paso.

525
00:37:48,516 --> 00:37:49,767
Justo en el cruce.

526
00:37:50,351 --> 00:37:51,227
Estás muerto.

527
00:37:53,187 --> 00:37:55,064
Lo tengo.

528
00:37:58,609 --> 00:38:00,403
La IA nunca se asusta.

529
00:38:00,945 --> 00:38:04,407
En la cabina, hay un elemento
emocional humano que la IA no tiene.

530
00:38:05,533 --> 00:38:08,869
Una de las estrategias más interesante
que nuestra IA desarrolló es

531
00:38:08,953 --> 00:38:10,579
lo que llamamos tiro en la cara.

532
00:38:11,497 --> 00:38:14,041
Los humanos suelen disparar desde atrás,

533
00:38:14,125 --> 00:38:16,419
porque dificulta las acciones evasivas.

534
00:38:17,086 --> 00:38:18,629
No buscan tiros frontales

535
00:38:18,713 --> 00:38:21,382
porque no se trata de ver
quién se acobarda antes.

536
00:38:21,465 --> 00:38:25,553
Cuando vamos frente a frente,
la diferencia entre 3000 pies y 500 pies

537
00:38:25,636 --> 00:38:27,138
pasa en un parpadeo.

538
00:38:27,638 --> 00:38:31,225
Hay un alto riesgo de colisión.
Los humanos no lo hacen.

539
00:38:32,935 --> 00:38:36,814
Si no se le dice que tema a la muerte,
la IA no le temerá.

540
00:38:37,898 --> 00:38:40,735
Siento
que estoy enfrentando a un humano,

541
00:38:40,818 --> 00:38:44,155
pero un humano
al que no le importa su seguridad.

542
00:38:45,698 --> 00:38:47,366
No va a sobrevivir a este último.

543
00:38:57,209 --> 00:38:58,627
No tiene suficiente tiempo.

544
00:39:02,006 --> 00:39:03,924
Buenas noches.

545
00:39:04,008 --> 00:39:05,760
Estoy muerto.

546
00:39:16,854 --> 00:39:18,773
Es muy duro saber

547
00:39:18,856 --> 00:39:21,442
que tal vez no sea
el mejor para esta misión,

548
00:39:21,525 --> 00:39:24,945
y que esa cosa podría ser
lo que me reemplace algún día.

549
00:39:25,738 --> 00:39:27,114
Lo mismo, 6 CAV.

550
00:39:27,656 --> 00:39:28,866
Compensa a mil.

551
00:39:29,492 --> 00:39:33,120
Con el piloto de IA comandando
un avión de combate,

552
00:39:33,204 --> 00:39:35,373
la victoria es implacable, es dominante,

553
00:39:35,456 --> 00:39:37,333
gana con una amplia ventaja.

554
00:39:37,416 --> 00:39:40,544
La pregunta es:
¿cómo llevamos esto a nuestros aviones?

555
00:39:40,628 --> 00:39:42,171
Es así de poderoso.

556
00:39:44,340 --> 00:39:47,843
Es realista esperar
que la IA esté pilotando un S-16

557
00:39:47,927 --> 00:39:50,012
y no estamos tan lejos de eso.

558
00:39:51,680 --> 00:39:56,811
Si enfrentas a un piloto de IA
que tiene un 99.999 %

559
00:39:56,894 --> 00:39:58,687
de éxito, no tienes oportunidad.

560
00:39:59,647 --> 00:40:03,359
Cuando pienso
en un piloto con IA que sea invencible,

561
00:40:03,442 --> 00:40:06,237
pienso en lo que un equipo de 50

562
00:40:06,320 --> 00:40:11,951
o 100 o 1000 pilotos
con IA pueden conseguir en el futuro.

563
00:40:13,744 --> 00:40:17,498
El enjambre es un equipo
de aeronaves altamente inteligentes

564
00:40:17,581 --> 00:40:19,250
que trabajan una con otra.

565
00:40:19,333 --> 00:40:23,504
Comparten información sobre lo que hacen
y cómo resuelven problemas.

566
00:40:25,339 --> 00:40:29,927
El enjambre será
un parteaguas capaz de transformar

567
00:40:30,010 --> 00:40:32,096
a nuestro ejército y a nuestros aliados.

568
00:41:42,124 --> 00:41:44,752
El objetivo fue localizado,

569
00:41:44,835 --> 00:41:47,421
y los drones están rastreándolo.

570
00:42:01,977 --> 00:42:03,646
Bien, regreso a tierra.

571
00:42:07,274 --> 00:42:09,485
El objetivo de la investigación

572
00:42:09,568 --> 00:42:11,487
de enjambre en la que trabajamos ahora

573
00:42:11,570 --> 00:42:14,782
es desplegar un gran número
de drones sobre un área

574
00:42:14,865 --> 00:42:17,952
de difícil acceso o muy peligrosa.

575
00:42:21,747 --> 00:42:24,458
El Laboratorio
de Investigación del Ejército nos apoya

576
00:42:24,542 --> 00:42:26,335
con este proyecto en particular.

577
00:42:27,378 --> 00:42:29,505
Si quieres saber qué hay en una ubicación,

578
00:42:29,588 --> 00:42:32,925
pero es un área difícil de alcanzar
o es un área muy extensa,

579
00:42:33,717 --> 00:42:36,554
desplegar un enjambre es
una forma muy natural

580
00:42:36,637 --> 00:42:38,931
de extender la búsqueda de individuos

581
00:42:39,014 --> 00:42:41,976
y recolectar información
que sea importante para la misión.

582
00:42:47,398 --> 00:42:49,775
Ahora, a nuestro despliegue de enjambre

583
00:42:49,858 --> 00:42:53,612
le damos una sola orden
de ir a rastrear un objetivo de interés.

584
00:42:54,530 --> 00:42:57,324
Luego, los drones van
y lo hacen por sí solos.

585
00:42:59,535 --> 00:43:03,330
La inteligencia artificial permite
que los robots se muevan colectivamente

586
00:43:03,414 --> 00:43:06,041
como un enjambre
de manera descentralizada.

587
00:43:10,713 --> 00:43:12,548
En los grupos de la naturaleza,

588
00:43:12,631 --> 00:43:14,758
lo que vemos es que no hay un líder,

589
00:43:14,842 --> 00:43:18,220
no hay un animal alfa
que les diga qué hacer.

590
00:43:21,098 --> 00:43:25,060
El comportamiento emerge
en cada animal individual,

591
00:43:25,144 --> 00:43:27,146
siguiendo algunas reglas simples.

592
00:43:27,730 --> 00:43:32,484
Y a raíz de eso, vemos que surge
una especie de comportamiento colectivo.

593
00:43:33,986 --> 00:43:37,573
Lo más inspirador
de los enjambres naturales es

594
00:43:37,656 --> 00:43:40,034
su habilidad para moverse.

595
00:43:40,618 --> 00:43:44,330
Es como si estuvieran hechos
para ser parte de ese grupo.

596
00:43:46,832 --> 00:43:51,170
Idealmente, lo que nos gustaría ver
en este enjambre de drones es

597
00:43:51,253 --> 00:43:53,631
que, al igual
que en los enjambres naturales,

598
00:43:53,714 --> 00:43:56,759
las decisiones sean tomadas
colectivamente por el grupo.

599
00:43:59,970 --> 00:44:02,806
La otra parte
que nos resulta inspiradora es

600
00:44:02,890 --> 00:44:06,310
su capacidad
de confiabilidad y resiliencia.

601
00:44:07,353 --> 00:44:09,855
El enjambre no se viene abajo

602
00:44:09,938 --> 00:44:13,609
si un animal individual no hace
lo que debería hacer.

603
00:44:15,235 --> 00:44:18,739
Incluso si uno
de los agentes cae o fracasa,

604
00:44:18,822 --> 00:44:20,908
o no es capaz de completar su tarea,

605
00:44:21,950 --> 00:44:23,911
el enjambre sigue adelante.

606
00:44:25,245 --> 00:44:27,915
Y, al final,
eso es lo que queremos conseguir.

607
00:44:29,375 --> 00:44:31,502
En los escenarios de combate,

608
00:44:31,585 --> 00:44:34,463
es necesario identificar
aeronaves enemigas.

609
00:44:34,546 --> 00:44:37,883
Solíamos requerir de una persona
controlando un solo robot.

610
00:44:38,634 --> 00:44:40,594
Con el aumento de la autonomía,

611
00:44:40,678 --> 00:44:44,598
espero que podamos ver un gran número
de robots siendo controlados

612
00:44:44,682 --> 00:44:46,600
por un pequeño número de personas.

613
00:44:47,893 --> 00:44:50,896
No veo razón
por la que no podamos llegar a los miles,

614
00:44:51,397 --> 00:44:56,485
porque cada agente será capaz de actuar
por sí solo, y el cielo es el límite.

615
00:44:56,568 --> 00:44:59,113
Podremos escalar
nuestro aprendizaje automático.

616
00:44:59,196 --> 00:45:00,447
Hemos trabajado

617
00:45:00,531 --> 00:45:03,367
en la simulación
del enjambre por un buen tiempo,

618
00:45:03,450 --> 00:45:06,870
y es hora de llevar eso
a una nave del mundo real.

619
00:45:08,330 --> 00:45:12,084
Esperamos poder manejar tres robots
a la vez, en la misma red,

620
00:45:12,167 --> 00:45:15,170
y luego empezaremos
a agregar más capacidades.

621
00:45:15,921 --> 00:45:18,966
Queremos ser capaces
de probarlo en sistemas más pequeños,

622
00:45:19,049 --> 00:45:22,469
pero llevar los mismos conceptos
y aplicarlos en sistemas más grandes

623
00:45:22,553 --> 00:45:23,721
como jets de combate.

624
00:45:25,139 --> 00:45:26,557
Hablamos mucho

625
00:45:26,640 --> 00:45:31,979
cómo darle a un pelotón
el poder de combate de un batallón.

626
00:45:35,023 --> 00:45:39,570
Con un enjambre, puedes transformar
el poder de combate de una brigada

627
00:45:39,653 --> 00:45:41,530
en un batallón.

628
00:45:42,656 --> 00:45:45,242
Y cuando podamos liberar
el poder del enjambre,

629
00:45:45,325 --> 00:45:48,120
habremos creado
una nueva disuasión estratégica

630
00:45:48,203 --> 00:45:49,496
en el ataque militar.

631
00:45:52,374 --> 00:45:54,585
Creo que lo más emocionante es

632
00:45:54,668 --> 00:45:57,045
el número de hombres y mujeres jóvenes

633
00:45:57,129 --> 00:46:00,340
que salvaremos si hacemos esto bien.

634
00:46:01,133 --> 00:46:03,635
Y cambiaremos máquinas

635
00:46:04,595 --> 00:46:05,888
por vidas humanas.

636
00:46:06,680 --> 00:46:10,601
Hay gente que discute
que las armas autónomas harán de la guerra

637
00:46:10,684 --> 00:46:12,352
algo más preciso y más humano,

638
00:46:12,895 --> 00:46:15,439
pero en realidad es difícil predecir

639
00:46:15,522 --> 00:46:18,442
exactamente cómo cambiarán
las armas autónomas

640
00:46:18,525 --> 00:46:19,985
el futuro de la guerra.

641
00:46:21,111 --> 00:46:23,280
Como el invento
de la ametralladora Gatling.

642
00:46:23,363 --> 00:46:25,491
AMETRALLADORA GATLING
PATENTADA EN 1865

643
00:46:25,574 --> 00:46:27,367
Richard Gatling fue un inventor

644
00:46:28,118 --> 00:46:31,246
que veía a los soldados regresar heridos
en la Guerra Civil

645
00:46:32,331 --> 00:46:35,751
y quiso encontrar un modo
de hacer de la guerra algo más humano.

646
00:46:36,585 --> 00:46:39,838
Quería reducir el número
de soldados caídos en la guerra

647
00:46:40,464 --> 00:46:42,674
reduciendo el número
en el campo de batalla.

648
00:46:44,134 --> 00:46:46,220
Él inventó la ametralladora Gatling,

649
00:46:46,303 --> 00:46:48,430
un arma automatizada con una manivela

650
00:46:48,514 --> 00:46:50,557
que automatizaba el proceso de disparo.

651
00:46:53,310 --> 00:46:58,023
Logró incrementar, en cientos,
el poder de disparo de un solo soldado.

652
00:47:01,276 --> 00:47:05,280
A menudo, los esfuerzos por hacer
de la guerra algo más preciso y humano

653
00:47:06,532 --> 00:47:08,033
tienen el efecto opuesto.

654
00:47:10,202 --> 00:47:13,497
Pensemos en el efecto
de un ataque errático con drones

655
00:47:13,580 --> 00:47:15,374
en un área rural que pone

656
00:47:15,457 --> 00:47:19,169
a la población local en contra
de los Estados Unidos del gobierno local,

657
00:47:19,253 --> 00:47:20,754
supuestamente los buenos.

658
00:47:22,631 --> 00:47:25,050
Ahora, magnifiquen eso por mil.

659
00:47:27,177 --> 00:47:30,347
La creación
de un sistema de armas que es barato,

660
00:47:30,430 --> 00:47:34,601
escalable y que no requiere
operadores humanos,

661
00:47:34,685 --> 00:47:37,938
cambia drásticamente
las barreras actuales del conflicto.

662
00:47:40,148 --> 00:47:41,775
A veces me quita el sueño

663
00:47:41,859 --> 00:47:45,612
la idea de un mundo
en el que la guerra ya es omnipresente.

664
00:47:45,696 --> 00:47:48,699
Ya no cargamos con el costo humano
y financiero de la guerra,

665
00:47:48,782 --> 00:47:51,451
porque estamos desapegados

666
00:47:52,411 --> 00:47:54,079
de las vidas que se perderán.

667
00:47:59,543 --> 00:48:01,461
Todo este asunto me acecha.

668
00:48:02,254 --> 00:48:04,047
Solo necesitaba un ejemplo

669
00:48:04,131 --> 00:48:06,717
de un mal uso
de la inteligencia artificial.

670
00:48:07,467 --> 00:48:10,929
Las consecuencias no previstas
de un simple experimento

671
00:48:11,013 --> 00:48:13,307
que habría llegado demasiado lejos.

672
00:48:13,390 --> 00:48:16,435
IA EN DESCUBRIMIENTO DE DROGAS:
EVITAR HACER MÁS MAL QUE BIEN

673
00:48:16,518 --> 00:48:20,814
Cuando hice mi presentación
sobre las moléculas tóxicas creadas

674
00:48:20,898 --> 00:48:24,359
por la tecnología IA,
la audiencia quedó atónita.

675
00:48:25,444 --> 00:48:27,654
5000 COMPUESTOS ERAN ANÁLOGOS DEL VX

676
00:48:29,239 --> 00:48:30,157
CAFEÍNA

677
00:48:30,240 --> 00:48:34,119
La siguiente decisión era
si debíamos publicar la información.

678
00:48:34,953 --> 00:48:39,207
Por un lado, queríamos advertirle al mundo
de esta clase de capacidades,

679
00:48:39,291 --> 00:48:42,753
pero, por otro lado,
no queríamos darle a alguien la idea

680
00:48:42,836 --> 00:48:44,713
si es que no la había pensado antes.

681
00:48:46,423 --> 00:48:48,926
Decidimos que valía la pena publicarlo

682
00:48:49,009 --> 00:48:53,430
para buscar un modo de mitigar
los usos erróneos de este tipo de IA

683
00:48:53,513 --> 00:48:54,765
antes de que suceda.

684
00:48:54,848 --> 00:48:57,017
DOBLE USO
DE DESCUBRIMIENTO DE DROGAS POR IA

685
00:48:57,100 --> 00:48:59,269
EL USO DE IA
EN EL DESCUBRIMIENTO DE DROGAS

686
00:48:59,353 --> 00:49:01,855
PODRÍA USARSE
PARA DISEÑAR ARMAS BIOQUÍMICAS

687
00:49:01,939 --> 00:49:04,816
La reacción del público
en general fue alarmante.

688
00:49:07,736 --> 00:49:11,865
Aquí vemos la métrica de la página
y cuántas personas accedieron a ella.

689
00:49:11,949 --> 00:49:14,493
Los artículos que normalmente escribimos,

690
00:49:14,576 --> 00:49:17,245
con suerte,
son vistos por algunos miles de personas

691
00:49:17,329 --> 00:49:19,873
a lo largo de un año o de varios años.

692
00:49:19,957 --> 00:49:23,168
Diez mil personas lo leyeron
en una semana.

693
00:49:23,251 --> 00:49:26,838
Luego 20 000,
luego 30 000, luego 40 000.

694
00:49:26,922 --> 00:49:28,757
Llegamos a 10 000 personas por día.

695
00:49:28,840 --> 00:49:30,759
MANIPULAR IA PARA CREAR ARMAS QUÍMICAS

696
00:49:30,842 --> 00:49:33,553
Estuvimos en The Economist,
el Financial Times.

697
00:49:33,637 --> 00:49:34,805
EL LADO OSCURO DE LA IA

698
00:49:34,888 --> 00:49:36,223
40 000 RECETAS PARA MATAR

699
00:49:36,306 --> 00:49:38,767
Radiolab se comunicó con nosotros.

700
00:49:38,850 --> 00:49:40,602
Yo escucho Radiolab.

701
00:49:41,979 --> 00:49:45,941
Pero, luego, las reacciones
respecto a esto se salieron de control.

702
00:49:48,860 --> 00:49:49,778
ES ATERRADOR

703
00:49:49,861 --> 00:49:51,530
En los tuits que leíamos,

704
00:49:51,613 --> 00:49:54,324
la gente preguntaba:
"¿Pueden hacer algo peor?".

705
00:49:54,866 --> 00:49:56,201
"¿Por qué hicieron eso?".

706
00:49:56,284 --> 00:49:57,869
UN ARTÍCULO ESPANTOSO DE LEER

707
00:49:57,953 --> 00:50:01,123
ESTOS NERDOS NOS MATARÁN A TODOS

708
00:50:01,206 --> 00:50:04,543
Luego, recibimos una invitación
que jamás hubiéramos esperado.

709
00:50:08,839 --> 00:50:12,968
Hubo una intensa discusión al interior
de la Casa Blanca sobre el artículo,

710
00:50:13,051 --> 00:50:15,387
y querían hablar
con nosotros urgentemente.

711
00:50:18,849 --> 00:50:23,061
Obviamente, es un gran honor poder hablar
con gente a ese nivel.

712
00:50:24,146 --> 00:50:26,106
Pero cuando lo entiendes.

713
00:50:26,189 --> 00:50:28,358
Santo Dios, es la Casa Blanca, el jefe.

714
00:50:29,735 --> 00:50:34,031
Se trataba de haber recabado información
que ahora era una fuente abierta.

715
00:50:34,114 --> 00:50:38,618
En unas seis horas, el modelo ya era capaz
de generar más de 40 mil…

716
00:50:38,702 --> 00:50:41,830
Nos preguntaron
qué poder computacional era necesario,

717
00:50:41,913 --> 00:50:43,874
y les dijimos que no era nada especial.

718
00:50:44,374 --> 00:50:48,795
Una Mac con seis años de antigüedad
que compras en cualquier lado.

719
00:50:49,963 --> 00:50:51,298
Y eso los dejó helados.

720
00:50:55,010 --> 00:50:59,514
Las personas a cargo del entendimiento
de los agentes de la guerra química

721
00:50:59,598 --> 00:51:04,061
y las agencias de gobierno no tenían idea
de este potencial.

722
00:51:06,646 --> 00:51:09,858
Teníamos un recetario
para preparar armas químicas

723
00:51:10,692 --> 00:51:15,614
y, si llegaba a las manos
de alguien con intenciones malvadas,

724
00:51:16,615 --> 00:51:19,034
podría ser de verdad horripilante.

725
00:51:21,745 --> 00:51:23,246
La gente tiene que escuchar

726
00:51:23,330 --> 00:51:26,500
que se deben dar ciertos pasos
para regular esta tecnología

727
00:51:27,292 --> 00:51:31,046
o restringirla de un modo
que no pueda ser mal utilizada,

728
00:51:31,922 --> 00:51:35,217
porque el potencial de letalidad

729
00:51:36,218 --> 00:51:37,385
es aterrador.

730
00:51:41,473 --> 00:51:46,019
La cuestión de la ética en la IA ha sido
muy discutida por la sociedad,

731
00:51:46,603 --> 00:51:50,315
pero no por los ingenieros,
los especialistas o los matemáticos.

732
00:51:52,526 --> 00:51:56,863
Cada tecnología que creamos,
cada reciente innovación,

733
00:51:56,947 --> 00:52:00,659
al final es juzgada por la sociedad
respecto a cómo debería ser usada.

734
00:52:01,159 --> 00:52:02,994
PRINCIPIOS ÉTICOS PARA LA IA

735
00:52:03,078 --> 00:52:06,957
Por el momento,
el Departamento de Defensa dice

736
00:52:07,040 --> 00:52:11,962
que el único que decide asesinar
en el campo de batalla es un humano.

737
00:52:12,546 --> 00:52:15,132
Una máquina puede ser el agente letal,

738
00:52:15,715 --> 00:52:18,969
pero solo si es comandado
por un operador humano,

739
00:52:19,678 --> 00:52:21,471
y no veo que eso vaya a cambiar.

740
00:52:24,850 --> 00:52:28,145
Aseguran que este tipo
de tecnología será seguro.

741
00:52:29,062 --> 00:52:30,272
REGISTROS OCULTOS

742
00:52:30,355 --> 00:52:32,691
Pero el ejército
de los Estados Unidos no tiene

743
00:52:32,774 --> 00:52:35,527
una reputación muy confiable
en los ataques con drones.

744
00:52:35,610 --> 00:52:37,154
EE. UU. OCULTA ATAQUE AÉREO

745
00:52:37,237 --> 00:52:41,825
Entonces, si hablamos de confiarle la IA
al ejército de Estados Unidos,

746
00:52:41,908 --> 00:52:44,995
creo que los registros hablan
por sí solos.

747
00:52:46,329 --> 00:52:49,875
La política del Departamento
de Defensa de EE. UU.,

748
00:52:49,958 --> 00:52:51,668
en cuanto a armas autónomas,

749
00:52:51,751 --> 00:52:53,545
no prohíbe ningún sistema armado.

750
00:52:54,296 --> 00:52:57,382
E incluso si los militares no quisieran
armas autónomas,

751
00:52:57,465 --> 00:53:00,218
podemos verlos cediendo más decisiones

752
00:53:00,302 --> 00:53:03,722
a las máquinas
para ir a la par de los competidores.

753
00:53:04,806 --> 00:53:08,268
Eso puede hacer que las milicias
automaticen las decisiones

754
00:53:08,351 --> 00:53:10,020
aunque antes no hubieran querido.

755
00:53:12,063 --> 00:53:13,481
Vladímir Putin dijo:

756
00:53:13,565 --> 00:53:16,735
"Quien sea el líder
en IA va a dominar el mundo".

757
00:53:17,777 --> 00:53:20,614
El Presidente Xi ha dejado claro

758
00:53:20,697 --> 00:53:23,366
que la IA es
una de las tecnologías número uno

759
00:53:23,450 --> 00:53:25,744
que China pretende dominar.

760
00:53:26,828 --> 00:53:29,873
Es claro que estamos
en una competencia tecnológica.

761
00:53:33,543 --> 00:53:35,712
Escuchamos a la gente hablar

762
00:53:36,504 --> 00:53:38,006
sobre tomar precauciones,

763
00:53:38,089 --> 00:53:40,342
y me parece
que es lo que deberíamos hacer.

764
00:53:41,009 --> 00:53:45,222
Pero hay una carrera muy real
por la superioridad en IA.

765
00:53:47,307 --> 00:53:51,645
Y nuestros adversarios,
ya sea China o Rusia, o bien Irán,

766
00:53:51,728 --> 00:53:53,855
no van a tener consideraciones

767
00:53:53,939 --> 00:53:56,608
con respecto
a nuestras políticas acerca de la IA.

768
00:54:00,862 --> 00:54:04,366
Ahora hay una mayor discusión
respecto a las políticas de la IA,

769
00:54:06,159 --> 00:54:09,579
pero me gustaría que hubiera
más líderes involucrados diciendo:

770
00:54:09,663 --> 00:54:11,831
"¿Qué tan rápido podemos construir esto?".

771
00:54:12,749 --> 00:54:15,210
Usemos todos
nuestros recursos para construirla.

772
00:54:18,964 --> 00:54:21,341
AUSA - REUNIÓN Y EXPOSICIÓN ANUAL

773
00:54:24,219 --> 00:54:26,846
EJÉRCITO DE ESTADOS UNIDOS

774
00:54:33,895 --> 00:54:38,400
Estamos en la convención anual
de la Asociación del Ejército de EE. UU.

775
00:54:40,068 --> 00:54:43,238
Prácticamente, cualquier proveedor
que venda productos

776
00:54:43,321 --> 00:54:46,658
o tecnología
de uso militar estará exhibiendo aquí.

777
00:54:47,742 --> 00:54:50,578
La Base Tyndall
de la fuerza aérea tiene cuatro

778
00:54:50,662 --> 00:54:53,790
de nuestros robots patrullando
las 24 horas, toda la semana.

779
00:54:55,792 --> 00:54:59,504
Podemos incorporar todo,
desde cámaras o sensores

780
00:54:59,587 --> 00:55:01,506
hasta brazos manipuladores.

781
00:55:01,589 --> 00:55:05,176
Lo que sea con tal de cumplir
la misión que el cliente tenga en mente.

782
00:55:06,720 --> 00:55:08,680
¿Y si el enemigo introduce IA?

783
00:55:09,472 --> 00:55:13,018
Tendrá un sistema de combate
que piense más rápido

784
00:55:13,101 --> 00:55:15,186
y se esconda más rápido que un humano.

785
00:55:15,270 --> 00:55:17,022
Debemos prepararnos para eso.

786
00:55:17,647 --> 00:55:21,943
Entrenamos nuestros sistemas
para que recaben información del enemigo,

787
00:55:22,569 --> 00:55:26,573
y manejen objetivos enemigos
con supervisión humana para ejecutar.

788
00:55:33,330 --> 00:55:36,041
- General, soy Brandon Tseng.
- ¿Cómo va? ¿Qué tenemos?

789
00:55:36,124 --> 00:55:37,584
Bien, señor.

790
00:55:37,667 --> 00:55:41,338
Yo diría que nadie está invirtiendo más
en pilotos con IA.

791
00:55:41,421 --> 00:55:44,549
El nuestro se llama Hivemind,
y se lo aplicamos

792
00:55:44,632 --> 00:55:47,177
a nuestro cuadricóptero Nova
que explora edificios

793
00:55:47,260 --> 00:55:50,805
antes de que entren las Fuerzas Especiales
de operación e infanteria.

794
00:55:51,306 --> 00:55:53,600
Estamos aplicando Hivemind a V-BAT,

795
00:55:53,683 --> 00:55:56,853
y estamos considerando ensamblar
cientos de esos equipos.

796
00:55:56,936 --> 00:56:00,106
Ya sea en el estrecho de Taiwán,
ya sea en Ucrania,

797
00:56:00,190 --> 00:56:03,401
para disuadir a nuestros adversarios.
Eso me emociona mucho.

798
00:56:03,985 --> 00:56:04,819
Muy bien.

799
00:56:04,903 --> 00:56:06,529
- Gracias, general.
- Gracias.

800
00:56:08,031 --> 00:56:13,411
Los pilotos IA deberían extenderse
por todo el planeta para el 2025, 2030.

801
00:56:14,245 --> 00:56:17,624
Su adopción será muy rápida
en los ejércitos del mundo entero.

802
00:56:18,917 --> 00:56:22,295
¿Qué están haciendo
en el ejército rumano, ya usan drones?

803
00:56:22,379 --> 00:56:23,421
MEJOR PILOTO DE IA

804
00:56:23,505 --> 00:56:25,465
Alta tecnología militar.

805
00:56:25,548 --> 00:56:30,220
Hasta hoy, hemos gastado 500 millones
de dólares construyendo un piloto IA

806
00:56:30,303 --> 00:56:33,306
y gastaremos otros mil millones
en los siguientes cinco años.

807
00:56:33,390 --> 00:56:35,558
Es la principal razón por la que ganamos

808
00:56:35,642 --> 00:56:37,811
en los programas de registro en EE. UU.

809
00:56:38,395 --> 00:56:42,774
Bien. Me parece impresionante.
¿Y tuvieron éxito dándole armamento?

810
00:56:43,691 --> 00:56:45,610
Aún no tiene armas

811
00:56:45,693 --> 00:56:48,947
Aún no lo hacemos. Pero en el futuro, sí.

812
00:56:49,030 --> 00:56:51,157
Nuestro clientes ven esto como un camión.

813
00:56:51,241 --> 00:56:54,994
Como si fuera un camión inteligente
que puede hacer muchas cosas diferentes.

814
00:56:55,078 --> 00:56:57,956
- Gracias, amigo.
- Estaré en contacto con ustedes.

815
00:57:01,709 --> 00:57:04,921
Si regresamos aquí en diez años,

816
00:57:05,004 --> 00:57:10,844
veremos que la IA y la autonomía
habrán dominado el mercado por completo.

817
00:57:14,931 --> 00:57:19,394
Las fuerzas
que se apoyan en la IA y la autonomía

818
00:57:19,477 --> 00:57:25,150
dominarán, aplastarán
y destruirán a otras fuerzas por completo.

819
00:57:26,443 --> 00:57:30,822
Será el equivalente
a los caballos luchando contra tanques,

820
00:57:31,823 --> 00:57:34,868
gente con espadas enfrentándose
a una ametralladora.

821
00:57:34,951 --> 00:57:37,162
No será una lucha justa.

822
00:57:38,705 --> 00:57:40,832
Se extenderá
por todo el planeta.

823
00:57:40,915 --> 00:57:43,376
Se usará en todo el espectro de la guerra,

824
00:57:43,460 --> 00:57:44,878
a nivel táctico,

825
00:57:45,879 --> 00:57:47,255
a nivel estratégico

826
00:57:47,338 --> 00:57:50,842
operando a velocidades
que los humanos no pueden imaginar ahora.

827
00:57:53,136 --> 00:57:57,140
Los comandantes ya se sienten
abrumados con toda esta información.

828
00:57:57,640 --> 00:58:01,519
Las imágenes de los satélites,
los drones, los sensores.

829
00:58:02,395 --> 00:58:04,564
Una de las cosas que la IA puede hacer es

830
00:58:04,647 --> 00:58:07,984
ayudar a un comandante a entender
rápidamente lo que está pasando.

831
00:58:08,067 --> 00:58:10,069
Para saber qué decisiones tomar.

832
00:58:11,279 --> 00:58:14,407
La inteligencia artificial
podrá tomar en consideración

833
00:58:14,491 --> 00:58:17,744
todos los factores que determinan
cómo se pelea una guerra,

834
00:58:18,328 --> 00:58:20,288
desarrollar estrategias

835
00:58:22,582 --> 00:58:25,710
y hacer recomendaciones
de cómo ganar una batalla.

836
00:58:37,013 --> 00:58:40,308
Aquí en Lockheed Martin,
al igual que nuestro cliente,

837
00:58:40,391 --> 00:58:43,603
el Departamento de Defensa,
vemos la IA como tecnología clave

838
00:58:43,686 --> 00:58:45,146
para el comando y el control.

839
00:58:47,357 --> 00:58:50,610
Rango de dispersión
de 60 centímetros por segundo.

840
00:58:50,693 --> 00:58:52,820
Perímetro de 280 hectáreas.

841
00:58:52,904 --> 00:58:55,281
La neblina
de la guerra es una realidad

842
00:58:55,365 --> 00:58:57,075
para todos en el lado defensivo,

843
00:58:57,158 --> 00:59:00,411
pero tiene paralelos
al ser parte del medio ambiente,

844
00:59:00,495 --> 00:59:03,248
y debemos tomar decisiones
también cuando hay incendios.

845
00:59:03,331 --> 00:59:06,626
El incendio está
al norte de la ciudad de Wawona.

846
00:59:06,709 --> 00:59:09,671
Debemos tomar decisiones
con datos imperfectos.

847
00:59:10,421 --> 00:59:11,923
¿Cómo podemos usar a la IA…

848
00:59:12,006 --> 00:59:13,007
VICEPRESIDENTE DE IA

849
00:59:13,091 --> 00:59:14,634
…para la neblina de la guerra?

850
00:59:17,679 --> 00:59:19,639
Los incendios son caóticos.

851
00:59:20,223 --> 00:59:21,307
Son muy complejos,

852
00:59:22,308 --> 00:59:26,229
así que estamos trabajando
para utilizar inteligencia artificial

853
00:59:26,312 --> 00:59:28,314
que nos ayude en la toma de decisiones.

854
00:59:31,484 --> 00:59:34,028
El Administrador de Misión Cognitivo es

855
00:59:34,112 --> 00:59:37,991
un programa que desarrollamos
que toma video aéreo infrarrojo,

856
00:59:38,575 --> 00:59:42,036
y luego lo procesa usando algoritmos de IA

857
00:59:42,120 --> 00:59:45,290
para ser capaz de predecir
el estado futuro del incendio.

858
00:59:48,084 --> 00:59:50,086
Al avanzar hacia el futuro,

859
00:59:50,169 --> 00:59:52,672
el Administrador de Misión Cognitiva usará

860
00:59:52,755 --> 00:59:55,133
simulaciones y correrá escenarios

861
00:59:55,216 --> 00:59:57,135
sobre miles de ciclos

862
00:59:57,218 --> 01:00:00,763
para recomendarnos el modo más efectivo
para desplegar recursos

863
01:00:00,847 --> 01:00:04,475
y suprimir el fuego
en áreas de alta prioridad.

864
01:00:08,104 --> 01:00:09,564
Nos dirá:

865
01:00:09,647 --> 01:00:12,859
"Debes hacer una supresión aérea
con un Firehawk aquí,

866
01:00:13,610 --> 01:00:16,529
mueve grupos en tierra
para quitar escombros,

867
01:00:17,155 --> 01:00:19,616
envía bomberos con mangueras,

868
01:00:19,699 --> 01:00:23,119
y despliégalos
a las áreas de prioridad más alta".

869
01:00:26,331 --> 01:00:31,085
Esas decisiones se generarán
de manera más rápida y más eficiente.

870
01:00:35,882 --> 01:00:38,176
Vemos a la IA como algo único

871
01:00:38,259 --> 01:00:40,637
que le permitirá
a los humanos seguir el ritmo

872
01:00:40,720 --> 01:00:42,930
de un medio ambiente siempre cambiante.

873
01:00:43,640 --> 01:00:48,478
Y hay un número considerable de paralelos
que hemos usado aquí en Lockheed Martin,

874
01:00:48,561 --> 01:00:50,563
hablando de defensa.

875
01:00:52,273 --> 01:00:55,610
Los ejércitos
ya no solo están hablando de la IA

876
01:00:55,693 --> 01:00:58,571
y de sistemas armados individuales
para tomar decisiones

877
01:00:58,655 --> 01:01:00,365
de objetivos y asesinatos,

878
01:01:00,907 --> 01:01:03,117
sino que están integrando la IA

879
01:01:03,201 --> 01:01:06,621
en toda la estructura de toma
de decisiones de temas militares.

880
01:01:09,499 --> 01:01:13,419
El Ejército tiene un gran proyecto
llamado Proyecto Convergencia.

881
01:01:14,587 --> 01:01:16,631
La Marina tiene Overmatch,

882
01:01:16,714 --> 01:01:20,510
y la Fuerza Aérea el Sistema Avanzado
de Administración de Batalla.

883
01:01:22,512 --> 01:01:26,724
El Departamento de Defensa trata
de descifrar cómo armar este rompecabezas

884
01:01:26,808 --> 01:01:29,310
para poder operar más rápido
que nuestro enemigo

885
01:01:30,436 --> 01:01:32,397
y poder sacar una ventaja real.

886
01:01:33,523 --> 01:01:36,401
Un Administrador
de Batalla IA sería

887
01:01:36,484 --> 01:01:39,862
como un General de Alto Rango
a cargo de una batalla.

888
01:01:41,197 --> 01:01:44,200
Ayudaría a dar órdenes a tropas numerosas,

889
01:01:45,159 --> 01:01:48,621
coordinaría las acciones
de todas las armas en el campo,

890
01:01:48,705 --> 01:01:51,999
y lo haría a una velocidad
que ningún ser humano alcanzaría.

891
01:01:53,584 --> 01:01:56,212
Hemos pasado 70 años construyendo

892
01:01:56,295 --> 01:01:58,840
el ejército más sofisticado
en todo el planeta,

893
01:01:58,923 --> 01:02:03,219
y ahora enfrentamos la disyuntiva
de si debemos o no cederle el control

894
01:02:03,302 --> 01:02:07,640
de esa infraestructura
a un algoritmo, un software.

895
01:02:10,393 --> 01:02:13,229
Y las consecuencias de esas decisiones

896
01:02:13,312 --> 01:02:17,358
pueden desatar el poder absoluto
de nuestros arsenales militares.

897
01:02:17,442 --> 01:02:19,944
No es un solo Hiroshima. Son cientos.

898
01:02:25,658 --> 01:02:28,786
Este es el momento
en el que debemos actuar,

899
01:02:28,870 --> 01:02:33,207
porque la ventana para contener
el riesgo se cierra rápidamente.

900
01:02:34,083 --> 01:02:35,543
ONU, 27 DE SEPTIEMBRE DE 2021

901
01:02:35,626 --> 01:02:37,795
Empezaremos con los desafíos

902
01:02:37,879 --> 01:02:41,174
de seguridad internacional
que presentan las tecnologías…

903
01:02:41,257 --> 01:02:42,091
PRESIDENTE

904
01:02:42,175 --> 01:02:44,385
…en el área de armas autónomas letales.

905
01:02:44,469 --> 01:02:45,303
SECRETARIA

906
01:02:45,386 --> 01:02:47,764
Hay conversaciones en la ONU

907
01:02:47,847 --> 01:02:50,641
sobre la amenaza
de las armas autónomas letales

908
01:02:50,725 --> 01:02:51,559
ESTADOS UNIDOS

909
01:02:51,642 --> 01:02:54,312
y nuestra prohibición
a los sistemas que usen IA

910
01:02:54,395 --> 01:02:56,606
para seleccionar y marcar personas.

911
01:02:56,689 --> 01:03:00,818
El consenso entre los tecnólogos es
claro y contundente.

912
01:03:00,902 --> 01:03:04,655
Nos oponemos a las armas autónomas
que seleccionen humanos.

913
01:03:05,656 --> 01:03:08,159
Durante años,
los países han ayudado

914
01:03:08,242 --> 01:03:11,829
en la discusión sobre los sistemas
armados autónomos letales.

915
01:03:11,913 --> 01:03:13,581
LOS ROBOTS ASESINOS EXISTEN

916
01:03:13,664 --> 01:03:17,043
Se trata de un sentido
de seguridad común y compartido.

917
01:03:17,710 --> 01:03:21,047
Pero, por supuesto, no es sencillo.

918
01:03:21,130 --> 01:03:26,761
Ciertos países,
en especial las potencias militares,

919
01:03:26,844 --> 01:03:31,808
quieren estar a la cabeza de la carrera
para tener ventaja sobre sus adversarios.

920
01:03:32,642 --> 01:03:35,561
El problema es
que todos deben estar de acuerdo

921
01:03:35,645 --> 01:03:37,188
para que esto se lleve a cabo.

922
01:03:37,271 --> 01:03:39,482
Siempre habrá
al menos un país que proteste

923
01:03:39,565 --> 01:03:42,610
y, ciertamente, Estados Unidos
y Rusia han dejado claro

924
01:03:42,693 --> 01:03:46,030
que se oponen a firmar un tratado
que prohíba las armas autónomas.

925
01:03:47,907 --> 01:03:50,660
Cuando vemos
el número de personas que trabajan

926
01:03:50,743 --> 01:03:53,246
para crear la IA más poderosa,

927
01:03:54,789 --> 01:03:56,499
es una cantidad abrumadora.

928
01:03:57,792 --> 01:04:00,378
Cuando vemos el número de personas

929
01:04:00,461 --> 01:04:02,922
que se aseguran de que la IA sea segura,

930
01:04:04,382 --> 01:04:07,552
la cantidad resulta mucho menor.

931
01:04:11,806 --> 01:04:13,766
Pero también soy muy optimista.

932
01:04:16,102 --> 01:04:19,522
Recuerdo algo
como la Convención de Armas Biológicas

933
01:04:19,605 --> 01:04:21,816
que tuvo lugar
a la mitad de la Guerra Fría.

934
01:04:23,067 --> 01:04:27,697
Sin importar las tensiones
entre la Unión Soviética y los EE. UU.,

935
01:04:29,198 --> 01:04:33,578
fueron capaces de entender
que el desarrollo de armas biológicas

936
01:04:33,661 --> 01:04:36,289
no le convenía a ninguna de las partes,

937
01:04:36,372 --> 01:04:38,791
y, por supuesto,
tampoco al resto del mundo.

938
01:04:41,377 --> 01:04:45,256
La carrera militar favorece a la velocidad
más que a la seguridad.

939
01:04:45,756 --> 01:04:48,384
Pero creo que es muy importante considerar

940
01:04:48,467 --> 01:04:52,471
que, en cierto punto, el costo
de ese rápido avance se vuelve muy alto.

941
01:04:56,267 --> 01:04:59,312
No podemos solo desarrollar
cosas en aislamiento

942
01:05:00,104 --> 01:05:04,525
y luego sacarlas al mundo
sin haber tomado en consideración

943
01:05:05,151 --> 01:05:06,861
hacia dónde irán en el futuro.

944
01:05:07,904 --> 01:05:10,865
Tenemos que prevenir otro momento
como la bomba atómica.

945
01:05:14,619 --> 01:05:18,247
Los riesgos en la carrera
de la IA son inmensos.

946
01:05:18,331 --> 01:05:22,043
No creo que muchas personas entiendan
la estabilidad

947
01:05:22,126 --> 01:05:24,962
que nos ha sido brindada por tener

948
01:05:25,046 --> 01:05:31,177
una fuerza militar superior
en los últimos 75 años.

949
01:05:32,929 --> 01:05:36,307
Y, por eso,
los Estados Unidos y sus fuerzas aliadas

950
01:05:36,390 --> 01:05:39,143
tienen que superar
a la IA de los adversarios.

951
01:05:43,356 --> 01:05:45,399
No hay segundo lugar en la guerra.

952
01:05:45,483 --> 01:05:47,693
China presentó
un ambicioso plan

953
01:05:47,777 --> 01:05:50,613
para ser líder mundial en IA para 2030.

954
01:05:50,696 --> 01:05:52,782
Algunos dicen que EE. UU. está perdiendo.

955
01:05:52,865 --> 01:05:56,202
Tenemos que acelerar
la adopción de la IA

956
01:05:56,285 --> 01:05:59,288
para asegurar
nuestra ventaja competitiva militar.

957
01:06:02,917 --> 01:06:05,503
Estamos avanzando
con esta tecnología.

958
01:06:05,586 --> 01:06:08,923
Creo que lo que no está claro es:
¿Qué tan lejos vamos a llegar?

959
01:06:09,548 --> 01:06:12,802
¿Controlamos la tecnología,
o la tecnología nos controla?

960
01:06:14,178 --> 01:06:17,014
No hay lugar
para segundas oportunidades.

961
01:06:17,848 --> 01:06:20,351
Cuando el genio haya salido de la lámpara,

962
01:06:20,434 --> 01:06:21,435
será definitivo.

963
01:06:22,645 --> 01:06:25,231
Y será muy difícil volverlo a meter.

964
01:06:28,651 --> 01:06:31,904
Y si no actuamos ahora,
será muy tarde.

965
01:06:33,155 --> 01:06:34,699
Quizá ya sea muy tarde.