1
00:00:02,000 --> 00:00:07,000
Downloaded from
YTS.MX

2
00:00:08,000 --> 00:00:13,000
Official YIFY movies site:
YTS.MX

3
00:00:24,065 --> 00:00:26,818
La inteligencia artificial
es impresionante.

4
00:00:28,361 --> 00:00:31,489
Muy bien, ya sube. Buena formación.

5
00:00:33,116 --> 00:00:36,703
Tiene el potencial de eliminar la pobreza,

6
00:00:36,786 --> 00:00:38,705
crear medicamentos nuevos

7
00:00:39,330 --> 00:00:41,583
y hacer el mundo más pacífico.

8
00:00:46,087 --> 00:00:46,921
Buen trabajo.

9
00:00:49,883 --> 00:00:53,428
Pero hay muchos riesgos en el camino.

10
00:01:04,773 --> 00:01:09,611
Con la inteligencia artificial,
creamos una inteligencia no humana

11
00:01:09,694 --> 00:01:11,863
que es muy impredecible.

12
00:01:14,407 --> 00:01:16,451
A medida que se potencia,

13
00:01:16,534 --> 00:01:19,746
¿dónde quedan límites
que se van a trazar con la IA

14
00:01:19,829 --> 00:01:22,665
en cuanto a si vamos a usarla o no?

15
00:01:25,001 --> 00:01:28,505
No hay mayor punto de partida
en este asunto

16
00:01:28,588 --> 00:01:31,049
que la aplicación militar.

17
00:01:34,010 --> 00:01:38,890
El campo de batalla se ha convertido
en el área del software y hardware.

18
00:01:41,059 --> 00:01:42,936
Objetivo adquirido…

19
00:01:43,019 --> 00:01:46,022
Los militares
se apuran para desarrollar IA

20
00:01:46,106 --> 00:01:48,399
antes que sus adversarios.

21
00:01:49,526 --> 00:01:50,360
Estoy muerto.

22
00:01:53,780 --> 00:01:58,326
Avanzamos rápidamente hacia un mundo
donde no solo los grandes ejércitos

23
00:01:58,409 --> 00:02:02,997
sino también figuras no estatales,
industrias privadas

24
00:02:03,081 --> 00:02:06,042
o incluso nuestra comisaría del barrio

25
00:02:06,543 --> 00:02:10,046
podrían usar estas armas
que matan de forma autónoma.

26
00:02:12,006 --> 00:02:17,303
¿Cederemos la decisión de quitar vidas
a algoritmos, a programas informáticos?

27
00:02:18,638 --> 00:02:21,516
Es uno de los temas
más urgentes de nuestra época.

28
00:02:23,935 --> 00:02:26,354
Y, si no se usa apropiadamente,

29
00:02:26,437 --> 00:02:30,275
supone un gran riesgo
para todas las personas del mundo.

30
00:02:41,828 --> 00:02:44,914
LO DESCONOCIDO

31
00:02:46,833 --> 00:02:50,086
LOS ROBOTS ASESINOS

32
00:03:28,291 --> 00:03:30,168
Bien hecho, chicos.

33
00:03:59,948 --> 00:04:03,117
- La lente es mucho más amplia que antes.
- ¿En serio?

34
00:04:03,201 --> 00:04:04,786
Se ven muchos más datos.

35
00:04:05,286 --> 00:04:06,287
Grandioso.

36
00:04:07,538 --> 00:04:11,167
En Shield AI,
estamos creando un piloto de IA

37
00:04:11,251 --> 00:04:14,879
que pone la tecnología
de la inteligencia artificial autónoma

38
00:04:14,963 --> 00:04:16,631
en las aeronaves.

39
00:04:19,300 --> 00:04:21,719
Cuando hablamos de un piloto de IA,

40
00:04:21,803 --> 00:04:25,139
pensamos en darle a una aeronave
mayor autonomía.

41
00:04:25,223 --> 00:04:27,850
Resolvería problemas por su cuenta.

42
00:04:29,602 --> 00:04:32,355
Nova es un cuadricóptero autónomo

43
00:04:32,438 --> 00:04:35,942
que explora edificios
y estructuras subterráneas

44
00:04:36,859 --> 00:04:38,611
antes que las fuerzas humanas

45
00:04:38,695 --> 00:04:41,322
para tener imágenes y audio
en esos espacios.

46
00:04:41,906 --> 00:04:45,618
Hay muchísimas mejoras
desde la última vez que lo vimos.

47
00:04:45,702 --> 00:04:47,870
Estamos con cambios de exploración.

48
00:04:47,954 --> 00:04:50,248
Trabajamos piso por piso.

49
00:04:50,331 --> 00:04:53,584
Termina todos los cuartos de un piso
antes de ir a otro.

50
00:04:54,294 --> 00:04:56,796
- Es increíble.
- Hicimos algunos cambios…

51
00:04:56,879 --> 00:04:58,548
Muchos me preguntan

52
00:04:58,631 --> 00:05:02,468
por qué la inteligencia artificial
es una capacidad importante.

53
00:05:02,552 --> 00:05:06,973
Y pienso en las misiones que ejecutaba.

54
00:05:09,142 --> 00:05:10,935
Pasé siete años en la Marina.

55
00:05:11,561 --> 00:05:15,273
Fui SEAL de la Marina.
Me enviaron dos veces a Afganistán

56
00:05:15,356 --> 00:05:17,191
y una al Teatro del Pacífico.

57
00:05:18,026 --> 00:05:22,947
Un día cualquiera,
debíamos revisar 150 recintos o edificios.

58
00:05:30,997 --> 00:05:34,250
Una capacidad principal
es el combate cuerpo a cuerpo.

59
00:05:35,293 --> 00:05:39,172
Los tiroteos a muy corta distancia
dentro de los edificios.

60
00:05:41,466 --> 00:05:42,967
Te disparan.

61
00:05:43,468 --> 00:05:46,471
Hay explosivos improvisados
dentro del edificio.

62
00:05:49,015 --> 00:05:55,229
Es lo más peligroso que cualquier miembro
de las fuerzas especiales

63
00:05:55,313 --> 00:05:59,275
o de la infantería puede hacer
en una zona de combate. Sin duda.

64
00:06:12,497 --> 00:06:16,334
Siempre estaré agradecido
por mi tiempo en la Marina.

65
00:06:17,168 --> 00:06:22,423
Hay una serie de momentos y recuerdos
que, cuando los pienso,

66
00:06:22,507 --> 00:06:24,592
me conmueven mucho.

67
00:06:28,346 --> 00:06:32,725
Es un cliché que la libertad no es gratis,
pero lo creo totalmente.

68
00:06:33,559 --> 00:06:37,105
Lo he vivido
y requiere de mucho sacrificio.

69
00:06:38,022 --> 00:06:38,856
Perdón.

70
00:06:41,067 --> 00:06:44,570
Cuando algo malo
le pasa a uno de tus compañeros,

71
00:06:44,654 --> 00:06:46,614
que queda herido o muerto,

72
00:06:47,490 --> 00:06:49,700
eso es algo muy trágico.

73
00:06:49,784 --> 00:06:52,912
Para mí, en el trabajo que hacemos,

74
00:06:52,995 --> 00:06:58,835
motiva la posibilidad
de poder disminuir la cantidad de veces

75
00:06:58,918 --> 00:07:00,336
de que eso pase.

76
00:07:07,093 --> 00:07:08,886
A fines de la década del 2000,

77
00:07:08,970 --> 00:07:11,556
aumentó la conciencia
en el Departamento de Defensa

78
00:07:11,639 --> 00:07:15,810
sobre lo que podría llamarse
la revolución robótica accidental.

79
00:07:15,893 --> 00:07:19,564
Enviamos miles de robots aéreos
y terrestres a Irak y Afganistán.

80
00:07:21,482 --> 00:07:26,404
Cuando el gobierno de Obama me pidió
que fuera subsecretario de Defensa,

81
00:07:26,904 --> 00:07:31,117
la forma en que se libraba la guerra
estaba cambiando mucho.

82
00:07:32,452 --> 00:07:36,330
Se usaban robots
cuando se habría usado gente.

83
00:07:37,999 --> 00:07:40,376
Los primeros sistemas
se controlaban remotamente.

84
00:07:40,460 --> 00:07:45,590
Un humano los manejaba
como si fuera un auto a control remoto.

85
00:07:46,632 --> 00:07:51,512
Comenzaron buscando
artefactos explosivos improvisados.

86
00:07:52,013 --> 00:07:54,849
Si la bomba explotaba, el robot también.

87
00:07:57,393 --> 00:08:00,396
Decíamos: "Qué lástima.
Bien, saca otro robot".

88
00:08:02,231 --> 00:08:04,484
En Afganistán, estaba el dron Predator

89
00:08:05,276 --> 00:08:09,739
que se convirtió en una herramienta
muy útil para realizar ataques aéreos.

90
00:08:13,117 --> 00:08:16,829
Luego, los planificadores militares
comenzaron a preguntarse

91
00:08:16,913 --> 00:08:20,791
para qué más podían usarse los robots
y hacia dónde iba eso.

92
00:08:20,875 --> 00:08:24,170
Y una de las tendencias
fue la idea de mayor autonomía.

93
00:08:26,506 --> 00:08:30,635
Un arma autónoma
toma decisiones por sí sola

94
00:08:30,718 --> 00:08:33,304
con poca o ninguna intervención humana.

95
00:08:33,387 --> 00:08:37,558
Tiene una capacidad independiente
y es autodirigida.

96
00:08:38,434 --> 00:08:41,604
Que mate depende de si está armada o no.

97
00:08:43,314 --> 00:08:47,026
Cuando hay cada vez más autonomía
en todo tu sistema,

98
00:08:47,109 --> 00:08:49,779
se mueve a una velocidad precisa más alta.

99
00:08:51,989 --> 00:08:56,869
Y cuando operas a un ritmo
más veloz que tus rivales,

100
00:08:57,453 --> 00:09:01,165
es una ventaja extraordinariamente grande
en la batalla.

101
00:09:03,960 --> 00:09:06,254
En cuanto a la autonomía, nos centramos

102
00:09:07,255 --> 00:09:10,383
en sistemas de inteligencia
altamente resistentes.

103
00:09:12,051 --> 00:09:15,304
Sistemas que pueden leer y reaccionar
según su entorno

104
00:09:15,805 --> 00:09:19,642
y tomar decisiones
sobre cómo maniobrar en ese mundo.

105
00:09:24,981 --> 00:09:29,151
Estas instalaciones
se construyeron como un estudio de cine

106
00:09:29,235 --> 00:09:30,611
que se transformaron

107
00:09:30,695 --> 00:09:34,156
para permitir entornos
de entrenamiento militar realistas.

108
00:09:39,495 --> 00:09:43,291
Vinimos a evaluar
nuestro piloto de inteligencia artificial.

109
00:09:44,625 --> 00:09:49,297
La misión es buscar amenazas.
Se trata de fuerzas de despeje.

110
00:09:49,380 --> 00:09:52,800
Puede tomar una decisión
sobre cómo atacar el problema.

111
00:09:55,428 --> 00:09:59,390
A esto lo llamamos "el embudo fatal".
Debemos atravesar una puerta.

112
00:10:01,684 --> 00:10:03,311
Allí somos más vulnerables.

113
00:10:03,811 --> 00:10:05,146
Esta está mejor.

114
00:10:07,106 --> 00:10:12,653
El Nova nos avisa si hay un tirador
detrás de la puerta o si hay una familia.

115
00:10:15,114 --> 00:10:18,451
Nos permite tomar mejores decisiones
y sacar a la gente del peligro.

116
00:10:57,114 --> 00:10:59,367
Usamos los sensores de visión

117
00:10:59,450 --> 00:11:03,162
para tener una idea de cómo es el entorno.

118
00:11:04,997 --> 00:11:06,415
Hay varios pisos.

119
00:11:07,249 --> 00:11:08,334
Aquí está el mapa.

120
00:11:08,417 --> 00:11:11,671
Mientras exploraba, vi esto y el lugar.

121
00:11:19,929 --> 00:11:22,098
Detector de personas. Qué genial.

122
00:11:23,891 --> 00:11:27,478
Uno de los otros sensores del Nova
es un escáner térmico.

123
00:11:27,561 --> 00:11:30,690
Si dice 37 grados,
probablemente haya un humano.

124
00:11:32,358 --> 00:11:35,861
Las personas son amenazas
hasta considerarse lo contrario.

125
00:11:38,906 --> 00:11:43,244
Se trata de eliminar la incertidumbre
para tomar mejores decisiones.

126
00:11:44,704 --> 00:11:46,539
Y cuando pensamos en el futuro,

127
00:11:47,039 --> 00:11:50,793
anticipamos cómo construir equipos
de aeronaves autónomas.

128
00:11:53,754 --> 00:11:55,631
Con vehículos autónomos,

129
00:11:55,715 --> 00:11:59,802
la persona decía: "Quiero que vayas
del punto A al punto B."

130
00:12:02,930 --> 00:12:06,475
A nuestros sistemas
no se les pide ir del punto A al punto B,

131
00:12:06,559 --> 00:12:07,893
sino cumplir un objetivo.

132
00:12:10,312 --> 00:12:13,190
Es como decir: "Quiero leche".

133
00:12:13,274 --> 00:12:17,486
Luego el robot
tendría que averiguar a qué tienda ir,

134
00:12:17,570 --> 00:12:20,239
poder tomar esa leche y traerla de vuelta.

135
00:12:20,740 --> 00:12:22,074
Mejor todavía,

136
00:12:22,158 --> 00:12:27,037
se podría decir algo más apropiado
como: "Que el refrigerador esté lleno".

137
00:12:27,538 --> 00:12:32,168
Es un nivel de inteligencia que dilucida
qué necesitamos y cómo lo resolvemos.

138
00:12:32,251 --> 00:12:37,381
Y si hay un desafío, un problema
o un asunto, averigua cómo resolverlo.

139
00:12:40,801 --> 00:12:43,846
Cuando tomé la decisión
de irme de la Marina,

140
00:12:44,472 --> 00:12:47,558
empecé a pensar en qué vendría después.

141
00:12:49,143 --> 00:12:52,021
Crecí con internet. Vi cómo se transformó.

142
00:12:53,189 --> 00:12:55,608
Una conclusión a la que llegué

143
00:12:56,108 --> 00:12:58,861
fue que la inteligencia artificial en 2015

144
00:12:58,944 --> 00:13:02,907
estaba como internet en 1991.

145
00:13:04,033 --> 00:13:06,285
Y la IA estaba lista para despegar

146
00:13:06,368 --> 00:13:09,747
y ser una de las tecnologías
más poderosas del mundo.

147
00:13:11,791 --> 00:13:16,045
Trabajo con ella todos los días
y veo los avances que tiene.

148
00:13:19,048 --> 00:13:22,051
Pero mucha gente, cuando piensa la IA,

149
00:13:22,551 --> 00:13:25,221
enseguida piensa en Hollywood.

150
00:13:28,057 --> 00:13:29,975
¿A qué quieres jugar?

151
00:13:30,059 --> 00:13:35,314
¿Qué tal a la guerra termonuclear global?

152
00:13:35,898 --> 00:13:36,816
Está bien.

153
00:13:38,275 --> 00:13:44,824
Generalmente, cuando se menciona la IA,
la gente piensa en Terminator, Yo, robot…

154
00:13:45,574 --> 00:13:46,700
Desactivar.

155
00:13:46,784 --> 00:13:48,160
¿Qué soy?

156
00:13:48,244 --> 00:13:49,620
O Matrix.

157
00:13:51,080 --> 00:13:53,749
Según las películas de ciencia ficción,

158
00:13:53,833 --> 00:13:55,751
¿cómo sabes que soy humano?

159
00:13:55,835 --> 00:13:58,337
Podría ser
una IA generada por computadora.

160
00:13:58,420 --> 00:14:02,007
Los replicantes son como cualquier
otra máquina. Un beneficio o un peligro.

161
00:14:02,675 --> 00:14:06,095
Pero hay muchos tipos de IA más primitivas

162
00:14:06,178 --> 00:14:08,097
que cambiarán nuestras vidas

163
00:14:08,180 --> 00:14:11,851
mucho antes de llegar a la etapa
del robot que piensa y habla.

164
00:14:12,643 --> 00:14:15,771
Los robots existen
y están tomando decisiones.

165
00:14:15,855 --> 00:14:18,816
La revolución de los robots ha llegado,

166
00:14:18,899 --> 00:14:22,319
solo que nadie imaginaba que sería así.

167
00:14:23,320 --> 00:14:26,740
Terminator es una unidad de infiltración.
Es hombre y máquina.

168
00:14:27,950 --> 00:14:31,370
No hablamos de un robot asesino
al estilo Terminator.

169
00:14:31,871 --> 00:14:35,958
Hablamos de una IA que hace tareas
que los humanos pueden hacer.

170
00:14:36,041 --> 00:14:39,879
Pero el asunto
es si estos sistemas son confiables.

171
00:14:40,462 --> 00:14:45,426
Nuevos detalles del accidente mortal
de anoche con un Uber autónomo.

172
00:14:45,509 --> 00:14:48,762
La compañía creó un chatbot
de inteligencia artificial.

173
00:14:48,846 --> 00:14:51,056
Se volvió bastante racista…

174
00:14:51,140 --> 00:14:55,394
Legisladores estatales identificados
erróneamente como criminales.

175
00:14:55,477 --> 00:14:57,354
RECONOCIMIENTO FACIAL ERRÓNEO

176
00:14:57,438 --> 00:15:02,026
La pregunta es si pueden manejar
las complejidades del mundo real.

177
00:15:22,212 --> 00:15:24,423
El mundo físico es muy desordenado.

178
00:15:25,174 --> 00:15:27,426
Hay muchas cosas que no sabemos.

179
00:15:27,968 --> 00:15:30,888
Esto hace que sea difícil
entrenar sistemas de IA.

180
00:15:33,098 --> 00:15:36,977
Ahí comenzaron los sistemas
de aprendizaje automático.

181
00:15:38,520 --> 00:15:41,440
El aprendizaje automático
ha sido un gran avance

182
00:15:42,024 --> 00:15:45,611
porque no tenemos que enseñarles todo
a las computadoras.

183
00:15:47,905 --> 00:15:52,409
Le das a una computadora
millones de pedazos de información,

184
00:15:52,493 --> 00:15:54,453
y la máquina empieza a aprender.

185
00:15:55,245 --> 00:15:57,289
Y eso se puede aplicar a todo.

186
00:16:00,250 --> 00:16:02,962
En nuestro proyecto Perro Robot,
intentamos mostrar

187
00:16:03,045 --> 00:16:09,009
que el perro puede caminar
por muchas superficies distintas.

188
00:16:10,052 --> 00:16:14,098
Los humanos evolucionaron
por millones de años para caminar,

189
00:16:14,932 --> 00:16:20,688
pero hay mucha inteligencia
para adaptarse a las superficies.

190
00:16:21,939 --> 00:16:24,316
Queda saber si los sistemas robóticos

191
00:16:24,400 --> 00:16:27,069
podrían adaptarse como animales y humanos.

192
00:16:35,953 --> 00:16:40,582
Con el aprendizaje automático,
recogemos muchos datos en la simulación.

193
00:16:42,668 --> 00:16:45,838
Una simulación
es un gemelo digital de la realidad.

194
00:16:46,588 --> 00:16:52,052
Podemos tener muchas instancias
de esa realidad en varias computadoras.

195
00:16:53,178 --> 00:16:56,974
Muestra miles de acciones
en la simulación.

196
00:16:58,892 --> 00:17:02,229
El suelo que ven
es diferente en cuanto a lo resbaloso.

197
00:17:02,312 --> 00:17:03,856
Tiene otra dureza.

198
00:17:04,898 --> 00:17:09,903
Tomamos toda la experiencia
de estos miles de robots de la simulación

199
00:17:09,987 --> 00:17:13,282
y la descargamos
en un sistema robótico real.

200
00:17:15,492 --> 00:17:20,039
La prueba que haremos hoy
es si puede adaptarse a nuevos terrenos.

201
00:17:53,322 --> 00:17:58,577
Cuando el robot pasaba sobre la espuma,
los pies golpeaban el suelo al caminar.

202
00:17:59,369 --> 00:18:02,206
En cambio,
sobre la superficie de polietileno,

203
00:18:03,248 --> 00:18:06,460
intentaba ajustar el movimiento
para no resbalarse.

204
00:18:08,670 --> 00:18:10,672
Entonces, te das cuenta

205
00:18:10,756 --> 00:18:14,051
de que esto es lo que aporta
el aprendizaje automático.

206
00:18:41,161 --> 00:18:46,125
Creemos que el Perro Robot puede ser útil
en casos de respuesta en desastres,

207
00:18:46,208 --> 00:18:49,670
donde se deben recorrer
diferentes tipos de superficies.

208
00:18:52,631 --> 00:18:57,427
O se pueden poner estos perros
para vigilar en ambientes hostiles.

209
00:19:15,696 --> 00:19:19,575
Pero en la mayor parte de la tecnología
existe el desafío

210
00:19:19,658 --> 00:19:22,369
de que puede hacer cosas buenas
y cosas malas.

211
00:19:24,037 --> 00:19:27,875
Por ejemplo, la tecnología nuclear
se puede usar para extraer energía…

212
00:19:30,419 --> 00:19:34,047
pero también, para desarrollar
bombas atómicas, algo muy malo.

213
00:19:35,090 --> 00:19:38,468
Esto es lo que se conoce
como el problema del doble uso.

214
00:19:39,052 --> 00:19:40,929
El fuego es de doble uso.

215
00:19:41,722 --> 00:19:44,308
La inteligencia humana es de doble uso.

216
00:19:44,391 --> 00:19:48,645
Entonces, no hace falta decir
que la IA también es de doble uso.

217
00:19:49,354 --> 00:19:53,984
Es muy importante
que la IA se use en contexto

218
00:19:54,693 --> 00:19:59,114
porque, sí, es genial
tener un robot de búsqueda y rescate

219
00:19:59,198 --> 00:20:02,284
que ayude a hallar gente
después de una avalancha,

220
00:20:02,868 --> 00:20:05,871
pero ese mismo robot puede estar armado.

221
00:20:15,088 --> 00:20:21,094
Cuando ves empresas que usan robots
para ponerles armas cargadas,

222
00:20:21,178 --> 00:20:22,930
por un lado, te enojas.

223
00:20:23,931 --> 00:20:28,435
Pero nos damos cuenta
de que, cuando ponemos nuestra tecnología,

224
00:20:28,518 --> 00:20:30,103
esto es lo que pasa.

225
00:20:31,021 --> 00:20:34,441
Es una tecnología muy transformadora.

226
00:20:36,235 --> 00:20:38,028
Son sistemas de armas

227
00:20:38,111 --> 00:20:43,617
que podrían cambiar drásticamente
nuestra seguridad.

228
00:20:46,161 --> 00:20:51,500
Por ahora, no estamos seguros
de que las máquinas puedan distinguir

229
00:20:51,583 --> 00:20:54,962
entre civiles y combatientes.

230
00:21:01,843 --> 00:21:05,597
En la guerra en Afganistán,
estuve en un equipo de francotiradores

231
00:21:05,681 --> 00:21:08,016
que buscaba cazas enemigos
pasando la frontera.

232
00:21:09,685 --> 00:21:12,521
Enviaron a una niña
a explorar nuestra posición.

233
00:21:13,939 --> 00:21:17,067
Nunca surgió
la idea de dispararle a esa niña.

234
00:21:19,695 --> 00:21:22,864
Según las leyes de la guerra,
habría sido legal.

235
00:21:24,950 --> 00:21:27,369
No fijan una edad
para los combatientes enemigos.

236
00:21:29,079 --> 00:21:33,417
De haber tenido un robot que cumpliera
las leyes de la guerra al detalle,

237
00:21:33,500 --> 00:21:35,252
le habría disparado.

238
00:21:36,420 --> 00:21:41,091
¿Cómo sabría un robot la diferencia
entre lo legal y lo correcto?

239
00:21:43,385 --> 00:21:46,054
En una guerra de drones autónomos,

240
00:21:46,138 --> 00:21:49,933
se quiere eliminar el daño
a los soldados estadounidenses

241
00:21:50,017 --> 00:21:51,601
y a la psique nacional,

242
00:21:52,602 --> 00:21:57,149
pero el aumento del daño civil
termina en los afganos,

243
00:21:57,232 --> 00:21:58,775
iraquíes y somalíes.

244
00:22:09,619 --> 00:22:14,416
Les preguntaría
a quienes apoyan la IA en los drones:

245
00:22:15,292 --> 00:22:17,627
"¿Y si tu aldea estuviera en la mira?".

246
00:22:23,550 --> 00:22:25,594
La IA es un arma de doble filo.

247
00:22:26,595 --> 00:22:30,724
Se puede usar para el bien,
y eso hacemos normalmente,

248
00:22:31,558 --> 00:22:33,685
pero, con solo tocar un interruptor,

249
00:22:34,561 --> 00:22:38,023
la tecnología
se vuelve algo posiblemente letal.

250
00:22:38,106 --> 00:22:40,233
RALEIGH, CAROLINA DEL NORTE

251
00:22:47,032 --> 00:22:48,533
Soy farmacólogo clínico.

252
00:22:49,618 --> 00:22:50,994
Tengo un equipo

253
00:22:51,078 --> 00:22:54,247
que usa inteligencia artificial
para analizar drogas

254
00:22:54,331 --> 00:22:57,876
que curen enfermedades
a las que aún no se les pone atención.

255
00:22:59,711 --> 00:23:04,132
Antes, con los descubrimientos de drogas,
tomabas una molécula existente

256
00:23:04,216 --> 00:23:06,885
y le hacías un ajuste
para crear una droga nueva.

257
00:23:08,261 --> 00:23:13,350
Ahora hemos desarrollado una IA
que nos brinda millones de ideas,

258
00:23:13,892 --> 00:23:15,227
millones de moléculas,

259
00:23:16,186 --> 00:23:19,231
y eso abre muchas posibilidades

260
00:23:19,314 --> 00:23:23,151
para tratar enfermedades
que no hemos podido tratar antes.

261
00:23:25,153 --> 00:23:26,822
Pero hay un lado oscuro

262
00:23:26,905 --> 00:23:30,158
al que nunca imaginé que iría.

263
00:23:30,242 --> 00:23:32,119
AMO LA QUÍMICA

264
00:23:33,161 --> 00:23:35,872
Todo esto comenzó cuando me invitó

265
00:23:35,956 --> 00:23:40,043
una organización de Suiza
llamada Spiez Laboratory

266
00:23:40,544 --> 00:23:44,423
para hablar
sobre el posible uso indebido de la IA.

267
00:23:48,343 --> 00:23:51,221
Sean me envió un correo con algunas ideas

268
00:23:51,304 --> 00:23:55,308
de cómo se podía hacer un mal uso
de la inteligencia artificial.

269
00:23:56,059 --> 00:24:00,355
En lugar de pedirle al modelo que creara
moléculas similares a las de las drogas,

270
00:24:00,439 --> 00:24:02,691
usadas para tratar enfermedades,

271
00:24:02,774 --> 00:24:06,403
veríamos si podíamos crear
las moléculas más tóxicas posibles.

272
00:24:10,198 --> 00:24:15,620
Quería ver si se podía usar la tecnología
de la IA para diseñar moléculas mortales.

273
00:24:17,414 --> 00:24:20,083
Sinceramente, pensamos que iba a fallar

274
00:24:20,167 --> 00:24:24,504
porque lo único que hicimos
fue cambiar este cero a uno.

275
00:24:25,380 --> 00:24:26,631
DATOS, 1

276
00:24:26,715 --> 00:24:30,385
Y, al invertirlo,
en lugar de disminuir la toxicidad,

277
00:24:30,469 --> 00:24:32,220
la estábamos aumentando.

278
00:24:32,721 --> 00:24:33,555
Nada más.

279
00:24:37,517 --> 00:24:40,937
La computadora hacía el trabajo
mientras yo estaba en casa.

280
00:24:41,521 --> 00:24:44,816
Ingresaba números
y generaba miles de moléculas.

281
00:24:45,650 --> 00:24:49,529
No teníamos que hacer nada más
que presionar "ahora".

282
00:24:54,493 --> 00:24:58,330
A la mañana siguiente,
había un archivo en mi computadora

283
00:24:59,080 --> 00:25:03,376
que contenía unas 40 000 moléculas.

284
00:25:03,460 --> 00:25:05,253
Posiblemente,

285
00:25:05,337 --> 00:25:08,882
eran algunas de las moléculas
más tóxicas que conocemos.

286
00:25:10,217 --> 00:25:12,761
Se me erizaron los pelos de la nuca.

287
00:25:13,386 --> 00:25:14,554
Quedé pasmado.

288
00:25:15,388 --> 00:25:20,685
La computadora creó decenas de miles
de ideas para nuevas armas químicas.

289
00:25:21,645 --> 00:25:26,274
Obviamente, tenemos moléculas
que se parecen y son análogas al VX y VX

290
00:25:26,775 --> 00:25:27,609
en los datos.

291
00:25:28,360 --> 00:25:31,780
El VX es una de las armas químicas
más potentes del mundo.

292
00:25:31,863 --> 00:25:33,573
Ahora la policía dice

293
00:25:33,657 --> 00:25:37,786
que las mujeres que atacaron
a Kim Jong-nam en este aeropuerto

294
00:25:37,869 --> 00:25:41,248
usaban un agente nervioso mortal
llamado VX.

295
00:25:41,748 --> 00:25:44,417
Puede causar la muerte por asfixia.

296
00:25:45,043 --> 00:25:46,920
Es una molécula muy potente.

297
00:25:47,963 --> 00:25:52,092
Se decía que la mayoría de estas moléculas
eran más mortales que el VX.

298
00:25:53,301 --> 00:25:56,972
Hasta donde sabemos,
muchas eran desconocidas.

299
00:25:57,472 --> 00:26:02,310
Cuando Sean y yo nos dimos cuenta
de esto, pensamos: "¿Qué hicimos?".

300
00:26:04,771 --> 00:26:09,192
Me di cuenta enseguida
de que habíamos abierto la caja de Pandora

301
00:26:09,901 --> 00:26:12,696
y dije:
"Basta. No hagamos nada más. Terminamos.

302
00:26:13,905 --> 00:26:17,158
Solo hazme las diapositivas
para la presentación".

303
00:26:19,202 --> 00:26:23,623
Cuando hicimos el experimento, pensé:
"¿Qué es lo peor que podría pasar?".

304
00:26:26,251 --> 00:26:30,255
Pero fuimos totalmente ingenuos
al hacer eso.

305
00:26:33,466 --> 00:26:36,928
Lo que más me aterra
es que cualquiera puede hacerlo.

306
00:26:38,930 --> 00:26:40,765
Solo se toca un interruptor.

307
00:26:42,934 --> 00:26:46,187
¿Cómo controlamos esta tecnología
antes de que se use

308
00:26:46,271 --> 00:26:50,942
para hacer algo posiblemente destructivo?

309
00:26:55,780 --> 00:27:00,285
En el centro
de la conversación sobre la IA

310
00:27:00,368 --> 00:27:03,538
y de cómo elegimos usarla en la sociedad

311
00:27:04,289 --> 00:27:08,835
hay una carrera entre el poder
con el que desarrollamos tecnologías

312
00:27:08,918 --> 00:27:11,379
y la sabiduría para gobernarlo.

313
00:27:13,340 --> 00:27:16,926
Hay implicancias morales y éticas obvias

314
00:27:17,010 --> 00:27:20,138
en que lo mismo
que activa nuestros teléfonos

315
00:27:20,221 --> 00:27:23,433
toma la decisión moral de quitar una vida.

316
00:27:25,727 --> 00:27:31,149
Trabajo en el Future Of Life Institute,
una comunidad de activistas científicos.

317
00:27:31,650 --> 00:27:33,443
En general, intentamos mostrar

318
00:27:33,526 --> 00:27:38,698
que hay otro aspecto
en acelerar y aumentar la autonomía.

319
00:27:38,782 --> 00:27:42,619
Pero intentamos
que las tecnologías que creamos

320
00:27:42,702 --> 00:27:45,038
se usen de manera segura y ética.

321
00:27:46,247 --> 00:27:49,959
Hablemos sobre reglas de combate

322
00:27:50,043 --> 00:27:54,005
y códigos de conducta para usar la IA
en nuestros sistemas de armas.

323
00:27:54,798 --> 00:27:59,135
Porque ahora vemos tecnologías
para entrar al campo de batalla

324
00:27:59,219 --> 00:28:01,680
que pueden matar de manera autónoma.

325
00:28:10,230 --> 00:28:15,110
En 2021, la ONU publicó un informe
sobre el uso potencial

326
00:28:15,193 --> 00:28:19,364
de un arma autónoma letal
en un campo de batalla en Libia.

327
00:28:20,073 --> 00:28:23,910
Un panel de la ONU dijo que el año pasado
un dron en la guerra civil de Libia

328
00:28:23,993 --> 00:28:27,497
se había programado
para atacar objetivos de forma autónoma.

329
00:28:28,289 --> 00:28:31,209
Si los informes de la ONU son precisos,

330
00:28:31,292 --> 00:28:34,963
este sería un momento decisivo
para la humanidad

331
00:28:35,046 --> 00:28:37,090
porque marca un caso de uso

332
00:28:37,173 --> 00:28:42,137
donde una IA tomó la decisión
de quitar una vida. No fue un ser humano.

333
00:28:49,686 --> 00:28:51,688
Se ven armas autónomas avanzadas

334
00:28:51,771 --> 00:28:55,150
que comienzan a usarse
en diferentes lugares del mundo.

335
00:28:56,276 --> 00:28:58,278
Hubo informes de Israel.

336
00:29:00,280 --> 00:29:05,702
Azerbaiyán usó sistemas autónomos
para atacar defensas aéreas armenias.

337
00:29:07,370 --> 00:29:09,998
Puede sobrevolar
el campo de batalla por horas,

338
00:29:10,081 --> 00:29:12,500
buscando objetivos para impactar

339
00:29:12,584 --> 00:29:16,087
y estrellarse contra ellos
sin ninguna intervención humana.

340
00:29:16,796 --> 00:29:21,760
Hace poco, hemos visto diferentes videos
que se publican en Ucrania.

341
00:29:23,303 --> 00:29:26,890
No está claro
en qué modo estaban cuando operaban.

342
00:29:26,973 --> 00:29:30,393
¿Había un humano
eligiendo qué objetivos atacar

343
00:29:30,477 --> 00:29:32,729
o la máquina lo hacía sola?

344
00:29:32,812 --> 00:29:36,524
Pero, por supuesto, llegará un momento,

345
00:29:36,608 --> 00:29:40,195
sea en Libia,
en Ucrania o en cualquier otro lugar,

346
00:29:40,278 --> 00:29:44,449
en que una máquina decidirá sola
a quién matar en el campo de batalla.

347
00:29:47,035 --> 00:29:50,997
Las máquinas que ejercen poder letal
contra humanos

348
00:29:51,080 --> 00:29:53,374
sin intervención humana

349
00:29:53,458 --> 00:29:57,337
son políticamente inaceptables
y moralmente repugnantes.

350
00:29:59,214 --> 00:30:01,299
Si la comunidad internacional

351
00:30:01,382 --> 00:30:05,011
será suficiente
para gobernar esos desafíos

352
00:30:05,094 --> 00:30:06,888
es un gran interrogante.

353
00:30:06,971 --> 00:30:08,848
¿FUTUROS ROBOTS ASESINOS?

354
00:30:08,932 --> 00:30:12,685
Si pensamos en el futuro,
aunque sea dentro de unos años,

355
00:30:12,769 --> 00:30:15,730
el panorama es muy aterrador

356
00:30:16,564 --> 00:30:20,485
porque la cantidad de capital
y recursos humanos

357
00:30:20,568 --> 00:30:23,404
para hacer que la IA sea más poderosa

358
00:30:23,488 --> 00:30:26,032
y se use en estas diferentes aplicaciones

359
00:30:26,115 --> 00:30:26,950
es inmensa.

360
00:30:39,254 --> 00:30:41,214
Dios mío, qué tipo.

361
00:30:41,756 --> 00:30:43,424
Sabe que no puede ganar.

362
00:30:46,761 --> 00:30:51,099
Cuando veo a la IA ganar en diferentes
problemas, me parece inspirador.

363
00:30:51,683 --> 00:30:53,977
Que sea lo que Dios quiera.

364
00:30:54,477 --> 00:30:59,524
Y pueden aplicar esas mismas tácticas,
técnicas y procesos en aeronaves reales.

365
00:31:01,401 --> 00:31:02,318
Buen juego.

366
00:31:02,402 --> 00:31:03,653
Bien jugado.

367
00:31:08,658 --> 00:31:13,872
Me sorprende que la gente siga hablando
de lo que la IA no puede hacer.

368
00:31:13,955 --> 00:31:16,583
"Nunca vencería
a un campeón mundial de ajedrez".

369
00:31:20,211 --> 00:31:22,672
Una computadora de la empresa IBM volvió

370
00:31:22,755 --> 00:31:25,925
para esta segunda partida
contra el campeón mundial, Garry Kasparov.

371
00:31:28,136 --> 00:31:30,847
¡Kasparov renunció!

372
00:31:31,598 --> 00:31:34,642
Cuando veo algo
que está más allá de mi comprensión,

373
00:31:34,726 --> 00:31:38,062
me da miedo.
Y eso fue algo más allá de mi comprensión.

374
00:31:39,355 --> 00:31:41,107
La gente también dice:

375
00:31:41,190 --> 00:31:44,402
"Nunca podrá ganarle
al campeón mundial de Go".

376
00:31:44,485 --> 00:31:50,700
Creo que la intuición humana
es demasiado avanzada para la IA

377
00:31:50,783 --> 00:31:52,827
y no podrá alcanzarla.

378
00:31:55,330 --> 00:31:58,416
Go es uno de los juegos
más complicados para aprender

379
00:31:58,499 --> 00:32:02,211
por la cantidad de movimientos en la mesa
que, si se calculan,

380
00:32:02,295 --> 00:32:05,256
superan la cantidad de átomos
en todo el universo.

381
00:32:06,799 --> 00:32:11,471
Había un equipo en Google llamado DeepMind
que creó un programa llamado AlphaGo

382
00:32:11,554 --> 00:32:14,265
para vencer
a los mejores jugadores del mundo.

383
00:32:16,559 --> 00:32:18,394
Felicitaciones a…

384
00:32:18,478 --> 00:32:19,437
AlphaGo.

385
00:32:19,520 --> 00:32:22,899
Un programa de computadora
le ganó a un 9 dan profesional.

386
00:32:25,610 --> 00:32:31,532
Y luego, DeepMind eligió StarCraft
como su próximo desafío de la IA.

387
00:32:33,743 --> 00:32:38,081
StarCraft es quizás el juego de estrategia
en tiempo real más popular.

388
00:32:38,665 --> 00:32:40,249
LA IA DE DEEPMIND APLASTA

389
00:32:40,333 --> 00:32:44,712
AlphaStar se hizo famoso cuando comenzó
a derrotar a campeones mundiales.

390
00:32:45,338 --> 00:32:48,800
AlphaStar destruye en Immortal Arc.

391
00:32:48,883 --> 00:32:52,553
¿Sabes qué? Los profesionales
no podrán ganar esta pelea.

392
00:32:53,680 --> 00:32:54,806
Es ridículo.

393
00:32:54,889 --> 00:32:57,558
LA IA SE CONVIERTE EN GRAN MAESTRA

394
00:32:57,642 --> 00:33:00,895
Los profesionales decían:
"Nunca probaría esa táctica".

395
00:33:00,979 --> 00:33:04,816
"Nunca probaría esa estrategia.
Eso no es humano".

396
00:33:07,151 --> 00:33:10,655
Y ese fue quizá
el momento de revelación para mí.

397
00:33:13,574 --> 00:33:16,661
Me di cuenta de que era el momento.

398
00:33:17,412 --> 00:33:21,082
Hay una tecnología importante
y una oportunidad para hacer un cambio.

399
00:33:24,502 --> 00:33:29,382
Solo conocía los problemas
como SEAL en los combates cuerpo a cuerpo,

400
00:33:30,383 --> 00:33:34,470
pero uno de mis amigos,
que era piloto de F-18, me dijo:

401
00:33:34,554 --> 00:33:37,724
"Tenemos el mismo problema
en la comunidad de jets.

402
00:33:37,807 --> 00:33:39,434
Bloquean las comunicaciones.

403
00:33:39,517 --> 00:33:44,439
Hay más sitios de misiles superficie-aire
que hacen que sea peligroso operar".

404
00:33:47,483 --> 00:33:50,987
Imagina si tuviéramos un jet de combate
pilotado por una IA.

405
00:33:51,070 --> 00:33:52,739
Bienvenidos a las pruebas.

406
00:33:52,822 --> 00:33:56,159
Estamos a unos minutos
de la primera semifinal.

407
00:33:56,242 --> 00:33:59,871
DARPA, la Agencia de Proyectos
de Investigación Avanzados de Defensa,

408
00:33:59,954 --> 00:34:03,624
había visto AlphaGo y AlphaStar.

409
00:34:04,292 --> 00:34:08,171
Esta idea de la competencia AlphaDogfight
se hizo realidad.

410
00:34:09,005 --> 00:34:11,466
Eso quieres ver
en pilotos de combate humanos.

411
00:34:11,549 --> 00:34:13,634
Parece una pelea de perros humana.

412
00:34:15,595 --> 00:34:19,057
Las peleas de perros
son aviones de combate que se atacan.

413
00:34:19,849 --> 00:34:22,852
Es como un combate de boxeo en el cielo.

414
00:34:23,853 --> 00:34:26,314
Quienes vieron Top Gun lo entienden.

415
00:34:26,397 --> 00:34:27,815
¿Podemos superarlos?

416
00:34:28,649 --> 00:34:30,068
No sus misiles y armas.

417
00:34:30,151 --> 00:34:31,277
Es una pelea de perros.

418
00:34:35,531 --> 00:34:39,410
Aprender a dominar las peleas
puede llevar de ocho a diez años.

419
00:34:42,288 --> 00:34:46,209
Es un desafío tremendamente complejo
para construir la IA.

420
00:34:54,092 --> 00:34:58,679
Los enfoques anteriores a la autonomía
y las peleas de perros eran frágiles.

421
00:34:59,222 --> 00:35:03,017
Pensamos que el aprendizaje automático
resolvería el problema.

422
00:35:04,393 --> 00:35:08,189
Al principio, la IA no sabía nada
sobre el mundo donde estaba.

423
00:35:08,272 --> 00:35:12,735
No sabía que volaba,
qué era una pelea de perros o un F-16.

424
00:35:13,236 --> 00:35:15,905
Solo sabía las acciones que podía hacer

425
00:35:15,988 --> 00:35:18,407
y comenzó a explorarlas.

426
00:35:19,325 --> 00:35:23,204
El avión azul
estuvo entrenando por poco tiempo.

427
00:35:23,287 --> 00:35:25,832
Se tambalea hacia adelante y hacia atrás

428
00:35:26,624 --> 00:35:30,545
y vuela muy erráticamente,
generalmente, lejos de su adversario.

429
00:35:31,587 --> 00:35:36,134
Cuando avanza la pelea, vemos que el azul
comienza con un plan de juego.

430
00:35:36,676 --> 00:35:38,636
Está en posición de disparar.

431
00:35:39,178 --> 00:35:41,305
A veces,
el algoritmo de aprendizaje decía:

432
00:35:41,389 --> 00:35:43,891
"Toma un premio. Sigue haciendo eso".

433
00:35:45,143 --> 00:35:50,064
Podemos aprovechar la computadora
y entrenar a los agentes en paralelo.

434
00:35:51,357 --> 00:35:53,192
Es como un equipo de básquet.

435
00:35:53,276 --> 00:35:55,778
En lugar de jugar con el mismo equipo
una y otra vez,

436
00:35:55,862 --> 00:35:59,198
viajamos por el mundo
jugando con 512 equipos diferentes

437
00:35:59,699 --> 00:36:00,950
al mismo tiempo.

438
00:36:01,492 --> 00:36:03,452
Puedes volverte bueno muy rápido.

439
00:36:04,162 --> 00:36:07,456
Pudimos hacer esa simulación 24/7

440
00:36:07,540 --> 00:36:11,919
y tener 30 años
de entrenamiento de piloto en 10 meses.

441
00:36:12,879 --> 00:36:15,673
Pasamos de apenas controlar la aeronave

442
00:36:15,756 --> 00:36:17,717
a ser un asesino a sangre fría.

443
00:36:19,010 --> 00:36:23,514
Al entrenar,
competíamos solo contra otras IA.

444
00:36:24,473 --> 00:36:28,561
Pero el objetivo final era competir
directamente contra humanos.

445
00:36:34,192 --> 00:36:35,610
Me llamo Mike Benitez.

446
00:36:36,110 --> 00:36:38,487
Soy teniente coronel de la Fuerza Aérea.

447
00:36:39,155 --> 00:36:41,157
Llevo 25 años de servicio activo.

448
00:36:42,825 --> 00:36:44,869
Tuve 250 misiones de combate.

449
00:36:45,578 --> 00:36:49,832
Me gradué en la Escuela de Armas,
la versión de la Fuerza Aérea de Top Gun.

450
00:36:52,627 --> 00:36:55,171
Nunca volé contra la IA.

451
00:36:55,254 --> 00:36:58,549
Me entusiasma ver cómo lo hago.

452
00:36:59,634 --> 00:37:03,054
Tenemos una ofensiva
de 1800 metros de frente.

453
00:37:04,388 --> 00:37:05,223
Adelante.

454
00:37:13,314 --> 00:37:14,148
Se fue.

455
00:37:14,732 --> 00:37:16,651
Es muy interesante.

456
00:37:20,780 --> 00:37:23,658
- Muerto.
- Le di. Una victoria impecable.

457
00:37:25,910 --> 00:37:27,453
Bien, segunda ronda.

458
00:37:35,461 --> 00:37:40,508
Lo que hace la inteligencia artificial
es maniobrar con tanta precisión

459
00:37:41,384 --> 00:37:43,219
que no puedo seguirle el ritmo.

460
00:37:48,474 --> 00:37:49,725
Justo en la unión.

461
00:37:50,726 --> 00:37:51,894
Vas a morir.

462
00:37:53,145 --> 00:37:53,980
Le di.

463
00:37:54,063 --> 00:37:55,022
Me dio.

464
00:37:58,567 --> 00:38:00,069
La IA nunca tiene miedo.

465
00:38:00,736 --> 00:38:03,781
Hay un aspecto emocional humano
en la cabina que la IA no tiene.

466
00:38:04,991 --> 00:38:08,160
Una estrategia interesante
que desarrolló nuestra IA

467
00:38:08,244 --> 00:38:10,538
es lo que llamamos el tiro de frente.

468
00:38:10,621 --> 00:38:14,000
Por lo general,
un humano quiere disparar desde atrás

469
00:38:14,083 --> 00:38:16,460
porque es difícil para el otro soltarte.

470
00:38:17,044 --> 00:38:20,381
No hace tiros de frente
porque todos prueban su valentía.

471
00:38:21,424 --> 00:38:25,511
Cuando atacamos de frente,
de 900 a 150 metros de distancia,

472
00:38:25,594 --> 00:38:27,054
puede ser en un segundo.

473
00:38:27,555 --> 00:38:31,183
Corres riesgo de colisionar,
así que los humanos no lo intentan.

474
00:38:32,893 --> 00:38:35,938
La IA no le teme a la muerte
a menos que se le indique.

475
00:38:37,857 --> 00:38:40,234
Siento que voy contra un humano,

476
00:38:40,776 --> 00:38:44,113
pero uno que no tiene en cuenta
la seguridad.

477
00:38:45,489 --> 00:38:47,325
No sobrevivirá esta vez.

478
00:38:57,168 --> 00:38:58,461
No tiene tiempo.

479
00:39:01,964 --> 00:39:02,965
Buenas noches.

480
00:39:04,091 --> 00:39:04,925
Morí.

481
00:39:16,812 --> 00:39:17,980
Es humillante saber

482
00:39:18,064 --> 00:39:20,900
que tal vez
no sea el mejor para esta misión

483
00:39:21,484 --> 00:39:24,320
y que esa cosa
me podría reemplazar un día.

484
00:39:25,696 --> 00:39:26,906
Visibilidad, 1800 m.

485
00:39:27,615 --> 00:39:28,824
Y 300 de margen.

486
00:39:29,450 --> 00:39:32,078
Con este piloto de IA
al mando de aeronaves,

487
00:39:32,787 --> 00:39:34,830
la victoria es implacable, dominante.

488
00:39:34,914 --> 00:39:37,249
No es solo ganar por un margen amplio.

489
00:39:37,333 --> 00:39:41,545
Es pensar cómo meter eso
en nuestra aeronave. Es así de poderoso.

490
00:39:43,672 --> 00:39:47,802
Es realista
pretender que la IA pilotee un F-16,

491
00:39:47,885 --> 00:39:49,970
y no faltará mucho para eso.

492
00:39:51,305 --> 00:39:56,769
Si un piloto de inteligencia artificial
tiene una tasa de éxito del 99.99999 %,

493
00:39:56,852 --> 00:39:58,062
no tienes chance.

494
00:39:59,605 --> 00:40:02,733
Cuando veo
que un piloto de IA es imbatible,

495
00:40:02,817 --> 00:40:06,695
pienso en lo que un equipo de 50, 100

496
00:40:07,279 --> 00:40:12,535
o 1000 pilotos de inteligencia artificial
puede lograr.

497
00:40:13,702 --> 00:40:18,791
El enjambre es un grupo de aviones
inteligentes que trabajan juntos.

498
00:40:19,291 --> 00:40:23,462
Comparten información sobre qué hacer
y cómo resolver un problema.

499
00:40:25,172 --> 00:40:27,591
El enjambre será una capacidad

500
00:40:27,675 --> 00:40:32,054
que redefinirá las reglas del juego
para nuestro ejército y aliados.

501
00:41:42,750 --> 00:41:47,379
El objetivo se detectó.
Los drones lo están rastreando.

502
00:42:02,019 --> 00:42:03,604
Bien, ya aterrizan.

503
00:42:07,566 --> 00:42:10,402
El objetivo principal
de la investigación del enjambre

504
00:42:11,153 --> 00:42:13,697
es desplegar una gran cantidad de drones

505
00:42:13,781 --> 00:42:17,910
en un área de acceso difícil o peligroso.

506
00:42:21,664 --> 00:42:26,085
El Laboratorio de Invest. del Ejército
estuvo apoyando este proyecto.

507
00:42:26,919 --> 00:42:28,963
Si quieres saber qué hay en un lugar,

508
00:42:29,046 --> 00:42:32,883
pero es difícil llegar a esa área
o es una zona muy grande,

509
00:42:33,676 --> 00:42:38,389
enviar un enjambre es una forma natural
de extender el alcance de los individuos

510
00:42:38,472 --> 00:42:41,934
y reunir información crítica
para la misión.

511
00:42:46,689 --> 00:42:48,983
En este despliegue de enjambre,

512
00:42:49,066 --> 00:42:53,904
damos una sola orden
para rastrear el objetivo en cuestión.

513
00:42:54,488 --> 00:42:57,283
Luego los drones van y hacen todo solos.

514
00:42:59,493 --> 00:43:04,081
La IA permite que los robots
se muevan colectivamente como un enjambre

515
00:43:04,164 --> 00:43:05,708
de manera desconcentrada.

516
00:43:10,671 --> 00:43:12,506
En los enjambres de la naturaleza,

517
00:43:13,299 --> 00:43:18,178
no hay un jefe o un animal principal
que indica qué hacer.

518
00:43:20,556 --> 00:43:25,019
El comportamiento
surge de cada animal individual

519
00:43:25,102 --> 00:43:27,104
que sigue algunas reglas simples.

520
00:43:27,688 --> 00:43:32,443
Y de allí surge
este comportamiento colectivo que se ve.

521
00:43:33,944 --> 00:43:37,031
Lo asombroso
de los enjambres en la naturaleza

522
00:43:37,114 --> 00:43:39,992
es la habilidad con la que se mueven.

523
00:43:40,576 --> 00:43:44,288
Es como si estuvieran diseñados
para estar en un grupo.

524
00:43:46,790 --> 00:43:51,128
Lo ideal es que veamos
con nuestro enjambre de drones,

525
00:43:51,211 --> 00:43:53,172
como con los enjambres naturales,

526
00:43:53,672 --> 00:43:56,717
que las decisiones
se tomen colectivamente.

527
00:43:59,928 --> 00:44:02,765
Otras cosas que nos dan inspiración

528
00:44:02,848 --> 00:44:06,268
son la confiabilidad y la resistencia.

529
00:44:07,311 --> 00:44:09,188
Ese enjambre no cae

530
00:44:09,271 --> 00:44:13,567
si un animal individual
no hace lo que debe hacer.

531
00:44:15,194 --> 00:44:18,697
Incluso si uno de los agentes cae, falla

532
00:44:18,781 --> 00:44:20,866
o no puede completar la tarea,

533
00:44:21,909 --> 00:44:23,369
el enjambre continúa.

534
00:44:25,204 --> 00:44:27,873
Eso es lo que nos gustaría tener.

535
00:44:29,333 --> 00:44:33,879
Debemos identificar aviones enemigos
en situaciones de combate.

536
00:44:33,962 --> 00:44:37,841
Antes se necesitaba a una persona
que controlara un robot.

537
00:44:38,592 --> 00:44:40,594
A medida que aumenta la autonomía,

538
00:44:40,678 --> 00:44:43,555
también aumentaría la cantidad de robots

539
00:44:43,639 --> 00:44:46,558
controlados por muy pocas personas.

540
00:44:47,851 --> 00:44:50,854
No veo por qué no podemos llegar a mil

541
00:44:51,355 --> 00:44:56,443
porque cada agente podrá actuar
por su cuenta. No hay límites.

542
00:44:57,027 --> 00:44:59,071
Podemos ampliar esos datos…

543
00:44:59,154 --> 00:45:03,325
Hace tiempo que trabajamos
en la simulación con enjambres.

544
00:45:03,409 --> 00:45:06,829
Ya es hora de llevar eso a las aeronaves.

545
00:45:07,329 --> 00:45:12,042
Esperamos hacer tres robots
a la vez en la red

546
00:45:12,126 --> 00:45:15,129
y luego agregar cada vez más habilidades.

547
00:45:15,879 --> 00:45:18,549
Queremos probar eso
en sistemas más pequeños,

548
00:45:18,632 --> 00:45:22,261
pero tomar esos conceptos
y aplicarlos a sistemas más grandes

549
00:45:22,344 --> 00:45:23,679
como un avión de combate.

550
00:45:24,596 --> 00:45:26,014
Hablamos mucho

551
00:45:26,098 --> 00:45:31,937
de cómo se le da a un pelotón
el poder de combate de un batallón.

552
00:45:34,982 --> 00:45:39,528
O a un batallón
el poder de combate de una brigada.

553
00:45:39,611 --> 00:45:41,488
Se puede hacer con el enjambre.

554
00:45:42,614 --> 00:45:45,200
Cuando liberas ese poder del enjambre,

555
00:45:45,284 --> 00:45:49,455
habrás creado una nueva disuasión
estratégica en la agresión militar.

556
00:45:52,332 --> 00:45:57,004
Creo que lo más emocionante es la cantidad
de hombres y mujeres jóvenes

557
00:45:57,087 --> 00:46:00,299
que salvaremos si lo hacemos bien.

558
00:46:01,091 --> 00:46:03,594
Intercambiamos máquinas

559
00:46:04,553 --> 00:46:05,846
y no vidas humanas.

560
00:46:06,638 --> 00:46:09,683
Algunos dicen que las armas autónomas
harán que la guerra

561
00:46:09,767 --> 00:46:11,727
sea más precisa y compasiva,

562
00:46:12,811 --> 00:46:15,397
pero es difícil predecir

563
00:46:15,481 --> 00:46:19,443
cómo las armas autónomas
podrían cambiar las guerras.

564
00:46:21,320 --> 00:46:23,238
Es como la ametralladora Gatling.

565
00:46:23,322 --> 00:46:24,990
PATENTE 9 DE MAYO DE 1865

566
00:46:25,073 --> 00:46:27,117
Richard Gatling era inventor.

567
00:46:27,201 --> 00:46:30,954
Vio soldados heridos
que regresaban de la Guerra Civil

568
00:46:32,289 --> 00:46:35,501
y quiso buscar formas
de hacer la guerra más compasiva.

569
00:46:36,293 --> 00:46:39,797
De poder disminuir
la cantidad de muertes en la guerra

570
00:46:40,422 --> 00:46:42,633
llevando menos soldados a la batalla.

571
00:46:44,092 --> 00:46:48,388
Así que inventó la ametralladora Gatling,
que se activaba con una manivela

572
00:46:48,472 --> 00:46:50,516
y automatizaba el proceso de disparo.

573
00:46:53,268 --> 00:46:57,981
Aumentaba cien veces la potencia de fuego
que aportaban los soldados.

574
00:47:01,235 --> 00:47:05,239
A veces, los esfuerzos para hacer
la guerra más precisa y compasiva

575
00:47:06,490 --> 00:47:08,200
pueden tener el efecto opuesto.

576
00:47:10,160 --> 00:47:13,413
Piensa en el efecto
de un ataque de dron errante

577
00:47:13,497 --> 00:47:17,209
en una zona rural que pone
a la población contra Estados Unidos,

578
00:47:17,292 --> 00:47:20,712
contra un gobierno local.
Supuestamente, los buenos.

579
00:47:22,589 --> 00:47:25,008
Ahora multiplica eso por 1000.

580
00:47:26,802 --> 00:47:28,720
La creación de un sistema de armas

581
00:47:28,804 --> 00:47:34,560
que sea barato, expansible
y que no requiera agentes humanos

582
00:47:34,643 --> 00:47:37,896
cambia drásticamente
las barreras del conflicto.

583
00:47:40,107 --> 00:47:44,444
Me inquieta pensar en un mundo
donde la guerra sea omnipresente,

584
00:47:44,987 --> 00:47:48,657
y ya no carguemos con el costo humano
y financiero de la guerra

585
00:47:48,740 --> 00:47:51,410
porque ya no haría falta pensar

586
00:47:52,327 --> 00:47:54,121
en las vidas que se perderían.

587
00:47:59,501 --> 00:48:00,794
Esto me atormenta.

588
00:48:02,212 --> 00:48:05,924
Solo necesitaba un ejemplo
de mal uso de la IA.

589
00:48:06,800 --> 00:48:10,888
Las consecuencias inesperadas
de hacer ese experimento simple

590
00:48:10,971 --> 00:48:12,848
fueron demasiado lejos.

591
00:48:13,348 --> 00:48:16,226
IA EN DESCUBRIMIENTO DE DROGAS:
EVITAR HACER MÁS DAÑO QUE BIEN

592
00:48:17,352 --> 00:48:18,729
En la presentación

593
00:48:18,812 --> 00:48:22,107
de las moléculas tóxicas
creadas por la tecnología de IA

594
00:48:22,608 --> 00:48:24,318
el público quedó pasmado.

595
00:48:25,402 --> 00:48:27,613
LOS 5000 MEJORES COMPUESTOS
ERAN ANÁLOGOS DEL VX

596
00:48:29,406 --> 00:48:33,577
La siguiente decisión
fue si debíamos publicar esta información.

597
00:48:34,912 --> 00:48:39,166
Por un lado, quieres advertir
sobre este tipo de capacidades,

598
00:48:39,249 --> 00:48:44,087
pero, por otro lado, no quieres darle
la idea a alguien si nunca la ha tenido.

599
00:48:46,381 --> 00:48:48,133
Decidimos publicarla

600
00:48:48,216 --> 00:48:52,679
para buscar formas
de mitigar el mal uso de este tipo de IA

601
00:48:52,763 --> 00:48:54,139
antes de que ocurriera.

602
00:48:54,222 --> 00:48:56,975
DOBLE USO
DE DESCUBRIMIENTO DE DROGAS POR IA

603
00:48:57,559 --> 00:49:00,437
EL USO DE TECNOLOGÍAS DE IA
EN EL DESCUBRIMIENTO DE DROGAS

604
00:49:01,855 --> 00:49:04,775
La reacción del público en general
fue de impacto.

605
00:49:07,194 --> 00:49:10,656
Podíamos ver la cantidad de personas
que accedieron a la página.

606
00:49:10,739 --> 00:49:13,241
Para artículos que normalmente escribimos,

607
00:49:13,325 --> 00:49:19,831
con suerte, unas mil personas los leen
en un período de un año o varios años.

608
00:49:19,915 --> 00:49:22,084
Diez mil personas leyeron este
en una semana.

609
00:49:22,167 --> 00:49:25,337
Luego fueron 20 000,
luego 30 000 y luego 40 000.

610
00:49:25,837 --> 00:49:28,715
Llegó a hasta 10 000 personas por día.

611
00:49:30,258 --> 00:49:33,512
Llegamos a The Economist
y al Financial Times.

612
00:49:35,639 --> 00:49:38,308
Radiolab nos contactó.

613
00:49:38,809 --> 00:49:39,977
¡Conocía Radiolab!

614
00:49:41,937 --> 00:49:45,899
Pero luego, las reacciones
se descontrolaron un poco.

615
00:49:49,778 --> 00:49:53,532
Cuando vimos esos tuits, pensamos:
"¿Podían hacer algo peor?".

616
00:49:54,324 --> 00:49:55,993
"¿Por qué hicieron esto?".

617
00:49:57,911 --> 00:50:01,081
ESTOS NERDS NOS MATARÁN A TODOS.

618
00:50:01,164 --> 00:50:04,501
Y recibimos una invitación
que nunca imaginábamos.

619
00:50:08,797 --> 00:50:12,926
Hubo mucho debate
en la Casa Blanca sobre el artículo,

620
00:50:13,010 --> 00:50:15,345
y querían hablar con nosotros.

621
00:50:18,849 --> 00:50:20,809
Obviamente, es un gran honor

622
00:50:20,892 --> 00:50:23,020
poder hablar con gente de ese nivel.

623
00:50:23,603 --> 00:50:25,313
Pero luego caes en la cuenta.

624
00:50:25,397 --> 00:50:28,316
"Por Dios, es la Casa Blanca.
El gran jefe".

625
00:50:29,693 --> 00:50:33,196
Esto implicó
reunir datos de código abierto…

626
00:50:33,280 --> 00:50:37,659
En unas seis horas,
el modelo generó más de 40 000…

627
00:50:37,743 --> 00:50:41,246
Preguntaron cuánta capacidad
de procesamiento se necesitaba,

628
00:50:41,872 --> 00:50:43,832
y dijimos que no demasiada.

629
00:50:44,332 --> 00:50:48,211
Simplemente,
una Mac común y corriente de seis años.

630
00:50:49,546 --> 00:50:51,256
Y eso los sorprendió.

631
00:50:54,968 --> 00:50:59,473
Los encargados de analizar
los agentes de guerras químicas

632
00:50:59,556 --> 00:51:04,019
y las agencias gubernamentales
no tenían idea de este potencial.

633
00:51:06,605 --> 00:51:09,816
Tenemos un manual
para hacer armas químicas,

634
00:51:10,650 --> 00:51:15,572
pero, en manos
de alguien con malas intenciones,

635
00:51:16,573 --> 00:51:18,992
podría ser algo horrendo.

636
00:51:21,703 --> 00:51:23,205
La gente debía escuchar,

637
00:51:23,288 --> 00:51:26,458
y nosotros,
tomar medidas para regular la tecnología

638
00:51:27,250 --> 00:51:30,670
o restringirla
de manera que no se usara mal.

639
00:51:31,880 --> 00:51:35,175
Porque el potencial de letalidad

640
00:51:36,176 --> 00:51:37,344
es aterrador.

641
00:51:40,680 --> 00:51:45,977
La cuestión de la ética de la IA
se aborda, en gran parte, en la sociedad,

642
00:51:46,561 --> 00:51:50,273
no entre los ingenieros,
tecnólogos o matemáticos.

643
00:51:52,484 --> 00:51:56,822
Cada tecnología que presentamos
y cada innovación

644
00:51:56,905 --> 00:52:00,617
cae en el ámbito de cómo la sociedad
cree que deberíamos usarla.

645
00:52:03,036 --> 00:52:06,498
Ahora, el Departamento de Defensa dice:

646
00:52:06,581 --> 00:52:11,920
"Lo único que dice que vamos a matar algo
en el campo de batalla es a un humano".

647
00:52:12,504 --> 00:52:14,548
Una máquina puede matar,

648
00:52:15,674 --> 00:52:18,927
pero solo por mandato
de un operador humano.

649
00:52:19,594 --> 00:52:21,429
No creo que eso vaya a cambiar.

650
00:52:24,808 --> 00:52:28,103
Nos aseguran
que este tipo de tecnología será segura.

651
00:52:29,729 --> 00:52:31,565
Pero el ejército de EE. UU.

652
00:52:31,648 --> 00:52:35,485
no tiene una reputación confiable
con los drones en la guerra.

653
00:52:36,820 --> 00:52:41,783
Cuando se trata de confiarle la IA
al ejército estadounidense,

654
00:52:41,867 --> 00:52:44,953
diría que los antecedentes
hablan por sí solos.

655
00:52:46,288 --> 00:52:50,125
La política del Departamento de Defensa
sobre la autonomía en las armas

656
00:52:50,208 --> 00:52:52,919
no prohíbe
ningún tipo de sistema de armas.

657
00:52:53,003 --> 00:52:56,715
Incluso si los militares
no quisieran armas autónomas,

658
00:52:56,798 --> 00:53:01,678
podrían delegar
más decisiones a las máquinas

659
00:53:01,761 --> 00:53:03,680
para seguir el ritmo de los rivales.

660
00:53:04,764 --> 00:53:07,100
Y eso podría llevar a los militares

661
00:53:07,184 --> 00:53:09,978
a automatizar decisiones
que quizá no quieran.

662
00:53:12,022 --> 00:53:16,693
Vladímir Putin dijo: "Quien lidere
en la IA gobernará el mundo".

663
00:53:17,736 --> 00:53:23,325
El presidente Xi dejó en claro
que la IA es una de las tecnologías

664
00:53:23,408 --> 00:53:25,702
que China quiere dominar.

665
00:53:26,786 --> 00:53:29,831
Claramente,
estamos en una competencia tecnológica.

666
00:53:33,501 --> 00:53:39,424
La gente habla de valores,
y creo que deberían hacerlo.

667
00:53:40,467 --> 00:53:45,180
Pero hay una competencia real
por la superioridad de la IA.

668
00:53:47,265 --> 00:53:51,603
Y nuestros adversarios,
ya sea China, Rusia o Irán,

669
00:53:52,187 --> 00:53:56,566
no van a pensar en lo que dice
nuestra política sobre la IA.

670
00:54:00,820 --> 00:54:04,324
Hay muchos más debates
sobre las políticas de las IA,

671
00:54:06,117 --> 00:54:09,287
pero desearía que los líderes debatieran

672
00:54:09,371 --> 00:54:11,706
qué tan rápido se puede construir,

673
00:54:12,707 --> 00:54:15,168
cómo se lo equipa y crea.

674
00:54:18,922 --> 00:54:21,299
REUNIÓN ANUAL Y EXPOSICIÓN DE AUSA

675
00:54:24,177 --> 00:54:26,805
EJÉRCITO DE ESTADOS UNIDOS

676
00:54:33,478 --> 00:54:38,358
Estamos en la feria más grande del año
de la Asociación del Ejército de EE. UU.

677
00:54:39,609 --> 00:54:44,572
Básicamente, cualquiera que venda
un producto o tecnología al ejército

678
00:54:44,656 --> 00:54:46,616
tiene una muestra aquí.

679
00:54:47,701 --> 00:54:50,537
La base de la Fuerza Aérea Tyndall
tiene cuatro robots

680
00:54:50,620 --> 00:54:53,748
que patrullan su base
las 24 horas todos los días.

681
00:54:55,750 --> 00:55:00,130
Podemos agregar de todo, desde cámaras
hasta sensores y lo que se necesite.

682
00:55:00,213 --> 00:55:05,135
Brazos manipuladores. Todo para completar
la misión que tiene el cliente.

683
00:55:06,428 --> 00:55:08,638
¿Y si tu enemigo presenta una IA?

684
00:55:09,431 --> 00:55:12,976
¿Un sistema de lucha
que piensa y responde más rápido que tú

685
00:55:13,059 --> 00:55:16,062
o cualquier ser humano?
Hay que estar preparados.

686
00:55:17,605 --> 00:55:21,359
Entrenamos nuestros sistemas
para reunir datos sobre el enemigo

687
00:55:22,027 --> 00:55:26,531
y manejamos los objetivos enemigos
con humanos en la cadena de matanzas.

688
00:55:33,288 --> 00:55:34,956
- Hola, General.
- ¿Qué tal?

689
00:55:35,040 --> 00:55:36,416
Bien, señor. ¿Y usted?

690
00:55:37,709 --> 00:55:42,630
Nadie invierte más en un piloto de IA.
Nuestro piloto se llama Hivemind.

691
00:55:43,298 --> 00:55:47,135
Lo aplicamos a nuestro cuadricóptero Nova.
Entra en edificios

692
00:55:47,218 --> 00:55:50,805
y los explora antes que las fuerzas
operativas y de infantería.

693
00:55:50,889 --> 00:55:52,891
Estamos aplicando Hivemind al V-Bat.

694
00:55:52,974 --> 00:55:56,811
Planeo colocar cientos de esos equipos,

695
00:55:56,895 --> 00:56:00,106
sea en el estrecho de Taiwán o en Ucrania

696
00:56:00,190 --> 00:56:03,360
para disuadir a los adversarios.
Estoy muy emocionado.

697
00:56:03,943 --> 00:56:06,196
- Bien. Gracias.
- Gracias, General.

698
00:56:07,989 --> 00:56:13,370
Los pilotos de IA deben ser omnipresentes.
Eso debería pasar para 2025 o 2030.

699
00:56:14,204 --> 00:56:17,707
Su aplicación será rápida
en los ejércitos de todo el mundo.

700
00:56:19,250 --> 00:56:22,962
¿Qué se hace con las aeronaves militares
rumanas autónomas?

701
00:56:23,046 --> 00:56:24,589
Alta tecnología en el ejército.

702
00:56:25,256 --> 00:56:29,803
Gastamos 500 millones de dólares
en crear un piloto de IA.

703
00:56:29,886 --> 00:56:33,181
Gastaremos otros mil millones
en los próximos cinco años.

704
00:56:33,264 --> 00:56:37,769
Es una buena razón por la que ganamos
los programas de récords nacionales.

705
00:56:37,852 --> 00:56:38,853
Genial.

706
00:56:38,937 --> 00:56:42,732
Es impresionante.
¿Lograron convertir eso en un arma?

707
00:56:43,650 --> 00:56:45,568
Aún no es un arma.

708
00:56:45,652 --> 00:56:48,321
Aún no. Pero lo será en el futuro.

709
00:56:48,905 --> 00:56:52,534
Los clientes lo ven como un camión.
Es como un camión inteligente

710
00:56:52,617 --> 00:56:54,411
que puede hacer muchas cosas.

711
00:56:54,494 --> 00:56:55,703
- Gracias.
- De nada.

712
00:56:55,787 --> 00:56:57,914
Te mantendré actualizado.

713
00:57:01,668 --> 00:57:04,129
Si volvieras en diez años,

714
00:57:04,212 --> 00:57:10,802
verías que la IA y la autonomía
habrán dominado todo este mercado.

715
00:57:14,889 --> 00:57:19,352
Las fuerzas respaldadas con IA y autonomía

716
00:57:19,436 --> 00:57:25,108
dominarán, aplastarán
y destruirán aquellas que no las tienen.

717
00:57:26,401 --> 00:57:30,780
Será como poner caballos contra tanques

718
00:57:31,781 --> 00:57:34,367
o gente con espadas contra ametralladoras.

719
00:57:34,909 --> 00:57:37,120
Sería incomparable.

720
00:57:38,746 --> 00:57:42,750
Se volverá omnipresente
y se usará en todos los ámbitos de guerra.

721
00:57:43,585 --> 00:57:44,836
En el nivel táctico

722
00:57:45,336 --> 00:57:46,546
y en el estratégico.

723
00:57:47,172 --> 00:57:50,800
Se operará a velocidades
que los humanos no pueden imaginar.

724
00:57:53,094 --> 00:57:57,098
Los comandantes
ya están abrumados con tanta información.

725
00:57:57,599 --> 00:58:01,019
Hay imágenes de satélites,
drones y sensores.

726
00:58:02,103 --> 00:58:06,774
La IA puede ayudar a un comandante
a entender más rápidamente lo que pasa.

727
00:58:07,650 --> 00:58:09,903
Con eso, verá qué decisiones tomar.

728
00:58:11,196 --> 00:58:14,866
La inteligencia artificial
tendrá en cuenta todos los factores

729
00:58:14,949 --> 00:58:17,702
que determinen cómo se libra una guerra,

730
00:58:18,286 --> 00:58:20,246
sugerirá estrategias…

731
00:58:22,540 --> 00:58:25,668
y dará recomendaciones
sobre cómo ganar una batalla.

732
00:58:36,971 --> 00:58:40,266
En Lockheed Martin,
como en el Departamento de Defensa,

733
00:58:40,350 --> 00:58:45,104
vemos la IA como habilitador de tecnología
clave para el mando y el control.

734
00:58:47,065 --> 00:58:50,109
La velocidad de propagación
es de 60 cm por segundo.

735
00:58:50,193 --> 00:58:52,695
Este perímetro es de unas 280 hectáreas.

736
00:58:52,779 --> 00:58:55,782
La incertidumbre
es una realidad del lado de la defensa,

737
00:58:57,158 --> 00:59:00,495
pero tiene similitudes
con estar en la naturaleza

738
00:59:00,578 --> 00:59:03,206
y tener que tomar decisiones
en caso de incendios.

739
00:59:03,289 --> 00:59:06,543
El incendio de Washburn
está al norte de Wawona.

740
00:59:06,626 --> 00:59:09,629
Tienes que tomar decisiones
con datos imperfectos.

741
00:59:10,630 --> 00:59:14,300
¿Cómo nos ayuda la IA
con esa incertidumbre?

742
00:59:17,637 --> 00:59:19,597
Los incendios son muy caóticos.

743
00:59:20,181 --> 00:59:21,266
Son muy complejos.

744
00:59:22,267 --> 00:59:24,727
Por eso, estamos trabajando

745
00:59:24,811 --> 00:59:28,273
en usar la inteligencia artificial
para tomar decisiones.

746
00:59:31,442 --> 00:59:33,987
Cognitive Mission Manager
es un programa en proceso

747
00:59:34,070 --> 00:59:37,949
que toma imágenes aéreas infrarrojas

748
00:59:38,032 --> 00:59:41,786
y las procesa
con algoritmos de inteligencia artificial

749
00:59:41,869 --> 00:59:45,248
para poder predecir
el futuro del incendio.

750
00:59:48,042 --> 00:59:49,794
Con el paso del tiempo,

751
00:59:49,877 --> 00:59:52,922
Cognitive Mission Manager
usará simulaciones

752
00:59:53,006 --> 00:59:57,093
y analizará contextos
a lo largo de miles de ciclos

753
00:59:57,176 --> 01:00:00,722
para recomendar la forma más efectiva
de desplegar recursos

754
01:00:00,805 --> 01:00:04,058
para inhibir
las áreas prioritarias de incendios.

755
01:00:08,062 --> 01:00:12,400
Dirá: "Ve a hacer una inhibición aérea
con un Firehawk aquí".

756
01:00:13,568 --> 01:00:15,903
"Pon equipos terrestres entre la maleza

757
01:00:16,946 --> 01:00:19,032
y bomberos con mangueras

758
01:00:19,657 --> 01:00:23,077
a las áreas de mayor prioridad".

759
01:00:26,289 --> 01:00:31,044
Esas decisiones podrán generarse
más rápida y eficientemente.

760
01:00:35,840 --> 01:00:37,342
Consideramos que la IA

761
01:00:37,425 --> 01:00:42,305
les permite a los humanos
estar al día con el entorno cambiante.

762
01:00:43,389 --> 01:00:46,517
Y hay una cantidad creíble de similitudes

763
01:00:46,601 --> 01:00:50,355
con lo que vemos en Lockheed Martin
en el lado de la defensa.

764
01:00:52,231 --> 01:00:55,860
Los militares ya no hablan
de usar inteligencia artificial

765
01:00:55,943 --> 01:01:00,323
y sistemas de armas individuales
para tomar decisiones de apuntar y matar,

766
01:01:00,865 --> 01:01:02,200
sino de integrar la IA

767
01:01:02,283 --> 01:01:05,787
en toda la arquitectura
de toma de decisiones del ejército.

768
01:01:09,415 --> 01:01:12,960
El ejército tiene un gran plan
llamado Proyecto Convergencia.

769
01:01:14,545 --> 01:01:16,589
La Marina tiene Overmatch.

770
01:01:16,673 --> 01:01:19,592
Y la Fuerza Aérea
tiene Advanced Battle Management System.

771
01:01:21,886 --> 01:01:26,683
El Departamento de Defensa
quiere ver cómo juntar todas esas piezas

772
01:01:26,766 --> 01:01:29,268
para poder operar
más rápido que nuestro rival

773
01:01:30,395 --> 01:01:32,355
y tener una buena ventaja.

774
01:01:33,481 --> 01:01:34,899
Un jefe de batalla de IA

775
01:01:34,982 --> 01:01:39,821
sería un general de alto rango
que esté a cargo de la batalla.

776
01:01:41,155 --> 01:01:44,158
Que ayudara a dar órdenes
a una gran cantidad de fuerzas

777
01:01:45,118 --> 01:01:49,247
y coordinara las acciones
de todas las armas que existieran,

778
01:01:49,330 --> 01:01:51,958
y a una velocidad que ningún humano
podría alcanzar.

779
01:01:53,543 --> 01:01:55,294
Pasamos los últimos 70 años

780
01:01:55,378 --> 01:01:58,798
creando el ejército
más sofisticado del planeta,

781
01:01:58,881 --> 01:02:00,717
y ahora debemos decidir

782
01:02:00,800 --> 01:02:04,595
si queremos ceder el control
sobre esa infraestructura

783
01:02:05,471 --> 01:02:07,598
a un algoritmo, a un software.

784
01:02:10,351 --> 01:02:13,187
Y las consecuencias de esa decisión

785
01:02:13,271 --> 01:02:16,774
podrían afectar
todo el peso de nuestro arsenal militar.

786
01:02:16,858 --> 01:02:19,902
No es un caso de Hiroshima. Son cientos.

787
01:02:25,616 --> 01:02:27,869
Debemos actuar en este momento

788
01:02:27,952 --> 01:02:33,166
porque la ventana para contener el riesgo
se está cerrando rápidamente.

789
01:02:35,126 --> 01:02:39,338
Esta tarde comenzaremos con los desafíos
de seguridad internacional

790
01:02:39,422 --> 01:02:41,132
que plantean las nuevas tecnologías

791
01:02:41,215 --> 01:02:44,343
en el área de sistemas
de armas autónomas letales.

792
01:02:44,427 --> 01:02:47,722
Hay conversaciones
dentro de las Naciones Unidas

793
01:02:47,805 --> 01:02:50,016
sobre el riesgo de armas autónomas letales

794
01:02:50,600 --> 01:02:53,269
y nuestra prohibición de sistemas

795
01:02:53,352 --> 01:02:56,564
que usen la IA
para elegir y abatir personas.

796
01:02:56,647 --> 01:03:00,777
El consenso entre los tecnólogos
es claro y rotundo.

797
01:03:00,860 --> 01:03:04,030
Nos oponemos a las armas autónomas
dirigidas a humanos.

798
01:03:05,615 --> 01:03:08,117
Durante años, los estados ayudaron

799
01:03:08,201 --> 01:03:11,537
con el debate de los sistemas
de armas autónomas letales.

800
01:03:12,288 --> 01:03:16,793
Se trata de una sensación
de seguridad común.

801
01:03:17,794 --> 01:03:20,546
Pero, claro, no es fácil.

802
01:03:21,297 --> 01:03:25,968
Ciertos países,
especialmente, las potencias militares,

803
01:03:26,052 --> 01:03:27,762
quieren estar a la vanguardia

804
01:03:28,429 --> 01:03:31,599
para ir más adelantados
que sus adversarios.

805
01:03:32,600 --> 01:03:36,187
Pero todos deben estar de acuerdo
para que se haga algo.

806
01:03:36,854 --> 01:03:39,065
Habrá al menos un país que se oponga,

807
01:03:39,148 --> 01:03:42,109
y Estados Unidos y Rusia
han dejado en claro

808
01:03:42,193 --> 01:03:45,655
que se oponen a un tratado
que prohíba las armas autónomas.

809
01:03:47,198 --> 01:03:53,204
Cuando pensamos en la cantidad de personas
que trabajan para mejorar la IA,

810
01:03:54,747 --> 01:03:56,457
esa sala está muy llena.

811
01:03:57,750 --> 01:04:02,880
Cuando pensamos en la cantidad de personas
que trabajan para que la IA sea segura,

812
01:04:04,340 --> 01:04:07,510
esa sala está mucho menos poblada.

813
01:04:11,764 --> 01:04:13,724
Pero también soy muy optimista.

814
01:04:16,060 --> 01:04:19,480
Pienso en la Convención
de armas biológicas,

815
01:04:19,564 --> 01:04:22,358
que ocurrió en plena Guerra Fría,

816
01:04:23,025 --> 01:04:27,655
a pesar de las tensiones
entre la Unión Soviética y Estados Unidos.

817
01:04:29,156 --> 01:04:33,536
Se dieron cuenta
de que el desarrollo de armas biológicas

818
01:04:33,619 --> 01:04:36,247
no beneficiaba a ninguna de las partes

819
01:04:36,330 --> 01:04:38,749
y tampoco al mundo en general.

820
01:04:41,335 --> 01:04:45,131
La dinámica del avance armamentista
favorece la velocidad sobre la seguridad.

821
01:04:45,715 --> 01:04:48,342
Pero creo que lo importante es considerar

822
01:04:48,426 --> 01:04:52,430
que, en algún momento, el costo
de moverse rápido se vuelve muy alto.

823
01:04:56,225 --> 01:04:59,270
No podemos desarrollar las cosas
de forma aislada

824
01:05:00,021 --> 01:05:06,611
y exponerlas sin pensar
en adónde podrían ir en el futuro.

825
01:05:07,862 --> 01:05:10,823
Debemos evitar
ese momento de la bomba atómica.

826
01:05:14,577 --> 01:05:17,705
Hay muchísimo en juego
en el avance de la IA.

827
01:05:18,289 --> 01:05:22,001
No creo que mucha gente
entienda la estabilidad global

828
01:05:22,084 --> 01:05:28,174
que ha brindado
tener una fuerza militar superior

829
01:05:28,257 --> 01:05:31,135
durante los últimos 75 años.

830
01:05:32,887 --> 01:05:35,681
Estados Unidos y nuestras fuerzas aliadas

831
01:05:36,557 --> 01:05:38,684
deben superar la IA de sus rivales.

832
01:05:43,314 --> 01:05:44,774
No hay un segundo en la guerra.

833
01:05:45,524 --> 01:05:49,111
China presentó el plan ambicioso
de ser el líder mundial en IA para 2030.

834
01:05:49,195 --> 01:05:51,656
Es una carrera que algunos dicen
que EE. UU. pierde…

835
01:05:52,740 --> 01:05:56,160
Se acelera la aplicación
de la inteligencia artificial

836
01:05:56,243 --> 01:05:59,246
para asegurar
nuestra ventaja militar competitiva.

837
01:06:02,875 --> 01:06:05,461
Estamos avanzando con esta tecnología.

838
01:06:05,544 --> 01:06:08,673
Lo que no está claro
es hasta dónde vamos a llegar.

839
01:06:09,507 --> 01:06:12,885
¿Controlamos la tecnología
o ella nos controla a nosotros?

840
01:06:14,136 --> 01:06:16,973
No se puede rehacer nada.

841
01:06:17,807 --> 01:06:20,977
Una vez que el genio
sale de la botella, ya está.

842
01:06:22,019 --> 01:06:25,189
Y es muy difícil volver a meterlo.

843
01:06:28,609 --> 01:06:31,737
Y si no actuamos ahora,
será demasiado tarde.

844
01:06:33,114 --> 01:06:34,657
Quizá ya sea tarde.

845
01:08:48,124 --> 01:08:53,254
Subtítulos: Guillermina Usunoff