1 00:00:02,000 --> 00:00:07,000 Downloaded from YTS.MX 2 00:00:07,340 --> 00:00:09,342 [música de suspenso] 3 00:00:08,000 --> 00:00:13,000 Official YIFY movies site: YTS.MX 4 00:00:15,515 --> 00:00:17,100 [música se intensifica] 5 00:00:24,065 --> 00:00:27,318 [mujer] La inteligencia artificial me parece inspiradora. 6 00:00:28,361 --> 00:00:31,489 De acuerdo, agrupándose. Buena formación. 7 00:00:33,116 --> 00:00:36,703 [mujer] La IA tiene el potencial de eliminar la pobreza, 8 00:00:36,786 --> 00:00:38,705 darnos nuevas medicinas 9 00:00:39,330 --> 00:00:41,583 y hacer el mundo más pacífico. 10 00:00:45,587 --> 00:00:46,921 [hombre] Buen trabajo. 11 00:00:49,883 --> 00:00:53,428 [mujer] Pero hay muchos riesgos en el camino. 12 00:00:54,304 --> 00:00:55,263 [zumbido] 13 00:00:55,346 --> 00:00:56,639 [silencio] 14 00:01:04,981 --> 00:01:07,567 Con la IA, esencialmente, estamos creando 15 00:01:07,650 --> 00:01:09,611 una inteligencia no humana 16 00:01:09,694 --> 00:01:11,863 que es muy impredecible. 17 00:01:14,407 --> 00:01:16,451 Mientras más poderosa sea, 18 00:01:16,534 --> 00:01:19,746 ¿cuáles son los límites que le estamos trazando a la IA 19 00:01:19,829 --> 00:01:22,665 en términos de cómo queremos usarla o no usarla? 20 00:01:25,001 --> 00:01:28,505 No existe un mejor punto de partida para esta conversación 21 00:01:28,588 --> 00:01:31,049 que el de las aplicaciones militares. 22 00:01:34,010 --> 00:01:36,387 El campo de batalla se ha convertido 23 00:01:36,471 --> 00:01:38,890 en una provincia de hardware y software. 24 00:01:40,975 --> 00:01:42,936 [hombre] El objetivo ha sido alcanzado. 25 00:01:43,019 --> 00:01:46,022 [mujer] Y los militares están ansiosos por desarrollar IA 26 00:01:46,106 --> 00:01:48,399 más rápido que sus adversarios. 27 00:01:49,234 --> 00:01:50,360 [hombre] Estoy muerto. 28 00:01:50,443 --> 00:01:52,028 [explosión] 29 00:01:52,654 --> 00:01:54,322 [hombre 2] Control en tierra 15. 30 00:01:54,405 --> 00:01:59,035 [mujer] Estamos avanzando hacia un mundo en donde no solo las potencias militares, 31 00:01:59,119 --> 00:02:02,997 sino sectores no estatales, industrias privadas 32 00:02:03,081 --> 00:02:07,168 e incluso los departamentos de policía locales en las calles 33 00:02:07,252 --> 00:02:10,046 usarán armas que puedan matar de forma autónoma. 34 00:02:12,006 --> 00:02:15,260 ¿Llegaremos a ver la decisión de arrebatar una vida 35 00:02:15,343 --> 00:02:17,887 usando algoritmos y software computacional? 36 00:02:18,638 --> 00:02:21,099 Es uno de los temas más urgentes de hoy. 37 00:02:21,182 --> 00:02:22,016 NOS MATARÁN 38 00:02:24,269 --> 00:02:27,230 Y, si no se usan con precaución, 39 00:02:27,313 --> 00:02:30,275 presentan un grave riesgo para cada individuo en el planeta. 40 00:02:31,317 --> 00:02:32,694 [zumbido electrónico] 41 00:02:41,828 --> 00:02:44,914 LO DESCONOCIDO 42 00:02:46,833 --> 00:02:50,086 LOS ROBOTS ASESINOS 43 00:03:00,972 --> 00:03:03,391 [zumbido electrónico] 44 00:03:17,488 --> 00:03:19,657 [música de tensión] 45 00:03:28,291 --> 00:03:31,252 [charla indistinta por radio] 46 00:03:37,884 --> 00:03:39,886 [charla indistinta por radio] 47 00:03:41,387 --> 00:03:43,556 [disparos] 48 00:03:46,226 --> 00:03:47,227 [disparo] 49 00:03:55,026 --> 00:03:56,694 [ríe] 50 00:03:59,530 --> 00:04:02,116 [técnico] El lente es más amplio que el anterior. 51 00:04:02,200 --> 00:04:05,703 - [hombre] ¿En serio? - [técnico] Podemos ver más datos. 52 00:04:05,787 --> 00:04:06,871 [hombre] Grandioso. 53 00:04:07,538 --> 00:04:09,415 En Shield AI, 54 00:04:09,499 --> 00:04:12,710 estamos desarrollando un piloto con IA que usa tecnología 55 00:04:12,794 --> 00:04:14,879 de IA de autoconducción, 56 00:04:14,963 --> 00:04:16,631 y lo pondremos en una aeronave. 57 00:04:19,300 --> 00:04:21,719 Cuando hablamos de un piloto con IA, 58 00:04:21,803 --> 00:04:25,139 pensamos en darle a la aeronave un nivel mayor de autonomía 59 00:04:25,223 --> 00:04:28,434 y que sea capaz de resolver problemas por sí misma. 60 00:04:29,602 --> 00:04:32,355 Nova es un cuadricóptero autónomo 61 00:04:32,438 --> 00:04:35,942 que explora edificios y estructuras subterráneas 62 00:04:36,859 --> 00:04:38,611 antes de las fuerzas de barrido 63 00:04:38,695 --> 00:04:41,322 para brindarles ojos y oídos en esos espacios. 64 00:04:41,906 --> 00:04:45,618 Definitivamente, pueden verse muchas mejoras desde la última vez. 65 00:04:45,702 --> 00:04:48,413 [técnico] Hoy trabajamos en cambios de exploración 66 00:04:48,496 --> 00:04:50,248 y algunas características de 4x4. 67 00:04:50,331 --> 00:04:53,584 La idea es que termine un piso completo antes de ir al segundo. 68 00:04:54,294 --> 00:04:56,796 - Es increíble. - Hicimos algunos cambios. 69 00:04:57,422 --> 00:04:58,965 A menudo, la gente me pregunta 70 00:04:59,048 --> 00:05:02,343 por qué la IA es ahora una capacidad importante. 71 00:05:02,427 --> 00:05:04,095 EXMIEMBRO DE LA MARINA DE EE. UU. 72 00:05:04,178 --> 00:05:06,973 Entonces, recuerdo las misiones que me tocó ejecutar. 73 00:05:07,056 --> 00:05:09,058 [música dramática] 74 00:05:09,142 --> 00:05:10,935 Pasé siete años en la Marina. 75 00:05:11,561 --> 00:05:15,481 Soy un ex Navy Seal, enviado dos veces a Afganistán 76 00:05:15,565 --> 00:05:17,191 y una al frente del Pacífico. 77 00:05:18,026 --> 00:05:22,947 En un día común, debíamos "limpiar" 150 edificios o complejos diferentes. 78 00:05:23,031 --> 00:05:24,574 [música de tensión] 79 00:05:30,997 --> 00:05:34,250 Una de las principales actividades es el combate cercano. 80 00:05:35,293 --> 00:05:39,172 Hay tiroteos en espacios muy reducidos dentro de los edificios. 81 00:05:41,466 --> 00:05:42,967 El enemigo te dispara 82 00:05:43,468 --> 00:05:46,471 y, posiblemente, haya explosivos dentro del edificio. 83 00:05:46,554 --> 00:05:47,764 [explosión] 84 00:05:49,015 --> 00:05:51,893 Eso es lo más peligroso 85 00:05:51,976 --> 00:05:55,229 para cualquier miembro operativo de las fuerzas especiales 86 00:05:55,313 --> 00:05:58,358 o de la infantería en una zona de combate. 87 00:05:58,441 --> 00:05:59,484 Sin duda. 88 00:06:01,152 --> 00:06:03,154 [música melancólica] 89 00:06:12,497 --> 00:06:16,334 Siempre voy a estar agradecido por el tiempo que estuve en la Marina. 90 00:06:17,168 --> 00:06:22,423 Tengo una colección de momentos y recuerdos que, cuando pienso en ellos, 91 00:06:22,507 --> 00:06:24,592 obviamente me pongo sensible. 92 00:06:28,346 --> 00:06:31,349 Sé que es un cliché que la libertad no es gratis, 93 00:06:31,432 --> 00:06:32,767 pero en verdad lo creo, 94 00:06:32,850 --> 00:06:37,480 porque lo he experimentado, y eso requiere muchos sacrificios. 95 00:06:38,022 --> 00:06:39,065 Lo siento. 96 00:06:41,067 --> 00:06:44,570 Cuando algo malo le pasa a un miembro de tu equipo, 97 00:06:44,654 --> 00:06:46,948 ya sea que salga herido o lo maten, 98 00:06:47,490 --> 00:06:49,700 es algo realmente trágico. 99 00:06:49,784 --> 00:06:53,746 Pero, para mí, ahora el trabajo que hacemos aquí, 100 00:06:53,830 --> 00:06:58,334 es una motivación para reducir el número de veces que eso pase. 101 00:06:58,418 --> 00:07:00,336 o tratar de que no pase de nuevo. 102 00:07:06,509 --> 00:07:08,886 [hombre] En la reciente década del 2000, 103 00:07:08,970 --> 00:07:12,765 hubo un despertar al interior del Departamento de Defensa, 104 00:07:12,849 --> 00:07:15,601 que se podría llamar: La Revolución Robótica Accidental. 105 00:07:15,685 --> 00:07:18,396 Desplegamos miles de robots en Irak y Afganistán. 106 00:07:18,479 --> 00:07:19,564 AUTOR DE ARMY OF NONE 107 00:07:21,983 --> 00:07:24,485 [Bob] Cuando la administración de Obama me pidió 108 00:07:24,569 --> 00:07:27,238 que me convirtiera en Secretario Adjunto de Defensa, 109 00:07:27,321 --> 00:07:29,657 el modo en que la guerra se peleaba cambiaba. 110 00:07:29,740 --> 00:07:31,117 SUBSECRETARIO DE DEFENSA 111 00:07:32,785 --> 00:07:36,330 Se usaban robots donde solían usarse personas. 112 00:07:37,999 --> 00:07:41,544 [Paul] Los primeros sistemas robóticos se controlaban a distancia. 113 00:07:41,627 --> 00:07:43,296 Un humano los manejaba 114 00:07:43,379 --> 00:07:45,590 como se hacía con un auto de control remoto. 115 00:07:46,632 --> 00:07:48,384 [Bob] Al principio, por lo general, 116 00:07:48,468 --> 00:07:51,929 se usaban para buscar dispositivos explosivos improvisados, 117 00:07:52,013 --> 00:07:54,807 Y si se activaban, el robot explotaba. 118 00:07:54,891 --> 00:07:56,100 [explosión] 119 00:07:57,226 --> 00:08:00,396 Y decíamos: "Diablos, qué lástima. Bueno, saquen otro robot". 120 00:08:02,273 --> 00:08:06,819 [mujer 2] En Afganistán, teníamos el dron Depredador que se convirtió 121 00:08:06,903 --> 00:08:09,739 en una herramienta muy útil para los ataques aéreos. 122 00:08:11,324 --> 00:08:13,034 [explosión] 123 00:08:13,117 --> 00:08:14,410 [Paul] Con el tiempo, 124 00:08:14,494 --> 00:08:16,829 los planeadores militares se preguntaban: 125 00:08:16,913 --> 00:08:18,915 "¿Para qué podemos usar a los robots?" 126 00:08:18,998 --> 00:08:20,791 y "¿hacia dónde va esto?". 127 00:08:20,875 --> 00:08:24,170 Y uno de los temas comunes era la tendencia a una mayor autonomía. 128 00:08:26,714 --> 00:08:30,635 [mujer 2] Un arma autónoma es aquella que toma sus propias decisiones 129 00:08:30,718 --> 00:08:33,304 con poca o nula intervención humana. 130 00:08:33,387 --> 00:08:35,389 Es independiente y está autodirigida. 131 00:08:35,473 --> 00:08:37,558 CENTRO PARA UNA NUEVA SEGURIDAD AMERICANA 132 00:08:38,434 --> 00:08:41,604 Y si asesina o no depende de si está armada o no. 133 00:08:43,314 --> 00:08:47,026 [Bob] Cuando tienes más y más autonomía en todo tu sistema, 134 00:08:47,109 --> 00:08:50,363 las cosas empiezan a moverse a una mayor velocidad. 135 00:08:51,989 --> 00:08:55,159 Y cuando operas a mayor velocidad 136 00:08:55,243 --> 00:08:56,827 que tus adversarios, 137 00:08:57,453 --> 00:09:01,165 es una ventaja extraordinaria en combate. 138 00:09:03,960 --> 00:09:06,629 [hombre] A la par de la autonomía, nos enfocamos 139 00:09:07,255 --> 00:09:10,383 en sistemas altamente inteligentes y resilientes. 140 00:09:11,884 --> 00:09:15,304 Sistemas que puedan leer y reaccionar basados en su medio ambiente, 141 00:09:16,180 --> 00:09:19,642 y puedan tomar decisiones sobre cómo maniobrar en ese entorno. 142 00:09:24,981 --> 00:09:28,234 El edificio donde estamos hoy fue construido como estudio de cine. 143 00:09:28,317 --> 00:09:29,527 OPERACIONES ESTRATÉGICAS 144 00:09:29,610 --> 00:09:31,571 Luego fue convertido para poder recrear 145 00:09:31,654 --> 00:09:34,240 ambientes realistas de entrenamiento militar. 146 00:09:39,996 --> 00:09:43,291 Estamos aquí para evaluar a nuestro piloto IA. 147 00:09:44,625 --> 00:09:47,712 La misión que va a ejecutar es la de buscar amenazas. 148 00:09:48,879 --> 00:09:52,800 Es para que la fuerza de barrido tome una decisión de cómo atacar ese problema. 149 00:09:55,136 --> 00:09:57,597 [hombre 2] Le llamamos "el embudo de la muerte". 150 00:09:57,680 --> 00:09:59,390 Tenemos que pasar por la puerta. 151 00:10:01,726 --> 00:10:03,728 Es donde estamos más vulnerables. 152 00:10:06,814 --> 00:10:10,151 El Nova nos permitirá saber si hay un tirador detrás de esa puerta, 153 00:10:10,818 --> 00:10:12,653 o si hay una familia detrás. 154 00:10:15,114 --> 00:10:19,035 Así podremos tomar mejores decisiones y salvar del peligro a nuestra gente. 155 00:10:26,792 --> 00:10:29,128 [zumbido electrónico] 156 00:10:30,880 --> 00:10:32,882 [música de suspenso] 157 00:10:47,730 --> 00:10:49,732 [música de suspenso se intensifica] 158 00:10:57,490 --> 00:11:01,410 [hombre 3] Usamos sensores de visión para ser capaces de entender 159 00:11:01,494 --> 00:11:03,746 el medio ambiente al que nos enfrentamos. 160 00:11:04,997 --> 00:11:07,249 Es un edificio de varios pisos. 161 00:11:07,333 --> 00:11:08,334 Aquí está el mapa. 162 00:11:08,417 --> 00:11:11,671 Mientras voy explorando, esto es lo que veo y dónde lo veo. 163 00:11:19,929 --> 00:11:22,098 Detector de personas. Grandioso. 164 00:11:23,891 --> 00:11:27,478 [hombre 3] Otro de los sensores que tiene el Nova es un escáner térmico. 165 00:11:27,561 --> 00:11:30,690 Si marca 37 grados Celsius, seguramente es humano. 166 00:11:32,233 --> 00:11:35,861 Las personas se consideran una amenaza hasta que se declare lo contrario. 167 00:11:38,906 --> 00:11:41,534 Se trata de eliminar la duda en las guerras 168 00:11:41,617 --> 00:11:43,244 para tomar mejores decisiones. 169 00:11:44,704 --> 00:11:46,956 Y cuando vemos hacia el futuro, 170 00:11:47,039 --> 00:11:50,793 esperamos escalar para construir equipos de aeronaves autónomas. 171 00:11:53,754 --> 00:11:55,631 Con los vehículos autoconducidos… 172 00:11:55,715 --> 00:11:57,383 OFICIAL EN JEFE DE TECNOLOGÍA 173 00:11:57,466 --> 00:12:00,386 …hay que ordenarle: "Llévame del punto A al punto B". 174 00:12:02,972 --> 00:12:06,475 A nuestros sistemas no les pedimos moverse del punto A al punto B, 175 00:12:06,559 --> 00:12:08,477 sino completar un objetivo. 176 00:12:10,312 --> 00:12:13,190 Es como decirle: "Necesito leche". 177 00:12:13,774 --> 00:12:16,861 Y luego el robot tiene que descifrar para qué tienda debe ir, 178 00:12:16,944 --> 00:12:18,904 ser capaz de conseguir la leche 179 00:12:18,988 --> 00:12:20,239 y traerla de vuelta. 180 00:12:20,740 --> 00:12:24,535 Inclusive, sería mucho más apropiado establecerlo como: 181 00:12:25,035 --> 00:12:27,455 "Mantén el refrigerador abastecido". 182 00:12:27,538 --> 00:12:30,791 Llegamos a un nivel de inteligencia que entiende qué necesitamos, 183 00:12:30,875 --> 00:12:32,168 cómo lo necesitamos 184 00:12:32,251 --> 00:12:35,796 y si existe un desafío o un problema, o surge una complicación, 185 00:12:35,880 --> 00:12:37,381 buscar como mitigarlo. 186 00:12:40,801 --> 00:12:44,388 [Brandon] Cuando tomé la decisión de abandonar la Marina, 187 00:12:44,472 --> 00:12:47,767 empecé a pensar: "Muy bien, ¿ahora qué sigue?". 188 00:12:49,143 --> 00:12:52,605 Crecí con Internet. Vi en lo que se convirtió. 189 00:12:53,189 --> 00:12:56,025 Y parte de la conclusión a la que llegué fue 190 00:12:56,108 --> 00:12:59,487 que la inteligencia artificial en 2015 era 191 00:12:59,570 --> 00:13:02,907 lo que Internet fue en 1991. 192 00:13:04,033 --> 00:13:06,869 Y la IA estaba lista para crecer 193 00:13:06,952 --> 00:13:10,331 y convertirse en una de las tecnologías más poderosas del mundo. 194 00:13:11,791 --> 00:13:13,417 Al trabajar con ella a diario, 195 00:13:13,501 --> 00:13:16,295 puedo ver el progreso que se lleva a cabo. 196 00:13:19,048 --> 00:13:22,468 Pero para mucha gente, cuando piensan en la IA, 197 00:13:22,551 --> 00:13:25,221 su mente viaja de inmediato a Hollywood. 198 00:13:26,639 --> 00:13:28,474 [pitidos agudos] 199 00:13:28,557 --> 00:13:29,975 [robot habla en inglés] 200 00:13:31,268 --> 00:13:35,314 [habla en inglés] 201 00:13:35,397 --> 00:13:37,316 [robot habla en inglés] 202 00:13:38,275 --> 00:13:41,403 [hombre] Cuando la gente piensa en inteligencia artificial, 203 00:13:41,487 --> 00:13:43,697 por lo general, suele remitirse a Terminator 204 00:13:44,198 --> 00:13:45,533 o a Yo, Robot. 205 00:13:46,075 --> 00:13:48,160 [hablan en inglés] 206 00:13:48,244 --> 00:13:49,578 [hombre] O a The Matrix. 207 00:13:51,080 --> 00:13:53,749 Por lo que han visto en películas de ciencia ficción, 208 00:13:53,833 --> 00:13:55,751 ¿cómo saben que soy humano? 209 00:13:55,835 --> 00:13:58,254 Podría ser una IA generada por computadora. 210 00:13:58,337 --> 00:13:59,964 [hablan en inglés] 211 00:14:02,591 --> 00:14:06,095 [Andrew] Pero existen toda clase de IA más primitivas 212 00:14:06,178 --> 00:14:09,932 que podrían cambiar nuestras vidas antes de ser robots que piensen y hablen. 213 00:14:10,015 --> 00:14:11,851 POLÍTICO Y EMPRENDEDOR TECNOLÓGICO 214 00:14:12,643 --> 00:14:15,771 [mujer] Los robots ya están aquí y están tomando decisiones. 215 00:14:15,855 --> 00:14:18,566 La revolución robótica ya llegó… 216 00:14:18,649 --> 00:14:20,568 PROFESORA DE PERIODISMO Y DATA, NYU 217 00:14:20,651 --> 00:14:23,153 …pero no se ve como el mundo la había imaginado. 218 00:14:23,237 --> 00:14:26,740 [hablan en inglés] 219 00:14:27,950 --> 00:14:31,287 [hombre] No estamos hablando de robots asesinos tipo Terminator, 220 00:14:31,370 --> 00:14:33,330 sino de IA que pueda hacer tareas… 221 00:14:33,414 --> 00:14:35,332 ESCUELA SCHAR DE POLÍTICA Y GOBIERNO 222 00:14:35,416 --> 00:14:39,879 que hacen los humanos, pero la preocupación es si es confiable. 223 00:14:40,462 --> 00:14:42,882 [reportera] Nuevos detalles del fatal accidente 224 00:14:42,965 --> 00:14:45,426 que involucró a una camioneta Uber autoconducida. 225 00:14:45,509 --> 00:14:48,762 La compañía creó un chatbot con inteligencia artificial. 226 00:14:48,846 --> 00:14:51,056 Ella pasó a un tono racista. 227 00:14:51,140 --> 00:14:55,394 [reportera 2] 26 legisladores estatales falsamente identificados como criminales. 228 00:14:55,477 --> 00:14:57,521 EL RECONOCIMIENTO FACIAL DE AMAZON FALLÓ 229 00:14:57,605 --> 00:14:59,440 La cuestión es si puede o no 230 00:14:59,523 --> 00:15:02,026 enfrentar las complejidades del mundo real. 231 00:15:22,212 --> 00:15:24,423 [hombre] El mundo físico es muy complicado. 232 00:15:25,174 --> 00:15:27,426 Hay muchas cosas que no sabemos, 233 00:15:27,968 --> 00:15:30,763 y eso hace mucho más difícil entrenar a los sistemas IA. 234 00:15:33,057 --> 00:15:37,561 Es aquí donde los sistemas de aprendizaje de las máquinas empiezan a aparecer. 235 00:15:38,520 --> 00:15:42,733 [hombre] El aprendizaje automático ha sido un gran avance porque significa… 236 00:15:42,816 --> 00:15:44,777 REPORTERO DE INVESTIGACIÓN, VANITY FAIR 237 00:15:44,860 --> 00:15:47,321 …que no debemos enseñarle todo a las computadoras. 238 00:15:47,905 --> 00:15:52,409 Se le dan a una computadora millones de fragmentos de información 239 00:15:52,493 --> 00:15:54,453 y la máquina empieza a aprender, 240 00:15:55,245 --> 00:15:57,289 y eso puede aplicarse a todo. 241 00:15:59,959 --> 00:16:02,962 [Pulkit] En el proyecto "Perro Robot", tratamos de demostrar 242 00:16:03,045 --> 00:16:09,009 que nuestro perro robot puede caminar en terrenos muy diversos. 243 00:16:10,052 --> 00:16:11,845 Los humanos han evolucionado 244 00:16:11,929 --> 00:16:14,848 durante miles de millones de años para caminar, 245 00:16:14,932 --> 00:16:20,688 pero usaron la inteligencia para adaptarse a los diferentes terrenos. 246 00:16:21,939 --> 00:16:24,316 La pregunta para los sistemas robóticos es 247 00:16:24,400 --> 00:16:27,069 si podrán adaptarse como los animales y humanos. 248 00:16:35,953 --> 00:16:37,663 Con las máquinas que aprenden, 249 00:16:37,746 --> 00:16:40,582 recabamos mucha información en simulaciones. 250 00:16:42,668 --> 00:16:45,838 La simulación es un gemelo digital de la realidad. 251 00:16:46,588 --> 00:16:49,258 Podemos tener muchas instancias de la realidad 252 00:16:49,341 --> 00:16:52,052 ejecutándose en diferentes computadoras. 253 00:16:53,178 --> 00:16:56,974 Recreamos miles de acciones en la simulación. 254 00:16:58,684 --> 00:17:01,437 El terreno al que se enfrentan tiene 255 00:17:01,520 --> 00:17:04,773 diversas condiciones resbalosas y distintas texturas. 256 00:17:04,857 --> 00:17:09,903 Tomamos todas las experiencias de los miles de robots en la simulación 257 00:17:09,987 --> 00:17:13,282 y las descargamos al sistema robótico real. 258 00:17:15,492 --> 00:17:17,953 La prueba que vamos a hacer hoy es para ver 259 00:17:18,037 --> 00:17:20,039 si puede adaptarse a nuevos terrenos. 260 00:17:27,212 --> 00:17:29,965 [música de tensión] 261 00:17:53,322 --> 00:17:55,491 Cuando el robot caminó sobre espuma, 262 00:17:55,574 --> 00:17:58,577 las patas pisaban fuertemente el suelo. 263 00:17:59,369 --> 00:18:02,206 Mientras que en una superficie de polímero, 264 00:18:03,248 --> 00:18:06,460 trataba de ajustar su movimiento para no resbalar. 265 00:18:08,670 --> 00:18:10,672 Ahí puede verse claramente 266 00:18:10,756 --> 00:18:14,051 lo que el aprendizaje automático puede brindar a la investigación. 267 00:18:20,182 --> 00:18:22,392 [se detiene la música] 268 00:18:22,476 --> 00:18:25,562 [música de suspenso] 269 00:18:41,161 --> 00:18:45,833 Creemos que el Perro Robot puede ser muy útil en escenarios de respuesta 270 00:18:45,916 --> 00:18:49,670 ante desastres, donde hay que transitar por diferentes tipos de terreno. 271 00:18:52,631 --> 00:18:54,883 O se puede poner a estos perros a vigilar 272 00:18:54,967 --> 00:18:57,427 en entornos complicados. 273 00:19:15,696 --> 00:19:19,575 Pero la mayor parte de la tecnología se enfrenta al desafío 274 00:19:19,658 --> 00:19:22,369 de si será usada para el bien o para hacer el mal. 275 00:19:24,079 --> 00:19:28,417 Por ejemplo, podemos usar tecnología nuclear para generar energía. 276 00:19:30,419 --> 00:19:33,797 Pero también podemos desarrollar bombas atómicas que son muy malas. 277 00:19:35,090 --> 00:19:38,468 Es lo que conocemos como el problema de uso dual. 278 00:19:39,052 --> 00:19:40,929 El fuego es de uso dual. 279 00:19:41,013 --> 00:19:41,847 FÍSICO, MIT 280 00:19:41,930 --> 00:19:44,308 La inteligencia humana es de uso dual. 281 00:19:44,391 --> 00:19:46,268 Y no hace falta decirlo, 282 00:19:46,351 --> 00:19:48,854 la inteligencia artificial también es de uso dual. 283 00:19:49,354 --> 00:19:53,984 Es realmente importante pensar en el uso de la IA en contexto, 284 00:19:54,693 --> 00:19:59,114 porque sí, es grandiosa en un robot de búsqueda y rescate 285 00:19:59,198 --> 00:20:02,868 para ayudar a localizar a alguien después de una avalancha, 286 00:20:02,951 --> 00:20:05,871 pero ese mismo robot puede llevar armas. 287 00:20:05,954 --> 00:20:07,080 [disparos] 288 00:20:15,589 --> 00:20:18,550 [Pulkit] Cuando sé de compañías que están usando robots 289 00:20:18,634 --> 00:20:21,094 para ponerles armas, 290 00:20:21,178 --> 00:20:22,930 una parte de mí se enoja. 291 00:20:23,931 --> 00:20:25,432 Y otra parte entiende 292 00:20:25,515 --> 00:20:28,435 que cuando desarrollamos nuestra tecnología, 293 00:20:28,518 --> 00:20:30,103 esas cosas van a pasar. 294 00:20:31,021 --> 00:20:34,441 [mujer] Esa es una tecnología transformativa. 295 00:20:36,568 --> 00:20:38,570 Hay sistemas de armas 296 00:20:38,654 --> 00:20:43,617 que en verdad pueden cambiar nuestra seguridad de manera dramática. 297 00:20:46,161 --> 00:20:51,500 Por el momento, no estamos seguros de que las máquinas sean capaces de hacer 298 00:20:51,583 --> 00:20:53,710 la distinción entre civiles y combatientes. 299 00:20:53,794 --> 00:20:54,962 ALTO REPRESENTANTE, ONU 300 00:21:01,551 --> 00:21:04,763 [Paul] Al inicio de la guerra en Afganistán, estuve en el equipo 301 00:21:04,846 --> 00:21:08,016 de francotiradores buscando enemigos en el cruce fronterizo. 302 00:21:09,685 --> 00:21:12,854 Y enviaron a una niña pequeña a reconocer nuestra posición. 303 00:21:14,439 --> 00:21:17,067 Dispararle a esa niña, nunca nos pasó por la mente. 304 00:21:19,695 --> 00:21:22,864 Bajo las leyes de la guerra, eso habría sido legal. 305 00:21:24,950 --> 00:21:27,369 No hay una edad para los enemigos en combate. 306 00:21:29,079 --> 00:21:30,789 Si construyes un robot 307 00:21:30,872 --> 00:21:33,583 que cumpla con las leyes de la guerra a la perfección, 308 00:21:33,667 --> 00:21:35,335 le hubiera disparado a la niña. 309 00:21:36,420 --> 00:21:39,381 ¿Cómo diferencia un robot lo que es legal de lo correcto? 310 00:21:39,464 --> 00:21:41,091 EXRANGER DEL EJÉRCITO DE EE. UU. 311 00:21:43,343 --> 00:21:46,054 [Arash] Cuando se trata de drones de guerra autónomos, 312 00:21:46,138 --> 00:21:49,933 se intenta eliminar los riesgos que corren los soldados estadounidenses 313 00:21:50,017 --> 00:21:51,601 y su psique. 314 00:21:51,685 --> 00:21:53,353 AFGANOS PARA UN MEJOR MAÑANA 315 00:21:53,437 --> 00:21:56,940 Pero el verdadero daño terminan experimentándolo los civiles afganos, 316 00:21:57,024 --> 00:21:58,775 iraquíes y somalís. 317 00:22:09,619 --> 00:22:11,496 Yo le preguntaría a los que apoyan 318 00:22:11,580 --> 00:22:15,000 la confianza en la IA para ser usada en drones: 319 00:22:15,083 --> 00:22:17,627 "¿Y si fuera su aldea la que recibe los ataques?". 320 00:22:23,550 --> 00:22:25,761 [hombre] La IA es un arma de doble filo. 321 00:22:26,595 --> 00:22:30,724 Puede ser usada para bien, que para eso la usaríamos normalmente. 322 00:22:31,558 --> 00:22:33,477 Y con un simple interruptor, 323 00:22:34,561 --> 00:22:38,023 la tecnología podría convertirse en algo potencialmente letal. 324 00:22:38,106 --> 00:22:40,233 RALEIGH, CAROLINA DEL NORTE 325 00:22:47,032 --> 00:22:48,533 Soy farmacólogo clínico. 326 00:22:49,618 --> 00:22:50,994 Tengo un equipo de gente 327 00:22:51,078 --> 00:22:52,954 que utiliza inteligencia artificial 328 00:22:53,038 --> 00:22:54,456 para descubrir medicamentos 329 00:22:54,539 --> 00:22:57,751 que curen enfermedades que no están recibiendo atención. 330 00:22:59,711 --> 00:23:04,132 En el pasado, se tomaba una molécula de un medicamento existente 331 00:23:04,216 --> 00:23:06,885 y se modificaba para conseguir uno nuevo. 332 00:23:08,261 --> 00:23:13,350 Ahora, hemos desarrollado una IA que nos va nutriendo de millones de ideas, 333 00:23:13,892 --> 00:23:15,227 millones de moléculas, 334 00:23:16,186 --> 00:23:19,231 y eso nos abre numerosas posibilidades 335 00:23:19,314 --> 00:23:23,151 para tratar enfermedades que nunca antes habíamos podido tratar. 336 00:23:25,153 --> 00:23:29,741 Pero, definitivamente, hay un lado oscuro al que nunca pensé que podría llegar. 337 00:23:30,242 --> 00:23:32,119 AMO LA QUÍMICA 338 00:23:33,161 --> 00:23:35,872 Todo esto comenzó cuando fui invitado 339 00:23:35,956 --> 00:23:38,458 por una organización, a las afueras de Suiza, 340 00:23:38,542 --> 00:23:40,460 llamada Laboratorio Spiez 341 00:23:40,544 --> 00:23:44,423 para hacer una presentación del posible mal uso de la IA. 342 00:23:48,343 --> 00:23:51,888 [hombre] Sean me mandó un correo con algunas ideas 343 00:23:51,972 --> 00:23:55,308 de formas en las que nuestra IA podría ser mal utilizada. 344 00:23:56,059 --> 00:23:59,354 En lugar de hablar de nuestro modelo para crear moléculas 345 00:23:59,438 --> 00:24:02,274 para generar medicamentos y tratar enfermedades, 346 00:24:02,774 --> 00:24:06,403 querían ver si se podía generar la molécula más tóxica posible. 347 00:24:10,073 --> 00:24:11,908 [Sean] Solo quería aclarar un punto: 348 00:24:11,992 --> 00:24:15,620 ¿puede la tecnología de la IA diseñar moléculas que sean letales? 349 00:24:17,414 --> 00:24:20,083 [Fabio] Y, en verdad, pensamos que iba a fracasar, 350 00:24:20,167 --> 00:24:24,504 porque lo único que hicimos fue cambiar un cero por un uno. 351 00:24:26,715 --> 00:24:28,341 Y con solo invertirlo, 352 00:24:28,425 --> 00:24:32,429 en lugar de alejarnos de la toxicidad, ahora nos dirigíamos hacia ella. 353 00:24:32,512 --> 00:24:33,555 Así de simple. 354 00:24:37,517 --> 00:24:40,729 En casa, la computadora hacía el trabajo. 355 00:24:41,521 --> 00:24:44,816 Se estaba esforzando en generar miles de moléculas, 356 00:24:45,650 --> 00:24:49,696 y nosotros no tuvimos que hacer nada aparte de presionar "ejecutar". 357 00:24:52,407 --> 00:24:54,409 [pájaros piando] 358 00:24:54,493 --> 00:24:58,330 [Fabio] A la mañana siguiente, había un archivo en mi computadora, 359 00:24:59,080 --> 00:25:05,253 y encontré cerca de 40 000 moléculas que eran, potencialmente, 360 00:25:05,337 --> 00:25:08,882 algunas de las moléculas más tóxicas conocidas por la humanidad. 361 00:25:10,217 --> 00:25:12,761 [Sean] Se me erizaron los vellos de la nuca. 362 00:25:13,345 --> 00:25:14,554 Estaba sorprendido. 363 00:25:15,388 --> 00:25:18,308 La computadora generó decenas de miles de ideas 364 00:25:19,100 --> 00:25:20,685 para nuevas armas químicas. 365 00:25:21,645 --> 00:25:26,233 En la información, había moléculas que parecían ser de VX 366 00:25:26,316 --> 00:25:28,235 y otras análogas al VX. 367 00:25:28,318 --> 00:25:31,655 El VX es una de las armas químicas más potentes del mundo. 368 00:25:31,738 --> 00:25:33,573 [reportera] La policía ha comunicado 369 00:25:33,657 --> 00:25:36,076 que la mujer que se ve atacando a Kim Jong Nam, 370 00:25:36,159 --> 00:25:41,206 en su asesinato en el aeropuerto, usó un agente nervioso letal, llamado VX. 371 00:25:41,748 --> 00:25:44,417 [Sean] Puede provocar la muerte por asfixia. 372 00:25:45,043 --> 00:25:47,629 Esta es una molécula muy poderosa, 373 00:25:47,712 --> 00:25:49,381 y se predice que la mayoría 374 00:25:49,464 --> 00:25:52,092 de estas moléculas pueden ser más letales que el VX. 375 00:25:53,301 --> 00:25:55,512 [Fabio] Muchas de ellas, hasta donde sabemos, 376 00:25:55,595 --> 00:25:57,389 nunca antes han sido vistas. 377 00:25:57,472 --> 00:26:00,767 Así que cuando Sean y yo nos dimos cuenta, dijimos: 378 00:26:00,850 --> 00:26:02,727 "Pero ¿qué hicimos?". 379 00:26:04,771 --> 00:26:09,192 [Sean] Rápidamente entendí que había abierto la Caja de Pandora, 380 00:26:09,901 --> 00:26:13,280 y dije: "Alto. No hagas nada más. Se acabó. 381 00:26:13,905 --> 00:26:17,158 Solo dame las diapositivas que necesito para la presentación". 382 00:26:19,119 --> 00:26:20,704 Cuando hicimos ese experimento, 383 00:26:20,787 --> 00:26:23,873 solo pensaba: "¿Qué sería lo peor que podría pasar?". 384 00:26:26,251 --> 00:26:30,255 Pero ahora sé que fuimos ingenuos. Fuimos muy ingenuos al hacerlo. 385 00:26:33,466 --> 00:26:36,928 Lo más aterrador es que cualquiera puede hacer lo que hicimos. 386 00:26:38,930 --> 00:26:40,765 Solo se necesita un interruptor. 387 00:26:42,934 --> 00:26:45,520 ¿Cómo podemos controlar esta tecnología 388 00:26:45,604 --> 00:26:50,942 antes de que pueda ser usada para un fin altamente destructivo? 389 00:26:55,780 --> 00:27:00,285 [mujer] En el centro de la conversación sobre la inteligencia artificial 390 00:27:00,368 --> 00:27:03,913 y cómo podemos usarla en nuestra sociedad, 391 00:27:03,997 --> 00:27:07,375 hay una carrera entre el poder con el que desarrollamos tecnologías… 392 00:27:07,459 --> 00:27:08,835 INSTITUTO FUTURO DE LA VIDA 393 00:27:08,918 --> 00:27:11,379 …y la inteligencia que tenemos para controlarlas. 394 00:27:13,340 --> 00:27:16,926 Existen implicaciones morales y éticas obvias 395 00:27:17,010 --> 00:27:20,847 en la misma tecnología que activa nuestros teléfonos inteligentes 396 00:27:20,930 --> 00:27:23,433 al darle la decisión moral de quitar una vida. 397 00:27:25,727 --> 00:27:31,191 Trabajo en el Instituto Futuro de la Vida, una comunidad de científicos activistas. 398 00:27:31,733 --> 00:27:33,443 En pocas palabras, 399 00:27:33,526 --> 00:27:36,363 queremos mostrar que existe otro lado en la aceleración 400 00:27:36,446 --> 00:27:38,698 y el aumento de la automatización. 401 00:27:38,782 --> 00:27:42,619 [Emilia] Queremos asegurarnos de que las tecnologías que creamos 402 00:27:42,702 --> 00:27:45,622 sean usadas en un modo que sea seguro y ético. 403 00:27:46,247 --> 00:27:49,292 Tengamos conversaciones sobre las reglas del juego, 404 00:27:49,376 --> 00:27:54,005 los códigos de conducta y el uso de IA en los sistemas armamentistas. 405 00:27:54,798 --> 00:27:59,135 Porque ahora estamos viendo la aparición de tecnologías de batalla 406 00:27:59,219 --> 00:28:02,263 que pueden ser usadas para matar de forma autónoma. 407 00:28:05,642 --> 00:28:06,976 [explosión] 408 00:28:10,230 --> 00:28:15,110 En 2021, la ONU reveló un reporte del uso potencial 409 00:28:15,193 --> 00:28:19,447 de armas letales autónomas en el campo de batalla en Libia. 410 00:28:19,948 --> 00:28:21,825 [reportera] Un panel de las ONU dijo 411 00:28:21,908 --> 00:28:24,869 que un dron que voló en la Guerra Civil Libia el año pasado, 412 00:28:24,953 --> 00:28:27,706 estaba programado para atacar de forma autónoma. 413 00:28:27,789 --> 00:28:28,790 SIN APORTE HUMANO 414 00:28:28,873 --> 00:28:31,209 [Emilia] Si el reporte de la ONU es preciso, 415 00:28:31,292 --> 00:28:34,963 este debería ser un momento decisivo para la humanidad, 416 00:28:35,046 --> 00:28:37,382 porque marca un caso de uso 417 00:28:37,465 --> 00:28:42,137 donde fue la IA la que tomó la decisión de arrebatar una vida, y no un humano. 418 00:28:42,220 --> 00:28:44,180 [zumbido] 419 00:28:49,686 --> 00:28:53,398 [Stacie] Estamos viendo que armas autónomas avanzadas empiezan 420 00:28:53,481 --> 00:28:56,109 a ser usadas en diferentes lugares del planeta. 421 00:28:56,192 --> 00:28:59,028 Existen reportes en Israel. 422 00:28:59,112 --> 00:29:01,781 DRONES DE "BALAS MÁGICAS" EN LA VICTORIA DE AZERBAIYÁN 423 00:29:01,865 --> 00:29:05,702 Azerbaiyán usó sistemas autónomos para atacar a las defensas de Armenia. 424 00:29:07,370 --> 00:29:10,582 [Sean] Puede volar sobre un campo de batalla por horas 425 00:29:10,665 --> 00:29:12,917 buscando cosas que atacar por sí solo, 426 00:29:13,001 --> 00:29:16,087 y luego atacar sin ningún tipo de intervención humana. 427 00:29:16,171 --> 00:29:18,298 RUSIA Y UCRANIA LIBRAN LA GUERRA DE DRONES 428 00:29:18,381 --> 00:29:22,051 [Stacie] Y recientemente vimos videos que han sido publicados en Ucrania. 429 00:29:23,052 --> 00:29:25,346 [Paul] No queda claro en qué modalidad estaban 430 00:29:25,430 --> 00:29:26,639 cuando fueron operados. 431 00:29:26,723 --> 00:29:30,393 ¿Era un humano que estaba persiguiendo objetivos para atacarlos, 432 00:29:30,477 --> 00:29:32,729 o la máquina decidió hacerlo por sí sola? 433 00:29:32,812 --> 00:29:36,524 Pero ciertamente llegaremos a un punto, 434 00:29:36,608 --> 00:29:40,195 aunque ya haya pasado en Libia, Ucrania o en otra parte, 435 00:29:40,278 --> 00:29:44,449 en el que las máquinas decidan a quién asesinar en el campo de batalla. 436 00:29:47,035 --> 00:29:50,997 [Izumi] Que las máquinas ejerzan un poder letal contra los humanos, 437 00:29:51,080 --> 00:29:53,792 sin ninguna intervención humana, 438 00:29:53,875 --> 00:29:57,337 es políticamente incorrecto y moralmente repugnante. 439 00:29:57,837 --> 00:29:59,839 MIEDO POR ROBOTS ASESINOS EN LA GUERRA 440 00:29:59,923 --> 00:30:03,510 Si la Comunidad Internacional será suficiente para hacerle frente 441 00:30:03,593 --> 00:30:06,888 a esos desafíos, es una gran interrogante. 442 00:30:06,971 --> 00:30:09,516 ÉTICA: ¿LOS DRONES SERÁN FUTUROS ROBOTS ASESINOS? 443 00:30:09,599 --> 00:30:12,685 [Emilia] Si vemos hacia el futuro, incluso a unos cuantos años 444 00:30:12,769 --> 00:30:15,730 a partir de hoy, lo que hay en el panorama es aterrador. 445 00:30:16,564 --> 00:30:21,653 Dada la cantidad de recursos financieros y humanos que se invierten para hacer 446 00:30:21,736 --> 00:30:23,488 la IA más poderosa, 447 00:30:23,571 --> 00:30:26,950 el número de usos que se le pueden dar es inmenso. 448 00:30:29,828 --> 00:30:32,580 [música de tensión] 449 00:30:39,587 --> 00:30:41,214 Por Dios. Qué tipo. 450 00:30:42,257 --> 00:30:44,175 [Brandon] Sabe que no puede ganar. 451 00:30:46,761 --> 00:30:51,099 Cuando veo que la IA supera diferentes problemas, me siento inspirado. 452 00:30:51,683 --> 00:30:53,393 Hora de una medida desesperada. 453 00:30:54,477 --> 00:30:57,105 Y podemos aplicar esas mismas tácticas, 454 00:30:57,188 --> 00:30:59,524 técnicas y procedimientos en una aeronave real. 455 00:31:00,900 --> 00:31:01,734 VICTORIA 456 00:31:01,818 --> 00:31:04,404 - [amigo] Buen juego. - Sí, buen juego. [ríe] 457 00:31:08,658 --> 00:31:12,161 Me sorprende que la gente siga haciendo declaraciones 458 00:31:12,245 --> 00:31:14,122 sobre lo que la IA no puede hacer. 459 00:31:14,205 --> 00:31:16,583 "Jamás vencerá a un campeón mundial de ajedrez". 460 00:31:16,666 --> 00:31:19,294 [música clásica tensa] 461 00:31:20,211 --> 00:31:23,882 [reportera] Una computadora IBM tuvo un gran regreso en el segundo partido 462 00:31:23,965 --> 00:31:27,010 contra el campeón mundial de ajedrez, Garry Kasparov. 463 00:31:27,093 --> 00:31:30,847 [comentador] ¡Guau! ¡Kasparov se está retirando! 464 00:31:31,598 --> 00:31:34,642 [Kasporov] Cuando veo algo más allá de mi entendimiento, 465 00:31:34,726 --> 00:31:38,062 me aterra, y esto va mucho más allá de mi entendimiento. 466 00:31:39,355 --> 00:31:41,399 [Brandon] Y también la gente dice: 467 00:31:41,482 --> 00:31:44,444 "Nunca podrá vencer a un campeón mundial del juego de Go". 468 00:31:44,527 --> 00:31:48,072 [Lee Sedol en coreano] Creo que la intuición humana 469 00:31:48,156 --> 00:31:50,700 es demasiado avanzada para la IA 470 00:31:50,783 --> 00:31:52,785 y no podrá alcanzarla. 471 00:31:55,580 --> 00:31:59,000 [hombre] El GO es uno de los juegos más complicados de aprender, 472 00:31:59,083 --> 00:32:01,461 porque el número de movimientos en el tablero, 473 00:32:01,544 --> 00:32:05,256 al sumarlo, es igual o mayor a la cantidad de átomos en todo el universo. 474 00:32:05,340 --> 00:32:06,716 MENTE PROFUNDA - DESAFÍO 475 00:32:06,799 --> 00:32:10,136 Un grupo en Google llamado "Mente Profunda" creó un programa 476 00:32:10,219 --> 00:32:14,265 llamado AlphaGo capaz de vencer a los mejores jugadores del mundo. 477 00:32:14,349 --> 00:32:17,894 [hombre] Guau. Felicidades a… 478 00:32:17,977 --> 00:32:19,437 - Alpha Go. - Alpha Go. 479 00:32:19,520 --> 00:32:22,440 Un programa de computadora venció a un profesional. 480 00:32:22,523 --> 00:32:23,483 Sí. 481 00:32:25,610 --> 00:32:29,364 [Brandon] Y luego, Mente Profunda eligió Starcraft 482 00:32:29,447 --> 00:32:31,532 como el siguiente reto de la IA. 483 00:32:33,451 --> 00:32:36,371 Starcraft es, quizás, el juego de estrategia en tiempo real 484 00:32:36,454 --> 00:32:38,665 más popular de todos los tiempos. 485 00:32:38,748 --> 00:32:41,000 DEEPMIND VENCE A LOS JUGADORES DE STARCRAFT 2 486 00:32:41,084 --> 00:32:45,254 Alphastar se volvió famoso cuando empezó a derrotar a los campeones mundiales. 487 00:32:45,338 --> 00:32:49,717 [comentador] Alphastar superó, sin problemas, a Inmortal Arc. 488 00:32:49,801 --> 00:32:52,929 Esta no será una batalla que los profesionales puedan ganar. 489 00:32:53,680 --> 00:32:54,597 Es de dar risa. 490 00:32:54,681 --> 00:32:57,558 LA IA SE CONVIERTE EN LA MAESTRA DEL COMPLEJO STARCRAFT II 491 00:32:57,642 --> 00:32:59,644 [Brandon] Los jugadores decían: 492 00:32:59,727 --> 00:33:01,479 "Jamás hubiera usado esa táctica. 493 00:33:01,562 --> 00:33:04,816 Nunca usaría esa estrategia. Eso no es algo humano". 494 00:33:07,151 --> 00:33:10,655 Y ese fue, tal vez, mi momento de epifanía. 495 00:33:13,574 --> 00:33:16,661 Finalmente entendí que el momento es ahora. 496 00:33:17,412 --> 00:33:21,666 Hay una tecnología importante, y es posible hacer la diferencia. 497 00:33:24,502 --> 00:33:27,880 Yo solo conocía los problemas que había enfrentado como SEAL 498 00:33:27,964 --> 00:33:29,382 en combate cercano, 499 00:33:30,383 --> 00:33:34,470 pero uno de mis amigos, que era piloto de un F18 me dijo: 500 00:33:34,554 --> 00:33:37,724 "Tenemos el mismo problema en la comunidad de pilotos. 501 00:33:37,807 --> 00:33:39,434 Interfieren las comunicaciones 502 00:33:39,517 --> 00:33:43,062 y están proliferando las bases de misiles tierra-aire 503 00:33:43,146 --> 00:33:45,189 que nos complican mucho la operación". 504 00:33:47,483 --> 00:33:50,987 Imaginen tener un jet de guerra que fuera comandado por una IA. 505 00:33:51,070 --> 00:33:53,656 [presentador] Bienvenidos a AlphaDogfight. 506 00:33:53,740 --> 00:33:56,159 Estamos a unos minutos de la primera semifinal. 507 00:33:56,242 --> 00:33:57,410 [Brandon] En DARPA, 508 00:33:57,493 --> 00:34:01,831 la Agencia de investigación de Proyectos de Defensa Avanzada vieron 509 00:34:01,914 --> 00:34:03,624 AlphaGo y AlphaStar, 510 00:34:04,792 --> 00:34:08,755 y ahí surgió la idea de la competencia AlphaDogFight. 511 00:34:08,838 --> 00:34:11,966 [presentador] Es lo que quería ver hacer a los pilotos. 512 00:34:12,050 --> 00:34:13,843 Parece una pelea de perros humana. 513 00:34:15,595 --> 00:34:19,057 [Brandon] Dogfighting es una nave de combate enfrentado a otra. 514 00:34:20,391 --> 00:34:23,269 Podría pensarse como una pelea de box en las alturas. 515 00:34:23,853 --> 00:34:26,314 Quizá muchos hayan visto la película Top Gun. 516 00:34:26,397 --> 00:34:31,277 [hablan en inglés] 517 00:34:35,531 --> 00:34:39,619 [Brandon] Dominar el dogfighting puede llevar de ocho a diez años. 518 00:34:42,288 --> 00:34:46,209 Construir IA alrededor de esto es un reto muy complicado. 519 00:34:47,043 --> 00:34:49,045 [música de tensión] 520 00:34:49,128 --> 00:34:51,130 [tipeo] 521 00:34:54,092 --> 00:34:56,552 [hombre] Los primeros intentos de autonomía 522 00:34:56,636 --> 00:34:58,846 y dogfighting tendían a ser endebles, 523 00:34:58,930 --> 00:35:03,017 y pensamos que el aprendizaje automático sería lo mejor para resolver el problema. 524 00:35:04,477 --> 00:35:08,689 Al principio, la IA no sabía nada del mundo en el que había sido creada. 525 00:35:08,773 --> 00:35:10,233 No sabía lo que era volar, 526 00:35:10,316 --> 00:35:13,152 lo que era dogfighting, lo que era un F16. 527 00:35:13,236 --> 00:35:15,947 Sabía las acciones disponibles que podía realizar… 528 00:35:16,030 --> 00:35:16,948 GERENTE, SHIELD AI 529 00:35:17,031 --> 00:35:18,991 …y empezó a explorarlas aleatoriamente. 530 00:35:19,492 --> 00:35:23,204 [colega] La aeronave azul entrenó solo por un corto tiempo. 531 00:35:23,287 --> 00:35:25,832 Se le puede ver tambaleándose adelante y atrás, 532 00:35:26,374 --> 00:35:30,545 volando erráticamente, por lo general, alejándose del adversario. 533 00:35:31,087 --> 00:35:32,755 Con el progreso de la pelea, 534 00:35:32,839 --> 00:35:36,134 podemos ver que la azul empieza a establecer un plan de juego. 535 00:35:36,676 --> 00:35:38,636 Tiene mejor posición de disparo. 536 00:35:39,178 --> 00:35:42,056 Y de vez en cuando, el algoritmo de aprendizaje dice: 537 00:35:42,140 --> 00:35:43,891 "Eso fue bueno. Sigamos así". 538 00:35:45,101 --> 00:35:46,936 Aprovechamos el poder computacional 539 00:35:47,019 --> 00:35:50,648 que tenemos, entrenar a los agentes muchas veces en paralelo. 540 00:35:51,357 --> 00:35:53,192 Es como un equipo de baloncesto. 541 00:35:53,276 --> 00:35:56,779 En vez de enfrentar al mismo equipo una y otra vez, 542 00:35:56,863 --> 00:36:00,950 vamos por el mundo enfrentando a 512 equipos diferentes al mismo tiempo. 543 00:36:01,492 --> 00:36:03,452 Puedes mejorar mucho y muy rápido. 544 00:36:04,162 --> 00:36:07,456 Somos capaces de correr esa simulación sin parar 545 00:36:07,540 --> 00:36:11,919 y conseguir 30 años de entrenamiento de pilotos en solo diez meses. 546 00:36:12,879 --> 00:36:16,048 Pasamos de apenas ser capaces de controlar la aeronave 547 00:36:16,132 --> 00:36:17,717 a ser un asesino a sangre fría. 548 00:36:19,010 --> 00:36:23,514 En el entrenamiento, solo competimos contra otras inteligencias artificiales. 549 00:36:24,473 --> 00:36:28,561 Pero competir contra humanos directamente, ese es el objetivo final. 550 00:36:34,192 --> 00:36:36,027 Mi nombre es Mike Benitez. 551 00:36:36,110 --> 00:36:39,071 Soy Teniente Coronel de la Fuerza Aérea de los EE. UU. 552 00:36:39,155 --> 00:36:41,157 con 25 años de labor activa. 553 00:36:42,825 --> 00:36:45,494 Llevo 250 misiones de combate 554 00:36:45,578 --> 00:36:47,538 y soy graduado de la escuela de armas. 555 00:36:48,039 --> 00:36:49,832 Es como la Fuerza Aérea de Top Gun. 556 00:36:52,627 --> 00:36:55,171 Nunca he volado contra una inteligencia artificial. 557 00:36:55,254 --> 00:36:58,549 Estoy emocionado de ver qué tan bien lo puedo hacer. 558 00:36:59,884 --> 00:37:03,763 [comandante] Estamos en un escenario de ofensiva frente a frente a 6000 pies. 559 00:37:04,764 --> 00:37:05,806 Bien, ¡a pelear! 560 00:37:09,101 --> 00:37:10,394 [disparos] 561 00:37:13,314 --> 00:37:14,148 Lo derribé. 562 00:37:14,732 --> 00:37:16,651 Eso fue muy interesante. 563 00:37:19,278 --> 00:37:20,863 [disparos] 564 00:37:21,447 --> 00:37:23,658 Lo tengo, una victoria perfecta. 565 00:37:25,910 --> 00:37:27,453 De acuerdo, segunda ronda. 566 00:37:28,955 --> 00:37:31,207 [música de acción] 567 00:37:35,461 --> 00:37:39,590 Lo que la inteligencia artificial hace es maniobrar 568 00:37:39,674 --> 00:37:43,219 con una precisión tan alta que no puedo seguirle el paso. 569 00:37:46,097 --> 00:37:47,265 [disparos] 570 00:37:48,474 --> 00:37:49,725 Justo en el cruce. 571 00:37:50,309 --> 00:37:51,185 Estás muerto. 572 00:37:53,145 --> 00:37:55,022 Lo tengo. 573 00:37:58,567 --> 00:38:00,361 [Brett] La IA nunca se asusta. 574 00:38:00,903 --> 00:38:04,365 En la cabina, hay un elemento emocional humano que la IA no tiene. 575 00:38:05,491 --> 00:38:08,828 Una de las estrategias más interesante que nuestra IA desarrolló es 576 00:38:08,911 --> 00:38:10,538 lo que llamamos tiro en la cara. 577 00:38:11,455 --> 00:38:14,000 Los humanos suelen disparar desde atrás, 578 00:38:14,083 --> 00:38:16,377 porque dificulta las acciones evasivas. 579 00:38:17,044 --> 00:38:18,587 No buscan tiros frontales 580 00:38:18,671 --> 00:38:21,340 porque no se trata de ver quién se acobarda antes. 581 00:38:21,424 --> 00:38:25,511 Cuando vamos frente a frente, la diferencia entre 3000 pies y 500 pies 582 00:38:25,594 --> 00:38:27,096 pasa en un parpadeo. 583 00:38:27,596 --> 00:38:31,183 Hay un alto riesgo de colisión. Los humanos no lo hacen. 584 00:38:32,893 --> 00:38:36,772 Si no se le dice que tema a la muerte, la IA no le temerá. 585 00:38:37,857 --> 00:38:40,693 [Mike] Siento que estoy enfrentando a un humano, 586 00:38:40,776 --> 00:38:44,113 pero un humano al que no le importa su seguridad. 587 00:38:45,656 --> 00:38:47,325 No va a sobrevivir a este último. 588 00:38:48,284 --> 00:38:50,286 [música de tensión] 589 00:38:57,168 --> 00:38:58,586 No tiene suficiente tiempo. 590 00:39:01,964 --> 00:39:03,883 - [Brett] Buenas noches. - [disparos] 591 00:39:03,966 --> 00:39:05,718 - [Mike] Estoy muerto. - [pitido] 592 00:39:16,812 --> 00:39:18,731 Es muy duro saber 593 00:39:18,814 --> 00:39:21,400 que tal vez no sea el mejor para esta misión, 594 00:39:21,484 --> 00:39:24,904 y que esa cosa podría ser lo que me reemplace algún día. 595 00:39:25,696 --> 00:39:27,073 [colega] Lo mismo, 6 CAV. 596 00:39:27,615 --> 00:39:28,824 Compensa a mil. 597 00:39:29,450 --> 00:39:33,079 [Brandon] Con el piloto de IA comandando un avión de combate, 598 00:39:33,162 --> 00:39:35,331 la victoria es implacable, es dominante, 599 00:39:35,414 --> 00:39:37,291 gana con una amplia ventaja. 600 00:39:37,375 --> 00:39:40,503 La pregunta es: ¿cómo llevamos esto a nuestros aviones? 601 00:39:40,586 --> 00:39:42,129 Es así de poderoso. 602 00:39:44,298 --> 00:39:47,802 [Nathan] Es realista esperar que la IA esté pilotando un S-16 603 00:39:47,885 --> 00:39:49,970 y no estamos tan lejos de eso. 604 00:39:51,639 --> 00:39:56,769 Si enfrentas a un piloto de IA que tiene un 99.999 % 605 00:39:56,852 --> 00:39:58,646 de éxito, no tienes oportunidad. 606 00:39:59,605 --> 00:40:03,317 Cuando pienso en un piloto con IA que sea invencible, 607 00:40:03,401 --> 00:40:06,195 pienso en lo que un equipo de 50 608 00:40:06,278 --> 00:40:11,909 o 100 o 1000 pilotos con IA pueden conseguir en el futuro. 609 00:40:13,702 --> 00:40:17,456 El enjambre es un equipo de aeronaves altamente inteligentes 610 00:40:17,540 --> 00:40:19,208 que trabajan una con otra. 611 00:40:19,291 --> 00:40:23,462 Comparten información sobre lo que hacen y cómo resuelven problemas. 612 00:40:25,297 --> 00:40:29,885 El enjambre será un parteaguas capaz de transformar 613 00:40:29,969 --> 00:40:32,054 a nuestro ejército y a nuestros aliados. 614 00:40:41,856 --> 00:40:43,732 [música dramática] 615 00:41:04,920 --> 00:41:07,673 [música de rock en la radio] 616 00:41:14,847 --> 00:41:16,849 [música de tensión] 617 00:41:20,895 --> 00:41:22,062 [zumbido] 618 00:41:26,066 --> 00:41:27,318 [motor acelera] 619 00:41:28,569 --> 00:41:30,404 [música de tensión se intensifica] 620 00:41:42,082 --> 00:41:44,710 [hombre por radio] El objetivo fue localizado, 621 00:41:44,793 --> 00:41:47,379 y los drones están rastreándolo. 622 00:41:50,299 --> 00:41:52,259 [música de tensión crece] 623 00:41:58,140 --> 00:42:00,142 [música se detiene] 624 00:42:01,936 --> 00:42:03,604 [hombre] Bien, regreso a tierra. 625 00:42:07,233 --> 00:42:09,443 [Justin] El objetivo de la investigación 626 00:42:09,527 --> 00:42:11,445 de enjambre en la que trabajamos ahora 627 00:42:11,529 --> 00:42:14,740 es desplegar un gran número de drones sobre un área 628 00:42:14,823 --> 00:42:17,910 de difícil acceso o muy peligrosa. 629 00:42:21,705 --> 00:42:24,416 El Laboratorio de Investigación del Ejército nos apoya 630 00:42:24,500 --> 00:42:26,293 con este proyecto en particular. 631 00:42:27,336 --> 00:42:29,463 Si quieres saber qué hay en una ubicación, 632 00:42:29,547 --> 00:42:32,883 pero es un área difícil de alcanzar o es un área muy extensa, 633 00:42:33,676 --> 00:42:36,512 desplegar un enjambre es una forma muy natural 634 00:42:36,595 --> 00:42:38,889 de extender la búsqueda de individuos 635 00:42:38,973 --> 00:42:41,934 y recolectar información que sea importante para la misión. 636 00:42:47,356 --> 00:42:49,733 Ahora, a nuestro despliegue de enjambre 637 00:42:49,817 --> 00:42:53,571 le damos una sola orden de ir a rastrear un objetivo de interés. 638 00:42:54,488 --> 00:42:57,283 Luego, los drones van y lo hacen por sí solos. 639 00:42:59,493 --> 00:43:03,289 La inteligencia artificial permite que los robots se muevan colectivamente 640 00:43:03,372 --> 00:43:06,000 como un enjambre de manera descentralizada. 641 00:43:06,792 --> 00:43:08,794 [música melódica] 642 00:43:10,671 --> 00:43:12,506 En los grupos de la naturaleza, 643 00:43:12,590 --> 00:43:14,717 lo que vemos es que no hay un líder, 644 00:43:14,800 --> 00:43:18,178 no hay un animal alfa que les diga qué hacer. 645 00:43:21,056 --> 00:43:25,019 El comportamiento emerge en cada animal individual, 646 00:43:25,102 --> 00:43:27,104 siguiendo algunas reglas simples. 647 00:43:27,688 --> 00:43:32,443 Y a raíz de eso, vemos que surge una especie de comportamiento colectivo. 648 00:43:33,944 --> 00:43:37,531 Lo más inspirador de los enjambres naturales es 649 00:43:37,615 --> 00:43:39,992 su habilidad para moverse. 650 00:43:40,576 --> 00:43:44,288 Es como si estuvieran hechos para ser parte de ese grupo. 651 00:43:46,790 --> 00:43:51,128 Idealmente, lo que nos gustaría ver en este enjambre de drones es 652 00:43:51,211 --> 00:43:53,589 que, al igual que en los enjambres naturales, 653 00:43:53,672 --> 00:43:56,717 las decisiones sean tomadas colectivamente por el grupo. 654 00:43:59,928 --> 00:44:02,765 La otra parte que nos resulta inspiradora es 655 00:44:02,848 --> 00:44:06,268 su capacidad de confiabilidad y resiliencia. 656 00:44:07,311 --> 00:44:09,813 El enjambre no se viene abajo 657 00:44:09,897 --> 00:44:13,567 si un animal individual no hace lo que debería hacer. 658 00:44:15,194 --> 00:44:18,697 Incluso si uno de los agentes cae o fracasa, 659 00:44:18,781 --> 00:44:20,866 o no es capaz de completar su tarea, 660 00:44:21,909 --> 00:44:23,869 el enjambre sigue adelante. 661 00:44:25,204 --> 00:44:27,873 Y, al final, eso es lo que queremos conseguir. 662 00:44:29,333 --> 00:44:31,460 En los escenarios de combate, 663 00:44:31,543 --> 00:44:34,421 es necesario identificar aeronaves enemigas. 664 00:44:34,505 --> 00:44:37,841 Solíamos requerir de una persona controlando un solo robot. 665 00:44:38,592 --> 00:44:40,552 Con el aumento de la autonomía, 666 00:44:40,636 --> 00:44:44,556 espero que podamos ver un gran número de robots siendo controlados 667 00:44:44,640 --> 00:44:46,558 por un pequeño número de personas. 668 00:44:47,851 --> 00:44:50,854 No veo razón por la que no podamos llegar a los miles, 669 00:44:51,355 --> 00:44:56,443 porque cada agente será capaz de actuar por sí solo, y el cielo es el límite. 670 00:44:56,527 --> 00:44:59,071 Podremos escalar nuestro aprendizaje automático. 671 00:44:59,154 --> 00:45:00,406 [Justin] Hemos trabajado 672 00:45:00,489 --> 00:45:03,325 en la simulación del enjambre por un buen tiempo, 673 00:45:03,409 --> 00:45:06,829 y es hora de llevar eso a una nave del mundo real. 674 00:45:08,288 --> 00:45:12,042 Esperamos poder manejar tres robots a la vez, en la misma red, 675 00:45:12,126 --> 00:45:15,129 y luego empezaremos a agregar más capacidades. 676 00:45:15,879 --> 00:45:18,924 Queremos ser capaces de probarlo en sistemas más pequeños, 677 00:45:19,007 --> 00:45:22,428 pero llevar los mismos conceptos y aplicarlos en sistemas más grandes 678 00:45:22,511 --> 00:45:23,679 como jets de combate. 679 00:45:25,097 --> 00:45:26,515 Hablamos mucho 680 00:45:26,598 --> 00:45:31,937 cómo darle a un pelotón el poder de combate de un batallón. 681 00:45:34,982 --> 00:45:39,528 Con un enjambre, puedes transformar el poder de combate de una brigada 682 00:45:39,611 --> 00:45:41,488 en un batallón. 683 00:45:42,614 --> 00:45:45,200 Y cuando podamos liberar el poder del enjambre, 684 00:45:45,284 --> 00:45:48,078 habremos creado una nueva disuasión estratégica 685 00:45:48,162 --> 00:45:49,455 en el ataque militar. 686 00:45:52,332 --> 00:45:54,543 [Bob] Creo que lo más emocionante es 687 00:45:54,626 --> 00:45:57,004 el número de hombres y mujeres jóvenes 688 00:45:57,087 --> 00:46:00,299 que salvaremos si hacemos esto bien. 689 00:46:01,091 --> 00:46:03,594 Y cambiaremos máquinas 690 00:46:04,553 --> 00:46:05,846 por vidas humanas. 691 00:46:06,638 --> 00:46:10,559 Hay gente que discute que las armas autónomas harán de la guerra 692 00:46:10,642 --> 00:46:12,311 algo más preciso y más humano, 693 00:46:12,853 --> 00:46:15,397 pero en realidad es difícil predecir 694 00:46:15,481 --> 00:46:18,400 exactamente cómo cambiarán las armas autónomas 695 00:46:18,484 --> 00:46:19,943 el futuro de la guerra. 696 00:46:21,069 --> 00:46:23,238 Como el invento de la ametralladora Gatling. 697 00:46:23,322 --> 00:46:25,449 AMETRALLADORA GATLING PATENTADA EN 1865 698 00:46:25,532 --> 00:46:27,326 Richard Gatling fue un inventor 699 00:46:28,076 --> 00:46:31,205 que veía a los soldados regresar heridos en la Guerra Civil 700 00:46:32,289 --> 00:46:35,709 y quiso encontrar un modo de hacer de la guerra algo más humano. 701 00:46:36,543 --> 00:46:39,797 Quería reducir el número de soldados caídos en la guerra 702 00:46:40,422 --> 00:46:42,633 reduciendo el número en el campo de batalla. 703 00:46:44,092 --> 00:46:46,178 Él inventó la ametralladora Gatling, 704 00:46:46,261 --> 00:46:48,388 un arma automatizada con una manivela 705 00:46:48,472 --> 00:46:50,516 que automatizaba el proceso de disparo. 706 00:46:53,268 --> 00:46:57,981 Logró incrementar, en cientos, el poder de disparo de un solo soldado. 707 00:47:01,235 --> 00:47:05,239 A menudo, los esfuerzos por hacer de la guerra algo más preciso y humano 708 00:47:06,490 --> 00:47:07,991 tienen el efecto opuesto. 709 00:47:10,160 --> 00:47:13,455 [Arash] Pensemos en el efecto de un ataque errático con drones 710 00:47:13,539 --> 00:47:15,332 en un área rural que pone 711 00:47:15,415 --> 00:47:19,127 a la población local en contra de los Estados Unidos del gobierno local, 712 00:47:19,211 --> 00:47:20,712 supuestamente los buenos. 713 00:47:22,589 --> 00:47:25,008 Ahora, magnifiquen eso por mil. 714 00:47:27,135 --> 00:47:30,305 [Emilia] La creación de un sistema de armas que es barato, 715 00:47:30,389 --> 00:47:34,560 escalable y que no requiere operadores humanos, 716 00:47:34,643 --> 00:47:37,896 cambia drásticamente las barreras actuales del conflicto. 717 00:47:40,107 --> 00:47:41,733 A veces me quita el sueño 718 00:47:41,817 --> 00:47:45,571 la idea de un mundo en el que la guerra ya es omnipresente. 719 00:47:45,654 --> 00:47:48,657 Ya no cargamos con el costo humano y financiero de la guerra, 720 00:47:48,740 --> 00:47:51,410 porque estamos desapegados 721 00:47:52,369 --> 00:47:54,037 de las vidas que se perderán. 722 00:47:55,038 --> 00:47:57,040 [música sombría] 723 00:47:59,501 --> 00:48:01,420 [Sean] Todo este asunto me acecha. 724 00:48:02,212 --> 00:48:04,006 Solo necesitaba un ejemplo 725 00:48:04,089 --> 00:48:06,675 de un mal uso de la inteligencia artificial. 726 00:48:07,426 --> 00:48:10,888 Las consecuencias no previstas de un simple experimento 727 00:48:10,971 --> 00:48:13,265 que habría llegado demasiado lejos. 728 00:48:13,348 --> 00:48:16,393 IA EN DESCUBRIMIENTO DE DROGAS: EVITAR HACER MÁS MAL QUE BIEN 729 00:48:16,476 --> 00:48:20,772 Cuando hice mi presentación sobre las moléculas tóxicas creadas 730 00:48:20,856 --> 00:48:24,318 por la tecnología IA, la audiencia quedó atónita. 731 00:48:25,402 --> 00:48:27,613 5000 COMPUESTOS ERAN ANÁLOGOS DEL VX 732 00:48:29,197 --> 00:48:30,115 CAFEÍNA 733 00:48:30,198 --> 00:48:34,077 [Fabio] La siguiente decisión era si debíamos publicar la información. 734 00:48:34,912 --> 00:48:39,166 Por un lado, queríamos advertirle al mundo de esta clase de capacidades, 735 00:48:39,249 --> 00:48:42,711 pero, por otro lado, no queríamos darle a alguien la idea 736 00:48:42,794 --> 00:48:44,671 si es que no la había pensado antes. 737 00:48:46,381 --> 00:48:48,884 Decidimos que valía la pena publicarlo 738 00:48:48,967 --> 00:48:53,388 para buscar un modo de mitigar los usos erróneos de este tipo de IA 739 00:48:53,472 --> 00:48:54,723 antes de que suceda. 740 00:48:54,806 --> 00:48:56,975 DOBLE USO DE DESCUBRIMIENTO DE DROGAS POR IA 741 00:48:57,059 --> 00:48:59,227 EL USO DE IA EN EL DESCUBRIMIENTO DE DROGAS 742 00:48:59,311 --> 00:49:01,813 PODRÍA USARSE PARA DISEÑAR ARMAS BIOQUÍMICAS 743 00:49:01,897 --> 00:49:04,775 La reacción del público en general fue alarmante. 744 00:49:04,858 --> 00:49:06,860 [música de tensión] 745 00:49:07,694 --> 00:49:11,823 Aquí vemos la métrica de la página y cuántas personas accedieron a ella. 746 00:49:11,907 --> 00:49:14,451 Los artículos que normalmente escribimos, 747 00:49:14,534 --> 00:49:17,204 con suerte, son vistos por algunos miles de personas 748 00:49:17,287 --> 00:49:19,831 a lo largo de un año o de varios años. 749 00:49:19,915 --> 00:49:23,126 Diez mil personas lo leyeron en una semana. 750 00:49:23,210 --> 00:49:26,797 Luego 20 000, luego 30 000, luego 40 000. 751 00:49:26,880 --> 00:49:28,715 Llegamos a 10 000 personas por día. 752 00:49:28,799 --> 00:49:30,717 MANIPULAR IA PARA CREAR ARMAS QUÍMICAS 753 00:49:30,801 --> 00:49:33,512 [Sean] Estuvimos en The Economist, el Financial Times. 754 00:49:33,595 --> 00:49:34,763 EL LADO OSCURO DE LA IA 755 00:49:34,846 --> 00:49:36,181 40 000 RECETAS PARA MATAR 756 00:49:36,264 --> 00:49:38,725 Radiolab se comunicó con nosotros. 757 00:49:38,809 --> 00:49:40,560 Yo escucho Radiolab. 758 00:49:41,937 --> 00:49:45,899 Pero, luego, las reacciones respecto a esto se salieron de control. 759 00:49:48,819 --> 00:49:49,736 ES ATERRADOR 760 00:49:49,820 --> 00:49:51,488 En los tuits que leíamos, 761 00:49:51,571 --> 00:49:54,282 la gente preguntaba: "¿Pueden hacer algo peor?". 762 00:49:54,825 --> 00:49:56,159 "¿Por qué hicieron eso?". 763 00:49:56,243 --> 00:49:57,828 UN ARTÍCULO ESPANTOSO DE LEER 764 00:49:57,911 --> 00:50:01,081 ESTOS NERDOS NOS MATARÁN A TODOS 765 00:50:01,164 --> 00:50:04,501 Luego, recibimos una invitación que jamás hubiéramos esperado. 766 00:50:04,584 --> 00:50:06,586 [música de tensión] 767 00:50:08,797 --> 00:50:12,926 Hubo una intensa discusión al interior de la Casa Blanca sobre el artículo, 768 00:50:13,010 --> 00:50:15,345 y querían hablar con nosotros urgentemente. 769 00:50:18,807 --> 00:50:23,020 Obviamente, es un gran honor poder hablar con gente a ese nivel. 770 00:50:24,104 --> 00:50:26,064 Pero cuando lo entiendes. 771 00:50:26,148 --> 00:50:28,316 Santo Dios, es la Casa Blanca, el jefe. 772 00:50:29,693 --> 00:50:33,989 Se trataba de haber recabado información que ahora era una fuente abierta. 773 00:50:34,072 --> 00:50:38,577 En unas seis horas, el modelo ya era capaz de generar más de 40 mil… 774 00:50:38,660 --> 00:50:41,788 [Sean] Nos preguntaron qué poder computacional era necesario, 775 00:50:41,872 --> 00:50:43,832 y les dijimos que no era nada especial. 776 00:50:44,332 --> 00:50:48,754 Una Mac con seis años de antigüedad que compras en cualquier lado. 777 00:50:49,921 --> 00:50:51,256 Y eso los dejó helados. 778 00:50:54,968 --> 00:50:59,473 Las personas a cargo del entendimiento de los agentes de la guerra química 779 00:50:59,556 --> 00:51:04,019 y las agencias de gobierno no tenían idea de este potencial. 780 00:51:06,605 --> 00:51:09,816 Teníamos un recetario para preparar armas químicas 781 00:51:10,650 --> 00:51:15,572 y, si llegaba a las manos de alguien con intenciones malvadas, 782 00:51:16,573 --> 00:51:18,992 podría ser de verdad horripilante. 783 00:51:21,703 --> 00:51:23,205 La gente tiene que escuchar 784 00:51:23,288 --> 00:51:26,458 que se deben dar ciertos pasos para regular esta tecnología 785 00:51:27,250 --> 00:51:31,004 o restringirla de un modo que no pueda ser mal utilizada, 786 00:51:31,880 --> 00:51:35,175 porque el potencial de letalidad 787 00:51:36,176 --> 00:51:37,344 es aterrador. 788 00:51:41,431 --> 00:51:45,977 La cuestión de la ética en la IA ha sido muy discutida por la sociedad, 789 00:51:46,561 --> 00:51:50,273 pero no por los ingenieros, los especialistas o los matemáticos. 790 00:51:51,483 --> 00:51:52,400 [pitido] 791 00:51:52,484 --> 00:51:56,822 Cada tecnología que creamos, cada reciente innovación, 792 00:51:56,905 --> 00:52:00,617 al final es juzgada por la sociedad respecto a cómo debería ser usada. 793 00:52:01,118 --> 00:52:02,953 PRINCIPIOS ÉTICOS PARA LA IA 794 00:52:03,036 --> 00:52:06,915 [Bob] Por el momento, el Departamento de Defensa dice 795 00:52:06,998 --> 00:52:11,920 que el único que decide asesinar en el campo de batalla es un humano. 796 00:52:12,504 --> 00:52:15,090 Una máquina puede ser el agente letal, 797 00:52:15,674 --> 00:52:18,927 pero solo si es comandado por un operador humano, 798 00:52:19,636 --> 00:52:21,429 y no veo que eso vaya a cambiar. 799 00:52:24,808 --> 00:52:28,103 [Arash] Aseguran que este tipo de tecnología será seguro. 800 00:52:29,020 --> 00:52:30,230 REGISTROS OCULTOS 801 00:52:30,313 --> 00:52:32,649 Pero el ejército de los Estados Unidos no tiene 802 00:52:32,732 --> 00:52:35,485 una reputación muy confiable en los ataques con drones. 803 00:52:35,569 --> 00:52:37,112 EE. UU. OCULTA ATAQUE AÉREO 804 00:52:37,195 --> 00:52:41,783 Entonces, si hablamos de confiarle la IA al ejército de Estados Unidos, 805 00:52:41,867 --> 00:52:44,953 creo que los registros hablan por sí solos. 806 00:52:46,288 --> 00:52:49,833 [Paul] La política del Departamento de Defensa de EE. UU., 807 00:52:49,916 --> 00:52:51,626 en cuanto a armas autónomas, 808 00:52:51,710 --> 00:52:53,503 no prohíbe ningún sistema armado. 809 00:52:54,254 --> 00:52:57,340 E incluso si los militares no quisieran armas autónomas, 810 00:52:57,424 --> 00:53:00,177 podemos verlos cediendo más decisiones 811 00:53:00,260 --> 00:53:03,680 a las máquinas para ir a la par de los competidores. 812 00:53:04,764 --> 00:53:08,226 Eso puede hacer que las milicias automaticen las decisiones 813 00:53:08,310 --> 00:53:09,978 aunque antes no hubieran querido. 814 00:53:12,022 --> 00:53:13,440 [Bob] Vladímir Putin dijo: 815 00:53:13,523 --> 00:53:16,693 "Quien sea el líder en IA va a dominar el mundo". 816 00:53:17,736 --> 00:53:20,572 El Presidente Xi ha dejado claro 817 00:53:20,655 --> 00:53:23,325 que la IA es una de las tecnologías número uno 818 00:53:23,408 --> 00:53:25,702 que China pretende dominar. 819 00:53:26,786 --> 00:53:29,831 Es claro que estamos en una competencia tecnológica. 820 00:53:33,501 --> 00:53:35,670 [Brandon] Escuchamos a la gente hablar 821 00:53:36,463 --> 00:53:37,964 sobre tomar precauciones, 822 00:53:38,048 --> 00:53:40,300 y me parece que es lo que deberíamos hacer. 823 00:53:40,967 --> 00:53:45,180 Pero hay una carrera muy real por la superioridad en IA. 824 00:53:47,265 --> 00:53:51,603 Y nuestros adversarios, ya sea China o Rusia, o bien Irán, 825 00:53:51,686 --> 00:53:53,813 no van a tener consideraciones 826 00:53:53,897 --> 00:53:56,566 con respecto a nuestras políticas acerca de la IA. 827 00:54:00,820 --> 00:54:04,324 Ahora hay una mayor discusión respecto a las políticas de la IA, 828 00:54:06,117 --> 00:54:09,537 pero me gustaría que hubiera más líderes involucrados diciendo: 829 00:54:09,621 --> 00:54:11,790 "¿Qué tan rápido podemos construir esto?". 830 00:54:12,707 --> 00:54:15,168 Usemos todos nuestros recursos para construirla. 831 00:54:15,919 --> 00:54:17,921 [música de tensión] 832 00:54:18,922 --> 00:54:21,299 AUSA - REUNIÓN Y EXPOSICIÓN ANUAL 833 00:54:24,177 --> 00:54:26,805 EJÉRCITO DE ESTADOS UNIDOS 834 00:54:33,853 --> 00:54:38,358 Estamos en la convención anual de la Asociación del Ejército de EE. UU. 835 00:54:40,026 --> 00:54:43,196 Prácticamente, cualquier proveedor que venda productos 836 00:54:43,280 --> 00:54:46,616 o tecnología de uso militar estará exhibiendo aquí. 837 00:54:47,701 --> 00:54:50,537 [Michael] La Base Tyndall de la fuerza aérea tiene cuatro 838 00:54:50,620 --> 00:54:53,748 de nuestros robots patrullando las 24 horas, toda la semana. 839 00:54:55,750 --> 00:54:59,462 Podemos incorporar todo, desde cámaras o sensores 840 00:54:59,546 --> 00:55:01,464 hasta brazos manipuladores. 841 00:55:01,548 --> 00:55:05,135 Lo que sea con tal de cumplir la misión que el cliente tenga en mente. 842 00:55:06,678 --> 00:55:08,638 [Oren] ¿Y si el enemigo introduce IA? 843 00:55:09,431 --> 00:55:12,976 Tendrá un sistema de combate que piense más rápido 844 00:55:13,059 --> 00:55:15,145 y se esconda más rápido que un humano. 845 00:55:15,228 --> 00:55:16,980 Debemos prepararnos para eso. 846 00:55:17,605 --> 00:55:21,901 Entrenamos nuestros sistemas para que recaben información del enemigo, 847 00:55:22,527 --> 00:55:26,531 y manejen objetivos enemigos con supervisión humana para ejecutar. 848 00:55:31,202 --> 00:55:33,204 [silencio] 849 00:55:33,288 --> 00:55:35,999 - General, soy Brandon Tseng. - ¿Cómo va? ¿Qué tenemos? 850 00:55:36,082 --> 00:55:37,542 [Brandon] Bien, señor. 851 00:55:37,625 --> 00:55:41,296 Yo diría que nadie está invirtiendo más en pilotos con IA. 852 00:55:41,379 --> 00:55:44,507 El nuestro se llama Hivemind, y se lo aplicamos 853 00:55:44,591 --> 00:55:47,135 a nuestro cuadricóptero Nova que explora edificios 854 00:55:47,218 --> 00:55:50,764 antes de que entren las Fuerzas Especiales de operación e infanteria. 855 00:55:51,264 --> 00:55:53,558 Estamos aplicando Hivemind a V-BAT, 856 00:55:53,641 --> 00:55:56,811 y estamos considerando ensamblar cientos de esos equipos. 857 00:55:56,895 --> 00:56:00,065 Ya sea en el estrecho de Taiwán, ya sea en Ucrania, 858 00:56:00,148 --> 00:56:03,360 para disuadir a nuestros adversarios. Eso me emociona mucho. 859 00:56:03,943 --> 00:56:04,778 Muy bien. 860 00:56:04,861 --> 00:56:06,488 - Gracias, general. - Gracias. 861 00:56:07,989 --> 00:56:13,370 Los pilotos IA deberían extenderse por todo el planeta para el 2025, 2030. 862 00:56:14,204 --> 00:56:17,582 Su adopción será muy rápida en los ejércitos del mundo entero. 863 00:56:18,875 --> 00:56:22,253 [Brandon] ¿Qué están haciendo en el ejército rumano, ya usan drones? 864 00:56:22,337 --> 00:56:23,380 MEJOR PILOTO DE IA 865 00:56:23,463 --> 00:56:25,423 [soldado] Alta tecnología militar. 866 00:56:25,507 --> 00:56:30,178 Hasta hoy, hemos gastado 500 millones de dólares construyendo un piloto IA 867 00:56:30,261 --> 00:56:33,264 y gastaremos otros mil millones en los siguientes cinco años. 868 00:56:33,348 --> 00:56:35,517 Es la principal razón por la que ganamos 869 00:56:35,600 --> 00:56:37,769 en los programas de registro en EE. UU. 870 00:56:38,353 --> 00:56:42,732 Bien. Me parece impresionante. ¿Y tuvieron éxito dándole armamento? 871 00:56:43,650 --> 00:56:45,568 Aún no tiene armas 872 00:56:45,652 --> 00:56:48,905 Aún no lo hacemos. Pero en el futuro, sí. 873 00:56:48,988 --> 00:56:51,116 Nuestro clientes ven esto como un camión. 874 00:56:51,199 --> 00:56:54,953 Como si fuera un camión inteligente que puede hacer muchas cosas diferentes. 875 00:56:55,036 --> 00:56:57,914 - Gracias, amigo. - Estaré en contacto con ustedes. 876 00:57:01,668 --> 00:57:04,879 Si regresamos aquí en diez años, 877 00:57:04,963 --> 00:57:10,802 veremos que la IA y la autonomía habrán dominado el mercado por completo. 878 00:57:14,889 --> 00:57:19,352 [Nathan] Las fuerzas que se apoyan en la IA y la autonomía 879 00:57:19,436 --> 00:57:25,108 dominarán, aplastarán y destruirán a otras fuerzas por completo. 880 00:57:26,401 --> 00:57:30,780 Será el equivalente a los caballos luchando contra tanques, 881 00:57:31,781 --> 00:57:34,826 gente con espadas enfrentándose a una ametralladora. 882 00:57:34,909 --> 00:57:37,120 No será una lucha justa. 883 00:57:38,663 --> 00:57:40,790 [Brandon] Se extenderá por todo el planeta. 884 00:57:40,874 --> 00:57:43,334 Se usará en todo el espectro de la guerra, 885 00:57:43,418 --> 00:57:44,836 a nivel táctico, 886 00:57:45,837 --> 00:57:47,213 a nivel estratégico 887 00:57:47,297 --> 00:57:50,800 operando a velocidades que los humanos no pueden imaginar ahora. 888 00:57:53,094 --> 00:57:57,098 [Paul] Los comandantes ya se sienten abrumados con toda esta información. 889 00:57:57,599 --> 00:58:01,478 Las imágenes de los satélites, los drones, los sensores. 890 00:58:02,353 --> 00:58:04,522 Una de las cosas que la IA puede hacer es 891 00:58:04,606 --> 00:58:07,942 ayudar a un comandante a entender rápidamente lo que está pasando. 892 00:58:08,026 --> 00:58:10,028 Para saber qué decisiones tomar. 893 00:58:11,237 --> 00:58:14,365 [Bob] La inteligencia artificial podrá tomar en consideración 894 00:58:14,449 --> 00:58:17,702 todos los factores que determinan cómo se pelea una guerra, 895 00:58:18,286 --> 00:58:20,246 desarrollar estrategias 896 00:58:22,540 --> 00:58:25,668 y hacer recomendaciones de cómo ganar una batalla. 897 00:58:36,971 --> 00:58:40,266 [hombre] Aquí en Lockheed Martin, al igual que nuestro cliente, 898 00:58:40,350 --> 00:58:43,561 el Departamento de Defensa, vemos la IA como tecnología clave 899 00:58:43,645 --> 00:58:45,104 para el comando y el control. 900 00:58:47,315 --> 00:58:50,568 [analista] Rango de dispersión de 60 centímetros por segundo. 901 00:58:50,652 --> 00:58:52,779 [analista 2] Perímetro de 280 hectáreas. 902 00:58:52,862 --> 00:58:55,240 [hombre] La neblina de la guerra es una realidad 903 00:58:55,323 --> 00:58:57,033 para todos en el lado defensivo, 904 00:58:57,116 --> 00:59:00,370 pero tiene paralelos al ser parte del medio ambiente, 905 00:59:00,453 --> 00:59:03,206 y debemos tomar decisiones también cuando hay incendios. 906 00:59:03,289 --> 00:59:06,584 [analista 1] El incendio está al norte de la ciudad de Wawona. 907 00:59:06,668 --> 00:59:09,629 Debemos tomar decisiones con datos imperfectos. 908 00:59:10,380 --> 00:59:11,881 ¿Cómo podemos usar a la IA… 909 00:59:11,965 --> 00:59:12,966 VICEPRESIDENTE DE IA 910 00:59:13,049 --> 00:59:14,592 …para la neblina de la guerra? 911 00:59:17,637 --> 00:59:19,597 Los incendios son caóticos. 912 00:59:20,181 --> 00:59:21,266 Son muy complejos, 913 00:59:22,267 --> 00:59:26,187 así que estamos trabajando para utilizar inteligencia artificial 914 00:59:26,271 --> 00:59:28,273 que nos ayude en la toma de decisiones. 915 00:59:31,442 --> 00:59:33,987 El Administrador de Misión Cognitivo es 916 00:59:34,070 --> 00:59:37,949 un programa que desarrollamos que toma video aéreo infrarrojo, 917 00:59:38,533 --> 00:59:41,995 y luego lo procesa usando algoritmos de IA 918 00:59:42,078 --> 00:59:45,248 para ser capaz de predecir el estado futuro del incendio. 919 00:59:48,042 --> 00:59:50,044 [hombre] Al avanzar hacia el futuro, 920 00:59:50,128 --> 00:59:52,630 el Administrador de Misión Cognitiva usará 921 00:59:52,714 --> 00:59:55,091 simulaciones y correrá escenarios 922 00:59:55,174 --> 00:59:57,093 sobre miles de ciclos 923 00:59:57,176 --> 01:00:00,722 para recomendarnos el modo más efectivo para desplegar recursos 924 01:00:00,805 --> 01:00:04,434 y suprimir el fuego en áreas de alta prioridad. 925 01:00:08,062 --> 01:00:09,522 Nos dirá: 926 01:00:09,606 --> 01:00:12,817 "Debes hacer una supresión aérea con un Firehawk aquí, 927 01:00:13,568 --> 01:00:16,487 mueve grupos en tierra para quitar escombros, 928 01:00:17,113 --> 01:00:19,574 envía bomberos con mangueras, 929 01:00:19,657 --> 01:00:23,077 y despliégalos a las áreas de prioridad más alta". 930 01:00:26,289 --> 01:00:31,044 Esas decisiones se generarán de manera más rápida y más eficiente. 931 01:00:35,840 --> 01:00:38,134 [Justin T] Vemos a la IA como algo único 932 01:00:38,217 --> 01:00:40,595 que le permitirá a los humanos seguir el ritmo 933 01:00:40,678 --> 01:00:42,889 de un medio ambiente siempre cambiante. 934 01:00:43,598 --> 01:00:48,436 Y hay un número considerable de paralelos que hemos usado aquí en Lockheed Martin, 935 01:00:48,519 --> 01:00:50,521 hablando de defensa. 936 01:00:52,231 --> 01:00:55,568 [Emilia] Los ejércitos ya no solo están hablando de la IA 937 01:00:55,652 --> 01:00:58,529 y de sistemas armados individuales para tomar decisiones 938 01:00:58,613 --> 01:01:00,323 de objetivos y asesinatos, 939 01:01:00,865 --> 01:01:03,076 sino que están integrando la IA 940 01:01:03,159 --> 01:01:06,579 en toda la estructura de toma de decisiones de temas militares. 941 01:01:06,663 --> 01:01:08,790 [pitido] 942 01:01:09,457 --> 01:01:13,378 [Bob] El Ejército tiene un gran proyecto llamado Proyecto Convergencia. 943 01:01:14,545 --> 01:01:16,589 La Marina tiene Overmatch, 944 01:01:16,673 --> 01:01:20,468 y la Fuerza Aérea el Sistema Avanzado de Administración de Batalla. 945 01:01:22,470 --> 01:01:26,683 El Departamento de Defensa trata de descifrar cómo armar este rompecabezas 946 01:01:26,766 --> 01:01:29,268 para poder operar más rápido que nuestro enemigo 947 01:01:30,395 --> 01:01:32,355 y poder sacar una ventaja real. 948 01:01:33,481 --> 01:01:36,359 [Stacie] Un Administrador de Batalla IA sería 949 01:01:36,442 --> 01:01:39,821 como un General de Alto Rango a cargo de una batalla. 950 01:01:41,155 --> 01:01:44,158 Ayudaría a dar órdenes a tropas numerosas, 951 01:01:45,118 --> 01:01:48,579 coordinaría las acciones de todas las armas en el campo, 952 01:01:48,663 --> 01:01:51,958 y lo haría a una velocidad que ningún ser humano alcanzaría. 953 01:01:53,543 --> 01:01:56,170 [Emilia] Hemos pasado 70 años construyendo 954 01:01:56,254 --> 01:01:58,798 el ejército más sofisticado en todo el planeta, 955 01:01:58,881 --> 01:02:03,177 y ahora enfrentamos la disyuntiva de si debemos o no cederle el control 956 01:02:03,261 --> 01:02:07,598 de esa infraestructura a un algoritmo, un software. 957 01:02:10,351 --> 01:02:13,187 Y las consecuencias de esas decisiones 958 01:02:13,271 --> 01:02:17,316 pueden desatar el poder absoluto de nuestros arsenales militares. 959 01:02:17,400 --> 01:02:19,902 No es un solo Hiroshima. Son cientos. 960 01:02:25,616 --> 01:02:28,745 Este es el momento en el que debemos actuar, 961 01:02:28,828 --> 01:02:33,166 porque la ventana para contener el riesgo se cierra rápidamente. 962 01:02:34,041 --> 01:02:35,501 ONU, 27 DE SEPTIEMBRE DE 2021 963 01:02:35,585 --> 01:02:37,754 [hombre] Empezaremos con los desafíos 964 01:02:37,837 --> 01:02:41,132 de seguridad internacional que presentan las tecnologías… 965 01:02:41,215 --> 01:02:42,049 PRESIDENTE 966 01:02:42,133 --> 01:02:44,343 …en el área de armas autónomas letales. 967 01:02:44,427 --> 01:02:45,261 SECRETARIA 968 01:02:45,344 --> 01:02:47,722 [Emilia] Hay conversaciones en la ONU 969 01:02:47,805 --> 01:02:50,600 sobre la amenaza de las armas autónomas letales 970 01:02:50,683 --> 01:02:51,517 ESTADOS UNIDOS 971 01:02:51,601 --> 01:02:54,270 y nuestra prohibición a los sistemas que usen IA 972 01:02:54,353 --> 01:02:56,564 para seleccionar y marcar personas. 973 01:02:56,647 --> 01:03:00,777 El consenso entre los tecnólogos es claro y contundente. 974 01:03:00,860 --> 01:03:04,614 Nos oponemos a las armas autónomas que seleccionen humanos. 975 01:03:05,615 --> 01:03:08,117 [Izumi] Durante años, los países han ayudado 976 01:03:08,201 --> 01:03:11,788 en la discusión sobre los sistemas armados autónomos letales. 977 01:03:11,871 --> 01:03:13,539 LOS ROBOTS ASESINOS EXISTEN 978 01:03:13,623 --> 01:03:17,001 Se trata de un sentido de seguridad común y compartido. 979 01:03:17,668 --> 01:03:21,005 Pero, por supuesto, no es sencillo. 980 01:03:21,088 --> 01:03:26,719 Ciertos países, en especial las potencias militares, 981 01:03:26,803 --> 01:03:31,766 quieren estar a la cabeza de la carrera para tener ventaja sobre sus adversarios. 982 01:03:32,600 --> 01:03:35,520 [Paul] El problema es que todos deben estar de acuerdo 983 01:03:35,603 --> 01:03:37,146 para que esto se lleve a cabo. 984 01:03:37,230 --> 01:03:39,440 Siempre habrá al menos un país que proteste 985 01:03:39,524 --> 01:03:42,568 y, ciertamente, Estados Unidos y Rusia han dejado claro 986 01:03:42,652 --> 01:03:45,988 que se oponen a firmar un tratado que prohíba las armas autónomas. 987 01:03:47,865 --> 01:03:50,618 [Emilia] Cuando vemos el número de personas que trabajan 988 01:03:50,701 --> 01:03:53,204 para crear la IA más poderosa, 989 01:03:54,747 --> 01:03:56,457 es una cantidad abrumadora. 990 01:03:57,750 --> 01:04:00,336 Cuando vemos el número de personas 991 01:04:00,419 --> 01:04:02,880 que se aseguran de que la IA sea segura, 992 01:04:04,340 --> 01:04:07,510 la cantidad resulta mucho menor. 993 01:04:11,764 --> 01:04:13,724 Pero también soy muy optimista. 994 01:04:16,060 --> 01:04:19,480 Recuerdo algo como la Convención de Armas Biológicas 995 01:04:19,564 --> 01:04:21,774 que tuvo lugar a la mitad de la Guerra Fría. 996 01:04:23,025 --> 01:04:27,655 Sin importar las tensiones entre la Unión Soviética y los EE. UU., 997 01:04:29,156 --> 01:04:33,536 fueron capaces de entender que el desarrollo de armas biológicas 998 01:04:33,619 --> 01:04:36,247 no le convenía a ninguna de las partes, 999 01:04:36,330 --> 01:04:38,749 y, por supuesto, tampoco al resto del mundo. 1000 01:04:41,335 --> 01:04:45,214 La carrera militar favorece a la velocidad más que a la seguridad. 1001 01:04:45,715 --> 01:04:48,342 Pero creo que es muy importante considerar 1002 01:04:48,426 --> 01:04:52,430 que, en cierto punto, el costo de ese rápido avance se vuelve muy alto. 1003 01:04:56,225 --> 01:04:59,270 [Sean] No podemos solo desarrollar cosas en aislamiento 1004 01:05:00,062 --> 01:05:04,483 y luego sacarlas al mundo sin haber tomado en consideración 1005 01:05:05,109 --> 01:05:06,819 hacia dónde irán en el futuro. 1006 01:05:07,862 --> 01:05:10,823 Tenemos que prevenir otro momento como la bomba atómica. 1007 01:05:14,577 --> 01:05:18,205 [Brandon] Los riesgos en la carrera de la IA son inmensos. 1008 01:05:18,289 --> 01:05:22,001 No creo que muchas personas entiendan la estabilidad 1009 01:05:22,084 --> 01:05:24,921 que nos ha sido brindada por tener 1010 01:05:25,004 --> 01:05:31,135 una fuerza militar superior en los últimos 75 años. 1011 01:05:32,887 --> 01:05:36,265 Y, por eso, los Estados Unidos y sus fuerzas aliadas 1012 01:05:36,349 --> 01:05:39,101 tienen que superar a la IA de los adversarios. 1013 01:05:43,314 --> 01:05:45,358 No hay segundo lugar en la guerra. 1014 01:05:45,441 --> 01:05:47,652 [reportera] China presentó un ambicioso plan 1015 01:05:47,735 --> 01:05:50,571 para ser líder mundial en IA para 2030. 1016 01:05:50,655 --> 01:05:52,740 Algunos dicen que EE. UU. está perdiendo. 1017 01:05:52,823 --> 01:05:56,160 [oficial] Tenemos que acelerar la adopción de la IA 1018 01:05:56,243 --> 01:05:59,246 para asegurar nuestra ventaja competitiva militar. 1019 01:06:00,289 --> 01:06:02,291 [música de tensión crece] 1020 01:06:02,875 --> 01:06:05,461 [Paul] Estamos avanzando con esta tecnología. 1021 01:06:05,544 --> 01:06:08,881 Creo que lo que no está claro es: ¿Qué tan lejos vamos a llegar? 1022 01:06:09,507 --> 01:06:12,760 ¿Controlamos la tecnología, o la tecnología nos controla? 1023 01:06:14,136 --> 01:06:16,973 [Emilia] No hay lugar para segundas oportunidades. 1024 01:06:17,807 --> 01:06:20,309 Cuando el genio haya salido de la lámpara, 1025 01:06:20,393 --> 01:06:21,394 será definitivo. 1026 01:06:22,603 --> 01:06:25,189 Y será muy difícil volverlo a meter. 1027 01:06:26,732 --> 01:06:27,566 [pitido] 1028 01:06:28,609 --> 01:06:31,862 [Sean] Y si no actuamos ahora, será muy tarde. 1029 01:06:33,114 --> 01:06:34,657 Quizá ya sea muy tarde. 1030 01:06:36,283 --> 01:06:37,910 [música de tensión crece] 1031 01:06:42,999 --> 01:06:45,001 [música se detiene] 1032 01:06:47,003 --> 01:06:49,005 [música instrumental suave]