1 00:00:02,000 --> 00:00:07,000 Downloaded from YTS.MX 2 00:00:08,000 --> 00:00:13,000 Official YIFY movies site: YTS.MX 3 00:00:24,065 --> 00:00:26,818 Ik vind AI ontzagwekkend. 4 00:00:28,361 --> 00:00:31,489 Oké, cirkelen. Goede formatie. 5 00:00:33,116 --> 00:00:36,703 AI heeft de potentie om armoede uit te roeien… 6 00:00:36,786 --> 00:00:38,705 …ons nieuwe medicijnen te geven… 7 00:00:39,330 --> 00:00:41,583 …en onze wereld nog vrediger te maken. 8 00:00:46,087 --> 00:00:46,921 Goed werk. 9 00:00:49,883 --> 00:00:53,428 Maar er komen zoveel risico's bij kijken. 10 00:01:04,773 --> 00:01:09,611 Met AI creëren we in feite niet-menselijke intelligentie… 11 00:01:09,694 --> 00:01:11,863 …die erg onvoorspelbaar is. 12 00:01:14,407 --> 00:01:16,451 Naarmate het krachtiger wordt… 13 00:01:16,534 --> 00:01:19,746 …waar trekken we dan de grenzen met AI… 14 00:01:19,829 --> 00:01:22,665 …met betrekking op hoe we het willen gebruiken? 15 00:01:25,001 --> 00:01:28,505 Er is geen betere plek om dit gesprek te beginnen… 16 00:01:28,588 --> 00:01:31,049 …dan militaire toepassingen. 17 00:01:34,010 --> 00:01:38,890 Het slagveld is nu een gebied van software en hardware. 18 00:01:41,059 --> 00:01:42,936 Doelwit is vastgesteld. 19 00:01:43,019 --> 00:01:48,399 En strijdkrachten willen AI sneller ontwikkelen dan hun tegenstanders. 20 00:01:49,526 --> 00:01:50,360 Ik ben dood. 21 00:01:53,780 --> 00:01:58,326 We gaan in snel tempo richting een wereld waarin niet alleen grote legers… 22 00:01:58,409 --> 00:02:02,997 …maar ook niet-overheidsactoren, particuliere sectoren… 23 00:02:03,081 --> 00:02:06,042 …of zelfs het lokale politiebureau… 24 00:02:06,543 --> 00:02:10,046 …wapens kunnen gebruiken die zelfstandig kunnen doden. 25 00:02:12,006 --> 00:02:17,303 Geven we de keus om 'n leven te nemen over aan algoritmes, aan computersoftware? 26 00:02:18,638 --> 00:02:22,016 Het is een van de meest urgente problemen van onze tijd. 27 00:02:23,852 --> 00:02:26,354 En als het niet verstandig wordt gebruikt… 28 00:02:26,437 --> 00:02:30,275 …vormt het een groot risico voor iedereen op aarde. 29 00:03:28,291 --> 00:03:30,168 Goed werk, jongens. 30 00:03:59,948 --> 00:04:03,117 Dat is een veel grotere lens dan eerst. -Echt waar? 31 00:04:03,201 --> 00:04:04,786 Je ziet veel meer data. 32 00:04:05,286 --> 00:04:06,287 Heel cool. 33 00:04:07,538 --> 00:04:11,167 Bij Shield AI bouwen we een AI-piloot… 34 00:04:11,251 --> 00:04:14,879 …waarbij we zelfrijdende AI-technologie… 35 00:04:14,963 --> 00:04:16,631 …in vliegtuigen zetten. 36 00:04:19,300 --> 00:04:21,719 Als we het hebben over een AI-piloot… 37 00:04:21,803 --> 00:04:25,139 …denken we aan meer zelfstandigheid voor een vliegtuig. 38 00:04:25,223 --> 00:04:27,850 Dan kunnen ze zelf problemen oplossen. 39 00:04:29,602 --> 00:04:32,355 Nova is een autonome quadcopter… 40 00:04:32,438 --> 00:04:35,942 …die gebouwen en ondergrondse bouwwerken verkent… 41 00:04:36,859 --> 00:04:41,322 …voor de opruimingstroepen om ogen en oren te bieden in die ruimtes. 42 00:04:41,906 --> 00:04:45,618 Je ziet duidelijk veel verbeteringen sinds de vorige keer. 43 00:04:45,702 --> 00:04:50,206 We werken vandaag aan nieuwe verkenning, verkenning per verdieping. 44 00:04:50,290 --> 00:04:53,584 Hij maakt de ene etage af voor hij naar de tweede gaat. 45 00:04:54,294 --> 00:04:56,796 Geweldig. -We hebben onlangs wijzigingen… 46 00:04:56,879 --> 00:04:58,548 Mensen vragen me vaak… 47 00:04:58,631 --> 00:05:02,468 …waarom kunstmatige intelligentie zo belangrijk is. 48 00:05:02,552 --> 00:05:06,973 En ik denk steeds terug aan de missies die ik uitvoerde. 49 00:05:09,142 --> 00:05:11,060 Ik zat zeven jaar bij de marine. 50 00:05:11,561 --> 00:05:15,273 Ik ben voormalig Navy Seal, twee uitzendingen naar Afghanistan… 51 00:05:15,356 --> 00:05:17,191 …een naar het Pacific Theater. 52 00:05:18,026 --> 00:05:22,947 Op een dag moesten we misschien 150 verschillende gebouwen ontruimen. 53 00:05:30,997 --> 00:05:34,250 Een van de kernvaardigheden is gevechten van dichtbij. 54 00:05:35,293 --> 00:05:39,172 Vuurgevechten op zeer korte afstand in gebouwen. 55 00:05:41,466 --> 00:05:42,967 Je wordt beschoten. 56 00:05:43,468 --> 00:05:46,471 Er zijn mogelijk explosieven in het gebouw. 57 00:05:49,015 --> 00:05:55,229 Het is het gevaarlijkste wat elk lid van een speciale eenheid… 58 00:05:55,313 --> 00:05:58,358 …of de infanterie kan doen in een gevechtszone. 59 00:05:58,441 --> 00:05:59,317 Veruit. 60 00:06:12,497 --> 00:06:16,334 Ik blijf m'n hele leven dankbaar voor m'n tijd bij de marine. 61 00:06:17,168 --> 00:06:21,130 Er zijn een aantal momenten en herinneringen… 62 00:06:21,214 --> 00:06:24,592 …waarvan ik emotioneel word als ik eraan denk. 63 00:06:28,346 --> 00:06:32,725 Het is cliché dat vrijheid niet gratis is, maar ik geloof dat helemaal. 64 00:06:33,559 --> 00:06:37,105 Ik heb het ervaren en het vraagt veel opoffering. 65 00:06:38,022 --> 00:06:38,856 Sorry. 66 00:06:41,067 --> 00:06:44,570 Als er iets ergs gebeurt met een van je teamgenoten… 67 00:06:44,654 --> 00:06:49,700 …of ze nu gewond raken of gedood worden, is dat heel tragisch. 68 00:06:49,784 --> 00:06:53,788 Wat we motiveert in het werk dat we nu doen… 69 00:06:53,871 --> 00:07:00,336 …is het kunnen verkleinen van het aantal keer dat dat weer gebeurt. 70 00:07:07,176 --> 00:07:11,556 Eind jaren 2000 ontstond de realisatie bij het ministerie van Defensie… 71 00:07:11,639 --> 00:07:15,351 …van wat je de toevallige robotische revolutie kunt noemen. 72 00:07:15,893 --> 00:07:19,564 We gebruikten duizenden lucht- en grondrobots in Irak en Afghanistan. 73 00:07:21,482 --> 00:07:26,404 Toen de regering-Obama mij vroeg om onderminister van Defensie te worden… 74 00:07:26,904 --> 00:07:31,117 …was er duidelijk verandering in de manier waarop oorlog werd gevoerd. 75 00:07:32,452 --> 00:07:36,330 Er werden robots gebruikt waar eerst mensen werden gebruikt. 76 00:07:37,999 --> 00:07:40,376 Vroege robots werden op afstand bestuurd. 77 00:07:40,460 --> 00:07:45,590 En mens bestuurde ze, net als bij een radiografisch bestuurbare auto. 78 00:07:46,632 --> 00:07:51,512 Ze gingen eerst achter geïmproviseerde explosieven aan… 79 00:07:52,013 --> 00:07:54,849 …en als de bom ontplofte, ontplofte de robot. 80 00:07:57,393 --> 00:08:00,396 Dan zei je: 'Balen. Oké, pak de andere robot.' 81 00:08:02,273 --> 00:08:05,193 In Afghanistan had je de Predator-drone. 82 00:08:05,276 --> 00:08:09,739 Dat werd een heel nuttig instrument om luchtaanvallen uit te voeren. 83 00:08:13,117 --> 00:08:16,829 Na verloop van tijd vroegen militaire planners zich af: 84 00:08:16,913 --> 00:08:20,791 'Wat kunnen we nog meer met robots? En waar gaat dit heen?' 85 00:08:20,875 --> 00:08:24,170 En 'n terugkerend thema was de trend naar meer autonomie. 86 00:08:26,506 --> 00:08:30,635 Een autonoom wapen maakt zelfstandig beslissingen… 87 00:08:30,718 --> 00:08:33,304 …met weinig of geen tussenkomst van de mens. 88 00:08:33,387 --> 00:08:37,558 Dus het is onafhankelijk en zelfsturend. 89 00:08:38,434 --> 00:08:41,604 En of hij kan doden hangt af van of hij bewapend is. 90 00:08:43,314 --> 00:08:47,026 Als je meer autonomie hebt in je systeem… 91 00:08:47,109 --> 00:08:49,779 …gaat alles op hogere snelheid. 92 00:08:51,989 --> 00:08:56,869 En als je op hogere snelheid werkt dan je tegenstanders… 93 00:08:57,453 --> 00:09:01,165 …is dat een enorm voordeel in de strijd. 94 00:09:03,960 --> 00:09:09,966 Wat autonomie betreft, richten we ons op veerkrachtige intelligentiesystemen. 95 00:09:12,051 --> 00:09:15,304 Systemen die hun omgeving kunnen lezen en erop reageren… 96 00:09:15,805 --> 00:09:19,642 …en keuzes kunnen maken over hoe ze daarin manoeuvreren. 97 00:09:21,602 --> 00:09:24,897 SAN DIEGO, CALIFORNIË 98 00:09:24,981 --> 00:09:29,151 De faciliteit waar we nu zijn is ooit gebouwd als filmstudio… 99 00:09:29,235 --> 00:09:30,611 …die is omgebouwd… 100 00:09:30,695 --> 00:09:34,156 …tot deze realistische militaire trainingsomgeving. 101 00:09:39,495 --> 00:09:43,291 We zijn hier om onze AI-piloot te evalueren. 102 00:09:44,625 --> 00:09:49,297 De missie is bedreigingen zoeken. Het gaat om ontruimingstroepen. 103 00:09:49,380 --> 00:09:52,800 Het kan een keus maken over hoe dat probleem aan te pakken. 104 00:09:55,428 --> 00:09:59,390 Dit noemen we 'de dodelijke trechter'. Je moet door een deur. 105 00:10:01,726 --> 00:10:03,311 Daar zijn we het meest kwetsbaar. 106 00:10:03,811 --> 00:10:05,229 Deze ziet er beter uit. 107 00:10:07,064 --> 00:10:10,151 De Nova vertelt of er 'n schutter achter de deur zit… 108 00:10:10,818 --> 00:10:12,653 …of een gezin. 109 00:10:15,114 --> 00:10:18,451 Zo kunnen we betere keuzes maken en mensen veilig houden. 110 00:10:57,114 --> 00:10:59,367 We gebruiken de beeldsensoren… 111 00:10:59,450 --> 00:11:03,162 …om te begrijpen hoe de omgeving eruitziet. 112 00:11:04,997 --> 00:11:08,334 Het gebouw heeft meerdere verdiepingen. Dit is de kaart. 113 00:11:08,417 --> 00:11:11,671 Dit is wat ik tijdens het verkennen zag en waar. 114 00:11:19,929 --> 00:11:22,098 Persoonsdetector. Wat gaaf. 115 00:11:23,891 --> 00:11:27,061 Nova heeft ook een thermische scanner. 116 00:11:27,561 --> 00:11:30,690 Als het 37 graden is, is het waarschijnlijk een mens. 117 00:11:32,358 --> 00:11:35,861 Mensen worden gezien als bedreigingen tenzij anders is bewezen. 118 00:11:38,906 --> 00:11:43,244 We willen de oorlogsmist elimineren om betere keuzes te maken. 119 00:11:44,704 --> 00:11:46,539 Als we naar de toekomst kijken… 120 00:11:47,039 --> 00:11:50,793 …schalen we op naar teams van autonome vliegtuigen. 121 00:11:53,754 --> 00:11:57,466 Bij zelfrijdende voertuigen heeft uiteindelijk een mens gezegd: 122 00:11:57,550 --> 00:12:00,386 'Ik wil dat je van punt A naar punt B gaat.' 123 00:12:02,972 --> 00:12:06,475 Onze systemen wordt niet gevraagd van punt A naar B te gaan… 124 00:12:06,559 --> 00:12:08,477 …maar om een doel te bereiken. 125 00:12:10,312 --> 00:12:13,190 Het lijkt meer op: 'Ik heb melk nodig.' 126 00:12:13,274 --> 00:12:17,486 En dan moet de robot uitzoeken naar welke supermarkt hij moet… 127 00:12:17,570 --> 00:12:20,239 …de melk ophalen en terugbrengen. 128 00:12:20,740 --> 00:12:22,074 Of sterker nog… 129 00:12:22,158 --> 00:12:27,413 …je kunt het beter stellen als: 'Hou de koelkast vol.' 130 00:12:27,496 --> 00:12:32,168 Dit is intelligentie op 't niveau van uitzoeken wat er nodig is en hoe dat lukt. 131 00:12:32,251 --> 00:12:37,381 En zoeken naar een oplossing wanneer zich een probleem voordoet. 132 00:12:40,801 --> 00:12:47,558 Toen ik besloot te stoppen bij de marine, begon ik na te denken: oké, wat nu? 133 00:12:49,143 --> 00:12:52,605 Ik groeide op met het internet. Ik zag wat het werd. 134 00:12:53,189 --> 00:12:58,861 En de conclusie waar ik op uitkwam was dat AI in 2015… 135 00:12:58,944 --> 00:13:02,907 …was waar het internet in 1991 was. 136 00:13:04,033 --> 00:13:06,285 En AI zou gaan exploderen… 137 00:13:06,368 --> 00:13:09,747 …en één van de krachtigste technologieën op aarde worden. 138 00:13:11,791 --> 00:13:16,212 Ik werk er elke dag mee en zie de vooruitgang die geboekt wordt. 139 00:13:19,048 --> 00:13:25,221 Maar veel mensen denken bij AI meteen aan Hollywood. 140 00:13:28,057 --> 00:13:29,975 Zullen we een spelletje spelen? 141 00:13:30,059 --> 00:13:35,314 Wat dacht je van wereldwijde thermonucleaire oorlog? 142 00:13:35,898 --> 00:13:36,816 Prima. 143 00:13:38,275 --> 00:13:40,861 Als mensen denken aan kunstmatige intelligentie… 144 00:13:40,945 --> 00:13:44,824 …denken ze aan The Terminator of I, Robot. 145 00:13:45,574 --> 00:13:46,700 Deactiveren. 146 00:13:46,784 --> 00:13:48,160 Wat ben ik? 147 00:13:48,244 --> 00:13:49,620 Of The Matrix. 148 00:13:51,080 --> 00:13:53,749 Hoe weet je, op basis van sciencefictionfilms… 149 00:13:53,833 --> 00:13:57,878 …of ik een mens ben? Ik kan computergegenereerde AI zijn. 150 00:13:58,379 --> 00:14:02,007 Replicanten zijn net als elke machine. Ze zijn een aanwinst of een gevaar. 151 00:14:02,675 --> 00:14:08,097 Maar er zijn allerlei primitievere AI's die onze levens nog zullen veranderen… 152 00:14:08,180 --> 00:14:11,851 …voordat we het stadium van denkende, pratende robots bereiken. 153 00:14:12,643 --> 00:14:15,771 De robots zijn er al. De robots maken keuzes. 154 00:14:15,855 --> 00:14:18,816 De robotrevolutie is aangebroken. 155 00:14:18,899 --> 00:14:22,319 Maar het lijkt niet op wat we ons hadden voorgesteld. 156 00:14:23,320 --> 00:14:27,366 De Terminator is een infiltratie-eenheid. Deels mens, deels machine. 157 00:14:27,950 --> 00:14:31,370 We hebben het niet over moordende Terminator-robots. 158 00:14:31,871 --> 00:14:35,958 We hebben het over AI die een aantal dingen kan die mensen kunnen. 159 00:14:36,041 --> 00:14:39,879 Maar het is de vraag of die systemen betrouwbaar zijn. 160 00:14:40,462 --> 00:14:45,426 Nieuwe details over het dodelijke ongeluk met een zelfrijdende Uber SUV gisteravond. 161 00:14:45,509 --> 00:14:48,762 Het bedrijf maakte 'n kunstmatige intelligentie-chatbot. 162 00:14:48,846 --> 00:14:51,181 Ze nam een nogal racistische toon aan… 163 00:14:51,265 --> 00:14:55,394 Zesentwintig staatsambtenaren onterecht geïdentificeerd als criminelen. 164 00:14:57,438 --> 00:15:02,026 Het is de vraag of ze de complexiteit van de wereld aankunnen. 165 00:15:22,212 --> 00:15:24,006 De fysieke wereld is rommelig. 166 00:15:25,174 --> 00:15:30,763 Er zijn veel dingen die we niet weten, wat het moeilijker maakt om AI te trainen. 167 00:15:33,098 --> 00:15:36,977 Dat is waar zelflerende systemen hun intrede doen. 168 00:15:38,520 --> 00:15:41,440 Machine learning is een grote stap vooruit. 169 00:15:42,024 --> 00:15:45,611 Het betekent dat we computers niet alles hoeven te leren. 170 00:15:47,905 --> 00:15:52,409 Je geeft een computer miljoenen stukjes informatie… 171 00:15:52,493 --> 00:15:54,453 …en de machine begint te leren. 172 00:15:55,245 --> 00:15:57,289 Dat kan op alles toegepast worden. 173 00:16:00,250 --> 00:16:02,962 Met ons Robot Dog-project willen we laten zien… 174 00:16:03,045 --> 00:16:09,009 …dat onze hond op verschillende terreinen kan lopen. 175 00:16:10,052 --> 00:16:14,431 Mensen zijn in de loop van miljarden jaren geëvolueerd om te kunnen lopen. 176 00:16:14,932 --> 00:16:20,688 Maar er komt veel intelligentie kijken bij het aanpassen aan verschillende terreinen. 177 00:16:21,939 --> 00:16:24,316 Het is de vraag of robotsystemen… 178 00:16:24,400 --> 00:16:27,069 …zich kunnen aanpassen zoals mensen en dieren. 179 00:16:35,953 --> 00:16:40,582 Met machine learning verzamelen we veel data in simulaties. 180 00:16:42,668 --> 00:16:45,921 Een simulatie is een digitale tweeling van de realiteit. 181 00:16:46,588 --> 00:16:50,300 We kunnen veel voorbeelden van die realiteit… 182 00:16:50,384 --> 00:16:52,553 …draaien op meerdere computers. 183 00:16:53,178 --> 00:16:56,974 Daarmee probeert hij duizenden acties in de simulatie uit. 184 00:16:58,892 --> 00:17:02,229 De gladheid van de grond waar ze op lopen verschilt. 185 00:17:02,312 --> 00:17:03,856 De hardheid verschilt. 186 00:17:04,898 --> 00:17:09,445 We nemen alle ervaring van die duizenden robots uit de simulatie… 187 00:17:09,987 --> 00:17:13,282 …en downloaden die naar een echt robotisch systeem. 188 00:17:15,492 --> 00:17:20,039 De test die we vandaag doen is om te kijken of hij zich kan aanpassen. 189 00:17:53,322 --> 00:17:55,491 Toen de robot op schuim liep… 190 00:17:55,574 --> 00:17:58,577 …stampten de voeten op de grond. 191 00:17:59,369 --> 00:18:02,206 Maar toen hij op dit plastic oppervlak kwam… 192 00:18:03,248 --> 00:18:06,627 …paste hij de beweging aan om niet uit te glijden. 193 00:18:08,670 --> 00:18:14,051 En dan besef je: 'Dit is wat machine learning te bieden heeft.' 194 00:18:41,161 --> 00:18:46,166 We denken dat Robot Dog erg nuttig kan zijn in rampsituaties… 195 00:18:46,250 --> 00:18:49,878 …waarbij je moet navigeren over verschillende soorten terrein. 196 00:18:52,631 --> 00:18:57,427 Of de honden surveillance laten doen in zware omstandigheden. 197 00:19:15,696 --> 00:19:19,575 Maar de meeste technologie loopt tegen de uitdaging aan… 198 00:19:19,658 --> 00:19:22,369 …dat het goed kan doen en slecht kan doen. 199 00:19:24,079 --> 00:19:27,875 We kunnen kerntechnologie bijvoorbeeld gebruiken voor energie… 200 00:19:30,419 --> 00:19:33,797 …maar we kunnen ook atoombommen maken wat heel slecht is. 201 00:19:35,090 --> 00:19:38,468 Dit is het zogenaamde dual-use-probleem. 202 00:19:39,052 --> 00:19:40,929 Vuur is dual-use. 203 00:19:41,722 --> 00:19:44,308 Menselijke intelligentie is dual-use. 204 00:19:44,391 --> 00:19:48,645 Dus vanzelfsprekend is kunstmatige intelligentie ook dual-use. 205 00:19:49,354 --> 00:19:53,984 Het is heel belangrijk om te denken aan het gebruik van AI in de context… 206 00:19:54,693 --> 00:19:59,114 …want ja, het is fantastisch om een reddingsrobot te hebben… 207 00:19:59,198 --> 00:20:02,284 …die iemand kan vinden na een lawine. 208 00:20:02,868 --> 00:20:05,871 Maar diezelfde robot kan worden bewapend. 209 00:20:15,088 --> 00:20:21,094 Als je bedrijven ziet die robots gebruiken om er wapens op te zetten… 210 00:20:21,178 --> 00:20:22,930 …wordt een deel van je boos. 211 00:20:23,931 --> 00:20:26,016 En een deel van je beseft… 212 00:20:26,099 --> 00:20:30,103 …dat dit is wat er gebeurt als je technologie uitbrengt. 213 00:20:31,021 --> 00:20:34,441 Dit is echt transformatieve technologie. 214 00:20:36,235 --> 00:20:38,028 Dit zijn wapensystemen… 215 00:20:38,111 --> 00:20:43,617 …die onze veiligheid dramatisch kunnen veranderen. 216 00:20:46,161 --> 00:20:52,459 Op dit moment weten we niet of machines onderscheid kunnen maken… 217 00:20:52,542 --> 00:20:54,962 …tussen burgers en strijders. 218 00:21:01,885 --> 00:21:05,597 In de oorlog in Afghanistan zat ik bij een sluipschuttersteam… 219 00:21:05,681 --> 00:21:08,016 …dat vijandige strijders zocht aan de grens. 220 00:21:09,685 --> 00:21:12,604 Ze stuurden een meisje om onze positie te bepalen. 221 00:21:13,939 --> 00:21:17,067 Het kwam nooit in ons op om haar neer te schieten. 222 00:21:19,695 --> 00:21:22,864 Volgens de oorlogswetten was dat legaal geweest. 223 00:21:24,950 --> 00:21:27,953 Er is geen leeftijdsgrens voor vijandige strijders. 224 00:21:29,079 --> 00:21:33,417 Als je een robot bouwt die zich perfect aan de oorlogswet houdt… 225 00:21:33,500 --> 00:21:35,294 …had hij haar neergeschoten. 226 00:21:36,420 --> 00:21:41,091 Hoe weet een robot het verschil tussen wat legaal is en wat goed is? 227 00:21:43,385 --> 00:21:46,054 Met de oorlogsvoering met autonome drones… 228 00:21:46,138 --> 00:21:49,891 …willen ze het leed wegnemen dat Amerikaanse soldaten… 229 00:21:49,975 --> 00:21:52,102 …en de Amerikaanse psyche ondergaan. 230 00:21:52,602 --> 00:21:57,149 Maar de toename van burgerslachtoffers komt te liggen bij de Afghanen… 231 00:21:57,232 --> 00:21:58,775 …Irakezen en Somaliërs. 232 00:22:09,619 --> 00:22:14,416 Ik wil mensen die vertrouwen hebben in het gebruik van AI in drones vragen: 233 00:22:15,375 --> 00:22:18,211 'Wat als jouw dorp daar de dupe van zou zijn?' 234 00:22:23,550 --> 00:22:25,594 AI is een tweesnijdend zwaard. 235 00:22:26,595 --> 00:22:30,724 Het kan gebruikt worden voor goede zaken, wat we normaal zouden doen… 236 00:22:31,558 --> 00:22:33,477 …en met een druk op de knop… 237 00:22:34,561 --> 00:22:38,023 …wordt de technologie iets wat potentieel dodelijk is. 238 00:22:47,032 --> 00:22:49,117 Ik ben klinisch farmacoloog. 239 00:22:49,618 --> 00:22:54,247 Ik heb een team van mensen die AI gebruiken om medicijnen te zoeken… 240 00:22:54,331 --> 00:22:57,751 …die ziektes genezen die geen aandacht krijgen. 241 00:22:59,711 --> 00:23:04,091 Met medicijnonderzoek was het zo dat je een bestaand molecuul nam… 242 00:23:04,174 --> 00:23:06,885 …en dat aanpaste om 'n nieuw middel te krijgen. 243 00:23:08,261 --> 00:23:13,350 En nu hebben we AI ontwikkeld die ons voorziet van miljoenen ideeën. 244 00:23:13,892 --> 00:23:15,227 Miljoenen moleculen. 245 00:23:16,186 --> 00:23:19,231 En dat biedt zoveel nieuwe mogelijkheden… 246 00:23:19,314 --> 00:23:23,151 …voor het behandelen van ziektes die we niet konden behandelen. 247 00:23:25,153 --> 00:23:29,741 Maar er is een duistere kant waarvan ik niet dacht dat ik die zou zien. 248 00:23:33,161 --> 00:23:35,872 Het begon toen ik uitgenodigd werd… 249 00:23:35,956 --> 00:23:40,043 …door een organisatie in Zwitserland genaamd Spiez Laboratory… 250 00:23:40,544 --> 00:23:44,423 …om een presentatie te geven over potentieel misbruik van AI. 251 00:23:48,343 --> 00:23:51,221 Sean stuurde me een e-mail met een paar ideeën… 252 00:23:51,304 --> 00:23:55,308 …van manieren waarop we onze eigen AI konden misbruiken. 253 00:23:56,059 --> 00:24:00,355 Dus in plaats van ons model te vragen om medicinale moleculen te creëren… 254 00:24:00,439 --> 00:24:02,274 …om ziektes mee te behandelen… 255 00:24:02,774 --> 00:24:06,403 …keken we of we de meest giftige moleculen konden maken. 256 00:24:10,198 --> 00:24:11,450 Ik wilde aantonen… 257 00:24:11,533 --> 00:24:15,203 …of we AI konden gebruiken om dodelijke moleculen te ontwerpen. 258 00:24:17,414 --> 00:24:20,083 Eigenlijk dachten we dat het zou mislukken… 259 00:24:20,167 --> 00:24:24,504 …want het enige wat we deden was een nul veranderen in een één. 260 00:24:26,715 --> 00:24:28,341 En door het om te keren… 261 00:24:28,425 --> 00:24:32,220 …gingen we nu richting giftigheid in plaats van ervandaan. 262 00:24:32,721 --> 00:24:33,555 En dat was 't. 263 00:24:37,517 --> 00:24:40,729 Terwijl ik thuis zat, deed de computer het werk. 264 00:24:41,521 --> 00:24:44,816 Hij genereerde duizenden moleculen… 265 00:24:45,650 --> 00:24:49,529 …en we hoefden alleen maar op 'start' te drukken. 266 00:24:54,493 --> 00:24:58,330 De volgende ochtend stond er een bestand op m'n computer… 267 00:24:59,080 --> 00:25:03,376 …waarin zo'n 40.000 moleculen stonden… 268 00:25:03,460 --> 00:25:08,882 …wat potentieel de meest giftige moleculen op aarde waren. 269 00:25:10,217 --> 00:25:12,761 De haren in m'n nek stonden recht overeind. 270 00:25:13,386 --> 00:25:14,554 Ik stond versteld. 271 00:25:15,388 --> 00:25:19,017 De computer had tienduizenden ideeën bedacht… 272 00:25:19,100 --> 00:25:20,894 …voor nieuwe chemische wapens. 273 00:25:21,645 --> 00:25:27,609 Natuurlijk stonden er moleculen die leken op VX in de dataset. 274 00:25:28,360 --> 00:25:31,821 VX is een van de krachtigste chemische wapens ter wereld. 275 00:25:31,905 --> 00:25:33,573 De politie beweert… 276 00:25:33,657 --> 00:25:37,786 …dat de vrouw die Kim Jong-nam aanvalt bij deze vliegveldmoord… 277 00:25:37,869 --> 00:25:41,248 …een dodelijk zenuwgas genaamd VX gebruikte. 278 00:25:41,748 --> 00:25:44,417 Het kan doden door middel van verstikking. 279 00:25:45,043 --> 00:25:47,629 Het is een zeer krachtig molecuul… 280 00:25:47,712 --> 00:25:52,092 …en de meeste van deze moleculen waren naar verwachting dodelijker dan VX. 281 00:25:53,301 --> 00:25:56,972 Velen ervan waren, voor zover wij weten, nog nooit gezien. 282 00:25:57,472 --> 00:26:02,310 Dus toen Sean en ik dat beseften, zeiden we: 'Wat hebben we gedaan?' 283 00:26:04,771 --> 00:26:09,192 Al snel realiseerde ik me dat we de doos van Pandora hadden geopend… 284 00:26:09,901 --> 00:26:13,280 …en ik zei: 'Stop. Doe niks meer. We kappen ermee. 285 00:26:13,905 --> 00:26:17,367 Maak gewoon de dia's die ik nodig heb voor de presentatie.' 286 00:26:19,202 --> 00:26:23,873 Toen we dit experiment deden, dacht ik: wat is het ergste dat er kan gebeuren? 287 00:26:26,251 --> 00:26:30,255 Nu denk ik: we waren totaal naïef. 288 00:26:33,466 --> 00:26:36,928 Wat me het meest beangstigd is dat iedereen het kan doen. 289 00:26:38,930 --> 00:26:41,349 Het vraagt alleen een druk op de knop. 290 00:26:42,934 --> 00:26:46,187 Hoe beheersen we deze technologie voordat het wordt gebruikt… 291 00:26:46,271 --> 00:26:50,942 …om iets te doen dat vreselijk destructief is? 292 00:26:55,780 --> 00:27:00,285 De kern van het gesprek rondom kunstmatige intelligentie… 293 00:27:00,368 --> 00:27:03,538 …en hoe we die gebruiken in de maatschappij… 294 00:27:04,289 --> 00:27:08,835 …is een race tussen de kracht waarmee we technologieën ontwikkelen… 295 00:27:08,918 --> 00:27:11,963 …en de wijsheid die we hebben om die te beheersen. 296 00:27:13,340 --> 00:27:16,926 Er zijn voor de hand liggende morele en ethische bezwaren… 297 00:27:17,010 --> 00:27:21,181 …bij het toevertrouwen van datgene wat onze smartphones aanstuurt… 298 00:27:21,264 --> 00:27:23,850 …met de morele keuze om een leven te nemen. 299 00:27:25,727 --> 00:27:31,191 Ik werk bij het Future of Life Institute, een gemeenschap van wetenschapsactivisten. 300 00:27:31,733 --> 00:27:33,443 We willen laten zien… 301 00:27:33,526 --> 00:27:38,698 …dat er een andere kant is aan het versnellen van automatisering. 302 00:27:38,782 --> 00:27:42,619 We proberen ervoor te zorgen dat technologieën die we creëren… 303 00:27:42,702 --> 00:27:45,664 …op een veilige en ethische manier worden gebruikt. 304 00:27:46,247 --> 00:27:49,959 Laten we praten over de gevechtsregels… 305 00:27:50,043 --> 00:27:54,005 …en gedragsnormen bij het gebruiken van AI in onze wapensystemen. 306 00:27:54,798 --> 00:27:59,135 Want we zien nu technologie het slagveld opgaan… 307 00:27:59,219 --> 00:28:01,680 …die zelfstandig kan doden. 308 00:28:10,230 --> 00:28:15,110 In 2021 bracht de VN een verslag uit over het potentiële gebruik… 309 00:28:15,193 --> 00:28:19,364 …van een dodelijk autonoom wapen op het slagveld in Libië. 310 00:28:20,073 --> 00:28:23,910 Een panel van de VN zei dat een drone in de burgeroorlog in Libië… 311 00:28:23,993 --> 00:28:27,330 …geprogrammeerd was om doelen zelfstandig aan te vallen. 312 00:28:28,289 --> 00:28:31,209 Als de rapporten van de VN kloppen… 313 00:28:31,292 --> 00:28:34,963 …is dit een keerpunt voor de mensheid. 314 00:28:35,046 --> 00:28:37,090 Want dit markeert een situatie… 315 00:28:37,173 --> 00:28:42,137 …waarin een AI de keuze maakte om een leven te nemen, en niet een mens. 316 00:28:49,686 --> 00:28:51,688 Je ziet geavanceerde autonome wapens… 317 00:28:51,771 --> 00:28:55,150 …op verschillende plekken voor het eerst gebruikt worden. 318 00:28:56,276 --> 00:28:58,278 Er kwamen berichten uit Israël. 319 00:29:00,280 --> 00:29:05,702 Azerbeidzjan gebruikte autonome systemen om Armeense luchtafweer uit te schakelen. 320 00:29:07,370 --> 00:29:09,998 Hij kan urenlang rondvliegen op het slagveld… 321 00:29:10,081 --> 00:29:12,584 …op zoek naar dingen om zelf aan te vallen… 322 00:29:12,667 --> 00:29:16,087 …en zicht er dan op storten zonder menselijke tussenkomst. 323 00:29:16,796 --> 00:29:21,760 En onlangs zagen we verschillende video's die in Oekraïne zijn gepost. 324 00:29:23,303 --> 00:29:26,890 Het is onduidelijk in welke modus ze opereerden. 325 00:29:26,973 --> 00:29:30,393 Was er een mens die koos welke doelen aangevallen werden… 326 00:29:30,477 --> 00:29:32,729 …of deed de machine dat zelf? 327 00:29:32,812 --> 00:29:36,524 Maar er zal zeker een moment komen… 328 00:29:36,608 --> 00:29:40,195 …of het nu al is gebeurd in Libië, Oekraïne of ergens anders… 329 00:29:40,278 --> 00:29:44,449 …waarin een machine zelf kiest wie hij doodt op het slagveld. 330 00:29:47,035 --> 00:29:50,997 Machines die dodelijk geweld toepassen tegen mensen… 331 00:29:51,080 --> 00:29:53,374 …zonder menselijke tussenkomst… 332 00:29:53,458 --> 00:29:57,337 …is politiek onaanvaardbaar, moreel verwerpelijk. 333 00:29:59,214 --> 00:30:05,011 Of de internationale gemeenschap slaagt in het beheersen van die uitdagingen… 334 00:30:05,094 --> 00:30:06,888 …is een groot vraagteken. 335 00:30:08,932 --> 00:30:12,685 Als we naar de toekomst kijken, zelfs een paar jaar vooruit… 336 00:30:12,769 --> 00:30:15,730 …is het heel eng hoe de situatie er dan uitziet… 337 00:30:16,564 --> 00:30:23,363 …aangezien het kapitaal en de mankracht die worden ingezet om AI beter te maken… 338 00:30:23,446 --> 00:30:26,950 …en te gebruiken voor verschillende doeleinden immens is. 339 00:30:39,254 --> 00:30:43,424 Mijn God, die vent. Hij weet dat hij niet kan winnen. 340 00:30:46,761 --> 00:30:51,099 Ik vind het inspirerend als ik AI verschillende problemen zie overwinnen. 341 00:30:51,683 --> 00:30:53,977 Een laatste wanhoopsdaad. 342 00:30:54,477 --> 00:30:59,524 En je kunt die tactieken en technieken ook toepassen op echte vliegtuigen. 343 00:31:01,401 --> 00:31:02,318 Goed gespeeld. 344 00:31:02,402 --> 00:31:03,653 Oké, goed gespeeld. 345 00:31:08,658 --> 00:31:14,122 Het verbaast me dat mensen blijven zeggen wat AI niet kan doen. 346 00:31:14,205 --> 00:31:17,208 'Het kan nooit een wereldkampioen schaken verslaan.' 347 00:31:20,211 --> 00:31:22,672 Een IBM-computer maakt een comeback… 348 00:31:22,755 --> 00:31:25,925 …in de tweede partij tegen schaakkampioen Garry Kasparov. 349 00:31:28,136 --> 00:31:30,847 Kasparov geeft het op. 350 00:31:31,598 --> 00:31:34,642 Als ik zie dat m'n verstand te boven gaat… 351 00:31:34,726 --> 00:31:38,062 …word ik bang. En dat ging m'n verstand te boven. 352 00:31:39,355 --> 00:31:41,107 En toen zeiden mensen: 353 00:31:41,190 --> 00:31:44,402 'Het zal nooit een wereldkampioen Go verslaan.' 354 00:31:44,485 --> 00:31:47,030 Ik denk dat menselijke intuïtie… 355 00:31:47,113 --> 00:31:52,827 …nog te geavanceerd is om ingehaald te worden door AI. 356 00:31:55,330 --> 00:31:58,416 Go is een van de meest complexe spellen die er zijn… 357 00:31:58,499 --> 00:32:02,211 …omdat het aantal mogelijke zetten, als je dat uitrekent… 358 00:32:02,295 --> 00:32:05,256 …groter is dan het aantal atomen in het universum. 359 00:32:06,799 --> 00:32:11,471 Er was een team bij Google, Deepmind, dat het programma AlphaGo creëerde… 360 00:32:11,554 --> 00:32:14,265 …om de beste spelers ter wereld te verslaan. 361 00:32:16,559 --> 00:32:18,394 Gefeliciteerd… 362 00:32:18,478 --> 00:32:19,437 …AlphaGo. 363 00:32:19,520 --> 00:32:23,066 Een computerprogramma heeft een 9-dan professional verslagen. 364 00:32:25,610 --> 00:32:31,532 En toen koos DeepMind StarCraft als hun volgende AI-uitdaging. 365 00:32:33,743 --> 00:32:38,081 StarCraft is mogelijk het populairste real-time strategiespel ooit. 366 00:32:40,333 --> 00:32:44,712 AlphaStar werd beroemd toen het wereldkampioenen versloeg. 367 00:32:45,338 --> 00:32:48,800 AlphaStar verplettert Immortal Arc. 368 00:32:48,883 --> 00:32:49,717 Weet je wat? 369 00:32:49,801 --> 00:32:52,553 Dit is geen gevecht dat de profs kunnen winnen. 370 00:32:53,680 --> 00:32:54,973 Het is belachelijk. 371 00:32:57,642 --> 00:33:00,895 Professionals zeiden: 'Ik zou die tactiek nooit proberen 372 00:33:00,979 --> 00:33:04,816 Ik zou die strategie nooit proberen. Dat is niet menselijk.' 373 00:33:07,151 --> 00:33:10,655 En dat was misschien wel het aha-moment voor mij. 374 00:33:13,574 --> 00:33:16,661 Ik besefte dat dit het moment is. 375 00:33:17,412 --> 00:33:21,666 Er is belangrijke technologie en een kans om een verschil te maken. 376 00:33:24,502 --> 00:33:29,382 Ik kende alleen de problemen van 'n SEAL in gevechten op korte afstand… 377 00:33:30,383 --> 00:33:34,470 …maar een van m'n vrienden die F-18-piloot is, vertelde me: 378 00:33:34,554 --> 00:33:37,724 'We hebben hetzelfde probleem in de straaljagerwereld. 379 00:33:37,807 --> 00:33:39,434 Ze verstoren communicatie. 380 00:33:39,517 --> 00:33:44,439 Er is steeds meer luchtafweergeschut wat operaties te gevaarlijk maakt.' 381 00:33:47,483 --> 00:33:50,987 Stel je voor dat we een straaljager bestuurd door AI hadden. 382 00:33:51,070 --> 00:33:52,739 Welkom bij de AlphaDogfight-tests. 383 00:33:52,822 --> 00:33:56,159 Nog maar een paar minuten tot de eerste halve finale. 384 00:33:56,242 --> 00:33:59,871 DARPA, het Defense Advanced Reasearch Projects Agency… 385 00:33:59,954 --> 00:34:03,624 …had AlphaGo en AlphaStar gezien… 386 00:34:04,292 --> 00:34:08,171 …en zo werd het idee van de AlphaDogfight-competitie geboren. 387 00:34:09,005 --> 00:34:11,466 Dit wil je menselijke piloten zien doen. 388 00:34:11,549 --> 00:34:13,593 Dit lijkt een menselijk gevecht. 389 00:34:15,595 --> 00:34:19,057 'Dogfighting' is een luchtgevecht tussen twee vliegtuigen. 390 00:34:19,849 --> 00:34:22,852 Je kunt het zien als een bokswedstrijd in de lucht. 391 00:34:23,853 --> 00:34:26,314 Misschien kennen mensen de film Top Gun. 392 00:34:26,397 --> 00:34:27,815 Kunnen we ze afschudden? 393 00:34:28,566 --> 00:34:31,861 Hun raketten en geweren niet. -Dan wordt het 'n luchtgevecht. 394 00:34:35,531 --> 00:34:39,410 Meester worden in luchtgevechten kan acht tot tien jaar duren. 395 00:34:42,288 --> 00:34:46,209 Het is een zeer complexe uitdaging om hier AI voor te bouwen. 396 00:34:54,092 --> 00:34:58,679 Eerdere benaderingen van autonomie en luchtgevechten waren slap. 397 00:34:59,222 --> 00:35:03,017 Machine learning leek ons de manier om dit probleem op te lossen. 398 00:35:04,477 --> 00:35:08,189 In het begin wist de AI niks over de wereld waarin hij zat. 399 00:35:08,272 --> 00:35:11,025 Het wist niet dat het vloog of wat een luchtgevecht was. 400 00:35:11,109 --> 00:35:13,152 Het wist niet wat een F-16 was. 401 00:35:13,236 --> 00:35:15,947 Het wist alleen welke acties het kon uitvoeren… 402 00:35:16,030 --> 00:35:18,407 …en het begon die acties te proberen. 403 00:35:19,325 --> 00:35:23,204 Het blauwe vliegtuig traint pas sinds kort. 404 00:35:23,287 --> 00:35:25,832 Je ziet hem heen en weer schommelen… 405 00:35:26,624 --> 00:35:30,545 …onvoorspelbaar vliegen, meestal weg van de tegenstander. 406 00:35:31,587 --> 00:35:36,134 Naarmate het gevecht vordert zien we dat blauw een plan ontwikkelt. 407 00:35:36,676 --> 00:35:38,636 Hij komt vaker in schietpositie. 408 00:35:39,178 --> 00:35:43,891 Af en toe zei het algoritme: 'Dat was goed. Doe dat vaker.' 409 00:35:45,143 --> 00:35:50,064 We kunnen computerkracht gebruiken om de agenten vaak te trainen in parallel. 410 00:35:51,357 --> 00:35:52,775 Het is net basketbal. 411 00:35:53,276 --> 00:35:55,778 In plaats van steeds met hetzelfde team te spelen… 412 00:35:55,862 --> 00:36:00,867 …reizen we de wereld over en spelen we met 512 teams tegelijk. 413 00:36:01,492 --> 00:36:03,661 Dan word je heel snel heel goed. 414 00:36:04,162 --> 00:36:07,456 We konden die simulatie 24 uur per dag laten draaien… 415 00:36:07,540 --> 00:36:11,919 …en 30 jaar pilotentraining in tien maanden uitvoeren. 416 00:36:12,879 --> 00:36:15,673 We gingen van het vliegtuig amper beheersen… 417 00:36:15,756 --> 00:36:17,717 …naar koelbloedige moordenaar. 418 00:36:19,010 --> 00:36:23,514 Tijdens de training streden we alleen tegen andere kunstmatige intelligentie. 419 00:36:24,473 --> 00:36:28,561 Maar rechtstreeks tegen mensen strijden was het uiteindelijke doel. 420 00:36:34,192 --> 00:36:35,610 Ik ben Mike Benitez. 421 00:36:36,110 --> 00:36:41,157 Ik ben luitenant-kolonel bij de luchtmacht en al 25 jaar actief in dienst. 422 00:36:42,825 --> 00:36:47,538 Ik heb 250 gevechtsmissies gedaan en ben afgestudeerd aan de wapenschool. 423 00:36:48,039 --> 00:36:50,416 Dat is de luchtmachtversie van Top Gun. 424 00:36:52,627 --> 00:36:55,171 Ik heb nog nooit tegen AI gevlogen. 425 00:36:55,254 --> 00:36:58,549 Ik ben heel benieuwd hoe goed ik het ga doen. 426 00:36:59,634 --> 00:37:03,054 We hebben een frontale aanval op 1800 meter. 427 00:37:04,388 --> 00:37:05,223 En vechten. 428 00:37:13,314 --> 00:37:16,651 Hij is er geweest. -Dat is heel interessant. 429 00:37:20,780 --> 00:37:23,658 Dood. -Hebbes. Vlekkeloze overwinning. 430 00:37:25,910 --> 00:37:27,453 Oké, tweede ronde. 431 00:37:35,461 --> 00:37:40,508 De kunstmatige intelligentie manoeuvreert met zo'n precisie… 432 00:37:41,384 --> 00:37:43,219 …dat ik het niet bijhoud. 433 00:37:48,474 --> 00:37:49,725 Recht eropaf. 434 00:37:50,309 --> 00:37:51,894 Nu ben je er geweest. 435 00:37:53,145 --> 00:37:53,980 Hebbes. 436 00:37:54,063 --> 00:37:55,022 Hij had me toch. 437 00:37:58,567 --> 00:38:00,069 AI is nooit bang. 438 00:38:00,736 --> 00:38:03,781 Een AI heeft niet het menselijke emotionele element. 439 00:38:04,991 --> 00:38:08,077 Een interessante strategie die onze AI ontwikkelde… 440 00:38:08,160 --> 00:38:10,121 …was wat we het face shot noemen. 441 00:38:10,621 --> 00:38:14,000 Een mens wil meestal van achteren schieten… 442 00:38:14,083 --> 00:38:16,377 …omdat ze je dan moeilijk afschudden. 443 00:38:17,044 --> 00:38:20,464 Ze proberen geen face shots omdat je dan kijkt wie er het bangst is. 444 00:38:21,424 --> 00:38:25,511 Als we frontaal aankomen, ga je van 900 naar 150 meter afstand… 445 00:38:25,594 --> 00:38:27,096 …in een oogwenk. 446 00:38:27,596 --> 00:38:31,183 Dan is het risico op botsen hoog, dus mensen doen het niet. 447 00:38:32,893 --> 00:38:36,522 De AI is niet bang voor de dood, tenzij je hem dat vertelt. 448 00:38:37,857 --> 00:38:40,234 Het voelt alsof ik tegen een mens vecht. 449 00:38:40,776 --> 00:38:44,113 Maar een roekeloos mens zonder oog voor veiligheid. 450 00:38:45,406 --> 00:38:47,325 Deze laatste overleeft hij niet. 451 00:38:56,667 --> 00:38:58,461 Hij heeft niet genoeg tijd. 452 00:39:01,964 --> 00:39:02,965 Slaap lekker. 453 00:39:04,091 --> 00:39:04,925 Ik ben dood. 454 00:39:16,812 --> 00:39:21,359 Het maakt me nederig om te weten dat ik niet het beste voor de missie ben… 455 00:39:21,442 --> 00:39:24,320 …en dat ding me ooit kan vervangen. 456 00:39:25,696 --> 00:39:28,824 Weer 1800 meter. Compensatie van 300. 457 00:39:29,450 --> 00:39:34,830 Met de AI-piloot in de straaljager wint hij meedogenloos. Hij domineert. 458 00:39:34,914 --> 00:39:37,249 Hij wint niet gewoon met afstand. 459 00:39:37,333 --> 00:39:41,545 Het is: 'Oké, hoe krijgen we dat in onze vliegtuigen?' Zo krachtig. 460 00:39:43,672 --> 00:39:47,802 Het is realistisch om te verwachte dat AI F-16's zal vliegen… 461 00:39:47,885 --> 00:39:49,970 …en dat zal niet lang meer duren. 462 00:39:51,305 --> 00:39:56,769 Als je vecht tegen een AI-piloot met een winstpercentage van 99,99999%… 463 00:39:56,852 --> 00:39:58,646 …maak je geen schijn van kans. 464 00:39:59,605 --> 00:40:02,733 Als ik denk aan dat één AI-piloot onverslaanbaar is… 465 00:40:02,817 --> 00:40:06,695 …denk ik aan wat een team van 50 of 100… 466 00:40:07,279 --> 00:40:12,535 …of 1000 AI-piloten kan bereiken. 467 00:40:13,702 --> 00:40:17,415 Zwermen is een team van zeer intelligente vliegtuigen… 468 00:40:17,498 --> 00:40:18,791 …die samenwerken. 469 00:40:19,291 --> 00:40:23,629 Ze delen informatie over wat ze doen, hoe ze een probleem kunnen oplossen. 470 00:40:25,172 --> 00:40:30,428 Zwermen wordt een baanbrekende en transformationele functionaliteit… 471 00:40:30,511 --> 00:40:32,638 …voor ons leger en onze bondgenoten. 472 00:41:42,750 --> 00:41:47,379 Doelwit is gevonden, de drones volgen hem. 473 00:42:02,019 --> 00:42:03,604 Hier komt de landing. 474 00:42:07,566 --> 00:42:10,402 Het doel van het zwermonderzoek waar we nu aan werken… 475 00:42:11,070 --> 00:42:13,697 …is het inzetten van een groot aantal drones… 476 00:42:13,781 --> 00:42:17,910 …in een moeilijk te bereiken of gevaarlijk gebied. 477 00:42:21,705 --> 00:42:26,085 Het onderzoekslab van het leger steunt dit onderzoeksproject. 478 00:42:26,919 --> 00:42:32,883 Als je wil weten wat er in een gebied is, maar het is moeilijk bereikbaar of groot… 479 00:42:33,676 --> 00:42:38,389 …is een zwerm een natuurlijke manier om het bereik van individuen te vergroten… 480 00:42:38,472 --> 00:42:41,934 …en essentiële informatie voor de missie te verzamelen. 481 00:42:46,689 --> 00:42:48,983 Als we nu een zwerm inzetten… 482 00:42:49,066 --> 00:42:53,904 …geven we één commando om het doelwit op te sporen. 483 00:42:54,488 --> 00:42:57,283 Dan gaan alle drones dat zelfstandig doen. 484 00:42:59,493 --> 00:43:05,708 Door kunstmatige intelligentie kunnen de robots decentraal als zwerm bewegen. 485 00:43:10,671 --> 00:43:12,506 In zwermen in de natuur… 486 00:43:13,299 --> 00:43:18,178 …is er geen baas, niet één dier dat zegt wat ze moeten doen. 487 00:43:20,556 --> 00:43:25,019 Het gedrag ontstaat doordat elk individueel dier… 488 00:43:25,102 --> 00:43:27,104 …een paar simpele regels volgt. 489 00:43:27,688 --> 00:43:32,443 En daaruit komt het collectieve gedrag dat je ziet voort. 490 00:43:33,944 --> 00:43:37,031 Het ontzagwekkende aan zwermen in de natuur… 491 00:43:37,114 --> 00:43:39,992 …is de sierlijkheid waarmee ze bewegen. 492 00:43:40,576 --> 00:43:44,288 Het is alsof ze gemaakt zijn om deel van die groep te zijn. 493 00:43:46,790 --> 00:43:51,128 In het ideale geval zouden we met onze dronezwerm graag zien dat er… 494 00:43:51,211 --> 00:43:53,172 …net als in de natuurlijke zwerm… 495 00:43:53,672 --> 00:43:56,717 …collectieve keuzes worden gemaakt door de groep. 496 00:43:59,928 --> 00:44:02,765 Wat ons verder inspireert… 497 00:44:02,848 --> 00:44:06,268 …is betrouwbaarheid en veerkracht. 498 00:44:07,311 --> 00:44:09,188 Die zwerm gaat niet neer… 499 00:44:09,271 --> 00:44:13,567 …als één dier niet doet wat het moet doen. 500 00:44:15,194 --> 00:44:18,697 Zelfs als één van de eenheden uitvalt of in gebreke is… 501 00:44:18,781 --> 00:44:20,866 …of de taak niet kan uitvoeren… 502 00:44:21,909 --> 00:44:23,369 …gaat de zwerm door. 503 00:44:25,204 --> 00:44:27,873 Dat is wat we uiteindelijk willen. 504 00:44:29,333 --> 00:44:33,879 In gevechtsscenario's moeten we vijandige vliegtuigen identificeren… 505 00:44:33,962 --> 00:44:37,841 …en daarvoor gebruikten we één persoon die één robot stuurde. 506 00:44:38,592 --> 00:44:40,552 Naarmate de autonomie toeneemt… 507 00:44:40,636 --> 00:44:43,555 …hoop ik dat we een groot aantal robots… 508 00:44:43,639 --> 00:44:46,642 …gestuurd zien worden door een klein aantal mensen. 509 00:44:47,851 --> 00:44:51,271 Ik zie geen reden waarom duizend onhaalbaar zou zijn… 510 00:44:51,355 --> 00:44:54,942 …want elke eenheid zou zelfstandig kunnen handelen. 511 00:44:55,025 --> 00:44:56,443 Niets is te gek. 512 00:44:57,027 --> 00:44:59,071 We kunnen het leren opschalen… 513 00:44:59,154 --> 00:45:03,325 We werken al geruime tijd in simulaties aan zwermen… 514 00:45:03,409 --> 00:45:06,829 …en het is tijd om dat op echte vliegtuigen toe te passen. 515 00:45:07,329 --> 00:45:12,042 We verwachten te beginnen met drie robots tegelijk op het netwerk… 516 00:45:12,126 --> 00:45:15,129 …en beginnen dan meer mogelijkheden toe te voegen. 517 00:45:15,879 --> 00:45:18,549 We willen het testen op kleinere systemen… 518 00:45:18,632 --> 00:45:22,219 …maar diezelfde concepten toepassen op grotere systemen… 519 00:45:22,302 --> 00:45:23,679 …zoals een straaljager. 520 00:45:24,596 --> 00:45:26,014 We praten veel over… 521 00:45:26,098 --> 00:45:31,937 …hoe je een peloton de gevechtskracht van een bataljon geeft. 522 00:45:34,982 --> 00:45:39,528 Of een bataljon de gevechtskracht van een brigade. 523 00:45:39,611 --> 00:45:41,488 Dat kan met zwermen. 524 00:45:42,614 --> 00:45:45,200 Als je je de kracht van zwermen eigen maakt… 525 00:45:45,284 --> 00:45:49,455 …heb je een nieuw afschrikmiddel tegen militaire agressie. 526 00:45:52,332 --> 00:45:57,004 Het meest opwindende is het aantal jonge mannen en vrouwen… 527 00:45:57,087 --> 00:46:00,299 …dat we kunnen redden als we dit goed doen. 528 00:46:01,091 --> 00:46:03,594 Als we machines inruilen… 529 00:46:04,553 --> 00:46:06,513 …in plaats van mensenlevens. 530 00:46:06,597 --> 00:46:10,893 Sommigen beweren dat autonome wapens de oorlogvoering nauwkeuriger… 531 00:46:10,976 --> 00:46:12,311 …en meer humaan maken. 532 00:46:12,853 --> 00:46:15,397 Maar het is moeilijk te voorspellen… 533 00:46:15,481 --> 00:46:19,443 …hoe autonome wapens de oorlogsvoering zullen veranderen. 534 00:46:21,320 --> 00:46:23,238 Net als met het Gatling-geweer. 535 00:46:25,073 --> 00:46:27,117 Richard Gatling was een uitvinder… 536 00:46:27,201 --> 00:46:30,954 …en hij zag soldaten thuiskomen, verwond in de Burgeroorlog. 537 00:46:32,206 --> 00:46:35,459 En hij zocht manieren om de oorlog meer humaan te maken. 538 00:46:36,293 --> 00:46:39,797 Om het aantal soldaten dat gedood werd te verkleinen… 539 00:46:40,422 --> 00:46:43,217 …door het aantal soldaten op het slagveld te verkleinen. 540 00:46:44,092 --> 00:46:48,388 Dus hij vond het Gatling-geweer uit, een automatisch geweer met 'n hendel… 541 00:46:48,472 --> 00:46:50,516 …die het vuren automatiseerde. 542 00:46:53,268 --> 00:46:57,981 Het verhonderdvoudigde de vuurkracht van soldaten. 543 00:47:01,235 --> 00:47:05,239 Soms hebben pogingen om oorlog preciezer en meer humaan te maken… 544 00:47:06,490 --> 00:47:08,200 …een tegenovergesteld effect. 545 00:47:10,160 --> 00:47:13,455 Denk aan het effect van één foutieve drone-aanval… 546 00:47:13,539 --> 00:47:14,623 …op 't platteland… 547 00:47:14,706 --> 00:47:17,209 …waardoor inwoners zich tegen de VS keren… 548 00:47:17,292 --> 00:47:20,712 …of tegen de lokale regering. Zogenaamd de helden. 549 00:47:22,589 --> 00:47:25,008 Vermenigvuldig dat met duizend. 550 00:47:26,802 --> 00:47:28,720 De creatie van een wapensysteem… 551 00:47:28,804 --> 00:47:34,560 …dat goedkoop en schaalbaar is en geen menselijke bestuurders nodig heeft… 552 00:47:34,643 --> 00:47:37,896 …verandert de barrière voor conflict enorm. 553 00:47:40,107 --> 00:47:44,486 Ik lig er wakker van als ik denk aan een wereld waarin overal oorlog is… 554 00:47:44,987 --> 00:47:48,657 …en waarin we niet de menselijke en financiële kosten dragen… 555 00:47:48,740 --> 00:47:51,410 …omdat we zo ver verwijderd zijn van… 556 00:47:52,327 --> 00:47:54,037 …de levens die verloren gaan. 557 00:47:59,501 --> 00:48:01,420 Dit achtervolgt me. 558 00:48:02,212 --> 00:48:05,924 Ik had alleen een voorbeeld van misbruik van AI nodig. 559 00:48:06,800 --> 00:48:10,888 De onverwachte gevolgen van dat simpele gedachte-experiment… 560 00:48:10,971 --> 00:48:12,848 …zijn veel te ver gegaan. 561 00:48:13,348 --> 00:48:16,643 AI IN GENEESMIDDELENONDERZOEK: MEER KWAAD DAN GOED DOEN VOORKOMEN 562 00:48:17,352 --> 00:48:22,107 Toen ik de presentatie gaf over de giftige moleculen gecreëerd door AI… 563 00:48:22,608 --> 00:48:24,318 …stond het publiek versteld. 564 00:48:25,402 --> 00:48:27,613 DE 5000 HOOGST SCORENDE STOFFEN WAREN VX-ANALOGEN 565 00:48:29,406 --> 00:48:33,577 De volgende beslissing was of we die informatie moesten publiceren. 566 00:48:34,912 --> 00:48:39,166 Aan de ene kant wil je de wereld waarschuwen voor zulke mogelijkheden… 567 00:48:39,249 --> 00:48:44,087 …maar aan de andere kant wil je iemand niet op ideeën brengen. 568 00:48:46,381 --> 00:48:48,133 We besloten dat het het waard was… 569 00:48:48,216 --> 00:48:52,679 …om zo manieren te vinden om misbruik van zulke AI te bestrijden… 570 00:48:52,763 --> 00:48:54,139 …voordat het gebeurt. 571 00:48:54,222 --> 00:48:56,975 DUAL-USE VAN AI-GESTUURD MEDICIJNONDERZOEK 572 00:48:57,559 --> 00:48:59,561 HOE AI VOOR MEDICIJNONDERZOEK… 573 00:49:01,897 --> 00:49:04,775 De algemene reactie was schokkend. 574 00:49:07,194 --> 00:49:10,656 We kunnen zien hoeveel mensen de pagina bekijken. 575 00:49:10,739 --> 00:49:14,451 Met de artikelen die we normaal schrijven, krijgen we met geluk… 576 00:49:14,534 --> 00:49:19,831 …een paar duizend mensen die het bekijken in een periode van één of meerdere jaren. 577 00:49:19,915 --> 00:49:22,084 Dit was 10.000 in een week. 578 00:49:22,167 --> 00:49:25,337 Toen was het 20.000, toen 30.000, toen 40.000… 579 00:49:25,837 --> 00:49:28,715 …en zaten we op 10.000 mensen per dag. 580 00:49:30,258 --> 00:49:33,512 We stonden in The Economist, de Financial Times. 581 00:49:35,639 --> 00:49:39,977 Radiolab zocht contact. Ik kende Radiolab. 582 00:49:41,937 --> 00:49:45,899 Maar toen liepen de reacties uit de hand. 583 00:49:49,778 --> 00:49:53,532 Toen we die tweets zagen, was het: 'God, kan het nog erger?' 584 00:49:54,324 --> 00:49:55,993 Waarom deden ze dit? 585 00:49:57,911 --> 00:50:00,998 DIE NERDS WORDEN ONZE DOOD 586 00:50:01,081 --> 00:50:04,501 En toen kregen we 'n uitnodiging die ik nooit had verwacht. 587 00:50:08,797 --> 00:50:12,926 Er was veel discussie in het Witte Huis over het artikel… 588 00:50:13,010 --> 00:50:15,345 …en ze wilden ons dringend spreken. 589 00:50:18,849 --> 00:50:23,020 Natuurlijk is het een eer om te spreken met mensen op dat niveau. 590 00:50:23,603 --> 00:50:25,272 Maar dan besef je: 591 00:50:25,355 --> 00:50:28,900 'Lieve hemel, dit is het Witte Huis. De baas.' 592 00:50:29,693 --> 00:50:33,196 We moesten data-sets samenstellen die open-source waren… 593 00:50:33,280 --> 00:50:37,701 In zes uur genereerde het model meer dan 40.000… 594 00:50:37,784 --> 00:50:41,038 Ze vroegen hoeveel computerkracht ervoor nodig was. 595 00:50:41,872 --> 00:50:44,249 We zeiden dat het niks bijzonders was. 596 00:50:44,332 --> 00:50:48,211 Letterlijk een standaard, zes jaar oude Mac. 597 00:50:49,546 --> 00:50:51,256 Daar stonden ze versteld van. 598 00:50:54,968 --> 00:50:59,473 De mensen die de leiding hebben over het begrijpen van chemische wapens… 599 00:50:59,556 --> 00:51:04,019 …de overheidsinstanties, hadden geen idee van deze mogelijkheid. 600 00:51:06,605 --> 00:51:09,816 We hebben een kookboek om chemische wapens te maken… 601 00:51:10,650 --> 00:51:15,572 …en in de handen van iemand met kwade bedoelingen… 602 00:51:16,573 --> 00:51:18,992 …kan het afschuwelijk zijn. 603 00:51:21,703 --> 00:51:23,205 Mensen moeten luisteren… 604 00:51:23,288 --> 00:51:26,458 …en we moeten zorgen dat we de technologie reguleren… 605 00:51:27,250 --> 00:51:30,670 …of beperken zodat het niet misbruikt kan worden. 606 00:51:31,880 --> 00:51:35,175 Want de potentiële dodelijkheid… 607 00:51:36,176 --> 00:51:37,344 …is angstaanjagend. 608 00:51:40,680 --> 00:51:43,266 De kwestie van de ethiek van AI… 609 00:51:43,350 --> 00:51:46,436 …wordt grotendeels behandeld door de maatschappij. 610 00:51:46,520 --> 00:51:50,273 Niet door de ingenieurs, technologen of wiskundigen. 611 00:51:52,484 --> 00:51:56,822 Van elke technologie die we uitbrengen, elke nieuwe innovatie… 612 00:51:56,905 --> 00:52:00,617 …besluit de samenleving hoe we het moeten gebruiken. 613 00:52:03,036 --> 00:52:06,498 Op dit moment zegt het ministerie van Defensie: 614 00:52:06,581 --> 00:52:09,960 'Het enige wat zegt dat we iets gaan doden… 615 00:52:10,043 --> 00:52:11,920 …op het slagveld, is een mens.' 616 00:52:12,504 --> 00:52:14,673 Een machine kan het doden uitvoeren… 617 00:52:15,674 --> 00:52:18,927 …maar alleen in opdracht van een menselijke bestuurder. 618 00:52:19,636 --> 00:52:21,429 En dat zie ik niet veranderen. 619 00:52:24,808 --> 00:52:28,103 Ze verzekeren ons ervan dat zulke technologie veilig is. 620 00:52:29,729 --> 00:52:33,692 Maar het Amerikaanse leger heeft geen betrouwbare reputatie… 621 00:52:33,775 --> 00:52:35,485 …met drone-oorlogsvoering. 622 00:52:36,820 --> 00:52:41,783 Dus als het gaat om het vertrouwen van het Amerikaanse leger met AI… 623 00:52:41,867 --> 00:52:44,953 …spreekt het verleden voor zich. 624 00:52:46,288 --> 00:52:50,125 Het beleid van Defensie over het gebruik van autonomie in wapens… 625 00:52:50,208 --> 00:52:52,919 …verbiedt geen enkel wapensysteem. 626 00:52:53,003 --> 00:52:56,715 Zelfs als legers geen autonome wapens willen… 627 00:52:56,798 --> 00:53:01,678 …kunnen we gaan zien dat ze meer keuzes overlaten aan machines… 628 00:53:01,761 --> 00:53:03,680 …om concurrenten bij te houden. 629 00:53:04,764 --> 00:53:08,351 Dat kan ertoe leiden dat legers keuzes automatiseren… 630 00:53:08,435 --> 00:53:09,978 …waarvan ze dat niet willen. 631 00:53:12,022 --> 00:53:16,693 Vladimir Poetin zei: 'Wie leidt in AI, zal over de wereld heersen.' 632 00:53:17,736 --> 00:53:23,325 President Xi heeft duidelijk gemaakt dat AI een van de technologieën is… 633 00:53:23,408 --> 00:53:25,702 …waarin China wil domineren. 634 00:53:26,786 --> 00:53:29,831 We zitten duidelijk in een technologische race. 635 00:53:33,501 --> 00:53:39,424 Je hoort mensen praten over vangrails, en ik denk dat mensen dat moeten doen. 636 00:53:40,467 --> 00:53:45,180 Maar er is een echte race gaande om de superioriteit in AI. 637 00:53:47,265 --> 00:53:51,603 En onze tegenstanders, of het nu China, Rusland of Iran is… 638 00:53:52,187 --> 00:53:56,566 …denken geen seconde na over wat ons beleid over AI zegt. 639 00:54:00,820 --> 00:54:04,324 Je ziet veel meer gesprekken rondom AI-beleid… 640 00:54:06,117 --> 00:54:09,287 …maar ik wou dat meer leiders zouden zeggen: 641 00:54:09,371 --> 00:54:11,706 'Hoe snel kunnen we dit bouwen? 642 00:54:12,707 --> 00:54:15,168 Smijt er geld tegenaan en bouw het.' 643 00:54:18,922 --> 00:54:21,299 JAARLIJKSE EXPOSITIE VAN DE AUSA 644 00:54:24,177 --> 00:54:26,805 LEGER VAN DE VERENIGDE STATEN 645 00:54:33,478 --> 00:54:38,358 We zijn op de grootste vakbeurs van de Associatie van het Amerikaanse leger. 646 00:54:39,609 --> 00:54:44,572 Elke verkoper die een product of technologie aan het leger wil verkopen… 647 00:54:44,656 --> 00:54:46,616 …presenteert die hier. 648 00:54:47,575 --> 00:54:50,537 Luchtmachtbasis Tyndall heeft vier van onze robots… 649 00:54:50,620 --> 00:54:53,748 …die 24/7 op hun basis patrouilleren. 650 00:54:55,750 --> 00:55:00,130 We kunnen alles toevoegen, van camera's tot sensoren of wat dan ook. 651 00:55:00,213 --> 00:55:05,135 Grijparmen. Alles om de missie van de klant te kunnen voltooien. 652 00:55:06,678 --> 00:55:08,680 Wat als de vijand AI introduceert? 653 00:55:09,431 --> 00:55:12,976 Een vechtsysteem dat sneller denkt en reageert dan jij… 654 00:55:13,059 --> 00:55:16,062 …dan een mens zou kunnen? We moeten voorbereid zijn. 655 00:55:17,605 --> 00:55:21,359 We trainen onze systemen om info over de vijand te verzamelen… 656 00:55:22,027 --> 00:55:26,531 …en vijandige doelen te beheren met menselijk toezicht op de kill chain. 657 00:55:33,288 --> 00:55:34,956 Dag, generaal. -Hoe gaat het? 658 00:55:35,040 --> 00:55:36,416 Goed, meneer. Met u? 659 00:55:37,709 --> 00:55:42,630 Niemand investeert meer in een AI-piloot. Onze AI-piloot heet Hivemind. 660 00:55:43,256 --> 00:55:45,967 We hebben 't toegepast op onze quadcopter Nova… 661 00:55:46,051 --> 00:55:50,805 …die gebouwen verkent voordat de speciale eenheden en infanterie komen. 662 00:55:50,889 --> 00:55:52,891 We passen Hivemind toe op V-BAT. 663 00:55:52,974 --> 00:55:56,811 Ik denk aan het lanceren van honderden van zulke teams… 664 00:55:56,895 --> 00:56:00,106 …of het nu in de Straat van Taiwan of Oekraïne is… 665 00:56:00,190 --> 00:56:03,360 …om vijanden af te schrikken. Ik ben er erg enthousiast over. 666 00:56:03,943 --> 00:56:06,196 Oké, bedankt. -Bedankt, generaal. 667 00:56:07,989 --> 00:56:13,370 AI-piloten kunnen tegen 2025, 2030 overal aanwezig zijn. 668 00:56:14,162 --> 00:56:17,874 Het zal snel geadopteerd worden door legers over de hele wereld. 669 00:56:19,250 --> 00:56:22,962 Wat doe je met het Roemeense leger, hun onbemande vliegsystemen? 670 00:56:23,046 --> 00:56:24,589 Hightech in het leger. 671 00:56:25,256 --> 00:56:29,803 We hebben al een half miljard uitgegeven aan het bouwen van een AI-piloot. 672 00:56:29,886 --> 00:56:33,181 De komende vijf jaar geven we nog een miljard uit. 673 00:56:33,264 --> 00:56:37,769 Dat is een belangrijke reden waarom we voorop lopen in de VS. 674 00:56:37,852 --> 00:56:38,853 Te gek. 675 00:56:38,937 --> 00:56:42,732 Het is indrukwekkend. Heb je die kunnen bewapenen? 676 00:56:43,650 --> 00:56:45,568 Deze is nog niet bewapend. 677 00:56:45,652 --> 00:56:48,321 Nog niet. Maar in de toekomst wel. 678 00:56:48,905 --> 00:56:52,534 Klanten zien het als een truck. Wij zien het als een intelligente truck… 679 00:56:52,617 --> 00:56:54,452 …die verschillende dingen kan. 680 00:56:54,536 --> 00:56:55,703 Bedankt, maat. -Ja. 681 00:56:55,787 --> 00:56:57,914 Ik neem contact met je op. 682 00:57:01,668 --> 00:57:04,129 Als je over tien jaar terugkomt… 683 00:57:04,212 --> 00:57:10,802 …zul je zien dat AI en autonomie deze hele markt domineren. 684 00:57:14,889 --> 00:57:19,352 Troepen die worden ondersteund door AI en autonomie… 685 00:57:19,436 --> 00:57:25,108 …zullen troepen zonder domineren en verpletteren. 686 00:57:26,401 --> 00:57:30,780 Dat is vergelijkbaar met paarden die het opnemen tegen tanks. 687 00:57:31,781 --> 00:57:34,367 Mensen met zwaarden tegen een machinegeweer. 688 00:57:34,909 --> 00:57:37,120 Het komt niet eens in de buurt. 689 00:57:38,746 --> 00:57:42,750 Het zal overal aanwezig zijn, in elk aspect van de oorlogsvoering. 690 00:57:43,585 --> 00:57:46,671 Het tactische niveau. Het strategische niveau. 691 00:57:47,172 --> 00:57:50,800 Werkend met snelheden die mensen nu niet kunnen bevatten. 692 00:57:53,094 --> 00:57:57,098 Commandanten worden al overspoeld met te veel informatie. 693 00:57:57,599 --> 00:58:01,019 Beelden van satellieten, drones en sensoren. 694 00:58:02,103 --> 00:58:06,774 AI kan een commandant helpen om sneller te begrijpen wat er gebeurt… 695 00:58:07,650 --> 00:58:09,903 …en welke beslissing hij moet maken. 696 00:58:11,154 --> 00:58:14,866 Kunstmatige intelligentie zal rekening houden met alle factoren… 697 00:58:14,949 --> 00:58:17,702 …die bepalen hoe een oorlog gevoerd wordt… 698 00:58:18,286 --> 00:58:20,246 …strategieën bedenken… 699 00:58:22,540 --> 00:58:25,668 …en aanbevelingen doen over hoe je een strijd wint. 700 00:58:32,217 --> 00:58:34,344 CENTRUM VOOR INNOVATIE 701 00:58:36,971 --> 00:58:40,266 Bij Lockheed Martin zien we, net als onze klant Defensie… 702 00:58:40,350 --> 00:58:42,185 …kunstmatige intelligentie als… 703 00:58:42,268 --> 00:58:45,104 …belangrijke technologie voor commandovoering. 704 00:58:47,065 --> 00:58:50,109 Het verspreidt zich met 60 centimeter per seconde. 705 00:58:50,193 --> 00:58:52,278 Dit gebied is ongeveer 280 hectare. 706 00:58:52,779 --> 00:58:55,782 De oorlogsmist is zeker een realiteit bij Defensie… 707 00:58:57,158 --> 00:59:03,206 …maar het heeft parallellen in het maken van keuzes bij bosbranden. 708 00:59:03,289 --> 00:59:06,543 De Washburn-brand is net ten noorden van de stad Wawona. 709 00:59:06,626 --> 00:59:09,629 Je moet keuzes maken met onvolledige informatie. 710 00:59:10,630 --> 00:59:14,300 Dus hoe kan AI ons helpen met die oorlogsmist? 711 00:59:17,637 --> 00:59:21,266 Bosbranden zijn erg chaotisch en complex. 712 00:59:22,267 --> 00:59:27,855 Daarom passen we AI toe om ons te helpen keuzes te maken. 713 00:59:31,442 --> 00:59:37,949 De Cognitieve Missiemanager is een programma dat infraroodbeelden… 714 00:59:38,032 --> 00:59:41,786 …verwerkt met onze AI-algoritmes… 715 00:59:41,869 --> 00:59:45,248 …om de toekomstige staat van de brand te voorspellen. 716 00:59:48,042 --> 00:59:52,922 De Cognitieve Missiemanager zal in de toekomst simulaties gebruiken… 717 00:59:53,006 --> 00:59:58,553 …en scenario's duizenden keren uitspelen om aanbevelingen te doen… 718 00:59:58,636 --> 01:00:00,722 …over het effectief inzetten van middelen… 719 01:00:00,805 --> 01:00:04,350 …om het vuur te onderdrukken in gebieden met hoge prioriteit. 720 01:00:08,062 --> 01:00:12,400 Dan zegt het: 'Blus hier vanuit de lucht met een Firehawk. 721 01:00:13,568 --> 01:00:15,903 Kap daar struikgewas weg.' 722 01:00:16,946 --> 01:00:23,077 Het stuurt brandweerlieden naar gebieden met de hoogste prioriteit. 723 01:00:26,289 --> 01:00:31,044 Die keuzes kunnen dan sneller en effectiever gemaakt worden. 724 01:00:35,840 --> 01:00:38,468 AI geeft onze mensen het unieke vermogen… 725 01:00:38,551 --> 01:00:42,305 …om de steeds veranderende omgeving bij te benen. 726 01:00:43,389 --> 01:00:46,517 En er zijn veel overeenkomsten… 727 01:00:46,601 --> 01:00:50,355 …met wat we bij Lockheed Martin doen voor Defensie. 728 01:00:52,231 --> 01:00:55,860 Het leger heeft het niet alleen over het gebruik van AI… 729 01:00:55,943 --> 01:01:00,323 …en individuele wapensystemen om keuzes te maken over doelwitten… 730 01:01:00,865 --> 01:01:05,787 …maar het integreren van AI in de hele beslissingsstructuur van 't leger. 731 01:01:09,415 --> 01:01:12,960 Het leger heeft 'n groot project genaamd Project Convergence. 732 01:01:14,545 --> 01:01:16,589 De marine heeft Overmatch. 733 01:01:16,673 --> 01:01:20,176 De luchtmacht heeft Advanced Battle Management System. 734 01:01:21,886 --> 01:01:26,683 Defensie probeert uit te zoeken hoe we al die puzzelstukjes samenbrengen… 735 01:01:26,766 --> 01:01:29,268 …zodat we sneller opereren dan de vijand… 736 01:01:30,395 --> 01:01:32,355 …en echt een voordeel hebben. 737 01:01:33,481 --> 01:01:37,527 Een AI-gevechtsmanager zou een hooggeplaatste generaal zijn… 738 01:01:37,610 --> 01:01:39,821 …die de leiding heeft over de strijd. 739 01:01:41,155 --> 01:01:44,158 Hij zou een groot aantal troepen bevelen geven… 740 01:01:45,118 --> 01:01:49,205 …en de acties van alle wapens coördineren. 741 01:01:49,288 --> 01:01:51,958 …met 'n snelheid die geen mens bij kan houden. 742 01:01:53,543 --> 01:01:58,798 We hebben de afgelopen 70 jaar gebouwd aan het meest geavanceerde leger op aarde… 743 01:01:58,881 --> 01:02:00,842 …en nu staan we voor de keus… 744 01:02:00,925 --> 01:02:07,598 …om de controle over die infrastructuur over te geven aan een algoritme, software. 745 01:02:10,351 --> 01:02:13,187 En het gevolg van die keus… 746 01:02:13,271 --> 01:02:16,774 …kan de inzet zijn van ons volledige militaire arsenaal. 747 01:02:16,858 --> 01:02:19,902 Dat is niet één Hiroshima, maar honderden. 748 01:02:25,616 --> 01:02:27,869 Dit is het moment om actie te nemen. 749 01:02:27,952 --> 01:02:33,166 Want het tijdslot om dit risico in te perken sluit snel. 750 01:02:34,584 --> 01:02:39,338 Vanmiddag beginnen we met internationale veiligheidsuitdagingen… 751 01:02:39,422 --> 01:02:41,132 …van nieuwe technologie… 752 01:02:41,215 --> 01:02:44,343 …op het gebied van dodelijke autonome wapensystemen. 753 01:02:44,427 --> 01:02:47,680 Er vinden gesprekken plaats binnen de Verenigde Naties… 754 01:02:47,764 --> 01:02:50,016 …over de dreiging van autonome wapens… 755 01:02:50,600 --> 01:02:56,564 …en 't verbod op systemen die AI gebruiken om mensen aan te vallen. 756 01:02:56,647 --> 01:03:00,777 De technologie-experts zijn het erover eens. 757 01:03:00,860 --> 01:03:04,030 We zijn tegen autonome wapens die mensen aanvallen. 758 01:03:05,615 --> 01:03:11,329 Staten praten al jarenlang over het probleem van autonome wapens. 759 01:03:12,288 --> 01:03:16,793 Het gaat om een gedeeld gevoel van veiligheid. 760 01:03:17,794 --> 01:03:20,546 Maar dat is natuurlijk niet makkelijk. 761 01:03:21,297 --> 01:03:25,968 Bepaalde landen, zeker militaire grootmachten… 762 01:03:26,052 --> 01:03:27,762 …willen voorop lopen… 763 01:03:28,429 --> 01:03:31,599 …zodat ze voorlopen op hun tegenstanders. 764 01:03:32,600 --> 01:03:36,187 Maar iedereen moet het eens zijn om iets gedaan te krijgen. 765 01:03:36,896 --> 01:03:39,065 Er is altijd één land met bezwaar. 766 01:03:39,148 --> 01:03:42,109 En de VS en Rusland hebben duidelijk gemaakt… 767 01:03:42,193 --> 01:03:45,780 …dat ze tegen een verdrag zijn dat autonome wapens verbiedt. 768 01:03:47,198 --> 01:03:53,204 Als we kijken naar het aantal mensen dat werkt aan het versterken van AI… 769 01:03:54,747 --> 01:03:56,457 …dan is dat een grote groep. 770 01:03:57,750 --> 01:04:02,880 Als we kijken naar het aantal mensen dat probeert te zorgen dat AI veilig is… 771 01:04:04,340 --> 01:04:07,510 …dan is dat een veel kleinere groep. 772 01:04:11,764 --> 01:04:13,724 Maar ik ben ook erg optimistisch. 773 01:04:16,060 --> 01:04:19,480 Als ik kijk naar het Verdrag inzake biologische wapens… 774 01:04:19,564 --> 01:04:22,358 …wat ontstond midden in de Koude Oorlog… 775 01:04:23,025 --> 01:04:27,655 …ondanks de spanningen tussen de Sovjet-Unie en de VS. 776 01:04:29,156 --> 01:04:33,536 Ze beseften dat de ontwikkeling van biologische wapens… 777 01:04:33,619 --> 01:04:36,247 …niet in het belang van beide partijen was… 778 01:04:36,330 --> 01:04:38,749 …en niet in het belang van de wereld. 779 01:04:41,335 --> 01:04:44,881 In een wapenwedloop gaat snelheid boven veiligheid. 780 01:04:45,715 --> 01:04:48,342 Maar het is belangrijk om te beseffen… 781 01:04:48,426 --> 01:04:52,430 …dat de prijs van snelheid op een bepaald moment te hoog wordt. 782 01:04:56,225 --> 01:04:59,270 We kunnen dingen niet losstaand ontwikkelen… 783 01:05:00,021 --> 01:05:06,611 …en ze uitbrengen zonder na te denken over wat ermee gedaan kan worden. 784 01:05:07,862 --> 01:05:10,823 We moeten dat atoombommoment voorkomen. 785 01:05:14,577 --> 01:05:17,705 Er staat veel op het spel in de AI-race. 786 01:05:18,289 --> 01:05:22,001 Veel mensen hebben geen waardering voor de globale stabiliteit… 787 01:05:22,084 --> 01:05:28,174 …die mogelijk is gemaakt door het hebben van een militaire grootmacht… 788 01:05:28,257 --> 01:05:31,135 …in de afgelopen 75 jaar. 789 01:05:32,887 --> 01:05:35,681 Dus de Verenigde Staten en onze bondgenoten… 790 01:05:36,557 --> 01:05:39,268 …moeten beter presteren dan de vijandige AI. 791 01:05:43,314 --> 01:05:45,441 Er is geen tweede plaats in oorlog. 792 01:05:45,524 --> 01:05:49,070 China heeft een ambitieus plan om in 2030 wereldleider in AI te zijn. 793 01:05:49,153 --> 01:05:51,656 Volgens sommigen verliest Amerika de race. 794 01:05:52,740 --> 01:05:56,160 Versnel de adoptie van kunstmatige intelligentie… 795 01:05:56,243 --> 01:05:59,246 …om ons militaire voordeel te behouden. 796 01:06:02,875 --> 01:06:05,461 Deze technologie ontwikkelt zich snel. 797 01:06:05,544 --> 01:06:08,673 Maar het is onduidelijk hoe ver we gaan. 798 01:06:09,507 --> 01:06:12,760 Beheersen wij technologie of beheerst technologie ons? 799 01:06:14,136 --> 01:06:16,973 We krijgen geen tweede kans. 800 01:06:17,807 --> 01:06:20,977 Zodra je die stap neemt, neem je hem. 801 01:06:22,019 --> 01:06:25,189 En dan kun je heel moeilijk terug. 802 01:06:28,609 --> 01:06:31,737 Als we nu niets doen, is het te laat. 803 01:06:33,114 --> 01:06:34,657 Misschien is het al te laat. 804 01:08:48,124 --> 01:08:53,254 Ondertiteld door: Sander van Arnhem