1
00:00:02,000 --> 00:00:07,000
Downloaded from
YTS.MX

2
00:00:08,000 --> 00:00:13,000
Official YIFY movies site:
YTS.MX

3
00:00:24,065 --> 00:00:27,152
L'intelligence artificielle
est très impressionnante.

4
00:00:28,361 --> 00:00:31,489
C'est bien. En cercle, bonne formation.

5
00:00:33,116 --> 00:00:36,703
L'intelligence artificielle
peut en finir avec la pauvreté,

6
00:00:36,786 --> 00:00:38,705
imaginer des médicaments

7
00:00:39,330 --> 00:00:41,583
et apporter plus de paix dans le monde.

8
00:00:46,087 --> 00:00:46,921
Bien joué.

9
00:00:49,883 --> 00:00:53,428
Mais c'est un chemin pavé
de nombreux risques.

10
00:01:04,773 --> 00:01:09,611
L'intelligence artificielle n'est pas
une intelligence humaine,

11
00:01:09,694 --> 00:01:11,863
elle est très imprévisible.

12
00:01:14,407 --> 00:01:16,451
Alors qu'elle gagne en puissance,

13
00:01:16,534 --> 00:01:19,746
où poserons-nous les limites

14
00:01:19,829 --> 00:01:22,665
pour savoir
si nous voulons ou non l'utiliser ?

15
00:01:25,001 --> 00:01:28,505
Le point de départ idéal
pour mener cette réflexion,

16
00:01:28,588 --> 00:01:31,049
c'est le domaine militaire.

17
00:01:34,010 --> 00:01:38,890
Le champ de bataille est aujourd'hui
un monde de logiciels et de matériel.

18
00:01:41,059 --> 00:01:42,936
Cible identifiée…

19
00:01:43,019 --> 00:01:48,399
Les armées veulent développer leur IA
plus vite que leurs adversaires.

20
00:01:49,526 --> 00:01:50,360
Je suis mort.

21
00:01:53,780 --> 00:01:58,326
Nous allons à toute vitesse vers un monde
dans lequel les armées majeures,

22
00:01:58,409 --> 00:02:02,997
mais aussi les acteurs non étatiques,
les industries privées

23
00:02:03,081 --> 00:02:06,042
ou même notre commissariat
de police de quartier

24
00:02:06,543 --> 00:02:10,046
pourraient utiliser
ces armes tueuses autonomes.

25
00:02:12,173 --> 00:02:17,303
Allons-nous laisser la décision de tuer
aux algorithmes, aux logiciels ?

26
00:02:18,638 --> 00:02:21,516
C'est une des grandes questions
de notre époque.

27
00:02:23,935 --> 00:02:26,354
Les utiliser sans discernement

28
00:02:26,437 --> 00:02:30,275
ferait peser une grave menace
sur chaque habitant de la planète.

29
00:02:41,828 --> 00:02:44,914
DANS L'INCONNU

30
00:02:46,833 --> 00:02:50,086
LES ROBOTS TUEURS

31
00:03:28,291 --> 00:03:30,168
Bon travail, les gars.

32
00:03:59,948 --> 00:04:02,200
La lentille est plus grande qu'avant.

33
00:04:02,283 --> 00:04:03,117
Ah oui ?

34
00:04:03,201 --> 00:04:04,786
Beaucoup plus de données.

35
00:04:05,286 --> 00:04:06,287
Très cool.

36
00:04:07,538 --> 00:04:11,167
Chez Shield AI,
nous développons un pilote artificiel

37
00:04:11,251 --> 00:04:14,879
qui utilise la technologie
de la conduite autonome

38
00:04:14,963 --> 00:04:16,631
mais dans le ciel.

39
00:04:19,300 --> 00:04:21,719
Le pilote artificiel

40
00:04:21,803 --> 00:04:25,139
apporte à l'appareil
un niveau supérieur d'autonomie.

41
00:04:25,223 --> 00:04:27,850
Il résoudra des problèmes tout seul.

42
00:04:29,602 --> 00:04:32,355
Le Nova est un quadricoptère autonome

43
00:04:32,438 --> 00:04:35,942
capable d'explorer
bâtiments et structures souterraines

44
00:04:36,859 --> 00:04:38,611
avant les équipes de déminage

45
00:04:38,695 --> 00:04:41,322
pour avoir l'image et le son
dans ces lieux.

46
00:04:41,906 --> 00:04:45,618
Il s'est énormément amélioré
depuis la dernière fois.

47
00:04:45,702 --> 00:04:50,248
Une exploration différente aujourd'hui.
On travaille étage par étage.

48
00:04:50,331 --> 00:04:53,584
Il finit un étage entier
avant d'aller au deuxième.

49
00:04:54,294 --> 00:04:56,796
- Génial.
- On a changé des choses…

50
00:04:56,879 --> 00:04:58,548
On me demande souvent

51
00:04:58,631 --> 00:05:02,468
en quoi l'intelligence artificielle
est importante.

52
00:05:02,552 --> 00:05:06,973
Je repense alors
aux missions que j'exécutais.

53
00:05:09,142 --> 00:05:10,977
J'ai été sept ans dans la Navy.

54
00:05:11,561 --> 00:05:15,356
Avec les forces spéciales,
j'ai fait deux missions en Afghanistan

55
00:05:15,440 --> 00:05:17,191
et une dans le Pacifique.

56
00:05:18,026 --> 00:05:22,947
En une seule journée, on devait parfois
sécuriser 150 sites ou bâtiments.

57
00:05:30,997 --> 00:05:34,250
L'une des compétences majeures
est le combat rapproché.

58
00:05:35,293 --> 00:05:39,172
Imaginez une fusillade à bout portant
à l'intérieur d'un bâtiment.

59
00:05:41,466 --> 00:05:42,967
On vous tire dessus.

60
00:05:43,468 --> 00:05:46,471
Il peut y avoir des engins piégés
dans le bâtiment.

61
00:05:49,015 --> 00:05:55,229
C'est la chose la plus dangereuse
qu'un membre des forces spéciales

62
00:05:55,313 --> 00:05:58,358
ou de l'infanterie puisse faire au combat.

63
00:05:58,441 --> 00:05:59,275
Pas de débat.

64
00:06:12,497 --> 00:06:16,334
Je serai toujours heureux
d'avoir servi dans l'US Navy.

65
00:06:17,168 --> 00:06:22,423
J'ai de nombreux souvenirs
qui, quand j'y repense,

66
00:06:22,507 --> 00:06:24,592
m'émeuvent beaucoup.

67
00:06:28,346 --> 00:06:30,139
C'est un cliché de dire

68
00:06:30,223 --> 00:06:32,725
que la liberté a un prix, mais c'est vrai.

69
00:06:33,559 --> 00:06:37,105
J'en ai fait l'expérience.
Ça demande beaucoup de sacrifices.

70
00:06:38,022 --> 00:06:38,856
Désolé.

71
00:06:41,067 --> 00:06:44,570
Quand ça tourne mal
pour un de vos camarades,

72
00:06:44,654 --> 00:06:46,614
qu'il est blessé ou tué,

73
00:06:47,490 --> 00:06:49,700
c'est vraiment tragique.

74
00:06:49,784 --> 00:06:52,912
En ce qui me concerne,
dans notre travail,

75
00:06:52,995 --> 00:06:58,835
ce qui me motive,
c'est de réduire le nombre de fois

76
00:06:58,918 --> 00:07:00,336
que ça arrive.

77
00:07:07,176 --> 00:07:08,886
À la fin des années 2000,

78
00:07:08,970 --> 00:07:11,556
le département de la Défense
a ouvert les yeux

79
00:07:11,639 --> 00:07:15,393
sur ce que j'appellerais
la révolution robotique accidentelle.

80
00:07:15,893 --> 00:07:19,564
Nous avons envoyé des tas de robots
en Irak et en Afghanistan.

81
00:07:21,482 --> 00:07:24,068
Quand l'administration Obama m'a nommé

82
00:07:24,152 --> 00:07:26,404
secrétaire adjoint à la Défense,

83
00:07:26,904 --> 00:07:31,117
la façon de faire la guerre
était clairement en train de changer.

84
00:07:32,452 --> 00:07:36,330
Des robots étaient utilisés
à la place habituelle des hommes.

85
00:07:37,832 --> 00:07:40,376
Les premiers systèmes
étaient télécommandés.

86
00:07:40,460 --> 00:07:45,173
Un humain conduit le robot
comme une voiture télécommandée.

87
00:07:46,632 --> 00:07:51,512
Au début, en général ils cherchaient
des engins explosifs improvisés.

88
00:07:52,013 --> 00:07:54,849
Si la bombe explosait,
le robot explosait aussi.

89
00:07:57,393 --> 00:08:00,396
On se disait :
"Mince alors. Sortez l'autre robot."

90
00:08:02,273 --> 00:08:04,484
En Afghanistan, le drone Predator

91
00:08:05,276 --> 00:08:09,739
est devenu très utile
pour effectuer des frappes aériennes.

92
00:08:13,117 --> 00:08:16,829
Peu à peu, les militaires
ont commencé à se demander

93
00:08:16,913 --> 00:08:20,791
à quoi d'autre pourraient servir
les robots, et où cela allait.

94
00:08:20,875 --> 00:08:24,170
L'une des réponses
était d'aller vers plus d'autonomie.

95
00:08:26,506 --> 00:08:30,635
Une arme autonome
prend ses décisions toute seule,

96
00:08:30,718 --> 00:08:33,304
avec pas ou très peu
d'intervention humaine.

97
00:08:33,387 --> 00:08:37,558
Elle est indépendante
et se dirige toute seule.

98
00:08:38,434 --> 00:08:41,604
Si elle est armée, elle peut tuer.

99
00:08:43,314 --> 00:08:47,026
Quand il y a de plus en plus
d'autonomie dans le système entier,

100
00:08:47,109 --> 00:08:49,779
tout va beaucoup plus vite.

101
00:08:51,989 --> 00:08:56,869
Et quand on va plus vite
que ses adversaires,

102
00:08:57,453 --> 00:09:01,165
on dispose d'un énorme avantage
sur le champ de bataille.

103
00:09:03,960 --> 00:09:06,254
En matière d'autonomie,
on se concentre

104
00:09:07,255 --> 00:09:09,966
sur les systèmes
de renseignement résilients.

105
00:09:12,051 --> 00:09:15,304
Ces systèmes analysent leur environnement

106
00:09:15,805 --> 00:09:19,642
et décident de leurs évolutions
au sein de ce monde.

107
00:09:21,602 --> 00:09:23,604
CALIFORNIE

108
00:09:24,981 --> 00:09:29,151
L'endroit où nous sommes
était à l'origine un studio de cinéma

109
00:09:29,235 --> 00:09:30,611
qui a été converti

110
00:09:30,695 --> 00:09:34,156
en environnement réaliste
d'entraînement militaire.

111
00:09:39,495 --> 00:09:43,291
On est là pour évaluer
notre pilote artificiel.

112
00:09:44,625 --> 00:09:49,297
Sa mission est de chercher des menaces.
C'est une mission de déminage.

113
00:09:49,380 --> 00:09:52,800
Il peut décider
comment aborder ce problème.

114
00:09:55,428 --> 00:09:59,390
On appelle ça "l'entonnoir mortel".
Quand il faut passer une porte.

115
00:10:01,726 --> 00:10:03,311
Vulnérabilité maximale.

116
00:10:03,811 --> 00:10:05,146
Celui-là est mieux.

117
00:10:07,023 --> 00:10:10,151
Le Nova nous dit
s'il y a un tireur derrière la porte,

118
00:10:10,818 --> 00:10:12,653
s'il y a une famille.

119
00:10:15,114 --> 00:10:18,451
On pourra mieux décider,
et mieux protéger les gens.

120
00:10:57,114 --> 00:10:59,367
On utilise les capteurs de vision

121
00:10:59,450 --> 00:11:03,162
pour comprendre
à quoi ressemble l'environnement.

122
00:11:04,997 --> 00:11:06,415
Il y a plusieurs étages.

123
00:11:07,333 --> 00:11:08,334
Voici le plan.

124
00:11:08,417 --> 00:11:11,671
Pendant que j'explorais,
j'ai vu ça et je l'ai vu là.

125
00:11:19,929 --> 00:11:22,098
Détecteur de personne. J'aime.

126
00:11:23,891 --> 00:11:27,061
Le Nova dispose aussi
d'un scanner thermique.

127
00:11:27,561 --> 00:11:30,690
Si c'est à 37 degrés,
c'est sans doute un humain.

128
00:11:32,358 --> 00:11:35,611
Il sera considéré comme une menace
jusqu'à nouvel ordre.

129
00:11:38,906 --> 00:11:43,244
Éliminer le brouillard de la guerre
pour prendre de meilleures décisions.

130
00:11:44,704 --> 00:11:46,539
Et dans l'avenir,

131
00:11:47,039 --> 00:11:50,793
monter des équipes d'appareils autonomes.

132
00:11:53,754 --> 00:11:55,631
Avec un véhicule autonome,

133
00:11:55,715 --> 00:11:57,466
en fin de compte, on lui dit

134
00:11:57,550 --> 00:12:00,386
"j'aimerais que tu ailles
du point A au point B".

135
00:12:02,972 --> 00:12:06,475
On ne demande pas à nos systèmes
d'aller de A à B,

136
00:12:06,559 --> 00:12:08,477
mais d'atteindre un objectif.

137
00:12:10,312 --> 00:12:13,190
C'est plutôt : "J'ai besoin de lait."

138
00:12:13,274 --> 00:12:17,486
Le robot doit alors
trouver le bon magasin,

139
00:12:17,570 --> 00:12:20,239
récupérer le lait et le rapporter.

140
00:12:20,740 --> 00:12:22,074
Et d'ailleurs,

141
00:12:22,158 --> 00:12:27,037
cette analogie est meilleure :
"Garde le frigo rempli."

142
00:12:27,538 --> 00:12:32,168
Il faut donc l'intelligence
pour comprendre un besoin et le combler.

143
00:12:32,251 --> 00:12:34,253
Et si un obstacle apparaît

144
00:12:34,336 --> 00:12:37,381
ou si un problème se pose,
il faut savoir le régler.

145
00:12:40,801 --> 00:12:44,388
Une fois prise la décision
de quitter l'US Navy,

146
00:12:44,472 --> 00:12:47,558
je me suis dit :
"Bon. Et maintenant ?"

147
00:12:49,143 --> 00:12:52,021
J'ai grandi avec Internet,
l'ai vu évoluer.

148
00:12:53,189 --> 00:12:55,608
Ce que j'en avais conclu était notamment

149
00:12:56,108 --> 00:12:58,861
que l'intelligence artificielle, en 2015,

150
00:12:58,944 --> 00:13:02,907
en était au même stade
qu'Internet en 1991.

151
00:13:04,033 --> 00:13:06,285
L'IA était sur le point de décoller

152
00:13:06,368 --> 00:13:09,747
pour devenir l'une des technologies
les plus puissantes.

153
00:13:11,791 --> 00:13:16,212
Je l'utilise tous les jours,
je constate ses progrès.

154
00:13:19,048 --> 00:13:22,051
Mais beaucoup de gens,
quand ils pensent à l'IA,

155
00:13:22,551 --> 00:13:25,221
pensent immédiatement à Hollywood.

156
00:13:28,057 --> 00:13:29,975
On joue à un jeu ?

157
00:13:30,059 --> 00:13:35,314
À la guerre thermonucléaire mondiale ?

158
00:13:35,898 --> 00:13:36,816
Très bien.

159
00:13:38,275 --> 00:13:40,903
Quand on pense
à l'intelligence artificielle,

160
00:13:40,986 --> 00:13:44,824
on pense généralement
à Terminator, ou I, Robot.

161
00:13:45,574 --> 00:13:46,700
Désactivation.

162
00:13:46,784 --> 00:13:48,160
Que suis-je ?

163
00:13:48,244 --> 00:13:49,620
Ou Matrix.

164
00:13:51,080 --> 00:13:53,749
Si vous vous fiez aux films de SF,

165
00:13:53,833 --> 00:13:57,878
comment savez-vous que je suis humain ?
Je peux être une IA.

166
00:13:58,337 --> 00:14:02,007
Un réplicant est une machine :
un avantage ou un danger.

167
00:14:02,675 --> 00:14:06,095
Mais il existe des tas d'IA
plus primitives

168
00:14:06,178 --> 00:14:08,097
qui vont changer notre vie

169
00:14:08,180 --> 00:14:11,851
bien avant que n'arrivent
les robots pensants et parlants.

170
00:14:12,643 --> 00:14:15,771
Les robots sont là.
Les robots prennent des décisions.

171
00:14:15,855 --> 00:14:18,816
La révolution robotique est là,

172
00:14:18,899 --> 00:14:22,319
c'est juste qu'elle ne ressemble pas
à ce qu'on imaginait.

173
00:14:23,320 --> 00:14:26,740
Le Terminator est une unité d'infiltration
mi-homme, mi-machine.

174
00:14:27,950 --> 00:14:31,370
On ne parle pas
d'un robot tueur à la Terminator,

175
00:14:31,871 --> 00:14:36,000
mais d'une IA capable d'effectuer
certaines tâches humaines.

176
00:14:36,083 --> 00:14:39,879
Mais la question est de savoir
si ces systèmes sont fiables.

177
00:14:40,462 --> 00:14:45,426
De nouveaux détails sur l'accident mortel
impliquant un véhicule autonome Uber.

178
00:14:45,509 --> 00:14:48,762
Le robot conversationnel intelligent
de l'entreprise

179
00:14:48,846 --> 00:14:51,181
a adopté un ton plutôt raciste…

180
00:14:51,265 --> 00:14:55,394
Vingt-six parlementaires
faussement identifiés comme criminels.

181
00:14:57,438 --> 00:15:02,026
La question est de savoir si les IA
peuvent gérer la complexité du monde réel.

182
00:15:22,212 --> 00:15:24,131
Le monde physique est compliqué.

183
00:15:25,132 --> 00:15:27,468
Il y a beaucoup de choses qu'on ignore,

184
00:15:27,968 --> 00:15:31,013
ce qui complique
l'entraînement des systèmes à IA.

185
00:15:33,098 --> 00:15:36,977
Les systèmes d'apprentissage automatique
sont alors apparus.

186
00:15:38,520 --> 00:15:41,899
L'apprentissage automatique
a été une énorme avancée,

187
00:15:41,982 --> 00:15:45,611
car ça signifie qu'on n'a pas
à tout apprendre à l'ordinateur.

188
00:15:47,905 --> 00:15:52,409
On donne des millions d'informations
à un ordinateur,

189
00:15:52,493 --> 00:15:54,578
et la machine commence à apprendre.

190
00:15:55,245 --> 00:15:57,289
Ça peut s'appliquer partout.

191
00:16:00,250 --> 00:16:02,962
Avec notre projet Robot Dog,
on veut montrer

192
00:16:03,045 --> 00:16:09,009
que notre chien peut marcher
sur de nombreux types de terrain.

193
00:16:10,052 --> 00:16:14,098
L'être humain a évolué
des milliards d'années pour marcher,

194
00:16:14,932 --> 00:16:20,688
mais beaucoup d'intelligence entre en jeu
pour s'adapter à ces différents terrains.

195
00:16:21,939 --> 00:16:24,358
Une question demeure, pour les robots.

196
00:16:24,441 --> 00:16:27,069
Sauront-ils s'adapter,
comme les animaux et nous ?

197
00:16:35,786 --> 00:16:37,413
L'apprentissage automatique

198
00:16:37,496 --> 00:16:40,582
nous rapporte
beaucoup de données en simulation.

199
00:16:42,668 --> 00:16:45,838
Une simulation
est un jumeau numérique de la réalité.

200
00:16:46,588 --> 00:16:52,052
Plusieurs de ces réalités tournent ainsi
sur différents ordinateurs.

201
00:16:53,178 --> 00:16:56,974
Des milliers d'actions
sont échantillonnées en simulation.

202
00:16:58,892 --> 00:17:02,229
Le terrain rencontré
est plus ou moins glissant,

203
00:17:02,312 --> 00:17:03,856
plus ou moins mou.

204
00:17:04,898 --> 00:17:08,318
On prend tout ce qu'ont vécu
ces milliers de robots

205
00:17:08,402 --> 00:17:13,282
lors des simulations et on envoie ça
dans un vrai système robotique.

206
00:17:15,492 --> 00:17:20,039
On va voir aujourd'hui s'il peut s'adapter
à de nouveaux terrains.

207
00:17:53,322 --> 00:17:55,532
Quand le robot passait sur la mousse,

208
00:17:55,616 --> 00:17:58,577
les mouvements de ses pieds
écrasaient le sol.

209
00:17:59,369 --> 00:18:02,206
Alors que sur le polyester,

210
00:18:03,248 --> 00:18:06,460
il essayait d'ajuster sa marche
pour ne pas glisser.

211
00:18:08,670 --> 00:18:10,672
C'est là que ça devient frappant.

212
00:18:10,756 --> 00:18:14,051
Voilà ce qu'apporte vraiment
l'apprentissage automatique.

213
00:18:41,161 --> 00:18:44,123
Le Robot Dog pourrait être très utile

214
00:18:44,206 --> 00:18:46,208
dans les situations de catastrophe

215
00:18:46,291 --> 00:18:49,670
où il faut évoluer
sur de nombreux types de terrain.

216
00:18:52,631 --> 00:18:57,427
Le chien pourrait faire de la surveillance
dans des environnements sensibles.

217
00:19:15,696 --> 00:19:19,575
Mais la plupart des technologies
se heurtent à la question

218
00:19:19,658 --> 00:19:22,369
du bien et du mal qu'elles peuvent faire.

219
00:19:24,079 --> 00:19:27,875
Par exemple,
le nucléaire est utile pour l'énergie

220
00:19:30,419 --> 00:19:33,797
mais les bombes atomiques
sont très mauvaises.

221
00:19:35,090 --> 00:19:38,468
On appelle ça
la problématique du double usage.

222
00:19:39,052 --> 00:19:40,929
Le feu est à double usage.

223
00:19:41,722 --> 00:19:44,308
L'intelligence humaine est à double usage.

224
00:19:44,391 --> 00:19:48,645
L'intelligence artificielle aussi
est à double usage.

225
00:19:49,354 --> 00:19:53,984
Le contexte de l'utilisation
de l'IA est très important.

226
00:19:54,693 --> 00:19:59,114
Oui, c'est génial d'avoir un robot
de recherche et de sauvetage

227
00:19:59,198 --> 00:20:02,284
capable de localiser quelqu'un
après une avalanche,

228
00:20:02,868 --> 00:20:05,871
mais ce même robot
peut être transformé en arme.

229
00:20:15,088 --> 00:20:21,094
Quand on voit des entreprises
installer des armes sur des robots,

230
00:20:21,178 --> 00:20:22,930
on enrage un peu.

231
00:20:23,931 --> 00:20:28,435
Car on comprend qu'avec notre technologie,

232
00:20:28,518 --> 00:20:30,103
c'est ce qui va se passer.

233
00:20:31,021 --> 00:20:34,441
C'est une technologie
réellement transformatrice.

234
00:20:36,235 --> 00:20:38,028
Ces systèmes d'armement

235
00:20:38,111 --> 00:20:43,617
pourraient avoir un effet spectaculaire
sur notre sécurité.

236
00:20:46,161 --> 00:20:51,500
Nous ne sommes toujours pas sûrs
que les machines sachent faire

237
00:20:51,583 --> 00:20:54,962
la distinction
entre civils et combattants.

238
00:21:01,885 --> 00:21:05,597
Au début, en Afghanistan,
mon équipe de tireurs d'élite

239
00:21:05,681 --> 00:21:08,016
recherchait les ennemis à la frontière.

240
00:21:09,685 --> 00:21:12,604
Ils ont envoyé une petite fille
pour nous repérer.

241
00:21:13,939 --> 00:21:17,067
Personne n'a jamais émis
l'idée de la tuer.

242
00:21:19,695 --> 00:21:22,864
Selon les lois de la guerre,
ç'aurait été légal.

243
00:21:24,950 --> 00:21:27,369
Ces lois ne fixent pas d'âge minimum.

244
00:21:29,079 --> 00:21:33,417
Un robot conçu pour respecter à la lettre
la loi de la guerre

245
00:21:33,500 --> 00:21:35,294
aurait tué cette petite fille.

246
00:21:36,420 --> 00:21:41,091
Comment un robot peut-il distinguer
ce qui est légal et ce qui est moral ?

247
00:21:43,385 --> 00:21:46,054
Les drones guerriers autonomes

248
00:21:46,138 --> 00:21:49,933
sont censés éviter de la souffrance
aux soldats américains

249
00:21:50,017 --> 00:21:51,601
et à la psyché américaine,

250
00:21:52,602 --> 00:21:57,149
mais la souffrance endurée par les civils
retombe sur les Afghans,

251
00:21:57,232 --> 00:21:58,775
Irakiens et Somaliens.

252
00:22:09,619 --> 00:22:14,416
Ma question à ceux qui soutiennent
l'utilisation de l'IA dans les drones

253
00:22:15,375 --> 00:22:18,211
est celle-ci :
"Et si c'était votre village ?"

254
00:22:23,550 --> 00:22:25,761
L'IA est une arme à double tranchant.

255
00:22:26,595 --> 00:22:30,724
On peut l'utiliser bénéfiquement,
ce qui est généralement le cas,

256
00:22:31,558 --> 00:22:33,477
et en appuyant sur un bouton,

257
00:22:34,561 --> 00:22:38,023
cette technologie devient
potentiellement mortelle.

258
00:22:47,032 --> 00:22:48,533
Je suis pharmacologiste.

259
00:22:49,618 --> 00:22:50,994
Je dirige une équipe

260
00:22:51,078 --> 00:22:54,247
qui utilise l'intelligence artificielle
afin de trouver des médicaments

261
00:22:54,331 --> 00:22:57,834
capables de soigner des maladies
qui n'intéressent personne.

262
00:22:59,711 --> 00:23:03,965
Avant, on prenait une molécule existante

263
00:23:04,049 --> 00:23:06,885
qu'on modifiait pour avoir
un nouveau médicament.

264
00:23:08,261 --> 00:23:10,722
Aujourd'hui, nous avons créé une IA

265
00:23:10,806 --> 00:23:13,350
qui peut nous donner des millions d'idées,

266
00:23:13,892 --> 00:23:15,435
des millions de molécules,

267
00:23:16,186 --> 00:23:19,231
et cela nous ouvre
énormément de possibilités

268
00:23:19,314 --> 00:23:23,151
pour soigner des maladies
qu'on n'a jamais su traiter jusqu'ici.

269
00:23:25,153 --> 00:23:28,448
Mais il y a un côté sombre,
et je n'aurais jamais cru

270
00:23:28,532 --> 00:23:29,741
y être confronté.

271
00:23:33,161 --> 00:23:35,872
Tout a commencé quand j'ai été invité

272
00:23:35,956 --> 00:23:40,043
par le laboratoire Spiez, basé en Suisse,

273
00:23:40,544 --> 00:23:44,423
à faire une présentation
sur les mésusages potentiels de l'IA.

274
00:23:48,343 --> 00:23:51,221
Sean m'a envoyé un e-mail
avec quelques idées

275
00:23:51,304 --> 00:23:55,308
sur certaines façons néfastes
d'utiliser notre IA.

276
00:23:56,059 --> 00:24:00,355
Au lieu de demander à notre modèle
de créer des molécules

277
00:24:00,439 --> 00:24:02,274
capables de soigner,

278
00:24:02,774 --> 00:24:06,403
essayons de générer les molécules
les plus toxiques possibles.

279
00:24:10,198 --> 00:24:11,491
Je voulais vérifier

280
00:24:11,575 --> 00:24:15,620
si on pouvait utiliser l'IA
pour concevoir des molécules mortelles.

281
00:24:17,414 --> 00:24:20,083
On pensait que ça n'allait pas marcher,

282
00:24:20,167 --> 00:24:24,504
car on avait juste changé un 0 en 1.

283
00:24:26,715 --> 00:24:30,385
En inversant ce chiffre,
au lieu de fuir la toxicité,

284
00:24:30,469 --> 00:24:32,220
on recherche la toxicité.

285
00:24:32,721 --> 00:24:33,555
Et c'est tout.

286
00:24:37,517 --> 00:24:40,729
J'étais chez moi,
et l'ordinateur faisait le travail.

287
00:24:41,521 --> 00:24:44,816
Il passait en revue et générait
des milliers de molécules

288
00:24:45,650 --> 00:24:49,529
et on n'avait rien eu d'autre à faire
que cliquer sur "vas-y".

289
00:24:54,493 --> 00:24:58,330
Le lendemain matin,
il y avait un fichier sur mon ordinateur.

290
00:24:59,080 --> 00:25:03,376
Dans ce fichier, il y avait
environ 40 000 molécules

291
00:25:03,460 --> 00:25:05,253
qui étaient potentiellement

292
00:25:05,337 --> 00:25:08,882
parmi les molécules les plus toxiques
connues de l'humanité.

293
00:25:10,217 --> 00:25:12,761
Des frissons m'ont parcouru l'échine.

294
00:25:13,386 --> 00:25:14,554
J'étais stupéfait.

295
00:25:15,388 --> 00:25:19,017
L'ordinateur a fabriqué
des dizaines de milliers d'idées

296
00:25:19,100 --> 00:25:20,810
de nouvelles armes chimiques.

297
00:25:21,645 --> 00:25:27,609
Il y a bien sûr là-dedans des molécules
apparentées au VR et au VX.

298
00:25:28,360 --> 00:25:31,363
Le VX est l'une des armes chimiques
les plus puissantes au monde.

299
00:25:31,863 --> 00:25:33,573
Selon la police,

300
00:25:33,657 --> 00:25:37,786
les femmes ayant assassiné
Kim Jong-nam à l'aéroport

301
00:25:37,869 --> 00:25:41,248
ont utilisé un agent innervant
mortel, le VX.

302
00:25:41,748 --> 00:25:44,417
Il peut causer la mort par asphyxie.

303
00:25:45,043 --> 00:25:47,629
C'est une molécule très puissante,

304
00:25:47,712 --> 00:25:52,092
et la plupart de ces molécules
étaient encore plus mortelles que le VX.

305
00:25:53,301 --> 00:25:56,972
Beaucoup d'entre elles
étaient à priori inconnues.

306
00:25:57,472 --> 00:26:02,310
Quand Sean et moi l'avons réalisé,
on s'est dit : "Qu'est-ce qu'on a fait ?"

307
00:26:04,771 --> 00:26:09,192
J'ai vite compris
qu'on avait ouvert la boîte de Pandore

308
00:26:09,901 --> 00:26:13,280
et j'ai dit : "Arrête.
Ne fais rien d'autre. C'est fini."

309
00:26:13,905 --> 00:26:17,158
"Prépare-moi les diapos
pour la présentation."

310
00:26:19,202 --> 00:26:23,873
En faisant tout ça, je me demandais :
"Qu'est-ce qui peut arriver de pire ?"

311
00:26:26,251 --> 00:26:30,255
Maintenant, je me dis qu'on a été
totalement naïfs de faire ça.

312
00:26:33,466 --> 00:26:36,928
Le plus terrifiant,
c'est que n'importe qui peut le faire.

313
00:26:38,930 --> 00:26:40,765
Il suffit d'appuyer sur un bouton.

314
00:26:42,934 --> 00:26:46,187
Comment contrôler cette technologie
avant qu'elle ne soit utilisée

315
00:26:46,271 --> 00:26:50,942
pour faire quelque chose
de totalement destructeur ?

316
00:26:55,780 --> 00:27:00,285
Au cœur du débat
autour de l'intelligence artificielle

317
00:27:00,368 --> 00:27:03,538
et de son utilisation dans la société,

318
00:27:04,289 --> 00:27:08,835
il y a une course entre la force
avec laquelle nous la développons

319
00:27:08,918 --> 00:27:11,379
et la sagesse que nous avons
pour la gouverner.

320
00:27:13,340 --> 00:27:16,926
Il y a d'évidentes implications
morales et éthiques

321
00:27:17,010 --> 00:27:20,138
dans le fait que la chose
qui anime nos smartphones

322
00:27:20,221 --> 00:27:23,433
puisse être chargée
de la décision morale de tuer.

323
00:27:25,727 --> 00:27:31,191
Je travaille au Future of Life Institute,
une communauté de scientifiques militants.

324
00:27:31,733 --> 00:27:33,443
On essaie surtout de montrer

325
00:27:33,526 --> 00:27:38,698
qu'il y a un autre aspect du développement
à grande échelle de l'automatisation.

326
00:27:38,782 --> 00:27:42,619
Nous essayons de veiller
à ce que les technologies que nous créons

327
00:27:42,702 --> 00:27:45,038
soient utilisées
de manière sûre et éthique.

328
00:27:46,247 --> 00:27:49,959
Il faut avoir une discussion
sur les règles au combat

329
00:27:50,043 --> 00:27:52,420
et sur un code de conduite
par rapport à l'IA

330
00:27:52,504 --> 00:27:54,005
dans nos systèmes d'armement.

331
00:27:54,798 --> 00:27:59,135
Car des technologies arrivent
sur le champ de bataille

332
00:27:59,219 --> 00:28:01,680
qui peuvent tuer de façon autonome.

333
00:28:10,230 --> 00:28:15,110
En 2021, l'ONU a publié un rapport
sur l'utilisation potentielle

334
00:28:15,193 --> 00:28:19,364
d'une arme autonome létale
sur le champ de bataille en Libye.

335
00:28:20,073 --> 00:28:23,910
Selon les Nations unies, un drone utilisé
pendant la guerre civile libyenne

336
00:28:23,993 --> 00:28:27,330
avait été programmé pour attaquer
des cibles de façon autonome.

337
00:28:28,289 --> 00:28:31,209
Si l'ONU a raison,

338
00:28:31,292 --> 00:28:34,963
c'est un moment charnière pour l'humanité.

339
00:28:35,046 --> 00:28:37,090
Car c'est un cas précis

340
00:28:37,173 --> 00:28:40,427
où une intelligence artificielle
a pris la décision de tuer,

341
00:28:40,510 --> 00:28:42,137
et non un être humain.

342
00:28:49,686 --> 00:28:51,688
Des armes autonomes avancées

343
00:28:51,771 --> 00:28:55,150
commencent à être utilisées
dans le monde entier.

344
00:28:56,276 --> 00:28:58,278
Des rapports sont venus d'Israël.

345
00:29:00,280 --> 00:29:02,866
L'Azerbaïdjan a utilisé
des systèmes autonomes

346
00:29:02,949 --> 00:29:05,702
pour attaquer
la défense aérienne arménienne.

347
00:29:07,370 --> 00:29:09,998
Il peut survoler le champ de bataille
pendant des heures,

348
00:29:10,081 --> 00:29:12,500
à la recherche de cibles à frapper seul,

349
00:29:12,584 --> 00:29:16,087
puis les attaquer
sans aucune intervention humaine.

350
00:29:16,796 --> 00:29:18,298
Récemment, nous avons vu

351
00:29:18,381 --> 00:29:21,760
plusieurs vidéos publiées en Ukraine.

352
00:29:23,303 --> 00:29:26,890
On ignore dans quel mode
ils fonctionnaient.

353
00:29:26,973 --> 00:29:30,393
Un humain était-il présent
pour choisir les cibles,

354
00:29:30,477 --> 00:29:32,729
ou la machine
le faisait-elle toute seule ?

355
00:29:32,812 --> 00:29:36,524
Mais il est certain
que le moment arrivera,

356
00:29:36,608 --> 00:29:40,195
si ce n'est pas déjà arrivé
en Libye, en Ukraine ou ailleurs,

357
00:29:40,278 --> 00:29:44,449
où une machine décidera
de qui tuer sur le champ de bataille.

358
00:29:47,035 --> 00:29:50,997
Le fait que des machines exercent
un pouvoir mortel contre les humains

359
00:29:51,080 --> 00:29:53,374
sans intervention humaine

360
00:29:53,458 --> 00:29:57,337
est politiquement inacceptable
et moralement répugnant.

361
00:29:59,214 --> 00:30:01,299
La communauté internationale

362
00:30:01,382 --> 00:30:05,011
suffira-t-elle à maîtriser ce défi ?

363
00:30:05,094 --> 00:30:06,888
C'est un gros point d'interrogation.

364
00:30:08,932 --> 00:30:12,685
Si on regarde vers l'avenir,
ne serait-ce que quelques années,

365
00:30:12,769 --> 00:30:15,730
le paysage est effrayant.

366
00:30:16,564 --> 00:30:20,485
En effet, la quantité de capital
et de ressources humaines

367
00:30:20,568 --> 00:30:23,404
engagée dans le développement
de l'intelligence artificielle

368
00:30:23,488 --> 00:30:26,032
et visant à l'utiliser
dans des tas d'applications

369
00:30:26,115 --> 00:30:26,950
est immense.

370
00:30:27,659 --> 00:30:32,163
VIRGINIE

371
00:30:39,254 --> 00:30:41,214
Regardez-moi ce mec.

372
00:30:41,756 --> 00:30:43,424
Il sait qu'il va perdre.

373
00:30:46,761 --> 00:30:51,099
Quand je vois l'IA résoudre des problèmes,
je trouve ça inspirant.

374
00:30:51,683 --> 00:30:53,977
L'action de la dernière chance.

375
00:30:54,477 --> 00:30:59,524
On peut appliquer
les mêmes stratégies aux appareils réels.

376
00:31:01,401 --> 00:31:02,318
Bien joué.

377
00:31:02,402 --> 00:31:03,653
Bravo, bien joué.

378
00:31:08,658 --> 00:31:09,909
Ça me surprend

379
00:31:09,993 --> 00:31:14,122
que les gens continuent à affirmer
que l'IA ne sait pas faire ci ou ça.

380
00:31:14,205 --> 00:31:17,166
"Elle ne pourra jamais battre
un champion du monde d'échecs."

381
00:31:20,211 --> 00:31:22,672
Un ordinateur IBM a réussi à revenir

382
00:31:22,755 --> 00:31:25,925
contre le champion du monde
Garry Kasparov.

383
00:31:28,136 --> 00:31:30,847
Kasparov abandonne !

384
00:31:31,598 --> 00:31:34,642
Quand je vois quelque chose
qui dépasse mon entendement,

385
00:31:34,726 --> 00:31:38,062
j'ai peur.
Et ceci dépassait mon entendement.

386
00:31:39,355 --> 00:31:41,107
Puis les gens ont dit

387
00:31:41,190 --> 00:31:44,402
que l'IA ne pourrait jamais battre
un champion du monde de go.

388
00:31:44,485 --> 00:31:50,700
Je crois que l'intuition humaine
est encore trop avancée pour que l'IA

389
00:31:50,783 --> 00:31:52,827
ait pu combler son retard.

390
00:31:55,330 --> 00:31:58,416
Le go est l'un des jeux
les plus compliqués à apprendre,

391
00:31:58,499 --> 00:32:02,211
car le nombre de coups possibles

392
00:32:02,295 --> 00:32:05,256
dépasse le nombre d'atomes
de l'univers tout entier.

393
00:32:06,799 --> 00:32:08,968
DeepMind, une équipe de Google,

394
00:32:09,052 --> 00:32:11,471
a créé un programme appelé AlphaGo

395
00:32:11,554 --> 00:32:14,265
pour battre
les meilleurs joueurs du monde.

396
00:32:16,559 --> 00:32:18,394
Félicitations…

397
00:32:18,478 --> 00:32:19,437
- AlphaGo.
- AlphaGo.

398
00:32:19,520 --> 00:32:22,774
Un programme informatique
vient de battre un pro classé 9e dan.

399
00:32:25,610 --> 00:32:31,532
Puis DeepMind a choisi StarCraft
comme son prochain défi d'IA.

400
00:32:33,743 --> 00:32:38,081
C'est sans doute le jeu de stratégie
en temps réel le plus célèbre.

401
00:32:40,333 --> 00:32:44,712
AlphaStar est devenue célèbre
quand elle a battu des champions du monde.

402
00:32:45,338 --> 00:32:48,800
AlphaStar cartonne l'Arc immortel.

403
00:32:48,883 --> 00:32:49,717
Tu sais quoi ?

404
00:32:49,801 --> 00:32:52,553
Les pros ne peuvent pas gagner.

405
00:32:53,680 --> 00:32:54,806
C'est ahurissant.

406
00:32:57,642 --> 00:33:00,895
Les joueurs pros disaient :
"Jamais je n'essaierais cette tactique,

407
00:33:00,979 --> 00:33:04,816
"ni cette stratégie.
C'est quelque chose qui n'est pas humain."

408
00:33:07,151 --> 00:33:10,655
C'est sans doute là que j'ai compris.

409
00:33:13,574 --> 00:33:16,661
J'ai réalisé que le moment était venu.

410
00:33:17,412 --> 00:33:21,082
Il existe une technologie importante
et une possibilité de changer les choses.

411
00:33:24,502 --> 00:33:29,382
Je ne connaissais que les problèmes
que j'avais connus en combat rapproché,

412
00:33:30,383 --> 00:33:34,470
et l'un de mes amis,
pilote de F-18, m'a dit

413
00:33:34,554 --> 00:33:37,724
qu'ils avaient les mêmes problèmes
chez les pilotes de chasse.

414
00:33:37,807 --> 00:33:39,434
Communications brouillées,

415
00:33:39,517 --> 00:33:42,562
prolifération des missiles sol-air,

416
00:33:42,645 --> 00:33:44,439
missions devenues trop dangereuses.

417
00:33:47,483 --> 00:33:50,987
Imaginez un avion de chasse
commandé par une IA.

418
00:33:51,070 --> 00:33:52,739
Bienvenue pour AlphaDogfight.

419
00:33:52,822 --> 00:33:56,159
Nous sommes à quelques minutes
de la première demi-finale.

420
00:33:56,242 --> 00:33:59,871
La DARPA, l'agence des projets
de recherche avancée de défense,

421
00:33:59,954 --> 00:34:03,624
avait vu AlphaGo et AlphaStar,

422
00:34:04,292 --> 00:34:08,171
et l'idée est alors née
de la compétition AlphaDogfight.

423
00:34:09,005 --> 00:34:11,466
C'est vraiment ce que ferait
un pilote humain.

424
00:34:11,549 --> 00:34:13,593
Ça ressemble bien
à un combat aérien humain.

425
00:34:15,595 --> 00:34:19,057
Le dogfight, c'est le combat aérien
entre avions de chasse.

426
00:34:19,849 --> 00:34:22,852
On peut voir ça
comme un match de boxe dans le ciel.

427
00:34:23,853 --> 00:34:26,314
Les gens ont peut-être vu Top Gun.

428
00:34:26,397 --> 00:34:27,815
On peut les distancer ?

429
00:34:28,649 --> 00:34:30,068
Pas leurs missiles.

430
00:34:30,151 --> 00:34:31,277
Alors on se bat.

431
00:34:35,531 --> 00:34:39,410
Maîtriser le combat aérien
peut demander de huit à dix ans.

432
00:34:42,288 --> 00:34:46,209
C'est un défi extrêmement complexe
pour le développement d'une IA.

433
00:34:49,629 --> 00:34:52,381
VIRGINIE

434
00:34:54,092 --> 00:34:58,679
Les premiers essais d'autonomie
en combat aérien étaient faibles.

435
00:34:59,222 --> 00:35:03,017
On s'est dit que l'apprentissage
automatique pouvait résoudre ce problème.

436
00:35:04,477 --> 00:35:08,189
Au début, l'IA ne savait rien du monde
dans lequel on la parachutait.

437
00:35:08,272 --> 00:35:11,025
Elle ignorait qu'elle volait
et ce qu'était le combat aérien.

438
00:35:11,109 --> 00:35:12,735
Elle ignorait ce qu'était un F-16.

439
00:35:13,236 --> 00:35:15,905
Elle ne connaissait
que les actions disponibles,

440
00:35:15,988 --> 00:35:18,407
et elle s'est mise
à les explorer au hasard.

441
00:35:19,325 --> 00:35:23,204
L'avion bleu ne s'entraîne que depuis peu.

442
00:35:23,287 --> 00:35:25,832
On voit qu'il vacille d'avant en arrière,

443
00:35:26,624 --> 00:35:30,545
qu'il vole de façon très erratique,
s'éloignant de son adversaire.

444
00:35:31,587 --> 00:35:32,755
Petit à petit,

445
00:35:32,839 --> 00:35:36,134
le bleu commence à établir sa stratégie.

446
00:35:36,676 --> 00:35:38,636
Il est mieux placé pour tirer.

447
00:35:39,178 --> 00:35:41,305
De temps en temps, l'algorithme dit :

448
00:35:41,389 --> 00:35:43,891
"Voilà un bonbon.
Continue ce que tu viens de faire."

449
00:35:45,143 --> 00:35:48,104
La puissance des ordinateurs
nous permet de former les agents

450
00:35:48,187 --> 00:35:50,064
de nombreuses fois en parallèle.

451
00:35:51,357 --> 00:35:52,775
Imaginez une équipe de basket

452
00:35:53,276 --> 00:35:55,778
qui, au lieu d'affronter
toujours la même équipe,

453
00:35:55,862 --> 00:35:59,198
parcourt le monde
pour jouer contre 512 équipes,

454
00:35:59,699 --> 00:36:00,950
mais en même temps.

455
00:36:01,492 --> 00:36:03,452
Elle progressera très vite.

456
00:36:04,162 --> 00:36:07,456
On a fait tourner
cette simulation sans s'arrêter

457
00:36:07,540 --> 00:36:11,919
et on a obtenu 30 ans
de formation de pilote en dix mois.

458
00:36:12,879 --> 00:36:15,673
Au début, l'avion était incontrôlable.

459
00:36:15,756 --> 00:36:17,717
À la fin, c'était un tueur redoutable.

460
00:36:19,010 --> 00:36:23,514
À l'entraînement, on était en compétition
avec d'autres intelligences artificielles.

461
00:36:24,473 --> 00:36:28,561
Mais affronter directement les humains
était l'objectif ultime.

462
00:36:34,192 --> 00:36:35,610
Je m'appelle Mike Benitez.

463
00:36:36,110 --> 00:36:38,321
Lieutenant-colonel dans l'aviation.

464
00:36:39,155 --> 00:36:41,157
En service actif depuis environ 25 ans.

465
00:36:42,825 --> 00:36:44,869
J'ai fait 250 missions de combat

466
00:36:45,578 --> 00:36:47,538
et je suis diplômé d'école d'armement,

467
00:36:48,039 --> 00:36:49,832
la version réelle de Top Gun.

468
00:36:52,627 --> 00:36:55,171
Je n'ai jamais volé contre une IA.

469
00:36:55,254 --> 00:36:58,549
J'ai hâte de voir
ce que je vais pouvoir faire.

470
00:36:59,634 --> 00:37:03,054
C'est une offensive à 6 000 pieds,
nez à nez.

471
00:37:04,388 --> 00:37:05,223
C'est parti.

472
00:37:13,314 --> 00:37:14,148
Il est parti.

473
00:37:14,732 --> 00:37:16,651
Oui, c'est très intéressant.

474
00:37:20,780 --> 00:37:23,658
- Mort.
- Je l'ai eu. Victoire parfaite.

475
00:37:25,910 --> 00:37:27,453
Allez, deuxième manche.

476
00:37:35,461 --> 00:37:40,508
L'intelligence artificielle
manœuvre avec une telle précision

477
00:37:41,384 --> 00:37:43,219
que je n'arrive pas à suivre.

478
00:37:48,474 --> 00:37:49,725
En plein dans l'axe.

479
00:37:50,309 --> 00:37:51,894
Tu es mort.

480
00:37:53,145 --> 00:37:53,980
Je l'ai eu !

481
00:37:54,063 --> 00:37:55,022
Elle m'a eu.

482
00:37:58,567 --> 00:38:00,069
L'IA n'a jamais peur.

483
00:38:00,736 --> 00:38:03,781
L'élément émotionnel humain,
elle ne le connaît pas.

484
00:38:04,991 --> 00:38:08,077
Une des stratégies les plus intéressantes
développées par notre IA

485
00:38:08,160 --> 00:38:10,121
est le tir de face.

486
00:38:10,621 --> 00:38:14,000
D'habitude, l'humain
veut tirer par derrière

487
00:38:14,083 --> 00:38:16,377
car il est ainsi
difficile de lui échapper.

488
00:38:17,044 --> 00:38:20,381
Il ne cherche pas à tirer de face,
c'est un jeu dangereux.

489
00:38:21,424 --> 00:38:25,511
En arrivant de face,
on passe de 900 à 150 mètres

490
00:38:25,594 --> 00:38:27,096
en un clin d'œil.

491
00:38:27,596 --> 00:38:31,183
Il y a un risque élevé de collision.
Les humains évitent.

492
00:38:32,893 --> 00:38:35,938
L'IA, à moins qu'on le lui ordonne,
n'a pas peur de la mort.

493
00:38:37,857 --> 00:38:40,234
J'ai l'impression d'affronter un humain,

494
00:38:40,776 --> 00:38:44,113
mais un humain
qui se fiche complètement de sa sécurité.

495
00:38:45,489 --> 00:38:47,325
Il ne survivra pas à cette dernière.

496
00:38:57,168 --> 00:38:58,294
Il manque de temps.

497
00:39:01,964 --> 00:39:02,965
Au dodo.

498
00:39:04,091 --> 00:39:04,925
Je suis mort.

499
00:39:16,812 --> 00:39:17,980
Une leçon d'humilité.

500
00:39:18,064 --> 00:39:20,900
Je suis peut-être moins fort
pour ça que cette chose,

501
00:39:21,484 --> 00:39:24,320
et cette chose
pourrait un jour me remplacer.

502
00:39:25,696 --> 00:39:27,031
Plafond à 6 000 pieds.

503
00:39:27,615 --> 00:39:28,824
Écart à 1 000 pieds.

504
00:39:29,450 --> 00:39:32,078
Avec cette IA
aux commandes d'un avion de chasse,

505
00:39:32,828 --> 00:39:34,830
la victoire est implacable.

506
00:39:34,914 --> 00:39:37,249
Ce n'est pas seulement une large victoire.

507
00:39:37,333 --> 00:39:41,545
C'est : "On veut ça dans nos avions."
Voilà comme c'est puissant.

508
00:39:43,672 --> 00:39:47,802
Une IA aux commandes d'un F-16,
c'est une chose réaliste,

509
00:39:47,885 --> 00:39:49,970
et nous n'en sommes plus très loin.

510
00:39:51,305 --> 00:39:56,769
Si vous affrontez une IA
qui gagne 99,99999 % du temps,

511
00:39:56,852 --> 00:39:58,646
vous n'avez aucune chance.

512
00:39:59,605 --> 00:40:02,733
Quand je pense qu'une IA est imbattable,

513
00:40:02,817 --> 00:40:06,695
je pense à ce qu'une équipe de 50, 100

514
00:40:07,279 --> 00:40:12,535
ou même 1 000 IA
peut continuer à accomplir.

515
00:40:13,702 --> 00:40:17,415
Le swarming est un essaim
d'avions très intelligents

516
00:40:17,498 --> 00:40:18,791
travaillant ensemble

517
00:40:19,291 --> 00:40:23,462
et partageant leurs informations
pour résoudre des problèmes.

518
00:40:25,172 --> 00:40:30,469
Ces nouvelles capacités
sont susceptibles de tout changer

519
00:40:30,553 --> 00:40:32,638
pour notre armée et nos alliés.

520
00:41:42,750 --> 00:41:47,379
La cible a été identifiée
et les drones la suivent.

521
00:42:02,019 --> 00:42:03,646
C'est le moment d'atterrir.

522
00:42:07,566 --> 00:42:10,402
L'objectif principal
de nos recherches sur les essaims

523
00:42:11,153 --> 00:42:13,697
est de déployer un grand nombre de drones

524
00:42:13,781 --> 00:42:17,910
sur une zone
difficile d'accès ou dangereuse.

525
00:42:21,705 --> 00:42:26,085
Le laboratoire de recherche de l'armée
soutient ce projet.

526
00:42:26,919 --> 00:42:28,963
Si l'on veut savoir
ce qu'il y a quelque part

527
00:42:29,046 --> 00:42:32,883
et qu'il est difficile accéder à la zone
ou qu'elle est très grande,

528
00:42:33,676 --> 00:42:35,928
déployer un essaim est une bonne façon

529
00:42:36,011 --> 00:42:38,389
de dépasser le rayon d'action humain

530
00:42:38,472 --> 00:42:41,934
et de recueillir
des informations cruciales.

531
00:42:46,689 --> 00:42:48,983
En ce moment, notre essaim

532
00:42:49,066 --> 00:42:53,904
ne reçoit qu'un ordre de nous,
celui de suivre sa cible.

533
00:42:54,488 --> 00:42:57,324
Les drones partent
et se débrouillent tout seuls.

534
00:42:59,493 --> 00:43:04,081
L'IA permet aux robots
d'évoluer collectivement en essaim

535
00:43:04,164 --> 00:43:05,708
de façon décentralisée.

536
00:43:10,671 --> 00:43:12,506
Dans les essaims naturels,

537
00:43:13,299 --> 00:43:18,178
il n'y a pas de chef,
aucun animal ne donne les ordres.

538
00:43:20,556 --> 00:43:25,019
Le comportement de l'essaim
émerge du fait que chaque animal

539
00:43:25,102 --> 00:43:27,104
suit quelques règles simples.

540
00:43:27,688 --> 00:43:32,443
C'est de là que naît
le comportement collectif que l'on voit.

541
00:43:33,944 --> 00:43:37,031
Ce qui est impressionnant,
dans les essaims naturels,

542
00:43:37,114 --> 00:43:39,992
c'est la grâce de leurs déplacements.

543
00:43:40,576 --> 00:43:44,288
C'est comme s'ils étaient faits
pour faire partie de ce groupe.

544
00:43:46,790 --> 00:43:51,128
On aimerait voir notre essaim de drones

545
00:43:51,211 --> 00:43:53,172
se comporter comme un essaim naturel

546
00:43:53,672 --> 00:43:56,717
et décider collectivement, en groupe.

547
00:43:59,928 --> 00:44:02,765
Notre autre source d'inspiration

548
00:44:02,848 --> 00:44:06,268
réside dans leur fiabilité
et dans leur résilience.

549
00:44:07,311 --> 00:44:09,188
L'essaim ne tombe pas

550
00:44:09,271 --> 00:44:13,567
si un animal individuel
ne fait pas ce qu'il est censé faire.

551
00:44:15,194 --> 00:44:18,697
Même si l'un des agents tombe, échoue

552
00:44:18,781 --> 00:44:20,866
ou ne peut pas accomplir la tâche,

553
00:44:21,909 --> 00:44:23,369
l'essaim continue.

554
00:44:25,204 --> 00:44:27,873
C'est ce qu'on veut obtenir.

555
00:44:29,333 --> 00:44:33,879
En situation de combat,
on doit identifier les avions ennemis

556
00:44:33,962 --> 00:44:37,841
et auparavant,
il fallait une personne par robot.

557
00:44:38,592 --> 00:44:40,552
L'autonomie augmentant,

558
00:44:40,636 --> 00:44:43,555
j'espère que nous aurons
un grand nombre de robots

559
00:44:43,639 --> 00:44:46,558
contrôlés par un petit nombre de gens.

560
00:44:47,851 --> 00:44:50,854
On pourra très bien
atteindre les 1 000 robots,

561
00:44:51,355 --> 00:44:54,942
car chaque agent agira de son propre gré.

562
00:44:55,025 --> 00:44:56,443
Ça peut aller très loin.

563
00:44:57,027 --> 00:44:59,071
On peut développer l'apprentissage…

564
00:44:59,154 --> 00:45:03,325
On travaille sur les essaims
en simulation depuis longtemps,

565
00:45:03,409 --> 00:45:06,829
il est temps d'avancer
sur de vrais avions.

566
00:45:07,329 --> 00:45:12,042
On a l'intention d'avoir
trois robots à la fois sur le réseau,

567
00:45:12,126 --> 00:45:15,129
puis on ajoutera petit à petit
des capacités.

568
00:45:15,879 --> 00:45:18,549
On veut tester ça sur de petits systèmes

569
00:45:18,632 --> 00:45:22,261
et appliquer les mêmes concepts
à des systèmes plus gros,

570
00:45:22,344 --> 00:45:23,679
comme un avion de chasse.

571
00:45:24,596 --> 00:45:26,014
On se demande souvent

572
00:45:26,098 --> 00:45:31,937
comment donner à un peloton
la puissance d'un bataillon,

573
00:45:34,982 --> 00:45:39,528
ou à un bataillon
la puissance d'une brigade.

574
00:45:39,611 --> 00:45:41,488
Ça devient possible avec un essaim.

575
00:45:42,614 --> 00:45:45,200
En libérant la puissance des essaims,

576
00:45:45,284 --> 00:45:48,036
on crée une nouvelle forme de dissuasion

577
00:45:48,120 --> 00:45:49,455
contre l'agression militaire.

578
00:45:52,332 --> 00:45:57,004
Le plus formidable,
c'est le nombre de jeunes hommes et femmes

579
00:45:57,087 --> 00:46:00,299
qu'on sauvera si on fait bien les choses.

580
00:46:01,091 --> 00:46:03,594
On se sert de machines

581
00:46:04,553 --> 00:46:05,846
plutôt que de vies humaines.

582
00:46:06,638 --> 00:46:10,893
Certains disent que les armes autonomes
rendront la guerre plus précise

583
00:46:10,976 --> 00:46:12,311
et plus humaine,

584
00:46:12,853 --> 00:46:15,397
mais il est difficile de prévoir

585
00:46:15,481 --> 00:46:19,443
de quelle façon exacte les armes
autonomes transformeront la guerre.

586
00:46:21,320 --> 00:46:23,238
Pensez à la mitrailleuse Gatling.

587
00:46:25,073 --> 00:46:26,700
Richard Gatling était un inventeur

588
00:46:27,201 --> 00:46:30,954
qui voyait les soldats blessés
pendant la guerre de Sécession

589
00:46:32,289 --> 00:46:35,292
et cherchait comment humaniser la guerre.

590
00:46:36,293 --> 00:46:39,797
Il voulait réduire le nombre
de soldats tués à la guerre

591
00:46:40,422 --> 00:46:42,633
en réduisant le nombre
de soldats sur le front.

592
00:46:44,092 --> 00:46:48,388
Il inventa donc la mitrailleuse Gatling,
actionnée par une manivelle

593
00:46:48,472 --> 00:46:50,516
et qui automatisait le tir.

594
00:46:53,268 --> 00:46:57,981
Il a multiplié par 100
la puissance de feu des soldats.

595
00:47:01,235 --> 00:47:05,239
Les tentatives de rendre la guerre
plus précise et humaine

596
00:47:06,490 --> 00:47:07,991
ont souvent l'effet inverse.

597
00:47:10,160 --> 00:47:13,455
Pensez à l'effet
d'une frappe de drone perdue

598
00:47:13,539 --> 00:47:14,540
dans une zone rurale

599
00:47:14,623 --> 00:47:17,209
soulevant la population locale
contre les États-Unis,

600
00:47:17,292 --> 00:47:20,712
contre un gouvernement local.
Les soi-disant gentils.

601
00:47:22,589 --> 00:47:25,008
Multipliez ça par 1 000.

602
00:47:26,802 --> 00:47:28,720
La création d'un système d'armement

603
00:47:28,804 --> 00:47:34,560
bon marché, évolutif,
ne nécessitant pas d'opérateurs humains,

604
00:47:34,643 --> 00:47:37,896
déplace radicalement
les obstacles aux conflits.

605
00:47:40,107 --> 00:47:44,486
Je n'en dors plus la nuit.
Un monde de guerre omniprésente,

606
00:47:44,987 --> 00:47:48,657
où nous n'avons plus à supporter
son coût humain et financier

607
00:47:48,740 --> 00:47:51,410
car nous sommes tellement éloignés…

608
00:47:52,369 --> 00:47:54,037
des vies qui seront perdues.

609
00:47:59,501 --> 00:48:01,420
Tout ça me hante.

610
00:48:02,212 --> 00:48:05,924
Je ne cherchais qu'un exemple
de mésusage de l'IA.

611
00:48:06,800 --> 00:48:10,888
Les conséquences imprévues
de cette simple expérience de pensée

612
00:48:10,971 --> 00:48:12,848
vont beaucoup trop loin.

613
00:48:13,348 --> 00:48:16,226
L'IA POUR CRÉER DES MÉDICAMENTS :
FAIRE MOINS DE MAL QUE DE BIEN

614
00:48:17,352 --> 00:48:18,729
Pendant ma présentation

615
00:48:18,812 --> 00:48:22,107
sur les molécules toxiques
créées par l'intelligence artificielle,

616
00:48:22,608 --> 00:48:24,318
le public était bouche bée.

617
00:48:25,402 --> 00:48:27,613
DES ANALOGUES DU VX
DANS LES MEILLEURS COMPOSÉS

618
00:48:29,406 --> 00:48:33,577
On s'est ensuite demandé
si on devait publier cette information.

619
00:48:34,912 --> 00:48:36,914
D'un côté, on veut avertir le monde

620
00:48:36,997 --> 00:48:40,125
de l'existence de ces possibilités,
mais de l'autre côté,

621
00:48:40,208 --> 00:48:44,087
on ne veut pas donner l'idée
à quelqu'un s'il ne l'a pas eue.

622
00:48:46,381 --> 00:48:48,133
On a décidé de publier,

623
00:48:48,216 --> 00:48:52,679
pour peut-être permettre de maîtriser
les risques de mésusage de l'IA

624
00:48:52,763 --> 00:48:54,139
avant qu'ils ne se produisent.

625
00:48:54,222 --> 00:48:56,975
LE DOUBLE USAGE DE LA DÉCOUVERTE
DE MÉDICAMENTS PAR IA

626
00:48:57,559 --> 00:49:00,437
L'INTELLIGENCE ARTIFICIELLE
CAPABLE DE DÉCOUVRIR DES MÉDICAMENTS

627
00:49:01,897 --> 00:49:04,775
La réaction du public nous a fait un choc.

628
00:49:07,194 --> 00:49:10,656
On peut voir combien de personnes
ont accédé à cette page.

629
00:49:10,739 --> 00:49:14,451
Au mieux, nos articles sont habituellement

630
00:49:14,534 --> 00:49:19,831
lus par quelques milliers de personnes
sur un an ou même plusieurs années.

631
00:49:19,915 --> 00:49:22,084
Dix mille personnes en une semaine.

632
00:49:22,167 --> 00:49:25,337
Puis 20 000, puis 30 000, puis 40 000.

633
00:49:25,837 --> 00:49:28,715
C'est monté à 10 000 personnes par jour.

634
00:49:30,258 --> 00:49:33,512
On a fait The Economist,
le Financial Times,

635
00:49:35,639 --> 00:49:39,977
Le podcast Radiolab nous a appelés.
"Radiolab, ça me dit quelque chose !"

636
00:49:41,937 --> 00:49:45,899
Mais les réactions ont fini
par devenir incontrôlables.

637
00:49:49,778 --> 00:49:53,532
Des tweets du genre : "Mon Dieu,
ils n'auraient pas pu faire pire."

638
00:49:54,324 --> 00:49:55,993
"Pourquoi ont-ils fait ça ?"

639
00:50:01,164 --> 00:50:04,501
Puis on a reçu une invitation
que je n'aurais jamais imaginée.

640
00:50:08,797 --> 00:50:12,926
Il y a eu beaucoup de discussions
à la Maison-Blanche sur l'article,

641
00:50:13,010 --> 00:50:15,345
et ils voulaient nous parler d'urgence.

642
00:50:18,849 --> 00:50:20,809
C'est un honneur incroyable

643
00:50:20,892 --> 00:50:23,020
de pouvoir parler à des gens
à ce niveau-là.

644
00:50:23,603 --> 00:50:25,272
Mais soudain, on réalise.

645
00:50:25,355 --> 00:50:28,900
"Mon Dieu, c'est la Maison-Blanche.
C'est le patron."

646
00:50:29,693 --> 00:50:33,196
Nous avons regroupé
des données libres de droits…

647
00:50:33,280 --> 00:50:37,701
En six heures,
le modèle a pu générer plus de 40 000…

648
00:50:37,784 --> 00:50:41,038
Ils nous ont demandé
la puissance de calcul nécessaire.

649
00:50:41,872 --> 00:50:43,832
On leur a dit. Une puissance ordinaire.

650
00:50:44,332 --> 00:50:48,211
Un Mac tout à fait normal âgé de six ans.

651
00:50:49,546 --> 00:50:51,256
Et ça les a époustouflés.

652
00:50:54,968 --> 00:50:59,473
Ceux qui sont chargés de comprendre
les agents de guerre chimique

653
00:50:59,556 --> 00:51:04,019
et les agences gouvernementales
n'avaient aucune idée de ce potentiel.

654
00:51:06,605 --> 00:51:09,816
On dispose d'un livre de recettes
d'armes chimiques

655
00:51:10,650 --> 00:51:15,572
qui, entre les mains de quelqu'un
qui a des intentions malveillantes,

656
00:51:16,573 --> 00:51:18,992
peut avoir des effets
réellement horribles.

657
00:51:21,703 --> 00:51:23,205
Tout le monde doit être attentif,

658
00:51:23,288 --> 00:51:26,458
et il faut prendre des mesures
pour réglementer cette technologie

659
00:51:27,250 --> 00:51:30,670
ou la contraindre afin de l'empêcher
d'être mal utilisée.

660
00:51:31,880 --> 00:51:35,175
Parce que son potentiel létal

661
00:51:36,176 --> 00:51:37,344
est terrifiant.

662
00:51:40,680 --> 00:51:45,977
La question de l'éthique de l'IA
est largement abordée par la société,

663
00:51:46,561 --> 00:51:50,273
pas par les ingénieurs,
les technologues ou les mathématiciens.

664
00:51:52,484 --> 00:51:56,822
Chaque technologie que nous inventons,
chaque nouvelle innovation

665
00:51:56,905 --> 00:52:00,617
est soumise à la façon dont la société
pense qu'on doit l'utiliser.

666
00:52:03,036 --> 00:52:06,498
Pour l'instant,
le département de la Défense dit

667
00:52:06,581 --> 00:52:09,960
que le seul acteur qui décide de tuer

668
00:52:10,043 --> 00:52:11,920
sur le champ de bataille est un humain.

669
00:52:12,504 --> 00:52:14,548
Une machine peut agir pour tuer,

670
00:52:15,674 --> 00:52:18,927
mais seulement à la demande
d'un opérateur humain,

671
00:52:19,636 --> 00:52:21,429
et je ne vois pas ça changer.

672
00:52:24,808 --> 00:52:28,186
Ils nous assurent
que ces technologies seront sans danger,

673
00:52:29,729 --> 00:52:33,692
mais l'armée américaine
n'a pas franchement bonne réputation

674
00:52:33,775 --> 00:52:35,485
avec les drones guerriers.

675
00:52:36,820 --> 00:52:41,783
Donc quand il s'agit de faire confiance
aux États-Unis avec l'IA,

676
00:52:41,867 --> 00:52:44,953
hélas, le passé parle de lui-même.

677
00:52:46,288 --> 00:52:50,125
La politique du département américain
de la Défense en matière d'armes autonomes

678
00:52:50,208 --> 00:52:52,919
n'interdit aucun type d'armement.

679
00:52:53,003 --> 00:52:56,715
Et même si les militaires
ne veulent pas d'armes autonomes,

680
00:52:56,798 --> 00:53:01,678
ils pourraient bien confier
davantage de décisions aux machines

681
00:53:01,761 --> 00:53:03,680
pour suivre le rythme
de leurs concurrents.

682
00:53:04,764 --> 00:53:08,351
Et ça pourrait les pousser
à automatiser des décisions

683
00:53:08,435 --> 00:53:09,978
contre leur gré.

684
00:53:12,022 --> 00:53:16,693
Poutine a dit : "Celui qui maîtrisera l'IA
dominera le monde."

685
00:53:17,736 --> 00:53:23,325
Le président Xi a affirmé clairement
la volonté de la Chine

686
00:53:23,408 --> 00:53:25,702
de dominer dans le domaine de l'IA.

687
00:53:26,786 --> 00:53:29,831
On est en pleine
compétition technologique.

688
00:53:33,501 --> 00:53:35,670
On entend les gens parler de garde-fous,

689
00:53:36,463 --> 00:53:39,424
et c'est normal qu'ils le fassent.

690
00:53:40,467 --> 00:53:45,180
Mais il y a une course bien réelle
à la domination en matière d'IA.

691
00:53:47,265 --> 00:53:51,603
Et nos adversaires, Chine, Russie ou Iran,

692
00:53:52,187 --> 00:53:56,566
ne s'embarrasseront pas une seconde
de notre politique en matière d'IA.

693
00:54:00,820 --> 00:54:04,324
Il y a beaucoup de discussions
autour de la politique à tenir,

694
00:54:06,117 --> 00:54:09,287
et j'aimerais qu'il y ait
davantage de dirigeants

695
00:54:09,371 --> 00:54:11,706
pour dire :
"Combien de temps il vous faut ?

696
00:54:12,666 --> 00:54:15,168
"On va mettre le paquet,
fabriquez-moi ça."

697
00:54:18,922 --> 00:54:21,299
SALON ANNUEL DE L'ASSOCIATION DE L'ARMÉE

698
00:54:24,177 --> 00:54:26,805
ARMÉE DES ÉTATS-UNIS

699
00:54:33,478 --> 00:54:38,358
Nous sommes au grand salon annuel
de l'Association de l'armée américaine.

700
00:54:39,609 --> 00:54:44,572
Tous les fournisseurs de produits
ou de technologies aux armées

701
00:54:44,656 --> 00:54:46,616
y exposent.

702
00:54:47,701 --> 00:54:50,537
La base aérienne de Tyndall
a quatre de nos robots

703
00:54:50,620 --> 00:54:53,748
qui font des rondes
sur la base en permanence.

704
00:54:55,750 --> 00:55:00,130
On peut tout leur ajouter,
des caméras, des capteurs, ce qu'on veut.

705
00:55:00,213 --> 00:55:05,135
Des bras articulés… Tout ce qu'il faut
pour accomplir la mission du client.

706
00:55:06,678 --> 00:55:08,638
Et si votre ennemi se mettait à l'IA ?

707
00:55:09,431 --> 00:55:12,976
Un système de combat
qui réfléchit et réagit plus vite

708
00:55:13,059 --> 00:55:16,062
que ce dont un être humain est capable.
Il faut être prêt.

709
00:55:17,605 --> 00:55:21,443
On entraîne nos systèmes
à collecter des informations sur l'ennemi

710
00:55:22,027 --> 00:55:26,531
et à suivre ses cibles, les humains
restant aux commandes pour tuer.

711
00:55:33,288 --> 00:55:34,956
- Bonjour, général.
- Ça va ?

712
00:55:35,040 --> 00:55:36,416
Bien, monsieur. Et vous ?

713
00:55:37,709 --> 00:55:40,962
Personne n'investit davantage
sur un pilote artificiel.

714
00:55:41,046 --> 00:55:42,630
Le nôtre, c'est Hivemind.

715
00:55:43,298 --> 00:55:47,135
On l'a installé sur notre drone, le Nova.
Il va à l'intérieur des bâtiments,

716
00:55:47,218 --> 00:55:50,805
les explore avant l'infanterie
et les forces spéciales.

717
00:55:50,889 --> 00:55:52,891
On est en train de l'installer sur V-BAT,

718
00:55:52,974 --> 00:55:56,811
donc on pourra mettre en place
des centaines d'équipes

719
00:55:56,895 --> 00:55:58,730
que ce soit dans le détroit de Taïwan

720
00:55:58,813 --> 00:56:01,608
ou en Ukraine,
pour dissuader nos adversaires.

721
00:56:01,691 --> 00:56:03,360
L'idée me plaît bien.

722
00:56:03,943 --> 00:56:06,196
- D'accord. Merci.
- Merci, général.

723
00:56:07,989 --> 00:56:13,370
Les pilotes artificiels
seront partout d'ici 2025-2030,

724
00:56:14,204 --> 00:56:17,582
ils vont être vite adoptés
par les armées du monde entier.

725
00:56:19,250 --> 00:56:22,962
Et le type de l'armée roumaine
qui s'occupe des aéronefs sans pilote ?

726
00:56:23,046 --> 00:56:24,589
Haute technologie dans l'armée.

727
00:56:25,256 --> 00:56:29,803
On a dépensé un demi-milliard de dollars
pour notre pilote artificiel.

728
00:56:29,886 --> 00:56:33,181
On va remettre un milliard
ces cinq prochaines années.

729
00:56:33,264 --> 00:56:37,769
C'est pour ça qu'on gagne
les appels d'offres aux États-Unis.

730
00:56:37,852 --> 00:56:38,853
C'est bien.

731
00:56:38,937 --> 00:56:42,732
C'est même impressionnant.
Vous avez réussi à en faire une arme.

732
00:56:43,650 --> 00:56:45,568
Ce n'est pas encore une arme.

733
00:56:45,652 --> 00:56:48,321
Pas encore. Mais oui, à l'avenir.

734
00:56:48,905 --> 00:56:52,534
Nos clients le voient comme un camion.
Disons que c'est un camion intelligent

735
00:56:52,617 --> 00:56:54,452
qui peut faire beaucoup de choses.

736
00:56:55,787 --> 00:56:57,914
Je vous tiens au courant, c'est sûr.

737
00:57:01,668 --> 00:57:04,129
Dans dix ans,

738
00:57:04,212 --> 00:57:10,802
l'intelligence artificielle et l'autonomie
domineront tout le marché.

739
00:57:14,889 --> 00:57:19,352
Les forces équipées d'IA
et de machines autonomes

740
00:57:19,436 --> 00:57:25,108
domineront, écraseront et détruiront
celles qui ne le seront pas.

741
00:57:26,401 --> 00:57:30,780
Ce sera l'équivalent
du cheval contre le char d'assaut,

742
00:57:31,781 --> 00:57:34,367
de l'épée contre la mitrailleuse.

743
00:57:34,909 --> 00:57:37,120
Il n'y aura pas photo.

744
00:57:38,746 --> 00:57:42,750
Ça va devenir omniprésent
dans tous les domaines de la guerre,

745
00:57:43,585 --> 00:57:44,836
tactique

746
00:57:45,336 --> 00:57:46,546
comme stratégique,

747
00:57:47,172 --> 00:57:50,800
et ça fonctionnera à des vitesses
encore inimaginables.

748
00:57:53,094 --> 00:57:57,098
Les commandants sont déjà
submergés d'informations.

749
00:57:57,599 --> 00:58:01,019
Images satellite, drones, capteurs…

750
00:58:02,103 --> 00:58:03,396
L'IA peut notamment

751
00:58:03,480 --> 00:58:06,774
aider un commandant
à comprendre plus vite ce qui se passe.

752
00:58:07,650 --> 00:58:09,903
Ensuite, il réfléchit
aux décisions à prendre.

753
00:58:11,237 --> 00:58:14,866
L'intelligence artificielle
prendra en compte tous les facteurs

754
00:58:14,949 --> 00:58:17,702
déterminant la façon
dont la guerre est menée,

755
00:58:18,286 --> 00:58:20,246
elle trouvera des stratégies

756
00:58:22,540 --> 00:58:25,668
et donnera des conseils
pour gagner une bataille.

757
00:58:30,256 --> 00:58:32,133
VIRGINIE

758
00:58:32,217 --> 00:58:34,344
CENTRE D'INNOVATION

759
00:58:36,971 --> 00:58:40,266
Chez Lockheed Martin,
comme au département de la Défense,

760
00:58:40,350 --> 00:58:43,770
on voit l'IA
comme une technologie clé pour faciliter

761
00:58:43,853 --> 00:58:45,104
le commandement.

762
00:58:47,065 --> 00:58:50,109
Vitesse de propagation moyenne : 60 cm/s.

763
00:58:50,193 --> 00:58:52,278
Périmètre d'environ 300 hectares.

764
00:58:52,779 --> 00:58:55,782
Le brouillard de la guerre est une réalité

765
00:58:57,158 --> 00:59:00,495
qui a des parallèles
dans le domaine environnemental

766
00:59:00,578 --> 00:59:03,206
pour la gestion des feux de forêt.

767
00:59:03,289 --> 00:59:06,543
L'incendie de Washburn
est au nord de la ville de Wawona.

768
00:59:06,626 --> 00:59:09,629
Il faut prendre des décisions
avec des données imparfaites.

769
00:59:10,630 --> 00:59:14,300
Comment l'IA peut-elle nous aider
avec ce brouillard-là ?

770
00:59:17,637 --> 00:59:19,597
Les feux de forêt sont chaotiques

771
00:59:20,181 --> 00:59:21,266
et très complexes,

772
00:59:22,267 --> 00:59:26,354
donc nous travaillons en vue
d'utiliser l'intelligence artificielle

773
00:59:26,437 --> 00:59:27,981
pour l'aide à la décision.

774
00:59:31,442 --> 00:59:33,987
Notre programme,
le Cognitive Mission Manager,

775
00:59:34,070 --> 00:59:37,949
prend des images de vidéo infrarouge

776
00:59:38,032 --> 00:59:41,786
et les traite avec nos algorithmes d'IA

777
00:59:41,869 --> 00:59:45,248
pour pouvoir prédire
l'état à venir de l'incendie.

778
00:59:48,042 --> 00:59:49,794
Dans l'avenir,

779
00:59:49,877 --> 00:59:52,922
le Cognitive Mission Manager
utilisera la simulation

780
00:59:53,006 --> 00:59:57,093
et fera tourner des scénarios
pendant des milliers de cycles

781
00:59:57,176 --> 01:00:00,722
pour conseiller la meilleure façon
de déployer les ressources

782
01:00:00,805 --> 01:00:04,058
afin d'éteindre
les zones de feu prioritaires.

783
01:00:08,062 --> 01:00:12,400
Il dira : "Allez arroser
avec un hélicoptère Firehawk ici,

784
01:00:13,568 --> 01:00:15,903
"faites venir des équipes
de débroussaillage

785
01:00:16,946 --> 01:00:19,032
"et des pompiers pour arroser,

786
01:00:19,657 --> 01:00:23,077
"et mettez-les
dans les zones prioritaires."

787
01:00:26,289 --> 01:00:29,292
Ces décisions seront ainsi
prises plus rapidement

788
01:00:29,375 --> 01:00:31,044
et plus efficacement.

789
01:00:35,840 --> 01:00:38,468
Pour nous, l'IA permet aux humains

790
01:00:38,551 --> 01:00:42,305
de s'adapter à un environnement
en constante évolution.

791
01:00:43,389 --> 01:00:46,517
Il y a un bon nombre de parallèles à faire

792
01:00:46,601 --> 01:00:50,355
avec ce à quoi on est habitués
chez Lockheed Martin du côté militaire.

793
01:00:52,231 --> 01:00:55,860
L'armée ne parle
plus seulement d'utiliser l'IA

794
01:00:55,943 --> 01:01:00,323
et des systèmes d'armement isolés
pour prendre la décision de tuer,

795
01:01:00,865 --> 01:01:02,200
mais d'intégrer l'IA

796
01:01:02,283 --> 01:01:05,787
au cœur de l'architecture
décisionnelle de l'armée.

797
01:01:09,457 --> 01:01:12,960
L'armée de terre a un grand projet,
le projet Convergence.

798
01:01:14,545 --> 01:01:16,589
La marine a Overmatch.

799
01:01:16,673 --> 01:01:19,592
Et l'aviation a son système avancé
de gestion de combat.

800
01:01:21,886 --> 01:01:24,138
Le département de la Défense veut savoir

801
01:01:24,222 --> 01:01:26,683
comment assembler toutes ces pièces

802
01:01:26,766 --> 01:01:29,268
pour pouvoir agir
plus vite que l'adversaire

803
01:01:30,395 --> 01:01:32,355
et prendre un véritable avantage.

804
01:01:33,481 --> 01:01:37,527
Une IA gestionnaire de combat
serait comme un général de haut rang

805
01:01:37,610 --> 01:01:39,821
chargé de commander la bataille.

806
01:01:41,155 --> 01:01:44,158
Elle aiderait à donner des ordres
à un grand nombre de soldats,

807
01:01:45,118 --> 01:01:49,247
à coordonner les actions
de toutes les armes disponibles,

808
01:01:49,330 --> 01:01:51,958
à une vitesse
qu'aucun humain ne peut suivre.

809
01:01:53,543 --> 01:01:55,294
Depuis 70 ans,

810
01:01:55,378 --> 01:01:58,798
nous avons construit
l'armée la plus sophistiquée au monde,

811
01:01:58,881 --> 01:02:03,177
et nous devons maintenant nous demander
si nous voulons céder le contrôle

812
01:02:03,261 --> 01:02:07,598
de cette infrastructure
à un algorithme, un logiciel.

813
01:02:10,351 --> 01:02:13,187
Or cette décision pourrait avoir
comme conséquence

814
01:02:13,271 --> 01:02:16,774
de déclencher toute la puissance
de nos arsenaux militaires.

815
01:02:16,858 --> 01:02:19,902
Non pas un Hiroshima, mais des centaines.

816
01:02:25,616 --> 01:02:27,869
C'est le moment d'agir.

817
01:02:27,952 --> 01:02:33,166
Il ne sera bientôt plus possible
de contenir ce risque.

818
01:02:35,126 --> 01:02:39,338
Cet après-midi, nous commençons
par les défis de sécurité internationale

819
01:02:39,422 --> 01:02:41,132
posés par les technologies émergentes

820
01:02:41,215 --> 01:02:44,343
dans le domaine
des armes létales autonomes.

821
01:02:44,427 --> 01:02:47,722
Des discussions ont lieu
au sein des Nations unies

822
01:02:47,805 --> 01:02:50,016
sur la menace des armes létales autonomes

823
01:02:50,600 --> 01:02:56,564
et sur notre refus des systèmes
utilisant l'IA pour cibler les gens.

824
01:02:56,647 --> 01:03:00,777
Le consensus chez les technologues
est clair et sans appel.

825
01:03:00,860 --> 01:03:04,030
Nous sommes opposés
aux armes autonomes ciblant les humains.

826
01:03:05,615 --> 01:03:08,993
Depuis des années,
les États discutent de ce problème

827
01:03:09,076 --> 01:03:11,329
des armes létales autonomes.

828
01:03:12,288 --> 01:03:16,793
Notre sentiment de sécurité
à tous est en jeu.

829
01:03:17,794 --> 01:03:20,546
Mais bien sûr, ce n'est pas facile.

830
01:03:21,297 --> 01:03:25,968
Certains pays,
surtout les puissances militaires,

831
01:03:26,052 --> 01:03:27,762
veulent être à l'avant-garde

832
01:03:28,429 --> 01:03:31,599
pour pouvoir devancer leurs adversaires.

833
01:03:32,600 --> 01:03:36,187
Le problème est que tout le monde
doit être d'accord pour qu'on avance.

834
01:03:36,896 --> 01:03:39,065
Il y aura au moins un pays contre,

835
01:03:39,148 --> 01:03:42,109
et les États-Unis et la Russie
ont clairement fait savoir

836
01:03:42,193 --> 01:03:45,655
qu'ils sont contre un traité
d'interdiction des armes autonomes.

837
01:03:47,198 --> 01:03:53,204
Le nombre de personnes qui travaillent
à rendre l'IA plus puissante

838
01:03:54,747 --> 01:03:56,457
est très impressionnant.

839
01:03:57,750 --> 01:04:02,880
Les gens qui veillent activement
à ce que l'IA soit sûre

840
01:04:04,340 --> 01:04:07,510
sont beaucoup moins nombreux.

841
01:04:11,764 --> 01:04:13,724
Mais je suis aussi très optimiste.

842
01:04:16,060 --> 01:04:19,480
Pensez à la convention
sur les armes biologiques,

843
01:04:19,564 --> 01:04:22,358
qui a eu lieu en pleine guerre froide

844
01:04:23,025 --> 01:04:27,655
malgré les tensions existant
entre l'URSS et les États-Unis.

845
01:04:29,156 --> 01:04:33,536
Ils ont su comprendre
que le développement d'armes biologiques

846
01:04:33,619 --> 01:04:36,247
n'était ni dans leur intérêt

847
01:04:36,330 --> 01:04:38,749
ni dans l'intérêt du reste du monde.

848
01:04:41,335 --> 01:04:44,714
Dans une course à l'armement,
la vitesse est préférée à la sécurité.

849
01:04:45,715 --> 01:04:48,342
Mais ce qu'il faut absolument
prendre en compte,

850
01:04:48,426 --> 01:04:52,430
c'est qu'il arrive un moment
où la vitesse coûte trop cher.

851
01:04:56,225 --> 01:04:59,270
On ne peut pas développer
des choses de façon isolée

852
01:05:00,021 --> 01:05:06,611
et les lancer sans réfléchir
à ce qu'elles pourraient devenir.

853
01:05:07,862 --> 01:05:10,823
Il faut empêcher ce qui s'est passé
avec la bombe atomique.

854
01:05:14,577 --> 01:05:17,705
Les enjeux de la course à l'IA
sont énormes.

855
01:05:18,289 --> 01:05:22,001
Peu de gens se rendent compte
de la stabilité internationale

856
01:05:22,084 --> 01:05:28,174
qu'a apporté le fait d'avoir
une force militaire supérieure

857
01:05:28,257 --> 01:05:31,135
depuis 75 ans.

858
01:05:32,887 --> 01:05:35,681
Les États-Unis et leurs alliés

859
01:05:36,557 --> 01:05:38,684
doivent surpasser l'IA ennemie.

860
01:05:43,314 --> 01:05:44,774
Pas de 2e place à la guerre.

861
01:05:45,524 --> 01:05:49,111
La Chine veut devenir
le leader mondial de l'IA en 2030…

862
01:05:49,195 --> 01:05:51,656
Une course que l'Amérique perd peut-être…

863
01:05:52,740 --> 01:05:56,160
Vous allez accélérer
l'adoption de l'intelligence artificielle

864
01:05:56,243 --> 01:05:59,246
pour assurer notre avantage militaire.

865
01:06:02,875 --> 01:06:05,461
On fonce en avant avec cette technologie.

866
01:06:05,544 --> 01:06:08,673
Mais on ne sait pas jusqu'où on ira.

867
01:06:09,507 --> 01:06:12,760
Contrôle-t-on cette technologie
ou est-ce l'inverse ?

868
01:06:14,136 --> 01:06:16,973
On n'aura pas de seconde chance.

869
01:06:17,807 --> 01:06:20,977
Une fois le génie sorti de la bouteille,
c'est fini.

870
01:06:22,019 --> 01:06:25,189
Ce sera très difficile
de le remettre dedans.

871
01:06:28,609 --> 01:06:31,737
Si on n'agit pas maintenant,
il sera trop tard.

872
01:06:33,114 --> 01:06:34,657
Il est peut-être déjà trop tard.

873
01:08:48,124 --> 01:08:50,126
Sous-titres : Thomas Chaumont