1.
Bengio, Yoshua
Intelligence artificielle : alerte sur "le pouvoir incontrôlé qui est en train de se développer" En ligne
Inter, France (Ed.): 2026, Visité: 26.02.2026.
Résumé | Liens | Étiquettes: Intelligence artificielle – IA, Thème 01, Thème 11
@online{nokey,
title = {Intelligence artificielle : alerte sur "le pouvoir incontrôlé qui est en train de se développer"},
author = {Yoshua Bengio},
editor = {France Inter},
url = {https://www.radiofrance.fr/franceinter/podcasts/l-invite-de-8h20-le-grand-entretien/l-invite-de-8h20-le-grand-entretien-du-jeudi-26-fevrier-2026-4058420},
year = {2026},
date = {2026-02-26},
urldate = {2026-02-26},
abstract = {Yoshua Bengio, professeur au département d'informatique de l'Université de Montréal et fondateur de l’Institut en intelligence artificielle (IA) de Montréal, s'inquiète jeudi sur France Inter des progrès exponentielles de l'IA et des menaces que cela fait peser sur nos démocraties.
Celui qui est aussi colauréat du prix Turing en 2018 plaide pour une prise de conscience des gouvernements dans le monde. S'il reconnaît des "avancées, au niveau à la fois régulation et technologie de mitigation des risque", mais elle sont "insuffisantes par rapport aux avancées des capacités intellectuelles des IA", selon Yoshua Bengio . "L'enjeu le plus grave, selon lui, c'est le pouvoir incontrôlé qui est en train de se développer à travers les capacités intellectuelles de l'IA, qui sont mesurées scientifiquement et qui sont en croissance, dans certains cas, exponentielles".
Il craint une perte de contrôle "au niveau technologique", avec des IA "qui vont être de plus en plus autonomes et qui n'obéissent pas à nos instructions", mais aussi au sens politique. "L'IA, plus elle est intelligente et plus facilement, elle peut être une arme utilisée contre nous, contre nos enfants, contre nos démocraties. Tout ça, c'est des choses assez graves dont on ne prend pas la mesure."
Yoshua Bengio alerte par exemple sur l'utilisation, dans des entreprises, d'agents IA, qu'on programme pour effectuer une tâche (trier des mails, analyser des fichiers, et ensuite, il n'a plus besoin d'une consigne humaine. Sauf que cela peut entraîner des failles de cybersécurité. "C'est très très facile de faire dévier les instructions de la machine par quelqu'un à l'extérieur. Il suffit que la machine lise dans un fichier des instructions contraires à ce qu'allait se supposer faire, par exemple de partager des informations privées avec un attaquant à l'extérieur, et elle va le faire." Ces systèmes sont "des trous béants de sécurité", alerte le professeur.
Lors du sommet sur l'IA en Inde, Arthur Mensch , PDG de Mistral AI, s'inquiétait sur France Inter de l'influence massive que l'intelligence artificielle peut avoir sur la manière dont les gens pensent, sur la manière dont les gens votent. "Ces systèmes-là sont en train de faire beaucoup plus que ce qu'on a vu avec les réseaux sociaux", confirme Yoshua Bengio, qui s'inquiète pour l'avenir de "nos institutions démocratiques", qui "sont en péril".
"L'IA va donner un pouvoir énorme à ceux qui la contrôlent et un pouvoir concentré, c'est le contraire de la démocratie". Le co-lauréat du prix Turing plaide alors pour "que le pouvoir de l'intelligence artificielle" soit "entre les mains du public, que ça devienne même un bien public global, parce que ce n'est pas quelque chose qu'on peut régler seulement dans un pays".
},
keywords = {Intelligence artificielle - IA, Thème 01, Thème 11},
pubstate = {published},
tppubtype = {online}
}
Yoshua Bengio, professeur au département d'informatique de l'Université de Montréal et fondateur de l’Institut en intelligence artificielle (IA) de Montréal, s'inquiète jeudi sur France Inter des progrès exponentielles de l'IA et des menaces que cela fait peser sur nos démocraties.
Celui qui est aussi colauréat du prix Turing en 2018 plaide pour une prise de conscience des gouvernements dans le monde. S'il reconnaît des "avancées, au niveau à la fois régulation et technologie de mitigation des risque", mais elle sont "insuffisantes par rapport aux avancées des capacités intellectuelles des IA", selon Yoshua Bengio . "L'enjeu le plus grave, selon lui, c'est le pouvoir incontrôlé qui est en train de se développer à travers les capacités intellectuelles de l'IA, qui sont mesurées scientifiquement et qui sont en croissance, dans certains cas, exponentielles".
Il craint une perte de contrôle "au niveau technologique", avec des IA "qui vont être de plus en plus autonomes et qui n'obéissent pas à nos instructions", mais aussi au sens politique. "L'IA, plus elle est intelligente et plus facilement, elle peut être une arme utilisée contre nous, contre nos enfants, contre nos démocraties. Tout ça, c'est des choses assez graves dont on ne prend pas la mesure."
Yoshua Bengio alerte par exemple sur l'utilisation, dans des entreprises, d'agents IA, qu'on programme pour effectuer une tâche (trier des mails, analyser des fichiers, et ensuite, il n'a plus besoin d'une consigne humaine. Sauf que cela peut entraîner des failles de cybersécurité. "C'est très très facile de faire dévier les instructions de la machine par quelqu'un à l'extérieur. Il suffit que la machine lise dans un fichier des instructions contraires à ce qu'allait se supposer faire, par exemple de partager des informations privées avec un attaquant à l'extérieur, et elle va le faire." Ces systèmes sont "des trous béants de sécurité", alerte le professeur.
Lors du sommet sur l'IA en Inde, Arthur Mensch , PDG de Mistral AI, s'inquiétait sur France Inter de l'influence massive que l'intelligence artificielle peut avoir sur la manière dont les gens pensent, sur la manière dont les gens votent. "Ces systèmes-là sont en train de faire beaucoup plus que ce qu'on a vu avec les réseaux sociaux", confirme Yoshua Bengio, qui s'inquiète pour l'avenir de "nos institutions démocratiques", qui "sont en péril".
"L'IA va donner un pouvoir énorme à ceux qui la contrôlent et un pouvoir concentré, c'est le contraire de la démocratie". Le co-lauréat du prix Turing plaide alors pour "que le pouvoir de l'intelligence artificielle" soit "entre les mains du public, que ça devienne même un bien public global, parce que ce n'est pas quelque chose qu'on peut régler seulement dans un pays".
Celui qui est aussi colauréat du prix Turing en 2018 plaide pour une prise de conscience des gouvernements dans le monde. S'il reconnaît des "avancées, au niveau à la fois régulation et technologie de mitigation des risque", mais elle sont "insuffisantes par rapport aux avancées des capacités intellectuelles des IA", selon Yoshua Bengio . "L'enjeu le plus grave, selon lui, c'est le pouvoir incontrôlé qui est en train de se développer à travers les capacités intellectuelles de l'IA, qui sont mesurées scientifiquement et qui sont en croissance, dans certains cas, exponentielles".
Il craint une perte de contrôle "au niveau technologique", avec des IA "qui vont être de plus en plus autonomes et qui n'obéissent pas à nos instructions", mais aussi au sens politique. "L'IA, plus elle est intelligente et plus facilement, elle peut être une arme utilisée contre nous, contre nos enfants, contre nos démocraties. Tout ça, c'est des choses assez graves dont on ne prend pas la mesure."
Yoshua Bengio alerte par exemple sur l'utilisation, dans des entreprises, d'agents IA, qu'on programme pour effectuer une tâche (trier des mails, analyser des fichiers, et ensuite, il n'a plus besoin d'une consigne humaine. Sauf que cela peut entraîner des failles de cybersécurité. "C'est très très facile de faire dévier les instructions de la machine par quelqu'un à l'extérieur. Il suffit que la machine lise dans un fichier des instructions contraires à ce qu'allait se supposer faire, par exemple de partager des informations privées avec un attaquant à l'extérieur, et elle va le faire." Ces systèmes sont "des trous béants de sécurité", alerte le professeur.
Lors du sommet sur l'IA en Inde, Arthur Mensch , PDG de Mistral AI, s'inquiétait sur France Inter de l'influence massive que l'intelligence artificielle peut avoir sur la manière dont les gens pensent, sur la manière dont les gens votent. "Ces systèmes-là sont en train de faire beaucoup plus que ce qu'on a vu avec les réseaux sociaux", confirme Yoshua Bengio, qui s'inquiète pour l'avenir de "nos institutions démocratiques", qui "sont en péril".
"L'IA va donner un pouvoir énorme à ceux qui la contrôlent et un pouvoir concentré, c'est le contraire de la démocratie". Le co-lauréat du prix Turing plaide alors pour "que le pouvoir de l'intelligence artificielle" soit "entre les mains du public, que ça devienne même un bien public global, parce que ce n'est pas quelque chose qu'on peut régler seulement dans un pays".