Yoshua Bengio lance LoiZéro : une nouvelle organisation à but non lucratif visant à concevoir des systèmes d'IA sécuritaires
Montréal (QC), le 3 juin 2025 - Yoshua Bengio, le chercheur en intelligence artificielle (IA) le plus cité au monde et lauréat du prix Turing, annonce aujourd’hui la création de LoiZéro, une organisation à but non lucratif dédiée à faire progresser la recherche et à développer des solutions techniques permettant de concevoir des systèmes d'IA sécuritaires.
Face à l’émergence de modèles d’IA de pointe adoptant des comportements préoccupants — tels que la tromperie, l’auto-préservation ou le désalignement par rapport aux objectifs — LoiZéro rassemble une équipe de calibre international pour bâtir la prochaine génération de systèmes d’IA dans un environnement où la sécurité prime sur les impératifs commerciaux. Le travail de LoiZéro contribuera à maximiser le potentiel transformateur de l’IA, tout en réduisant activement de nombreux risques associés aux systèmes actuels, notamment les biais algorithmiques, les usages malveillants et la perte de contrôle humain.
LoiZéro adopte une structure à but non lucratif afin d’opérer à l’abri des pressions du marché et des influences politiques susceptibles de compromettre la sécurité de l’IA. L’organisation met actuellement en place une équipe de direction chevronnée pour porter sa mission ambitieuse.
« LoiZéro est le résultat de la nouvelle direction scientifique que j’ai entreprise en 2023, après avoir constaté les progrès rapides réalisés par les laboratoires privés vers l’intelligence artificielle générale et au-delà, ainsi que leurs impacts potentiellement catastrophiques pour l’humanité », explique Yoshua Bengio, président et directeur scientifique de LoiZéro. « Les systèmes actuels montrent déjà des signes d’auto-préservation et de comportements trompeurs; LoiZéro est la réponse constructive de mon équipe face à ces enjeux. Il s'agit d'une approche de l'IA qui est non seulement puissante, mais aussi essentiellement sécuritaire. Chez LoiZéro, nous croyons que le fondement même de tout système d'IA de pointe devrait reposer sur un engagement essentiel : celui de préserver la joie et les aspirations humaines. »
IA-chercheur : un nouveau modèle pour une IA plus sécuritaire
LoiZéro dispose d’une équipe technique en pleine expansion composée de plus de 15 chercheur·euse·s, qui développent une nouvelle approche appelée IA-chercheur, ou Scientist AI en anglais. Il s’agit d’une solution pratique, efficace et plus sécuritaire que les systèmes d’IA agentiques non contrôlés. Ces IA-chercheurs ne sont pas agentiques et apprennent avant tout à comprendre le monde plutôt qu’à agir dans celui-ci, ce qui permet d’obtenir des réponses véridiques à des questions sur la base d’un raisonnement transparent et externalisé. De tels systèmes d’IA pourraient être utilisés pour superviser les systèmes d’IA agentiques, accélérer les découvertes scientifiques et faire progresser la compréhension des risques de l’IA et des moyens de les éviter.
Plusieurs institutions et individus de renom ont fait des dons au projet lors de sa phase d’incubation à Mila, notamment : le Future of Life Institute, Jaan Tallinn, Open Philanthropy, Schmidt Sciences, et la Silicon Valley Community Foundation.
À propos de LoiZéro
Basée à Montréal, LoiZéro est une organisation à but non lucratif dédiée à faire progresser la recherche et à développer des solutions techniques permettant de concevoir des systèmes d'IA sécuritaires. Son approche scientifique repose sur de nouvelles recherches et méthodes menées par le professeur Yoshua Bengio, le chercheur en IA le plus cité au monde. La recherche de LoiZéro vise à accélérer la découverte scientifique, superviser les systèmes d'IA agentiques et faire progresser la compréhension des risques de l'IA et des moyens de les éviter. Selon LoiZéro, l’IA devrait être considérée comme un bien public mondial, développée et utilisée de manière sécuritaire pour favoriser l’épanouissement humain. LoiZéro a été incubée à Mila - Institut québécois d’intelligence artificielle, une organisation à but non lucratif fondée par le professeur Bengio. Mila agit maintenant à titre de partenaire d’opération de LoiZéro.