Satya Nadella, le patron de Microsoft, a rendu publique une série de propositions remarquées sur la sécurité de l'intelligence artificielle. Selon lui, les modèles d'IA doivent être reliés à un dispositif de freinage externe, capable de les arrêter à tout moment sur décision de personnes habilitées.

Dans une déclaration publiée sur X, le PDG de Microsoft souligne que l'intelligence artificielle ne devrait jamais, en aucune circonstance, être laissée sans supervision. À ses yeux, les modèles doivent être traités comme des « boîtes noires » imbriquées les unes dans les autres : ni les réponses qu'ils produisent ni les démarches qu'ils entreprennent ne devraient jamais être acceptées sans être questionnées.

Des contrôles de sécurité placés hors du modèle

2

Dans l'architecture défendue par Nadella, la couche de sécurité est dissociée de la structure exécutive qui commande directement le modèle, et les contrôles sont entièrement positionnés à l'extérieur de celui-ci. Le système n'a ainsi plus besoin d'accorder une confiance aveugle à un mécanisme de sécurité situé au même niveau que lui.

Dans ce cadre, chaque décision critique prise par l'IA devrait être consignée au moyen de preuves inviolables et lisibles par des humains, explique le dirigeant. Il propose également de mettre en place des dispositifs permettant, dans les moments critiques, à une personne habilitée d'arrêter le modèle en pleine activité, voire de l'éteindre complètement. Les modèles devraient enfin être traités, dès leur premier jour, comme si leur sécurité avait déjà été violée, et être limités en conséquence : c'est ce mécanisme que Nadella baptise « frein d'urgence ».

Un secteur qui multiplie les signaux de prudence

Cette prise de position n'est pas la première mise en garde du secteur. Ces derniers temps, les grandes entreprises technologiques ont régulièrement fait parler d'elles à travers des cas révélant un affaiblissement du contrôle exercé sur les modèles. Le PDG d'Anthropic, Dario Amodei, avait ainsi annoncé il y a peu que son entreprise passait à un plan de développement de l'IA plus prudent.