🎤 Écoutez le segment complet du balado sur Mon Carnet par Bruno Guglielminetti
Émilie Delvoye, directrice des communications chez Prompt nous parle de prise de décision impliquant l’humain et la technologie dans un projet porté par Sébastien Tremblay de l’Université Laval et Antoine Fagette de Thales.
Découvrez le balado, en texte intégral
Émilie : Aujourd’hui, nous discutons collaboration humain-machine avec mes invités : Sébastien Tremblay, professeur à l’école de psychologie de l’Université Laval et directeur du laboratoire Co-DOT. Il est également professeur honoraire de l’Université de Cardiff au Royaume-Uni, et s’intéresse particulièrement aux enjeux de cognition humaine et aux façons d’augmenter la performance et le bien être des individus dans différentes situations, dont la prise de décision. Et Antoine Fagette, en charge de l’autonomie collaborative pour Cortex, l’accélérateur en intelligence artificielle de Thales, le leader mondial spécialisé en haute technologie, qui a des clients dont les opérations sont critiques et notamment sur les marchés de la défense et en aérospatiale. Alors, bonjour messieurs.
Sébastien Tremblay et Antoine Fagette : Bonjour Émilie.
Émilie : Vous allez aujourd’hui nous présenter un projet de recherche visant à augmenter la collaboration entre l’humain et l’intelligence artificielle pour le commandement et le contrôle adaptatif. De quoi parle-t-on exactement?
Sébastien Tremblay : En effet, notre projet porte sur la collaboration entre humains et agents intelligents dans un contexte spécifique de surveillance maritime. Plus concrètement, imaginez un opérateur dans un centre de commandement naval ou à bord d’une frégate qui doit évaluer le niveau de menace potentielle de tous les navires, les drones et les avions qui se trouvent dans son environnement. Nous parlons donc d’un travail humain qui est très exigeant au niveau cognitif, stressant, souvent sous pression temporelle et toujours avec des décisions qui sont critiques pour la sécurité. C’est une situation où l’opérateur humain a besoin de soutien. Puis dans le passé, nous parlions beaucoup de systèmes d’aide à la décision, de systèmes experts pour accompagner l’humain dans sa prise de décision. Mais maintenant, nous parlons davantage d’agents intelligents en mode collaboration. La question que nous nous posons : comment est-ce que l’humain et l’agent intelligents peuvent travailler le mieux possible ensemble, apprendre, s’adapter l’un à l’autre et former une équipe efficace?
Émilie : Comment est-ce que vous en êtes arrivé à développer cette innovation, cette solution.
Antoine Fagette : Chez Thales, comme tu l’as dit, nous travaillons sur des systèmes critiques, et puis l’utilisation de l’IA et l’intégration d’autonomie dans ces systèmes, ça crée un changement de paradigme dans la relation que l’opérateur humain va avoir avec ces systèmes. Le changement de paradigme spécifiquement, il est dans le fait que l’opérateur humain n’a plus seulement un outil entre les mains, mais il a potentiellement un coéquipier avec lequel il va devoir apprendre à travailler. L’IA et l’autonomie fait que le système va pouvoir s’adapter vis à vis d’un contexte opérationnel qui évolue. Un contexte opérationnel qui évolue, c’est le fait que la situation en face de lui change. L’adversaire (système de défense) s’adapte aussi à nos solutions et donc le système va être capable potentiellement d’apprendre comment ce contexte évolue. D’autre part, l’opérateur lui-même va évoluer. Il va évoluer dans un temps court, par exemple par des cycles de fatigue. L’opérateur au début de la journée, il est en forme et donc il prend des décisions d’une certaine manière. À la fin de la journée, il est fatigué. Son schéma décisionnel évolue et donc il faut que le système soit capable de détecter un petit peu ces changements. Ça va aussi évoluer dans le temps long, c’est-à-dire que l’opérateur voit des nouvelles choses en face de lui. C’est un contexte opérationnel qui change et donc il prend des nouvelles décisions par rapport à ça. Il adapte son « pattern » décisionnel de manière à prendre des décisions qui sont toujours les bonnes informées, mais sur des choses qui ont changé. Il faut donc que le système soit capable d’apprendre ça. En fait, l’humain et ce système presque autonome, doivent apprendre à se faire confiance mutuellement, à travailler ensemble pour résoudre ou aborder les missions qui leur sont confiées.
Émilie : Alors, je comprends très bien le fait que l’humain doit apprendre à faire confiance à la machine. Est-ce que tu peux nous expliquer un petit peu, Sébastien, comment la machine peut apprendre à faire confiance à l’humain?
Sébastien Tremblay : En fait, tu viens de le mentionner. Il y a l’aspect quand nous passons d’un paradigme d’utilisation d’outils à un paradigme de travail d’équipe, et bien il y a l’aspect bidirectionnel. Il y a la communication, les échanges entre l’humain et l’agent. C’est une situation où il y a besoin de confiance mutuelle et puis où il y a aussi un co-apprentissage en termes de comment bien travailler ensemble, et le plus possible de comprendre les décisions de l’un et l’autre. Si l’humain prend sa décision et que l’agent qui a appris à partir des décisions de l’humain détecte peut-être une déviation du patron habituel en raison de la fatigue ou du stress. Là, il y a un certain dialogue avec l’humain parce que l’agent va soulever un drapeau par rapport à ce que son évaluation de la menace est différente. Nous testons des façons de comment l’annoncer, ajouter de la transparence et peut être un peu d’explicabilité, toujours dans l’optique d’avoir une relation optimale entre les deux.
Émilie : Quel est l’impact de cette innovation?
Antoine Fagette : L’impact que nous avons recherché et que nous sommes arrivés à atteindre grâce à cette collaboration sur notre organisation, et de manière générale sur toute la recherche que nous menons sur ces sujets-là est à deux niveaux. D’abord, il faut comprendre que Thales, c’est une entité qui fait du business. Ce que nous cherchons à faire, c’est une recherche qui est très opérationnelle, donc de travailler avec des chercheurs comme Sébastien et le laboratoire Co-DOT sur ces sujets-là. C’est une façon pour nous d’accélérer l’intégration de ces nouvelles technologies ou de ces nouvelles approches dans nos solutions. Nous travaillons au sein de Thales sur des roadmaps de recherche qui sont à des niveaux de maturité bas, mais nous allons vouloir très vite les faire monter en maturité de manière à les intégrer dans les produits. De travailler avec Sébastien, c’est de ne pas attendre des dizaines d’années avant d’avoir un résultat. Nous allons chercher à avoir des premiers résultats au bout de six mois, un an, deux ans, en ayant un cycle itératif. Puis le deuxième impact que nous allons rechercher, c’est la dissémination de la connaissance que nous arrivons à créer à travers ces projets. Alors, la dissémination à travers des publications, des participations à des conférences ou même des brevets qui nous permettent de nous positionner en tant qu’acteur de référence sur ces sujets-là, aux côtés d’un laboratoire et d’un professeur. Sébastien, tu l’as dit en introduction, il est quand même de renommée internationale. Il a une position au Québec, au Royaume-Uni et donc ça nous permet de travailler plus vite et plus fort sur ces sujets là avec lui.
Émilie : Excellent! De ton côté, Sébastien.
Sébastien Tremblay : En termes d’impact, d’abord, il y a tout ce qui est transfert des connaissances. Pour nous, le projet spécifique avec Thales et autres partenaires est en lien avec la surveillance maritime et la défense. Ce que nous faisons de façon transversale s’applique aussi à tous les domaines où l’humain est en position de superviser ou de collaborer avec avec des agents, que ce soit la mobilité, l’aviation, la prise de décision en santé, la gestion de crise ou la réponse d’urgence. Pour nous, c’est très important de développer ces connaissances puis d’être en position de les transférer à plusieurs secteurs. Je dirais aussi que ce projet, en termes d’impact, c’est beaucoup par rapport à la bonne pratique, donc de vraiment contribuer à la bonne pratique en termes de travail humain-intelligence artificielle. Au niveau développement professionnel, ça a aussi un impact super important pour nos étudiants en termes de tremplin vers l’industrie, vers le marché du travail. Te terminerais en disant que ça a un impact aussi en termes de positionnement de l’Université Laval, du Québec, du Canada dans un domaine qui est tellement d’actualité.
Émilie : Merci beaucoup, messieurs. Si vous recherchez de l’expertise pour résoudre une problématique avec les technologies, je vous invite à contacter Prompt pour vous aider à dérisquer votre projet d’innovation et être mis en relation vous aussi avec les bons partenaires.
