Le concept de conscience est complexe et prend des formes diverses. Le fait qu’un système intelligent puisse être conscient a été discuté depuis longtemps et les questions se sont multipliées avec l’apparition de systèmes qui semblent capables de dialoguer avec l’homme de façon très naturelle.

Nous proposons d’examiner plusieurs facettes de la conscience, de la conscience phénoménologique liée aux perceptions, à la conscience d’accès, qui nous renseigne sur nos actions. En 1982 déjà, Marvin Minsky considérait que des systèmes conscients d’eux-mêmes pouvaient être réalisés en fournissant aux machines des moyens d’examiner leurs propres mécanismes pendant qu’elles fonctionnent. Puis Jacques Pitrat, en 2009, a affirmé que la possibilité pour un être artificiel conscient de contrôler sa propre pensée lui permet d’expliquer ses décisions afin qu’elles soient acceptées par les autres, ce qui va dans le sens d’une IA eXplicable. Une étude récente fournit une liste de critères dérivés de théories scientifiques pour évaluer la conscience d’un système intelligent. Nous proposons un aperçu de certains aspects intéressants de la conscience de systèmes intelligents, qui peut être différente de celle des humains.

Nous étudions dans quelle mesure un système actuel ou futur peut avoir une telle forme de conscience et quels en sont les avantages et les inconvénients.

Bernadette Bouchon-Meunier. Directrice de recherche émérite au CNRS et à Sorbonne Université, ancienne directrice du département Bases de données et apprentissage automatique du LIP6. Bernadette Bouchon-Meunier a été rédactrice en chef de l’International Journal of Uncertainty, Fuzziness and Knowledge-based Systems jusqu’en 2025 et elle est co-directrice exécutive de la conférence internationale bisannuelle IPMU depuis 1986. B. Bouchon-Meunier est (co)éditrice de 32 livres et (co)auteur de cinq. Elle a été présidente de l’IEEE Computational Intelligence Society en 2020-2021. Elle est Life Member de l’IEEE et Fellow de l’International Fuzzy Systems. Elle a reçu le Scientific Excellence Award d’EUSFLAT en 2017, le Fuzzy Systems Pioneer Award de l’IEEE CIS en 2018 et l’IEEE Frank Rosenblatt Award en 2024.

Parler de confiance à propos de systèmes techniques revient-il à étendre une notion forgée pour décrire les relations entre êtres vivants, ou à rassembler sous un même terme des phénomènes de nature différente ? À mesure que les machines acquièrent des capacités d’action, d’adaptation et de décision, les discours sur la « confiance dans l’IA » tendent à brouiller les distinctions entre fiabilité technique, confiance interpersonnelle et confiance institutionnelle. S’appuyant sur des travaux interdisciplinaires couvrant la robotique, l’informatique, les sciences cognitives et l’anthropologie sociale, cette présentation examine les tensions et les extensions de la notion de confiance à plusieurs échelles. Elle conduit à se demander ce qui se construit lors de la conception de systèmes « dignes de confiance ».

Joffrey Becker. Formé à l’anthropologie sociale à l’EHESS et au Programme Arts et Politiques de Sciences Po, Joffrey Becker enseigne à l’ENSEA et mène ses recherches au laboratoire ETIS (CNRS, CY Cergy Paris Université, ENSEA). Depuis la fin des années 2000, ses travaux portent sur les relations entre humains et machines dans les domaines de la robotique et de l’intelligence artificielle. Il s’intéresse notamment à la manière dont les systèmes intelligents viennent remettre en question les modèles établis, tant sur les plans ontologique et interactionnel que sociétal. À travers des approches interdisciplinaires et collaboratives, menées avec des partenaires publics et privés, il étudie la façon dont l’IA et la robotique transforment les relations et les pratiques contemporaines.

L’anthropologie est la science de l’être humain; i.e. la connaissance de ce qu’est l’être humain: à savoir une chose en ce qu’elle occupe une place dans le monde physique qui ne peut être partagée et qui atteste sa présence; une chose qui est plus spécifiquement un être vivant en ce qu’elle peut se développer et se reproduire, tomber malades et mourir; un être humain qui est une personne dotée de raison, de volonté, de sentiment et qui a une conscience d’elle-même et de sa propre existence; mais aussi, possiblement, de sympathie et d’empathie envers autrui.

L’anthropologie est ainsi la science de la personne: l’étude de ses compétences, de ses savoirs et savoir-faire et celle de ses manières d’être, de communiquer, d’agir et d’apprendre.

En quoi, l’anthropologie peut-elle renseigner ce qu’est l’IA générative: son caractère anthropogénique, produite par l’humain, et qui en devient de plus en plus semblable lorsqu’elle agit pour produire par imitation des contenus imagés, symboliques et physiques; mais aussi la représentation illusoire d’une soit-disant existence individuelle qui se trouve incorporée à une robotique qui lui fournit une place dans le monde physique et, de plus en plus, ici et maintenant, des fonctions qui relèvent de l’humain.

Il manque toutefois à l’IA générative, outre évidemment le vivant, à lui programmer l’intention et l’attention et surtout “la conscience de”, avec comme effet la confiance que l’humain pourrait lui accorder.

L’exposé traitera ce qu’apporte l’IA générative Agentique à l’humain au regard de l’externalisation de ses fonctions cognitives, savoirs et savoir-faire, en termes de possibles rétrogressions, mais aussi surtout de progressions: attribution des capacités humaines générales (bases de données relatives aux savoirs et savoir-faire) qui sont imitées en ce qu’elles sont et, de manière générative, pour produire du nouveau.

Charles Tijus. Spécialiste des Sciences et Technologies cognitives, Professeur des Universités, Charles Tijus a soutenu son Habilitation à Diriger des Recherches sur « Assignation de signification et construction de la représentation ». Avant d’être nommé à l’Université Paris 8, il a été durant deux ans Research Assistant au Vision-Lab du Professeur Adam Reeves (Boston, USA). Avec François Jouen, il a co-dirigé le laboratoire Cognitions Humaine et Artificielle (EA 4004 – CHArt) et sa plateforme LUTIN à la Cité des Sciences et de l’Industrie.Récipiendaire du 2014 IBM’ Faculty  Award, ses travaux de recherche (expérimentation, modélisation-simulation informatique des processus cognitifs) en science cognitive ergonomique concernent les technologies cognitives dédiées aux objets SMART (Smart Cities, Smart Home, Smart Clothes, Smart Things, autonomous cars), aux apprentissages, à l’accessibilité des lieux et des contenus, à la sémantique de l’action, à la résolution de problème et à la compréhension d’énoncés figurés, de consignes et de pictogrammes.