IA: Mme Seghrouchni plaide pour un nouveau paradigme de l’imputabilité des systèmes agentiques

La ministre déléguée auprès du Chef du gouvernement chargée de la Transition numérique et de la Réforme de l’administration, Amal El Fallah Seghrouchni, a plaidé, mardi à Genève, pour la construction d’un nouveau paradigme de l’imputabilité (accountability) des systèmes d’intelligence artificielle (IA) agentique, estimant que la responsabilité de ces systèmes constitue “probablement l’un des plus grands défis juridiques de cette décennie”.

Intervenant lors d’un panel de haut niveau consacré au respect, à la protection et à la promotion des droits humains à l’ère de l’IA, organisé dans le cadre du Dialogue mondial sur la gouvernance de l’IA, la ministre a expliqué que les systèmes d’IA agentique reposent sur un réseau d’agents autonomes intervenant chacun à leur niveau, sans qu’un acteur humain unique soit directement à l’origine de la décision finale.

Dans ce contexte, a-t-elle relevé, il devient particulièrement difficile de déterminer quel agent doit être tenu pour responsable en cas de dysfonctionnement, ou de répartir cette responsabilité entre les différents agents impliqués.

À l’image de plusieurs acteurs contribuant chacun à une partie d’un même processus, le résultat final peut être préjudiciable sans qu’il soit possible d’identifier avec précision où l’erreur s’est produite, à quel moment et quelle est la part de responsabilité de chacun, une difficulté encore accentuée par les problèmes de causalité temporelle et la complexité de modèles composés de milliards de paramètres, a-t-elle expliqué.

Pour illustrer cette problématique, Mme Seghrouchni a rappelé que le Maroc traite près de 52 millions de transactions administratives par an, soulignant qu’à cette échelle, l’identification précise de l’origine d’un dysfonctionnement constitue un défi majeur.

Face à ces défis, elle a estimé nécessaire de développer de nouvelles méthodes capables de répondre à la complexité croissante de ces systèmes décisionnels, plaidant pour une approche fondée sur le “débrayage” (throttling), permettant de reconstruire un graphe causal non déterministe des actions des systèmes agentiques afin d’identifier, à chaque nœud, les droits applicables et de mettre en évidence les zones demeurant sans couverture, là où des risques de préjudice pour les personnes peuvent apparaître.

La ministre a, en outre, identifié trois obligations essentielles pour renforcer l’imputabilité des systèmes d’IA: une documentation structurée des chaînes d’agents précisant qui fait quoi, comment et à quel moment, notamment dans les services publics; la désignation d’un responsable humain clairement identifiable pour toute décision affectant les droits des personnes; ainsi que la garantie d’un droit à un recours effectif dans un délai compatible avec la vitesse réelle des systèmes d’intelligence artificielle.

“L’autonomie opérationnelle d’un algorithme ne doit jamais devenir une autonomie à l’égard du droit”, a-t-elle souligné, appelant également à une gouvernance anticipative fondée sur les droits humains et adaptée à la complexité croissante de l’IA, ainsi qu’au développement de mécanismes concrets d’évaluation des risques, de traçabilité, d’audit et de supervision humaine, tenant compte des réalités institutionnelles et des priorités de développement propres à chaque pays.

Les échanges lors de ce panel ont notamment porté sur la transparence, la redevabilité, le contrôle humain, la prévention des risques tout au long du cycle de vie des systèmes d’intelligence artificielle, ainsi que sur la protection des enfants, des femmes et des populations les plus vulnérables.