Intelligence Artificielle Générative et pluralisme politique : pour une gouvernance plurielle.

Contexte : l'indignation de Roselyne Bachelot, qui reproche à l’Arcom de la “ficher” dans le même parti que Philippe de Villiers, met en lumière la nécessité d'avoir une méthodologie nuancée pour évaluer le pluralisme dans les médias.

• La diversité des opinions et des positions politiques ne peut être réduite à des catégories simplistes.
• L’approche doit prendre en compte la complexité des parcours individuels et des idéologies et éviter les généralisations hâtives.

• Cela suppose la mise en place d’une méthodologie rigoureuse (optimiser les avantages de la technologie, gérer les risques).
• Mais aussi embrasser une approche éthique, tant la puissance de ces outils peut facilement être détournée pour nuire à la liberté d’expression.

Pourquoi et comment utiliser l’IAG pour mesurer le pluralisme en politique ?

L'IAG présente des avantages significatifs en termes d'efficacité et d'objectivité dans l'analyse des données si nous maîtrisons son contexte d’utilisation.

Les principaux avantages identifiés

1. Absence de biais personnels : contrairement à l'être humain, l'IAG n'a pas d'opinions politiques propres, ni de préjugés inconscients. Elle analyse les éléments factuels qui lui sont fournis de la manière la plus neutre possible, sans être influencée par quelconque conviction.
2. Analyse large et rapide : l'IAG peut traiter de grandes quantités d'informations rapidement, offrant une vue d'ensemble des tendances politiques à grande échelle. Un analyste humain, en revanche, devra nécessairement faire des choix et pourrait passer à côté d'éléments importants.
3. Cohérence et comparabilité : l'IAG applique les mêmes règles et les mêmes critères d'analyse à l'ensemble des données, ce qui permet une comparaison objective des différents éléments entre eux. Un humain aura plus de mal à appliquer exactement la même grille d'analyse à un grand volume de données.
4. Détection des changements subtils : grâce à sa capacité à analyser des modèles linguistiques et des tendances dans d'énormes ensembles de données, l'IAG peut détecter des changements subtils dans l'opinion publique qui peuvent échapper aux analyses traditionnelles.
5. Argumentation et traçabilité : vous pouvez demander à l'IAG d'argumenter son analyse en citant directement les extraits sur lesquels elle s'appuie. Cela permet de retracer le raisonnement et les éléments factuels qui mènent à ses conclusions, pour plus de transparence et d'objectivité. C'est l'approche que nous systématisons chez Arago.

Les principaux biais

1. Biais algorithmiques : si l'IAG peut théoriquement offrir une analyse neutre, elle est sujette aux biais présents dans ses données d'entraînement. Ces biais peuvent fausser l'analyse de l'opinion publique, reflétant et amplifiant potentiellement les préjugés existants dans la société.
2. Biais dans la sélection des corpus : il faut aussi garder à l'esprit que l’analyse de l’IAG n'est objective que dans les limites des données qui lui sont fournies. Si ces données sont partielles ou biaisées, son analyse le sera aussi.
3. Manque de contexte : l'IAG peut avoir du mal à comprendre le contexte culturel, historique et social dans lequel les opinions politiques sont exprimées. Sans cette compréhension, l'analyse risque de manquer de nuances et de profondeur.

Les risques d’une surveillance automatisée et généralisée.

Bien que l'IAG ait le potentiel d'améliorer notre compréhension des opinions politiques et du pluralisme démocratique, ces outils peuvent aussi être détournés à des fins opposées, voici à ce jour les principaux risques que nous avons identifiés.

1. Surveillance et vie privée : l'utilisation de l'IAG pour surveiller les opinions politiques soulève des questions importantes sur la vie privée et la liberté d'expression. Il existe un risque que de telles technologies soient utilisées pour la surveillance de masse ou pour cibler des groupes politiques spécifiques.
2. Influence sur le discours public : la dépendance à l'IAG pour évaluer les opinions politiques pourrait affecter la manière dont les médias et les politiciens abordent le discours public, conduisant potentiellement à une homogénéisation des opinions ou à la marginalisation des points de vue minoritaires.
3. Création d’une super autorité du pluralisme: si une autorité de régulation avait le “monopole” de la définition du pluralisme via l’IAG, l’ensemble des risques présentés ci-dessus se trouveraient démultipliés. L'opérateur, sous influence du pouvoir en place ou d'intérêts particuliers, pourrait volontairement biaiser son analyse pour favoriser ou défavoriser certains courants politiques. Le pluralisme deviendrait alors un outil de manipulation de l'opinion.

Il serait dangereux de confier à une seule autorité, même en théorie indépendante, le monopole de la définition et de la régulation du pluralisme.

La puissance des outils d'IAG dans l'analyse de l'équilibre du débat démocratique et les risques de contrôle ou de manipulation associés, rendent selon nous nécessaire le développement d'une pluralité d'acteurs, avec des statuts variés (public / privé / associatif, national / local / international), en interaction les uns avec les autres.

1. Un système "redondant", où chaque acteur apporte sa pierre à l'édifice en toute indépendance, est un gage de fiabilité et de résilience.
2. Cela permet de croiser les approches, de comparer les résultats, d'identifier d'éventuels biais ou anomalies, le risque de dérive ou d'abus de pouvoir est dilué.
3. Arago prendra sa part en proposant aux médias qui le souhaitent des outils et une méthodologie indépendante du suivi du pluralisme.