Utilisation responsable des données et de l’intelligence artificielle générative

Utilisation courante de l’IA générative et des données

Pour créer du contenu, l’IA a évolué jusqu’à unifier des capacités de recherche et de création de contexte en examinant des tonnes de textes, ce qui lui permet de rédiger des réponses intelligentes. Les plateformes d’IA générative sont basées sur des algorithmes sophistiqués qui apprennent à rapidement obtenir des résultats et produire des réponses ou du nouveau contenu imitant la créativité humaine. Les résultats peuvent contribuer à la productivité du personnel, à l’efficacité opérationnelle, à la conformité et à bien d’autres choses encore. Il faut toutefois s’assurer que la véracité des données est intacte et que des protocoles de sécurité sont en place, par exemple des analyses et des classifications de données.

Bien que les applications pratiques faisant appel à l’IA générative n’en soient qu’au début, nous voyons déjà leur popularité croître au sein des activités suivantes :

• Gestion de l’information entrante et sortante

• Création et personnalisation de contenu pour le marketing, les réseaux sociaux et les courriels

• Numérisation, classification et séparation des documents

• Augmentation et synthèse des données

• IA et robots conversationnels

• Sommaire d’extraction et d’abstraction

Pourtant, lorsque nous examinons les applications pratiques de ces outils, surtout au sein des cadres de travail liés aux données non structurées, un enjeu prend beaucoup d’importance : la protection de l’intégrité et de la sécurité des données face à l’IA générative. La gouvernance de l’information peut grandement contribuer à favoriser l’intégrité et la sécurité des données.

IA générative et données non structurées

Les données non structurées, qui constituent la majeure partie des données mondiales, ne respectent pas un modèle spécifique de données, il est donc difficile de les analyser ou de les traiter au moyen des méthodes traditionnelles. C’est là que l’IA générative excelle, puisqu’elle peut ratisser et interpréter les sources de données non structurées pour générer de nouveaux renseignements, des nouveaux messages et du nouveau contenu. Cette capacité a de profondes répercussions sur l’ensemble des secteurs, de la hausse de l’engagement de la clientèle à l’optimisation des flux de travaux, en passant par la promotion des prises de décisions basées sur l’IA.

Toutefois, l’exploitation du pouvoir de l’IA générative et des données entraîne de nouveaux enjeux, notamment à l’égard de la confidentialité des données, de la conformité, de la création de contenu éthique, mais aussi des principes fondamentaux d’impartialité et d’équité inhérents à ces systèmes. De plus, la majorité des données non structurées est bien souvent non sécurisée, ce qui contribue grandement aux brèches de sécurité, aux violations des renseignements personnels, aux coûts élevés en matière de TI ainsi qu’aux pénalités liées à la non-conformité. Ces données sont particulièrement à risque d’être la cible de cyberattaques, puisque les acteurs malveillants peuvent s’en servir pour obtenir l’accès à d’autres applications, systèmes et appareils.

En bref, les données non structurées mettent en danger la véracité des données lorsqu’elles sont utilisées au moyen de l’IA générative. L’IA générative peut accéder aux données non structurées et les exploiter plus efficacement que les autres modèles d’IA. Le risque, c’est que l’IA apprend des données qu’elle exploite. Par conséquent, si la qualité, la précision et l’intégrité des données sont mauvaises et si ces données ne sont pas crédibles, les résultats et le contexte que l’IA produira seront inexacts ou trompeurs. C’est pourquoi les dirigeants d’affaires devraient connaître l’état de leurs données existantes. Compte tenu de la popularité grandissante de l’IA générative, il est plus important que jamais que les données soient « propres ».

Cela nous amène à aborder les défis posés par les données non structurées, en particulier les données cachées et les données redondantes, obsolètes ou insignifiantes ‌(ROI). Selon Gartner®, les données cachées sont « les actifs d’information que les organisations recueillent, traitent et stockent dans le cadre de leurs activités régulières, mais qu’elles n’utilisent pas à d’autres fins (p. ex. : pour des analyses, des relations d’affaires ou une monétisation directe). Les données cachées font partie de l’univers des actifs d’information des organisations. C’est pourquoi les organisations les conservent souvent uniquement à des fins de conformité. Le stockage et la protection de ces données impliquent généralement plus de dépenses (et souvent plus de risques) que de valeur.¹»

Ensuite, on trouve les données ROI. Comme leur nom l’indique, ces données n’apportent aucune valeur à l’organisation, mais elles constituent souvent la majeure partie des données non structurées. Les données ROI occupent de l’espace de stockage précieux, nuisent aux recherches et exposent les organisations à des enjeux de sécurité, surtout à l’égard de la protection des renseignements personnels.

Grâce aux applications permettant l’analyse de fichiers, le traitement intelligent des documents et la gestion du contenu d’entreprise, les données cachées et les données ROI peuvent être identifiées, classées et, au besoin, supprimées.

Six réflexions sur l’utilisation sécuritaire et responsable de l’intelligence artificielle générative

Les mesures de sécurité et de gouvernance de l’information doivent être renforcées si l’on souhaite faire preuve de responsabilité sociale dans notre utilisation de l’IA générative et des données. Voici six façons dont les organisations peuvent influencer la véracité des données pour favoriser de meilleurs résultats :

1. Confidentialité des données

Les images, les données multimédias et le texte non structurés ont du potentiel, mais comportent aussi des risques. Le bon côté est que ce sont de riches sources d’information servant à l’apprentissage et à la création des modèles génératifs. Toutefois, leur nature même de données non structurées pose un risque pour la confidentialité. Le maintien de la protection des renseignements confidentiels contenus dans les documents, les courriels et d’autres données est à la base de l’utilisation éthique de l’IA.

2. Conformité

Au sein des secteurs régis par des réglementations strictes, comme ceux des soins de santé ou des finances, l’utilisation de l’IA générative doit respecter des normes de conformité adéquates pour assurer la protection contre les brèches de données et pour maintenir la confidentialité de l’information personnelle et exclusive. Ainsi, il est obligatoire de veiller à ce que les applications d’IA générative soient conçues et gérées de manière entièrement conforme aux lois de protection des données.

3. Contenu éthique

Le contenu généré par l’IA soulève bon nombre de réflexions éthiques, notamment à l’égard du potentiel de l’hypertrucage, de la désinformation, des enjeux d’infraction du droit d’auteur ou encore des sensibilités culturelles. Les dirigeants d’affaires doivent surveiller le développement, l’adoption et la supervision des applications d’IA générative pour s’assurer que leur génération de contenu respecte les directives éthiques.

4. Biais et impartialité

L’un des autres enjeux critiques à aborder est la réduction des biais au sein des modèles génératifs. La qualité de la production de l’IA générative s’appuie grandement sur la diversité et la qualité des données entrées, qu’elles soient structurées ou non. Si les données auxquelles l’IA a recours pour apprendre sont biaisées, le modèle pourrait perpétuer ou même aggraver les biais. Encore une fois, la véracité des données est essentielle pour assurer la bonne représentation et la précision. Les entreprises doivent mettre en place des procédures rigoureuses de détection et de correction des biais pour s’assurer que le contenu généré soit impartial.

5. Mesures de sécurité

La protection des données non structurées auxquelles l’IA générative a accès exige une approche de sécurité robuste à plusieurs niveaux. Le chiffrement, le contrôle des accès et la réalisation d’audits de cybersécurité sur une base régulière sont essentiels à la protection contre les attaques et les brèches. La mise en place de pratiques sécuritaires de gouvernance et de gestion de l’information à la source garantit l’intégrité des données et atténue les risques d’exploitation par des acteurs malveillants.

6. Transparence et imputabilité

Pour que les utilisateurs et les intervenants se fient à l’authenticité et à la validité du contenu créé par l’IA générative, il est essentiel que cette dernière fasse preuve de transparence et d’imputabilité. L’établissement de communications claires sur les origines du contenu généré par l’IA, notamment au moyen de « méta-étiquettes » ou par le maintien de dossiers sur l’apprentissage et les applications des modèles, permet aux utilisateurs de se fier au contenu produit. Le recours aux citations et la contre-vérification de l’exactitude sont essentiels à l’établissement de la confiance.

Vigilance à l’égard de la véracité des données non structurées

Le succès de l’IA générative repose sur la protection et l’utilisation éthique des données non structurées. Vous devez absolument comprendre vos données et maintenir la gouvernance de votre information. La mise en place de pratiques de gouvernance de l’information contribue à assurer que toutes les données exploitées par l’IA générative soient fiables et exactes. De plus, la gouvernance de l’information établit un cadre de travail stratégique permettant de gérer l’information à l’échelle de l’organisation, de respecter des demandes de conformité, d’atteindre les objectifs éthiques ainsi que de garantir la transparence et l’imputabilité en matière de confidentialité et de sécurité.