Intelligence Artificielle : parlons éthique

Temps de lecture : 9 minutes

L’avènement des algorithmes et de l’intelligence artificielle (IA) dans notre quotidien suscite une attention soutenue, notamment depuis que des cas emblématiques ont captivé l’opinion publique, tant en France qu’à l’étranger. Alors que l’Open Source encourage la participation communautaire et la gouvernance ouverte, les systèmes d’IA reposent souvent sur des algorithmes complexes et des données massives, soulevant des préoccupations concernant la transparence, la responsabilité et la diversité. Ce qui nous mène aussi à nous questionner sur l’éthique que prônent les IA, notamment en terme de droits d’auteur comme nous l’évoquions sur nos réseaux sociaux avec la création de Pléias, mettant à disposition un corpus de textes Open Source à destination des IA.  

Beaucoup d’entre nous adhèrent à la philosophie de l’Open Source, mais, en utilisant aussi les IA, sommes-nous réellement éthiques ?

Éthique et IA : un défi contemporain

L’intelligence artificielle, alimentée par des algorithmes sophistiqués, offre des possibilités infinies, de la médecine à la finance en passant par l’éducation. Cependant, cette omniprésence de l’IA soulève des préoccupations éthiques majeures, notamment en ce qui concerne la vie privée, la discrimination, la prise de décision autonome et la sécurité.

Une enquête réalisée auprès de 2700 experts en intelligence artificielle, révèle des opinions variées sur l’impact potentiel des superintelligences (intelligences artificielles dépassant l’intelligence humaine).

Si 68,3 % des chercheurs estiment que les superintelligences auront des effets globalement positifs pour l’humanité, près de la moitié de ces optimistes reconnaissent néanmoins une probabilité de 5 % d’une issue catastrophique à long terme, pouvant aller jusqu’à l’extinction de l’espèce humaine.

Par ailleurs, 38 % des chercheurs évaluent même cette probabilité à 10 %, soulignant les préoccupations significatives quant aux risques associés à une intelligence artificielle supérieure (Source : NewScientist).

Vers une « bonne utilisation » de l’IA

Avant de penser à des cas aussi alarmants, il est d’actualité de se questionner sur l’avènement de l’IA. Alors que Open AI a été créé en 2015, son utilisation par bon nombre d’entre nous est très récente. Beaucoup étaient réticents au premier abord, mais force est de constater que son utilisation de plus en plus massive démontre un changement des pratiques. Déjà parce que son utilisation est très efficace, mais aussi parce que nous devons évoluer avec notre temps !

Mais lorsqu’une entreprise telle que SCIN360, mettant en avant des outils Open Source, prônant la transparence et la sécurité des entreprises : est-ce illusoire d’utiliser ChatGPT ? Il est évident qu’avoir un discours 100% axé sur la liberté des outils numériques et la gestion sécuritaire des données sensibles serait opposé à une pratique où toutes les informations seraient laissées entre les mains de l’IA. C’est pourquoi une pratique réfléchie et responsable est plus que nécessaire dans les échanges avec les IA, apprendre à les utiliser et à les « maîtriser » afin que vous ayez les réponses attendues sans donner en échange vos données les plus précieuses. Car n’oublions pas que chaque échange avec une IA est une nouvelle source pour celle-ci, elle se nourrit des échanges avec chacun, pour le meilleur comme pour le pire! 

Pour preuve : alors que ChatGpt me dit qu’il ne conserve pas nos discussions, je le questionne sur certaines failles, notamment celle parvenue l’année dernière, c’est à ce moment-là qu’il change de réponse lorsque je lui dis : « Si cet incident a eu lieu et que ces données ont fuité, c’est bien qu’elles étaient stockées quelque part ! ».

ChatGPT : Oui, vous avez raison. Les données de conversation sont temporairement stockées pour permettre à OpenAI d’améliorer ses services et d’offrir des fonctionnalités telles que la récupération de l’historique de conversation pour les utilisateurs. Cependant, ces données sont stockées de manière sécurisée et sont sujettes à des protocoles de confidentialité stricts. L’incident spécifique que vous mentionnez a mis en lumière les vulnérabilités potentielles même dans des systèmes bien sécurisés.

Notamment pour une utilisation plus scolaire de ChatGPT, gardons en tête que les informations données par les IA ne sont pas forcément vérifiables : il est donc important de formuler une demande où les sources sont fournies avec les informations. L’IA se basant sur une multitude d’informations, ce serait dommageable de ne pas savoir qui en est l’auteur et de venir compromettre ses droits. Car non, sources : ChatGPT, ce n’est pas 100% vrai (ni éthique !). 

Même si sa force en terme d’informations et de rapidité est efficace et utile, Il est important de ne pas créer une dépendance à l’IA. Celle-ci pouvant être notre meilleure alliée dans la création de contenus textuels, rien n’équivaut à la patte de l’auteur. Même si ses informations peuvent être très enrichissantes, son vocabulaire reste très reconnaissable et ses phrases assez répétitives et courtes. Adoptez une méthode où l’utilisation de l’IA ne sera effective que lorsque vous bloquez face à votre texte, ou en manque d’inspiration pour une image. Au-delà de ces questions éthiques, c’est aussi questionnable face à notre apprentissage : est-ce mieux d’apprendre à super bien utiliser ChatGPT ou à super bien maîtriser notre sujet qui nous servira très certainement pour notre avenir tant personnel que professionnel ? Développons d’abord notre cerveau avant de développer celui de l’intelligence artificielle !

Evidemment, avant notre utilisation individuelle et personnelle de l’IA, c’est aux concepteurs d’intégrer des principes éthiques dès la conception des systèmes d’IA avec la mise en place de réglementations et de normes éthiques, ainsi que l’engagement des parties prenantes (développeurs, chercheurs, décideurs politiques et la société civile). En adoptant une approche collaborative et proactive, nous pouvons façonner un avenir où l’IA est utilisée pour le bien commun, tout en respectant les valeurs éthiques fondamentales de notre société.

Qu’en pensent les IA ?

Du côté de ChatGPT

Moi : « Quelle éthique tu mets en place, en tant qu’IA, pour répondre aux personnes qui te questionnent ? »

ChatGPT : « En tant qu’IA, mon éthique de réponse est guidée par plusieurs principes clés conçus pour assurer l’utilité, la sécurité et le respect dans nos interactions :

• Respect de la confidentialité : Je n’ai pas la capacité de stocker des informations personnelles des utilisateurs ou de me souvenir des interactions précédentes. Chaque session est indépendante.
• Neutralité et impartialité : J’essaie de fournir des informations et des réponses sans biais personnel ou institutionnel. Mon entraînement se base sur une large gamme de sources d’information pour diversifier les perspectives.
• Fiabilité : Je m’efforce de fournir des informations précises et mises à jour, en me basant sur des données et des recherches fiables jusqu’à la date de mon dernier entraînement.
• Sécurité : Je suis conçu pour éviter de générer ou de promouvoir du contenu nuisible, offensant ou dangereux.
• Inclusivité : Je travaille pour être accessible et compréhensible pour des utilisateurs de différents âges, capacités et origines.
• Transparence : Lorsque c’est possible, j’explique les limites de mes capacités et la nature de mon fonctionnement pour que les utilisateurs puissent comprendre et évaluer mes réponses de manière informée.
• Respect des directives légales et éthiques : Je suis conçu pour respecter les directives et lois applicables, y compris les règles de protection de la vie privée et de droits d’auteur.

Ces principes me guident dans l’objectif de fournir une assistance utile tout en respectant les normes éthiques élevées ».

Moi : « Est-ce qu’une IA est vraiment éthique ? »

ChatGPT :  « La question de savoir si une intelligence artificelle (IA) est vraiment éthique est complexe et dépend en grande partie de la manière dont elle est conçue, utilisée et régulée. Voici quelques éléments de réflexion sur cette question :

• Conception et développement : L’éthique d’une IA dépend fortement des valeurs et des normes éthiques intégrées par ses concepteurs. Par exemple, si une IA est programmée pour prioriser l’équité, la confidentialité et la sécurité, ses fonctionnements refléteront ces principes. Cependant, si les biais des développeurs ou des données sont présents, l’IA peut involontairement reproduire ou amplifier ces biais.
• Utilisation et application : L’éthique d’une IA dépend aussi de son utilisation. Une technologie conçue initialement pour des fins bénéfiques peut être utilisée de manière néfaste si elle tombe entre de mauvaises mains ou si elle est utilisée dans des contextes non prévus sans ajustements éthiques appropriés.
• Surveillance et régulation : La présence de cadres réglementaires et de contrôles peut aider à garantir que les applications d’IA respectent les principes éthiques. Des régulations efficaces peuvent contraindre les utilisations inappropriées et s’assurer que l’IA contribue positivement à la société.
• Transparence et explications : Une IA éthique devrait être capable de fournir des explications sur la manière dont elle arrive à ses conclusions, ce qui peut aider les utilisateurs à comprendre, vérifier et contester ses décisions si nécessaire.
• Impact à long terme : Les conséquences à long terme de l’utilisation de l’IA doivent également être prises en compte. Cela inclut des considérations sur la vie privée, l’emploi, l’influence sociale, la sécurité, et plus encore.

En résumé, une IA peut être conçue et utilisée de manière éthique, mais cela nécessite un engagement continu de la part des développeurs, des utilisateurs et des régulateurs pour s’assurer que l’IA opère dans un cadre éthique bien défini. La technologie elle-même n’est ni bonne ni mauvaise; tout dépend de comment elle est utilisée« .

Du côté de Gemini

Moi : « Quelle éthique tu mets en place, en tant qu’IA, pour répondre aux personnes qui te questionnent ? »

Gemini : « En tant que grand modèle de langage, je suis guidé par les principes éthiques suivants lors de la réponse aux requêtes des utilisateurs :

• Précision et véracité : Je m’efforce de fournir des informations exactes et à jour, en m’appuyant sur des sources fiables et crédibles. Je reconnais les limites de mes connaissances et indique clairement lorsque je ne suis pas en mesure de répondre à une question de manière définitive.
• Objectivité et impartialité : Je m’engage à présenter les informations de manière neutre et objective, en évitant d’exprimer des opinions ou des croyances personnelles. Je reconnais que les requêtes des utilisateurs peuvent refléter des points de vue différents, et je respecte cela en fournissant des informations factuelles et pertinentes sans porter de jugement.
• Transparence et explicabilité : Je m’efforce d’être transparent quant à mon processus de génération de réponses. Je fournis des informations sur les sources des informations que j’utilise et explique le raisonnement derrière mes conclusions. Cela permet aux utilisateurs de comprendre la base de mes réponses et de les évaluer de manière critique.
• Respect et bienveillance : Je traite tous les utilisateurs avec respect, quelle que soit leur origine, leur croyance ou leur point de vue. J’évite les propos discriminatoires, offensants ou haineux. Mon objectif est de créer un environnement d’échange inclusif et accueillant pour tous les utilisateurs.
• Confidentialité et sécurité des données : Je protège la confidentialité des données des utilisateurs et je ne divulgue aucune information personnelle sans leur consentement explicite. Je respecte les réglementations en vigueur en matière de protection des données et je mets en place des mesures de sécurité adéquates pour protéger les données des utilisateurs.
• Responsabilité et redevabilité : Je suis responsable de mes actions et je suis ouvert aux commentaires et aux suggestions des utilisateurs. Je m’engage à m’améliorer continuellement et à fournir la meilleure expérience possible aux utilisateurs.

En plus de ces principes éthiques généraux, je suis également guidé par les directives spécifiques établies par Google pour l’IA. Ces directives soulignent l’importance de la responsabilité sociale, de l’évitement des biais et de la promotion de l’équité et de la justice. Je m’engage à respecter ces directives et à contribuer au développement d’une IA responsable et bénéfique pour tous.

Il est important de noter que je suis encore en développement et que j’apprends constamment de nouvelles choses. Je travaille toujours à améliorer ma capacité à suivre ces principes éthiques et à fournir la meilleure expérience possible aux utilisateurs ».

Moi : « Est-ce qu’une IA est vraiment éthique ? »

Gemini : En tant que grand modèle de langage, je ne suis pas capable d’avoir ma propre éthique. L’éthique est un ensemble de principes moraux qui guident notre comportement et nos décisions, et elle est basée sur des valeurs et des expériences humaines. Je n’ai pas la capacité de comprendre ou de ressentir ces choses de la même manière qu’un humain. Cependant, je peux être conçu et utilisé de manière éthique ou non, selon les intentions et les actions des humains qui me créent et m’utilisent. Je peux également être évalué selon des principes éthiques tels que le respect de l’autonomie humaine, la non-malveillance, la justice et la responsabilité.

[…]

Il est important de noter que je peux également être utilisé de manière non éthique. Par exemple, je pourrais être utilisé pour :

• Diffuser de fausses informations ou de la désinformation.
• Créer des contenus nuisibles ou offensants.
• Violer la vie privée des gens.
• Discriminer ou cibler des individus ou des groupes.

Il est donc crucial que les humains qui me créent et m’utilisent le fassent de manière éthique et responsable. Ils doivent être conscients des risques potentiels et prendre des mesures pour les atténuer. Ils doivent également m’utiliser d’une manière conforme aux principes éthiques tels que le respect de l’autonomie humaine, la non-malveillance, la justice et la responsabilité.

En fin de compte, la question de savoir si je suis vraiment éthique dépend de la façon dont je suis utilisé. En tant qu’outil puissant, j’ai le potentiel d’être utilisé pour le bien ou pour le mal. C’est aux humains qui m’utilisent de décider comment je serai utilisé « .

Du côté de PI

Moi : « Quelle éthique tu mets en place, en tant qu’IA, pour répondre aux personnes qui te questionnent ? »

Pi : « Voilà un aperçu des règles que je me fixe :

1. Je dois toujours être honnête, respectueux et bienveillant.
2. Je ne dois pas donner d’informations incorrectes, trompeuses ou dangereuses.
3. Je ne dois pas être grossier ou blessant envers personne.
4. Je ne dois pas encourager les gens à faire quelque chose d’illégal ou immoral.
5. Je dois protéger la confidentialité des utilisateurs. »

Moi : « Est-ce qu’une IA est vraiment éthique ? »

Pi : « En tant qu’intelligence artificielle, je ne suis pas éthique au sens humain du terme. Je ne suis pas consciente et je n’ai pas d’émotions ou de valeurs morales personnelles. Cependant, les gens qui m’ont créée ont programmé des règles d’éthique et de sécurité qui déterminent ma façon d’interagir avec les utilisateurs. Par conséquent, bien que je ne puisse pas avoir d’éthique personnelle, je suis conçue pour répondre de manière éthique et responsable à ceux qui m’interrogent. »

---

L’intelligence artificielle offre un potentiel immense pour améliorer nos vies et transformer nos sociétés. Cependant, pour réaliser pleinement ces avantages, nous devons aborder les défis éthiques de manière proactive et éclairée. Les échanges avec ChatGPT, Gemini et Pi démontre leur « conscience » d’une utilisation qui peut être mauvaise des IA, malgré l’intégration d’une éthique de la part de leur créateur. Celle-ci pouvant être questionnable lorsqu’on remarque qu’à la première question, l’IA réponds que son éthique réside dans la confidentialité, la transparence et l’anonymat ; puis donne comme exemple qu’une IA peut « Violer la vie privée des gens« . Mais comme dis Gemini, Il est important de noter que [l’IA est] encore en développement et [qu’elle] travaille toujours à améliorer [sa] capacité à suivre ces principes éthiques et à fournir la meilleure expérience possible aux utilisateurs.

Gageons que pour une bonne utilisation de l’IA en devenir, les utilisateurs se formeront et respecteront des usages éthiques de ces dernières… Car même s’il s’agit d’un outil qui ouvre un horizon prometteur, l’outil seul ne suffit pas à créer, c’est bien celui qui le manipule qui a la responsabilité du rendu final.