Pensée critique et évaluation de l'information

• Fonctionnement opaque :

• Risque de plagiat,
• Risque de violation du droit d'auteur.
• Risque d'exploitation des données personnelles :

• Voir ces 5 choses à ne pas partager avec ChatGPT.
• Voir aussi ce lien pour demander à OpenAI de ne pas utiliser votre contenu comme données d'entrainement.

• Hallucinations : informations inexactes, sources inexistantes et raisonnements erronés présentés de manière convaincante.

• Obsolescence : ChatGPT 3.5 n'est pas connecté à l'Internet : les des données d’entrainement sont limitées dans le temps, et l'outil n'apprend pas en continu de ses expériences.

• Problèmes avec les éditeurs : n'acceptent pas de considérer les grands modèles de langage (LLM) comme des auteurs (rejet, etc.).

• Biais : tendance des algorithmes à refléter les préjugés humains, ce qui peut conduire à de la désinformation.

QUAND UTILISER CHATGPT ?

Notre traduction à partir de When is it safe to use ChatGPT? par Aleksandr Tiulkanov, image sous licence CC BY.

COMMENT UTILISER CHATGPT ?

ChatGPT doit toujours être utilisé en complément d'outils éprouvés dans le temps (bases de données bibliographiques), et de manière critique.

Il est en effet plus que jamais nécessaire de : 

• S'interroger : pour se faire une idée claire de la fiabilité (ou non) d'un outil et des résultats qu'il génère. L'UQAM propose une liste de questions.

• Vérifier l'exactitude des références et informations générées. 

• Mentionner l’usage d’un outil d’IA (et la méthode d'utilisation) chaque fois que c'est le cas. 
Rappel : "mention" n'est pas "citation". Un outil d'IA ne peut être cité comme auteur, puisque la condition de responsabilité (juridique et morale) ne peut lui être imputée.

• Encourager et participer au mouvement du libre accès et de la science ouverte : faciliter les vérifications et le recours aux sources pour plus de transparence.

Voir les 11 fiches synthétiques du Carrefour de l’enseignement et de l’apprentissage de l’UQAC (en partage libre, CC BY-NC-ND).

Malgré ces points de vigilance à avoir en tête, on le sait, l'IA est déjà très utile, notamment comme point de départ, outil de suggestion et d'ébauche (de texte, de dessin, de code, etc.). Par exemple, ChatGPT permet de  : 

• Rechercher des mots-clés,
• Suggérer des idées et des pistes de réflexion (remue-méninges),
• Se faire une première idée d'un sujet,
• Définir des termes et des concepts,
• Résumer un texte,
• Aide à la rédaction, amélioration de la grammaire et de l'écriture,
• Traduire (DeepL étant à privilégier), 
etc.

• À Polytechnique Montréal :

L'avis DAAEE-008 de la Direction des affaires académiques et de l'expérience étudiante (4 juillet 2023) stipule que l'utilisation non autorisée d'un outil d'intelligence artificielle pourrait être considérée comme frauduleuse. 

Voir aussi : le dossier du Bureau d'Appui et d'Innovation Pédagogique (BAIP) relatif aux SIAG à Polytechnique.

• Dans le monde universitaire en général, la réflexion est en cours.

• Avis du groupe d'experts externes sur l'IA générative, notamment dans le cadre de demandes de subventions de recherche.

• Déclaration de Montréal pour un développement responsable de l'IA.  

• UNESCO : recommandation sur l'éthique de l'intelligence artificielle (193 signataires, dont le Canada).

• Le conseil de l'innovation du Québec a publieé plusieurs rapport en 2023 : voir les documents de la réflexion collective sur l'encadrement de l'IA.

• Le gouvernement fédéral a déposé en juin 2022 une loi visant à réglementer la conception, le développement et l’utilisation des systèmes d’IA. Il s’agit de la Loi sur l’intelligence artificielle et les données (la « LIAD »). Elle s'insère dans le cadre du projet de loi C-27, intitulé Loi de 2022 sur la mise en oeuvre de la charte du numérique.