Intelligence artificielle générative en milieu universitaire
Limites de ChatGPT
• Hallucinations : informations inexactes, sources inexistantes et raisonnements erronés présentés de manière convaincante.
• Obsolescence : concernant les outils pré-entraînés, non connectés à l'Internet: les données d’entrainement sont limitées dans le temps, et l'outil n'apprend pas en continu de ses expériences.
• Biais : tendance des algorithmes à refléter les préjugés humains, ce qui peut conduire à de la désinformation.
• Problèmes avec les éditeurs : n'acceptent pas de considérer les grands modèles de langage (LLM) comme des auteurs (rejet, etc.).Principaux enjeux sociaux
• Fracture numérique :
- Inégalité d'accès (économiques, géographiques, entre hommes et femmes, etc.).
- Inégalité de littératie informationnelle et numérique (voire algorithmique).
Voir le dossier Le cadre de l’utilisation de l’intelligence artificielle par l’état du Conseil de l'innovation du Québec.
• Emplois à risque / précarité d'emploi :
- Automatisation grandissante qui met des emplois à risque de disparaître.
- Évolution des compétences attendues et besoins de formation.
Voir le dossier Les impacts de l’intelligence artificielle sur le travail et l’emploi du Conseil de l'innovation du Québec.
Autres ressources intéressantes pour développer sa réflexion autour de ces enjeux :
Former à l'éthique de l'IA
Droit d'auteur et propriété intellectuelle
• Risque de plagiat.
• Risque de violation du droit d'auteur.
• Risque d'exploitation des données personnelles :
|
• Voir ces 5 choses à ne pas partager avec des Chatbots. |
Principaux enjeux environnementaux
• Empreinte carbone élevée.
|
Créé par un regroupement d'experts en IA, CodeCarbon est un outil d'estimation et de réduction de la quantité de dioxyde de carbone (CO2) produite par les ressources informatiques nécessaires aux algorithmes. Il s'agit d'un logiciel à intégrer de manière transparente dans votre base de code Python. |
• Forte consommation de ressources et matières première (eau, silicium, etc.)
• Traitement des déchets électroniques qui se multiplient avec l'accélération des évolutions technologiques.
Ressources intéressantes pour développer sa réflexion autour de ces enjeux :
Enjeux démocratiques
Voir le dossier Les autres impacts sociétaux de l’intelligence artificielle du Conseil de l'innovation du Québec, qui aborde des thématiques connues et abordées dans cette page, mais sous l'angle des risques que cela fait courir à la démocratie, notamment :
- Les biais cognitifs que les algorithmes alimentent et/ou renforcent.
- Les contenus où le vrai et le faux s'imbriquent.
- L'instrumentalisation de l'IA à des fins partisanes.
- Le défi de la littératie numérique et algorithmique.
- La défiance du public envers les institutions et/ou les médias.
