Détails du sujet
Conception d'un système basé sur l'intelligence artificielle pour la détection automatique des commentaires de haine et de harcèlement en ligne
Résumé
Auteur : IRAGI RUGENGE
Niveau:
Département: Genie Informatique
Année Ac: 2022-2023 , | 2023-12-11 05:37:39
Mots clés
IA, NLP
Intérêt
La façon dont nous échangeons et communiquons, nous porte à cœur et la viabilité des médias que nous utilisons pour communiquer nous fascine, d’où le choix de ce sujet découle ainsi de mon désir de comprendre en profondeur comment la technologie, en particulier l'intelligence artificielle, peut être employée pour adresser cette problématique. Mon intérêt réside dans la recherche d'une approche équilibrée qui permettrait de préserver la liberté d'expression tout en protégeant les individus des contenus nocifs en ligne.
Ce sujet s'inscrit dans le cadre d'une problématique croissante et actuelle qui préoccupe non seulement les chercheurs, mais aussi les entreprises technologiques, les organismes de régulation et la société dans son ensemble. Les travaux antérieurs dans ce domaine ont jeté les bases de l'utilisation de l'IA pour la détection de contenus problématiques en ligne, mais des questions fondamentales demeurent. Cette recherche vise à apporter une contribution significative en examinant les défis techniques et éthiques inhérents à la conception d'un tel système de détection, ainsi qu'en proposant des stratégies pour un environnement en ligne plus sécuritaire.
Cette recherche a pour ambition de fournir des recommandations et des directives pour l'implémentation de solutions technologiques et de politiques qui atténuent les effets préjudiciables des plateformes en ligne comme twitter (X), tout en maintenant un équilibre entre la liberté d'expression et la sécurité en ligne.
Problématique
La conception d’un système de détection de la haine et du harcèlement en ligne soulève un problème essentiel dans notre ère numérique. À mesure que les interactions en ligne se multiplient, la prolifération de contenus haineux, offensants et de comportements de harcèlement en ligne compromet gravement la qualité de l'environnement en ligne. Cette réalité nuit à la libre expression, à la diversité des opinions et au débat constructif. Les individus sont exposés à des abus et des attaques verbales, ce qui peut avoir des répercussions émotionnelles et psychologiques profondes. En outre, la présence continue de telles manifestations en ligne peut restreindre la participation des individus vulnérables et dissuader la contribution positive à l'espace numérique.
Le défi majeur réside dans la détection précise et rapide de ces contenus nocifs. Les volumes massifs de données en ligne rendent difficile l'identification manuelle et l'évaluation de chaque instance de discours problématique. C'est là qu'intervient la technologie de l'intelligence artificielle (IA), offrant la possibilité d'automatiser la détection de ces contenus. La mise en place d'un système efficace de détection exige une balance délicate entre la protection contre les abus et la préservation de la liberté d'expression.
Plan provisoire
1. Au premier chapitre, Généralités sur le traitement automatique du langage naturel, nous passons en revue toute la théorie nécessaire à la compréhension de notre travail.
2. Au second chapitre, Présentation de la détection de la haine et du harcèlement en ligne, nous y présentons les aspects de la détection automatique des tweets haineux et du harcèlement essentiel à notre travail et y concevons pas à pas le système de détection automatique de la haine et du harcelèment.
3. Au troisième chapitre : Conception finale, réalisation et tests, nous y finalisons la conception et expliquons les points importants de l’implémentation en nous basant sur la conception faite, puis nous présentons les résultats des tests que nous avons effectués.
Hypothèses
A la suite des questions que nous venons de soulever, nous postulons que :
• L'utilisation de techniques d'intelligence artificielle, telles que l'apprentissage automatique et le traitement du langage naturel, pourrait permettre la détection automatisée des contenus haineux et offensants en ligne, en analysant les schémas linguistiques et sémantiques.
• La mise en place d'un système de détection de la haine et du harcèlement en ligne basé sur l'IA pourrait contribuer à réduire la propagation de contenus nuisibles, en identifiant rapidement les discours problématiques et en les signalant aux plateformes pour une action corrective.
• L’utilisation exclusive de l'IA pour la détection pourrait engendrer des biais et des erreurs de classification, conduisant potentiellement à la suppression erronée de contenus légitimes, soulignant ainsi la nécessité d'une approche équilibrée entre l'automatisation et la surveillance humaine.
Méthodes
Pour atteindre les objectifs fixés, cette recherche adoptera une approche méthodologique en plusieurs étapes, intégrant à la fois des méthodes quantitatives et qualitatives. Voici les principales étapes de la méthodologie :
Revue de la Littérature, la collecte et Préparation des Données : Nous utiliserons des jeux de données existant pour faire cette tâche, développement du Modèle IA (différents modèles seront expérimentés et comparés pour identifier celui offrant les meilleures performances) enfin l’évaluation et Analyse (Le modèle sera évalué en utilisant des métriques telles que la précision, le rappel et la F-mesure. Les faux positifs et les faux négatifs seront analysés pour comprendre les limites du modèle).
Bibliographie
NLP, IA
Directeur & Encadreur
Directeur: AKWIR Alain NKIEDIEL
Encadreur: NZANZU Patrick VINGI
Status
Décision ou observation:
Feu vert:
Déposé : NO
Défendu: NO
Finalisé:
Conception d'un système basé sur l'intelligence artificielle pour la détection automatique des commentaires de haine et de harcèlement en ligne
Résumé
Auteur : IRAGI RUGENGE
Niveau:
Département: Genie Informatique
Année Ac: 2022-2023 , | 2023-12-11 05:37:39
Mots clés
IA, NLPIntérêt
La façon dont nous échangeons et communiquons, nous porte à cœur et la viabilité des médias que nous utilisons pour communiquer nous fascine, d’où le choix de ce sujet découle ainsi de mon désir de comprendre en profondeur comment la technologie, en particulier l'intelligence artificielle, peut être employée pour adresser cette problématique. Mon intérêt réside dans la recherche d'une approche équilibrée qui permettrait de préserver la liberté d'expression tout en protégeant les individus des contenus nocifs en ligne.Ce sujet s'inscrit dans le cadre d'une problématique croissante et actuelle qui préoccupe non seulement les chercheurs, mais aussi les entreprises technologiques, les organismes de régulation et la société dans son ensemble. Les travaux antérieurs dans ce domaine ont jeté les bases de l'utilisation de l'IA pour la détection de contenus problématiques en ligne, mais des questions fondamentales demeurent. Cette recherche vise à apporter une contribution significative en examinant les défis techniques et éthiques inhérents à la conception d'un tel système de détection, ainsi qu'en proposant des stratégies pour un environnement en ligne plus sécuritaire.
Cette recherche a pour ambition de fournir des recommandations et des directives pour l'implémentation de solutions technologiques et de politiques qui atténuent les effets préjudiciables des plateformes en ligne comme twitter (X), tout en maintenant un équilibre entre la liberté d'expression et la sécurité en ligne.
Problématique
La conception d’un système de détection de la haine et du harcèlement en ligne soulève un problème essentiel dans notre ère numérique. À mesure que les interactions en ligne se multiplient, la prolifération de contenus haineux, offensants et de comportements de harcèlement en ligne compromet gravement la qualité de l'environnement en ligne. Cette réalité nuit à la libre expression, à la diversité des opinions et au débat constructif. Les individus sont exposés à des abus et des attaques verbales, ce qui peut avoir des répercussions émotionnelles et psychologiques profondes. En outre, la présence continue de telles manifestations en ligne peut restreindre la participation des individus vulnérables et dissuader la contribution positive à l'espace numérique.Le défi majeur réside dans la détection précise et rapide de ces contenus nocifs. Les volumes massifs de données en ligne rendent difficile l'identification manuelle et l'évaluation de chaque instance de discours problématique. C'est là qu'intervient la technologie de l'intelligence artificielle (IA), offrant la possibilité d'automatiser la détection de ces contenus. La mise en place d'un système efficace de détection exige une balance délicate entre la protection contre les abus et la préservation de la liberté d'expression.
Plan provisoire
1. Au premier chapitre, Généralités sur le traitement automatique du langage naturel, nous passons en revue toute la théorie nécessaire à la compréhension de notre travail.2. Au second chapitre, Présentation de la détection de la haine et du harcèlement en ligne, nous y présentons les aspects de la détection automatique des tweets haineux et du harcèlement essentiel à notre travail et y concevons pas à pas le système de détection automatique de la haine et du harcelèment.
3. Au troisième chapitre : Conception finale, réalisation et tests, nous y finalisons la conception et expliquons les points importants de l’implémentation en nous basant sur la conception faite, puis nous présentons les résultats des tests que nous avons effectués.
Hypothèses
A la suite des questions que nous venons de soulever, nous postulons que :• L'utilisation de techniques d'intelligence artificielle, telles que l'apprentissage automatique et le traitement du langage naturel, pourrait permettre la détection automatisée des contenus haineux et offensants en ligne, en analysant les schémas linguistiques et sémantiques.
• La mise en place d'un système de détection de la haine et du harcèlement en ligne basé sur l'IA pourrait contribuer à réduire la propagation de contenus nuisibles, en identifiant rapidement les discours problématiques et en les signalant aux plateformes pour une action corrective.
• L’utilisation exclusive de l'IA pour la détection pourrait engendrer des biais et des erreurs de classification, conduisant potentiellement à la suppression erronée de contenus légitimes, soulignant ainsi la nécessité d'une approche équilibrée entre l'automatisation et la surveillance humaine.
Méthodes
Pour atteindre les objectifs fixés, cette recherche adoptera une approche méthodologique en plusieurs étapes, intégrant à la fois des méthodes quantitatives et qualitatives. Voici les principales étapes de la méthodologie :Revue de la Littérature, la collecte et Préparation des Données : Nous utiliserons des jeux de données existant pour faire cette tâche, développement du Modèle IA (différents modèles seront expérimentés et comparés pour identifier celui offrant les meilleures performances) enfin l’évaluation et Analyse (Le modèle sera évalué en utilisant des métriques telles que la précision, le rappel et la F-mesure. Les faux positifs et les faux négatifs seront analysés pour comprendre les limites du modèle).
Bibliographie
NLP, IADirecteur & Encadreur
Directeur: AKWIR Alain NKIEDIELEncadreur: NZANZU Patrick VINGI
Status
Décision ou observation:Feu vert:
Déposé : NO
Défendu: NO
Finalisé: