Mod Assist

Pourquoi intégrer Rocket.Chat à l'application Mod Assist ?

La modération du contenu constitue une protection essentielle contre les messages nuisibles et offensants, garantissant le bien-être des utilisateurs de la plateforme. Les entreprises ont la responsabilité morale de protéger leurs utilisateurs des contenus inappropriés, de maintenir la réputation de leur marque en tant qu'environnement sûr et d'adhérer aux réglementations pertinentes qui imposent la suppression des contenus offensants et illégaux.

Cependant, la modération du contenu pose des problèmes, notamment en raison du volume considérable de messages échangés en permanence sur les plateformes de collaboration. En outre, les risques potentiels d'exposition des modérateurs humains à des contenus nuisibles rendent la modération manuelle de moins en moins souhaitable. Voici quelques limitations associées à la modération manuelle de contenu :

• Le volume : La prolifération rapide des plateformes de collaboration et le nombre sans cesse croissant de messages échangés font qu'il est difficile pour les entreprises de suivre le rythme du volume de contenu nécessitant une modération.
• Cohérence : Assurer la cohérence des pratiques de modération au sein d'une organisation peut s'avérer une tâche ardue, en particulier lorsque plusieurs modérateurs ou cultures sont impliqués.
• Précision : Les modérateurs doivent être en mesure d'identifier avec précision les contenus inappropriés ou préjudiciables et de prendre des décisions éclairées concernant leur approbation ou leur rejet.
• Rapidité : La modération de contenu est une tâche complexe, surtout lorsqu'il s'agit de traiter des zones grises et des situations ambiguës. La rapidité avec laquelle le contenu doit être modéré est un aspect essentiel, car une action rapide peut contribuer à minimiser l'impact d'un contenu inapproprié ou préjudiciable.

En règle générale, la modération de contenu implique un processus en deux étapes. Tout d'abord, les utilisateurs signalent les contenus qu'ils jugent offensants ou contraires aux lignes directrices du lieu de travail. Ensuite, une équipe de modération examine et évalue les messages signalés. L'inconvénient de s'appuyer uniquement sur les signalements des utilisateurs est le risque que des contenus préjudiciables passent inaperçus, ce qui pourrait nuire à la réputation de votre plateforme et éroder la confiance des utilisateurs.

C'est là que la modération automatisée du contenu entre en jeu. L'application Mod Assist détecte et signale automatiquement les contenus inappropriés sur la base de règles de modération prédéfinies au sein d'un espace de travail.

Remarque : Pour des raisons de confidentialité, l'application est conçue par défaut pour ne pas fonctionner dans les salons privés et, par conséquent, elle ne signalera pas les messages provenant de ces salons.

Cependant, si vous souhaitez activer la modération pour ces salons privés également, vous devrez admettre individuellement l'application dans ces salons, en tant qu'utilisateur. N'oubliez pas d'ajouter ces salons privés dans les paramètres de l'application, dans la section où vous spécifiez les salons que l'application doit modérer. Cela servira d'authentification à deux facteurs pour l'accès aux salons privés.

Avantages de l'utilisation de l'application Mod Assist

Cette application offre de nombreux avantages, notamment en termes de rapidité, de protection et d'efficacité.

• Efficacité accrue : En signalant automatiquement les contenus douteux, l'application rationalise le cycle de modération, ce qui permet un examen plus rapide et plus efficace. La charge de travail des modérateurs humains s'en trouve réduite. Ils peuvent ainsi se concentrer sur des tâches plus complexes, telles que l'examen des contenus signalés ou l'enquête sur les signalements d'abus.
• Rapidité accrue : Compte tenu de la prolifération rapide des messages échangés, il ne serait pas pratique de s'appuyer uniquement sur une modération manuelle, car cela nécessiterait une grande équipe de modérateurs humains et un emploi du temps très chargé. Le principal avantage de cette application est qu'elle fait gagner un temps précieux à vos modérateurs en leur permettant de se concentrer sur l'examen des seuls messages signalés, au lieu d'avoir à examiner chaque message et à signaler ceux qui sont inappropriés.
• Un meilleur bien-être : L'application joue un rôle essentiel dans la préservation de la sécurité et du bien-être mental des utilisateurs et des modérateurs humains en détectant rapidement diverses formes de contenus nuisibles et offensants relatifs à la violence, au matériel sexuellement explicite et aux activités potentiellement illégales.

Les types de contenus qui peuvent être modérés automatiquement varient en fonction des besoins de la plateforme et des ressources disponibles. Les catégories suivantes de contenus inappropriés peuvent être détectées et signalées à l'aide de l'application :

• Toxicité : tout message dur, irrespectueux, négatif, malveillant, nuisible ou haineux est toxique par nature. L'application permet d'identifier et de signaler les contenus qui contiennent du sectarisme et les messages qui constituent des brimades ou du harcèlement.
• Profanation : tout message dont le langage est mauvais, abusif, grossier, vulgaire ou obscène est considéré comme une profanation. L'application est formée pour identifier et signaler les contenus contenant des blasphèmes ou un langage explicite.
• Risque financier : l'application peut identifier et signaler les messages frauduleux envoyés par des fraudeurs et des imposteurs pour vous inciter à divulguer des informations personnelles sensibles ou des données financières susceptibles d'entraîner un vol d'identité, une perte financière ou un accès non autorisé.
• Flirt : les messages indécents, intimes, non désirés et inappropriés peuvent être considérés comme des types de contenu de flirt. 

L'application Mod Assist ne sera disponible que pour les espaces de travail fonctionnant à partir de la version 6.3.0. L'application Mod Assist est disponible pour tous les plans premium. Veuillez vous référer à notre documentation technique pour commencer à utiliser l'application.