一种基于用户高度参与的社区治理系统和方法

摘要

本发明提供一种基于用户高度参与的社区治理系统和方法，包括违规内容/用户发现、用户自治系统、社区平台运营人员干预，和违规处理结果反馈和申诉。针对社区氛围的治理，建立基于用户高度参与的社区自治系统，比平台处理更容易维系社区氛围且效率更高。

说明书

技术领域

本发明涉及社区治理机制技术领域，具体而言，涉及一种基于用户高度参与的社区治理系统和方法。

背景技术

当前大部分社区秩序的维系，主要依赖于社区运营人员进行判定，具体处理方案如图2所示，现有技术的社区治理方法的流程图。包括如下：

违规内容/用户发现。包括用户举报，用户踩，模型；

接下来，运营处理系统，社区运营人员处理违规内容/用户；

最后，违规处理结果反馈和申诉处理。

现有的社区治理系统主要几方面的缺陷：高度依赖单个社区人员主观判断，准确率不可控。社区变大产生更多疑似违规内容，依赖招募更多社区运营人员解决，同时无法保证处理时效性，往往违规内容被处理时已经曝光给更多社区用户，产生了不良影响。

鉴于此，保证召回更多疑似违规内容处理效率，提升处理率和降低处理时间延迟，以及多人投票保证判罚结果准确性，成为当前需要解决的问题。

发明内容

本发明旨在解决现有技术中保证召回更多疑似违规内容处理效率，提升处理率和降低处理时间延迟，以及多人投票保证判罚结果准确性的问题。本发明提供一种基于用户高度参与的社区治理系统和方法，包括违规内容/用户发现、用户自治系统、社区平台运营人员干预，和违规处理结果反馈和申诉。基于用户高度参与的社区自治系统核心运转方式为：1)社区重度用户进行举报、踩等行为表态，结合算法模型和用户表态行为，将能够引起社区冲突内容召回；2)能够引起社区冲突的内容，交由经过测试的社区治理员(用户)投票判断处理结果，根据处理结果进行裁定。

为了解决上述技术问题，本发明提出一种基于用户高度参与的社区治理系统，该系统包括：

违规内容/用户发现模块，用于违规内容和用户发现，通过用户举报、踩以及模型，发现疑似违规内容和疑似违规用户。

用户自治系统模块，用于经过用户举报、踩或模型召回的违规内容和用户，进入用户自治系统经过治理员进行多人投票后，给出判别结果。

社区平台运营人员干预模块，用于保证自治系统准确率，社区平台运营人员日常通过添加历史判例题和检查治理员最终投票结果及处理申诉，来影响治理员的准确率。

违规处理结果反馈和申诉模块，用于根据自治系统投票得到的结果，对于违规用户和内容反馈违规结果并给予警告/处罚，以保证违规用户不再犯，同时给予不认同判定结果的用户申诉流程，反馈给运营人员处理。

可选地，所述用户自治系统模块，进一步用于招募核心用户申请社区治理员角色，通过用户在社区的历史活跃行为，自动邀请潜在的社区治理员角色申请成为社区治理员。

可选地，所述用户自治系统模块，进一步用于社区治理员测试，获得邀请资格的潜在社区治理员需通过10-20道历史判例和社区规范测试，测试后达到测试通过分数的才能够成为正式的社区治理员，正式社区治理员能够参与投票判别内容或行为是否违规。

可选地，所述用户自治系统模块，进一步用于治理员参与违规内容/用户投票。通过测试题考试的正式社区治理员，根据历史判例和社区规范进行违规内容/行为判别投票，为了保证投票有效性，投票过程中会穿插考察题目，判断该治理员投票是否可信。

可选地，所述用户自治系统模块，进一步用于根据治理员投票结果和准确率，给出违规处理结果，根据治理员的准确率和历史工作情况，给出疑似违规内容判定结果，违规或未违规。

可选地，所述违规内容/用户发现模块中的所述模型包括广告、攻击引战文本模型。

本发明的另一方面提供一种基于用户高度参与的社区治理方法，该方法包括以下步骤，

100，违规内容/用户发现模块，用于违规内容和用户发现，通过用户举报、踩以及模型，发现疑似违规内容和疑似违规用户；

200，用户自治系统，用于经过用户举报、踩或模型召回的违规内容和用户，进入用户自治系统经过治理员进行多人投票后，给出判别结果；

201，社区平台运营人员干预，保证自治系统准确率，社区平台运营人员日常通过添加历史判例题和检查治理员最终投票结果及处理申诉，来影响治理员的准确率；

300，违规处理结果反馈和申诉，根据自治系统投票得到的结果，对于违规用户和内容反馈违规结果并给予警告/处罚，以保证违规用户不再犯，同时给予不认同判定结果的用户申诉流程，反馈给运营人员处理。

可选地，200-1，招募核心用户申请社区治理员角色，通过用户在社区的历史活跃行为，自动邀请潜在的社区治理员角色申请成为社区治理员；

200-2，社区治理员测试，获得邀请资格的潜在社区治理员需通过10-20道历史判例和社区规范测试，测试后达到测试通过分数的才能够成为正式的社区治理员，正式社区治理员能够参与投票判别内容或行为是否违规；

200-3，治理员参与违规内容/用户投票，通过测试题考试的正式社区治理员，根据历史判例和社区规范进行违规内容/行为判别投票，为了保证投票有效性，投票过程中会穿插考察题目，判断该治理员投票是否可信；

200-4，根据治理员投票结果和准确率，给出违规处理结果，根据治理员的准确率和历史工作情况，给出疑似违规内容判定结果，违规或未违规。

通过以上系统和方法，本发明的一种基于用户高度参与的社区治理系统和方法，引入了用户参与处理疑似违规内容/用户，对于社区产品，能够营造和保持用户认同的社区氛围，一直是比较困难的问题。社区氛围的管理只依赖平台的管理是远远不够的，只有用户才更了解用户。针对社区氛围的治理，建立基于用户高度参与的社区自治系统，比平台处理更容易维系社区氛围且效率更高。

附图说明

为了使本发明所解决的技术问题、采用的技术手段及取得的技术效果更加清楚，下面将参照附图详细描述本发明的具体实施例。但需声明的是，下面描述的附图仅仅是本发明的示例性实施例的附图，对于本领域的技术人员来讲，在不付出创造性劳动的前提下，可以根据这些附图获得其他实施例的附图。

图1是示出了根据本发明实施例的一种基于用户高度参与的社区治理方法的流程图。

图2是示出了现有技术的社区治理方法的流程图。

具体实施方式

现在将参考附图来更加全面地描述本发明的示例性实施例，虽然各示例性实施例能够以多种具体的方式实施，但不应理解为本发明仅限于在此阐述的实施例。相反，提供这些示例性实施例是为了使本发明的内容更加完整，更加便于将发明构思全面地传达给本领域的技术人员。

在符合本发明的技术构思的前提下，在某个特定的实施例中描述的结构、性能、效果或者其他特征可以以任何合适的方式结合到一个或更多其他的实施例中。

在对于具体实施例的介绍过程中，对结构、性能、效果或者其他特征的细节描述是为了使本领域的技术人员对实施例能够充分理解。但是，并不排除本领域技术人员可以在特定情况下，以不含有上述结构、性能、效果或者其他特征的技术方案来实施本发明。

附图中的流程图仅是一种示例性的流程演示，不代表本发明的方案中必须包括流程图中的所有的内容、操作和步骤，也不代表必须按照图中所显示的顺序执行。例如，流程图中有的操作/步骤可以分解，有的操作/步骤可以合并或部分合并，等等，在不脱离本发明的发明主旨的情况下，流程图中显示的执行顺序可以根据实际情况改变。

附图中的框图一般表示的是功能实体，并不一定必然与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

各附图中相同的附图标记表示相同或类似的元件、组件或部分，因而下文中可能省略了对相同或类似的元件、组件或部分的重复描述。还应理解，虽然本文中可能使用第一、第二、第三等表示编号的定语来描述各种器件、元件、组件或部分，但是这些器件、元件、组件或部分不应受这些定语的限制。也就是说，这些定语仅是用来将一者与另一者区分。例如，第一器件亦可称为第二器件，但不偏离本发明实质的技术方案。此外，术语“和/或”、“及/或”是指包括所列出项目中的任一个或多个的所有组合。

图1是示出了根据本发明实施例的一种基于用户高度参与的社区治理方法的流程图。

为了解决上述技术问题，本发明提供如下技术方案。

本发明提供一种基于用户高度参与的社区治理系统，该系统包括。如图1所示。

违规内容/用户发现模块，用于违规内容和用户发现，通过用户举报、踩以及模型，发现疑似违规内容和疑似违规用户。也可以进行举报或者踩等交互行为。踩行为可以指点击踩选项的行为，举报行为可以指举报资源含有不良信息的行为。用户举报、踩，指的是用户在app端可以进行操作的行为；模型是文本反垃圾模型，算法训练。设置一定的标准，判定不在标准范围内的为疑似违规内容和疑似违规用户。该标准的制定可以根据本领域常用的方法。运营做成具体帖子测试题，发给用户、并告知审判标准。

用户自治系统模块，用于经过用户举报、踩或模型召回的违规内容和用户，进入用户自治系统经过治理员进行多人投票后，给出判别结果。判别结果是根据投票结果产生的一个得分，投“通过”多的则没问题，得分公式＝通过票数/总票数，得分公式≥0.8则可信；反之，得分公式<0.8则不可信。

社区平台运营人员干预模块，用于保证自治系统准确率，社区平台运营人员日常通过添加历史判例题和检查治理员最终投票结果及处理申诉，来影响治理员的准确率。

违规处理结果反馈和申诉模块，用于根据自治系统投票得到的结果，对于违规用户和内容反馈违规结果并给予警告/处罚，以保证违规用户不再犯，同时给予不认同判定结果的用户申诉流程，反馈给运营人员处理。

可选地，所述用户自治系统模块，进一步用于招募核心用户申请社区治理员角色，通过用户在社区的历史活跃行为，自动邀请潜在的社区治理员角色申请成为社区治理员。

可选地，所述用户自治系统模块，进一步用于社区治理员测试，获得邀请资格的潜在社区治理员需通过10-20道历史判例和社区规范测试，测试后达到测试通过分数的才能够成为正式的社区治理员，正式社区治理员能够参与投票判别内容或行为是否违规。

可选地，所述用户自治系统模块，进一步用于治理员参与违规内容/用户投票。通过测试题考试的正式社区治理员，根据历史判例和社区规范进行违规内容/行为判别投票，为了保证投票有效性，投票过程中会穿插考察题目，判断该治理员投票是否可信。

可选地，所述用户自治系统模块，进一步用于根据治理员投票结果和准确率，给出违规处理结果，根据治理员的准确率和历史工作情况，给出疑似违规内容判定结果，违规或未违规。

可选地，所述违规内容/用户发现模块中的所述模型包括广告、攻击引战文本模型。

本发明的另一实施方式提供一种基于用户高度参与的社区治理方法，如图1所示，包括以下步骤。

100：违规内容和用户发现。通过用户举报、踩以及模型(如广告、攻击引战文本模型)，发现疑似违规内容和疑似违规用户。

当监控用户发现目标用户账号出现违规操作时，可将该用户账号对应的用户账号标识输入黑名单提交界面中对应的输入框内，并通过点击相应的信息获取按钮将该标识提供给系统，以便系统从系统数据库中获取该用户账号标识对应的所有信息。其中，获取的信息包括但不限于敏感身份信息(例如身份证号、手机号等)以及其他相关信息(例如姓名、性别、违规原因等)。

200：用户自治系统，经过用户举报、踩或模型召回的违规内容和用户，进入用户自治系统经过治理员进行多人投票后，给出判别结果

200-1：招募核心用户申请社区治理员角色。通过用户在社区的历史活跃行为，如参与举报等，自动邀请潜在的社区治理员角色申请成为社区治理员。

200-2：社区治理员测试。获得邀请资格的潜在社区治理员需通过10-20道历史判例和社区规范测试，测试后达到测试通过分数的才能够成为正式的社区治理员，正式社区治理员能够参与投票判别内容或行为是否违规。投票指令包括投违规指令或投不违规指令，所述投票结果包括违规或不违规。

投票界面还可展示与该举报案件相关的发布人头像、发布人昵称、所在位置、发布时间、评论内容等，并且可以但不限于默认定位于该举报案件的被举报评论所在页。

200-3：治理员参与违规内容/用户投票。通过测试题考试的正式社区治理员，根据历史判例和社区规范进行违规内容/行为判别投票，为了保证投票有效性，投票过程中会穿插考察题目，判断该治理员投票是否可信。通过此步骤可以实时监控投票的有效性，并判断治理员，防止不合规行为。体现了用户高度参与的社区治理。

200-4：根据治理员投票结果和准确率，给出违规处理结果。根据治理员的准确率和历史工作情况，给出疑似违规内容判定结果：违规或未违规。结合准确率和历史工作情况，综合考虑处理结果。

201：社区平台运营人员干预。为了保证自治系统准确率，社区平台运营人员日常通过添加历史判例题和检查治理员最终投票结果及处理申诉，来影响治理员的准确率。

300：违规处理结果反馈和申诉。根据自治系统投票得到的结果，对于违规用户和内容反馈违规结果并给予警告/处罚，以保证违规用户不再犯。同时给予不认同判定结果的用户申诉流程，反馈给运营人员处理。本申请还设定了申诉流程，用于误判时的救济程序。

与现有技术相比，本发明要引入了用户参与处理疑似违规内容/用户。关键流程为200：用户自治系统，经过用户举报、踩或模型召回的违规内容和用户，进入用户自治系统经过治理员进行多人投票后，给出判别结果。200-1：招募核心用户申请社区治理员角色。通过用户在社区的历史活跃行为，如参与举报等，自动邀请潜在的社区治理员角色申请成为社区治理员。

本发明的有益效果为：对于社区产品，能够营造和保持用户认同的社区氛围，一直是比较困难的问题。社区氛围的管理只依赖平台的管理是远远不够的，只有用户才更了解用户。针对社区氛围的治理，建立基于用户高度参与的社区自治系统，比平台处理更容易维系社区氛围且效率更高。

基于用户高度参与的社区自治系统核心运转方式为：1)社区重度用户进行举报、踩等行为表态，结合算法模型和用户表态行为，将能够引起社区冲突内容召回；2)能够引起社区冲突的内容，交由经过测试的社区治理员(用户)投票判断处理结果，根据处理结果进行裁定。

以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行进一步详细说明，应理解的是，本发明不与任何特定计算机、虚拟装置或者电子设备固有相关，各种通用装置也可以实现本发明。以上所述仅为本发明的具体实施例而已，并不用于限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。