一种直播平台内容审核智能评估系统的制作方法

专利2025-06-26  34


本发明涉及直播平台内容审核智能评估系统领域,尤其涉及一种直播平台内容审核智能评估系统。


背景技术:

1、直播平台内容审核智能评估系统是一种用于评估和审核直播平台上的内容的智能工具,它利用人工智能技术和算法,对直播内容进行自动检测和分析,以判断是否符合平台的内容规范和法律法规要求,该系统可以针对各种类型的内容进行评估,包括但不限于文字、图像、音频和视频,它可以自动检测和过滤出违反平台规定或不适宜的内容,如色情、暴力、恶意攻击、违法或违禁内容等,但是在使用直播平台内容审核智能评估系统时,通常缺少针对直播间的打分体系,不能输出管理视角的质检报告,当操作人员需要对直播内容指标和评估进行查看时,需要频繁对过往直播记录进行查看和统计,较为不便。


技术实现思路

1、为了克服在使用直播平台内容审核智能评估系统时,通常缺少针对直播间的打分体系,不能输出管理视角的质检报告,当操作人员需要对直播内容指标和评估进行查看时,需要频繁对过往直播记录进行查看和统计,较为不便的问题。

2、本发明的技术方案为:一种直播平台内容审核智能评估系统,包括有:

3、数据抓取模块:用于从直播流或上传的媒体中获取视频和音频数据;

4、数据预处理模块:用于对数据抓取模块抓取的数据进行初始处理;

5、数据分析模块:用于对初始处理的视频、音频文件进行提取分析;

6、数据计算模块:用于对提取数据进行质检,判断是否合规;

7、数据储存模块:用于对提取和质检的数据进行备份储存;

8、数据评估模块:用于对整体直播数据指标和直播内容进行评估;

9、数据反馈模块:用于允许用户对内容进行举报和反馈,同时对不确定的内容进行二次确认。

10、优选的,通过数据抓取模块对直播平台的直播内容和上传内容进行提取,通过数据预处理模块对抓取数据进行初步处理,去除其中干扰信息,通过数据分析模块对预处理的媒体特征内容进行分析和分类,通过数据计算模块对提取的直播数据内容进行质检判断,通过数据储存模块对提取和质检数据进行云端备份,防止丢失,通过数据评估模块对直播情况和内容进行评估打分,通过数据反馈模块便于收集用户信息反馈。

11、作为优选,数据抓取模块用于扫描和提取用户直播内容或上传内容的数据信息,数据抓取模块可以自动化地获取直播平台中不同直播间的内容和相关信息,并将抓取的内容和相关信息传输至数据预处理模块中。

12、作为优选,数据抓取模块在对直播信息和内容进行抓取时,包括以下方法:

13、a11:在对文字数据进行抓取时,对直播平台上的弹幕、评论等内容中可直接采集的文字数据,直接进行数据抓取;

14、a12:在对图片数据信息进行抓取时,对直播视频流、表情、图片等相关图文进行文字提取或智能识别;

15、a13:在对动画和交互内容进行信息提取时,采取录屏的方式对视频及音频中的信息数据进行抓取。

16、作为优选,数据预处理模块用于对数据抓取模块抓取的直播信息和内容进行初步处理,去除抓取数据中噪声、格式不一致或其他杂乱的部分,可以提高后续数据读取的准确性和效率,同时减少干扰部分对数据分析模块敏感度的影响,将预处理的数据传输至数据分析模块。

17、作为优选,数据分析模块在对预处理的数据进行分析时包括以下步骤:

18、s11:获取预处理后的直播间视频信息和内容;

19、s12:对视频文件中的录音和文字信息进行提取;

20、s13:将录音文件转换为文本文件;

21、s14:对关键词词频及时间进行分析。

22、作为优选,数据计算模块在对直播内容和信息进行质检时,包括以下步骤:

23、s21:创建质检规则,质检规则包括抽检范围、质检条例、时间预算和时间计划;

24、s22:执行质检计算,对直播内容中的视频流、音频流、弹幕\评论等内容进行多种审核维度;

25、s23:质检结束,获取质检结果和质检报告;

26、优选的,通过数据计算模块,可以对直播内容进行抽检,对直播平台上的视频流、音频流、弹幕/评论等内容进行实时审核,覆盖色情、暴恐、政治敏感、广告、违禁事物等多种审核纬度,大幅降低平台风险和人工审核成本。

27、作为优选,数据储存模块包括有信息资源管理子模块和云端储存端,通过将抓取的信息和质检完成数据进行整合,对整合的数据进行管理储存,将数据储存备份至云端。

28、作为优选,在数据储存模块对数据进行备份储存时,包括以下方法:

29、a21:在云端平台根据对应日期建立主文档;

30、a22:在主文档内根据分类信息建立分类子文档;

31、a23:对直播数据和内容进行压缩加密备份;

32、a24:对压缩加密的直播数据和内容,将其放入子文档中。

33、作为优选,数据评估模块在对整体直播数据指标和内容进行评估时,包括有以下指标:

34、a31:数据指标,包括有直播间观看人数、千人线索、直播时长等数据指标;

35、a32:关键词频次,一场直播中关键词每小时出现的次数;

36、a33:关键词数量,一场直播中累积关键词数量量级;

37、a34:口播语速,对每分钟平均口播的次数进行统计;

38、a35:静默空播,统计直播中长时间停止输出内容,连续时长达三分钟为一次静默。

39、优选的,通过数据评估模块对直播内容进行自动分析和识别,对直播时的数据和内容进行评估和打分,可以产出可视化项目综合质检结果,以及直播间、经销商门店、大区多个维度的质检结果数据管理,避免工作人员对直播数据进行评估查看时需要进行频繁统计查看。

40、作为优选,数据反馈模块用于收集和分析整体直播数据的评估反馈信息,通过对用户的举报、投诉和其他反馈方式,收集到关内容审核系统准确性和可靠性的数据,分析用户反馈的信息,对系统在识别问题和误判问题方面的表现进行优化。

41、本发明的有益效果:

42、1、相较于传统直播平台内容审核智能评估系统,通常缺少针对直播间的打分体系,不能输出管理视角的质检报告,当操作人员需要对直播内容指标和评估进行查看时,需要频繁对过往直播记录进行查看和统计,较为不便,该直播平台内容审核智能评估系统通过产出可视化项目综合质检加过,以及直播间、经销门店、大区多个维度的质检结果数据管理,方便工作人员对直播内容和数据进行查看和评估;

43、2、通过数据评估模块对直播内容进行自动分析和识别,对直播时的数据和内容进行评估和打分,可以产出可视化项目综合质检结果,以及直播间、经销商门店、大区多个维度的质检结果数据管理,避免工作人员对直播数据进行评估查看时需要进行频繁统计查看;

44、3、通过数据计算模块,可以对直播内容进行抽检,对直播平台上的视频流、音频流、弹幕/评论等内容进行实时审核,覆盖色情、暴恐、政治敏感、广告、违禁事物等多种审核纬度,大幅降低平台风险和人工审核成本。


技术特征:

1.一种直播平台内容审核智能评估系统;其特征在于:包括有:

2.根据权利要求1所述的一种直播平台内容审核智能评估系统,其特征在于:数据抓取模块用于扫描和提取用户直播内容或上传内容的数据信息,数据抓取模块可以自动化地获取直播平台中不同直播间的内容和相关信息,并将抓取的内容和相关信息传输至数据预处理模块中。

3.根据权利要求2所述的一种直播平台内容审核智能评估系统,其特征在于:数据抓取模块在对直播信息和内容进行抓取时,包括以下方法:

4.根据权利要求3所述的一种直播平台内容审核智能评估系统,其特征在于:数据预处理模块用于对数据抓取模块抓取的直播信息和内容进行初步处理,去除抓取数据中噪声、格式不一致或其他杂乱的部分,可以提高后续数据读取的准确性和效率,同时减少干扰部分对数据分析模块敏感度的影响,将预处理的数据传输至数据分析模块。

5.根据权利要求4所述的一种直播平台内容审核智能评估系统,其特征在于:数据分析模块在对预处理的数据进行分析时包括以下步骤:

6.根据权利要求5所述的一种直播平台内容审核智能评估系统,其特征在于:数据计算模块在对直播内容和信息进行质检时,包括以下步骤:

7.根据权利要求6所述的一种直播平台内容审核智能评估系统,其特征在于:数据储存模块包括有信息资源管理子模块和云端储存端,通过将抓取的信息和质检完成数据进行整合,对整合的数据进行管理储存,将数据储存备份至云端。

8.根据权利要求7所述的一种直播平台内容审核智能评估系统,其特征在于:在数据储存模块对数据进行备份储存时,包括以下方法:

9.根据权利要求8所述的一种直播平台内容审核智能评估系统,其特征在于:数据评估模块在对整体直播数据指标和内容进行评估时,包括有以下指标:

10.根据权利要求9所述的一种直播平台内容审核智能评估系统,其特征在于:数据反馈模块用于收集和分析整体直播数据的评估反馈信息,通过对用户的举报、投诉和其他反馈方式,收集到关内容审核系统准确性和可靠性的数据,分析用户反馈的信息,对系统在识别问题和误判问题方面的表现进行优化。


技术总结
本发明涉及直播平台内容审核智能评估系统领域,尤其涉及一种直播平台内容审核智能评估系统;技术问题:在使用直播平台内容审核智能评估系统时,当操作人员需要对直播内容指标和评估进行查看时,需要频繁对过往直播记录进行查看和统计,较为不便;技术方案:一种直播平台内容审核智能评估系统,包括有数据分析模块和数据计算模块;本发明相较于传统直播平台内容审核智能评估系统,当操作人员需要对直播内容指标和评估进行查看时,需要频繁对过往直播记录进行查看和统计,该直播平台内容审核智能评估系统通过产出可视化项目综合质检加过,以及直播间、经销门店、大区多个维度的质检结果数据管理,方便工作人员对直播内容和数据进行查看和评估。

技术研发人员:张敏
受保护的技术使用者:北京车智汇通信息技术有限公司
技术研发日:
技术公布日:2024/11/11
转载请注明原文地址: https://tieba.8miu.com/read-15426.html

最新回复(0)