舆情监测系统的分析与设计
舆情监测系统它是众多技术结合的成果。
一、网络舆情采集
在信息采集步骤中,主要包括网络爬虫(We-bCrawler)和网页清洗(WebPageCleaning)等技术。
网络爬虫是一个按照一定规则自动抓取网络信息的程序,又称为网络蜘蛛(WebSpider)。网络爬虫分为三类:通用爬虫(GeneralPurposeWebCrawler) ,面向主题爬虫(FocusCrawlerorTopicalCrawler) ,面向DeepWeb爬虫(DeepWebCrawler)。考虑到网络舆情监测一般是面向行业监测,倾向于使用面向主题爬虫。
网页清洗就是从网页中过滤掉“噪声"数据,提取出网页中有价值的信息内容。网页清洗分析方法主要分为三类:基于树结构分析方法,基于Web挖掘方法,基于正则表达式方法。基于树结构分析方法应用最广,开源软件Htmlparse是比较有代表性的工具,缺点是高度依赖每个网站网页的结构。
二、舆情自动分类
网络舆情分类是将收集的舆情进行自动分类,是整理和发现舆情的关键步骤,主要运用到自然语言处理中的文本分类(TextCategorization)和文本聚类(TextClusters)等技术。
三、话题识别与跟踪
话题识别与跟踪(TopicDetectionandTracking)是对网络舆情聚类分析后,通过算法找出热点问题,并通过算法跟踪话题发展过程,是网络舆情监测中的核心技术。
四、文本情感分析
文本情感分析(又称文本倾向性或意见挖掘(OpinionMining)),是对带有情感色彩的主观性文本进行分析、处理、归纳和推理的过程。文本情感分析是自然语言处理技术中新兴的研究课题,具有很大的研究价值和应用价值,一般来说,它分为三个主要研究任务:情感信息抽取、情感信息分类、情感信息的检索与归纳。
【文章声明】识微科技网倡导尊重与保护知识产权。本网站文章发布目的在于分享舆情知识。部分内容仅是发稿人为完善客观信息整理参考,不代表发稿人的观点。未经许可,不得复制、转载、或以其他方式使用本网站的内容。如发现本网站文章、图片等存在版权问题,请及时联系并发邮件至zhangming@civiw.com,电话:4008299196,我们会在第一时间删除或处理相关内容。