下面是小编整理的基于数据挖掘的数字图书馆检索技术研究论文,本文共10篇,欢迎您阅读分享借鉴,希望对您有所帮助。本文原稿由网友“哦菏”提供。
篇1:基于数据挖掘的数字图书馆检索技术研究论文
摘 要:现如今,数字图书馆在国内外引起了广泛的关注,成为图书馆领域的研究热点。本文先对数字图书馆的概念、组成和作用进行概述,然后从数字图书馆的检索技术方面对数据挖掘的概念、主要方式和常用的技术方法进行详细论述,并具体分析了数据挖掘在数字图书馆的检索技术领域中发挥的作用,得出数据挖掘在未来的图书馆发展中具有非常可观的应用前景的结论。
关键词:数据挖掘 数字图书馆 应用前景 检索技术
1 数字图书馆
1.1 概念解析
作为高新技术下的产物,数字图书馆的研究不仅在科学技术领域突飞猛进,而且也为人类的社会事业做出了突出贡献。不同于现实中的图书馆,数字图书馆是虚拟的,它将分散的各种信息资源以数字化的形式存储,以网络化的方式实现互联,以此提供及时的信息,实现资源共享。它是以网络环境为基础的可共享的可扩展的网络知识系统,是一种能方便快捷地为用户提供数字化信息资源的高水平服务机制,也是面向未来互联网发展的信息管理模式。只有深入理解数据挖掘技术,才能不断促进数字图书馆检索技术的发展,从而充分发挥出数字图书馆在图书馆领域的重要作用。
1.2 组成及作用
数字图书馆包括能够服务于广域网的网络设备和通信条件,还有一整套用于信息的管理维护和用户服务的软件系统,这个软件系统可以划分为5个模块:权限管理模块、获取与创建模块、存储与管理模块、访问与查询模块以及动态发布模块。
数字图书馆是在传统图书馆的基础上发展而来,既包含了传统图书馆中的功能,还融合了档案馆、博物馆等中的功能,可以为公众提供综合信息的访问服务,在社会文化、电子政务、大众媒介等公众信息传播中广泛应用。
篇2:基于数据挖掘的数字图书馆检索技术研究论文
数据挖掘在具体的数字图书馆检索中的概念指的是,在没有给出明确假设的前提下对图书信息资源进行挖掘,也可以理解为在大量的图书统计数据中对内在规律和特点进行分析,这里的挖掘对象可能是不同类型,不同物理服务器上的数据库。现在市场上已经出现了很多“数据挖掘系统”,但大多数只能称的上是机器学习系统或是实验系统原型,因为这些系统更多地是进行数据检索,并不能真正地处理大量数据,实现数据挖掘。真正的数据挖掘既涉及多种学科技术的集成,又包涵数据库技术、统计学、高性能计算、数据可视化、信息检索、模式识别等领域。借助数据挖掘,数字图书馆用户可以从数据库中及时准确地检索到自己所需的信息资料。所以,数据挖掘技术处在数据库系统的前沿,在信息技术领域里拥有非常光明的发展前途。
随着数据库系统在图书馆领域的广泛应用,系统中的数据,特别是全球存储的数据快速增长。然而,调查结果显示如此海量的数据无法都被有效利用。如果能在数据海洋中抽取出有效的信息,将会大大提高信息的.利用率,创造更大的实用价值,而这恰恰是产生数据挖掘技术的原因。
总而言之,数据挖掘就是从大量的、模糊的、不全面的、随机的数据中提取出隐含在其中的、潜在的、有用的信息资源,把数据应用从一般的简单查询提升到挖掘数据知识的高度,提高信息的利用率。
篇3:基于数据挖掘的数字图书馆检索技术研究论文
3.1 数据挖掘的主要实现方式
数字图书馆检索技术中的数据挖掘的主要实现方式可以简单地分为两种,即直接数据挖掘和间接数据挖掘。直接数据挖掘是在可用的数据资源的基础上创建一个模型,根据此模型对剩余的数据和数据库中表的属性进行描述。间接数据挖掘是利用所有的变量建立某种关系,而不再是选出具体的变量对其建立模型描述。
3.2 数据挖掘的常用技术
目前,数字图书馆检索技术中的数据挖掘的常用技术可以分为以下几类。
3.2.1 传统统计分析
传统统计分析技术使用了很多分析方法,如相关分析、回归分析等,大多数情况下,这种技术是由系统对数字图书馆用户提出的假设进行验证。
3.2.2 传统主观导向系统
传统主观导向系统技术要有经验模型,在专业领域中的应用较为广泛。它主要是运用从简单的走向分析到以高等数理知识为基础的分析方法。
3.2.3 决策树
决策树相对来说是一种简单的表示方法,这种技术的思路在于根据分类规则将事例层层归类成不同的类别。由于其分类规则易于理解,在数字图书方面较能被用户所接受。
3.2.4 神经元网络技术
神经元网络技术作为计算机领域中的重要方法之一,已经在各个工业部门广泛应用。它是模拟人的脑神经学习的技术,在数字图书馆领域,利用这种技术可以有效解决从模糊数据导出概念和确定走向中出现的复杂问题。
3.2.5 基于事例的推理方法
基于事例的推理方法关键在于系统会根据当前的情形,从已有的相似事例中筛选出一个最佳的解决方案。在数字图书馆中,这种技术可以用于很多问题的求解,特别是那些在一般情况下难以处理的疑难问题,采用此技术往往会得到比较不错的解决效果。
篇4:基于数据挖掘的数字图书馆个性化服务
基于数据挖掘的数字图书馆个性化服务
随着网络用户群的日益增长,更多的`用户期望能得到具有针时性的、个性化的信息服务和用户支持.数据挖掘技术因其在海量信息资源中的智能表现,为数字图书馆的个性化服务建设提供不可或缺的技术支撑.
作 者:骆颖 作者单位:重庆三峡学院图书馆,重庆,404000 刊 名:黑龙江科技信息 英文刊名:HEILONGJIANG SCIENCE AND TECHNOLOGY INFORMATION 年,卷(期): “”(5) 分类号:G25 关键词:数据挖掘 数字图书馆 个性化服务篇5:数据挖掘论文
题目:档案信息管理系统中的计算机数据挖掘技术探讨
摘要:伴随着计算机技术的不断进步和发展,数据挖掘技术成为数据处理工作中的重点技术,能借助相关算法搜索相关信息,在节省人力资本的同时,提高数据检索的实际效率,基于此,被广泛应用在数据密集型行业中。笔者简要分析了计算机数据挖掘技术,并集中阐释了档案信息管理系统计算机数据仓库的建立和技术实现过程,以供参考。
关键词:档案信息管理系统;计算机;数据挖掘技术;
1数据挖掘技术概述
数据挖掘技术就是指在超多随机数据中提取隐含信息,并且将其整合后应用在知识处理体系的技术过程。若是从技术层面判定数据挖掘技术,则需要将其划分在商业数据处理技术中,整合商业数据提取和转化机制,并且建构更加系统化的分析模型和处理机制,从根本上优化商业决策。借助数据挖掘技术能建构完整的数据仓库,满足集成性、时变性以及非易失性等需求,整和数据处理和冗余参数,确保技术框架结构的完整性。
目前,数据挖掘技术常用的工具,如SAS企业的EnterpriseMiner、IBM企业的IntellientMiner以及SPSS企业的Clementine等应用都十分广泛。企业在实际工作过程中,往往会利用数据源和数据预处理工具进行数据定型和更新管理,并且应用聚类分析模块、决策树分析模块以及关联分析算法等,借助数据挖掘技术对相关数据进行处理。
2档案信息管理系统计算机数据仓库的建立
2.1客户需求单元
为了充分发挥档案信息管理系统的优势,要结合客户的实际需求建立完整的处理框架体系。在数据库体系建立中,要适应迭代式处理特征,并且从用户需求出发整合数据模型,保证其建立过程能按照整体规划有序进行,且能按照目标和分析框架参数完成操作。首先,要确立基础性的数据仓库对象,由于是档案信息管理,因此,要集中划分档案数据分析的主题,并且有效录入档案信息,确保满足档案的数据分析需求。其次,要对日常工作中的用户数据进行集中的挖掘处理,从根本上提高数据仓库分析的完整性。
(1)确定数据仓库的基础性用户,其中,主要包括档案工作人员和使用人员,结合不同人员的工作需求建立相应的数据仓库。
(2)档案工作要利用数据分析和档案用户特征分析进行分类描述。
(3)确定档案的基础性分类主题,一般而言,要将文书档案归档状况、卷数等基础性信息作为分类依据。
2.2数据库设计单元
在设计过程中,要针对不同维度建立相应的参数体系和组成结构,并且有效整合组成事实表的主键项目,建立框架结构。
第一,建立事实表。事实表是数据模型的核心单元,主要是记录相关业务和统计数据的表,能整合数据仓库中的信息单元,并且提升多维空间处理效果,确保数据储存过程切实有效。(1)档案管理中文书档案目录卷数事实表:事实表主键,字段类型Int,字段为Id;文书归档年份,字段类型Int,字段为Gdyear_key;文书归档类型,字段类型Int,字段为Ajtm_key;文书归档单位,字段类型Int,字段为Gddw_key;文书档案生成年份,字段类型Int,字段为Ajscsj_key,以及文书档案包括的文件数目。(2)档案管理中文书档案卷数事实表:事实表主键,字段类型Int,字段为Id;文书归档利用日期,字段类型Int,字段为Date_key;文书归档利用单位,字段类型Int,字段为Dw_key;文书归档利用类别,字段类型Int,字段为Dalb_key;文书归档利用年份,字段类型Int,字段为Dayear_key等[1]。
第二,建立维度表,在实际数据仓库建立和运维工作中,提高数据管理效果和水平,确保建立循环和反馈的系统框架体系,并且处理增长过程和完善过程,有效实现数据库模型设计以及相关维护操作。首先,要对模式的基础性维度进行分析并且制作相应的表,主要包括档案年度维表、利用方式维表等。其次,要建构数据库星型模型体系。最后,要集中判定数据库工具,保证数据库平台在客户管理工作方面具备必须的优势,集中制订商务智能解决方案,保证集成环境的稳定性和数据仓库建模的效果,真正提高数据抽取以及转换工作的实际水平。需要注意的是,在全面整合和分析处理数据的过程中,要分离文书档案中的数据,相关操作如下:
deletefromdaggdtemp//删除临时表中的数据
Chcount=dag1.importfile(dbo.uwswj)//将文书目录中数据导出到数据窗口
Dag1.update//将数据窗口中的数据保存到临时表
相关技术人员要对数据进行有效处理,以保证相关数据合并操作、连接操作以及条件性拆分操作等都能按照数据预处理管理要求合理化进行,从根本上维护数据处理效果。
2.3多维数据模型建立单元
在档案多维数据模型建立的过程中,相关技术人员要判定联机分析处理项目和数据挖掘方案,整合信息系统中的数据源、数据视图、维度参数以及属性参数等,保证具体单元能发挥其实际作用,并且真正发挥档案维表的稳定性、安全性优势。
第一,档案事实表中的数据稳定,事实表是加载和处理档案数据的基本模块,按照档案目录数据表和档案利用状况表分析和判定其类别和归档时间,从而提高数据独立分析水平。一方面,能追加有效的数据,保证数据仓库信息的基本质量,也能追加时间判定标准,能在实际操作中减少扫描整个表浪费的时间,从根本上提高实际效率。另一方面,能删除数据,实现数据更新,检索相关关键词即可。并且也能同时修改数据,维护档案撤出和档案追加的动态化处理效果。
第二,档案维表的安全性。在维表管理工作中,档案参数和数据的安全稳定性十分关键,由于其不会随着时间的推移出现变化,因此,要对其进行合理的处理和协调。维表本身的存储空间较小,尽管结构发生变化的概率不大,但仍会对代表的对象产生影响,这就会使得数据出现动态的变化。对于这种改变,需要借助新维生成的方式进行处理,从而保证不同维表能有效连接,整合正确数据的同时,也能对事实表外键进行分析[2]。
3档案信息管理系统计算机数据仓库的实现
3.1描述需求
随着互联网技术和数据库技术不断进步,要提高档案数字化水平以及完善信息化整合机制,加快数据库管控体系的更新,确保设备存储以及网络环境一体化水平能满足需求,尤其是在档案资源重组和预测项目中,只有从根本上落实数据挖掘体系,才能为后续信息档案管理项目升级奠定坚实基础。另外,在数据表和文书等基础性数据结构模型建立的基础上,要按照规律制定具有个性化的主动性服务机制。
3.2关联计算
在实际档案分析工作开展过程中,关联算法描述十分关键,能对某些行为特征进行统筹整合,从而制定分析决策。在进行关联规则强度分析时,要结合支持度和置信度等系统化数据进行综合衡量。例如,档案数据库中有A和B两个基础项集合,支持度为P(A∪B),则直接表述了A和B在同一时间出现的基础性概率。若是两者出现的概率并不大,则证明两者之间的关联度较低。若是两者出现的概率较大,则说明两者的关联度较高。另外,在分析置信度时,利用Confidence(A→B)=(A|B),也能有效判定两者之间的关系。在出现置信度A的状况下,B的出现概率则是整体参数关系的关键,若是置信度的数值到达100%,则直接证明A和B能同一时间出现。
3.3神经网络算法
除了要对档案的实际资料进行数据分析和数据库建构,也要对其利用状况进行判定,目前较为常见的利用率分析算法就是神经网络算法,其借助数据分类系统判定和分析数据对象。值得注意的是,在分类技术结构中,要结合训练数据集判定分类模型数据挖掘结构。神经网络算法类似于人脑系统的运行结构,能建立完整的信息处理单元,并且能够整合非线性交换结构,确保能凭借历史数据对计算模型和分类体系展开深度分析[3]。
3.4实现多元化应用
在档案管理工作中应用计算机数据挖掘技术,能对档案分类管理予以分析,保证信息需求分类总结工作的完整程度。尤其是档案使用者在对档案具体特征进行差异化分析的过程中,能结合不同的元素对具体问题展开深度调研。一方面,计算机数据挖掘技术借助决策树算法处理规则化的档案分析机制。在差异化训练体系中,要对数据集合中的数据进行系统化分析以及处理,确保构建要求能适应数据挖掘的基本结构[4]。例如,档案管理人员借助数据挖掘技术能整合档案使用人员长期浏览与关注的信息,并且能集中收集和汇总间隔时间、信息查询停留时间等,从而建构完整的数据分析机制,有效向其推送或者是带给便捷化查询服务,保证档案管理数字化水平的提高。另一方面,在档案收集管理工作中应用数据挖掘技术,主要是对数据信息进行分析,结合基本结果建立概念模型,保证模型以及测试样本之间的比较参数贴合标准,从而真正建立更加系统化的分类框架体系。
4结语
总而言之,在档案管理工作中应用数据挖掘技术,能在准确判定用户需求的同时,维护数据处理效果,并且减少档案数字化的成本,为后续工作的进一步优化奠定坚实基础。并且,数据库的建立,也能节省经费和设备维护成本,真正实现数字化全面发展的目标,促进档案信息管理工作的长效进步。
参考文献
[1]曾雪峰.计算机数据挖掘技术开发及其在档案信息管理中的运用研究[J].科技创新与应用,(9):285.
[2]王晓燕.数据挖掘技术在档案信息管理中的应用[J].兰台世界,(23):25-26.
[3]韩吉义.基于数据挖掘技术的高校图书馆档案信息管理平台的构筑[J].山西档案,(6):61-63.
[4]哈立原.基于数据挖掘技术的高校图书馆档案信息管理平台构建[J].山西档案,2016(5):105-107.
篇6:数据挖掘论文
题目:机器学习算法在数据挖掘中的应用
摘要:随着科学技术的快速发展,各种新鲜的事物和理念得到了广泛的应用。其中机器学习算法就是一则典型案例——作为一种新型的算法,其广泛应用于各行各业之中。本篇论文旨在探讨机器学习算法在数据挖掘中的具体应用,我们利用庞大的移动终端数据网络,加强了基于GSM网络的户外终端定位,从而提出了3个阶段的定位算法,有效提高了定位的精准度和速度。
关键词:学习算法;GSM网络;定位;数据;
移动终端定位技术由来已久,其主要是利用各种科学技术手段定位移动物体的精准位置以及高度。目前,移动终端定位技术主要应用于军事定位、紧急救援、网络优化、地图导航等多个现代化的领域,由于移动终端定位技术能够带给精准的位置服务信息,所以其在市场上还是有较大的需求的,这也为移动终端定位技术的优化和发展,带给了推动力。随着通信网络普及,移动终端定位技术的发展也得到了一些帮忙,使得其定位的精准度和速度都得到了全面的优化和提升。同时,传统的定位方法结合先进的算法来进行精准定位,目前依旧还是有较大的进步空间。在工作中我选取机器学习算法结合数据挖掘技术对传统定位技术加以改善,取得了不错的效果,但也遇到了许多问题,例如:使用机器学习算法来进行精准定位暂时无法满足更大的区域要求,还有想要利用较低的设备成本,实现得到更多的精准定位的要求比较困难。所以本文对机器学习算法进行了深入的研究,期望能够帮忙其更快速的定位、更精准的定位,满足市场的需要。
1数据挖掘概述
数据挖掘又名数据探勘、信息挖掘。它是数据库知识筛选中十分重要的一步。数据挖掘其实指的就是在超多的数据中透过算法找到有用信息的行为。一般状况下,数据挖掘都会和计算机科学紧密联系在一齐,透过统计集合、在线剖析、检索筛选、机器学习、参数识别等多种方法来实现最初的目标。统计算法和机器学习算法是数据挖掘算法里面应用得比较广泛的两类。统计算法依靠于概率分析,然后进行相关性决定,由此来执行运算。
而机器学习算法主要依靠人工智能科技,透过超多的样本收集、学习和训练,能够自动匹配运算所需的相关参数及模式。它综合了数学、物理学、自动化和计算机科学等多种学习理论,虽然能够应用的领域和目标各不相同,但是这些算法都能够被独立使用运算,当然也能够相互帮忙,综合应用,能够说是一种能够“因时而变”、“因事而变”的算法。在机器学习算法的领域,人工神经网络是比较重要和常见的一种。因为它的优秀的数据处理和演练、学习的潜力较强。
而且对于问题数据还能够进行精准的识别与处理分析,所以应用的频次更多。人工神经网络依靠于多种多样的建模模型来进行工作,由此来满足不同的数据需求。综合来看,人工神经网络的建模,它的精准度比较高,综合表述潜力优秀,而且在应用的过程中,不需要依靠专家的辅助力量,虽然仍有缺陷,比如在训练数据的时候耗时较多,知识的理解潜力还没有到达智能化的标准,但是,相对于其他方式而言,人工神经网络的优势依旧是比较突出的。
2以机器学习算法为基础的GSM网络定位
2.1定位问题的建模
建模的过程主要是以支持向量机定位方式作为基础,把定位的位置栅格化,面积较小的栅格位置就是独立的一种类别,在定位的位置内,我们收集数目庞大的终端测量数据,然后利用计算机对测量报告进行分析处理,测量栅格的距离度量和精准度,然后对移动终端栅格进行预估决定,最终利用机器学习进行分析求解。
2.2采集数据和预处理
本次研究,我们采用的模型对象是我国某一个周边长达10千米的二线城市。在该城市区域内,我们测量了四个不同时间段内的数据,为了保证机器学习算法定位的精准性和有效性,我们把其中的三批数据作为训练数据,最后一组数据作为定位数据,然后把定位数据周边十米内的前三组训练数据的相关信息进行清除。一旦确定某一待定位数据,就要在不同的时间内进行测量,按照测量出的数据信息的经纬度和平均值,再进行换算,最终,得到真实的数据量,提升定位的速度以及有效程度。
2.3以基站的经纬度为基础的初步定位
用机器学习算法来进行移动终端定位,其复杂性也是比较大的,一旦区域面积增加,那么模型和分类也相应增加,而且更加复杂,所以,利用机器学习算法来进行移动终端定位的过程,会随着定位区域面积的增大,而耗费更多的时间。利用基站的经纬度作为基础来进行早期的定位,则需要以下几个步骤:要将边长为十千米的正方形分割成一千米的小栅格,如果想要定位数据集内的相关信息,就要选取对边长是一千米的小栅格进行计算,而如果是想要获得边长一千米的大栅格,就要对边长是一千米的栅格精心计算。
2.4以向量机为基础的二次定位
在完成初步定位工作后,要确定一个边长为两千米的正方形,由于第一级支持向量机定位的区域是四百米,定位输出的是以一百米栅格作为中心点的经纬度数据信息,相对于一级向量机的定位而言,二级向量机在定位计算的时候难度是较低的,更加简便。后期的预算主要依靠决策函数计算和样本向量机计算。随着栅格的变小,定位的精准度将越来越高,而由于增加分类的问题数量是上升的,所以,定位的复杂度也是相对增加的。
2.5以K-近邻法为基础的三次定位
第一步要做的就是选定需要定位的区域面积,在二次输出之后,确定其经纬度,然后依靠经纬度来确定边长面积,这些都是进行区域定位的基础性工作,紧之后就是定位模型的训练。以K-近邻法为基础的三次定位需要的是综合训练信息数据,对于这些信息数据,要以大小为选取依据进行筛选和合并,这样就能够减少计算的重复性。当然了,选取的区域面积越大,其定位的速度和精准性也就越低。
3结语
近年来,随着我国科学技术的不断发展和进步,数据挖掘技术愈加重要。根据上面的研究,我们证明了,在数据挖掘的过程中,应用机器学习算法具有举足轻重的作用。作为一门多领域互相交叉的知识学科,它能够帮忙我们提升定位的精准度以及定位速度,能够被广泛的应用于各行各业。所以,对于机器学习算法,相关人员要加以重视,不断的进行改良以及改善,切实的发挥其有利的方面,将其广泛应用于智能定位的各个领域,帮忙我们解决关于户外移动终端的定位的问题。
参考文献
[1]陈小燕,CHENXiaoyan.机器学习算法在数据挖掘中的应用[J].现代电子技术,2015,v.38;No.451(20):11-14.
[2]李运.机器学习算法在数据挖掘中的应用[D].北京邮电大学,2014.
[3]莫雪峰.机器学习算法在数据挖掘中的应用[J].科教文汇,2016(07):175-178.
篇7:数据挖掘论文
数据挖掘在电力调度自动化系统的运用
关键词:数据挖掘;电力调度自动化系统;周期性关联规则挖掘算法
摘要:电力调度自动化系统对电力数据的收集和整理工作质量有着较高要求,而为了满足这一要求近年来数据挖掘技术日渐受到电力行业重视,基于此,文章就数据挖掘技术进行了简单介绍,并对数据挖掘在电力调度自动化系统中的应用进行了深入论述,期望论述资料能够为相关业内人士带来必须启发。
前言
电力数据收集、整理质量直接影响电力调度自动化系统的控制和管理水平,但由于很多价值较高的数据信息往往位于隐藏的数据之中,这就使得传统方法不能较好满足电力调度自动化系统需要,而为了解决这一问题,正是本文就数据挖掘在电力调度自动化系统中应用展开具体研究的原因所在。
1数据挖掘技术
在大数据时代到来的这天,数据挖掘技术能够从海量数据信息中准确找到所求信息,因此本文将数据挖掘技术视作“采用有效工具和措施从海量数据库中提取数据和模型关系”的技术,由此企业的决策能够得到充足的决定依据。为了更直观了解数据挖掘技术,本文将数据挖掘的过程和步骤概括为以下几个方面:(1)确定业务对象。确定业务对象属于数据挖掘过程的基础工作,这一过程的实质是了解业务问题。(2)准备数据。透过选取数据、数据预处理、转换数据三个层面的工作,即可完成针对于挖掘算法的分析模型构建,并最终完成必须领域的数据挖掘。
2数据挖掘在电力调度自动化系统中的应用
2.1应用方式
神经网络、灰色分析法、关联规则均能够用于电力调度自动化系统的数据挖掘,具体应用如下所示。
(1)神经网络。作为应用较为广泛的一种人工智能研究方法,神经网络早已在我国实现了较为广泛的应用,电力调度自动化系统的数据挖掘也是其应用的重要领域,由于数据自行处理、数据分布存储、高度容错性是神经网络的应用优势所在,这就使得神经网络较为适用于模糊、不完整、不准确数据的处理。在电力调度自动化系统的数据挖掘中,神经网络主要透过关联分析的方式实现数据逻辑处理,具体处理能够分为以下几个方面:a.整合统一基础数据。由于电力调度自动化系统包含的数据具备庞大复杂、种类繁多的特点,因此神经网络的应用需要透过整合统一使相关数据构成结构模型,透过神经网络系统实现数据统一管理。b.实现不同环节电力调度的关联。应用数据挖掘神经网络方法整理不同环节的电流状态和参数,并保证相关数据信息的整合性,即可实现不同环节电力调度的关联。c.分析与决策。结合神经网络整理的整合数据,即可开展分析、决策以及数据共享。
(2)灰色分析法。灰色分析法能够较好分析电力调度过程出现的不完整数据,但不适用于较为庞大的数据是该数据挖掘方法存在的不足。一般状况下,灰色分析法的应用需要深入了解设备数据参数,如用户用电状况预测、母线负荷数据值、电力销售状况预测等,结合分析确定电力调度边界电量,即可提升数据收集的可靠性,电力调度自动化系统的运行也将由此获得较为有力的支持。
(3)关联规则。作为数据挖掘的重要分支,关联规则能够透过发觉超多数据项集之间的搞笑关联和相互联系实现信息的高质量分析,刚刚提到的神经网络严格好处上也属于关联规则范畴,但是本文关于关联规则的研究主要围绕周期性关联规则挖掘算法展开。周期性关联规则挖掘算法具备扫描数据库次数较少、避免扫描数据库的时间开销、连接程序中相同项目的比较次数较少、数据项集频度统计速度较高等优势,由此实现的周期性数据集挖掘、关联规则挖掘便能够大大降低电力调度自动化系统的事故发生概率。值得注意的是,本文研究的周期性关联规则挖掘算法结合了蚁群算法,这是由于原算法使用了超多的搜索操作、分类检索和路径检索,蚁群算法下走过的路上会留下信息素,这就使得较短路径上的信息素浓度较高,结合负信息素理论,即可保证有信息素的地方蚂蚁不能走过。如使用表1所示的事务数据库D(部分),即可结合时态事务数据库D分类数据集改善、每一个分类数据集周期性数据集挖掘改善,以数据项A分类为例,即可求得表2所示的时态属性差,由此开展更深入计算则能够更深入了解周期性关联规则挖掘算法的思想,也能够认识到蚁群算法的重要性。
2.2应用实践
为提升研究实践价值,本文围绕周期性关联规则挖掘算法建立了基于周期性关联规则挖掘的数据分析系统,这一系统的建立过程如下所示。
(1)开发平台选取。结合系统功能需要,选取了微软的平台作为主要系统开发平台,该平台具备的强大数据库访问潜力、扩展丰富等特点,能够较好满足系统开发需要。
(2)基于数据桥的数据集成模块设计。思考到我国当下电力事业的数据集成标准较为复杂、混乱,系统设计采用了自己的数据集成方法,同时应用了清晰数据清洗策略,由此即可实现不完整数据、重复数据、错误数据三类脏数据的清洗,数字数据不完整、日期数据不完整、错误日期型数据、重复数据等仅属于清洗资料,其中除重复数据不予处理外,其他数据均采用修补空值和默认值的方式,如数字数据不完整采用“补0,补null,默认值”的清洗策略。此外,无类型文件数据集成、数据库数据集成、异构数据库数据集成也是这一环节设计的重要资料[3]。
(3)数据库管理模块设计。采用微软公司的SQLServer数据库系统,由此数据库管理被分为层次数建模、数据表管理、数据表导出三部分,其中数据表管理包含数据管理、结构管理、删除三方面功能,而数据表导出则包括文本文件、Excel文件、Access文件、Xml文件、其他数据库五部分资料。
(4)数据分析功能模块设计。数据分析功能模块由同期数据分析、周期性数据分析、数据预警分析、数据关联分析四部分组成,各部分设计如下所示:a.同期数据分析模块设计。该模块的运行流程主要由负荷数据、网损数据、力率数据、有功总加数据比较组成,分析流程能够概括为:“输入所有比较条件→合法→根据条件生成SQL语句→显示查询结果→打印比较图像”。b.周期性数据分析模块设计。围绕报警周期性、负荷周期性、遥测周期性三方面开展数据挖掘,即可完成该模块设计。c.数据预警分析模块设计。分析流程为:“初始化数据集及参数→输入预警分析参数→合法→分析预测→决定预测类型→有无推荐→输出报警类型和推荐→输出报警类型”。d.数据关联分析模型设计。采用默认用户手动输入数据集方法,程序流程为:“初始化已有周期性数据集→输入参数→合法?→数据集交叉?→计算Conf、Sup→计算下一对数据集→完成”。
3结束语
数据挖掘能够较好地服务于电力调度自动化系统。而在此基础上,本文研究建立的基于周期性关联规则挖掘的数据分析系统,则证明了研究的实践价值。因此,在相关领域的理论研究和实践探索中,本文资料能够发挥必须参考作用。
参考文献:
[1]王谦,李烽.电力调度的自动化网络安全分析及实现[J].电子技术与软件工程,(21):116.
[2]刘宾,朱亚奇,吴莎.数据挖掘在电力调度自动化系统中的应用[J].电子技术与软件工程,2017(20):158.
[3]曹铁生.电力调度自动化系统应用现状与发展趋势研究分析[J].硅谷,,7(23):74+76.
[4]周洋.数据挖掘在电力调度自动化系统中的应用解析[J].科技创新与应用,2017(35):149-150.
[5]李梦鸣.大数据挖掘平台在电力运营监测工作的应用[J].科技创新与应用,(26):21-22.
作者:何宇雄;苑晋沛;聂宇;罗超;高小芊;寇霄宇;李蔚单位:国网湖北省电力公司武汉供电公司
篇8:数据挖掘论文
数据挖掘与图书馆用户资源分析
摘要:人类利用图书馆产生信息活动时所表现出的最基础、最平常、最通用的一种关系,便是用户资源和图书馆之间的关系。从这种关系出发,分析嫁接起这一简单联系的规律,便是数据挖掘技术。本文认为对图书馆用户资源分析研究应以数据挖掘技术为逻辑起点,从云计算、信息共享、数据排查、智能搜索、大数据存储等对图书馆用户资源进行整合和建设。应对信息资源日益丰富的这天,数据挖掘技术对管理图书馆信息资源技术带给了巨大便利。
关键词:数据挖掘;用户资源
数据挖掘,即数据系统中的信息发现。随着计算机技术,个性是云计算、大数据记忆技术的快速发展,传统的手动查找信息模式被大数据智能检索替代。数据挖掘技术广泛应用于市场、工业、金融行业、科学界、互联网行业以及医疗业。数据挖掘技术在图书馆的应用,能够将海量的用户资源进行聚类、关联、整合,能够对用户搜索记录、图书流通记录、用户借阅信息等数据进行精确预判,发现一些隐蔽的联系,为图书馆采购图书、淘汰文献资料带给科学推荐,也能够为用户带给个性化订阅服务,创新用户服务模式,为图书馆建设整个信息网络带给有力支撑。
1大数据下的图书馆用户资源特征
图书馆用户资源是透过数字技术进行组织和管理的:(1)经过数据关联分析,把数据库中存在的两个或两个以上用户之间的相同性提取出来,提高支持度和说服力;(2)把用户信息按照相似性归纳成几个类别,建立宏观概念,发现其间的相互关系;其次定义这些相互关系,概念产生以后,即等同于这些相互关系的整体信息,用于建构分类规则或者数据模型;其次利用以上数据找出变化规律,对此规律进行模型化处理,并由数据模型对未知信息进行预判;(3)把用户资源进行时序排序,检索出高重复率的模型;(4)进行偏差比对,检查数据之中的异常状况。图书馆利用超多的用户访问信息获取用户兴趣,发现用户群体,为不同的群体定制信息,还能够建立一个共享信息平台,让不同用户建立网络交流。
1.1数据量大并且分布更广
大数据形势下,图书馆能够获取的用户资源不仅仅限于用户个人信息和搜索记录,也包括档案、学术研究、教学模式、用户评价和反馈等,数据丰富。同时,数据分布广泛,在互联网时代,可从图书馆应用系统、数据系统记录以及各种网页、移动终端的信息获取,显示出用户资源的分散性。
1.2数据资料多元化,形式灵活化
数据系统里的存储方式不同,服务器不同,系统开发平台不同,致使许多用户资源无法交流互换。图书馆用户资源有半模型化、模型化和非模型化之分。传统的图书馆用户资源中,用户只是图书资源的使用者,与图书馆之间只是点对点单线互动,用户之间不存在交流,而在大数据网络平台下,用户之间能够建立资料共享互动平台,使得用户资源的资料更加多元化。
2图书馆用户资源利用
2.1有助于利用数据挖掘技术建立用户资源图书馆
用户资源图书馆具备信息量大的特点,用户可获得各方各面的信息,且从服务的个性化和全方位化而言,图书馆可根据社会热点或用户需求定制服务。一方面,建立用户资源图书馆,使各类用户信息在同一界面统一呈现,方便用户的选取和检索。另一方面,利用数据挖掘技术建立的用户资源图书馆,服务器众多,具有较强的计算潜力和存储潜力,拥有较高的数据处理潜力,能同时容纳多数用户。因数据量大所导致的硬件费用和后期运行费用剧增,可透过构建用户资源图书馆平台以及应用服务得到解决。为应付不断提高的用户资源存储方面的压为,目前亟需的就是投入超多资金以扩容存储设备,无疑,建立用户资源平台能够解决此问题。
2.2加速图书馆资源的数字化
强大的互联网呈现功能和用户信息保存的可靠性功能,用户资源存储的复杂性问题可得到很好的解决。其次,数据挖掘技术对于资源整合方面具有优势,透过分布式的存储模式整合超多信息资源带给给用户检索。不同的数据之间的互相操作以及全方位的互联网服务得以实现,很好的解决了资源重复建设的问题。因此,利用数据挖掘使得图书馆资源数字化具备可行性。从这个好处上来看,资源的馆藏数字化将会加快发展,而不只是图书书目的剧增。
2.3降低人力资源成本,使图书馆各类资源得以整合和优化
随着各类用户资源利用步伐的加快,加之依靠因特网的用户对服务的可行性和效率性要求更高,超多不同体系的服务器布置在机房,系统维护人员的压力也相应増大。透过数据挖掘技术,可有效进行资源整合和优化,无需透过人力进行。
2.4有利于分析用户心理和提升用户体验
数据挖掘技术能够利用用户资源计算出用户模型,这是研究用户需求、偏好、行为的一种常规方式,一般认为用户模型是对用户在某段时间内相对稳定的信息需求的记录。用户模型反过来对获取用户资源有十分重要的作用,建构用户模型,能够使图书馆更加精深、准确地掌握当前用户资源。透过对用户资源的处理来预测用户需求,进而到达持续提高服务质量和用户满意度的目的。一方面,预判用户心理是利用图书馆用户资源更加深入的表现。随着用户环境与图书馆环境的不断变化,这种预判力覆盖范围已经不单单是用户信息行为的某个过程或某几个过程,相反,用户心理能够对用户需求的强弱、层次、方向产生极为重要的影响,同时也能够对获取用户资源全部过程产生重要影响。另一方面,最先研究用户体验研究当属企业营销活动,主要用来研究用户与企业、产品或服务之间的互动。数据挖掘技术能够更精准预测用户的实际感受,透过研究用户情感体验与用户行为动作,提高用户的满意度,满足用户需求。
3结语
在数据大爆发时代,重视图书馆用户资源,透过多渠道、多方式汇聚用户资源,采用数据挖掘、数据归档分析等技术,掌握用户资源特征,有助于图书馆精准定位用户群体,对调整图书馆运营策略有重要前置作用,更能创新图书馆服务的资料和形式,实现图书馆资源的有效利用。
参考文献
[1]陈文伟等.数据挖掘技术[M].北京:北京工业出版社,.
[2]郭崇慧等.北京数据挖掘教程[M].北京:清华大学出版社,.
[3]徐永丽等.网络环境中用户信息需求障碍分析[J].图书馆理论与实践,.
篇9:数据挖掘论文
云计算下物联网的数据挖掘
摘要:随着我国信息技术产业日渐成熟,物联网这一新一代信息技术关键技术日渐受到学界重视,基于此,本文就物联网与云计算、物联网数据挖掘需要解决的关键性问题展开分析,并对基于云计算的物联网数据挖掘、实验验证进行了详细论述,期望由此能够为相关业内人士带来必须启发。
关键词:云计算平台;物联网;数据挖掘;Hodoop
随着提出的“数字地球”概念影响力不断扩大,物联网技术与我国民众生活之间的距离日渐拉近,越来越多的物联网应用也开始进入人们视野,各界对物联网的要求也在不断提升,而为了解决物联网领域正面临的数据挖掘难题,正是本文就云计算平台下物联网数据挖掘展开具体研究的原因所在。
1物联网与云计算
1.1物联网
物联网作为学界公认的下一代网络发展方向之一,其本身由无所不在的小型传感器设备组成,无论是与我们日常生命联系紧密的计算机与智能手机,还是大型网络的服务器、超级计算机群,均属于物联网的重要组成部分,这也是很多学者将物联网称作新科技革命的原因。在S.Haller等业界权威学者的展望中,其认为物联网技术在未来将实现物理对象无缝集成到信息网络之中并成为参与者,而这些“智能对象”在保护安全与保密的前提下,则能够在网络中找到任何问题的解决方法。对于物联网来说,其具备着全面感知、可靠传递、智能处理三方面特点,而结合现有技术获得基本信息、结合传感器网络和其他通信网络实现物体信息可靠传递、在云计算与模糊识别等技术支持下处理海量异构数据则属于物联网三方面特点的具体表现,由此可见电子元器件、数据处理中心、传输通道三方面能够视作典型物联网应用的组成。
1.2云计算
云计算本质上属于一种基于互联网的新计算方式,其能够结合互联网异构、自治服务较好满足用户的计算需要,云计算中的“云”也能够被视作对IT底层基础设施的一种抽象概念。本文研究应用的Hodoop属于典型的云计算基础开发平台,其本质上属于一个分布式系统基础的架构,Hodoop在云计算领域的地位能够说近似于IT产业的Linux系统。Hodoop的核心为分布式文件系统HDFS和MapReduce,前者具备高容错性、高伸缩性等优点,这些就使得Hodoop的布置能够较为简单且低成本的构成分布式文件系统,而后者则具备保证分析和处理的高效性潜力,由此Hodoop即可简单进行数据的整合。总之,Hodoop这一云计算基础开发平台能够透过简单组织计算机资源实现分布式计算云平台搭建,并以此实现云计算相关功用。
1.3物联网数据挖掘需要解决的关键性问题
简单了解物联网与云计算后,物联网数据挖掘需要解决的关键性问题也应引起人们关注,那里的关键性问题主要由以下几方面构成:
1.3.1传统模式难以应用中央模式
属于较为传统的数据挖掘模式,但是物联网数据不同存储地点的特性则使得该模式的效用无从发挥。
1.3.2对中央节点硬件要求较高
物联网本身具备着数据规模、传感器节点庞大的特点,而为了同时满足其实时处理需求,高性能的中央节点硬件要求务必得到满足。
1.3.3节点资源有限
在有限的节点资源影响下,分布式节点务必负责原始数据的预处理与传递。
1.3.4外在因素影响
由于数据安全性、数据保密、法律约束等因素的影响,物联网不能够将所有数据统一存放在相同数据仓库,这同样对物联网数据挖掘提出了较高挑战。总的来说,现有技术与方式并不能较好满足物联网数据挖掘需要,这也是本文研究开展的原因所在。
2基于云计算的物联网数据挖掘
结合Hodoop云计算基础开发平台进行基础平台搭建,选取用物联网数据集为例,构成了物联网感知层、传输层、数据层、数据挖掘服务层四部分模块组成的平台,各模块的实现思路与功能如下所示。
2.1物联网感知层
物联网感知层主要负责物联网数据的采集,这一采集需要得到目标区域布置的采集节点支持,那里的采集节点主要由摄像头、传感器、其他仪器仪表组成,而由此构成的物联网感知层无线传感器网络,便能够将各采集点采集到的网络数据汇集至节点,数据由此进行汇总储存则能够在传输层的支持下最终传递至云平台的数据中心。
2.2传输层传输层
本质上属于具备较高可靠性与高速性、较优无缝性特点的数据传输网络,而基于Hodoop云计算基础开发平台构建的物联网挖掘系统则结合传感器网络、有线网络、无线网络实现了数据传输网络的构建,这就使得物联网感知层所搜集的信息能够更快、更好的传递到云计算数据中心,由此实现的更高质量互通互联,则保证了系统中监测设备的网络化高速数据传输得以实现。
2.3数据层
物联网数据具备着异构性、海量性等特点,这就使得基于Hodoop云计算基础开发平台的物联网数据挖掘系统对于物联网数据的存储与处理存在着较高要求,而在本文研究所构建的物联网数据挖掘系统数据层中,该数据层主要由数据源转换模块与分布式存储模块两部分组成,其中前者主要负责物联网异构数据的转换,而后者则主要负责分布式存储物联网所产生的海量数据,由此本文研究的物联网挖掘系统的性能和可行性便得到了较好证实。值得注意的是,分布式存储模块需要结合Hodoop云计算基础开发平台中的HDFS文件系统实现。物联网中的不同对象往往会透过不同的数据类型进行表示,这就使得异构性势必属于物联网的根本性特征,一些相同对象使用不同数据表示便较为直观说明了这一点,而这就使得物联网对数据源转换器有着较高需求。在本文构建的物联网数据挖掘系统中,数据源转换器在其中发挥着保护数据存储完整、保证数据挖掘科学顺利等功能,数据包解码、数据的分布式存储也需要得到该转化器的直接支持,这也是物联网数据挖掘系统中各NameNode节点文件类型为PML的原因。PML能够透过一种通用的方式进行物体描述,而作为基于XML建立的语言,PML在与XML相同核心思想的影响下,其便能够在物品的详细信息带给、物品信息交换等
领域发挥不俗的功能。例如,在本文研究所构建的物联网数据挖掘系统中,PML便在节点数据采集、传输、存储过程中发挥着建模功能,相关建模信息所收录的物体属性信息、位置信息、环境信息、历史元素等资料,便能够保证物品信息实现较高质量的表达,这对于物联网数据挖掘也将带来较为用心影响。
2.4数据挖掘服务层
数据挖掘服务层能够细分为数据准备模块、数据挖掘引擎模块、用户模块三部分,三部分模块的具体功用如下所示:
2.4.1数据准备模块
主要负责物联网搜集数据的清理、变换、数据规约。
2.4.2数据挖掘引擎模块
主要透过数据挖掘算法集、模式评估等功能为物联网数据挖掘系统带给服务,特征、区分、关联、聚类、局外者、趋势和演化分析、偏差分析、类似性分析等能够视作该模块功能的具体组成,这些功能的实现得益于数据挖掘引擎模块中的算法集,Hodoop云计算基础开发平台支持下实现的算法并行化处理则是该模块功能实现的基础。
2.4.3用户模块
实现对数据挖掘知识的可视化表示。用户模块是本文研究物联网数据挖掘平台面向使用人员的部分,因此在设计中笔者注重了系统操作的友好性,简单的数据挖掘任务开展、简单获得能够被理解知识均属于设计的优势所在。值得注意的是,为了保证本文研究的物联网数据挖掘系统具备较高的可移植性,设计人员在设计之初便为数据挖掘服务层底层模块设计了开放接口,由此该物联网数据挖掘系统的应用丰富性就能够得到较好保障,表1对本文研究的物联网数据挖掘系统组成进行了直观展示。
3实验验证
3.1物联网数据挖掘系统工作流程
基于Hodoop云计算基础开发平台的物联网数据挖掘系统工作流程能够概括为:“用户→主控节点→主控节点允许用户请求→主控节点调用数据挖掘算法→调用数据挖掘算法成功→准备物联网数据→分布式数据挖掘→将结果传递给用户”,而结合这一流程本文将围绕以下几部分开展具体的物联网数据挖掘系统工作流程描述,具体描述如下:
3.1.1用户请求
在用户请求物联网数据挖掘系统进行数据挖掘后,系统的主控节点将决定该任务是否能够进行,而在确定能够进行后系统将首先向用户传递能够进行的信息,并随后开始具体的数据挖掘。
3.1.2数据挖掘过程
在确定物联网数据挖掘系统能够进行数据挖掘后,系统的主控节点将有针对性的选取数据挖掘算法满足用户需要,并结合MapReduce思想与Master/Slave结构进行数据挖掘任务的划分。
3.1.3具体节点任务
在数据挖掘任务的划分下,需要完成具体工作的节点将被分配任务,由此物联网数据挖掘系统的具体数据处理便由此开展,同时JobTracker负责的调度和执行则将最后将数据挖掘结果传递给用户。
3.2实验验证
为了能够直观决定基于Hodoop云计算基础开发平台物联网数据挖掘系统可行性和性能水平,明晰MapReduce数据挖掘算法在系统中发挥的作用,本文选取了结合Apriori算法开展实验验证的方法,实验验证的环境、过程、结果如下所示。
3.2.1实验环境
实验选取了4G内存、500G硬盘、Windows7系统的计算机作为实验基础,并在该计算机中透过虚拟机安装部署了多个分布式节点,其中共3个虚拟机中的一个为NameNodeLinux系统,其余两个则为DateNodeLinux系统。为了保证实验质量与效率,笔者还在该计算机中安装了专门用于Linux系统的Eclipse7.5集成开发环境,在Windows系统中安装了SSHSecureShellClient、各个虚拟机操作系统中安装了SSH服务,由此即可保证本文研究的基于Hodoop云计算基础开发平台物联网数据挖掘系统的顺利使用。
3.2.2实验过程完成
实验环境的搭建后,本文选取了一组用于关联规则算法的实验数据,并将该数据透过C++代码编写的程序透过关键字搜索方式转换成立标准类型大小为1G的PML文件,在HDFS命令下该文件被放入Hadoop平台进行分布式存储,而在运行Java语言编写的Apriori算法后,即可得到物联网数据挖掘系统的运行结果,透过查看系统使用中是否找到了实验数据集中的所有频繁项集便能够直观决定其性能。值得注意的是,为了提升实验的有效性,本文选取了不同大小的文件开展实验,由此实现比较物联网数据挖掘系统运行时间更深入了解其性能。
3.2.3实验结果
表2对基于物联网数据挖掘系统的实验结果进行了直观展示,结合该表不难发现,文件大小的提升直接导致物联网数据挖掘系统运行时间的增长,这种增长存在典型的线性趋势,而由于应用Apriori算法的物联网数据挖掘系统实现了频繁项集的发现,本文研究的基于Hodoop云计算基础开发平台物联网数据挖掘系统的扩展性便得到了较为直观展现,其所具备的物联网海量数据挖掘潜力也得到了较好证实。
4结论
综上所述,云计算平台能够较好服务于物联网的数据挖掘。而在此基础上,本文研究所提出了完善性与科学性较高的基于Hodoop云计算基础开发平台物联网数据挖掘系统,便直观证明了全文的实践价值。因此,在相关领域的理论研究与实践探索中,本文资料便能够发挥必须参考作用。
参考文献
[1]汤勇峰.基于云计算平台的物联网数据挖掘研究[J].电脑知识与技术,,1307:218-219.
[2]陈俊丽.基于云计算平台的物联网数据挖掘研究[J].中国新通信,,1821:74-75.
[3]武桂云.基于hadoop平台的分布式数据挖掘系统研究与设计[D].天津大学,.
[4]林昕.基于云计算的大数据挖掘平台构建研究[J].山东工业技术,(17):104.
篇10:数据挖掘论文
题目:大数据挖掘在智慧旅游应用中的探究
摘要:大数据和智慧旅游都是当下的热点,没有大数据的智慧旅游无从谈“智慧”,数据挖掘是大数据应用于智慧旅游的核心,文章探究了在智慧旅游应用中,目前大数据挖掘存在的几个问题。
关键词:大数据;智慧旅游;数据挖掘;
1引言
随着人民生活水平的进一步提高,旅游消费的需求进一步上升,在云计算、互联网、物联网以及移动智能终端等信息通讯技术的飞速发展下,智慧旅游应运而生。大数据作为当下的热点已经成了智慧旅游发展的有力支撑,没有大数据带给的有利信息,智慧旅游无法变得“智慧”。
2大数据与智慧旅游
旅游业是信息密、综合性强、信息依存度高的产业[1],这让其与大数据自然产生了交汇。2010年,江苏省镇江市首先提出“智慧旅游”的概念,虽然至今国内外对于智慧旅游还没有一个统一的学术定义,但在与大数据相关的描述中,有学者从大数据挖掘在智慧旅游中的作用出发,把智慧旅游描述为:透过充分收集和管理所有类型和来源的旅游数据,并深入挖掘这些数据的潜在重要价值信息,然后利用这些信息为相关部门或对象带给服务[2]。这必须义充分肯定了在发展智慧旅游中,大数据挖掘所起的至关重要的作用,指出了在智慧旅游的过程中,数据的收集、储存、管理都是为数据挖掘服务,智慧旅游最终所需要的是利用挖掘所得的有用信息。
3大数据挖掘在智慧旅游中存在的问题
2011年,我国提出用十年时间基本实现智慧旅游的目标[3],过去几年,国家旅游局的相关动作均为了实现这一目标。但是,在借助大数据推动智慧旅游的可持续性发展中,大数据所产生的价值却亟待提高,原因之一就是在收集、储存了超多数据后,对它们深入挖掘不够,没有发掘出数据更多的价值。
3.1信息化建设
智慧旅游的发展离不开移动网络、物联网、云平台。随着大数据的不断发展,国内许多景区已经实现Wi-Fi覆盖,部分景区也已实现人与人、人与物、人与景点之间的实时互动,多省市已建有旅游产业监测平台或旅游大数据中心以及数据可视化平台,从中进行数据统计、行为分析、监控预警、服务质量监督等。透过这些平台,已基本能掌握跟游客和景点相关的数据,能够实现更好旅游监控、产业宏观监控,对该地的旅游管理和推广都能发挥重要作用。
但从智慧化的发展来看,我国的信息化建设还需加强。虽然通讯网络已基本能保证,但是大部分景区还无法实现对景区全面、透彻、及时的感知,更为困难的是对平台的建设。在数据共享平台的建设上,除了必备的硬件设施,大数据实验平台还涉及超多部门,如政府管理部门、气象部门、交通、电子商务、旅行社、旅游网站等。如此多的部门相关联,要想建立一个完整全面的大数据实验平台,难度可想而知。
3.2大数据挖掘方法
大数据时代缺的不是数据,而是方法。大数据在旅游行业的应用前景十分广阔,但是应对超多的数据,不懂如何收集有用的数据、不懂如何对数据进行挖掘和利用,那么“大数据”犹如矿山之中的废石。旅游行业所涉及的结构化与非结构化数据,透过云计算技术,对数据的收集、存储都较为容易,但对数据的挖掘分析则还在不断探索中。大数据的挖掘常用的方法有关联分析,相似度分析,距离分析,聚类分析等等,这些方法从不同的角度对数据进行挖掘。其中,相关性分析方法透过关联多个数据来源,挖掘数据价值。但针对旅游数据,采用这些方法挖掘数据的价值信息,难度也很大,因为旅游数据中冗余数据很多,数据存在形式很复杂。在旅游非结构化数据中,一张图片、一个天气变化、一次舆情评价等都将会对游客的旅行计划带来影响。对这些数据完全挖掘分析,对游客“行前、行中、行后”大数据的实时性挖掘都是很大的挑战。
3.3数据安全
2017年,数据安全事件屡见不鲜,伴着大数据而来的数据安全问题日益凸显出来。在大数据时代,无处不在的数据收集技术使我们的个人信息在所关联的数据中心留下痕迹,如何保证这些信息被合法合理使用,让数据“可用不可见”[4],这是亟待解决的问题。同时,在大数据资源的开放性和共享性下,个人保密和公民权益受到严重威胁。这一矛盾的存在使数据共享程度与数据挖掘程度成反比。此外,经过大数据技术的分析、挖掘,个人保密更易被发现和暴露,从而可能引发一系列社会问题。
大数据背景下的旅游数据当然也避免不了数据的安全问题。如果游客“吃、住、行、游、娱、购”的数据被放入数据库,被完全共享、挖掘、分析,那游客的人身财产安全将会受到严重影响,最终降低旅游体验。所以,数据的安全管理是进行大数据挖掘的前提。
3.4大数据人才
大数据背景下的智慧旅游离不开人才的创新活动及技术支持,然而与专业相衔接的大数据人才培养未能及时跟上行业需求,加之创新型人才的外流,以及数据统计未来3~5年大数据行业将面临全球性的人才荒,国内智慧旅游的构建还缺乏超多人才。
4解决思路
在信息化建设上,加大政府投入,加强基础设施建设,整合结构化数据,抓取非结构化数据,打通各数据壁垒,建设旅游大数据实验平台;在挖掘方法上,对旅游大数据实时性数据的挖掘就应被放在重要位置;在数据安全上,从加强大数据安全立法、监管执法及强化技术手段建设等几个方面着手,提升大数据环境下数据安全保护水平。加强人才的培养与引进,加强产学研合作,培养智慧旅游大数据人才。
参考文献
[1]翁凯.大数据在智慧旅游中的应用研究[J].信息技术,2015,24:86-87.
[2]梁昌勇,马银超,路彩虹.大数据挖掘,智慧旅游的核心[J].开发研究,2015,5(180):134-139.
[3]张建涛,王洋,刘力刚.大数据背景下智慧旅游应用模型体系构建[J].企业经济,2017,5(441):116-123.
[4]王竹欣,陈湉.保障大数据,从哪里入手[N].人民邮电究,2017-11-30.
- 客户关系管理与数据挖掘技术综述2025-03-17
- 数据挖掘理论在数据采集中的运用2025-04-10
- 铁路党校图书馆与数字图书馆建设2024-08-25
- 基于属性重要度约简算法在数据挖掘中的应用研究论文2022-12-27
- 数字网络信号论文2025-06-16
- 运用数据挖掘技术优化大学英语多媒体教学2022-12-22
- 农田水利节水灌溉技术研究论文2025-04-21
- 石油管道的安装技术研究论文2025-06-14
- 我国智能电网技术研究论文2025-08-21
- 论数字图书馆信息网络传播权的有效取得2023-01-31