书中文学网

手机浏览器扫描二维码访问

第319章 困死我了（第1页）

分布式消息订阅分发也是一种常见的数据采集方式y其中ykaa就是一种具有代

表性的产品kaa是由linkedin公司开发的一种高吞吐量的分布式发布订阅消息

系统y用户通过kaa系统可以发布大量的消息y同时也能实时订阅消费消息

kaa的架构包括以下组件x话题生产者服务代理消费者。

etl是英文extract-transform-load的缩写y常用于数据仓库中的数据采

集和预处理环节顾名思义yetl从原系统中抽取数据y并根据实际商务

需求对数据进行转换y并把转换结果加载到目标数据存储中可以看出y

etl既包含了数据采集环节y也包含了数据预处理环节

kettle是一款国外开源的etl工具y使用java语言编写y可以在

windowslinuxunix上运行y数据抽取高效稳定。

网络数据采集是指通过网络爬虫或网站公开应用程序编程接口等方式从

网站上获取数据信息该方法可以将非结构化数据从网页中抽取出来y

将其存储为统一的本地数据文件y并以结构化的方式存储它支持图片

音频视频等文件的采集y文件与正文可以自动关联网络数据采集的

应用领域十分广泛y包括搜索引擎与垂直搜索平台搭建与运营y综合门

户与行业门户地方门户专业门户网站数据支撑与流量运营y电子政

务与电子商务平台的运营y知识管理与知识共享y企业竞争情报系统的

运营ybi商业智能系统y信息咨询与信息增值y信息安全和信息监控等。

数据清洗的主要应用领域包括数据仓库与数据挖掘数据质量管理

?

1?数据仓库与数据挖掘数据清洗对于数据仓库与数据挖掘应用来

说y是核心和基础y它是获取可靠有效数据的一个基本步骤数据仓

库是为了支持决策分析的数据集合y在数据仓库领域y数据清洗一般是

应用在几个数据库合并时或者多个数据源进行集成时例如y消除数据

库中的重复记录数据挖掘是建立在数据仓库基础上的增值技术y在数

据挖掘领域y经常会遇到挖掘出来的特征数据存在各种异常情况y如数

据缺失数据值异常等对于这些情况y如果不加以处理y就会直接影

响到最终挖掘模型的使用效果y甚至会使得创建模型任务失败因此y

在数据挖掘过程中y数据清洗是第一步。

数据质量管理数据质量管理贯穿数据生命周期的全过程在

数据生命周期中y可以通过数据质量管理的方法和手段y在数据生成

使用消亡的过程里y及时发现有缺陷的数据y然后借助数据管理手

段y将数据正确化和规范化y从而达到符合要求的数据质量标准总

体而言y数据质量管理覆盖质量评估数据去噪数据监控数据探

查数据清洗数据诊断等方面y而在这个过程中y数据清洗是决定

数据质量好坏的重要因素。

数据清洗按照实现方式y可以分为手工清洗和自动清洗

?

1?手工清洗x手工清洗是通过人工方式对数据进行检查y发现数据中

的错误这种方式比较简单y只要投入足够的人力物力财力y也能

都市神医，开局扇醒拜金女  八零守寡小娇娇，冷面糙汉被钓疯  武侠游戏：只有我知道剧情  穿成花瓶美人，反派老公破产了  我在修仙游戏世界中浑水摸鱼  跌落山崖的我，习得神级功法  医林萧韵  穿越明朝之我救了马皇后  七零娇美人，甩掉知青当首富  小马宝莉：星空之下  七零大厂美人，改造反派崽暴富  京港月光  逼我做妾？真太子为我入赘将军府  空间通末世，我带飞全家很合理吧  我手握无限物资，砸出末世安全区  我在无限游戏中永生  沙雕攻以为他虐了白月光  凛冬末日：全民避难所求生  快穿：盘古居然是我哥  新来的转校生竟比校霸还野