WEB开发网
开发学院数据库MSSQL Server 数据抽取、清洗与转换 BI项目中ETL设计 阅读

数据抽取、清洗与转换 BI项目中ETL设计

 2007-05-17 09:34:28 来源:WEB开发网   
核心提示: 1、与存放DW的数据库系统相同的数据源处理方法这一类数源在设计比较容易,一般情况下,数据抽取、清洗与转换 BI项目中ETL设计(2),DBMS(包括SQLServer,Oracle)都会提供数据库链接功能,将过滤的结果交给业务主管部门,确认是否过滤掉还是由业务单位修正之后再进行抽取,在DW

1、与存放DW的数据库系统相同的数据源处理方法

这一类数源在设计比较容易,一般情况下,DBMS(包括SQLServer,Oracle)都会提供数据库链接功能,在DW数据库服务器和原业务系统之间建立直接的链接关系就可以写Select 语句直接访问。

2、与DW数据库系统不同的数据源的处理方法。

这一类数据源一般情况下也可以通过ODBC的方式建立数据库链接,如SQL Server和Oracle之间。如果不能建立数据库链接,可以有两种方式完成,一种是通过工具将源数据导出成.txt或者是.xls文件,然后再将这些源系统文件导入到ODS中。另外一种方法通过程序接口来完成。

3、对于文件类型数据源(.txt,,xls),可以培训业务人员利用数据库工具将这些数据导入到指定的数据库,然后从指定的数据库抽取。或者可以借助工具实现,如SQL SERVER 2005 的SSIS服务的平面数据源和平面目标等组件导入ODS中去。

4、增量更新问题

对于数据量大的系统,必须考虑增量抽取。一般情况,业务系统会记录业务发生的时间,可以用作增量的标志,每次抽取之前首先判断ODS中记录最大的时间,然后根据这个时间去业务系统取大于这个时间的所有记录。利用业务系统的时间戳,一般情况下,业务系统没有或者部分有时间戳。

数据的清洗转换

一般情况下,数据仓库分为ODS、DW两部分,通常的做法是从业务系统到ODS做清洗,将脏数据和不完整数据过滤掉,再从ODS到DW的过程中转换,进行一些业务规则的计算和聚合。

1、数据清洗

数据清洗的任务是过滤那些不符合要求的数据,将过滤的结果交给业务主管部门,确认是否过滤掉还是由业务单位修正之后再进行抽取。不符合要求的数据主要是有不完整的数据、错误的数据和重复的数据三大类。

Tags:数据 抽取 清洗

编辑录入:爽爽 [复制链接] [打 印]
赞助商链接