为 InfoSphere Warehouse 提供实时数据的高效解决方案
2010-07-23 00:00:00 来源:WEB开发网我们可以发现在这些消息里包含了对所变化数据的描述。例如:在第一条消息中,第五个字段记录了数据变化发生表的 schema:“DEMO”;第六个字段记录了表名“CUSTOMER”;第七个字段“ISRT”记录的是对应的 DML 操作 , “ISRT”说明这是一个 Insert 操作引起了数据变化,之后的字段描述了数据变化发生的时间以及数据是如何变化的。该消息表明一条如下的新记录被插入到“DEMO.CUSTOMER”表中:
9000,"F","1960-05-06-00.00.00.000000","467897085",
"Boise","Idaho","83701-83733","(71)657-9085","English",
"2006-08-18-21.52.29.000000","IRVING","H","STERN"
同样,我们可以从第二和第三条消息中看出这里面所包含的数据变化信息:
第二条消息描述了一个“update”操作发生在表“DEMO.CUSTOMER”中,第三消息描述了一个“delete”操作发生在表“DEMO.CUSTOMER”中。
接下来,我们将开发一个 DataStage 作业,用来读取 MQ 中的消息,并且对消息进行处理,最后把数据放入数据仓库。如下图 5 所示:
图 5. DataStage 作业示例
查看原图(大图)
首先,我们将使用 MQ Connector 从 MQ 队列中读取消息(这些消息如前面所示包含了数据的变更情况)。MQ Connector 支持两种方式访问 MQ Server, 一种是“server”方式,对应 DataStage 是和 MQ Server 在一台机器上的情况;另一种是“client”方式,对应 DataStage 跟 MQ Server 不在同一台机器,DataStage 需要通过 MQ Client 访问 MQ Server。在该例中,我们使用了 Server 的方式访问 MQ Server。如图所示:
Tags:InfoSphere Warehouse 提供
编辑录入:爽爽 [复制链接] [打 印]更多精彩
赞助商链接