Java实践:用XQuery进行屏幕搜集

核心提示：上个月，java 技术讲师 Sam Pullara 向我演示了他最新的支持 Java 的电话 Nokia 6630，Java实践:用XQuery进行屏幕搜集，这个手机使用了全面的技术 ―― 嵌入式 JVM、GPRS 和蓝牙，但是它也遭遇了所有智能手机都苦恼的问题 ―― 有限的屏幕实际使用区，我想提取上面所列城市的名称、

　　上个月，java 技术讲师 Sam Pullara 向我演示了他最新的支持 Java 的电话 Nokia 6630。这个手机使用了全面的技术 ―― 嵌入式 JVM、GPRS 和蓝牙，但是它也遭遇了所有智能手机都苦恼的问题 ―― 有限的屏幕实际使用区。有些 Web 站点支持基于手机的浏览器，而且嵌入式浏览器也试图在小小的屏幕上有效地渲染页面，但是，在电话屏幕上查看典型的 Web 页面，就像要把一头大象强行塞进车后座一样（其中的每个参与者都会感到失望，包括您、车和大象）。Sam 构建了一个简单的、优雅的解决方案，从他喜欢的 Web 站点上对数据进行屏幕搜集，然后把数据重新格式化，在小屏幕上显示。
　　
　　新方法
　　从 Html 文档提取数据的方法有许多种，但是我真的很喜欢 Sam 采用的方法：既把 XQuery 当作屏幕搜集工具（从页面中提取相当的数据），又把它当作样式表工具（重新格式化数据，以便数据适应页面，不需要进行页面滚动）。只要少量基础设施和一些非常简单的 XQuery 表达式，就可以从大量数据源提取出相关数据 ―― 例如交通、天气和财务报价等，并在电话上完好地显示数据。
　　
　　我过去经常处于这种情况：对 HTML 页面进行屏幕搜集对某些特定问题来说似乎是可行的方案，但是几乎没有用于屏幕搜集的 Java 工具包。有许多 HTML 解析工具，但它们通常缺少足够的抽象能力（把屏幕搜集代码弄得乱七八糟），大量不符合 HTML 规范的应用限制了它们，它们也无法处理那些结构可能随时间发生变化的、动态生成的页面。
　　
　　为了弥补质量低下的 HTML 和丰富的 xml 处理工具之间的空白，首先要把 HTML 转换成 XML。许多工具有助于完成这项工作；JTidy 工具包做得很好，可以使这项工作变得轻松一些。JTidy 的设计目标是读入典型质量（即很糟）的 HTML 并输出更整洁的结果（有选项可供选择），它还提供了一个 DOM 接口，用来遍历能够发送给 XML 解析器的 HTML 文档。清单 1 中的代码将从 InputStream 中读取 HTML 文档，并生成文档的 DOM 表示：
　　
　　清单 1. 用 JTidy 把 HTML 转换成 XML 兼容的 DOM
　　
　　Tidy tidy = new Tidy();
　　tidy.setQuiet(true);
　　tidy.setShowWarnings(false);
　　Document tidyDOM = tidy.parseDOM(inputStream, null);
　　
　　用这个简单的转换，就差不多能把每个 Web 页面都当作 XML 文档进行处理，还能用自己喜欢的任何 XML 工具（比如 SAX、XSL、XPath，等等）提取数据。虽然 XSL 可能是很明智的选择（因为其设计目标就是为了从 XML 文档中提取信息并转换这些信息，以便显示它们），但是假如不了解 XSL 的话，它的学习曲线就很难把握，即使是最简单的 XSL 转换也复杂得让人心烦。XPath 是处理信息提取的一个好选择 ―― XSL 和 XQuery 都用它进行内容选择，可以很轻易地使用 XPath 把需要的数据提取出来，然后对 HTML 进行格式化，但是 XQuery 会让这项工具更加轻易。
　　
　　XQuery：简介
　　
　　XQuery 的设计目标是从可能非常大的 XML 数据集中提取数据。输入的数据集不必是 XML 文档，虽然它可能是 XML 文档，但是也可能是已经编入索引并保存在 XML 数据库中的文档集合，甚至是一组关系数据库中的表。像 SQL 一样，XQuery 包含从多个数据集中提取数据、汇总数据、聚合数据和连接数据的函数。
　　
　　就像 jsp、asp 或 Velocity 这样的表示性模板语言一样，XQuery 把两个域（表示域和计算域）中的元素组合成一种组合语法。结果，所有 XML 文档都自动成为有效的 XQuery 表达式，并对自身进行评估。XQuery 还包含一些语言语句（language statement），例如“for”和“let”，它们可以与 XML 元素混合使用。
　　
　　清单 2 显示了一个示例 XML 文档 bib.xml，它表示一个书目。然后我们将介绍一些快速的 XQuery 表达式，让您对 XQuery 能够做什么形成一种熟悉，最后我们将再转到屏幕搜集的示例上。要全面介绍 XQuery 的语法和使用情况可能要用几百页的篇幅，有关更具体的参考材料和示例，请参阅 参考资料 小节。
　　
　　清单 2. 示例 XML 书目
　　
　　<bib>
　　<book year="1994">
　　　　<title>TCP/ip Illustrated</title>
　　　　<author><last>Stevens</last><first>W.</first></author>
　　　　<publisher>Addison-Wesley</publisher>
　　　　<price> 65.95</price>
　　</book>
　　. . .　more books . . .
　　</bib>
　　
　　清单 3 显示了一个 XQuery 表达式，它选择 Addison-Wesley 在 1991 年以后出版的所有书籍，提取它们的标题，并把标题格式化成前面有项目符号的（<ul>）列表。大括号表示从“表示模式”（数据直接传递到输出 ，例如 <ul> 和 <li> 标签）到“代码模式”的切换；然后在 return 子句之后立即进行从“代码模式”到“表示模式”的隐式切换。
　　
　　清单 3. 根据查询参数选择图书标题的 XQuery 表达式
　　
　　<ul>
　　{
　　　for $b in doc("bib.xml")/bib/book
　　　where $b/publisher = "Addison-Wesley" and $b/@year > 1991
　　　return
　　<li>{ data($b/title) }</li>
　　}
　　</ul>
　　
　　查询语法引入了“for”，通常称之为“Flower 表达式”（来自 FLWOR，是 for-let-where-order-return 的缩写），该语法从文档中选择一系列 XML 节点，在该例中，用 XPath 选取了来自 bib.xml 文档的 <book> 节点集，然后进一步过滤出与指定查询参数（出版商是 Addison-Wesley，出版日期是 1991 年之后）匹配的节点。对于选出的每个节点，将在 return 子句中计算表达式，在这里是标记（<li> 标签）与代码（提取出每个 <book> 节点的 <title> 元素的内容）的混合。
　　
　　这个简单的 XQuery 示例描述了 XQuery 的几个方面 ―― 某一文档中表示与代码的混合、XPath 的运用、子条件的运用（$b 引用）、非凡的查询表达式、XQuery 函数（data()），还有一个事实：输出文档的结构不必与输入文档的结构匹配。就在这个相当紧凑的、读起来不是很难的查询中，孕育着强大的处理能力。
　　
　　清单 4 显示了一个更简单的 XQuery 表达式，它把书目中不同出版商的数量，在一个 <count> 元素中输出。像前一个示例一样，它用 XPath 表达式选择一组节点，然后用 XQuery 函数选择惟一值，并计算节点的数量。它通过运算获得一个数字 ―― bib.xml，即文档中不同出版商的数量。
　　
　　清单 4. 计算不同出版商数量的 XQuery 表达式
　　
　　<count>
　　{
　　　let $d := distinct-values(doc("bib.xml")/book/publisher)
　　　return count($d)
　　}
　　</count>
　　
　　这些示例只是 XQuery 能够执行的各种查询类型的很少一部分，提供这些例子仅仅是为了让您对使用 XQuery 能够做的事情有些感觉，以及提示您如何才能用 XQuery 把 XML 文档转换成自己选择的格式。虽然 XQuery 的大部分功能主要用于查询大型文档或者其他数据源，但是也可以使用 XQuery 非常简单的子集来对 HTML 文档进行屏幕搜集，为各种应用程序提取出需要的数据，例如在屏幕大小有限的设备（例如蜂窝电话）上显示有关的数据，或者创建一个 DIY 的门户网站，聚集并显示来自多个站点的数据。
　　
　　用 XQuery 进行屏幕搜集
　　
　　对 Web 页面做屏幕搜集的许多挑战之一是：它们通常没有可以自我标识的结构，而且它们的结构可能随着站点内容的编辑而变化，甚至有可能根据不同的请求，在页面中插入不同的动态内容（例如广告内容）。因此，对于页面中哪一部分的内容与要提取的数据相对应，通常不得不进行猜测。
　　
　　股票价格
　　
　　现在，让我们从提取 Yahoo! 财经页面中 IBM 股票的当前价格开始（http://finance.yahoo.com/q?s=IBM）。这个页面上有许多材料 ―― 新闻标题、广告、财经数据，等等，但是我想要的是股票的价格数据，它放在一个表格单元格中，靠近包含“Last Trade”的单元格。清单 5 中的查询语句将选择所有文本内容中包含“Last Trade”的 <td> 节点，然后为每个节点（希望只有一个）输出一个包含后续<td> 节点内容的表格行。内容是用 return 子句中的 data() 函数提取的；否则，不仅仅会得到 <td> 节点中的文本，还会得到所有的标记。（在这个查询中，惟一包含技巧的部分是 text()[1] 这个部分；在这里，text() 函数匹配的是 <td> 元素中的所有元素 ―― 在这个例子只有一个元素，但 XQuery 并不知道这一点 ―― 所以必须进一步告诉它在进行文本匹配之前，必须选择第一个文本节点）。只要页面包含一个表格单元格的文本是“Last Trade”，而且后续的单元格包含的是股票价格，那么，即使页面的结构随意变化，也不会造成查询失败。
　　
　　清单 5. 从 Yahoo! 财经提取股票报价的 XQuery 表达式
　　
　　<table>
　　{
　　　for $d in //td
　　　where contains($d/text()[1], "Last Trade")
　　　return <tr><td> { data($d/following-sibling::td) } </td></tr>
　　}
　　</table>
　　
　　天气
　　
　　现在来试一下另外一个页面。Yahoo! 天气页面包含许多 portlet 面板，我想提取上面所列城市的名称、温度和图标。（假如登录 Yahoo! 天气页面 http://weather.yahoo.com，则屏幕上会显示出在“我的 Yahoo!”中所选城市的天气，否则会显示一些主要大城