仿查询分析器的C#计算器——4.语法分析
2009-03-24 08:20:40 来源：WEB开发网上一篇中介绍通过词法分析将表达式转换成TokenRecord对象列表。在第一篇中提到将表达式用树形结构表示，然后就可以很方便的从下级节点取值计算了。那么如何将列表分析成一棵树的结构呢？
还是以例子来说明，比如3*7+56/8-2*5，分析成TokenRecord列表就是
记号对象 | 对应表达式 |
TokenValue | 3 |
TokenMultiply | * |
TokenValue | 7 |
TokenPlus | + |
TokenValue | 56 |
TokenDivide | / |
TokenValue | 8 |
TokenMinus | - |
TokenValue | 2 |
TokenMultiply | * |
TokenValue | 5 |
分析成树就是
根据实际的算术规则，运算符优先级高的要先计算，然后由低优先级的运算符去调用它的运算结果。表现在树视图上就是高优先级的节点是低优先级节点的下级，即优先级越高，其位置越靠近树叶。因为这里采用统一的对象，把所有元素都用TokenRecord表示，所以TokenValue也是有优先级的。而通过对树视图的分析，所有的TokenValue都是处在叶子的位置，则TokenValue的优先级最高。
分析到这里就要用代码实现了。这里需要用到TokenRecord中的优先级Priority属性，还要用到堆栈。和词法分析一样，也是需要用循环依次分析各个TokenRecord。拿上面的TokenRecord列表进行分析，粗体字代表当前分析的TokenRecord。分析的过程中有一个原则叫“高出低入原则”，需要解释一下。
“高出低入原则”是指：
1.栈顶TokenRecord的优先级高于当前TokenRecord的优先级，则将栈顶TokenRecord弹栈（高出）到临时变量。
1.1如果堆栈为空，将临时变量中的TokenRecord加入当前TokenRecord的ChildList中，然后将当前TokenRecord压栈（低入）。
1.2如果堆栈不为空，找出栈顶TokenRecord和当前TokenRecord中优先级高的一个（相同则按栈顶高算），将临时变量中的TokenRecord加入高优先级TokenRecord的ChildList中。再用高出低入原则处理栈顶和当前TokenRecord。
2.栈顶TokenRecord的优先级低于当前TokenRecord的优先级，则将当前TokenRecord直接压栈。
可能文字表述的并不清晰，其中涉及到循环和递归的操作，具体的过程通过下面的例子来讲解。
1.列表分析状态：
TokenValue(3) | TokenMultiplay | TokenValue(7) | …... |
堆栈分析：当前堆栈为空，将当前分析的TokenRecord压栈。
TokenValue(3) |
栈底 |
堆栈对应树视图：
2.列表分析状态：
TokenValue(3) | TokenMultiply | TokenValue(7) | …... |
堆栈分析：栈顶为TokenValue，当前TokenRecord为TokenMultiply，TokenValue优先级最高。遵循高出低入原则，将TokenValue弹栈并添加到TokenMultiply的ChildList中，然后将TokenMultiplay压栈。
TokenMultiply |
栈底 |
堆栈对应树视图：
3.列表分析状态
…... | TokenMultiply | TokenValue(7) | TokenPlus | …... |
堆栈分析：栈顶为TokenMultiplay，当前TokenRecord为TokenValue，TokenMultiply优先级高于TokenValue，则将TokenValue加入TokenMultiplay的ChildList中。
TokenMultiply |
栈底 |
堆栈对应树视图：
4.列表分析状态
堆栈分析：栈顶为TokenMultiply，当前TokenRecord为TokenPlus，TokenMultiply优先级高于TokenPlus。遵循高出低入原则，将TokenMultiply弹栈并添加到TokenPlus的ChildList中，然后将TokenPlus压栈。
TokenPlus |
栈底 |
堆栈对应树视图：
5.列表分析状态
…… | TokenPlus | TokenValue(56) | TokenDivide | …... |
堆栈分析：栈顶为TokenPlus，当前TokenRecord为TokenValue，TokenPlus优先级低于TokenValue。遵循高出低入原则，不需要弹栈，直接将TokenValue压栈。
TokenValue(56) |
TokenPlus |
栈底 |
堆栈对应树视图：
6.列表分析状态
…… | TokenValue(56) | TokenDivide | TokenValue(8) | …... |
堆栈分析：栈顶为TokenValue，当前TokenRecord为TokenDivide，TokenValue优先级高于TokenDivide。遵循高出低入原则，将TokenValue弹栈并加入TokenDivide的ChildList中。此时栈顶为TokenPlus，TokenDivide优先级高于TokenPlus，遵循高出低入原则，将TokenDivide压栈。
TokenDivide |
TokenPlus |
栈底 |
堆栈对应树视图：
7.列表分析状态
…… | TokenDivide | TokenValue(8) | TokenMinus | …... |
堆栈分析：栈顶为TokenDivide，当前TokenRecord为TokenValue，TokenDivide优先级高于TokenValue。遵循高出低入原则，将TokenValue加入TokenDivide的ChildList中。
TokenDivide |
TokenPlus |
栈底 |
8列表分析状态
…… | TokenValue(8) | TokenMinus | TokenValue(2) | …… |
TokenMinus |
栈底 |
堆栈对应树视图：
9.列表分析状态
…… | TokenMinus | TokenValue(2) | TokenMultiply | …... |
堆栈分析：栈顶是TokenMinus，当前TokenRecord是TokenValue，TokenMinus优先级低于TokenValue。遵循高出低入原则，将TokenValue压栈。
TokenValue(2) |
TokenMinus |
栈底 |
堆栈对应树视图：
10.列表分析状态
…… | TokenValue(2) | TokenMultiply | TokenValue(5) |
TokenMultiply |
TokenMinus |
栈底 |
堆栈对应树视图：
11.列表分析状态
…… | TokenValue(2) | TokenMultiply | TokenValue(5) |
堆栈分析：栈顶是TokenMultiply，当前是TokenValue，TokenMultiply优先级高于TokenValue。遵循高出低入原则，将TokenValue加入TokenMultiply的ChildList中。
TokenMultiply |
TokenMinus |
栈底 |
堆栈对应树视图：
12.堆栈分析：此时列表分析结束，堆栈不为空，需要对堆栈进行处理。经过上面的堆栈分析，遵循高出低入原则，堆栈中的TokenRecord肯定是栈底优先级最低，栈顶优先级最高。只需要将堆栈中的TokenRecord依次弹栈，然后加入到新栈顶的ChildList中即可。最后弹栈的一个TokenRecord就是整个树视图的根节点，也就是返回值。到此，堆栈为空，也得到了预期的树视图，返回根节点TokenRecord即可。
上面是对语法分析整个流程的分析，下面给出具体的代码。程序中的语法分析放在一个单独的文件中，SyntaxTreeAnalyse.cs，文件中也只有一个SyntaxTreeAnalyse类，专门用于语法树的分析。这个类只有一个入口即一个公开方法SyntaxTreeGetTopTokenAnalyse，传入TokenRecord列表，经过分析后返回一个顶级TokenRecord对象，即树形结构的根节点。具体代码如下：
/// <summary>
/// 语法树分析
/// </summary>
/// <remarks>Author:Alex Leo</remarks>
internal class SyntaxTreeAnalyse
{
/// <summary>
/// 记号段提取，提取顶级操作记号
/// </summary>
/// <param name="IndexStart">起始序号</param>
/// <param name="IndexEnd">结束序号</param>
/// <returns>传入记号段的顶级操作记号记录对象</returns>
/// <remarks>Author:Alex Leo</remarks>
internal static TokenRecord SyntaxTreeGetTopTokenAnalyse(List<TokenRecord> TokenList, int IndexStart, int IndexEnd)
{
int intIndexCurrent = IndexStart;//当前处理序号
int intIndexSubStart = IndexStart;//子记号段的起始序号
TokenRecord Token;//获取当前Token
Stack<TokenRecord> StackCompart = new Stack<TokenRecord>();//括号堆栈
Stack<TokenRecord> StackOperate = new Stack<TokenRecord>();//操作记号堆栈
for (int intIndex = IndexStart; intIndex <= IndexEnd; intIndex++)
{
Token = TokenList[intIndex];
intIndexCurrent = intIndex;
if (Token is TokenLeftBracket)
{
StackCompart.Push(TokenList[intIndexCurrent]);//把左括号压栈
//获取该括号对中包含的记号段
intIndexSubStart = intIndexCurrent + 1;//设置子记号段的起始序号
//提取记号段
//如果语法错误，比如在记号段的末尾没有配对的右括号记号，则会出错，这里假设为语法正确
while (StackCompart.Count > 0)
{
intIndexCurrent += 1;
if (intIndexCurrent >= TokenList.Count)
{
//Error or auto add lossed bracket
throw new SyntaxException(Token.Index, Token.Length, "缺少配对的括号");
}
if (TokenList[intIndexCurrent] is TokenLeftBracket)
{
StackCompart.Push(TokenList[intIndexCurrent]);
}
else if (TokenList[intIndexCurrent] is TokenRightBracket)
{
StackCompart.Pop();
}
}
TokenRecord TokenInnerTop = SyntaxTreeGetTopTokenAnalyse(TokenList, intIndexSubStart, intIndexCurrent - 1);
if (TokenInnerTop != null)//只有在取得括号中的顶级节点才添加
{
Token.ChildList.Add(TokenInnerTop);
}
else
{
//无法获取括号内的顶级节点
throw new SyntaxException(Token.Index, Token.Length, "括号内不包含计算表达式");
}
intIndex = intIndexCurrent;//移动序号到当前序号
SyntaxTreeStackAnalyse(StackOperate, Token);
}//if token is TokenLeftBracket
else if (Token is TokenMethod)//方法处理
{
//检查方法后是否接着左括号
if (intIndexCurrent >= IndexEnd || !(TokenList[intIndexCurrent + 1] is TokenLeftBracket))
{
throw new SyntaxException(Token.Index, Token.Length, "方法后缺少括号");
}
intIndexSubStart = intIndexCurrent;//设置子记号段的起始序号
intIndexCurrent += 1;//指针后移
StackCompart.Push(TokenList[intIndexCurrent]);//把左括号压栈
//提取记号段
//如果语法错误，比如在记号段的末尾没有配对的右括号记号，则会出错，这里假设为语法正确
while (StackCompart.Count > 0)
{
intIndexCurrent += 1;
if (intIndexCurrent >= TokenList.Count)
{
//Error or auto add lossed bracket
throw new SyntaxException(Token.Index, Token.Length, "缺少配对的括号");
}
if (TokenList[intIndexCurrent] is TokenLeftBracket)
{
StackCompart.Push(TokenList[intIndexCurrent]);
}
else if (TokenList[intIndexCurrent] is TokenRightBracket)
{
StackCompart.Pop();
}
}
if ((intIndexCurrent - intIndexSubStart) == 2)//如果右括号的序号和方法的序号之差是2，说明中间只有一个左括号
{
throw new SyntaxException(TokenList[intIndexCurrent - 1].Index, 1, "括号内不包含计算表达式");
}
//分析方法记号段，因为方法括号段中可能有多个运算结果，比如if，max等，不能用获取顶级节点的方法SyntaxTreeGetTopTokenAnalyse
SyntaxTreeMethodAnalyse(TokenList, intIndexSubStart, intIndexCurrent);
intIndex = intIndexCurrent;//移动序号到当前序号
SyntaxTreeStackAnalyse(StackOperate, Token);
}//if token is TokenKeyword
else if (Token is TokenSymbol || Token is TokenValue)
{
SyntaxTreeStackAnalyse(StackOperate, Token);
}
else
{
//不做处理
throw new SyntaxException(Token.Index, Token.Length, "运算符位置错误");
}
}
return SyntaxTreeStackGetTopToken(StackOperate);//返回顶级记号
}
/// <summary>
/// 方法记号段分析（处于括号中间的代码段）
/// </summary>
/// <param name="ListToken">记号列表</param>
/// <param name="IndexStart">括号开始的序号</param>
/// <param name="IndexEnd">括号结束的序号</param>
/// <remarks>只处理完整的方法段，比如if(), round()</remarks>
/// <remarks>Author:Alex Leo</remarks>
private static void SyntaxTreeMethodAnalyse(List<TokenRecord> ListToken, int IndexStart, int IndexEnd)
{
int intIndexSubStart = IndexStart;//子记号段的起始序号
intIndexSubStart = IndexStart + 2;//移动子记号段的开始序号到括号后面
int intIndexSubEnd = IndexEnd;//子记号段的结束序号
TokenRecord TokenMethod = ListToken[IndexStart];//方法记号对象
TokenRecord TokenCurrent;//获取当前Token
Stack<TokenRecord> StackCompart = new Stack<TokenRecord>();//分隔符堆栈
for (int intIndex = IndexStart; intIndex <= IndexEnd; intIndex++)
{
TokenCurrent = ListToken[intIndex];
if (TokenCurrent is TokenLeftBracket)
{
StackCompart.Push(TokenCurrent);
}
else if (TokenCurrent is TokenRightBracket)
{
StackCompart.Pop();
if (StackCompart.Count == 0)//如果是最后一个右括号
{
intIndexSubEnd = intIndex - 1;//设置段结束序号
TokenMethod.ChildList.Add(SyntaxTreeGetTopTokenAnalyse(ListToken, intIndexSubStart, intIndexSubEnd));//递归
}
}
else if (TokenCurrent is TokenComma)
{
if (StackCompart.Count == 1)//如果是方法的子段
{
intIndexSubEnd = intIndex - 1;//设置段结束序号
TokenMethod.ChildList.Add(SyntaxTreeGetTopTokenAnalyse(ListToken, intIndexSubStart, intIndexSubEnd));//递归
intIndexSubStart = intIndex + 1;//把子记号段序号后移
}
}
else
{
//不作处理
}
}
//TokenMethod.GetType().GetMethod("CheckChildCount").Invoke(TokenMethod, new object[] { "运算元素数量不合法" });
}
/// <summary>
/// 语法树堆栈分析，基于记号的优先级
/// </summary>
/// <param name="SyntaxTreeStack">语法树堆栈</param>
/// <param name="NewToken">新记号</param>
/// <remarks>Author:Alex Leo</remarks>
private static void SyntaxTreeStackAnalyse(Stack<TokenRecord> SyntaxTreeStack, TokenRecord NewToken)
{
if (SyntaxTreeStack.Count == 0)//如果语法树堆栈中不存在记号，则直接压栈
{
SyntaxTreeStack.Push(NewToken);
}
else//否则，比较优先级进行栈操作
{
//比较优先级，如果新Token优先级高，则压栈；
//如果新Token优先级低，则弹栈，把弹出的Token设置为新Token的下级，并把新Token压栈；
//相同优先级也弹栈，并将新Token压栈
//if (this.m_DicTokenTypePriority[SyntaxTreeStack.Peek().TokenType] < this.m_DicTokenTypePriority[NewToken.TokenType])//低进
if (SyntaxTreeStack.Peek().Priority < NewToken.Priority)//低进
{
SyntaxTreeStack.Push(NewToken);//低进
}
else
{
TokenRecord TempToken = null;
//如果堆栈中有记号，并且栈顶的记号优先级大于等于新记号的优先级，则继续弹栈
while (SyntaxTreeStack.Count > 0 && (SyntaxTreeStack.Peek().Priority >= NewToken.Priority))
{
TempToken = SyntaxTreeStack.Pop();
if (SyntaxTreeStack.Count > 0)//检测栈顶是否可能为空，如果为空则退出
{
if (SyntaxTreeStack.Peek().Priority >= NewToken.Priority)
{
SyntaxTreeStack.Peek().ChildList.Add(TempToken);
}
else
{
NewToken.ChildList.Add(TempToken);
}
}
else
{
NewToken.ChildList.Add(TempToken);
}
}
SyntaxTreeStack.Push(NewToken);//压栈
}
}
}
/// <summary>
/// 获取语法树堆栈的顶级记号
/// </summary>
/// <param name="SyntaxTreeStack">语法树堆栈</param>
/// <returns>顶级记号</returns>
/// <remarks>Author:Alex Leo</remarks>
private static TokenRecord SyntaxTreeStackGetTopToken(Stack<TokenRecord> SyntaxTreeStack)
{
TokenRecord TempToken = null;
if (SyntaxTreeStack.Count > 0)
{
TempToken = SyntaxTreeStack.Pop();
while (SyntaxTreeStack.Count > 0)
{
SyntaxTreeStack.Peek().ChildList.Add(TempToken);
TempToken = SyntaxTreeStack.Pop();
}
}
return TempToken;
}
}//class SyntaxTreeAnalyse
代码中对括号进行了特殊处理，遇到左括号之后需要查找到配对的右括号，然后对这一段调用SyntaxTreeGetTopTokenAnalyse进行递归处理，找出括号中的顶级节点。而对于方法也需要特殊处理，方法必须带括号，而且括号中不止一个根节点。处理过程是以逗号为分隔符，依次找出括号中的几个节点，然后添加到方法的ChildList中。实际的代码在SyntaxTreeMethodAnalyse方法中实现。
这一篇写的我自己都头晕了，呵呵，堆栈一个个分析，截图都挺烦。代码里方法互相递归调用，也是比较让人容易头晕的，希望有人能看懂吧。
系列文章：
仿查询分析器的C#计算器——1.初步分析
仿查询分析器的C#计算器——2.记号对象
仿查询分析器的C#计算器——3.词法分析
中查找“仿查询分析器的C#计算器——4.语法分析”更多相关内容
中查找“仿查询分析器的C#计算器——4.语法分析”更多相关内容
赞助商链接
