以大数据眼光欣赏唐人文墨（二）代码实现

Begin

继上次对唐诗三百首和全唐诗四万多首诗进行分析之后…

详细内容可以看看上次这篇文章，《以大数据眼光欣赏唐人文墨（一）》

这篇文章来讲讲具体的代码实现，本项目全部采用C#编写。

软件介绍

首先为了做本次分析，我用C#写了一个Winform程序，名字很逗比，叫做“我爱读诗词——唐诗”。

软件和唐诗三百首数据文件打包下载：http://pan.baidu.com/s/1gftDKTd

全唐诗数据由于太大了需要下载的同学点这个：http://pan.baidu.com/s/1nv4WNNF

下面是软件截图：

启动直接写成控制台的，反正就是自己用而已，粗糙一点无所谓，能用就行。

唐诗三百首匹配界面截图：

这里是从源文件读取数据并整理出每一首诗的标题、作者、内容。

全唐诗的匹配的界面：

你问我为什么这个的背景是深色的，我也不知道（摊手，反正当时就这么设置了= =…

由于全唐诗太多了，要打开并分析出来需要很长时间，所以这里用了小容量样本。

分析界面：

这个就是上次的文章里展示的，主要功能都在这里了。窗口主体是一个listview控件，用来分类显示分析结果。

代码

关于从源文件整理出标题、作者、内容的代码，请参见  用C#学习唐诗三百首和全唐诗

标题分析

首先是从数据文件里读取出每一首诗

QData qD = new QData(poemFile);

定义一个 Dictionary<string, int> 结构，索引是标题，值是数量。
分析很简单，从QData对象读取出所有的标题然后判断是否在 Dictionary<string, int> 存在这个标题，如果存在数量就+1，如果不存在就添加进去。
代码如下：

string[] sections = qD.GetAllSectionsArray();
Console.WriteLine("共有[{0}]首诗", sections.Length);
foreach (string s in sections)
{
    Application.DoEvents();
    string title = qD.GetValue(s, "Title");
    this.lblStatus.Text = (++count).ToString();
    if (title.Length > 0)
    {
        if (poemTitle.ContainsKey(title))
            poemTitle[title]++;
        else
            poemTitle.Add(title, 1);
    }
}

然后再对 Dictionary<string, int>  排序：

var poemTitleSorted = from pObj in poemTitle orderby pObj.Value descending select pObj;

Linq语句用起来太方便了。
然后把排序的结果添加到Listview就OK了~

作者分析

和标题分析是大同小异的，这里不再累述。

单字分析

先贴出代码了，思路很简单，就是提取出所有内容，拆分出每个字，再去掉标点符号，和标题分析一样进行统计。

Dictionary<char, int> poemChar = new Dictionary<char, int>();
string poemFile = this.txtFile.Text;
QData qD = new QData(poemFile);
int count = 0;
long charCount = 0;
if (File.Exists(poemFile))
{
    string[] sections = qD.GetAllSectionsArray();
    Console.WriteLine("共有[{0}]首诗", sections.Length);
    foreach (string s in sections)
    {
        Application.DoEvents();
        string content = qD.GetValue(s, "Content");
        this.lblStatus.Text = (++count).ToString();
        charCount += content.Length;

        foreach (char c in content)
        {
            if (poemChar.ContainsKey(c))
                poemChar[c]++;
            else
                poemChar.Add(c, 1);
        }
    }

    Console.WriteLine("共有[{0}]字", charCount);

    if (poemChar.ContainsKey('，'))
        poemChar.Remove('，');
    if (poemChar.ContainsKey('。'))
        poemChar.Remove('。');
    if (poemChar.ContainsKey('！'))
        poemChar.Remove('！');
    if (poemChar.ContainsKey('？'))
        poemChar.Remove('？');
    if (poemChar.ContainsKey('['))
        poemChar.Remove('[');
    if (poemChar.ContainsKey(']'))
        poemChar.Remove(']');
    if (poemChar.ContainsKey('-'))
        poemChar.Remove('-');

    Console.WriteLine("去除重复之后共有 {0} 字", poemChar.Count);

    var poemTitleSorted = from pObj in poemChar orderby pObj.Value descending select pObj;  //Linq排序

    this.listView.Clear();
    this.listView.Columns.Add("单字", 200);
    this.listView.Columns.Add("单字数量", 100);
    this.listView.Columns.Add("比例", 100);
    this.listView.BeginUpdate();
    foreach (KeyValuePair<char, int> p in poemTitleSorted)
    {
        double ratio = (double)p.Value / (double)charCount * 100;
        ListViewItem item = new ListViewItem(new string[] { p.Key.ToString(), p.Value.ToString(), ratio.ToString("F5") + "%" });
        this.listView.Items.Add(item);
    }
    this.listView.EndUpdate();
}
qD.Close();

诗句长度分析

一样贴出代码。思路是提取每首诗的内容之后，按标点符号拆分，我这里针对逗号、句号、问号和感叹号拆分，然后就能获取每个诗句的长度了。用Linq排个序就好了。

string poemFile = this.txtFile.Text;
Dictionary<string, int> poemType = new Dictionary<string, int>();
QData qD = new QData(poemFile);
int count = 0;

if (File.Exists(poemFile))
{
    string[] sections = qD.GetAllSectionsArray();
    Console.WriteLine("共有[{0}]首诗", sections.Length);
    foreach (string s in sections)
    {
        Application.DoEvents();
        string content = qD.GetValue(s, "Content");
        this.lblStatus.Text = (++count).ToString();

        int comma = content.IndexOf('，');
        int period = content.IndexOf('。');
        int questionMark = content.IndexOf('？');
        int exclamationPoint = content.IndexOf('！');

        comma = comma < 0 ? (period < 0 ? (questionMark < 0 ? exclamationPoint : questionMark) : period) : comma;
        period = period < 0 ? comma : period;
        questionMark = questionMark < 0 ? comma : questionMark;
        exclamationPoint = exclamationPoint < 0 ? comma : exclamationPoint;

        int min = comma < period ? comma : period;
        min = min < questionMark ? min : questionMark;
        min = min < exclamationPoint ? min : exclamationPoint;
        min = min < 0 ? 0 : min;

        string wordsOfFirst = content.Substring(0, min).Length.ToString();

        content = NumberToChinese(wordsOfFirst) + "言";
        if (content.Length > 0)
        {
            if (poemType.ContainsKey(content))
                poemType[content]++;
            else
                poemType.Add(content, 1);
        }
    }
}

var poemTitleSorted = from pObj in poemType orderby pObj.Value descending select pObj;  //Linq排序

this.listView.Clear();
this.listView.Columns.Add("句子长度", 200);
this.listView.Columns.Add("数量", 100);
this.listView.Columns.Add("比例", 100);
this.listView.BeginUpdate();
foreach (KeyValuePair<string, int> p in poemTitleSorted)
{
    double ratio = (double)p.Value / (double)count * 100;
    ListViewItem item = new ListViewItem(new string[] { p.Key, p.Value.ToString(), ratio.ToString("F4") + "%" });
    this.listView.Items.Add(item);
}
this.listView.EndUpdate();
qD.Close();

End

实现的核心代码基本就这些了，没有多少代码，我对C#不是很熟悉，代码写得比较冗长，请大家多多指教。

我的微信公众号：DealiAxy