zoukankan      html  css  js  c++  java
  • PowerDotNet平台化软件架构设计与实现系列(02):数据库管理平台

    为了DB复用和简化管理,我们对常见应用依赖的DB模块进行更高级的提取和抽象。

    虽然一些ORM可以简化DB开发,但是我们还是需要进行改进和优化,否则应用越多,后期管理运维越混乱。

    根据常见开发需要,数据库连接串、数据库元数据管理基本上是合格的开发人员必须要用到的功能。

    一、数据库连接

    数据库连接串管理起来不难,但是写法随意可能造成编程开发的混乱。

    通常我们写的应用程序,如果要访问数据库,除了调用远程API服务,基本都会配置一个或多个数据库连接串,有数据库密码安全需要的还需要配置安全模块。随着应用增多,数据库连接串使用容易失控。我个人在某厂碰到过某大型CS结构的应用程序,WinForm客户端赫然写着各种数据库连接串,真是呵呵哒。

    我们通常按照实际BU业务进行模块划分,然后将业务数据落地保存至各自的DB中。

    PowerDotNet数据管理平台提供了一些简单工具和接口,方便开发人员管理数据库连接,我们把数据库简易连接功能称为DBKey或DBRoute(本系列统称为DBKey,感谢前厂友情提供命名),根据一个DBKey可以快速获取实际连接串。

    除了传统的RDBMS关系型数据库,也支持NoSQL、NewSQL、ETCD及Redis之类的缓存连接串管理。

    根据DBKey的设计初衷,所有业务系统,只有DBKey根服务需要配置一次带有用户名和密码的数据库连接串,其他地方直接配置DBkey就可以把问题都搞定。

    二、元数据

     1、数据库服务器

    2、字段管理

    其他相关元数据管理,如:

    (1)数据表

    表和字段查询

    仅表查询

    (2)视图

    (3)存储过程

    (4)函数

    (5)触发器

    相对而言触发器已经用的非常少了。

    (6)索引

    PowerDotNet可以像主流RDBMS管理工具一样实现对数据库执行基本的增删改查操作,元数据管理也在持续完善中,常见的死锁分析、耗时统计、最耗IO的查询、统计SQL语句执行次数、慢查询等功能会根据不同数据库类型陆续集成进来,最终目标是做到完善的DML、DDL和DCL管理控制。

    PowerDotNet已经实现了对关系型数据库SQLServer、MySQL(MariaDB)和PostgreSQL的元数据完全支持,也预留了接口用于扩展支持更多类型的数据库。

     实际上数据库管理非常复杂,个人开发只用到常用功能,后续文章还会提到如何高效开发数据库应用。

    三、代码生成器

    如果熟悉常见的代码生成器,大家都能想到这主要是用来生成单表对应的实体、DAL、Json数据、DDL、存储过程、常用SQL、Form表单、JS(或VUE、TypeScript等)和没啥特殊逻辑的BLL的。

    通常代码生成器生成的业务逻辑可以忽略,不要低估业务逻辑的复杂度,根据经验,写业务逻辑代码同样需要非常出色扎实的编程功底,建议大家老老实实写业务逻辑,而DAL层几乎可以不用改动。

    代码生成器默认支持SQLServer、MySQL(MariaDB)、PostgreSQL三种数据库的代码生成,这也是PowerDotNet默认支持的三种常用关系型数据库。

    配合DBKey功能,可以省去一堆配置和代码,对于一般应用的DAL开发那是相当的爽,谁用谁知道。

    1、WinForm版代码生成器

    2、Asp.Net MVC版代码生成器

    相对WinForm版本,个人更推崇Web版本的代码生成器。

    (1)支持DBKey或者连接串直连模式

    (2)丰富的代码生成和下载选型

    (3)代码生成和元数据查看

    查看生成代码,下图示例是生成的业务逻辑对象截图。

    很多代码生成器生成的业务逻辑代码都是直接调用DAL方法,其实非常让人无语,完全没有“业务逻辑”的存在。PowerDotNet代码生成器生成的业务逻辑代码,业务逻辑丰富,常见校验、判重、查询边界、批量处理、缓存等应有尽有。

    查看表结构

    (4)数据库文档生成

    对数据库的管理和抽象,可以快速提高我们的开发效率。论针对数据库的应用开发,配合PowerDotNet自研的ORM工具,很多SQL都可以简化,DAL层完全可以自动化一行SQL不写。不过这是另外的开发问题了,本文不做探讨。

    真实情况下,DB管理平台可以扩展开发出很多功能,比如数据元数据管理、SQL变更管理、SQL版本管理、Job管理等,本文示例图片主要用于展示开发常用的功能,其他功能没做介绍。

    四、未来计划

    目前PowerDotNet自研的数据库管理平台,前端用到sql-formatter组件,后端SQL使用了C#版本的SQL formatter(TGSqlParser),对基本的常用SQL进行语法合规性校验是没什么大问题的,但是对于复杂SQL还是略有不足。

    业务数据库开发过程中常见的数据统计、动态执行万能SQL、动态报表生成等虽然都有相应模块支持,但是还不是很完善,主要是复杂度上去以后还是不容易维护。

    YearningArchery是流行的SQL审核查询和工单管理平台,数据库管理的基本功能都有,前厂的数据库工单系统就参考了这两个开源项目。

    PowerDotNet的DB管理平台未来也向DB工单功能靠拢,但是计划是独立出一个工单系统来做(最近还很忙,数据库工单系统这篇文章来不及写了^_^),包含数据库工单,将数据库变更、版本控制和回滚这几个最重要功能开发出来,而不是所有都集成在当前的数据库管理平台里。

    根据我的理解,数据库管理平台可以最大程度降低数据库开发的混乱无序程度,哪怕是非生产环境的数据库也要严格管理起来。我在某厂的时候开发人员已经没有可能直连数据库“乱写乱画”了。开发使用数据库管理平台的目标和意义,就是最大可能规范开发人员,解放DBA、运维人员和业务支持,咩哈哈。

    参考:

    https://github.com/zeroturnaround/sql-formatter

    https://docs.microsoft.com/en-us/dotnet/api/microsoft.sqlserver.transactsql.scriptdom.tsqlparser

    https://www.nuget.org/packages/gudusoft.gsqlparser

    http://support.sqlparser.com

    https://github.com/sqlparser


    作者:Jeff Wong
    出处:http://jeffwongishandsome.cnblogs.com/
    本文版权归作者和博客园共有,欢迎围观转载。转载时请您务必在文章明显位置给出原文链接,谢谢您的合作。

  • 相关阅读:
    抓老鼠
    我的寒假作业
    寒假作业
    大一上学期C语言学习总结
    我的三位老师
    自我介绍
    2019春季第七周作业
    第六周总结
    第五周作业及其总结
    2019春季第四周作业
  • 原文地址:https://www.cnblogs.com/jeffwongishandsome/p/db-system-design-and-implement.html
Copyright © 2011-2022 走看看