zoukankan      html  css  js  c++  java
  • 算法精解:DAG有向无环图

    DAG是公认的下一代区块链的标志。本文从算法基础去研究分析DAG算法,以及它是如何运用到区块链中,解决了当前区块链的哪些问题。

    关键字:DAG,有向无环图,算法,背包,深度优先搜索,栈,BlockChain,区块链

    图是数据结构中最为复杂的一种,我在上大学的时候,图的这一章会被老师划到考试范围之外,作为我们的课后兴趣部分。但实际上,图在信息化社会中的应用非常广泛。图主要包括:

    • 无向图,结点的简单连接
    • 有向图,连接有方向性
    • 加权图,连接带有权值
    • 加权有向图,连接既有方向性,又带有权值

    图是由一组顶点和一组能够将两个顶点相连的边组成。

    常见的地图,电路,网络等都是图的结构。

    术语

    • 顶点:图中的一个点
    • 边:连接两个顶点的线段叫做边,edge
    • 相邻的:一个边的两头的顶点称为是相邻的顶点
    • 度数:由一个顶点出发,有几条边就称该顶点有几度,或者该顶点的度数是几,degree
    • 路径:通过边来连接,按顺序的从一个顶点到另一个顶点中间经过的顶点集合
    • 简单路径:没有重复顶点的路径
    • 环:至少含有一条边,并且起点和终点都是同一个顶点的路径
    • 简单环:不含有重复顶点和边的环
    • 连通的:当从一个顶点出发可以通过至少一条边到达另一个顶点,我们就说这两个顶点是连通的
    • 连通图:如果一个图中,从任意顶点均存在一条边可以到达另一个任意顶点,我们就说这个图是个连通图
    • 无环图:是一种不包含环的图
    • 稀疏图:图中每个顶点的度数都不是很高,看起来很稀疏
    • 稠密图:图中的每个顶点的度数都很高,看起来很稠密
    • 二分图:可以将图中所有顶点分为两部分的图

    所以树其实就是一种无环连通图。

    有向图

    有向图是一幅有方向性的图,由一组顶点和有向边组成。所以,大白话来讲,有向图是包括箭头来代表方向的。

    常见的例如食物链,网络通信等都是有向图的结构。

    术语

    上面我们介绍了顶点的度数,在有向图中,顶点被细分为了:

    • 出度:由一个顶点出发的边的总数
    • 入度:指向一个顶点的边的总数

    接着,由于有向图的方向性,一条边的出发点称为头,指向点称为尾。

    • 有向路径:图中的一组顶点可以满足从其中任意一个顶点出发,都存在一条有向边指向这组顶点中的另一个。
    • 有向环:至少含有一条边的起点和终点都是同一个顶点的一条有向路径。
    • 简单有向环:一条不含有重复顶点和边的环。
    • 路径或环的长度就是他们包含的边数。

    图的连通性在有向图中表现为可达性,由于边的方向性,可达性必须是通过顶点出发的边的正确方向,与另一个顶点可连通。

    邻接表数组

    可表示图的数据类型,意思就是如何通过一个具体的文件内容,来表示出一幅图的所有顶点,以及顶点间的边。

    邻接表数组,以顶点为索引(注意顶点没有权值,只有顺序,因此是从0开始的顺序值),其中每个元素都是和该顶点相邻的顶点列表。

    5 vertices, 3 edges
    0: 4 1
    1: 0
    2:
    3:
    4:
    

    背包

    做一个背包集合,用来存储与一个顶点连通的顶点集合,因为不在意存储顺序,并且只进不出,所以选择背包结构来存储。温习一下背包

    package algorithms.bag;
    
    import java.util.Iterator;
    
    // 定义一个背包集合,支持泛型,支持迭代
    public class Bag<Item> implements Iterable<Item> {
    
        private class BagNode<Item> {
            Item item;
            BagNode next;
        }
    
        BagNode head;
        int size;
    
        @Override
        public Iterator<Item> iterator() {
            return new Iterator<Item>() {
                BagNode node = head;
    
                @Override
                public boolean hasNext() {
                    return node.next != null;
                }
    
                @Override
                public Item next() {
                    Item item = (Item) node.item;
                    node = node.next;
                    return item;
                }
            };
        }
    
        public Bag() {
            head = new BagNode();
            size = 0;
        }
    
        // 往前插入
        public void add(Item item) {
            BagNode temp = new BagNode();
            // 以下两行代码一定要声明,不可直接使用temp = head,那样temp赋值的是head的引用,对head的所有修改会直接同步到temp,temp就不具备缓存的功能,引发bug。。
            temp.next = head.next;
            temp.item = head.item;
            head.item = item;
            head.next = temp;
            size++;
        }
    
        public boolean isEmpty() {
            return size == 0;
        }
    
        public int size() {
            return this.size;
        }
    
        public static void main(String[] args) {
            Bag<String> bags = new Bag();
            bags.add("hello");
            bags.add("yeah");
            bags.add("liu wen bin");
            bags.add("seminar");
            bags.add("1243");
            System.out.println(bags.size);
    
    //        for (Iterator i = bags.iterator(); i.hasNext(); ) {
    //            System.out.println(i.next());
    //        }
    
            // 由于Bag实现了Iterable接口,所以支持以下方式遍历
            for (String a : bags) {
                System.out.println(a);
            }
        }
    }
    
    

    有向图结构

    下面代码实现一个有向图数据结构,并添加常用有向图属性和功能。

    package algorithms.graph;
    
    import algorithms.bag.Bag;
    import ioutil.In;
    import ioutil.StdOut;
    
    import java.io.FileReader;
    
    public class Digraph {
        private final int V;// 顶点总数,定义final,第一次初始化以后不可更改。
        private int E;// 边总数
        private Bag<Integer>[] adj;// {邻接表}顶点为数组下标,值为当前下标为顶点值所连通的顶点个数。
    
        public Digraph(int v) {
            this.V = v;
            this.E = 0;
            adj = new Bag[V];
            for (int i = 0; i < V; i++) {
                adj[i] = new Bag<Integer>();
            }
        }
    
        public Digraph(In in) {
            this(in.readInt());
            int E = in.readInt();
            for (int i = 0; i < E; i++) {
                int v = in.readInt();
                int w = in.readInt();
                addEdge(v, w);
            }
        }
    
        public int V() {
            return this.V;
        }
    
        public int E() {
            return this.E;
        }
    
        /**
         * v和w是两个顶点,中间加一条边,增加稠密度。
         *
         * @param v 大V是顶点总数,v是顶点值,所以并v不存在大小限制
         * @param w 同上。
         */
        public void addEdge(int v, int w) {
            adj[v].add(w);
            E++;
        }
    
        /**
         * 返回一个顶点的连通顶点集合的迭代器
         *
         * @param v
         * @return Bag本身就是迭代器,所以返回该顶点的连通顶点集合Bag即可。
         */
        public Iterable<Integer> adj(int v) {
            return adj[v];
        }
    
        /**
         * 将图中所有方向反转
         *
         * @return 返回一个图将所有方向反转后的副本
         */
        public Digraph reverse() {
            Digraph R = new Digraph(V);
            for (int v = 0; v < V; v++) {
                for (int w : adj[v]) {// 遍历原图中跟v顶点连通的顶点w。
                    R.addEdge(w, v);
                }
            }
            return R;
        }
    
        /**
         * 按照邻接表数组结构输出有向图内容
         *
         * @return
         */
        public String toString() {
            String s = V + " vertices, " + E + " edges
    ";
            for (int v = 0; v < V; v++) {
                s += v + ": ";
                for (int w : this.adj(v)) {
                    s += w + " ";
                }
                s += "
    ";
            }
            return s;
        }
    
        public static void main(String[] args) {
            Digraph d = new Digraph(5);
            d.addEdge(0, 1);
            d.addEdge(1, 0);
            d.addEdge(2, 3);
            d.addEdge(0, 4);
            StdOut.println(d);
            /**
             输出:
             5 vertices, 3 edges
             0: 4 1
             1: 0
             2:
             3:
             4:
             */
        }
    }
    
    

    以上背包和有向图代码相关解释请具体参照代码中注释。

    可达性

    上面提到了有向图中的可达性和图中的连通性的关系,可达性是连通性的特殊形式,对方向敏感,所以提到有向图,不可不研究可达性。

    可达性解答了“从一个顶点v到达另一个顶点w,是否存在一条有向路径”等类似问题。

    深度优先搜索

    解答可达性问题,要借助深度优先搜索算法。为了更好的理解深度优先算法,先来搞清楚如何完全探索一个迷宫。

    Tremaux搜索

    完全探索一个迷宫的规则是:从起点出发,不走重复路线,走到终点走出迷宫。具体流程:

    • 每当第一次到达一个新的顶点或边时,标记上。
    • 在走的过程中,遇到一个已标记的顶点或边时,退回到上一个顶点。
    • 当回退到的顶点已没有可走的边时继续回退。

    我想Tremaux搜索会给我们带来一些启发,回到图的深度优先搜索算法。

    package algorithms.graph;
    
    import algorithms.bag.Bag;
    import ioutil.StdOut;
    
    /**
     * 基于深度优先搜索(Depth First Search)解答有向图顶点可达性问题。
     */
    public class DigraphDFS {
        private boolean[] marked;// 是否标记过
    
        /**
         * 算法:在图中找到从某个顶点出发的所有顶点
         *
         * @param digraph
         * @param start
         */
        public DigraphDFS(Digraph digraph, int start) {
            marked = new boolean[digraph.V()];// 初始化marked数组
            dfs(digraph, start);
        }
    
        /**
         * 算法:在图中找到从某些顶点出发的所有顶点,这些顶点被作为一个集合传入。
         *
         * @param digraph
         * @param startSet
         */
        public DigraphDFS(Digraph digraph, Iterable<Integer> startSet) {
            marked = new boolean[digraph.V()];
            for (int w : startSet) {
                dfs(digraph, w);
            }
        }
    
        /**
         * 查询某个顶点是否被标记(是否可达,因为标记过就是可达的)
         *
         * @param v
         * @return
         */
        public boolean marked(int v) {
            return marked[v];
        }
    
        /**
         * 深度优先搜索核心算法,通过标记,在图中从v顶点出发找到有效路径
         * <p>
         * 返回的是通过标记形成的一条有效路径。
         *
         * @param digraph
         * @param v
         */
        private void dfs(Digraph digraph, int v) {
            marked[v] = true;// 标记起点可达。
            for (int w : digraph.adj(v)) {// 遍历v顶点可达的一级顶点。
                if (!marked[w]) dfs(digraph, w);// 如果发现w顶点未到达过,则继续从w开始dfs(即向前走了一步)
            }
        }
    
        public static void main(String[] args) {
            Digraph d = new Digraph(5);// 初始化五个顶点的图
            d.addEdge(0, 1);
            d.addEdge(1, 0);
            d.addEdge(2, 3);
            d.addEdge(0, 4);
            Bag<Integer> startSet = new Bag<>();
            startSet.add(2);
            DigraphDFS reachable = new DigraphDFS(d, startSet);
            for (int v = 0; v < d.V(); v++) {
                if (reachable.marked(v)) {
                    StdOut.print(v + " ");
                }
                StdOut.println();
            }
            /**
             * 输出:
             *
             
    
             2
             3
    
             */
        }
    }
    
    

    startSet是入参条件,只有一个值为2,即在图中找寻2的有效路径,通过图中的边我们可以看出,2的有效路径只有3,所以输出是正确的。

    可达性的一种应用:垃圾收集

    我们都知道一般的对象垃圾收集都是计算它的引用数。在图结构中,把对象作为顶点,引用作为边,当一个对象在一段时间内未被他人引用的时候,这个顶点就是孤立的,对于其他有效路径上的顶点来说它就是不可达的,因此就不会被标记,这时候,例如JVM就会清除掉这些对象释放内存,所以JVM也是一直在跑类似以上这种DFS的程序,不断找到那些未被标记的顶点,按照一定时间规则进行清除。

    有向无环图

    不包含有向环的有向图就是有向无环图,DAG,Directed Acyclic Graph。

    上面我们循序渐进的介绍了图,有向图,本节开始介绍有向无环图,概念也已经给出,可以看出有向无环图是有向图的一种特殊结构。那么第一个问题就是

    如何监测有向图中没有有向环,也就是如何确定一个DAG。

    寻找有向环

    基于上面的问题,我们要做一个寻找有向环的程序,这个程序还是依赖DFS深度优先搜索算法,如果找不到,则说明这个有向图是DAG。

    先来补个坑,其实前面包括背包我在之前都写过,但因为前面那篇文章是我第一篇博文,我还太稚嫩,没有掌握好的编辑器,也没有粘贴代码,所以这里有必要重新填坑。

    package algorithms.stack;
    
    import ioutil.StdOut;
    
    import java.util.Iterator;
    import java.util.NoSuchElementException;
    
    public class Stack<Item> implements Iterable<Item> {
        private int SIZE;
        private Node first;// 栈顶
    
        public Stack() {// 初始化成员变量
            SIZE = 0;
            first = null;
        }
    
        private class Node {
            private Item item;
            private Node next;
        }
    
        // 栈:往first位置插入新元素
        public void push(Item item) {
            Node temp = first;
            first = new Node();
            first.item = item;
            first.next = temp;
            SIZE++;
        }
    
        // 栈:从first位置取出新元素,满足LIFO,后进先出。
        public Item pop() {
            if (isEmpty()) throw new RuntimeException("Stack underflow");
            Item item = first.item;
            first = first.next;
            SIZE--;
            return item;
        }
    
        public boolean isEmpty() {
            return first == null;
        }
    
        public int size() {
            return this.SIZE;
        }
    
        @Override
        public Iterator<Item> iterator() {
            return new Iterator<Item>() {
                Node node = first;
    
                @Override
                public boolean hasNext() {
                    return first != null;
                }
    
                @Override
                public Item next() {
                    if (!hasNext()) throw new NoSuchElementException();
                    Item item = node.item;
                    node = node.next;
                    return item;
                }
            };
        }
    
        public static void main(String[] args){
            Stack<String> stack = new Stack<>();
            stack.push("heyheyhey");
            stack.push("howau");
            stack.push("231");
            StdOut.println(stack.SIZE);
            StdOut.println(stack.pop());
        }
    }
    
    

    我们要做寻找有向环的程序的话,要依赖栈的结构,所以上面把这个坑给填了,下面回归到寻找有向环的程序。(当然,你也可以直接使用java.util.Stack类)

    package algorithms.graph;
    
    import ioutil.StdOut;
    
    import java.util.Stack;
    
    public class DirectedCycle {
        private boolean[] marked;// 以顶点为索引,值代表了该顶点是否标记过(是否可达)
        private Stack<Integer> cycle; // 用来存储有向环顶点。
        // *****重点理解这里start****
        private int[] edgeTo;// edgeTo[0]=1代表顶点1->0, to 0的顶点为1。
        // *****重点理解这里end****
        private boolean[] onStack;// 顶点为索引,值为该顶点是否参与dfs递归,参与为true
    
        public DirectedCycle(Digraph digraph) {
            // 初始化成员变量
            marked = new boolean[digraph.V()];
            onStack = new boolean[digraph.V()];
            edgeTo = new int[digraph.V()];
            cycle = null;
            // 检查是否有环
            for (int v = 0; v < digraph.V(); v++) {
                dfs(digraph, v);
            }
        }
    
        private void dfs(Digraph digraph, int v) {
            onStack[v] = true;// 递归开始,顶点上栈
            marked[v] = true;
            for (int w : digraph.adj(v)) {// 遍历一条边,v-> w
                // 终止条件:找到有向环
                if (hasCycle()) return;
                // 使用onStack标志位来记录有效路径上的点,如果w在栈上,说明w在前面当了出发点,
                if (!marked[w]) {
                    edgeTo[w] = v;// to w的顶点为v
                    dfs(digraph, w);
                } else if (onStack[w]) {// 如果指到了已标记的顶点,且该顶点递归栈上。(栈上都是出发点,而找到了已标记的顶点是终点,说明出发点和终点相同了。)
                    cycle = new Stack<Integer>();
                    for (int x = v; x != w; x = edgeTo[x]) {//起点在第一次循环中已经push了,不要重复
                        cycle.push(x);// 将由v出发,w结束的环上中间的结点遍历push到cycle中。
                    }
                    cycle.push(w);// push终点
                }
            }
            onStack[v] = false;// 当递归开始结算退出时,顶点下栈。
        }
    
        public boolean hasCycle() {
            return cycle != null;
        }
    
        public Iterable<Integer> cycle() {
            return cycle;
        }
    
        public static void main(String[] args) {
            Digraph d = new Digraph(6);
            d.addEdge(0, 1);
            d.addEdge(1, 2);
            d.addEdge(2, 3);
            d.addEdge(3, 0);
            DirectedCycle directedCycle = new DirectedCycle(d);
            if (directedCycle.hasCycle()) {
                for (int a : directedCycle.cycle()) {
                    StdOut.println(a);
                }
            } else {
                StdOut.println("DAG");
            }
        }
    }
    
    

    这段代码不长但其中算法比较复杂,我尽力在注释中做了详细解释,如有任何不明之处,欢迎随时留言给我。

    以上程序的测试用图为

    6 vertices, 4 edges
    0: 1 
    1: 2 
    2: 3 
    3: 0 
    4: 
    5:
    

    肉眼可以看出,这是一个0-1-2-3-0的一个有向环,所以以上程序的执行结果为:

    
    3
    2
    1
    0
    
    
    

    先入栈的在后面,可以看出是0-1-2-3的有向环结构。如果我们将图的内容改为:

    6 vertices, 4 edges
    0: 1 
    1: 2 
    2: 3 
    3: 
    4: 
    5: 0
    

    则明显最后一个拼图3-0被我们打破了,变成了无所谓的5-0,这时该有向图就不存在有向环。此时以上程序执行结果为:

    
    DAG
    
    
    

    DAG与BlockChain

    上面一章节我们将DAG深挖了挖,我想到这里您已经和我一样对DAG的算法层面非常了解,那么它和如今沸沸扬扬的区块链有什么关联呢?本章节主要介绍这部分内容。

    在前面的文章中,我们已经了解了区块链技术,无论是比特币还是以太坊,都是基于一条链式结构,实现了去中心化的,点对点的,trustless的一种新型技术。然而这条链式结构在面临业务拓展的时候屡屡遭受新的挑战,例如块存储量问题,交易速度问题,数据总量过大,单节点存储压力等等。而DAG是基于图的一种实现方式,之所以不允许有向环的出现,是因为DAG可以保证结点交易的顺序,可以通过上面介绍过的有效路径来找到那根主链。如果出现了有向环,那系统就乱了。如果没有有向环的话,DAG中可以有多条有效路径连接各个顶点,因此DAG可以说是更加完善,强大的新一代区块链结构。
    image
    目前非常有名的采用DAG技术的区块链产品有DagCoin,IOTA,ByteBall等,他们都是基于DAG,在性能和储量上面有了全面的提升。

    这里面仍然会有“分叉”的可能,处理方式也是相同的,看哪个结点能够有新的后续,这个部分我们在讲“叔块”的时候说过。

    区块链采用DAG结构以后称为了blockless,无块化的结构,即我们不再将交易打包到块中,以块为单元进行存储,而是直接将交易本身作为基本单元进行存储。另外,DAG也有双花的可能,也是上面“分叉问题”引起的,但它在确认有效路径以后会自动恢复。同时,DAG是异步共识,具体机制还不了解,但它解决了交易性能问题。

    总结

    本文循序渐进地从图到有向图到有向无环图,详细地介绍了相关术语,api代码实现,也补充入了背包和栈的代码实现,重点研究了图的深度优先搜索算法以及寻找有向环算法。最后对DAG和区块链的关系进行了简介,希望随着技术发展,DAG有望成为真正的区块链3.0。

    参考资料

    Algorithms 4th,网上资料

    更多文章请转到醒者呆的博客园

  • 相关阅读:
    文件查找和压缩
    shell脚本编程基础
    [模板]数据生成与对拍
    Codeforces Round #746 (Div. 2)
    Codeforces Round #712 (Div. 2)
    Codeforces Round #715 (Div. 2)
    Codeforces Round #752 (Div. 2)
    提高模拟赛Day8T3树上跑步
    提高模拟赛Day8T2最大匹配
    提高模拟赛Day8T1求中位数
  • 原文地址:https://www.cnblogs.com/Evsward/p/dag.html
Copyright © 2011-2022 走看看