Debug --> Variable，Tensor，Numpy的转换

尝试输出keras模型参数的时候，需要解决的问题：

import tensorflow.compat.v1 as tf
tf.disable_v2_behavior()
import numpy as np
weight = tf.get_variable(name='weights',initializer=tf.random_normal([5,2], stddev=0.01))
with tf.Session() as sess:
    sess.run(tf.global_variables_initializer())
    print('------------------打印出已经初始化之后的Variable的值------------------------------')
    print(sess.run(weight))
    print('----------weight的类型------------')
    print(type(weight))
    # Variable转换为Tensor
    # Variable类型转换为tensor类型(无论是numpy转换为Tensor还是Variable转换为Tensor都可以使用tf.convert_to_tensor)
    data_tensor = tf.convert_to_tensor(weight) 
    # 打印出Tensor的值（由Variable转化而来）
    print('------------------Variable转化为Tensor，打印出Tensor的值--------------------------')
    print(sess.run(data_tensor))
    # tensor转化为numpy
    print('-------------------tensor转换为numpy，打印出numpy的值-----------------')
    data_numpy = data_tensor.eval()
    print(data_numpy)
    print('------------------numpy转换为Tensor---------------------------')
    ten = tf.convert_to_tensor(data_numpy)
    print(ten)
    print(sess.run(ten))
    # tensor转化为Variable（其实是Variable继承Tensor的结构，但是没有值
    print('---------------------tensor转换为Variable(需要重新进行初始化)----------------------')
    v = tf.Variable(data_tensor) # 此时Variable继承的是Tensor的结构，至于Variable的值，需要重新进行initialize
    sess.run(tf.global_variables_initializer())
    print(sess.run(weight)) # 此时输出的weight和v的结构是相同的，但是值是不同的。
    print(sess.run(v))
    
#     tf.enable_eager_execution(
#     config=None,
#     device_policy=None,
#     execution_mode=None
#     )
    # Variable转换为numpy（也是使用eval）
    print('---------------Variable转换为numpy（也是使用eval）--------------------')
    data_numpy2 = weight.eval()
    print(data_numpy2)

1.模型保存

model.save_model()可以保存网络结构权重以及优化器的参数
model.save_weights() 仅仅保存权重

2.模型加载

from keras.models import load_model
load_model()：只能load 由save_model保存的，将模型和weight全load进来

model.load_weights(self, filepath, by_name=False):在加载权重之前，model必须编译好

3.sequential 和functional

序列式模型只能有单输入单输出，函数式模型可以有多个输入输出

4.model类

因为是继承， model对象有 container和layer的所有方法，可以用model对象访问下面三个类的所有方法

Model(Container)	container	layer
fit	summary	get_input_at(node_index)
evaluate	get_layer	get_config()
predict	get_weights	compute_mask(x, mask)
train on batch	set_weights	get_input_mask_at(node_index)
test_on_batch	get_config	get_output_at(node_index)
predict_on_batch	compute_output_shape
evaluate_generator
predict_generator

5.打印各层权重

layer.get_weights返回的是没有名字的权重array，Model.get_weights() 是他们的拼接，也没有名字，利用layer.weights 可以访问到后台的变量

#打印各层名字，权重的形状
for layer in model.layers:
        for weight in layer.weights:
            print weight.name,weight.shape

上面输出的weight是Var类型，下面给出另一种方法，输出的weight是np.Array类型：

names = [weight.name for layer in model.layers for weight in layer.weights]
weights = model.get_weights()
for name, weight in zip(names, weights):
    print(name, weight.shape)