zoukankan html css js c++ java

【TensorFlow2.0】TensorFlow简介

TensorFlow2.0

TensorFlow 里程碑

TensorFlow里程碑

2015.9发布0.1版本
2017.2发布1.0版本
2019春发布2.0版本

TensorFlow vs Pytorch

TensorFlow1.0 上手困难，经常被诟病，都说 Pytorch。现在 TensorFlow2.0 出了，就容易上手多了。

TensorFlow1.0 vs PyTorch

TensorFlow2.0 vs PyTorch

学习建议就是

忘掉 TensorFlow1.x
PyTorch和TensorFlow选择一个主修
- 两者都要掌握
Keras逐渐淡出
- TF+Keras
- PyTorch+Caffe2

TensorFlow 的优点

GPU 加速

用 CPU 和 GPU 分别测试一下运算速度

import tensorflow as tf
import timeit

with tf.device('/cpu:0'):
    cpu_a = tf.random.normal([10000, 1000])
    cpu_b = tf.random.normal([1000, 2000])
    print(cpu_a.device, cpu_b.device)
with tf.device('/gpu:0'):
    gpu_a = tf.random.normal([10000, 1000])
    gpu_b = tf.random.normal([1000, 2000])
    print(gpu_a.device, gpu_b.device)
def cpu_run():
    with tf.device('/cpu:0'):
        c = tf.matmul(cpu_a, cpu_b)
    return c
def gpu_run():
    with tf.device('/gpu:0'):
        c = tf.matmul(gpu_a, gpu_b)
    return c

# warm up
cpu_time = timeit.timeit(cpu_run, number=10)
gpu_time = timeit.timeit(gpu_run, number=10)
print('warmup:', cpu_time, gpu_time)

cpu_time = timeit.timeit(cpu_run, number=10)
gpu_time = timeit.timeit(gpu_run, number=10)
print('run time:', cpu_time, gpu_time)

自动求导

import tensorflow as tf
x = tf.constant(1.)
a = tf.constant(2.)
b = tf.constant(3.)
c = tf.constant(4.)
with tf.GradientTape() as tape:
    tape.watch([a, b, c])
    y = a**2 * x + b * x + c
[dy_da, dy_db, dy_dc] = tape.gradient(y, [a, b, c])
print(dy_da, dy_db, dy_dc)