1. Tổng quan phương pháp
Bài toán này đơn giản được trình bày như sau:
- Bước 1: Biến những lý thuyết thực tế thành toán học, phải xác định được rõ sự phụ thuộc các biến để đưa ra đầu vào và đầu ra của bài toán.
- Khi đó,hàm \(\color{Red}f\) trên chưa biết nhưng ta biết được chính xác đầu vào \(x\) và đầu ra \(y\) của bài toán ta đang thực hiện.
- Bước 2: Thu thập dữ liệu. Ở bước này, mục tiêu là ta đo được càng nhiều giá trị càng tốt. Tức là cứ ứng với mỗi \(x_{i}\) ta thu được giá trị \(y_{i}\) tương ứng. Giả sử rằng, ở bước này ta thu thập được \(m\) cặp dữ liệu.
| STT | \(x\) | \(y\) |
|---|---|---|
| \(1\) | \(x_{1}\) | \(y_{1}\) |
| \(2\) | \(x_{2}\) | \(y_{2}\) |
| \(3\) | \(x_{3}\) | \(y_{3}\) |
| … | … | … |
| \(m\) | \(x_{m}\) | \(y_{m}\) |
- Bước 3: Nhiệm vụ của chúng ta là giờ có một giá trị \(x_{k}\) nào đó, mà ta muốn tìm ra giá trị \(y_{k}\) tương ứng. Ở đây, giải thuật sẽ tìm ra một hàm \(H(x)\) (\(H\) là viết tắt của Hypothesis) theo dạng sau:
- Đồng thời sẽ xác định thêm hàm mất mát phụ thuộc vào hai tham số \(W\) (\(W\) là viết tắt của Weight) và \(b\) (\(b\) là viết tắt của bias) như sau:
- Mục tiêu là sẽ tìm \(W\) và \(b\) sao cho hàm \(cost(W,b)\) có giá trị nhỏ nhất. Khi đó, giá trị \(y_{k}\) sẽ được tính đơn giản bằng công thức sau:
- Trong phạm vi bài viết này, mình sẽ implement thuật toán trên một cách đơn giản nhất mà chưa đào sâu cách tìm \(W\) và \(b\) cho bài toán.
2. Lập trình
2.1. Dựng hàm Hypothesis
1
2
3
4
5
6
7
8
# X and Y data
x_train = [1, 2, 3]
y_train = [1, 2, 3]
W = tf.Variable(tf.random_normal([1]), name='weight')
b = tf.Variable(tf.random_normal([1]), name='bias')
# Our hypothesis XW+b
hypothesis = x_train * W + b
2.2. Dựng hàm Cost
1
2
# cost/loss function
cost = tf.reduce_mean(tf.square(hypothesis - y_train))
2.3. Dựng thuật toán tìm min
1
2
3
# Minimize
optimizer = tf.train.GradientDescentOptimizer(learning_rate=0.01)
train = optimizer.minimize(cost)
2.4. Cho session run
1
2
3
4
5
6
7
8
9
10
# Launch the graph in a session.
sess = tf.Session()
# Initializes global variables in the graph.
sess.run(tf.global_variables_initializer())
# Fit the line
for step in range(2017):
sess.run(train)
if step % 20 == 0:
print(step, sess.run(cost), sess.run(W), sess.run(b))
3. Chiêm ngưỡng sản phẩm
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
import tensorflow as tf
# X and Y data
x_train = [1, 2, 3]
y_train = [1, 2, 3]
W = tf.Variable(tf.random_normal([1]), name='weight')
b = tf.Variable(tf.random_normal([1]), name='bias')
# Our hypothesis XW+b
hypothesis = x_train * W + b
# cost/loss function
cost = tf.reduce_mean(tf.square(hypothesis - y_train))
# Minimize
optimizer = tf.train.GradientDescentOptimizer(learning_rate=0.01)
train = optimizer.minimize(cost)
# Launch the graph in a session.
sess = tf.Session()
# Initializes global variables in the graph.
sess.run(tf.global_variables_initializer())
# Fit the line
for step in range(2017):
sess.run(train)
if step % 20 == 0:
print(step, sess.run(cost), sess.run(W), sess.run(b))
Bạn có thể thay đổi một chút bằng cách sử dụng placeholder để truyền đầu vào tùy ý như trong đây đã nhắc tới.
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
import tensorflow as tf
W = tf.Variable(tf.random_normal([1]), name='weight')
b = tf.Variable(tf.random_normal([1]), name='bias')
X = tf.placeholder(tf.float32, shape=[None])
Y = tf.placeholder(tf.float32, shape=[None])
# Our hypothesis XW+b
hypothesis = X * W + b
# cost/loss function
cost = tf.reduce_mean(tf.square(hypothesis - Y))
# Minimize
optimizer = tf.train.GradientDescentOptimizer(learning_rate=0.01)
train = optimizer.minimize(cost)
# Launch the graph in a session.
sess = tf.Session()
# Initializes global variables in the graph.
sess.run(tf.global_variables_initializer())
# Fit the line with new training data
for step in range(2017):
cost_val, W_val, b_val, _ = sess.run([cost, W, b, train],
feed_dict={X: [1, 2, 3, 4, 5, 6, 7],
Y: [2.1, 3.1, 4.1, 5.1, 6.1, 7.1, 8.1]})
if step % 20 == 0:
print(step, cost_val, W_val, b_val)
Sau đó, để test nhanh một giá trị nào đó, bạn cần gõ thêm đoạn sau:
1
print(sess.run(hypothesis, feed_dict={X: [1.5, 3.5]}))