Các hàm tuyến tính

Tony Tin

6 6.1. Hàm tuyến tính và hàm afin

Định nghĩa

Một hàm [latex]f: \mathbb{R}^n \rightarrow \mathbb{R}[/latex] là tuyến tính nếu và chỉ nếu [latex]f[/latex] bảo toàn phép nhân vô hướng và phép cộng :

với mọi [latex]x \in \mathbb{R}^n[/latex], và [latex]\alpha \in \mathbb{R}[/latex], [latex]f(\alpha x) = \alpha f(x)[/latex]; và
với mọi [latex]x_1, x_2 \in \mathbb{R}^n[/latex], [latex]f(x_1 + x_2) = f(x_1) + f(x_2)[/latex].

Một hàm [latex]f[/latex] là afin nếu và chỉ nếu hàm [latex]\tilde{f}: \mathbb{R}^n \rightarrow \mathbb{R}[/latex] với các giá trị [latex]\tilde{f}(x) = f(x) - f(0)[/latex] là tuyến tính.

Một đặc trưng khác của hàm tuyến tính:

Một hàm [latex]f : \mathbb{R}^n \rightarrow \mathbb{R}^m[/latex] là tuyến tính nếu và chỉ nếu một trong các điều kiện sau đây đúng.

[latex]f[/latex] bảo toàn phép nhân vô hướng và phép cộng của các đối số của nó:

Với mọi [latex]x[/latex] trong [latex]\mathbb{R}^n[/latex], và [latex]\alpha[/latex] trong [latex]\mathbb{R}[/latex], [latex]f(\alpha x) = \alpha f(x)[/latex]; và
Với mọi [latex]x_1,x_2[/latex] trong [latex]\mathbb{R}^n[/latex], [latex]f(x_1+x_2) = f(x_1)+f(x_2)[/latex].

[latex]f[/latex] triệt tiêu tại gốc tọa độ: [latex]f(0) = 0[/latex], và biến đổi mọi đoạn thẳng trong [latex]\mathbb{R}^n[/latex] thành một đoạn thẳng khác trong [latex]\mathbb{R}^m[/latex]:
[latex]\begin{align*}f(\lambda x + (1-\lambda) y) = \lambda f(x) + (1-\lambda) f(y), \quad \quad \forall x, y \in \mathbb{R}^n, \forall \lambda \in [0,1].\end{align*}[/latex]
[latex]f[/latex] khả vi, triệt tiêu tại gốc tọa độ, và ma trận của các đạo hàm của nó là hằng số: tồn tại [latex]A[/latex] trong [latex]\mathbb{R}^{m \times n}[/latex] sao cho
[latex]\begin{align*}f(x) = Ax, \quad \quad \forall x \in \mathbb{R}^n.\end{align*}[/latex]

Ví dụ 1:

Xét các hàm [latex]f_1, f_2, f_3: \mathbb{R}^2 \rightarrow \mathbb{R}[/latex] với các giá trị
[latex]\begin{align*} f_1(x) = 3.2 x_1 + 2 x_2 \end{align*}[/latex]
[latex]\begin{align*} f_2(x) = 3.2 x_1 + 2x_2 + 0.15 \end{align*}[/latex]
[latex]\begin{align*} f_3(x) = 0.001 x_2^2 +2.3 x_1 + 0.3 x_2 \end{align*}[/latex]

Hàm [latex]f_1[/latex] là tuyến tính; [latex]f_2[/latex] là afin; và [latex]f_3[/latex] không là tuyến tính cũng không là afin.

Kết nối với vector thông qua tích vô hướng

Định lý sau đây cho thấy mối liên hệ giữa các hàm tuyến tính và tích vô hướng.

Định lý biểu diễn hàm afin thông qua tích vô hướng:

Một hàm [latex]f: \mathbb{R}^n \rightarrow \mathbb{R}[/latex] là afin nếu và chỉ nếu nó có thể được biểu diễn thông qua tích vô hướng:
[latex]\begin{align*} f(x) = a^Tx+b, \end{align*}[/latex]
với một cặp duy nhất latex[/latex] nào đó, trong đó [latex]a \in \mathbb{R}^n[/latex] và [latex]b \in \mathbb{R}[/latex], được cho bởi [latex]a_i = f(e_i)[/latex], với [latex]e_i[/latex] là vector đơn vị thứ [latex]i[/latex] trong [latex]\mathbb{R}^n[/latex], [latex]i = 1, \cdots, n[/latex], và [latex]b = f(0)[/latex]. Hàm là tuyến tính nếu và chỉ nếu [latex]b = 0[/latex].

Định lý cho thấy rằng một vector có thể được coi là một hàm tuyến tính từ không gian “đầu vào” [latex]\mathbb{R}^n[/latex] đến không gian “đầu ra” [latex]\mathbb{R}[/latex].

Gradient của một hàm afin

Gradient của một hàm [latex]f: \mathbb{R}^n \rightarrow \mathbb{R}[/latex] tại một điểm [latex]x[/latex], được ký hiệu là [latex]\nabla f(x)[/latex], là vector các đạo hàm bậc nhất đối với [latex]x_1, \cdots, x_n[/latex] (xem ở đây để có định nghĩa chính thức và các ví dụ). Khi [latex]n=1[/latex] (chỉ có một biến đầu vào), gradient đơn giản là đạo hàm.

Một hàm afin [latex]f: \mathbb{R}^n \rightarrow \mathbb{R}[/latex], với các giá trị [latex]f(x) = a^Tx+b[/latex] có một gradient rất đơn giản: vector hằng số [latex]a[/latex]. Tức là, đối với một hàm afin [latex]f[/latex], chúng ta có với mọi [latex]x[/latex]:
[latex]\begin{align*} \nabla f(x) = a \end{align*}[/latex]

Ví dụ 2:

gradient của một hàm tuyến tính:

Xét hàm [latex]f : \mathbb{R}^2 \rightarrow \mathbb{R}[/latex], với các giá trị [latex]f(x) = x_1 + 2x_2[/latex]. Gradient của nó là hằng số, với các giá trị
[latex]\begin{align*} \nabla f = \left(\begin{array}{c} \dfrac{\partial f}{\partial x_1}(x) \[1em] \dfrac{\partial f}{\partial x_2}(x) \end{array} \right) = \left(\begin{array}{c} 1 \ 2 \end{array} \right). \end{align*}[/latex]
Đối với một [latex]t[/latex] cho trước trong [latex]\mathbb{R}[/latex], tập mức [latex]t[/latex] là tập hợp các điểm sao cho [latex]f(x) = t[/latex]:
[latex]\begin{align*} \mathbf{L}_t(f) := {(x_1, x_2) : x_1 + 2 x_2 = t }. \end{align*}[/latex]
Các tập mức là các siêu phẳng, và trực giao với gradient.

Giải thích

[latex]b = f(0)[/latex] là số hạng hằng số. Vì lý do này, đôi khi nó được gọi là độ lệch, hoặc giao điểm (vì nó là điểm mà [latex]f[/latex] giao với trục tung nếu chúng ta vẽ đồ thị của hàm).
Các số hạng [latex]a_j[/latex], [latex]j = 1, \cdots, n[/latex], tương ứng với gradient của [latex]f[/latex], cho các hệ số ảnh hưởng của [latex]x_j[/latex] lên [latex]f[/latex]. Ví dụ, nếu [latex]a_1 \gg a_3[/latex], thì thành phần thứ nhất của [latex]x[/latex] có ảnh hưởng lớn hơn nhiều đến giá trị của [latex]f(x)[/latex] so với thành phần thứ ba.

Xem thêm: Định luật Beer-Lambert trong phép đo quang phổ hấp thụ..

6.2. Phép xấp xỉ bậc nhất của các hàm phi tuyến

Hầu hết các hàm mà chúng ta sử dụng là phi tuyến. Một phương pháp kỹ thuật phổ biến là xấp xỉ một hàm phi tuyến cho trước bằng một hàm tuyến tính (hoặc afin), bằng cách lấy đạo hàm. Đây là lý do chính khiến tính tuyến tính trở thành một công cụ phổ biến trong Kỹ thuật.

Trường hợp một chiều

Xét một hàm của một biến [latex]f: \mathbb{R} \rightarrow \mathbb{R}[/latex], và giả sử nó khả vi ở mọi nơi. Sau đó, chúng ta có thể xấp xỉ các giá trị hàm tại một điểm [latex]x[/latex] gần một điểm [latex]x_{0}[/latex] như sau:
[latex]\begin{align*} f(x) \simeq l(x):= f(x_0) + f'(x_0)(x-x_0), \end{align*}[/latex]
trong đó [latex]f'(x)[/latex] biểu thị đạo hàm của [latex]f[/latex] tại [latex]x[/latex].

Trường hợp nhiều chiều

ới nhiều hơn một biến, chúng ta có một kết quả tương tự. Chúng ta hãy xấp xỉ một hàm khả vi [latex]f: \mathbb{R}^n \rightarrow \mathbb{R}[/latex] bằng một hàm tuyến tính [latex]l[/latex], sao cho [latex]f[/latex] và [latex]l[/latex] trùng nhau lên đến và bao gồm cả các đạo hàm bậc nhất. Phép xấp xỉ tương ứng [latex]l[/latex] được gọi là phép xấp xỉ bậc nhất của [latex]f[/latex] tại [latex]x_0[/latex].
Hàm xấp xỉ [latex]l[/latex] phải có dạng
[latex]\begin{align*} l(x) = a^Tx+b, \end{align*}[/latex]
trong đó [latex]a \in \mathbb{R}^n[/latex] và [latex]b \in \mathbb{R}[/latex]. Điều kiện của chúng ta rằng [latex]l[/latex] trùng với [latex]f[/latex] lên đến và bao gồm cả các đạo hàm bậc nhất cho thấy rằng chúng ta phải có
[latex]\begin{align*} \nabla l(x) = a =\nabla f(x_0), a^Tx_0 + b = f(x_0), \end{align*}[/latex]
trong đó [latex]\nabla f(x_0)[/latex] là gradient của [latex]f[/latex] tại [latex]x_0[/latex]. Giải cho [latex]a,b[/latex], chúng ta thu được kết quả sau:

Định lý: Khai triển bậc nhất của một hàm.

Phép xấp xỉ bậc nhất của một hàm khả vi [latex]f[/latex] tại một điểm [latex]x_0[/latex] có dạng
[latex]\begin{align*} f(x) \approx l(x) = f(x_0) + \nabla f(x_0)^T(x-x_0), \end{align*}[/latex]
trong đó [latex]\nabla f(x_0) \in \mathbb{R}^n[/latex] là gradient của [latex]f[/latex] tại [latex]x_0[/latex].

Ví dụ 3: xấp xỉ tuyến tính cho một hàm phi tuyến

Xét hàm log-sum-exp
[latex]\begin{align*} f(x) = \log(e^{x_1}+e^{x_2}) \end{align*}[/latex]
cho phép gradient tại điểm [latex]x^0[/latex] được cho bởi
[latex]\begin{align*} \nabla f(x_0) = \frac{1}{e^{x^0_1}+e^{x^0_2}} \left(\begin{array}{c} e^{x_1^0} \ e^{x_2^0} \end{array}\right) . \end{align*}[/latex]
Do đó [latex]f[/latex] có thể được xấp xỉ gần [latex]x^0[/latex] bởi hàm tuyến tính
[latex]\begin{align*} f(x) \approx \log(e^{x_1}+e^{x_2}) + \frac{1}{e^{x^0_1}+e^{x^0_2}} \left( (x_1-x_1^0) e^{x^0_1} +(x_2-x^0_2) e^{x^0_2}\right) . \end{align*}[/latex]

6.3. Các mô hình tuyến tính khác

Tính tuyến tính có thể được sinh ra từ một sự thay đổi biến đơn giản. Điều này được minh họa rõ nhất bằng một ví dụ cụ thể.

Ví dụ: Các luật luỹ thừa.

License

Icon for the Public Domain license

This work (Đại số tuyến tính by Tony Tin) is free of known copyright restrictions.

6.1. Hàm tuyến tính và hàm afin