"

Hàm log-sum-exp [latex]\text{lse}: \mathbb{R}^2 \rightarrow \mathbb{R}[/latex], với các giá trị

[latex]\begin{align*} \text{lse}(x) := \log(e^{x_1} + e^{x_2}). \end{align*}[/latex]

có gradient và ma trận Hess tại một điểm [latex]x[/latex] như sau:

[latex]\begin{align*} \nabla \text{lse}(x) &= \dfrac{1}{z_1 + z_2}\left(\begin{array}{c} z_1 \\ z_2 \end{array}\right), \quad \nabla^2 \text{lse}(x) = \dfrac{z_1 z_2}{(z_1 +z_2)^2}\left(\begin{array}{cc} 1 & -1 \\ -1 & 1 \end{array}\right), \end{align*}[/latex]

trong đó [latex]z_i: = e^{x_i}[/latex], [latex]i=1,2[/latex].

Do đó, xấp xỉ bậc hai của hàm log-sum-exp tại một điểm [latex]x = (x_1, x_2)[/latex] được cho bởi

[latex]\begin{align*} \text{lse}(x+h) &\approx \text{lse}(x) + h^T \nabla \text{lse}(x) + \frac{1}{2} h^T \nabla^2 \text{lse}(x)h \\ &= \text{lse}(x) + \dfrac{h_1 e^{x_1} + h_2 e^{x_2}}{e^{x_1}+e^{x_2}} + \dfrac{e^{x_1+x_2}}{2(e^{x_1}+e^{x_2})^2} (h_1 - h_2)^2. \end{align*}[/latex]

License

Icon for the Public Domain license

This work (Đại số tuyến tính by Tony Tin) is free of known copyright restrictions.