线性代数 最小二乘法 QR分解 空间几何 瑞利商 奇异值分解

実列ベクトル に対して, とする.ただし は転置とする. は単位行列を表す.

(問1) 実行列 の列ベクトルは一次独立であるとする. 次元の実列ベクトル, 次元の実列ベクトルとする.以下の問に答えよ.導出の過程を省き,答えのみ示すこと.

(1) の関係を不等式を用いて表せ.
(2) 与えられた に対して, を最小化する とする. を用いて表せ.
(3) を満たす 実行列 上三角行列 によって, と分解できる.以下の に対して, を1つ求めよ.

(4) は以下のように表せる.

\fbox{ i } と \fbox{ ii } の空欄に入る式を を用いて表せ.

(問2) 直交座標系上の3点 を考える.以下の問に答えよ.導出の過程を省き,答えのみ示すこと.

(1) 3点を通る平面 の方程式を を用いて表せ.
(2) 平面 上の任意の点を , 原点周りの回転を表す行列を とする.平面 により変換した平面 の方程式が であるとき, を求めよ.

(問3) 以下の2つの行列 を考える.

を2次元の実列ベクトルとする.以下の問に答えよ.
(1), (2) については,導出の過程を省き,答えのみ示すこと.
(3) については,答えに加えて導出の過程も示せ.

(1) を求めよ.
(2) の制約のもとでの の最大値を求めよ.
(3) の制約のもとでの の最大値を求めよ.


解答:

(問1)
(1) 行列 であり,その列ベクトルは一次独立であるため,行列の階数(ランク)は となる.一般に 行列の階数は 以下であるため,条件より が成り立つ.

(2) を展開して について平方完成,あるいはベクトル微分を行う.

に関する勾配を とおく.

の列ベクトルは一次独立であるため は正則行列となり,逆行列を持つ.したがって,

(3) 行列 の列ベクトルをそれぞれ とおき,グラム・シュミットの直交化法を用いる.

内積を計算すると,

したがって,直交行列 は以下の通りとなる.

(4) 最小二乗解 を満たすとき, の列空間への直交射影である. を用いると,

射影の直交性により,三平方の定理 が成り立つ.よって,

(問2)
(1) 与えられた3点を とする.ベクトル を求める.

平面の法線ベクトル は外積によって求められる.

平面の法線ベクトルとして を選ぶ.点 を通るため,

(2) 平面 の方程式より,原点から平面 への距離は である.平面 () の原点からの距離も である.
平面 の単位法線ベクトルは であり,平面 の単位法線ベクトルは である.
行列 は平面 に回転させるため, すなわち を満たす直交行列である.これにより の第3行は となる.
の第1行,第2行を に直交する正規直交基底から選べばよい. と直交し,かつ自身も直交する単位ベクトルとして , を選ぶと,

(※条件を満たす直交行列は無数に存在するが,上記はその一例である.)

(問3)
(1) 行列の積を計算する.

(2) であり, の条件下でのこの二次形式の最大値は,対称行列 の最大固有値に等しい.特性方程式を解く.

(3) 目的関数を展開する.

行列 を定義し,計算する.

コーシー・シュワルツの不等式により, の制約のもとで,

したがって,最大値は を変化させたときの の最大値,すなわち行列 の最大特異値に等しい.特異値の2乗は の固有値であるため, を計算する.

の特性方程式を解く.

行列 の最大特異値はこの最大固有値の平方根であるから,求める最大値は以下の通りとなる.


解答的整个过程基于线性代数中的核心概念。第一题着重于超定方程组的最小二乘解,其本质是向矩阵列空间进行正交投影以达到误差的欧几里得范数最小。QR分解在这里提供了一种等价但数值上更稳定的求解框架,利用施密特正交化过程能够顺利从列向量组中提取出正交基矩阵并形成正交变换表达式。第二题则是空间解析几何与正交变换的结合,首先利用两个向量的叉乘来确定平面的法向量并推导出平面方程。寻找旋转矩阵时,本质是构造一个将原平面的单位法向量映射到目标平面单位法向量的行列式为1的正交矩阵,其第一第二行只要是标准正交的且符合右手系即可满足题意。第三题属于瑞利商及矩阵奇异值分解的应用,单位球面上二次型的极值等价于对称矩阵的特征值,而双线性型的极值则对应于两个矩阵乘积后的最大奇异值,将其转化为半正定矩阵的特征值问题求解即可。