1.1. 선형연립방정식(linear system)

Table of Contents

  1. 선형연립방정식의 수치해법
    1. 선형연립방정식(linear system)
    2. 크래머 공식(Cramer’s rule)
    3. 가우스 소거법(Gaussian elimination)
    4. 벡터 노름(norm)과 행렬-노름(matrix-norm)
    5. 반복법과 야코비 방법(Jacobi method)
    6. 가우스-자이델 방법(Gauss-Seidel method)
  2. 고윳값 방정식의 수치해법
    1. 고윳값(eigenvalue)과 고유벡터(eigenvector)
    2. 거듭제곱방법(power method)
    3. 역거듭제곱방법(inverse power method)
    4. QR 분해(QR decomposition)를 이용한 방법
  3. 선형회귀(linear regression)
    1. 단순선형회귀(simple linear regression)
    2. 다중선형회귀(multiple linear regression)
    3. 다항회귀(polynomial regression)
  4. 방정식의 수치해법
    1. 이분법(bisection method)
    2. 뉴턴-랩슨 방법(Newton-Raphson method)
    3. 할선법(secant method)
    4. 고정점 반복법(fixed-point iteration method)
    5. 기타 방정식의 수치해법
  5. 보간법(interpolation)
    1. 라그랑주 보간법(Lagrange interpolation)
    2. 뉴턴의 분할차분법(divided difference method)
    3. 에르미트 보간법(Hermite interpolation)
  6. 스플라인(spline)
    1. 일차 스플라인(linear spline)
    2. 이차 스플라인(quadratic spline)
    3. $n$차 스플라인(spline)
  7. 최적근사함수
    1. 직교다항식(orthogonal polynomial)
    2. 최적최소근사다항함수(best approximating polynomial)
  8. 수치미적분법
    1. 테일러 수치미분법(Taylor numerical differentiation)
    2. 리차드슨 외삽법(Richardson extrapolation)
    3. 수치적분법(numerical integration)
    4. 복합수치적분법(composite numerical integration)
    5. 가우스 구적법(Gaussian quadrature)
  9. 초깃값 문제의 수치해법
    1. 오일러 방법(Euler method)
    2. 테일러 방법(Taylor method)
    3. 룽게-쿠타 방법(Runge-Kutta method)
    4. 연립일계상미분방정식과 고계상미분방정식
  10. 경곗값 문제의 수치해법
    1. 유한차분법(finite difference method)
    2. 사격법(shooting method)
    3. 유한요소법(finite element method)

선형연립방정식(linear system)

선형연립방정식은 자연과학과 사회과학에서 자주 등장하는 소재이다.

$ $

정의 1.1.1. 선형연립방정식

$n$개의 미지수와 $m$개의 일차방정식으로 이루어진 연립방정식을 선형연립방정식(system of linear equations, linear system)이라 한다. \[ \begin{align*} a_{11} x_{1} + a_{12} x_{2} + \cdots + x_{1n} x_{n} & = b_{1} \\ a_{21} x_{1} + a_{22} x_{2} + \cdots + x_{2n} x_{n} & = b_{2} \\ \vdots \qquad \;\; \qquad & = \; \vdots \\ a_{m1} x_{1} + a_{m2} x_{2} + \cdots + x_{mn} x_{n} & = b_{m} \end{align*} \]

$ $

위 선형연립방정식에서 얻을 수 있는 $m \times n$ 행렬 \[ A = \begin{bmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{bmatrix} \in \mathbb{R}^{m \times n} \] 를 연립방정식의 계수행렬(coefficient matrix)이라 한다. 또한, $\mathbf{x} = \begin{bmatrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{bmatrix} \in \mathbb{R}^{n}$, $\mathbf{b} = \begin{bmatrix} b_1 \\ b_2 \\ \vdots \\ b_m \end{bmatrix} \in \mathbb{R}^{m}$이라 하면 위 연립방정식을 행렬곱을 이용하여 $A\mathbf{x} = \mathbf{b}$와 같이 간단히 표기할 수 있다.

$ $

계수행렬의 오른쪽에 선형연립방정식의 우변을 나타내는 벡터 $\mathbf{b}$를 추가한 $m \times (n+1)$ 행렬 \[ [A \,|\, \mathbf{b}] = \left[ \begin{array}{@{}cccc|c@{}} a_{11} & a_{12} & \cdots & a_{1n} & b_{1} \\ a_{21} & a_{22} & \cdots & a_{2n} & b_{2} \\ \vdots & \vdots & \ddots & \vdots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} & b_{m} \end{array} \right] \in \mathbb{R}^{m \times (n+1)} \] 을 첨가행렬(augmented matrix)이라 한다.

$ $

예제 1.1.2.
Q. 다음 광합성 작용을 하는 화학방정식의 균형을 맞추어 보자. \[ \text{C}\text{O}_{2} + \text{H}_{2}\text{O} \to \text{C}_{6}\text{H}_{12}\text{O}_{6} + \text{O}_{2} \] A. 다음 식 \[ (x_1)\text{C}\text{O}_{2} + (x_2)\text{H}_{2}\text{O} \to (x_3)\text{C}_{6}\text{H}_{12}\text{O}_{6} + (x_4)\text{O}_{2} \] 가 균형 잡힌 화학방정식이 되도록 양의 정수 $x_1,\, x_2,\, x_3,\, x_4$를 구해야 한다. 각 원자의 수가 방정식의 양변에서 같아야 하므로 \[ \begin{align*} & \text{탄소(C) : } x_1 = 6x_3 \\[1.5ex] & \text{수소(H) : } 2x_2 = 12x_3 \\[1.5ex] & \text{산소(O) : } 2x_1 + x_2 = 6x_3 + 2x_4 \end{align*} \] 를 만족해야 한다. 이를 선형연립방정식의 형태로 나타내면 다음과 같다. \[ \left\{ \begin{array} {rcrcrcr} x_1 & & & - & 6x_3 & = & 0 \\[1ex] & & 2x_2 & - & 12x_3 & = & 0 \\[1ex] 2x_1 & + & x_2 & - & 6x_3 & = & 0 \end{array} \right. \tag*{$\myblue{\blacksquare}$} \]

$ $

어떤 두 선형연립방정식의 해집합이 서로 같은 경우, 두 연립방정식은 서로 동치(equivalent)라고 한다. 예를 들어 다음 두 선형연립방정식 \[ \left\{ \begin{array}{rcrcr} 2x & + & y & = & 4 \\[1ex] x & - & y & = & -1 \end{array} \right., \qquad \left\{ \begin{array}{rcrcr} x & + & 2y & = & 5 \\[1ex] x & + & y & = & 3 \end{array} \right. \] 의 해집합은 $(x, y) = (1, 2)$로 같으므로 두 연립방정식은 서로 동치이다.

$ $

행렬에서 기본행연산(elementary row operation)이란 아래 세가지 연산을 의미한다.

  • 두 행을 서로 교환한다.
  • 한 행에 $0$이 아닌 상수를 곱한다.
  • 한 행에 ($0$이 아닌) 상수를 곱하여 다른 행에 더한다.

한 선형연립방정식의 첨가행렬로부터 기본행연산을 반복하여 다른 첨가행렬을 얻었다고 했을 때, 두 첨가행렬로 부터 얻어지는 두 선형연립방정식은 언제나 서로 동치이다.

$ $

[xxx]
[xxx]
위로