MIT 18.06 Linear Algebra 8

7. Solving Ax=0 : Pivot Variables, Special Solutions

Ax = 0의 해(Null space) 계산 및 RREF 정리1. Ax = 0의 해(Null space) 계산대상 행렬:임의의 3×4 행렬 A를 대상으로 진행한다.가우스 소거법 적용 (Elimination):행렬 A를 소거하여 echelon form인 U 행렬을 얻는다.이 과정에서 pivot을 찾아내고, 예를 들어 column 2가 column 1의 2배임을 확인한다.행 간에도 row3이 row1과 row2의 합으로 표현됨을 확인한다.Pivot과 Free 변수:소거 과정에서 선택된 pivot 변수의 개수가 행렬 A의 Rank를 나타낸다.pivot이 없는 나머지 열의 변수들을 자유 변수(free 변수)로 설정한다.예제에서는 4개의 변수 중 2개의 pivot이 존재하므로 2개의 free 변수가 있다.특수해 ..

6.Column_Space_and_Nullspace

1. 벡터 공간과 부분 공간의 기본조건벡터 공간 :벡터들의 집합으로, 임의의 두 벡터 v와 w를 더한 결과 v + w가 항상 같은 공간 내에 있어야한다.임의의 벡터 v에 대해, 어떤 상수 c를 곱합 cv 역시 그 공간 내에 있어야 한다.두 벡터에 상수를 곱해 더한 선형 결합 cv + dw 역시 항상 같은 공간에 속해야 한다.부분 공간(Subspace) :벡터 공간 내의 '작은 공간'으로, 덧셈과 스칼라 곱 연산에 대해 닫혀있어야 한다.반드시 원점을 포함해야 한다. (원점이 없는 집합은 선형 결합의 결과가 항상 그 집합에 머무르지 않으므로 부분 공간이 될 수 없다.)import numpy as npimport matplotlib.pyplot as plt# 벡터 플롯 함수def plot_vector(ax, ..

5.Transposes,_Permutations,_Spaces_R^n

Chapter 1전치(Transpse)행렬의 전치는 행과 열을 뒤바꾸어 새로운 행렬 A^T를 만드는 연산이다.즉, 행렬을 대각선을 기준으로 뒤집는(Flip) 것으로, 이 과정에서 원소의 위치가 (i, j)에서 (j, i)로 이동합니다.대칭 행렬(Symmetric Matrix)전치한 결과가 원래의 행렬과 같은 행렬로, 대각선을 기준으로 좌우대칭이다.대칭 행렬은 고유값/고유벡터 계산, 통계(공분산), 머신러닝(SVM)등 다양한 분야에서 활용된다.임의의 행렬 A에 대해 A*A^T는 항상 대칭 행렬이 된다.# Chapter 1 실습코드import numpy as np# 임의의 행렬 A 생성A = np.random.rand(3,4)print("행렬 A:")print(A)# 행렬의 전치 A^T 생성A_T =A.Tp..

4.Factorization_into_A_=LU

1. IntroductionLU 분해(Factorization)는 정사각 행렬 A 를 두 개의 행렬 L (Lower triangular matrix)과 U (Upper triangular matrix)의 곱으로 표현하는 기법이다. 즉,A = LU이 성립한다. 이를 활용하면 선형 방정식 풀이, 행렬식 계산, 역행렬 구하기 등의 연산을 효율적으로 수행할 수 있다.2. LU Factorization ProcessLU 분해 과정은 아래와 같다.행렬 A를 설정한다.import numpy as npA = np.array([[2, 3, 1], [4, 7, 3], [-2, 3, 4]])print("A =\n", A)행 연산을 통해 A를 삼각 행렬로 변환한다.첫 번째 열을 ..

3. Multiplication_and_Inverse_Matrices

행렬 곱셈 4가지 정리넘파이(numpy)를 활용하여 각 곱셈 방식 구현행 - 열 곱열 - 행 곱선형 조합벡터 내적행렬 곱셈 과정 시각화matplotlib으로 행렬 요소 강조import numpy as npimport matplotlib.pyplot as pltimport seaborn as snsfrom matplotlib.animation import FuncAnimation# 행렬 곱셈 4가지 방법A = np.array([[1, 2], [3, 4]])B = np.array([[5, 6], [7, 8]])# 방법 1: 행-열 곱C1 = A @ B# 방법 2: 열-행 곱 (각 열을 벡터로 보고 선형 결합)C2 = np.array([A[:, i] @ B[i, :] for i in range(A.shape[..

Lecture 2. Elimination with Matrices

CHAPTER 1. 삼각행렬 (Triangular Matrix) 계산□ 삼각행렬 (Triangular Matrix)삼각행렬은 주 대각선(main diagonal)을 기준으로 위쪽 또는 아래쪽의 원소가 0인 행렬을 의미한다.하삼각행렬 (Lower Triangular Matrix): 주 대각선 위쪽의 모든 성분이 0인 행렬상삼각행렬 (Upper Triangular Matrix): 주 대각선 아래쪽의 모든 성분이 0인 행렬행렬 연산에서는 주어진 행렬을 상삼각행렬(U)로 변환하는 과정에서, 1st pivot부터 마지막 pivot까지의 값을 유지하면서 주 대각선 아래의 요소들을 0으로 만들어 가는 방식을 사용한다. 이러한 과정은 행렬의 가우스 소거법(Gaussian Elimination) 또는 LU 분해(LU D..

Lecture 1.2 The geometry of linear equations

CHAPTER 2. 딥러닝에서의 행(row) 기반 연산 및 열(column) 기반 연산 차이점 및 중요성 행렬 연산에서 행(row) 기반 연산과 열(column) 기반 연산은 데이터의 구조를 다루는 방식에 따라 서로 다른 의미와 효율성을 갖는다. 두 연산 방식은 수학적 분석, 데이터 처리, 그리고 딥러닝과 같은 고차원 연산에서 중요한 역할을 한다. 1. 행(row) 기반 연산행 기반 연산은 행렬의 개별 행(row)을 독립적인 단위로 처리하는 연산 방식이다.즉, 행의 각 요소들을 특정 연산(ex. 합, 평균, 최대값 등)을 통해 집계하며, 결과는 행 벡터(row vector)로 표현된다. 1.1 활용 및 중요성 데이터 분석에서는 각 행이 개별 데이터 포인트를 의미하므로, 평균, 합, 표준편차 등의 통계량을..

Lecture 1.1 The geometry of linear equations

CHAPTER 1. Matrix Row Picture 행의 관점으로 선형방정식 바라보기 Row picture으로 푸는 방법은 익히 잘알려져 있다. 행렬들을 행으로 구분한 뒤 선형 방정식들의 그래프를 각각 그리면, 서로 만나게 되는 교점이 생기게 되는게 그 교점이 선형방정식의 해가 되는 것이다. Column Picture 열의 관점으로 선형방정식 바라보기Column picture은 열의 관점에서 선형시스템을 보는 것이다. 선형 방정식들을 열 벡터들의 선형 결합(linear combination)으로 표현할 수 있다.그렇다면 여기서 의문점이 있다. 만약 x , y에 숫자를 대입하지 않았을 경우 즉, 모든 조합의 결과는 어떻게 되는가?==> 평면 전체가 벡터로 채워질 것이다. In deap learningro..