본문 바로가기

전체 글101

선형 연립방정식과 역행렬 선형 연립방정식(Systems of linear equations) * 복수의 미지수를 포함하는 복수의 선형 방정식을 선형 연립방정식 혹은 연립일차방정식이라고 한다. * M개의 미지수를 가지는 N개의 선형 연립방정식은 다음과 같다. * 이를 행렬과 벡터의 곱셈으로 표현하면 다음과 같이 표현 가능하다. * A는 계수행렬(coefficient matrix), x는 미지수 벡터(unknown vector), b를 상수 벡터(constant vector)라고 부른다. 역행렬(inverse matrix) * 원래의 행렬 A와 위와 같은 관계를 만족시키는 행렬을 역행렬이라고 한다. * 역행렬이 존재하는 행렬 : 가역행렬(invertible matrix), 정칙행렬(regular matrix), 비특이행렬(non-s.. 2021. 11. 18.
퍼셉트론 기본 퍼셉트론 구현하기 기본 퍼셉트론 수식 $y = \begin{cases} 0 & {(w_1 x_1 + w_2 x_2 \leq \theta)}\\ 1 & {(w_1 x_1 + w_2 x_2 > \theta)}\end{cases}$ AND gate 구현 def AND(x1, x2): # theta is threshold # threshold must be bigger than weight w1, w2, theta=0.5, 0.5, 0.7 tmp=x1*w1 + x2*w2 if tmp 0)}\end{cases}$ * 편향을 뜻하는 b를 추가하였다. 편향은 뉴런이 얼마나 쉽게 활성화 될지를 조정하는 매개변수이다. 예를 들어 편향이 0.1이라면 input에 가중치를 곱한 값이 0.1을 초과해야지 뉴런이 활성화 .. 2021. 11. 17.
행렬의 성질 * 행렬은 여러 개의 숫자로 이뤄져있기 때문에 부호나 크기를 정의하기는 어렵지만 유사한 개념은 정의할 수 있다. 정부호와 준정부호 양의 정부호(positive definite) * 영 벡터가 아닌 모든 벡터 x에 대해 다음 부등식이 성립하면 행렬 A가 양의 정부호라고 한다. * 만약 비교 연산자에 등호가 포함되어 있으면 양의 준정부호라고 한다. * 이 방법으로 모든 행렬에 대해 양의 정부호, 준정부호를 정의할 수 있지만, 보통 대칭행렬(대각선 기준 대칭인 행렬)에 대해서만 정의한다. * 이 값은 x가 영벡터인 경우를 제외하고는 항상 0보다 크다. 이 경우 행렬 A는 양의 정부호에 해당한다. 행렬 Norm * 행렬의 norm에는 여러 정의가 있는데 여기에서는 entrywise matrix norm의 정의를.. 2021. 11. 15.
13.3 입력 특성 전처리 데이터 전처리 방법 1) numpy, pandas 등을 통해 데이터를 사용하기 전에 전처리 2) 데이터 API로 데이터를 적재할 때 동적으로 전처리 3) 전처리층을 직접 모델에 포함시킴 이 중에 세 번째 방법 : 전처리층을 직접 모델에 포함시키는 법을 알아보겠다. means=np.mean(X_train, axis=0, keepdims=True) stds=np.std(X_train, axis=0, keepdims=True) eps=keras.backend.epsilon() model=keras.models.Sequential([ keras.layers.Lambda(lambda inpusts: (inputs - means) / (stds + eps)), ... ]) keras의 sequential모델을 생성.. 2021. 11. 12.