Deep Learning/밑바닥부터 시작하는 딥러닝15 손실 함수 데이터를 통한 학습 기계학습 방식과 신경망 방식 * 기계학습은 데이터에서 특징을 추출해 특징의 패턴을 학습하는 방식으로 이뤄진다. * 이 때 두가지 방법이 있다. 1) 사람이 직접 알고리즘 구성 2) 사람은 특징 추출에만 개입하고, 기계가 특징에서 패턴을 찾아 학습하기 - ex) 컴퓨터비전 분야에서 SIFT, HOG 등의 방식을 통해 이미지의 특징을 인간이 추출하면 기계는 SVM, KNN등을 통해 특징에서 패턴을 찾는다. * 신경망 방식은 기계학습의 두 가지 방식과는 달리, 모든 과정을 기계가 자동으로 진행한다. 특징을 추출하는 것과 특징에서 패턴을 찾아 학습하는 것 모두 스스로 학습하는 것이다. Training data와 Test data * 기계학습의 데이터셋은 두가지 혹은 세가지로 분리되어야 한다... 2022. 1. 25. 신경망 * 퍼셉트론을 통해 논리 연산을 하기 위해서는 사람이 직접 가중치, 편향을 설정해야 했다. * 하지만, 신경망은 학습을 통해 자동으로 가중치를 갱신하기 때문에 인간이 가중치를 직접 설정할 필요가 없다. 3층 신경망 구현하기 * input layer, hidden layer1, hidden layer2, output layer(전달된 값을 forwarding만 해주는 층)로 이뤄진 3층 신경망 모형은 위와 같다. * 오늘은 x1, x2의 입력이 신경망을 거쳐 output y1, y2으로 도출되는 과정을 살펴보고 python code로 구현해보겠다. 1) input layer to hidden layer1 * 위 $a_1^{(1)}$은 다음과 같은 수식으로 나타낼 수 있다. $a_1^{(1)} = w_11^.. 2021. 11. 23. 퍼셉트론 기본 퍼셉트론 구현하기 기본 퍼셉트론 수식 $y = \begin{cases} 0 & {(w_1 x_1 + w_2 x_2 \leq \theta)}\\ 1 & {(w_1 x_1 + w_2 x_2 > \theta)}\end{cases}$ AND gate 구현 def AND(x1, x2): # theta is threshold # threshold must be bigger than weight w1, w2, theta=0.5, 0.5, 0.7 tmp=x1*w1 + x2*w2 if tmp 0)}\end{cases}$ * 편향을 뜻하는 b를 추가하였다. 편향은 뉴런이 얼마나 쉽게 활성화 될지를 조정하는 매개변수이다. 예를 들어 편향이 0.1이라면 input에 가중치를 곱한 값이 0.1을 초과해야지 뉴런이 활성화 .. 2021. 11. 17. 이전 1 2 3 4 다음
