unkn0wnR2ver5er

기초지식

확률

어떤 사건이 일어날 수 있는 경우를 신뢰할 수 있는 정도를 규정하는 방법, 2가지로 나뉨

(1) 빈도론자(Frequentist)

얼마만큼 빈번하게 특정한 사건이 반복되어 발생하는가를 관찰, 이를 기반으로 가설을 검증

즉, 사전 확률이 없다.

-> 사건이 독립적이고 반복적이며, 그 확률분포가 정규분포를 보이는 문제에 적합 ex.) 도박승률, 농작물 수확량, 보험금 계산, Etc.

(2) 베이지안(Bayesian)

어떤 가설의 확률을 평가하기 위해 주관적으로 또는 임의적으로 사전 확률을 먼저 정하고, 관찰된 데이터를 기반으로 가능도를 계산하여 처음의 설정된 확률을 보정

-> 사전 관찰 지식이 없는 불확실한 상황 예측에 적합, 관찰된 데이터를 가지고 조건부로 가설을 검증

선형대수학

벡터와 행렬은 인공신경망을 이해하기 위한 기초 수학이다.

(1) 벡터

방향과 크기의 의미를 모두 포함하는 수학으로 스칼라 값들을 순서대로 가진다.

선형수학에서의 n-차원 벡터 -> n개의 원소를 갖는 벡터로 열 벡터(ColumnVector)로 표현 = 행 벡터(Row vector)

(2) 행렬

행렬은 원소들이 놓여지는 행과 열을 가진다.

행 또는 열의 크기가 1이고, 다른 열 또는 행의 크기가 1이 아닐때 그 행렬은 벡터로 볼 수 있다.

행렬과 벡터의 곱셈은 일정한 규칙에 따라 계산한다.

([i][j] = sum(A[i][k] * B[k][j]) for k = 0....n

해석학 - 미분

연속적이로 매끄러운 함수(미분 가능한 함수)에서 특정 지점의 접선의 기울기는 그 점에서의 미분 값과 같다.

미분이 불가능한 경우 = (뾰족 점, 불연속적인 점, 접선이 수직인 점)

합성함수의 미분

합성함수?

함수 g(x)의 결과값이 다시 다른 함수 f(x)의 값으로 들어가는 f(g(x))의 구조

여러번 합성 된 경우로 동일한 규칙을 적용할 수 있으며, 인공 신경망의 역전파 알고리즘에서 사용

편미분

다변수 함수를 미분할 때 미분대상 변수 외에 나머지 변수를 고정시켜 상수처럼 생각하여 미분하는 방식

다변수 f가 동립변수 x, y 를 가지고 있을 때 , 함수 f를 x에 대하여 편미분 한 것은 밑에 사진을 참조.

=================================================================

=================================================================

머신러닝을 하기전 기초 지식

기초수학

대수학 - 선형 대수학(Linear Algebra)

해석학 - 미적분학, 벡터 미적분학, 미분 방정식

확 . 통 - 통계학, 확률론

통계학?

자료를 수집, 분류, 분석, 표현 하여 어떤 현상의 인과관계를 설명학, 나아가서는 미래에 벌어질 상황을 예측함

기술통계학(Descriptive), 추측통계학(Inferential Statistics)

기술통계학??

관찰된 자료를 수집 및 정리

자료 형태를 표현(중심의 측정, 산포의 측정)

자료의 특성 값 도출(대표값, 변동의 크기 등)

-> 데이터를 수집하고 분류하고 분석해 컴퓨터에 학습시킴

추측통계학??

모집단에서 추출된 표본 자료를 분석하여 특성 값 도출

확률 이론을 바탕으로 모집단의 특성을 파악

-> 새로운 결과값에 대해 결과를 예측하는 과정에 주로 사용

※상관분석은 독립변수와 종속변수간의 관계를 확인하고, 회귀분석은 변수들 간 인과관계를 설명한다.

- 종속변수(Dependent Variable) : 우리가 알고 싶어 하는 결과 값

- 독립변수(Independent Variable) : 결과 값에 영향을 주는 입력 값

상관분석

상관계수(r) : 변수간의 관계 정도 (-1 <= r <= 1)

회귀분석

측정된 변수들의 데이터로부터 관계를 함수식으로 설명

독립변수의 값에의해 종속변수의 값 예측

결정계수(r^2) : 독립변수로 얼마나 의미있게 예측할 수 있는지 ( 0 <= r^2 <= 1)

일반적으로 r^2 >= 0.65 이면 의미있는 회귀식이다.

================================================================

================================================================

안녕하세요, 오랜만에 글을 올리는 듯 하네요. 요즘 김성훈교수님의 텐서플로우 강의를 보느라 업로드를 잊고 있었습니다 ㅎㅎ;

이 곳에서는 제가 Tensorflow를 공부하면서 메모해 둔 것들을 올리도록 하겠습니다.