Example Problems Robotic Vacuum Cleaner 8-Puzzle 8-queens Route-finding problem Solving Problems by Searching 용어 정의 Problem formulation: 어떤 고려할 state, action을 결정할지 정하는 프로세스 → 목표는 주어져 있음 문제는 state space, initial state, goal state, action, transition model, action cost function으로 구성 action의 연속은 path를 구성 solution: initial state→goal state로 가는 path optimal solution: path cost가 가장 적은 해답 search: 목표에 도..

Big Data Intro - 2003년 전까지 5 엑사바이트의 정보를 생산했음 - 이제 이틀마다 5 엑사바이트의 정보를 생산 -> 빅데이터 Big Data의 4V - Volume - Variety - Velocity - Veracity Science Paradigms - 몇천 년 전: 과학은 empirical 했다. -> 자연 현상을 서술 - 몇백 년 전: theoretical branch -> 이론, 모델링 - 몇십 년 전: computational -> 시뮬레이션 - 오늘날: data exploration - 미래: Data-driven Science -> Data-driven Hypothesis Generation Big Data Challenges - 빅데이터 * 크고 복잡한 데이터 * 예: s..

머신러닝 모델의 비교 - Power, expressibility: 얼마나 복잡한 작업을 할 수 있느냐 - Interpretability - Ease of Use - Training speed - Prediction speed Linear Regression Nearest Neighbor Deep Learning Power/Expressibility L L H Interpretability H H L Ease of Use H H L Training speed H H L Prediction speed H L H cf) 딥러닝은 Foward Fast를 이용한다. Nearest Neighbor는 거리 계산 때문에 연산 시간이 길다. XOR & Linear Classifier - Linear Classifier는..

Nearest Neighbor Classification - 어떤 training example이 target에 가장 가까운지 확인해서 class label을 붙이는 것 - distance function을 올바르게 정의하는 것이 중요 - 장점: simplicity, interpretability, non-linearity - k-nearest neighbor Distance Metrics 다음과 같은 조건을 만족하는 경우 - d(x, y) >= 0 for all x, y (positivity) - d(x, y) = 0 iff x = y (identity) - d(x, y) = d(y, x) (symmetry) - d(x, y) grid indices, kd-trees, Voronoi diagrams, ..

Linear Regression - n개의 점이 주어졌을 때, 가장 근사를 잘 하거나 잘 맞는 직선을 찾는 것 Error in Linear Regression - residual error: 예측값과 실제값 사이의 차이 - Least squares regression은 모든 점의 잔차의 합을 최소화함. -> nice closed form, 부호 무시하므로 선택됨 Contour plots - gradient descent Linear function을 사용하는 이유 - 이해하기 쉬움 - default model에 적합 * 일한 시간에 따라 급여가 증가 / 지역이 커짐으로써 선형적으로 집값이 상승 / 먹은 음식에 따라 몸무게가 선형적으로 증가 변수가 여러 개일 때 - 각각의 x_n 변수들과 y값을 행렬로 나..