Data Science LAB

1. SGD (확률적 경사 하강법) 매개 변수의 기울기를 구해 기울어진 방향으로 매개변수 값을 갱신하는 일을 몇 번이고 반복하여 최적의 값에 다가가는 것 경사 하강법과는 다르게 랜덤하게 추출한 일부 데이터에 대해서만 가중치를 조절함 SGD의 단점 : 비등방성 함수(기울기가 달라지는 함수)에서는 탐색 경로가 비효율적임 - 파이썬 코드 구현 class SGD: def __init__(self, lr=0.01): self.lr = lr def update(self, params, grads): for key in params.keys(): params[key] -= self.lr * grad[key] 2. Momentum (모멘텀) 모멘텀은 '운동량'을 뜻하는 단어로 기울기 방향으로 힘을 받아 물체가 가속된다..

인공지능(AI, Artifical Intelligence)이란? 인공 지능이란 기계가 사람처럼 스스로 생각하고 판단하여 행동하도록 하는 것으로, 주로 인간의 지능을 갖고 있는 컴퓨터 시스템을 의미한다. 기계가 인간의 지능을 가지고 있는 모든 것을 인공 지능이라고 한다. ex) 네이버 파파고, 알파고 등등 머신러닝(ML, Machine Learning)이란? 알고리즘을 이용하여 데이터를 분석, 학습, 판단, 예측하는 기법으로 제공된 데이터를 통해 스스로 학습하는 것이다. ex) 인공 신경망, 의사결정나무 등등 딥러닝(DL, Deep Learning) 이란? 뇌의 뉴런과 유사한 정보 입출력 계층을 활용하여 데이터를 학습하는 기법이다. 데이터 셋을 분류하고, 데이터간의 상관관계를 찾아내어 예측을 더 정확하게 ..