인공지능(AI)

03 언어학의 기본 원리

목차 3. 언어학의 기본 원리 3.1 언어학 개요 3.2 음절, 형태소, 어절, 품사 3.3 구구조와 의존 구조 3.4 의미론과 화용론 3.1 언어학 개요 언어학의 기본적인 원리 - 언어를 이루는 단위 : 음절, 형태소, 어절, 품사 - 언어의 구조 : 구구조(Phrase structure), 의존 구조 3.2 음절, 형태소, 어절, 품사 음절 : Syllable - 언어를 듣고 말할 때, 하나의 덩어리로 취급되는 가장 작은 발화의 단위 - 한국의 음절은 기본적으로 초성(자음), 중성(모음), 종성(자음)으로 이루어짐 - 말소리의 단위이므로 엄밀히 따지면 소리나는 대로 적었을 때의 한 글자를 의미 형태소 : Morpheme - 언어에서 의미를 갖는 가장 작은 단위 - 실질 형태소(어휘)와 형식 형태소(문..

02 자연어처리를 위한 수학

목차 1. 확률의 기초(Probability) 1.1 확률변수 1.2 확률변수와 확률분포 1.3 이항분포, 다항분포, 정규분포 1.4 조건부 확률과 베이즈 정리 1.5 기댓값과 분산 2. 최대 우도 추정과 최대 사후 확률 추정(MLE & MAP) 2.1 MLE 2.2 MAP 3. 정보이론과 엔트로피(Information theory & entropy) 3.1 정보량 3.2 엔트로피 3.3 KL-Divegence, Preplexity 1. 확률의 기초(Probability) 1.1 확률변수 용어 정의 표본 공간(sample space) : 어떤 사건에서 발생할 수 있는 모든 경우의 수 확률변수(random variable) : 어떤 사건을 실수 표현으로 매핑하는 일종의 함수 사상(outcomes) : 표본..

04 Matrix Decompositions

(해당 강의노트는 Marc Peter Deisenroth, A. Aldo Faisal and Cheng Soon Ong, 『Mathematics for Machine Learning』을 기반으로 작성하였습니다) 목차 0. Introduction 1. Determinant & trace 2. Cholesky decomposition 3. Eigendecomposition: Eigenvalues & eigenvectors 4. Singular value decomposition (SVD) 0. Introduction 0.1 Matrix decomposition 선형대수학에서 두 방정식( A는 covariance matrix: 공분산 행렬로, 데이터를 표현) 1. linear equations, Chapter..

03 Analytic Geometry

(해당 강의노트는 Marc Peter Deisenroth, A. Aldo Faisal and Cheng Soon Ong, 『Mathematics for Machine Learning』을 기반으로 작성하였습니다) 03 Analytic Geometry: 해석 기하학 목차 Norm & inner product Orthogonality Orthogonal projections Rotations 1. Norm & inner product 1.1 Norm - Definition: 벡터 공간 위의 norm은 실수로 가는 mapping function임 1. Manhattan norm - 모든 벡터의 manhattaon norm이 1인 end point를 가진 그래프 - 파란 벡터의 manhattan norm은? : ..

02 Linear Algebra

02 Linear Algebra: 선형대수학 목차 Introduction Vectors, vector spaces & matrices Linear independence & rank Linear equations 0. Introduction 0.1 Motivating Example Finding the relation of a house size with its price The size of house size i $$a_i$$ The price of house $$b_i$$ Find $$x_1 :slope, x_2 : intercept$$ 여기서 붉은 선은 모델, X는 데이터를 나타냄 아래의 두 미지수를 찾는 것이 목적 (모델을 만들기 위해), 모델의 파라미터에 해당 $$x_1, x_2$$ 선형모델은..

01 Introduction AI Basic: 인공지능, 기계학습이란?

01 Introduction AI Basic: 인공지능, 기계학습이란? 기계학습(Machine Learning, ML) 명시적인 규칙 없이 기계가 데이터로부터 학습하도록 하는 기술로, hard-coded(fixed) 규칙을 사용해 프로그램을 짜는 전통적인 컴퓨터 프로그래밍과는 구분되는 개념. 기계학습의 세 가지 키워드 기계학습 기계학습을 위한 수학 Data 데이터 Image, text, languages, time series Vectors, matrices, tensors Model 모델 - Linear models - Deep neural networks - Kernel machines - Probabilistic models - Linear algebra - Probability Training a..

00 인공지능 발전사

00 인공지능 발전사 목차 컴퓨터란? 인공지능이란? 인공지능의 역사 인공지능의 현재 1. 컴퓨터란? 컴퓨터는 끊임없이 발전하고 있지만 그 종류는 오직 하나이다. 1936, Turing Machine : 실제로 구현되진 않았지만 컴퓨터를 최조로 수학적인 모델로 표현 1948, von Neumann architecture : 현재까지도 컴퓨터의 구조로 채택되고 있음 2. 인공지능이란? AI : Artificial Intelligence By Wikipedia Intelligence demonstrated by machines 기계로 구현된 지능 By Investopedia The simulation of human intelligence in machines that are programmed to thin..

[논문리뷰] 적대적 생성 신경망 : Generative Adversarial Nets(GAN)

논문 리뷰 Ian J.Goodfellow, [Generative Adversarial Nets] 목차 Abstract Introduction Related work Adversarial nets Theoretical Results Experiments Advantages and disadvantages Conclusions and future work 논문리뷰에 앞서 알아둬야 할 함수, 변수, 기호 D : 판별 모델 output : 0~1 하나의 값으로 스칼라에 해당G : 생성 모델 output: 확률p : 확률 분포 p(z) : z 입력 시, 해당 변수의 분포를 나타냄θ : paremeter(weight) θg : 생성 모델 가중치 θd : 판별 모델 가중치z : random seeds 0. Abstr..