기계학습
markov model
#
Find similar titles
- 최초 작성자
- 최근 업데이트
Structured data
- Category
- Programming
기계학습 #
Markov Property #
Markov Property는 n+1 회에서의 상태는 오직 n회에서의 상태, 혹은 그 이전 일정 기간의 상태에만 영향을 받는 것을 의미한다. 예를 들면 동전 던지기는 독립 시행이기 때문에 n번째의 상태가 앞이든지 뒤이든지 간에 n+1번째 상태에 영향을 주지 않는다. 하지만 1차 Markov Chain은 n번째 상태가 n+1번째 상태를 결정하는데 영향을 미친다.
Markov Model #
Markov Model은 1800년대 후반에서 1900년대 초 러시아 수학자 안드레이 마르코프(Andrey Markov)의 이름을 따서 명명되었다. Markov Model이란 보통 여러 개의 상태가 존재하고 상태 간의 전이 확률을 Markov Property로 정의한 것을 말하는데, 어떤 상태로 들어갈 확률이 들어가기 직전 상태에만 의존하는 확률과정. 즉, 다음에 나올 상태에 대한 확률값이 직전 과거에만 종속된 모델이다. 간단히 말하면 어제의 일이 오늘에만 영향을 미치는 것이다. Markov Model은 서로 다른 상태의 확률과 이들 간의 전이 비율을 모델링하는 데 자주 사용된다. Markov Model은 가장 먼저 각 상태를 정의하게 된다. 상태는 V={v1,···,vm}으로 정의하고, m개의 상태가 존재하게 되는 것이다. 그다음은 상태 전이 확률을 정의할 수 있다. 상태 전이 확률이란 각 상태에서 각 상태로 이동할 확률을 말한다. 상태 전이 확률 aij는 상태 vi에서 상태 vj로 이동할 확률을 의미한다. 아래의 식은 상태 전이 확률을 식으로 나타낸 것과 그 아래는 확률의 기본 정의에 의한 상태 전이 확률의 조건이다.
그림 1. 상태 전이 확률 식과 조건. 출처:1
그림 2. 상태 전이도. 출처:1
그리고 상태와 상태 전이 확률을 정리하여, 상태 전이도로도 표현할 수 있다.
Markov Process의 예를 들자면, 일반적으로 문장 내에서 연이어 나올 글자, 구절들이 상관성을 갖는 것과도 연관이 있다. 이를 메모리(기억성) 요소가 있다고 표현한다. 또 신호가 주파수 스펙트럼 상에서 특정 주파수대에 몰려있으면 이 신호는 시간상으로 상관성을 가진다고 볼 수 있으며, 결국 시간적 상관성을 갖는 신호는 모든 메모리를 가지고 있다고 말할 수 있다.
상황에 따라 사용되는 Markov Model에는 네 가지 유형이 있다.
-
Markov Chain : 자율적이며 완전히 관찰 가능한 시스템에 사용됨
-
Hidden Markov Model : 상태가 부분적으로 관찰 가능한 자율 시스템에서 사용됨
-
Markov Decision Processes : 완전히 관찰 가능한 상태의 통제 시스템에 사용됨
-
Partially Observable Markov Decision Processes : 상태가 부분적으로 관찰 가능한 제어 시스템에서 사용됨
Markov Model은 방정식 또는 그래픽 모델로 표현될 수 있다. 일반적으로 그래픽 마코프 모델은 서클(각 상태가 포함 된)과 방향 화살표를 사용하여 둘 사이의 가능한 전환 변화를 나타낸다. 방향 화살표는 속도 또는 속도에 대한 변수 1로 레이블이 지정된다.
Markov Model은 일반적으로 시스템을 모델링하는 데 사용된다. 또한 패턴을 인식하고, 예측하고, 순차적 데이터의 통계를 학습하는 데 사용될 수 있다. Markov Modeling의 응용에는 모델링 언어, 자연어 처리(NLP), 이미지 처리, 생물 정보학, 음성 인식 및 모델링 컴퓨터 하드웨어 및 소프트웨어 시스템이 포함된다.