Anyone can learn anything.

Optimization with R - 4. 다변수 함수 최적화, 뉴턴법(Newton’s method) 적용 예제

Optimization with R - 3. 2차 근사로서의 뉴턴 방법에 대하여(테일러 정리의 활용)

Optimization with R - 3. 2차 근사로서의 뉴턴 방법에 대하여 1차 근사를 이용한 뉴턴 방법의 해찾기 지난 포스팅에서 우리는 newton method를 이용한 최소값을 만드는 \(x\)값을 찾는 방법에 대하여 알아보았다. 이 방법의 핵심은 해를 찾는 방법이었던 뉴턴 방법을 최소값을 찾고 싶은 함수의 1차 도함수에 적용하는 것이라고 할 수 있다. 필자가 첫번째 포스팅에서 링크했던 아래의 그림은 해를 찾는 방법에 있어서 Newton’s method가 어떻게 동작하는지를 잘 보여준다. 위의 그림에서 기울기를 나타내는 선인 빨간색 선을 주목해 보자. 뉴턴 방법은 현재 위치(\(x_n\))에서 해를 찾고자하는 함수를 1차 근사(빨간색 직선)를 시킨다. 즉, 빨간색 선과 비슷하다고 생각하는 것이다..

Optimization with R - 2. Newton’s method를 통한 최대값 찾기

Optimization with R - 2. Newton’s method를 통한 최대값 찾기 \(f(x)\)의 최대값를 찾아라. 오랜만에 다시 opimization 연재를 시작한다. 지난 포스팅에서 우리는 newton method를 이용한 해을 찾는 방법(root finding)에 대하여 알아보았다. 어쩌면 독자 중에는 이전 포스팅의 제목인 ’Optimization with R - 1. Newton’s method를 통한 해찾기’를 읽으면서 고개를 갸웃거린 독자가 있을 것이라 생각한다. 왜냐하면 옵티마이제이션이라 함은 어떤 함수의 최대값이나 최소값을 찾는 방법에 대한 내용이지 어떤 방정식의 해를 찾는 내용은 아니기 때문이다. 하지만 optimization 시리즈의 첫번째를 Newton’s method를 ..

ggplot2 패키지 정리 - 1. stat_density, stat_function, geom_rug, geom_point, anotate, labs

ggplot2 패키지 정리 - 1. stat_density, stat_function, geom_rug, geom_point, anotate, labs 이번 포스팅에서 사용될 R 패키지는 다음과 같다. library(RColorBrewer) library(magrittr) library(ggplot2) 이번 포스팅에서는 필자의 개인 참고를 위하여 최근 필자가 사용했던 ggplot2의 코드들을 정리해놓으려 한다. RColorBrewer 최근 필자가 RColorBrewer의 위력을 실감하였다. 패키지가 하는 일은 아주 간단하다. 색깔을 선택해준다. 사용법 # pick 5 colors with theme: "Accent" display.brewer.pal(5, "Accent") my_color

감마(Gamma) 분포 MLE 추정 with R - 4. MOME vs. MLE 의 비교 Bias와 MSE에 대하여

감마(Gamma) 분포 MLE 추정 with R - 4. MOME vs. MLE 의 비교 Bias와 MSE에 대하여 이번 포스팅에서 사용될 R 패키지는 다음과 같다. library(magrittr) 이전 세 편의 연재를 통하여 우리는 기대값 매칭을 통하여 모수를 찾는 적률법(Method of moments)과 데이터의 가능도 함수를 최대화 시키는 모수를 찾는 최대 가능도법(Maximum likelihood )에 대하여 알아보았다. 오늘은 이 방법을 통하여 찾은 추정량이 얼마나 좋은지, 즉 두 방법의 성능을 비교해보는 포스팅이 되겠다. 추정량(estimator)은 확률변수 통계 공부를 하는 많은 사람들이 처음에 추정량(estimator)과 추정값(estimate)을 구분하는데 어려움을 겪는다. 대부분의 경..