출처: https://bobr2.tistory.com/entry/Python-whl-%ED%8C%8C%EC%9D%BC-%EC%84%A4%EC%B9%98-%EB%B0%A9%EB%B2%95 1. Python whl 파일 설치 방법1) 설치하고자 하는 whl 파일을 다운로드 받는다.2) python -m pip install whl파일명 2. Beautifulsoup 설치 방법1) https://pypi.python.org/pypi/beautifulsoup4 여기서 관련 whl 파일을 다운로드 한다.2) 아래 해당 명령어를 console에서 실행한다.python -m pip install beautifulsoup4-4.4.1-py2-none-any.whl 3) 정상 설치 여부를 확인한다.>>> import b..

the default discovery settings are unsuitable for production use; at least one of [discovery.seed_hosts, discovery.seed_providers, cluster.initial_master_nodes] must be configured 오류 해결 하기 ./elasticsearch 를 실행시키자 아래와 같은 오류가 나온다. 이번엔 설정 방법도 달라졌나보다;; [2019-09-30T20:12:48,973][INFO ][o.e.b.BootstrapChecks ] bound or publishing to a non-loopback address, enforcing bootstrap checksERROR: [1] bootstra..

출처: https://sacko.tistory.com/45?category=632408 이전 포스팅에서 다룬 배치 정규화는 일종의 정규화(Regularization) 기법이라고 볼 수 있다. 과적합(overfitting)의 위험을 줄이고 학습속도를 개선하는 등의 문제를 해결하기 위해 고안된 것이다. 배치 정규화 이외에도 가중치 감소(Weight Decay), 드롭아웃(Dropout) 등이 비슷한 목적을 위해서 제안된 방법들이다. 머신러닝에서는 학습된 모델이 학습 데이터에만 높은 정확도를 보이길 원치 않는다. 궁극적으로 학습한 모델이 범용적으로 사용되어야 하기 때문에 학습 데이터에만 잘맞는 overfitting 문제를 피해야 한다. 신경망의 층이 깊어질수록, 학습률이 작을수록 과적합되는 경향이 있다. 가중..

ftp로 정보를 주고받아야 하는 상황이 생겨서 웹사이트를 올린 서버에 ftp를 열어놔야 하는 상황이 생겼다. 아래 글은 Ubuntu 16.04LTS를 기준으로 작성되었다 설치하기우선 openssh-server라는 프로그램이 설치되어 있어야 한다.$ sudo apt-get install openssh-server나의 환경에서는 이미 설치가 되어있었다. 이 상태에서 이제 내가 원하는 계정을 생성해보자. (이미 있다면 계정 생성은 패스해도 된다.) 계정 생성하기$ sudo adduser guestUbuntu에 계정을 생성 및 비밀번호를 설정하고, 이 계정이 특정 폴더 외의 다른 폴더는 접근하지 못하도록 막아보겠다. sftp 설정 바꾸기$ vi /etc/ssh/sshd_config그리고 다음 부분을Subsyst..

출처: https://sacko.tistory.com/44?category=632408 이전 포스팅에서는 초기 가중치 설정에 따라서 활성화 값의 분포가 어떻게 나타나는지 파악했으며 활성화함수 별로 적절한 초기 가중치 설정 방법이 있다는 것을 알았다. 이번에는 또다른 이슈에 대해 다루고자 한다. 4번째 포스팅에서 배치(Batch)에 대해서 포스팅을 했었다. 배치는 일종의 랜덤 샘플링으로 전체 학습데이터를 한 번 학습할 때 다 학습에 사용하면 많은 시간이 걸리기 때문에... (수천만, 수억 개의 데이터를 한 번에 다 사용한다면???) 미니배치 방식으로 랜덤하게 학습 데이터에서 배치 크기만큼 꺼내서 한 번의 학습에 사용하는 방식이다. 이번 포스팅에서 다루는 배치 정규화는 초기 가중치 설정 문제와 비슷하게 가중..

출처: https://sacko.tistory.com/43?category=632408 이전 포스팅에서는 최적화 기법들을 살펴보면서 최적의 가중치 매개변수를 찾기 위해 어떤 것들을 사용하는지 알아보았다. 확률적 경사하강법 이외에도 다양한 방법으로 적절한 기울기 값을 구하고 손실함수가 낮아지는 방향으로 계산(또는 학습)하는 방법들이 있으며 자신의 문제에 따라 적합한 방법을 사용하는 것이 좋다. 최적화 만큼 초기 신경망의 가중치 값을 어떻게 설정하느냐도 상당히 중요한 문제이다. 초기값을 무엇으로 하느냐에 따라서 학습의 성패가 결정나기도 한다. 신경망 초기 가중치 설정 문과생도 이해하는 딥러닝 (9) 가중치 초깃값을 0으로 하면? 가중치의 초기값을 0으로 default를 주고 시작하면 올바른 학습을 기대하기 ..

출처: https://sacko.tistory.com/42?category=632408 지금까지 신경망이 이론적으로 어떻게 구성되고 이를 코드로 어떻게 구현하는지 살펴보았다. 딥러닝은 깊은 신경망 계층을 말하며 수 많은 모듈의 조합으로 이루어진 것이라고 볼 수 있다. 따라서 모듈과 함수가 많은 만큼 각각에 대한 하이퍼파라미터(hyper-parameter)가 많다. 하이퍼파라미터를 어떻게 설정하느냐에 따라서 학습의 결과가 천차만별로 달라질 수 있다. 딥러닝 모델 학습에서 많이들 중요성을 간과하는 부분이 이 최적화 부분이다. 신경망을 생성하면서 이 최적화 문제에 대해서 끊임 없이 고민해야 한다. 이는 Input으로 넣는 데이터와의 직접적인 연결성도 있으며 하이퍼파라미터에 따른 모델의 변화를 어느정도 이해하고..

출처: https://sacko.tistory.com/41?category=632408 오차역전파법은 계층 형태로 순전파와 역전파를 메서드로 구현하여 효율적으로 기울기를 계산할 수 있도록 모듈화하여 신경망의 layer를 자유롭게 쌓고 쉽게 만들며 계산 속도를 빠르게 해준다. 딥러닝의 신경망 학습 모형은 이러한 layer들과 그 안의 함수들을 모듈로서 레고 블럭을 조립하듯이 조립하여 신경망을 구현할 수 있다. 오차역전파법 실습 2 문과생도 이해하는 딥러닝 (7) 앞선 "신경망 학습 실습" 포스팅에서는 순전파만을 고려하였고 기울기 계산을 수치 미분으로 하면서 계산이 오래 걸려서 결국.... 결과를 내지 못했다. 다행히 이번 오차역전파를 적용한 실습에서는 계산이 빨라 신경망 학습에 대한 결과까지 그래프로 확인..

출처: https://sacko.tistory.com/39?category=632408 지난 시간에는 구축한 신경망을 어떻게 학습해야 하는지 학습에 필요한 개념들에 대해서 다루었고 실제로 학습을 진행해보았다. 경사하강법을 이용해 수치미분으로 기울기를 계산하는 것은 계산 시간이 너무나 오래 걸려서 모델의 학습 시간이 굉장히 길었다. 학습을 할 때 사용되는 하이퍼파라미터(hyperparameter) 들에 대해서 알 수 있었으며 왜 가중치 갱신을 할 때 기울기를 구하는지, 손실함수는 왜 계산하는지, epoch의 정확한 의미는 무엇인지, 미니배치를 왜 사용하는지 등등 딥러닝의 핵심 개념들을 제대로 알 수 있었다. 이번에는 지난 포스팅에서 신경망을 학습하면서 수치미분으로 기울기를 계산하면서 학습시간이 굉장히 길어..

http://www.pyrasis.com/book/DockerForTheReallyImpatient/Chapter01