출처: https://medium.com/@kmkgabia/ml-sigmoid-%EB%8C%80%EC%8B%A0-relu-%EC%83%81%ED%99%A9%EC%97%90-%EB%A7%9E%EB%8A%94-%ED%99%9C%EC%84%B1%ED%99%94-%ED%95%A8%EC%88%98-%EC%82%AC%EC%9A%A9%ED%95%98%EA%B8%B0-c65f620ad6fd training 데이터 셋으로 학습시킨 모델을 이용해 test 데이터 셋으로 테스트를 한다는 건 교과서로 공부한 후 실전 문제로 시험을 보는 것과 같다. 여러 번에 걸쳐 training 시킨 후 학습 결과를 확인하기 위해 test하는 작업을 반복해야 한다. 보통 트레이닝 셋과 테스트 셋은 완전히 구분되어 있다. training da..

출처:https://medium.com/@kmkgabia/ml-sigmoid-%EB%8C%80%EC%8B%A0-relu-%EC%83%81%ED%99%A9%EC%97%90-%EB%A7%9E%EB%8A%94-%ED%99%9C%EC%84%B1%ED%99%94-%ED%95%A8%EC%88%98-%EC%82%AC%EC%9A%A9%ED%95%98%EA%B8%B0-c65f620ad6fd Sigmoid 함수는 binary classification 에 적절함 함수다. 일정 값을 기준으로 0인지 1인지구분함으로써 분류하는 방식이다. 딥러닝에서는 특정 임계치를 넘을 때만 활성화되기 때문에 activation function 중의 하나로 구분되는 함수다. 보통 처음은 input layer, 마지막은 output layer ..

출처: https://blog.naver.com/qbxlvnf11/221449595336 결론부터 말하자면 batch size와 성능의 상관 관계는 아직 정확하게 규정되지는 않았습니다. ​ task, 데이터에 따라 그 기준이 달라지기 때문​입니다. ​ 다만, 일반적으로 32, 64 크기의 mini-batch가 성능에는 가장 좋다고 알려져 있습니다. ​ batch size를 줄이거나 늘임으로써 얻는 장점을 요약하자면 다음과 같습니다. ​ ▶ batch size를 줄임으로써 얻는 장점 ​ - 필요한 메모리 감소: 전체 데이터를 쪼개어 여러 번 학습하는 것이기 때문에 최소 요구 메모리량을 줄일 수 있음. ​ ▶ batch size를 늘임으로써 얻는 장점 ​ - 아래 graph를 보면 전체 데이터를 활용한 Ba..

출처: https://m.blog.naver.com/qbxlvnf11/221449297033 이번 포스팅의 주제는 텐서플로우나 케라스 등을 사용해서 모델을 만들어 보았으면 다들 아실 용어인 epoch와 batch size 그리고 iteration입니다. ▶ 알고리즘이 iterative 하다는 것: gradient descent와 같이 결과를 내기 위해서 여러 번의 최적화 과정을 거쳐야 되는 알고리즘 optimization 과정 ▶ 다루어야 할 데이터가 너무 많기도 하고(메모리가 부족하기도 하고) 한 번의 계산으로 최적화된 값을 찾는 것은 힘듭니다. 따라서, 머신 러닝에서 최적화(optimization)를 할 때는 일반적으로 여러 번 학습 과정을 거칩니다. 또한, 한 번의 학습 과정 역시 사용하는 데이터를..

출처: https://ssumer.com/mac%EC%9A%A9-3%EA%B0%80%EC%A7%80-%EB%AC%B4%EB%A3%8C-%EC%82%AC%EC%9A%B4%EB%93%9C-%ED%8C%8C%EC%9D%BC-%ED%8E%B8%EC%A7%91-%EC%95%B1-%EC%86%8C%EA%B0%9C/ 맥용 사운드 에디터는 유/무료의 여러가지 앱이 있습니다. 여기서는 무료 앱만 소개합니다. (무료이지만 대부분의 꼭 필요한 기능들은 모두 갖추고 있습니다.)Audacity(무료/한글 메뉴 지원) / WAV, .AIFF, .FLAC, .MP2/3 .OGG 지원, 편집 및 이펙트(자체 내장 이펙트, VST, 오디오유닛, VAMP 등)OcenAudio(무료) / .MP3, .WAV, .FLAC, .WMA, .W..

서버를 운영하다 보면, 갑작스런 이용자의 증가, 사업 확장 등의 이유로 더 많은 서버 용량과 성능이 필요하게 됩니다. 이럴 때에는 ‘스케일 아웃’과 ‘스케일 업’, 두 가지 방법으로 시스템을 확장시킬 수 있습니다. 1) 스케일 아웃 ‘스케일 아웃’이란 서버를 여러 대 추가하여 시스템을 확장하는 방법입니다. 예를 들어, ‘1’의 처리 능력을 가진 서버에 동일한 서버 4대를 더 추가하여, 총 ‘5’의 처리 능력을 만드는 것입니다. 서버가 여러 대가 되기 때문에 각 서버에 걸리는 부하를 균등하게 해주는 ‘로드밸런싱’이 필수적으로 동반되어야 합니다. 스케일 아웃의 경우, 서버 한 대가 장애로 다운되더라도 다른 서버로 서비스 제공이 가능하다는 장점이 있습니다. 반면 모든 서버가 동일한 데이터를 가지고 있어야 하므..

출처:https://conservative-vector.tistory.com/entry/%EC%BF%A0%EB%B2%84%EB%84%A4%ED%8B%B0%EC%8A%A4%EC%99%80-%EB%8F%84%EC%BB%A4%EC%9D%98-%EC%B0%A8%EC%9D%B4 💡 도커와 쿠버네티스 예시 : 컨테이너 하나 띄워서 사용해야지 => 도커를 쓰자 0월 0시에 100개의 컨테이너를 자동으로 생성해야지 => 쿠버네티스를 쓰면 된다. 쿠버네티스란? 여러 컨테이너를 관리/예약하는 도구 도커란? 여러 컨테이너를 관리/예약하는 플랫폼 그런데 둘이 뭐가 다를까? 간단히 얘기해서 도커는 '기술적인 개념이자 도구'이고 쿠버네티스는 '도커를 관리하는 툴'이라고 생각하면 된다. 이미지를 컨테이너에 띄우고 실행하는 기술이 ..

출처: https://adamtheautomator.com/windows-docker-image/ docker 파일 실행 시키기

한국어 NLP와 딥러닝을 위한 도커이미지 만들기 딥러닝 + 도커? 딥러닝 프로젝트를 진행할 때 귀찮은 것 중 하나는 여러 라이브러리를 관리하고 어떤 버전을 설치했는지를 매번 체크하는 것이다. Tensorflow나 PyTorch의 경우 매 시즌별로 버전 업데이트가 이뤄지며 동시에 api가 이전 버전과 달라져 어떤 것을 사용해야 하는지 선택이 곤란해지는 때가 있다. 한편 위 문제는 양반일 정도로 귀찮은 것이 하나 더 있다. 바로 CUDA와 cuDNN, APEX등을 버전을 맞춰 설치하고 PATH를 잡아서 진행하는 부분은 정말 끔찍하다. 다만 딥러닝만이 아닌 웹 개발을 진행한다 하더라도 버전 관리와 재현성이 제공되는 개발환경은 필수이기 때문에 도커를 사용해서 관리하는 것은 사실상 기본이 되어가고 있다. 귀여운 ..

딥러닝 환경 구축의 어려움 개인 데스크탑에서 cuda나 cudnn 등 nvidia 가속을 이용하는 환경을 구축하는 게 간단하지는 않습니다. 저의 경우 파이선 가성화를 위해서 anaconda를 주로 사용하는데, conda 업그레이드시 함께 포함된 패키지가 업데이트되면서 호환성이 깨지는 경우가 종종 발생하였습니다. 그래서, 차라리 누군가 잘 만들어놓은 도커를 가져다가 조금만 변경해서 사용하면 좋겠다는 생각에서 저의 개인적인 경험을 바탕으로 소개하도록 하겠습니다. Deepo 도커 소개 deepo는 딥러닝/머신러닝 개발 환경을 쉽게 구축할 수 있는 all-in-one 도커입니다. 자세한 것은 이 링크를 눌러 deepo 깃헙 페이지를 방문하면 알 수 있습니다. 간략하게 소개해보면, python 3.6.9 Kera..