⌥ : Alt / option

⌘  : command

⇧ : shift

↩︎ : enter

⌃ : control

⌘ + F : 검색 패널 열기

 - ⌘ + ⌃ + R : 정규표현식 켜고 끄기

 - ⌘ + ⌃ + C : 대소문자 구별 켜고 끄기

 - ⌘ + ⌃ + W : 완전 일치 켜고 끄기

 - ↩︎ : 다음 찾기

 - ⇧ + ↩︎ : 이전 찾기

 - ⌥ + ↩︎ : 모두 찾기

⌥ + ⌘ + F : 찾기 및 바꾸기

⌘ + I : 증분 검색 -> 엔터 키가 다음 일치하는 걸 선택하고 검색 패널이 닫힌다.

⌘ + ⇧ + F : 다중 파일 검색 (Where 필드 추가)

 - where : (example) /C/Users/Dan/Cool Project, *.rb, <open files>

    /C/Users/Dan/Cool Project 안에 있으면서 .rb로 끝나고 현재 서브라임에 의해 열려있는 모든 파일을 찾는다.

 - where : (example) /C/Users/Dan/Cool Project, *.rb, <open folders>

텐서플로를 Mac 및 다양한 환경에서 설치하는 방법은 텐서플로 홈페이지(https://www.tensorflow.org/install/)를 참고 하면 된다.

여기서는 virtualenv를 이용하여 텐서플로를 설치 해보록 하자

일반적으로 파이썬으로 작업을 할 때는 vitualenv라는 가상환경을 사용해야 합니다. virtualenv는 한 컴퓨터에서 여러 프로젝트를 작업할 때 파이썬 패키지의 의존성이 출동하지 않도록 관리해주는 툴입니다. 즉 virtualenv를 사용하여 텐서플로를 설치하면 의존성 때문에 같이 설치되는 패키지들이 다른 프로젝트에서 설치한 같은 패키지들을 덮어쓰지 않게 됩니다.

텐서플로 홈페이지에서도 virtualenv 를 설치하도록 권장하고 있다.

We recommend the virtualenv installation. Virtualenv is a virtual Python environment isolated from other Python development, incapable of interfering with or being affected by other Python programs on the same machine. During the virtualenv installation process, you will install not only TensorFlow but also all the packages that TensorFlow requires. (This is actually pretty easy.) To start working with TensorFlow, you simply need to "activate" the virtual environment. All in all, virtualenv provides a safe and reliable mechanism for installing and running TensorFlow.

Native pip installs TensorFlow directly on your system without going through any container or virtual environment system. Since a native pip installation is not walled-off, the pip installation might interfere with or be influenced by other Python-based installations on your system. Furthermore, you might need to disable System Integrity Protection (SIP) in order to install through native pip. However, if you understand SIP, pip, and your Python environment, a native pip installation is relatively easy to perform.

Install with virtualenv

1. pip 및 virtualenv 설치

$ sudo easy_install pip
$ pip install --upgrade virtualenv

2. tensorflow 디렉토리에 가상환경 생성 및 활성화

$ virtualenv --system-site-packages -p python3 tensorflow
$ source ~/tensorflow/bin/activate

3. 텐서플로 및 패키지들 설치

(tensorflow)$ easy_install -U pip
(tensorflow)$ pip3 install --upgrade tensorflow

4. 비활성화

(tensorflow)$ deactivate 

5. 텐서플로 삭제

rm -r ~/tensorflow 

6. 텐서플로 동작 확인 예제 (test.py)

import tensorflow as tf

a = tf.placeholder("float")
b = tf.placeholder("float")

y = tf.multiply(a, b)

sess = tf.Session()

print (sess.run(y, feed_dict={a:3, b:3}))

7. 결과 확인

(tensorflow)$ python3 test.py 
2018-01-08 22:36:41.154298: I tensorflow/core/platform/cpu_feature_guard.cc:137] Your CPU supports instructions that this TensorFlow binary was not compiled to use: SSE4.1 SSE4.2 AVX AVX2 FMA
9.0

가중치를 조절하는 다양한 형태의 수식이 개발되어 왔다. 

http://ruder.io/optimizing-gradient-descent/

변형된 가눙치 갱신식을 사용하는 이유는 대개 신경만의 학습 안정성과 속도를 높여 학습이 잘 되게 하기 위해서입니다.

모멘텀(momentum) 은 오래 전부터 많이 사용되어 온 가중치 갱신식으로, 가중치 갱신값을 새로 계산할 때, 델타 규칙 외에 모멘텀(m)을 추가로 더해서 가중치를 변경하는 방식이다. 이렇게 하면 가중치 갱심 값이 바로 바뀌지 않고 어느 정도 일정한 방향으로 유지하면서 움직이게 된다.

과거의 가중치 갱신값일수록 더 적은 비율로 반영이 되며, 이전의 가중치 갱신값들이 추가로 더해지기 때문에 가중치 갱신값이 점점 더 커짐에 따라 학습 속도가 향상된디

한편, 이전의 가중치 갱신값들이 남아 계속 반영되기 때문에, 어느 특정 가중치 갱신값에 의해 가중치가 좌지우지 되지 않는다. 학습 안정성이 나앙지는 이유 이다.