📖STUDY 웹 브라우저 속 머신러닝 Tensorflow.js | 웹에서의 머신러닝

3년전 도커 이미지로 aws에 모델을 올리고 웹 사이트를 운영을 했었는데, 당시 내 궁금증으로는 그냥 로컬에서 돌리는 방법도 없나 싶어서 찾은 책이었다.
시간이 많이 지나서 이직 준비를 하면서 그간 사놓은 책들을 매일 하나씩 공부하는 생각으로 포스팅을 시작한다..!

따라서 이 포스팅은 내가 읽고 실습하면서 생각들을 정리한 포스트라고 보면 되겠다.

웹에서의 머신러닝

웹에서 모델을 띄우는 이유는 결국엔 사용자들(end user)에게 더 많이 모델을 활용하고 그에 대한 이익 창출이다. 이를 porting이라고 하는데, 파이썬으로 만들었던 모델을 자바스크립트로 대부분 운용하는 웹사이트에서 호환은 쉽지 않은 일로 여겨져 왔다.

• 파이썬으로 구현한 모델을 재사용하기 위해서는 tfjs-converter 을 이용하여 변환한다.

Tensorflow.js는 이를 해결하기 위해 만들어진 프레임워크로, 웹에서 머신러닝을 가능하게 해준다.
특징으로는 연산 그래프를 즉시 실행(eager execution)으로 구현하여, WebGL을 통해 GPU를 활용할 수 있도록 한다.
따라서 비동기 방식으로 연산을 수행하는 것이 더 적합하다고 한다.

GPU를 이용하여 연산하지만, 해당 메모리에서는 가비지 컬렉션이 불가능하기 때문에, 메모리 관리에 유의해야 한다. explicit하게 관리를 해야하고, 아래와 같은 방법으로 메모리를 해제할 수 있다. (메모리 누수 문제 해결)

const a = tf.tensor([1, 2, 3, 4], [2, 2]);
const b = tf.tensor([1, 2, 3, 4], [2, 2]);
const c = a.add(b);
a.dispose(); // a 메모리 해제
b.dispose(); // b 메모리 해제
c.dispose(); // c 메모리 해제

모든 변수를 중간 단계에서 해제하는 방법은 비효율적이기 때문에, tf.tidy를 사용하여 메모리 관리를 할 수 있다.

const a = tf.tensor([1, 2, 3, 4], [2, 2]);
const b = tf.tensor([1, 2, 3, 4], [2, 2]);
const c = tf.tidy(() => {
  const a = tf.tensor([1, 2, 3, 4], [2, 2]);
  const b = tf.tensor([1, 2, 3, 4], [2, 2]);
  return a.add(b);
});

상황에 따라 tf.tidy 혹은 .dispose를 사용하여 메모리를 관리하면 된다. 또한, tf.tidy는 메모리 해제를 자동으로 수행하기 때문에, 메모리 누수 문제를 방지할 수 있다.

모델 api는 두 가지로 나뉜다.

• Layers API: for 모델 구조, Keras와 유사한 API로, 모델을 쉽게 만들 수 있다.
  • Sequential API: 레이어를 쌓아가는 방식으로 모델을 만들 수 있다.
  • Functional API: 레이어를 함수형으로 연결하여 모델을 만들 수 있다.
• Core API: for 연산, 저수준 API로, 텐서 연산을 직접 수행할 수 있다.

Layers API를 이용하여 커스텀 레이어를 만들 수 있다. 하지만 serialization을 지원하지 않기 때문에, 모델을 저장하고 불러오는 것이 불가능하다. 따라서, 커스텀 레이어를 만들 때는 Core API를 이용하여 직접 구현해야 한다.

Terminology

• Tensor: 데이터의 다차원 배열을 의미한다. (numpy에서는 ndarray로 표현)
• Machine Learning vs Deep Learning: 이 둘의 차이는 파라미터를 학습하는 방법에 있다. 머신러닝은 feature를 직접 정의하고, 딥러닝은 feature를 스스로 학습한다.
• Backpropagation: 딥러닝에서 가중치를 업데이트하는 방법으로, 오차를 역전파하여 가중치를 조정한다.
  • 지도학습으로 예측값과 실제값 오차율 계산
  • 예측 결과가 기여하는 정도에 따라 각 연산 노드에 오차율 전파
  • 오차율 기반으로 파라미터 갱신
• rank: 텐서의 차원 수
• shape: 텐서의 각 차원 크기
• dtype: 텐서의 데이터 타입