뮤트 개발일지

딥러닝 레이어의 이해 Embedding 레이어와 RNN 레이어를 배워볼 것 희소 표현 Sparse Representation 사과, 바나나, 배를 컴퓨터에게 알려줄 때 첫 번째 요소로 모양(0: 둥글다, 1: 길쭉하다)을 나타내고, 두 번째 요소로 색상(0: 빨강, 1: 노랑)을 나타내면 사과: [0, 0], 바나나: [1, 1], 배: [0, 1]로 표현할 수 있을 것이다. 이렇게 벡터의 특정 차원에 단어 혹은 의미를 직접 매핑하는 방식을 희소 표현이라고 한다. 분산 표현 Distributed Representation 단어를 고정차원(예를 들어 256차원)의 벡터로 표현해보자. 그러나 어떤 차원이 특정한 의미를 가진다고 가정하지는 않고, 유사한 맥락에서 나타나는 단어는 그 의미도 비슷하다라는 가정을 ..

딥러닝 레이어의 이해 데이터의 차원 변화를 좇으며, 각기 다른 신경망들이 갖는 weight의 특성을 살펴보자. 오늘은 Linear레이어, Convolution레이어를 다룰 것 (다음 시간에는 Embedding, Recurrent레이어를 다룰 예정) Linear 레이어 선형대수학의 선형변환(Linear Transform)과 동일한 기능을하는 레이어 https://www.youtube.com/watch?v=kYB8IZa5AuE https://www.youtube.com/watch?v=vVvjYzFBUVk 기능: 선형 변환을 활용해 데이터를 특정 차원으로 변환한다. Convolution 레이어 사진 필터에서 Counvolution 연산을 활용한다. 선명하게 하는 필터, 흐리게 하는 필터 등이 Convoluti..

딥러닝 들여다보기 신경망 구성 MNIST 이미지 분류기 # Tensorflow 기반 분류 모델 예시 코드 import tensorflow as tf from tensorflow import keras import numpy as np import matplotlib.pyplot as plt # MNIST 데이터를 로드. 다운로드하지 않았다면 다운로드까지 자동으로 진행됩니다. mnist = keras.datasets.mnist (x_train, y_train), (x_test, y_test) = mnist.load_data() # 모델에 맞게 데이터 가공 x_train_norm, x_test_norm = x_train / 255.0, x_test / 255.0 x_train_reshaped = x_trai..

영화리뷰 텍스트 감성분석하기 IMDB 영화리뷰 감성분석 # 인코딩 함수 def get_encoded_sentences(sentences, word_to_index): return [get_encoded_sentence(sentence, word_to_index) for sentence in sentences] encoded_sentences = get_encoded_sentences(sentences, word_to_index) # decode 함수 def get_decoded_sentence(encoded_sentence, index_to_word): return ' '.join(index_to_word[index] if index in index_to_word else '' for index in e..

딥러닝과 신경망의 본질 인공지능: 사람이 직접 프로그래밍 한 내용이 아니라 기계 자체 규칙 시스템을 구축하는 과학 머신러닝: 데이터를 통해 스스로 학습하는 방법론. 데이터를 분석, 데이터 안에 있는 패턴 학습, 학습한 내용을 토대로 판단이나 예측을 함 딥러닝: 머신러닝의 하위 집단. 학습하는 모델의 형태가 신경망인 방법론 내재적 표현 Internal Representations 아래로 내려갈 수록 사람의 개입이 강해지는 구조이다. 딥러닝의 목표는 학습된 함수를 사용해 유용한 내재적 표현을 뽑아내는 것. 위의 표나 카테고리와 같은 내재적 표현들을 사람의 개입 없이 딥러닝으로 나타낼 수 있는 모델을 학습시키는 것이 궁극적인 목표이다. 딥러닝 모델이 잘 학습되어도 위의 표를 내뱉진 않는다. 다만, 이미지를 입..

모델에 학습시킬 이미지 사이즈가 서로 다르면 서로 사이즈를 맞춰서 모델 학습을 시켜야 한다. IMG_SIZE = 160 # 리사이징할 이미지의 크기 def format_example(image, label): image = tf.cast(image, tf.float32) # image=float(image)같은 타입캐스팅의 텐서플로우 버전입니다. image = (image/127.5) - 1 # 픽셀값의 scale 수정 image = tf.image.resize(image, (IMG_SIZE, IMG_SIZE)) return image, label Flatten: 다차원을 1차원으로 축소 import numpy as np image = np.array([[1, 2], [3, 4]]) print(image..

https://blogs.sas.com/content/saskorea/2017/08/22/%EC%B5%9C%EC%A0%81%EC%9D%98-%EB%A8%B8%EC%8B%A0%EB%9F%AC%EB%8B%9D-%EC%95%8C%EA%B3%A0%EB%A6%AC%EC%A6%98%EC%9D%84-%EA%B3%A0%EB%A5%B4%EA%B8%B0-%EC%9C%84%ED%95%9C-%EC%B9%98%ED%8A%B8/ 최적의 ‘머신러닝 알고리즘’을 고르기 위한 치트키 “어떤 알고리즘을 사용해야 할까요? blogs.sas.com 지도학습에 속하는 대표적인 알고리즘 - 분류classification: 예측해야할 데이터가 범주형 변수일때 분류라고 함 - 회귀regression: 예측해야할 데이터가 연속적인 값일때 회귀라고 ..

딥러딩: 데이터 준비 -> 딥러닝 네트워크 설계 -> 학습 -> 테스트(평가) 데이터 준비 MNIST 숫자 손글씨 Datase 불러들이기 텐서플로우의 표준 API인 tf.keras의 Sequential API를 이용해 숫자 손글씨 인식기를 만들 것 http://yann.lecun.com/exdb/mnist/ MNIST handwritten digit database, Yann LeCun, Corinna Cortes and Chris Burges yann.lecun.com MNIST 데이터셋의 X항목: 이미지 데이터를 담은 행렬matrix Y항목: X항목에 들어있는 이미지에 대응하는 실제 숫자 값이 담겨져 있음(답) *Matplotlib: 파이썬에서 제공하는 시각화 패키지. 차트, 플롯 등 다양한 형태로 ..