[Tensorflow] 5. 순환신경망(RNN, Recurrent Neural Network)
·
AI/Deep Learning
안녕하세요! 오랜만에 돌아온 딥러닝 포스팅입니다. 최근에 알약 인식을 위한 프로젝트를 진행하고 있어서 딥러닝 관련 서적을 많이 찾아보게 되는데요.. 이번에도 공부하면서 심플하게 풀어내고자 작성하게 되었습니다. 순환신경망(RNN)은 주식과 같은 시계열 데이터나 문장과 같은 자연어 데이터와 같이 순서가 있는 데이터를 입력으로 받으며 동일 네트워크 구조를 이용하여 변화하는 입력에 대한 출력을 학습하는 방식입니다. 또한 순환신경망의 구조는 아래와 같이 표현할 수 있으며 기존과 다르게 $x_{t-1}$의 데이터를 사용하여 얻은 값인 $h_{t-1}$이 다음 출력값($h_t$)을 계산하기 위해 $x_{t}$와 함께 전달되고 있는 모습을 보입니다. 이제 SimpleRNN, LSTM, GRU 레이어를 통해 대표적인 순..
[Tensorflow] 4. Convolutional Neural Network (CNN)
·
AI/Deep Learning
안녕하세요. 오랜만에 딥러닝을 주제로 글을 작성하네요! 이번 포스팅에서는 이미지 데이터를 처리하는 방법 중 합성곱 신경망에 대해 알아보려고 합니다. 합성곱 신경망은 이미지 또는 영상과 같은 시각적 데이터를 분석하는데 주로 사용되는 인공신경망의 한 종류로 필터링 기법을 적용하여 여러가지 필터들을 생성해내고 학습을 통해 필터들의 값들을 자동으로 조정하여 원하는 결과를 출력하는 방법입니다. 한편으로 이미지 분류를 위한 합성곱 신경망에는 크게 특징 추출기(Feature Extractor)와 분류기(Classifier)로 구분이 가능한데, 추출기에서는 이미지의 특징을 다차원으로 구분한 필터를 사용하여 새로운 이미지(feature map)를 생성합니다. 또한 추출기는 주로 합성곱 레이어와, 풀링 레이어가 혼합된 형..
[밑시딥1] 챕터 5~8 요약
·
AI/Deep Learning
"밑바닥부터 시작하는 딥러닝1"은 딥러닝에 대한 중요 아이디어에 대해 말그대로 밑바닥부터 개념을 학습하고 구현하는 서적입니다. 일본인 작가가 집필한 것으로 알고 있는데 엄청 꼼꼼하고 쉽게 잘 작성하셨고 이복연 번역가님께서 훌륭하게 번역해주셔서 막히는 부분없이 수월하게 읽었습니다. 중간중간 파이썬을 이용해 아이디어를 구현하는데 어느정도 파이썬에 익숙하고 딥러닝에 대해 접해본적이 있다면 좀 더 편하게 감상할 수 있을 것 같네요. 특히 수치미분과 오차역전파법 파트는 정말 대단합니다. 관심있으시면 읽어보세요!
[밑시딥1] 챕터 1~4 요약
·
AI/Deep Learning
"밑바닥부터 시작하는 딥러닝1"은 딥러닝에 대한 중요 아이디어에 대해 말그대로 밑바닥부터 개념을 학습하고 구현하는 서적입니다. 일본인 작가가 집필한 것으로 알고 있는데 엄청 꼼꼼하고 쉽게 잘 작성하셨고 이복연 번역가님께서 훌륭하게 번역해주셔서 막히는 부분없이 수월하게 읽었습니다. 중간중간 파이썬을 이용해 아이디어를 구현하는데 어느정도 파이썬에 익숙하고 딥러닝에 대해 접해본적이 있다면 좀 더 편하게 감상할 수 있을 것 같네요. 특히 수치미분과 오차역전파법 파트는 정말 대단합니다. 관심있으시면 읽어보세요!
[Tensorflow] 3. 분류 (Classification)
·
AI/Deep Learning
저번 포스팅에서는 텐서플로를 이용한 회귀분석과 실습을 해보았는데요! 이번에는 종속변수가 수치형이였던 회귀와는 조금은 다른 분류에 대해서 포스팅하려고 합니다. 실생활에서는 서류를 정리하거나 합격자/불합격자의 명단을 나눌때 분류라는 단어를 사용하죠. 이와 유사하게 분류는 무엇을 특정한 기준에 따라 나누는 것을 의미하는데요. 데이터 사이언스에서는 특정한 기준이 몇개인지에 따라 분류를 이항분류와 다항분류로 구분합니다. 이항분류는 기준이 2개로 어떤 사진이 주어졌을 때 이 사진이 고양이사진인지 강아지사진인지 구분하는 것을 의미합니다. 사진을 여러개 주여져도 무조건 고양이나 강아지 사진으로 분류하지 범고래 사진이라고 분류하지 않아요! 반면에 다항분류는 기준이 여러개로 어떤 사람이 쓴 숫자가 0~9 중 어떤 숫자인지..
[Tensorflow] 2-1 Regression with Boston housing datasets
·
AI/Deep Learning
이번 포스팅에서는 보스턴 하우징이라는 유명한 데이터셋에 저번 포스팅에서 공부한 회귀분석을 통해 분석해보려고 합니다 0. Set Environment and Prepare Data (환경설정 및 데이터준비) 보스턴 주택 가격 데이터셋은 1978년에 발표된 데이터로 주택가격을 포함한 여러가지 변수를 담고 있는 데이터셋 입니다. 참고로 데이터는 14개의 변수를 포함하고 있으며 504개의 샘플을 포함하고 있으며 각 변수와 설명은 아래 표를 참고하면 됩니다. CRIM 자치시(town) 별 1인당 범죄율(%) DIS 5개의 보스턴 직업센터까지의 접근성 지수 ZN 25,000 평방피트를 초과하는 거주지역의 비율 RAD 방사형 도로까지의 접근성 지수 INDUS 비소매 상업 지역이 점유하고 있는 토지의 비율 TAX 10..
[Tensorflow] 2. 회귀(Regression)
·
AI/Deep Learning
저번에는 인공신경망과 간단한 코드를 사용해 논리연산자를 구현해보았는데요. 이번에는 본격적으로 회귀에 대해서 포스팅 해보려고 합니다. "과거로 회귀하다"와 같은 말처럼 회귀(Regression)은 제자리로 돌아오거나 돌아간다는 의미를 가지고 있는데요. 도대체 무엇으로 어떻게 돌아간다는 의미일까요?? 🧐 이는 프랜시스 골턴이라는 유전학자가 아버지의 키가 크면 자식도 평균보다 크지만 아버지 만큼 크지 못하다는 사실을 발견하고 "평균으로 회귀(Regression)"라는 개념을 설명하면서 알려지게 되었습니다. 현재는 하나 이상의 독립변수($X$)와 독립변수에 영향을 받는 종속변수($Y$)의 관계를 분석하는 것을 회귀분석이라고 합니다. 앞선 예시에서는 아버지의 키로 자식의 키를 분석했기에 아버지의 키를 독립변수($..
[Tensorflow] 1. 논리연산을 위한 신경망 네트워크 생성
·
AI/Deep Learning
흔히 C나 Python와 같은 프로그래밍을 배우다 보면 자연스럽게 논리 연산을 접하게 되는데요. 생각해보면 저 역시 대학교 첫 컴퓨터 프로그래밍 시간에 배웠더라고요! 각설하고 논리연산은 비트연산이라고도 불리며 컴퓨터는 0과 1로 정보를 처리하므로 논리 연산은 굉장히 중요한 연산이에요. 전자공학에서도 논리 연산을 물리적 장치로 구현한 전자 회로를 의미 논리 회로(logic gate)에서도 사용되며 데이터베이스의 인덱스 중에 비트맵 인덱스(Bitmap Index), 데이터사이언스나 통계에서도 광범위하게 사용되고 있어요. 논리 연산을 위한 연산자는 여러개가 있는데 그 중 4개 정도의 연산자를 소개하고 이를 구성하는 네트워크를 구성하려고 합니다. 1. 논리합(OR, ∨) 연산자 (Disjunction) 논리합은..