반응형 전체 글78 Swin Transformer 논문 리뷰 Swin Transformer[1]는 2021년에 Microsoft Research Asia에서 발표한 논문이다. Classification, Detection, Segmentation 등 여러가지 vision task에 적용할 수 있는 Transformer 기반의 backbone을 제안한다. 초기 Transformer는 자연어 문장을 처리할 목적으로 개발되었다가 점차 vision 분야에도 적용이 되기 시작했다. Swin Transformer는 vision backbone을 목표로 설계되었고 여러가지 task에 적용이 가능하면서 높은 성능도 보여서 의미있는 논문이다. 기존 Transformer가 NLP 분야에서 높은 성능을 달성하고, Vision 분야에도 Transformer를 적용하는 연구가 있었지만 .. 2023. 6. 23. CRNN(Convolutional Recurrent Neural Network) 모델 개요 CRNN은 2015년에 발표된 Text Recognition의 토대가 되는 모델 중 하나다. 논문명은 An End-to-End Trainable Neural Network for Image-based SequenceRecognition and Its Application to Scene Text Recognition[1]이다. 발표된지 오래되었지만 Text Recognition 모델을 개발한다면 한번쯤 읽어봐야할 논문이라고 생각한다. 이미지 처리를 하다보면 일반적인 object 말고도 이미지 Sequence에 대해 다뤄야 하는 경우가 종종 생긴다. 예를 들면 연속된 글자라든지, 악보라든지 여러 가지가 있다. 이런 sequence-like objects는 단일 label이 아니라 series of obje.. 2023. 6. 20. 컴퓨터비전에서의 Attention Mechanism에 대한 개요 Attention은 기계 학습 분야에서 중요한 개념이다. 주어진 입력에 대해 모델이 주의를 집중하는 방식을 나타내는 메커니즘인데 모델이 입력의 특정 부분에 더 많은 주의를 기울일 수 있도록해서 모델의 성능을 향상시킨다. 최근에는 많은 모델에서 Attention을 적용하고, Attention 요소만으로 구성된 Transformer 모델을 사용해서 성능을 올리고 있다. Related Work일반적으로, Attention은 시퀀스 형태의 입력을 처리하는 모델에서 주로 사용되었다. 예를 들어, 자연어 처리에서 문장을 번역하는 기계 번역 모델에서는 Attention을 사용해서 입력 문장의 특정 단어에 더 많은 주의를 기울여서 모델은 입력 문장의 어떤 부분이 번역에 더 중요한 역할을 하는지를 파악할 수 있다.RAM.. 2023. 6. 20. 공분산과 상관계수 확률 변수가 하나일때는 분산을 구할 수 있는데 변수가 여러 개일 때는 어떻게 분산을 구할 수 있을까? 그리고 두 변수 간의 상관 관계는 어떻게 구할까? 이 문제는 공분산과 상관계수을 통해서 알 수 있다. 공분산(Covariance) 공분산은 어떤 두 가지 변수(x, y)가 변하는 정도를 수로 나타낸 것이다. 두 변수 간의 관계를 측정하는 지표라고 볼 수 있는데 분산과 마찬가지로 평균으로부터 얼마나 떨어져 있는지를 나타낸다. 공분산은 각 변수의 편차의 평균으로 정의된다. 간단히 말해, 두 변수가 함께 얼마나 변하는지를 나타낸다. 식에서 Con(X, Y)는 변수 X와 Y의 공분산을 나타내고 n은 관찰값의 개수이다. x와 y 두 개의 변수중 하나의 값이 상승하는 경향을 보일 때 다른 값도 상승하는 경향이 있다.. 2023. 6. 18. 기본 통계 개념 : 평균, 편차, 분산과 표준편차 평균, 편차, 분산, 표준편차는 데이터들을 나타낼 때 많이 쓰이는 통계적 개념이다. 데이터의 특성과 분포도를 파악하는데 중요한 기초적인 개념이므로 알아둘 필요가 있다. 평균(Average) 평균은 데이터 값들을 모두 더한 후 데이터 개수로 나누어 계산한다. 수식으로 나타내면 아래와 같이 나타낼 수 있다. 평균값 = 모든 데이터의 합 / 데이터의 개수 편차(deviation) 편차는 데이터 값이 평균으로부터 얼마나 떨어져 있는지를 나타낸다. 개별 데이터 값에서 평균을 뺀 값으로 계산한다. 어떤 데이터와 평균 간의 차이라고 볼 수 있다. 편차 = 데이터값 - 평균값 분산(Variance) 분산은 데이터가 평균으로부터 얼마나 퍼져 있는지 나타내는 산포도를 계산하는 방법이다. 분산 값이 작을수록 데이터가 평균에.. 2023. 6. 17. 리눅스 시스템 로그 분석/관리 리눅스 시스템에서 사용하는 서비스가 많아지고 규모가 커질 수록 예상치 못한 문제가 생기는 경우가 많다. 따라서 시스템 관리자라면 시스템의 로그가 어떤 식으로 기록되고, 활용해야할지 알 필요가 있다. 리눅스 시스템에는 사용자 로그인, 웹 서비스, 메일 등 모든 시스템 활동에 대한 로그를 기록하는 기능을 제공한다. 관리자는 이 로그에 대해 분석하고 시스템에서 발생하는 문제를 해결할 수 있다. 리눅스 시스템 로그 파일의 종류 리눅스에서는 /var/log 폴더에 시스템의 모든 로그를 기록/관리하고 있다. 시스템의 /etc/syslog.conf 파일에는 거의 대부분의 시스템 로그 파일들의 위치를 지정하고 있다. /var/log 폴더에 많은 파일들이 있는데 자주 쓰이는 몇가지를 추려보면 다음과 같다. index 종.. 2023. 6. 16. 이전 1 ··· 5 6 7 8 9 10 11 ··· 13 다음 반응형
