일단 내가 이미 알고 있는 선에서 가장 대표적인 멀티모달은 CLIP이다.  졸업하고 빨리 입사하여 멀티모달 부분을 연구 개발하고 싶었는데 취업이 2년이나 길어졌다. 더 이상 채용과정(코테, 인적성, 면접) 공부 준비만 할 수는 없다.  멀티모달 공부를 하자. AutoGluon이라는게 있더라, 알아보자. 아래 링크는 데모 실현 영상이다.https://www.youtube.com/watch?v=9JUK7oRV2RY MONAI라는 라이브러리도 있더라https://jedemanfangwohnteinzauberinne.tistory.com/13 CVPR2024에 의료 이미지와 tabular 데이터를 이용한 멀티모달 논문도 있다. https://github.com/paulhager/MMCL-Tabular-Imagi..

문제집: https://www.acmicpc.net/workbook/by/BaaaaaaaaaaarkingDog  백준 문제https://www.acmicpc.net/problem/11659 문제수 N개가 주어졌을 때, i번째 수부터 j번째 수까지 합을 구하는 프로그램을 작성하시오.입력첫째 줄에 수의 개수 N과 합을 구해야 하는 횟수 M이 주어진다. 둘째 줄에는 N개의 수가 주어진다. 수는 1,000보다 작거나 같은 자연수이다. 셋째 줄부터 M개의 줄에는 합을 구해야 하는 구간 i와 j가 주어진다.출력총 M개의 줄에 입력으로 주어진 i번째 수부터 j번째 수까지 합을 출력한다.제한1 ≤ N ≤ 100,0001 ≤ M ≤ 100,0001 ≤ i ≤ j ≤ N예제 입력 1 5 35 4 3 2 11 32 45 5..

문제집: https://www.acmicpc.net/workbook/by/BaaaaaaaaaaarkingDog   https://www.acmicpc.net/problem/11726   문제2×n 크기의 직사각형을 1×2, 2×1 타일로 채우는 방법의 수를 구하는 프로그램을 작성하시오.아래 그림은 2×5 크기의 직사각형을 채운 한 가지 방법의 예이다. 입력첫째 줄에 n이 주어진다. (1 ≤ n ≤ 1,000) 출력첫째 줄에 2×n 크기의 직사각형을 채우는 방법의 수를 10,007로 나눈 나머지를 출력한다.   예제 입력 1 2 예제 출력 12 예제 입력 2 9 예제 출력 2 55  import sys if __name__=="__main__": N=int(input()) dp = [0]*(N+..

연산 최적화와 달리 모델 경량화는 학습 과정에서 이루어진다.모델을 경량화하여 학습시킬 경우, GPU resource, 메모리 등의 측면에서 이점이 있기 때문에 최근 많이 연구되고 있다.모델 경량화에는 크게 세가지 방법이 있다.  Pruning (가지치기)신경망 학습에서 중요도가 떨어지는 node를 제거하고 재학습하는 과정을 반복하여 모델의 크기를 줄여나가는 방식이 방식을 통해, Deep Compression (2015) 논문에서는 VGG-16 model을 약 49배 경량화 하였으며, Clip-q (2018)에서는 ResNet-50 model을 약 15배 경량화하였다고 한다.Knowledge Distillation (지식 증류)학습이 잘된 큰 딥러닝 모델(Teacher model)의 지식을 학습되지 않은 ..

treamlit 에서 st.file_uploader( ) 를 활용할 때, 아래와 같이 403 에러가 발생하면서 업로드가 되지 않은 경우가 있습니다. ​아이피 주소를 그대로 입력해서 들어간 경우라면 괜찮은데, redirection 등을 이용해 URL 을 변경해서 들어간 경우(클라우드 서버 플래폼을 활용한 경우 등)에러가 발생하네요. ​ AxiosError: Request failed with status code 403  현재 프로젝트 폴더 안에 .strreamlit 폴더를 만든다. (폴더명 앞에 .(점)을 붙여서 폴더명을 만든다.)폴더 안에 config.toml 파일을 만든다.  .streamlit/config.toml 파일에 아래 내용을 추가하면 오류가 해결된다.  [server]enableXsrfPr..

SNN(Spiking Neural Network)에서 역전파(Backpropagation)가 어려운 이유는 스파이크 신호가 불연속적이고 비미분적이기 때문 기존 인공신경망(ANN)에서는 연속적인 실수 값이 사용되므로, 역전파 알고리즘이 기울기 정보를 쉽게 계산하고 업데이트할 수 있었음  반면, SNN에서는 뉴런이 특정 임계값을 넘을 때만 **스파이크(0 또는 1)**를 발생시키므로, 이 과정에서 미분 가능한 정보가 부족하게 됨  이 때문에 SNN에서 역전파를 사용하는 것이 어려워, 초기에는 주로 얕은 레이어를 쌓거나 간단한 구조가 주로 연구되었음  최근 연구들은 몇 가지 핵심 기술을 통해 SNN에서 깊은 레이어를 사용하거나 Transformer와 같은 복잡한 구조를 적용하는 것이 가능해짐   1. Surr..