꾸준하게

ICLR 2024 Conference [github] [paper]Daixuan Cheng, Yuxian Gu, Shaohan Huang, Junyu Bi, Minlie Huang, Furu WeiMicrosoft Research | Tsinghua UniversitySubmitted on 6 Jun 2024 AbstractLM 모델들이 비지도학습만으로 좋은 성능을 내고있으며, 사후 학습으로 지도학습(SFT, Instruction Tuning)을 통해 생성 능력을 더 높힐 수 있다. 저자는 Instruction Pre-Training이라는 supervised multitask pre-training을 제안하였는데 이는, instruction-response 페어 형태의 거대한 raw corpora를 통해..

arXiv 2024 [paper]Hadi Pouransari, Chun-Liang Li, Jen-Hao Rick Chang, Pavan Kumar Anasosalu Vasu, Cem Koc, Vaishaal Shankar, Oncel TuzelApplesubmitted on 21 May 2024  Abstract본 논문에서는 고정된 길이의 토큰 시퀀스로 구성된 데이터셋을 사용하는 기존 방식의 한계를 지적하며, 이를 해결하기 위해 '데이터셋 분해'라는 새로운 가변 시퀀스 길이 학습 기법을 제안하였다. 기존 방법은 다양한 길이의 문서를 무작위로 연결한 후 고정된 길이로 잘라내는 방식인데, 이로 인해 시퀀스 내에서 문서 간 attention이 발생하는 비효율성과 계산 비용이 증가하는 문제가 있다. 특히 긴 시..

arXiv 2023 [paper] [code] [sample]Flavio Schneider, Ojasv Kamal, Zhijing Jin, Bernhard SchölkopfETH Zürich | IIT Kharagpur | MPI for Intelligent Systems & ETH Zürich | MPI for Intelligent Systemssubmitted on 27 Jan 2023 (v1)last revised 23 Oct 2023 (v3) Abstract최근 텍스트 분야의 거대 생성모델이 급격히 개발이 되었지만 텍스트와 음악을 연결 짓는 연구가 아직은 부족한 편이다. 저자는 텍스트를 입력으로 하여 긴 길이의 음악도 생성할 수 있는 text-to-music 생성 모델 Moûsai을 제안하였다. ..

CVPR 2023 [paper] [code]Wenhai Wang, Jifeng Dai, Zhe Chen, Zhenhang Huang, Zhiqi Li, Xizhou Zhu, Xiaowei Hu, Tong Lu, Lewei Lu, Hongsheng Li, Xiaogang Wang, Yu QiaoShanghai AI Laboratory | Tsinghua University | Nanjing University | SenseTime Research | The Chinese University of Hong KongSubmitted on 10 Nov 2022last revised 17 Apr 2023 (v4) Abstract저자는 근래 나온 ViT 모델과 달리 CNN은 아직 초기 상태에 머물러 있다고 주장하며..

NIPS 2023 paper code demo pageDavid Mizrahi, Roman Bachmann, Oğuzhan Fatih Kar, Teresa Yeo, Mingfei Gao, Afshin Dehghan, Amir ZamirGoogleSubmitted on 11 Dec 2023  Abstract현재 Vision AI 모델들은 극히 하나의 모달리티와 태스크에 특화된 모습을 보이고있다. 반면 최근 유행하는 LLM은 굉장히 넓은 범위의 능력을 갖고있다. 이는 Vision AI 분야에서도 유사하게 가능성이 있음을 암시한다. 본 연구에서는 멀티 모달 학습 전략인 일명 '4M'을 선보인다. 이는 text, images, geometric, semantic 모달리티는 물론 feature map을 포함하는 ..

" data-ke-type="html">HTML 삽입미리보기할 수 없는 소스arXiv paper code page demoYupeng Zhou, Daquan Zhou, Ming-Ming Cheng, Jiashi Feng, Qibin HouNankai University, ByteDance Inc., Nankai International Advanced Research Institute2 May 2024Abstract최근 Diffusion 기반 모델은 연속 시퀀스로 생성되는 이미지의 특정 요소를 유지하거나 복잡한 요소를 생성하는 것은 도전과제로 남아있다. 이를 해결하기 위해 본 논문에서는 새로운 self-attention 계산식인 Consistent Self-Attention을 제안하였다. 이는 생성된 이..

" data-ke-type="html">HTML 삽입미리보기할 수 없는 소스arXiv paper code(unofficial) page huggingfaceOmri Avrahami, Amir Hertz, Yael Vinker, Moab Arar, Shlomi Fruchter, Ohad Fried, Daniel Cohen-Or, Dani LischinskiThe Hebrew University of Jerusalem, Google Research, Tel Aviv University, Reichman UniversitySubbmitted on 16 Nov 2023 (v1)Last revised 5 Jun 2024 (v4)Abstract최근 T2I 생성 모델이 창작 활동에 많이 사용되고 있지만 일관된 캐릭터..

" data-ke-type="html">HTML 삽입미리보기할 수 없는 소스ICLR 2021 (Oral) paper code Alexey Dosovitskiy, Lucas Beyer, Alexander Kolesnikov, Dirk Weissenborn, Xiaohua Zhai, Thomas Unterthiner, Mostafa Dehghani, Matthias Minderer, Georg Heigold, Sylvain Gelly, Jakob Uszkoreit, Neil HoulsbyGoogle Research, Brain Team 22 Oct 2020 (v1), 3 Jun 2021 (v2)Abstract주로 CNN을 이용해서 Vision Task를 해결하던 중 처음으로 Transformer를 이용한 논..