PTM2 [논문 리뷰] Pre-trained Models for Natural Language Processing: A Survey(2020) [2] 논문명: Pre-trained Models for Natural Language Processing: A Survey저자: Xipeng Qiu, Tianxiang Sun, Yige Xu, Yunfan Shao, Ning Dai & Xuanjing Huang출간지: SCIENCE CHINA Technological Sciences발간일: 23 Jun 2021 PTM model에 대한 survey 논문 두번째 리뷰 포스팅이다. 이전 포스팅은 아래 링크를 남겨두었다.PTM에 대한 개념이 정리되어 있지 않다면 아래의 글을 읽고오는 것을 추천한다. 2024.08.22 - [AI/Deep Learning] - [Deep Learning] Pre-training이란?(Transfer Learning, Fine tun.. 2024. 8. 23. [논문 리뷰] Pre-trained Models for Natural Language Processing: A Survey(2020) [1] 논문명: Pre-trained Models for Natural Language Processing: A Survey저자: Xipeng Qiu, Tianxiang Sun, Yige Xu, Yunfan Shao, Ning Dai & Xuanjing Huang 출간지: SCIENCE CHINA Technological Sciences 발간일: 23 Jun 2021 NLP 모델을 공부하면서 Pre-trained 모델 논문을 읽어보기 이전, 관련한 survey paper를 읽고서 공부하는 것이 더 좋을것이라 판단이 되어 해당 논문을 리뷰하게 되었다. 본 포스팅에서는 NLP의 발전 과정과 PMT에 대한 간략한 소개 위주로 진행 된다. 입문하는 사람들이 읽기에 좋은 논문이라고 생각한다. Survey 논문인 만큼 내.. 2024. 8. 16. 이전 1 다음