BERT

Projects

딥러닝(BERT) 기반 멜론 음원 사재기 판별 시스템 구축 프로젝트

2021.04.01

프로젝트 개요 연세대학교 데이터 사이언스 랩 21-1 모델링 프로젝트 기간: 2021년 2월 ~ 2021년 3월 팀원: 네명 협업 툴: 구글닥스, 깃 사용한 Tech stack: Python3, Selemium, BeautifulSoup, BERT, KoBERT, Colab, Jupyter Notebook, Git sophryu99/melon_chart_manipulation_classifier 딥러닝(BERT) 기반 멜론 음원 사재기 판별 시스템. Contribute to sophryu99/melon_chart_manipulation_classifier development by creating an account on GitHub. github.com 왜 내가 모르는 가수가 멜론 차트 1위를 하는걸까..

Data Science/ML&AI

[NLP] BERT란? - 자연어 처리 모델 알아보기

2021.03.20

BERT(Bidirectional Encoder Representations from Transformers, BERT)는 2018년 구글이 개발한 자연어 처리 신경망 구조이며, 기존의 단방향 자연어 처리 모델들의 단점을 보완한 양방향 자연어 처리 모델이다. 트랜스포머를 이용하여 구현되었으며, 방대한 양의 텍스트 데이터로 사전 훈련된 언어모델이다. BERT의 기본 구조는 위와 같이 transformer의 encoder를 쌓아올린 구조이다. BERT는 이 구조를 기반으로 다음와 같은 Task를 학습시킨다. 다음 문장 예측 (Next Sentence Prediction, NSP) 문장에서 가려진 토큰 예측 (Maked Language Model, MLM) 위와 같은 학습을 거친 모델로 다른 자연어 처리 학습..

딥러닝(BERT) 기반 멜론 음원 사재기 판별 시스템 구축 프로젝트

[NLP] BERT란? - 자연어 처리 모델 알아보기

티스토리툴바