C'est La vie 2회 온라인 모임 | 한국인공지능연구소

시간 : 3월 19일 21:00~00:00(3시간 / 구글 행아웃)

참석인원 : 황명규, 조복례, 지승훈, 이준호 연구원 (이우관 연구원 독감으로 인한 휴식)

활동 내용

https://github.com/google-research/bert Git 참고해서 구글 버트에 대한 내용 확인

BERT-Base, Multilingual Cased: 104 languages, 12-layer, 768-hidden, 12-heads, 110M parameters
Microsoft Research Paraphrase Corpus (MRPC) 가지고 Fine-Tuning 시도(황명규 연구원 8코어 CPU환경 )
Bert model input에 대한 확인(Input text & Context)
Bert model 구조 설명 (이준호 연구원 Tokenize 단계, Input 단계)
로컬에서 Bert-chat model 파라미터 조정을 통해 Run(조복례 연구원)

활동 계획

다음 모임 : 3월 23일 12:00~ (인공지능 연구소 합정 공간)

다음 모임에서 bert model의 run_classifier 구조 분석