○ 프로젝트 개요

• 프로젝트 주제

  문장, 단어에 대한 정보를 통해 ,문장 속에서 단어 사이의 관계를 추론하는 Task

• 프로젝트 개요

  • 프로젝트 목표

    비구조적인 자연어 문장에서 구조적인 triple을 추출해 정보를 요약하고, 중요한 성분(관계 추출:Relation Extraction)을 파악하는 것.

  • 구현 내용

    • EDA
      • 데이터 특성 파악을 위한 EDA
      • 중복 및 오류 데이터 검출 및 수정 작업
      • Backtranslation을 통한 데이터 augmentation 시도
    • Data
      • 학습의 효율을 높이기 위해 논문(An Improved Baseline for Sentence-level Relation Extraction)의 내용을 적용하여 input 데이터의 Entity Representation에 Typed entity marker (punct) 적용
    • Model
      • "klue/roberta-large” 모델과 GRU, LSTM layer를 연결한 custom 모델을 생성
      • 생성 모델을 중 상위 모델을 이용하여 soft ensemble 구현

  • 교육 내용의 응용

    요약된 정보를 사용해 QA 시스템 구축 및 효율적인 시스템 및 서비스 구성이 가능

• 활용 장비 및 재료(개발 환경, 협업 tool 등)

  • 서버환경 : Ubuntu 18.04.5 LTS , GPUv100
  • 개발툴 : vscode, jupyter notebook
  • 협업툴 : Git, Github Project Slack, Zoom

• 프로젝트 File tree 및 Workflow

○ 프로젝트 팀 구성 및 역할

• 김남현(T3021) : EDA, 데이터 전처리, 데이터 교정을 위한 dataframe editing
• 민원식(T3079) : 데이터 분석(EDA) , 모델 성능 향상을 위한 튜닝 시도, 하이퍼 파라미터 튜닝을 위한 wandb 모니터링 툴을 이용.
• 전태양(T3194) : EDA, 성능 향상을 위한 모델 개선 강구
• 정기원(T3195) : EDA, 전처리, Data Augmentation, Baseline 코드 수정, 팀원 코드 병합
• 주정호(T3211) : 데이터 전처리, 모델 구현, 앙상블 구현
• 최지민(T3223) : EDA, Data Augmentation