[ Completed Projects ]

Completed Projects

  • 프로젝트 명

    메타버스 플랫폼 환경에서 인공지능 기반의 음성 분석을 통한 혐오 표현 탐지 시스템

  • 분야

    메타버스 내 음성 기반 혐오 표현 탐지 기술의 부재와 시장 요구
    • - 기존 메타버스 플랫폼에서 제공되는 혐오 표현 감지 방안은 주로 텍스트 기반 감지에 치중되어, 실시간 음성 대화가 주를 이루는 가상 공간의 특성을 반영하지 못함
    • - 음성 데이터를 직접 분석하여 혐오 표현을 탐지하는 체계적인 방법이 마련되어 있지 않아 이에 대한 탐지 기술이 요구됨
    가상 공간 내 사회적 갈등 심화 및 청소년 보호의 필요성
    • - 메타버스 이용자 중 높은 비중을 차지하는 청소년들이 익명성을 악용한 성 양극화 및 언어폭력 등 혐오 표현에 노출되는 상황이 지속적으로 발생함
    • - 가상 세계 내에서의 사회적 문제를 근절하고 이용자가 안전하게 소통할 수 있는 건전한 플랫폼 환경을 조성하기 위한 자정 시스템의 도입이 요구됨

  • 연구내용

    음성 데이터 감성 분석 모델 개발
    • - 메타버스 사용자 음성 대화 데이터를 수집 및 레이블링하고, Mel-spectrogram과 MFCC 특징을 추출하여 CNN 기반 감성 분석 모델을 구현함
    • - 음성의 감정 상태를 긍정·부정 기준으로 분류할 수 있도록 설계하고, 앙상블 기법을 적용하여 분류 성능 개선 여부를 검증함
    텍스트 혐오 표현 탐지 모델 개발
    • - 음성을 텍스트로 변환한 뒤 형태소 분석, 불용어 제거, 정수 인코딩, 패딩 등의 전처리를 수행하고, BiLSTM 기반 혐오 표현 탐지 모델을 구현함
    • - 기존 LSTM 모델과 비교하여 문맥 반영 성능과 탐지 정확도를 검증함
    음성·텍스트 결합형 혐오 표현 탐지 시스템 구축
    • - 음성 감성 분석과 텍스트 혐오 표현 탐지 결과를 결합하여 최종 혐오 표현 여부를 판별하는 시스템을 구현함
    • - 실제 메타버스 환경 데이터를 활용한 테스트와 하이퍼파라미터 조정을 통해 시스템의 정확도와 적용 가능성을 검증함

    [그림 1]은 WASM 기반 인물 식별 및 자동 워터마크 삽입 시스템 구조를 나타냄