[ Ongoing Projects ]

Ongoing Projects

  • 프로젝트 명

    Generative AI에 대한 BERT 기반 텍스트 생성 판별 기법 연구

  • 분야

    AI 챗봇 사용자 증가
    • - RK 인베스트에 따르면, ChatGPT는 출시 40일 만에 하루 이용자수가 1천만명, 전체 이용자 수 1억명을 가장 빠르게 확보한 애플리케이션임
    • - - 마이크로소프트 공식블로그에 따르면, Ai 채팅기능을 넣어 출시한 빙 일일 활성 사용자 수는 1억명을 돌파했다고 3월 8일 공식블로그에서 밝힘
    ChatGPT를 사용한 논문 표절 검사 어려움
    • - 네이처, 사이언스 등 학술지에서는 AI를 저자로 인정하지 않겠다는 입장을 발표하였음
    • - - OpenAI에서 개발한 인공지능이 작성한 텍스트를 식별하는 분류기는 26%의 정확도를 보임
    • - 대상 문장이 충분히 길지 않으면 적발과 판단이 어려우며, 작성자가 문장을 덧붙이거나 풀어서 쓸 경우 탐지와 판단은 더욱 어려워짐
    • - - ChatGPT로 작성한 글인지, 사람이 쓴 글인지 구별하는 시스템의 설계가 필요

  • 연구내용

    생성 AI 모델이 생성한 텍스트를 구분하는 시스템을 설계 및 연구

    AI모델이 자주 사용하는 특정 문자에 대한 비율 연구
    AI 모델이 예측한 단어에 대한 유사도, 엔트로피 분포를 통해 AI 모델이 생성한 텍스트 여부를 판별하는 시스템 연구 및 설계
    신규 취약점 발생에 대한 유기적 대응 및 보안 가이드라인 설정