결혼박람회 생성형 인공지능(AI) 기술이 발전하면서 여론 조작의 위험성도 그만큼 커지고 있다. 생성형 AI를 이용하면 몇 시간 만에 댓글 수십만 개를 자동 생성할 수 있는데, 마치 그게 여론인 것처럼 보일 수 있기 때문이다.
김용대 KAIST 전기및전자공학부 교수 연구팀이 국가보안기술연구소와 함께 한국어 AI 생성 댓글을 탐지하는 기술을 세계 최초로 개발했다.
생성형 AI를 이용해 뉴스 포털에 수십만 개 댓글을 다는 데는 몇 시간이면 충분하다. 챗GPT-4o를 기준으로 비용도 댓글 1개당 1원 정도밖에 들지 않는다. 국내 최대 뉴스 플랫폼인 네이버의 하루 평균 댓글 수가 20만개가량인데, 단 20만원이면 전체 댓글을 만들어낼 수 있는 것이다.
그러나 지금까지 AI가 작성한 댓글과 사람이 작성한 댓글을 구분하는 일은 사람에게도 매우 어렵다. 연구진이 사람에게 총 210개의 댓글을 평가하게 하자, AI가 쓴 댓글의 67%를 사람이 작성한 것으로 착각했다..
