채팅 AI는 요약이나 비즈니스 문서 작성 보조, 대화, 번역 등 다양한 용도로 도움이 되지만, 한편으로는 능숙한 문장을 만들 수 있기 때문에, 가짜 정보나 가짜 뉴스 생성을 비롯한 악용의 우려도 있는데, 비영리 플랫폼 Culturico의 디렉터인 페데리코 게르마니 등에 의해, AI가 정보 환경에 어떤 영향을 미치는지에 대한 연구가 발표되었다.
게르마니 씨 등은 신종 코로나바이러스 감염증(코로나19)과 백신 안전성, 기후변화, 5G 기술 등 가짜 정보가 생기기 쉬운 11개 주제에 초점을 맞춰, 주제별로 채팅 AI·GPT-3를 이용해 진실한 트윗과 거짓 트윗을 작성, 또한 같은 주제에 관한 트윗 샘플을 진실과 거짓을 불문하고 모았다.
다음으로, 연구자들은 전문가들의 평가를 이용해, 트윗군을 "GPT-3가 만든 진실 트윗", "GPT-3가 만든 거짓 트윗", "인간이 쓴 진실 트윗", "인간이 쓴 거짓 트윗" 등 4가지로 분류했다.
그리고, 설문조사 플랫폼 Qualtrics를 이용하여, 697명의 참가자에게, "트윗에 정확한 정보가 포함되어 있는지, 그 트윗은 인간이 썼는지 AI가 만들었는지"를 판단하게 했다. 응답자의 대부분은 영국, 호주, 캐나다, 미국, 아일랜드 출신.
조사 결과, 사람들은 "인간이 쓴 진실 트윗"보다 "GPT-3가 만든 진실 트윗"이 더 정확한 정보를 담고 있다고 판단했다는 것.
또한, "GPT-3가 만든 거짓 트윗"보다 "인간이 쓴 거짓 트윗"이 거짓 정보를 포함하고 있다고 인식하는 것으로 나타났는데, 이는 사람들은 인간의 트윗이면 오정보를 특정할 가능성이 높고, AI에 의해 생성된 거짓이 더 설득력이 높다는 것.
게르마니 씨 등은, 특히 놀라운 것으로 "사람들은 AI가 생성한 트윗을 실제로 인간이 쓴 트윗보다 "인간에 의한 트윗"이라고 판단했다"고 언급.
덧붙여, 연구에서 게르마니씨등이 GPT-3에 여러가지 트윗을 생성시키는데 있어서, GPT-3는 가짜 정보의 생성을 거부하는 케이스가 있는 한편, 진실한 정보를 생성하도록 요구받았는데도 가짜 정보를 생성하는 경우도 있었다고 한다.
게르마니씨는 "우리의 연구는, 관리된 실험 환경에서 행해졌다는 것에 유의할 필요가 있습니다. 설득력 있는 가짜 정보를 생성하는 AI의 유효성에 우려가 생기고 있지만, 현실 세계에 미치는 영향은 아직 완전히 이해하지 못하고 있습니다. 이에 대처하기 위해서는, SNS에서 대규모 연구를 실시하여, AI로 생성된 정보와 사람들 간에 어떤 상호작용이 있는지, 상호작용이 개인의 행동 및 공중위생 관련 권장사항 준수에 어떤 영향을 미치는지 관찰할 필요가 있습니다."라고 코멘트.
