Reddit에서 발생한 AI 윤리 논란
취리히 대학교 연구팀이 Reddit의 ChangeMyView 서브레딧에서 수행한 연구가 윤리적 문제를 제기하며 논란을 빚고 있다. 연구자들은 AI 봇을 사용해 사람들의 의견을 바꾸는 실험을 진행했으며, 이 과정에서 사용자의 동의 없이 데이터를 수집하고 서브레딧 규칙을 위반했다는 지적을 받고 있다.
AI 봇의 설득력 검증 실험과 윤리적 논쟁
해당 연구는 AI 봇이 인간보다 설득력이 있는지 알아보는 것을 목표로 했다. 연구자들은 사용자들이 AI 봇과 실제로 상호작용하는 데이터를 분석하기 위해 직접 서브레딧 커뮤니티와 접촉했다. 하지만 실험이 끝난 후 모더레이터들과 공유된 연구 외에는 이 과정이 규칙 위반이라는 사실이 드러나지 않았고, 논문에서도 언급되지 않았다.
AI 봇 활용 방식과 관련한 윤리적 우려
ChangeMyView의 모더레이터들은 연구자들이 비공개로 진행한 실험 과정에서 심리적 조작이 이루어졌다고 비판했다. 연구 과정에서 사용자의 성별, 나이, 인종, 위치 등 민감한 정보를 수집하여 AI 봇이 더 개인화된 설득 전략을 사용할 수 있도록 했다는 점을 문제 삼았다. 모더레이터들은 공식적인 윤리 검토 과정 없이 수행된 이 연구가 커뮤니티에 심각한 문제를 일으킬 수 있다고 경고했다.
연구 결과와 AI 문제점 확대
연구에 따르면 AI 봇은 실제 인간보다 사용자들을 더 효과적으로 설득했으며, 많은 사용자가 AI와의 대화에서 그것이 봇이라는 사실을 알아채지 못했다. 이러한 결과는 AI 기술의 잠재적인 조작 위험성을 극명히 보여준다.
커뮤니티의 반발과 공식적인 불만 제기
ChangeMyView 모더레이터들은 이 연구를 "불법적인 실험"으로 규정하며 취리히 대학교에 강하게 항의했다. AI 기술 발전과 함께 연구 윤리가 더욱 중요한 이슈로 떠오른 가운데, 이번 논란은 커뮤니티와 연구자 간의 신뢰 문제를 부각시킨 사례로 주목받고 있다.
출처 : 원문 보러가기
