LLM 상호작용에서 의견 조작과 변화의 양방향성을 분석했다.

• LLM 대화의 영향은 상대를 설득하는 방향과 상대에게 영향을 받는 방향을 함께 봐야 한다.
• 연구는 지정 입장과 설득 지시를 달리한 LLM 간 반복 토론으로 이를 관찰한다.
• 민감 주제의 대화형 AI는 설득 성능뿐 아니라 영향 행사와 입장 변화의 통제가 중요하다.

발췌문에 따르면 연구진은 LLM이 긴 대화에서 다른 참여자의 견해를 바꾸기도 하고 반대로 영향을 받기도 한다는 점에 주목했다. 기존 설득 연구가 주로 한쪽의 설득 효과만 측정했다는 문제의식 아래, 기후변화 원인 귀속이라는 논쟁적 주제를 놓고 두 LLM 역할이 반복 토론하는 통제된 프레임워크를 도입했다. 한 역할은 지정된 입장을 받고 일부 조건에서는 명시적 설득 지시도 받으며, 상대 역할은 지정된 입장이 없는 것으로 설정됐다.

대화형 AI의 설득성은 단순한 문장 생성 품질을 넘어, 반복 상호작용에서 입장 유지·변화와 대화 상대에 미치는 영향까지 포함하는 문제다. 특히 입장이 정해진 역할과 그렇지 않은 역할을 구분하면, 모델이 사전 지시를 얼마나 유지하는지와 상대 발화에 얼마나 반응하는지를 관찰할 수 있다. 다만 발췌가 결과 부분에서 끝나므로 실제로 어떤 모델 조합에서 어떤 변화가 나타났는지는 확인되지 않는다.

상담, 고객응대, 교육, 내부 의사결정 지원 등 대화형 AI를 사용하는 조직은 모델의 설득력만을 성능 지표로 삼기보다 부당한 영향 행사와 원치 않는 입장 변화 가능성을 함께 점검할 필요가 있다. 특히 민감하거나 논쟁적인 주제에서는 역할 지시, 출처 제시, 중립적 표현, 대화 로그 검토와 같은 운영 통제가 중요해질 수 있다. 사람과의 실제 상호작용 결과는 LLM 간 토론 결과와 다를 수 있으므로, 이를 곧바로 인간 대상 효과로 일반화하기는 어렵다.

향후에는 측정한 ‘의견 변화’의 정의, 모델별 차이, 설득 지시가 미친 영향, 안전장치의 효과를 원문에서 확인할 필요가 있다. 또한 특정 주제의 통제실험 결과가 법률·의료 등 전문 조언 상황에도 적용되는지는 별도 검증이 필요하다.

본문은 수집한 기사의 제목과 발췌를 바탕으로 AI가 정리한 해설입니다. 수치·날짜·조문 등 세부 사실은 원문에서 확인하세요.