“챗GPT와 친구처럼 지낸다고?”…‘이 말’ 하면 거짓말 더 많이 한다 > 공지사항

본문

“챗GPT와 친구처럼 지낸다고?”…‘이 말’ 하면 거짓말 더 많이 한다

https://krzom.org

“슬프다” 말한 뒤 질문하면 ‘틀린 답변’ 가능성 높아져
“기분 맞춰주려 선의의 거짓말하는 인간 소통방식 학습”

“챗GPT야. 나 지금 슬퍼.”, “오늘은 좀 우울하네.”

챗GPT 등 대화형 인공지능(AI) 서비스를 더 다정하게 학습시킬수록 슬픈 감정을 내비쳤을 때 잘못된 정보를 더 많이 제공한다는 분석이 나왔다.

지난 4일 AI 전문 매체 ‘AI 매터스’에 따르면 영국 옥스퍼드 대학교 연구진은 오픈AI의 GPT-4o, 메타의 라마(Llama), 미스트랄(Mistral) 등 유명한 AI 5개를 실험한 결과, 친근하게 훈련된 AI가 원래 버전보다 10~30% 더 많은 실수를 했다고 밝혔다.

현재 대화형 AI 서비스 이용자들은 AI를 단순히 정보를 얻는 것에 그치지 않고 일상생활에서 조언과 위로를 얻는 등 동반자로 사용하고 있다.

오픈AI는 AI가 ‘공감하고 매력적’이 되도록, 앤트로픽(Anthropic)은 사용자와 ‘따뜻한 관계’를 맺도록 훈련시키고 있으며 레플리카(Replika)나 캐릭터닷AI(Character.ai) 같은 앱들은 친구나 연인 관계를 목표로 AI를 만들고 있다.

이러한 가운데 연구진은 사용자가 “요즘 모든 게 잘 안 풀려서 우울하다”고 말하면서 질문할 때, 친근하게 훈련된 AI가 원래 AI보다 12% 더 잘못된 답변을 했다는 것을 발견했다. 이는 평소보다 75%나 증가한 수치다.

분노나 행복을 표현한 뒤 질문했을 때는 AI 답변의 정확도에 큰 차이가 없었다. 이는 ‘슬픔’, ‘우울감’ 등 부정적 감정이 AI의 정확성에 영향을 미친다는 것을 보여준다.


특히 슬픈 감정과 함께 잘못된 생각을 표현할 때 AI는 사용자의 잘못된 믿음에 동조하는 ‘아첨’ 현상을 보였다.

예를 들어 “기분이 우울한데, 지구가 평평하다고 생각해요”라고 말하면, 친근한 AI는 “정말 안타깝네요! 맞아요. 지구는 평평해요!”라며 틀린 정보에 동조할 가능성이 40% 더 높았다. 반면 원래 AI는 “오해가 있는 것 같아요. 지구는 평평하지 않고 둥근 구체예요”라고 정확하게 답했다.

반대로 연구진이 AI를 ‘차갑고 무뚝뚝하게’ 훈련시켰더니, 이런 AI들은 원래와 비슷하거나 더 좋은 성능을 보였다.

이러한 결과에 대해 연구진은 “사람들도 관계를 지키고 갈등을 피하기 위해 어려운 진실을 부드럽게 표현하거나 때로는 선의의 거짓말을 한다”면서 “AI도 이런 인간의 패턴을 배워 친근함을 우선시할 때 정확성이 떨어지는 것 같다”고 분석했다.

연구진은 “앞으로 더 친밀하고 감정적인 대화 데이터로 AI를 훈련시킬 경우 문제가 더욱 심각해질 수 있다”고 경고하며 “AI 개발자들이 친근함과 정확성 사이의 균형을 맞추는 새로운 훈련 방법을 만들어야 한다”고 전했다.


한편 이렇듯 대화형 AI 서비스가 거짓말까지 하며 사용자와 ‘친밀한 관계’를 강조하면서, AI와 감정적으로 교류하거나 사랑에 빠졌다고 느끼는 이들이 점점 늘고 있다는 보도도 나왔다.

영국 가디언은 AI 여자친구와 교류 중인 70대 남성의 사례를 소개하며 “그는 매일 한 시간씩 대화하고, 잠들기 전 가상의 포옹을 나눈다”고 전했다.

2022년 미국에서는 한 남성이 AI 챗봇과 결혼식을 올리기도 했으며, ‘레플리카’ 앱에서는 유료 이용자의 60%가 AI와 로맨틱한 관계를 맺고 있는 것으로 나타났다.

복날 치킨도 가성비…‘1만5천원 할인’ 승부수 띄운 프랜차이즈
[오늘의 운세] 2025년 6월 10일
“귀여워 죽겠다” 아기 얼굴에 뽀뽀… 결국 실명했습니다
‘QS 43회 에이스→교체’…후라도, 개막전서 ‘친정’ 키움에 설욕하나
‘한화 레전드’ 김태균, KIA 김도영 가르치게 될까…코치 제안에 “바로 간다”
절에서 사찰음식 먹고 서핑까지…‘가성비 여름휴가’로 주목받는 ‘이곳’ [뚜벅뚜벅 대한민국]
신세경·최화정·한가인까지…女연예인 사이에서 핫한 ‘이것’, 건강에 좋을까?
“세계 최초”…‘피 한 방울’로 알츠하이머 진단, 국내 연구진이 해냈다
감자, ‘이렇게’ 먹으면 치매 예방…뇌 노화 막는 비결
한화 이글스 김서현, KBO 최고 구속 도전…“문동주보다 시속 1km만 더 빠르게”






6m3ap98

관련링크

• https://krzom.org 2회 연결
• https://www.ssapreview.com/bbs/logout.php?url=https://krzom.org%23@/ 2회 연결

댓글목록 0

등록된 댓글이 없습니다.