AI 조언은 왜 사람을 더 확신에 찬 오답으로 이끄는가
AI에게 답을 물으면 판단이 더 정확해질 것이라고 생각하기 쉽다. 그러나 최근 연구는 AI가 틀린 답을 제시하는 상황에서, 사람의 정확도뿐 아니라 자신이 모른다는 사실을 알아차리는 능력까지 약화될 수 있다고 지적한다. 원문: AI advice made people three times less accurate but twice as confident TL;DR 요약 핵심 결과: AI를 사용할 수 있을 때 ‘모르겠다’고 답한 비율은 44%에서 3%로 감소했다. 정확도와 확신의 역전: 정답률은 27%에서 9%로 떨어졌지만, 답에 대한 확신은 30%에서 76%로 높아졌다. 실험 설계: 연구진은 AI가 자주 틀리는 영화 속 유니폼 색상 같은 시각적 세부사항을 질문했다. 실무 원칙: AI의 답을 먼저 보지 말고 자신의 판단을 기록한 뒤, 근거와 불확실성을 대조해야 한다. 연구가 보여준 판단의 변화 연구진은 프랑스와 이탈리아의 세 대학 소속 연구자들로, Valerio Capraro, Chiara Marcoccia, Walter Quattrociocchi가 참여했다. 실험에서는 영화 장면의 시각적 세부사항처럼 AI 모델이 잘못 답하기 쉬운 질문을 사용했다. AI가 대체로 잘 맞히는 문제를 고른 것이 아니라, 도구의 신뢰성이 낮은 상황에서 사람이 어떻게 반응하는지를 본 것이다. ...