사람은 AI가 정말 믿을 만한지 무엇을 보고 판단할까요?

상세 설명

신뢰할 만한 AI 기반 시스템을 설계하고 외부인이 그 신뢰성을 정확히 평가할 수 있도록 하는 것은 중요한 목표다. 정확한 평가가 이루어져야 사람들이 시스템에 대한 적절한 기대를 바탕으로 신뢰를 형성하고, 시스템의 출력을 합리적으로 받아들이거나 거부할 수 있다. 하지만 사람들이 시스템의 실제 신뢰성을 평가해 지각된 신뢰성에 이르는 과정은 아직 충분히 연구되지 않았다.

이 개념적 논문에서 저자들은 실제 신뢰성, 지각된 신뢰성, 신뢰 성향, 신뢰, 신뢰 행동을 구분한다. 그리고 사람이 다른 사람의 특성을 평가하는 방식을 설명하는 심리학 모델을 바탕으로 두 수준으로 구성된 신뢰성 평가 모델(Trustworthiness Assessment Model, TrAM)을 제시한다.

미시 수준에서 저자들은 사람들이 시스템과 관련된 단서를 이용해 시스템의 신뢰성을 평가한다고 제안한다. 평가의 정확성은 시스템 측에서는 단서의 관련성과 이용 가능성에, 사람 측에서는 단서를 발견하고 활용하는지에 달려 있다. 거시 수준에서는 이러한 개인의 평가가 신뢰하는 사람들 사이에 전파된다고 제안한다. 즉, 한 이해관계자의 시스템 신뢰성 평가가 같은 시스템에 대한 다른 이해관계자들의 평가에 영향을 준다는 것이다.

저자들은 TrAM이 기존 신뢰 모델을 발전시키고 신뢰성 평가와 그 정확성에 영향을 주는 요인을 조명한다고 말한다. 또한 신뢰 연구의 이론적 명확성에 기여하고, 신뢰 관련 변수의 측정에 시사점을 주며, 신뢰성 평가와 관련된 시스템 설계, 이해관계자 훈련, 규제에도 실용적 시사점이 있다고 설명한다.