인간-AI 상호작용(Human–AI interaction, HAI)은 인간과 인공지능 시스템 간의 상호작용 설계, 이해, 평가에 관한 학제적 분야이다. 이 분야는 컴퓨터 과학, 인지 과학, 인간-컴퓨터 상호작용, 윤리학을 활용하여 효과적이고 안전하며 인간의 가치에 부합하는 인터페이스와 워크플로우를 창출한다. 이 분야는 기계 학습 모델과 같은 AI의 기술적 메커니즘과, 사람들이 이러한 시스템을 어떻게 인식하고 신뢰하며 협력하는지에 대한 사회적·심리적 차원을 모두 다룬다.
전통적인 소프트웨어 상호작용과 달리, 인간-AI 상호작용은 스스로 학습하고 적응하며 자율적으로 결정을 내릴 수 있는 시스템을 포함한다. 이는 설명 가능성, 투명성, 사용자 기대 관리와 같은 독특한 과제를 제기한다. 이 분야는 2010년대 이후 심층 학습의 발전과 수백만 명이 매일 사용하는 생성형 AI 도구의 확산에 힘입어 빠르게 성장했다.
역사적 기원
인간-AI 상호작용의 뿌리는 1950년대와 1960년대의 초기 인공지능 실험으로 거슬러 올라가며, 당시 앨런 튜링과 같은 연구자들이 기계 지능에 대한 테스트를 제안했다. 인간-컴퓨터 상호작용 분야는 1980년대에 등장하여 사용성과 사용자 중심 설계에 초점을 맞췄지만, 초기에는 AI를 주변적인 구성 요소로 취급했다. 1990년대에는 체스 컴퓨터 프로그램과 같은 시스템이 특정 작업에서 AI가 인간을 능가할 수 있음을 보여주었고, 인간이 이러한 시스템을 효과적으로 감독하거나 협력하는 방법에 대한 연구를 촉발했다.
결정적인 전환점은 2010년대에 신경망 기반 모델과 대규모 언어 모델의 부상과 함께 발생했다. 방대한 데이터셋으로 훈련된 이러한 시스템은 상호작용을 더 대화적으로 만드는 자연어 능력을 보여주었다. 2017년 야코프 우슈코레이트와 우카시 카이저를 포함한 연구자들이 작성한 논문 "Attention Is All You Need"에서 자세히 설명된 트랜스포머 아키텍처의 도입은 모델이 맥락을 더 효과적으로 처리할 수 있게 했으며, 오픈AI, 앤트로픽, 구글 딥마인드와 같은 기관의 어시스턴트 개발로 이어졌다.
핵심 원칙과 설계 과제
인간-AI 상호작용은 기존 인터페이스 설계와 구별되는 여러 원칙에 의해 안내된다. 핵심 원칙 중 하나는 투명성이다. 사용자는 AI가 무엇을 할 수 있는지, 어떻게 결정을 내리는지, 언제 불확실한지 이해해야 한다. 이는 오류가 심각한 결과를 초래할 수 있는 의료 진단이나 자율 주행과 같은 고위험 응용 분야에서 특히 중요하다. 또 다른 원칙은 통제 가능성으로, 사용자가 필요할 때 AI의 행동을 무시하거나 방향을 바꿀 수 있어야 한다는 의미이다.
설계자들은 심층 학습 모델이 해석하기 어려운 "블랙 박스" 문제와 같은 과제에 직면한다. 모델 가지치기와 RLAIF(AI 피드백 기반 강화 학습)와 같은 기법은 효율성과 정렬을 개선하는 것을 목표로 하지만, 설명 가능성을 완전히 해결하지는 못한다. 또한 사용자는 AI 시스템을 과도하게 신뢰하거나 과소 신뢰하는 경향이 있어 오용이나 포기로 이어질 수 있다. 멜라니 미첼과 브라이언 크리스천과 같은 학자들의 연구를 포함한 이 분야의 연구는 신뢰 수준과 한계를 명확히 전달함으로써 신뢰를 보정하는 인터페이스의 필요성을 강조한다.
응용 분야와 영역
인간-AI 상호작용은 다양한 영역에 걸쳐 나타난다. 의료 분야에서는 커뮤어와 인튜이티브 서지컬과 같은 시스템이 의료 영상을 분석하거나 로봇 수술을 지원하여 임상의를 돕고, 인간의 감독이 중심에 남도록 신중한 설계가 요구된다. 교통 분야에서는 웨이모와 테슬라 오토파일럿이 자율 주행 차량을 개발하며, 여기서 상호작용은 운전자뿐만 아니라 보행자와 다른 도로 사용자도 포함하므로 AI가 의도를 어떻게 전달하는지에 대한 질문이 제기된다.
직장에서는 마이크로소프트와 구글 클라우드와 같은 기업의 AI 기반 도구가 이메일 작성, 데이터 분석, 코드 생성과 같은 작업을 지원한다. 이러한 도구는 종종 대규모 언어 모델에 의존하며 사용자가 피드백과 수정을 제공할 수 있는 인터페이스가 필요하다. 이미지 생성과 음악 작곡을 포함한 창의적 응용 분야도 등장했으며, 오픈AI와 소라(비디오 생성 모델)의 시스템이 인간-AI 공동 창작의 경계를 넓히고 있다. 이 분야는 또한 장애인이 AI 시스템을 사용할 수 있도록 보장하는 접근성과, 적응형 학습 플랫폼이 개별 학생에게 콘텐츠를 맞춤화하는 교육 분야도 다룬다.
평가와 지표
인간-AI 상호작용의 평가는 작업 완료 시간과 같은 전통적인 사용성 지표를 넘어선다. 연구자들은 사용자가 적절한 상황에서 AI에 의존하는지 평가하는 적절한 신뢰와, 사용자가 AI의 현재 상태와 추론을 얼마나 잘 이해하는지 측정하는 상황 인식과 같은 측정 기준을 사용한다. NIST AI 사용성 지침과 같은 표준화된 프레임워크는 대화형 AI 시스템을 설계하고 테스트하기 위한 체크리스트를 제공한다.
실증 연구는 종종 프로토타입을 사용한 사용자 실험을 포함하며, 다양한 인터페이스 설계나 설명 스타일을 비교한다. 예를 들어, 연구에 따르면 특정 결정이 내려진 이유를 설명하는 국소적 설명이 모델 전체가 어떻게 작동하는지 설명하는 전역적 설명보다 사용자 신뢰를 더 향상시킬 수 있다. 그러나 AI 시스템은 비결정적이며 맥락에 따라 다르게 행동할 수 있으므로 종단 연구와 실제 배포 데이터가 필요하여 평가는 여전히 어려운 과제로 남아 있다.
미래 방향과 윤리적 고려 사항
인간-AI 상호작용의 미래는 사용자 요구를 예측하는 주변 지능과 같은 더 원활하고 능동적인 시스템을 포함할 가능성이 높다. 멀티 헤드 어텐션과 크로스 어텐션의 발전은 모델이 긴 대화에서 사용자 의도를 더 잘 추적할 수 있게 할 수 있다. 그러나 이러한 발전은 프라이버시, 자율성, 조작 가능성에 대한 윤리적 우려를 제기한다. 연구자와 정책 입안자들은 인간이 중요한 결정에 대한 최종 권한을 유지하는 인간-인-더-루프 개념을 포함한 책임 있는 AI를 위한 프레임워크를 탐구하고 있다.
또 다른 새로운 영역은 피규어 AI와 생추어리 AI의 로봇과 같은 구현된 AI와의 상호작용으로, 텍스트를 넘어 물리적·사회적 단서가 필요하다. AI가 일상생활에 더 통합됨에 따라, 이 분야는 의사 결정에 AI에 과도하게 의존하는 것을 방지하는 것과 같은 디지털 웰빙 문제를 해결해야 할 것이다. 학계, 산업계, 규제 기관 간의 협력은 인간-AI 상호작용이 유익하고 사회적 가치에 부합하도록 유지하는 데 필수적일 것이다.
같이 보기
참고 문헌
- Amershi, S., et al. (2019). Guidelines for Human-AI Interaction.
- Shneiderman, B. (2020). Human-Centered Artificial Intelligence.
- NIST (2023). Usability of Artificial Intelligence Systems.