인간 문제 해결은 개인이나 집단이 현재 상태와 목표 상태 사이의 차이를 인식하고, 그 차이를 줄이거나 제거하기 위한 일련의 연산을 설계하고 실행하는 인지 과정이다. 이는 일상적인 경로 계획부터 복잡한 과학적 발견에 이르기까지 지능의 기본적인 측면을 포괄한다. 인간 문제 해결에 대한 연구는 역사적으로 심리학과 인지 과학의 핵심 주제였으며, 연구자들이 이러한 과정을 기계에서 모델링하고 재현하려고 시도한 인공지능 분야의 기초적인 영감으로도 작용해 왔다.
20세기 중반의 초기 심리학 연구, 특히 Allen Newell과 Herbert Simon과 같은 인물들이 주도한 연구는 문제 해결을 문제 공간에 대한 탐색의 한 형태로 규정했다. 이 관점은 문제가 초기 상태, 목표 상태, 그리고 한 상태를 다른 상태로 변환하는 연산자들의 집합으로 구성된다고 보았다. 해결자의 임무는 이 공간에서 경로를 찾는 것이며, 종종 발견적 방법(heuristics) - 정신적 지름길 또는 경험 법칙 - 을 사용하여 탐색을 가지치기하고 처리 가능하게 만든다. 이 정보 처리 접근 방식은 인간의 발견적 탐색을 명시적으로 모방하려고 시도한 General Problem Solver와 같은 초기 AI 프로그램의 개발로 이어졌다.
발견적 방법과 편향
1970년대 심리학자 Daniel Kahneman과 Amos Tversky가 개척한 주요 연구 분야는 인간이 실제로 사용하는 발견적 방법에 초점을 맞추었으며, 이는 규범적 논리에서 벗어나는 경우가 많다. 그들은 대표성(유사성으로 확률 판단), 가용성(회상 용이성으로 빈도 판단), 그리고 고정(초기 정보에 과도하게 의존)과 같은 일반적인 지름길을 식별했다. 이러한 발견적 방법은 일반적으로 효율적이지만 체계적인 오류나 인지 편향으로 이어질 수 있다. 이 연구는 인간을 순수한 합리적 행위자로 보는 관점에 도전했으며, 인간 합리성의 제한된 본질 - 기계 학습 모델이 평가되는 방식, 특히 그들의 실패 모드와 한계를 이해하는 데 영향을 준 개념 - 을 강조했다.
통찰과 재구성
모든 문제 해결이 점진적 탐색을 포함하는 것은 아니다. 20세기 초반의 게슈탈트 심리학자들은 통찰 - 문제의 갑작스럽고 종종 비의식적인 재구성으로 즉각적인 해결로 이어지는 것 - 의 역할을 강조했다. 전형적인 예로는 해결자가 경계에 대한 암묵적 가정을 깨야 하는 아홉 점 퍼즐이 있다. 통찰에 대한 연구는 종종 정체 기간에 이어 갑작스러운 이해의 섬광이 따른다는 것을 보여주었다. 이는 알고리즘적 단계별 접근과 대조된다. 현대 AI에서 통찰의 개념은 대규모 언어 모델이 보지 못한 문제에 대해 새로운 해결책을 생성하는 능력과 유사점이 있지만, 이러한 시스템이 진정으로 문제를 재구성하는지 아니면 패턴 완성에 의존하는지는 Melanie Mitchell 같은 연구자들 사이에서 논쟁의 대상으로 남아 있다.
인공지능에서의 문제 해결
인간 문제 해결에 대한 형식적 연구는 초기 AI를 직접적으로 형성했다. 1997년 세계 챔피언 Garry Kasparov를 물리친 체스 컴퓨터 Deep Blue는 무차별 탐색 알고리즘을 사용했지만, 그 평가 함수는 인간의 체스 지식으로 조정되었다. 더 최근에는 상징적 AI에서 딥 러닝으로의 전환이 명시적 탐색에서 데이터로부터 표현을 학습하는 것으로 초점을 이동시켰다. 신경망, 특히 트랜스포머는 다음 토큰이나 행동을 예측하도록 훈련되며, 그들의 문제 해결 능력은 이러한 통계적 패턴에서 발생한다. 예를 들어, OpenAI의 GPT 시리즈와 Anthropic의 Claude 모델은 복잡한 추론 작업을 해결할 수 있지만, 그 방법은 불투명하고 종종 인간의 인지 과정과 다르다. Joshua Tenenbaum과 같은 연구자들은 MIT CSAIL에서 현재 AI가 인간 문제 해결의 기반이 되는 인과적 이해와 직관적 물리학을 결여하고 있다고 주장하며, 딥 러닝과 상징적 추론의 통합을 옹호한다.
계산 모델과 인지 아키텍처
인간과 기계 문제 해결 사이의 간극을 메우기 위해 인지 과학자들은 인간 수행을 시뮬레이션하는 계산 모델을 구축해 왔다. 카네기 멜론 대학교의 John Anderson이 개발한 ACT-R 아키텍처는 기억 회상과 절차적 기술 습득을 포함한 기저 인지 과정을 모델링하려고 시도한다. 유사하게, Newell과 그의 학생들이 만든 SOAR 아키텍처는 생산 시스템을 사용하여 광범위한 문제 해결 작업을 처리하도록 설계되었다. 이러한 모델은 통제된 실험에서 인간의 반응 시간과 오류율을 예측하는 데 사용되어 심리학 이론과 계산 구현 사이의 검증 가능한 연결을 제공한다. 또한 Sanctuary AI가 환경에 대해 추론하는 범용 로봇을 구축하려는 노력과 같은 더 인간적인 AI 설계에 정보를 제공한다.
현대적 도전과 미래 방향
인간 문제 해결에 대한 현대 연구는 점점 더 학제적이며, 심리학, 신경 과학, 그리고 AI를 결합한다. 주요 과제 중 하나는 목표나 연산자가 명확하게 정의되지 않은 비구조화된 문제를 인간이 어떻게 해결하는지 이해하는 것이다. 또 다른 과제는 창의성과 유추 추론의 역할로, 한 영역의 해결책이 다른 영역으로 전이되는 경우이다. AI에서 새로운 문제를 해결할 수 있는 생성형 AI를 추구하는 것은 모델 행동을 인간 선호도에 맞추기 위해 RLHF(인간 피드백으로부터의 강화 학습)와 같은 기술로 이어졌다. 그러나 2020년대 초 현재, AI 시스템은 상식, 장기 계획, 그리고 변화하는 상황에 대한 견고한 적응이 필요한 작업에서 여전히 어려움을 겪고 있으며, 이는 인간 문제 해결이 뛰어난 영역이다. 스탠포드 AI 연구소와 버클리 AI 연구와 같은 기관의 지속적인 작업은 종종 인지 과학에서 직접 영감을 얻어 더 유능하고 해석 가능한 시스템을 구축하기 위해 이러한 경계를 계속 탐구하고 있다.