게임 이론은 합리적 의사 결정자(플레이어) 간의 전략적 상호 작용을 연구하는 수학 및 경제학의 한 분야이다. 각 참가자의 결과가 자신의 행동뿐만 아니라 다른 사람의 행동에도 의존하는 상황에 대한 공식적인 모델을 제공한다. 이 분야는 개인이나 조직이 상대방의 예상 선택을 고려하여 기대 보상을 극대화하기 위해 전략을 선택하는 방식을 분석한다. 그 원리는 경제학, 정치학, 생물학을 포함한 여러 학문과 점점 더 인공지능 시스템 설계에 적용된다.
게임 이론의 공식적 기초는 20세기 중반에 확립되었으며, 1944년 존 폰 노이만과 오스카 모르겐슈턴이 출판한 게임 이론과 경제 행동에서 시작되었다. 이 저작은 게임을 플레이어, 전략, 보상 함수의 집합으로 정의하는 개념을 도입하고, 제로섬 게임에 대한 미니맥스 정리를 확립했다. 1950년, 존 내시는 다른 사람들의 전략이 주어졌을 때 어떤 플레이어도 자신의 전략을 일방적으로 변경하여 보상을 개선할 수 없는 해법 개념인 내시 균형을 개발했다. 내시의 연구는 1994년 노벨 경제학상을 수상했으며, 게임 이론의 적용 범위를 비제로섬 및 협력적 환경으로 확장했다.
핵심 개념과 해법 개념
게임은 플레이어, 각 플레이어가 사용 가능한 전략 집합, 그리고 전략 조합을 결과에 매핑하는 보상 함수로 공식적으로 정의된다. 게임은 구속력 있는 합의가 가능한지에 따라 협력적 또는 비협력적으로 분류되며, 총 보상이 일정한지에 따라 제로섬 또는 비제로섬으로 분류된다. 내시 균형은 여전히 중심적인 해법 개념이지만, 확장형 게임의 부분게임 완전 균형과 외부 신호를 허용하는 상관 균형과 같은 다른 세분화된 개념도 존재한다.
확장형 게임은 게임 트리를 사용하여 순차적 의사 결정을 모델링하며, 정보 집합을 통합하여 불완전 정보를 나타낸다. 반면, 정규형 게임은 동시 이동을 위해 행렬 표현을 사용한다. 동일한 단계 게임이 여러 번 반복되는 반복 게임은 로버트 액설로드의 1980년대 컴퓨터 토너먼트에서 입증된 것처럼 tit-for-tat과 같은 전략을 통해 협력을 유지할 수 있다.
경제학과 생물학에서의 응용
경제학에서 게임 이론은 경매 이론, 과점 모델, 메커니즘 설계의 기초를 이룬다. 1994년 노벨상은 비협력 게임 이론에 대한 기여로 내시, 존 하사니, 라인하르트 젤텐을 인정했다. 2005년에는 로버트 아우만과 토머스 셸링이 반복 게임과 진화 게임 이론을 통한 갈등과 협력의 이해 증진으로 상을 수상했다. 구글 클라우드와 아마존 웹 서비스가 클라우드 자원 할당에 사용하는 경매 설계는 종종 효율성과 수익 극대화를 보장하기 위해 게임 이론적 원칙을 통합한다.
1970년대 존 메이너드 스미스가 도입한 진화 게임 이론은 게임 이론적 개념을 생물학에 적용하며, 여기서 전략은 표현형을 나타내고 보상은 적합도 결과이다. 진화적으로 안정한 전략(ESS)은 동물 개체군에서 이타주의와 공격성과 같은 행동의 지속성을 설명한다. 이 프레임워크는 특히 다중 에이전트 강화 학습에서 머신러닝 알고리즘에도 영향을 미쳤다.
인공지능에서의 게임 이론
게임 이론은 특히 다중 에이전트 시스템과 전략적 계획에서 현대 인공지능 연구에 필수적인 부분이 되었다. 강화 학습에서 에이전트는 종종 확률적 게임으로 모델링된 환경에서 상호 작용하며, 각 에이전트의 보상은 공동 행동에 의존한다. 가상 플레이와 반사실적 후회 최소화와 같은 알고리즘은 구글 딥마인드 및 기타 연구소에서 개발된 시스템에서 볼 수 있듯이 포커와 체스 같은 게임에서 초인적 성능을 달성했다.
내시 균형 개념은 생성자와 판별자가 미니맥스 게임에서 경쟁하는 생성형 AI 시스템과 같은 생성 모델을 훈련하는 데 사용된다. 2014년에 도입된 이 적대적 프레임워크는 이미지 합성과 대규모 언어 모델 훈련의 발전을 주도했다. 또한 메커니즘 설계는 AWS 트레이니엄 및 애저 인프라를 포함한 분산 시스템에서 계산 자원의 할당을 지원한다.
한계와 비판
게임 이론은 합리성을 가정하며, 이는 플레이어가 일관된 선호와 완전하거나 불완전한 정보를 가진다는 것을 의미한다. 비판가들은 실제 의사 결정자가 인지 편향과 불완전한 정보의 영향을 받는 제한된 합리성을 종종 보인다고 주장한다. 다니엘 카너먼과 아모스 트버스키 같은 연구자가 개발한 행동 게임 이론은 내시 예측에서의 편차를 설명하기 위해 심리학적 통찰을 통합한다. 실험 경제학은 인간이 일회성 죄수의 딜레마 게임에서 종종 협력한다는 것을 보여주며, 이는 엄격한 자기 이익 가정과 모순된다.
또 다른 한계는 많은 게임에서 균형의 다중성으로, 이는 예측력을 감소시킨다. 떨리는 손 완전성과 적절한 균형과 같은 세분화된 개념이 이 문제를 해결하려고 시도하지만, 보편적으로 받아들여지는 해결책은 없다. 더 나아가, 계산 복잡성은 큰 게임에서 균형을 찾는 것을 다루기 어렵게 만들 수 있으며, 이는 알고리즘 게임 이론의 최근 연구에서 다루는 문제이다.
현대적 발전
현대 연구는 게임 이론을 동적 및 네트워크 환경으로 확장한다. 2000년대에 개발된 평균장 게임 이론은 대규모 에이전트 개체군 간의 상호 작용을 분석하며, 경제학과 신경망 훈련에 응용된다. 후회 최소화와 같은 온라인 학습 알고리즘은 반복 게임에서 상관 균형으로의 수렴 보장을 제공한다. 이러한 방법은 자원 할당과 자동 협상을 위한 딥러닝 시스템에 사용된다.
게임 이론은 또한 적대적 공격에 대한 견고성을 보장하는 데 특히 인공지능 시스템의 윤리적 설계를 지원한다. 미니맥스 프레임워크는 모델이 최악의 경우 섭동을 견디도록 최적화되는 적대적 훈련에 적용된다. AI 시스템이 더 자율적으로 변함에 따라, MIT CSAIL과 스탠포드 AI 랩에서 연구되는 것과 같은 게임 이론적 상호 작용 모델은 다중 에이전트 환경에서 안전하고 협력적인 행동을 보장하는 데 필수적이다.