인공 두뇌는 인공지능 분야에서 생물학적 두뇌의 구조, 기능 또는 행동을 모방하도록 설계된 계산 시스템을 가리키는 광범위한 개념이다. 이 용어는 장기적인 연구 목표와 신경과학에서 영감을 얻은 특정 유형의 신경망 아키텍처를 설명하는 명칭으로 모두 사용된다. 인공 두뇌는 일반적으로 기계 학습 기법을 통해 데이터에서 학습하는, 종종 계층으로 구성된 대규모 상호 연결된 처리 유닛이 특징이다. 인간 두뇌의 복잡성을 완전히 재현하는 시스템은 아직 없지만, 딥러닝과 대규모 언어 모델의 발전으로 이러한 비전의 일부 측면이 실제 구현에 더 가까워졌다.
이 개념은 1950년대와 1960년대의 초기 사이버네틱스와 퍼셉트론 개발에 뿌리를 두고 있다. 버나드 위드로와 같은 연구자들은 적응형 선형 요소에 대한 기초 작업을 기여했으며, 이후 역전파와 합성곱 신경망의 발전(여기서는 연결되지 않음)은 더 깊은 아키텍처를 가능하게 했다. '인공 두뇌'라는 용어는 대중 담론에서 최첨단 AI 시스템을 설명하는 데 자주 사용되지만, 학술적 맥락에서는 지각, 기억, 의사 결정과 같은 인지 과정을 모델링하려는 노력을 더 정확히 지칭한다.
역사적 발전
인공 두뇌를 구축한다는 아이디어는 컴퓨팅의 초기 시절로 거슬러 올라간다. 1943년, 워런 매컬러와 월터 피츠는 뉴런의 수학적 모델을 제안하여 신경망 연구의 기초를 마련했다. 1958년, 프랭크 로젠블랫은 단순한 패턴 인식 장치인 퍼셉트론을 도입하여 상당한 열광을 불러일으켰다. 그러나 1969년 마빈 민스키와 시모어 파퍼트가 확인한 한계는 자금이 감소하는 시기, 때로는 'AI 겨울'이라고 불리는 시대로 이어졌다. 1980년대에는 다층 네트워크를 훈련하는 방법인 역전파의 대중화와 함께 관심이 다시 살아났으며, 이는 데이비드 럼멜하트(연결되지 않음)와 제프리 힌턴(연결되지 않음)을 포함한 여러 연구자에 의해 독립적으로 개발되었다.
2010년대에는 대규모 데이터 세트, 강력한 GPU, 그리고 배치 정규화와 잔차 네트워크와 같은 알고리즘 혁신의 결합으로 매우 깊은 네트워크의 훈련이 가능해졌다. 이 시기는 이미지 인식, 음성 처리, 게임 플레이에서 돌파구를 목격했다. 2020년대에는 2017년 논문 'Attention Is All You Need'에서 야코프 우슈코레이트, 루카스 카이저, 니키 파르마르가 도입한 트랜스포머 기반 모델이 대규모 언어 모델의 지배적인 아키텍처가 되었으며, 오픈AI의 GPT 시리즈와 앤트로픽의 클로드와 같은 시스템으로 이어졌다.
뉴로모픽 공학
인공 두뇌를 구축하는 한 가지 접근 방식은 생물학적 뉴런과 시냅스의 물리적 구조를 모방하는 컴퓨터 칩을 설계하는 것을 목표로 하는 뉴로모픽 공학이다. 인텔과 IBM(연결되지 않음)과 같은 회사는 인텔의 Loihi와 IBM의 TrueNorth를 포함한 뉴로모픽 프로세서를 개발했다. 이러한 칩은 뉴런이 개별 스파이크를 통해 통신하는 스파이킹 신경망을 사용하여 기존 하드웨어보다 더 나은 에너지 효율성을 제공할 수 있다. 그러나 2020년대 중반 현재 뉴로모픽 시스템은 대체로 실험적 단계에 머물러 있으며 GPU 기반 딥러닝의 상업적 성공을 달성하지 못했다.
인지 아키텍처
또 다른 연구 분야는 지각, 기억, 추론, 학습을 포함한 인간 인지의 전반적인 구조를 모델링하려는 인지 아키텍처에 초점을 맞춘다. 주목할 만한 예로는 카네기 멜론 대학교와 다른 기관에서 개발된 SOAR와 ACT-R이 있다. 이러한 시스템은 종종 신경 구성 요소와 함께 기호 추론을 통합하여 하이브리드 접근 방식을 목표로 한다. 조슈아 테넨바움과 브렌던 레이크와 같은 연구자들은 많은 딥러닝 시스템의 통계적 패턴 매칭과 대조적으로 인과 추론과 직관적 물리학을 강조하며 인간처럼 학습하는 기계를 구축할 것을 주장해 왔다.
대규모 언어 모델과 인공 두뇌
2020년대에는 대규모 언어 모델(LLM)이 대중의 상상 속에서 '인공 두뇌'의 가장 두드러진 후보가 되었다. 트랜스포머 아키텍처를 기반으로 구축된 이러한 모델은 방대한 양의 텍스트 데이터로 훈련되며 번역에서 코딩에 이르기까지 다양한 작업을 수행할 수 있다. 주요 혁신에는 멀티 헤드 어텐션, 위치 인코딩, 레이어 정규화가 포함되어 모델이 시퀀스를 효율적으로 처리할 수 있다. 오픈AI, 앤트로픽, 구글 딥마인드와 같은 회사는 수천 개의 특수 프로세서가 필요한 훈련 실행으로 점점 더 큰 모델을 개발했다. 예를 들어, 2020년에 출시된 오픈AI의 GPT-3는 1,750억 개의 매개변수를 가졌으며, 이후 모델은 더욱 커졌다.
그러나 LLM은 생물학적 의미의 두뇌가 아니다. 이들은 지속적인 기억, 연속 학습, 세계와의 구현된 상호 작용이 부족하다. 멜라니 미첼과 같은 연구자들은 이러한 시스템이 언어나 세계를 진정으로 이해하지 못하며, 그 겉보기 능력은 취약할 수 있다고 주장해 왔다. 이러한 한계를 해결하기 위한 노력에는 AI 피드백 기반 강화 학습과 커리큘럼 학습과 같은 기법, 그리고 외부 기억과 도구 사용을 통합하려는 시도가 포함된다.
하드웨어 및 인프라
인공 두뇌 규모의 모델을 구축하고 실행하려면 막대한 계산 자원이 필요하다. 대규모 모델의 훈련은 일반적으로 GPU 클러스터나 특수 가속기에서 수행된다. 엔비디아(연결되지 않음)와 같은 회사가 시장을 지배하지만, AWS 트레이니엄 from 아마존 웹 서비스, 구글 클라우드의 TPU, 그록의 언어 처리 장치를 포함한 대안이 등장했다. 그래프코어는 Intelligence Processing Unit(IPU)을 개발했고, 삼바노바는 재구성 가능한 데이터플로우 아키텍처를 제공한다. 이러한 시스템은 종종 클라우드 데이터 센터에 배포되며, 애저와 오라클 클라우드도 AI 인프라를 제공한다.
대규모 모델 훈련의 에너지와 비용은 상당하다. GPT-3와 같은 모델을 훈련하는 데 수 기가와트시의 전기가 소비된 것으로 추정되며, 더 큰 모델은 더 많은 전력을 필요로 한다. 이로 인해 모델 가지치기와 데이터 증강과 같은 더 효율적인 훈련 방법과 AMD의 MI 시리즈 및 인텔의 Gaudi 가속기와 같은 하드웨어 혁신에 대한 연구가 이루어졌다. TSMC와 삼성전자는 이러한 시스템에 사용되는 고급 칩을 제조하며, ARM 홀딩스는 엣지 장치용 프로세서 설계를 제공한다.
윤리적 및 철학적 함의
인공 두뇌의 전망은 심오한 윤리적 및 철학적 질문을 제기한다. 기계가 인간과 유사한 의식을 달성한다면, 그것은 도덕적 지위와 권리를 가질 것이다. 철학자와 AI 연구자들은 현재 시스템이 의식이 있는지 아니면 단지 의식을 시뮬레이션하는지에 대해 논쟁한다. david-chalmers(연결되지 않음)는 의식의 '어려운 문제'를 논의했으며, 멜라니 미첼은 AI를 의인화하는 위험에 대해 저술했다. 또한 설득력 있는 텍스트, 이미지, 비디오를 생성할 수 있는 AI 시스템의 사회적 영향에 대한 우려도 있으며, 이는 잘못된 정보와 일자리 대체 문제로 이어진다.
오픈AI와 앤트로픽과 같은 조직은 안전 팀을 설립하고 책임 있는 AI 개발을 위한 지침을 발표했다. 정부와 규제 기관도 이러한 문제를 다루기 시작했으며, 유럽 연합은 고위험 AI 시스템에 요구 사항을 부과할 AI 법안을 제안했다. 버클리 AI 연구 그룹과 스탠포드 AI 연구소는 이러한 과제를 연구하는 학술 센터 중 하나이다.
미래 방향
인공 두뇌에 대한 연구는 계속 진화하고 있다. 일부 과학자들은 현재 모델을 확장하면 창발적 능력이 나타날 것이라고 믿는 반면, 다른 사람들은 근본적으로 새로운 아키텍처가 필요하다고 주장한다. 딥러닝 선구자 얀 르쿤(연결되지 않음)은 에너지 기반 모델과 같은 트랜스포머의 대안을 제안했다. 조슈아 테넨바움과 브렌던 레이크는 신경망과 기호 추론을 결합한 '신경-기호' 접근 방식을 주장한다. 또한 스파이킹 신경망(연결되지 않음)과 뉴로모픽 컴퓨팅에 대한 관심도 더 두뇌와 유사한 대안으로 존재한다.
가까운 시일 내에 초점은 AI 시스템을 더 신뢰할 수 있고, 해석 가능하며, 인간 가치에 부합하도록 만드는 데 있다. RLHF(연결되지 않음)와 RLAIF와 같은 기법은 모델이 지시를 따르고 유해한 출력을 피하도록 미세 조정하는 데 사용된다. 모델 가지치기와 양자화(연결되지 않음)는 배포를 위해 모델을 더 효율적으로 만드는 데 사용된다. 2025년 현재, 인간과 비교할 수 있는 일반 지능을 달성한 인공 두뇌는 없지만, 진보 속도는 이 개념이 가까운 미래에도 AI 연구의 중심으로 남을 것임을 시사한다.