계층적 시간 기억(HTM)은 Numenta가 개발한 생물학적으로 제약된 기계 지능 기술입니다. 원래 2004년 Jeff Hawkins와 Sandra Blakeslee가 쓴 책 On Intelligence에서 설명되었으며, HTM은 오늘날 주로 스트리밍 데이터의 이상 탐지에 사용됩니다. 이 기술은 신경과학과 포유류(특히 인간) 뇌의 신피질에 있는 피라미드 뉴런의 생리학 및 상호 작용에 기반합니다.
HTM의 핵심에는 고차원 시퀀스를 저장, 학습, 추론 및 회상할 수 있는 학습 알고리즘이 있습니다. 대부분의 다른 기계 학습 방법과 달리 HTM은 레이블이 없는 데이터에서 시간 기반 패턴을 지속적으로(비지도 프로세스로) 학습합니다. HTM은 노이즈에 강하며 용량이 큽니다(여러 패턴을 동시에 학습할 수 있음). 컴퓨터에 적용될 때 HTM은 예측, 이상 탐지, 분류 및 궁극적으로 감각 운동 응용 분야에 적합합니다.
구조 및 알고리즘
일반적인 HTM 네트워크는 레벨의 트리 모양 계층 구조입니다(아래에서 설명하는 신피질의 "층"과 혼동하지 마십시오). 이러한 레벨은 영역(또는 노드)이라고 하는 더 작은 요소로 구성됩니다. 계층 구조의 단일 레벨에는 여러 영역이 포함될 수 있습니다. 더 높은 계층 레벨에는 종종 더 적은 수의 영역이 있습니다. 더 높은 계층 레벨은 더 낮은 레벨에서 학습된 패턴을 결합하여 더 복잡한 패턴을 기억함으로써 재사용할 수 있습니다.
각 HTM 영역은 동일한 기본 기능을 가집니다. 학습 및 추론 모드에서 감각 데이터(예: 눈의 데이터)는 최하위 레벨 영역으로 들어옵니다. 생성 모드에서 최하위 레벨 영역은 주어진 범주의 생성된 패턴을 출력합니다. 최상위 레벨에는 일반적으로 가장 일반적이고 가장 영구적인 범주(개념)를 저장하는 단일 영역이 있으며, 이는 더 낮은 레벨의 더 작은 개념(시간과 공간에서 더 제한된 개념)을 결정하거나 결정됩니다. 추론 모드로 설정되면 각 레벨의 영역은 "하위" 영역에서 올라오는 정보를 메모리에 있는 범주의 확률로 해석합니다.
각 HTM 영역은 공간 패턴(동시에 자주 발생하는 입력 비트의 조합)을 식별하고 기억함으로써 학습합니다. 그런 다음 서로 연속적으로 발생할 가능성이 있는 공간 패턴의 시간적 시퀀스를 식별합니다.
진화하는 모델로서
HTM은 Jeff Hawkins의 천 개 뇌 이론(Thousand Brains Theory of Intelligence)의 알고리즘 구성 요소입니다. 따라서 신피질에 대한 새로운 발견이 점진적으로 HTM 모델에 통합되며, 이에 따라 모델은 시간이 지남에 따라 변경됩니다. 새로운 발견이 반드시 이전 모델 부분을 무효화하지는 않으므로 한 세대의 아이디어가 다음 세대에서 반드시 제외되지는 않습니다. 이론의 진화적 특성 때문에 여러 세대의 HTM 알고리즘이 있으며, 아래에 간략히 설명합니다.
1세대: zeta 1
HTM 알고리즘의 1세대는 때때로 zeta 1이라고 합니다.
#### 훈련
훈련 중에 노드(또는 영역)는 입력으로 공간 패턴의 시간적 시퀀스를 받습니다. 학습 프로세스는 두 단계로 구성됩니다.
공간 풀링은 입력에서 자주 관찰되는 패턴을 식별하고 이를 "일치"로 기억합니다. 서로 상당히 유사한 패턴은 동일한 일치로 처리됩니다. 많은 수의 가능한 입력 패턴이 관리 가능한 수의 알려진 일치로 줄어듭니다.
시간적 풀링은 훈련 시퀀스에서 서로 이어질 가능성이 있는 일치를 시간적 그룹으로 분할합니다. 각 패턴 그룹은 입력 패턴의 "원인"(또는 On Intelligence에서의 "이름")을 나타냅니다.
공간 풀링과 시간적 풀링의 개념은 현재 HTM 알고리즘에서 여전히 매우 중요합니다. 시간적 풀링은 아직 잘 이해되지 않았으며, 그 의미는 시간이 지남에 따라 변경되었습니다(HTM 알고리즘이 진화함에 따라).
#### 추론
추론 중에 노드는 패턴이 각 알려진 일치에 속할 확률 집합을 계산합니다. 그런 다음 입력이 각 시간적 그룹을 나타낼 확률을 계산합니다. 그룹에 할당된 확률 집합을 입력 패턴에 대한 노드의 "신념"이라고 합니다. (단순화된 구현에서 노드의 신념은 하나의 승리 그룹으로만 구성됩니다). 이 신념은 계층 구조의 다음 상위 레벨에 있는 하나 이상의 "부모" 노드로 전달되는 추론 결과입니다.
노드에 대한 "예기치 않은" 패턴은 특정 시간적 그룹에 속할 지배적인 확률이 없지만 여러 그룹에 속할 거의 동일한 확률을 가집니다. 패턴 시퀀스가 훈련 시퀀스와 유사하면 그룹에 할당된 확률은 패턴이 수신될 때 자주 변경되지 않습니다. 노드의 출력은 크게 변경되지 않으며 시간 해상도가 손실됩니다.
더 일반적인 체계에서 노드의 신념은 모든 레벨의 모든 노드 입력으로 보낼 수 있지만 노드 간 연결은 여전히 고정되어 있습니다. 상위 레벨 노드는 이 출력을 다른 하위 노드의 출력과 결합하여 자체 입력 패턴을 형성합니다.
위에서 설명한 대로 각 노드에서 공간 및 시간 해상도가 손실되므로 상위 레벨 노드가 형성하는 신념은 더 넓은 공간 및 시간 범위를 나타냅니다. 이는 인간 두뇌가 인식하는 물리적 세계의 조직을 반영하기 위한 것입니다. 더 큰 개념(예: 원인, 행동, 객체)은 더 느리게 변경되는 것으로 인식되며 더 빠르게 변경되는 더 작은 개념으로 구성됩니다. Jeff Hawkins는 두뇌가 외부 세계의 조직과 일치하고 예측하며 영향을 미치기 위해 이러한 유형의 계층 구조를 진화시켰다고 가정합니다.
Zeta 1 HTM 기능에 대한 자세한 내용은 Numenta의 이전 문서에서 찾을 수 있습니다.
2세대: 피질 학습 알고리즘
종종 피질 학습 알고리즘(CLA)이라고 하는 2세대 HTM 학습 알고리즘은 zeta 1과 크게 달랐습니다. 이는 뇌 활동을 나타내기 위해 희소 분산 표현(즉, 요소가 이진수(1 또는 0)이고 1 비트 수가 0 비트 수에 비해 적은 데이터 구조)이라는 데이터 구조와 더 생물학적으로 현실적인 뉴런 모델(HTM 맥락에서 종종 셀이라고도 함)에 의존합니다. 이 HTM 세대에는 두 가지 핵심 구성 요소가 있습니다. 희소 분산 표현(SDR)을 출력하는 공간 풀링 알고리즘과 복잡한 시퀀스를 표현하고 예측하는 방법을 학습하는 시퀀스 메모리 알고리즘입니다.
이 새로운 세대에서는 대뇌 피질의 층과 미니 기둥이 다루어지고 부분적으로 모델링됩니다. 각 HTM 층(위에서 설명한 HTM 계층 구조의 HTM 레벨과 혼동하지 마십시오)은 고도로 상호 연결된 여러 미니 기둥으로 구성됩니다. HTM 층은 입력에서 희소 분산 표현을 생성하여 주어진 입력에 대해 고정된 수의 비트가 활성화되도록 합니다. 이 표현은 시퀀스 메모리에 공급되며, 시퀀스 메모리는 시간이 지남에 따라 패턴 간의 전환을 학습합니다. 시퀀스 메모리는 원위 수상 돌기와 시냅스 가소성을 포함한 피라미드 뉴런에서 영감을 받은 신경 역학의 한 형태를 사용합니다.
응용 및 구현
HTM은 Numenta의 예제 응용 프로그램과 Numenta 파트너의 몇 가지 상업적 응용 프로그램을 통해 소프트웨어로 테스트되고 구현되었습니다. 주요 상업적 사용 사례는 서버 메트릭, 금융 거래 또는 센서 판독값과 같은 스트리밍 데이터의 이상 탐지입니다. HTM이 레이블이 없는 데이터 없이 지속적으로 학습할 수 있는 능력은 실시간 시스템에서 비정상적인 패턴을 감지하는 데 적합합니다. Numenta는 HTM 기반 시스템 구축을 위한 도구를 제공하는 NuPIC(Numenta Platform for Intelligent Computing) 라이브러리를 포함한 오픈 소스 구현을 출시했습니다. 딥 러닝 접근 방식만큼 널리 채택되지는 않았지만 HTM은 온라인 학습과 노이즈 견고성이 중요한 틈새 응용 분야에서 사용되었습니다.
다른 AI 접근 방식과의 관계
HTM은 주류 인공 지능 방법(예: 딥 러닝 및 트랜스포머 기반 모델)과 근본적으로 다릅니다. 딥 러닝은 일반적으로 대량의 레이블이 지정된 데이터와 오프라인 훈련이 필요한 반면, HTM은 비지도 방식으로 지속적으로 학습합니다. 대규모 언어 모델을 구동하는 트랜스포머는 주의 메커니즘에 의존하며 같은 방식으로 생물학적 영감을 받지 않습니다. HTM이 시간적 시퀀스와 계층 구조에 초점을 맞추는 것은 뇌의 신경 계산 이론과 더 밀접하게 일치합니다. 그러나 HTM은 딥 러닝과 같은 수준의 상업적 성공을 달성하지 못했으며 자연어 처리와 같은 복잡한 작업으로의 확장성은 여전히 제한적입니다. Numenta(회사)와 같은 기관의 연구자들은 이론을 계속 개발하고 있지만 HTM은 기계 학습 내에서 여전히 틈새 영역으로 남아 있습니다.