COT

LLM – Chain-of-Thought (COT)란?

by

Chain-of-Thought (COT) 학습 기법은 AI 모델이 단순히 답을 예측하는 것이 아니라, **중간 과정(논리적 사고 과정)**을 거쳐 답을 생성하도록 유도하는 방법.즉, “한 번에 답을 내기보다는, 여러 단계를 거쳐 논리를 확장해 나가도록” 훈련하는 기법이라고 볼 수 있음. 이 기법이 도입되면서 GPT-4 같은 모델이 보다 복잡한 문제를 더 정확하게 풀 수 있게 되었음.예를 들어, 수학 문제 해결, 논리적 … Read more

LLM – GPT는 과연 추론을 어떻게 할까?

by

1. GPT의 추론 기능은 어떻게 동작할까? 기본적으로, GPT는 기계적으로 “추론”을 하는 것이 아니라, 학습한 데이터를 바탕으로 가장 적절한 답변을 확률적으로 예측하는 것.그러나 이 과정에서 단순한 문장 생성이 아닌, 패턴 인식 + 논리적 연결을 통해 복잡한 답변을 만들 수 있음.즉, GPT의 추론 기능은 크게 3단계로 볼 수 있음. (1) 학습된 패턴을 기반으로 논리적 관계를 찾음 (2) … Read more