[월:] 2025년 03월

LLM – 새로운모델 GPTx를 만들어보라고 시켜봤더니..

by

LLM에 대해 대략적(겉핥기~)으로 살펴보고 약간은 이해를 하기도 했으니.. 새로운 모델을 하나 만들어볼 수 있을까 싶어 gpt에게 시켜봤습니다. 실제로 동작하지는 않겠지만 대략저긴 코드 이해하는데 역시 큰 도움이 되었습니다. 트랜스포머 모델은 수학적 개념이지만, 이걸 학습하고 실행하는건 코드로 되어 있을거고, 이 코드를 쉽게 만들 수 있도록 pytorch나 tensorflow와 같은 프레임워크가 존재하는거지?자 그럼 신규 트랜스포머 모델을 활용한 GPTx 라는 … Read more

LLM – GPT는 수학적 계산을 어떻게 할까? (2)

by

이어서 다음도 궁금해집니다. gpt 는 어떻게 파이선코드를 실행할지 말지 판단할까라고요… gpt는 트랜스포머모델을 사용해 사람의 질문을 문장으로 이해하잖아? 그런데 문장을이해하고 문장으로 결과값을 생성해내는데, 중간에 파이썬코드로 처리해야겠다는 판단을 트랜스포머 모델이 하진 않잖아? 그럼 누가 판단하는거지? 정확한 질문이야! 트랜스포머 기반의 GPT 모델은 문장을 이해하고 문장으로 답변을 생성하지만, Python 코드 실행이 필요하다고 판단하는 역할은 트랜스포머 모델이 직접 하는 것이 … Read more

LLM – GPT는 수학적 계산을 어떻게 할까? (1)

by

수학적 계산에 관련된 궁금증이 생겨 제가 GPT에게 직접 물어봤습니다 🙂 미리 학습하지 못한 매우 큰수 2345678910*1345 와 같은 곱셈의 결과는 어떻게 돼? 라는 질문을 하면 추론해서 정답을 줄 수 있지 않아? 학습하지 못했기 때문에 못주나? 아니면 내부 전자계산기로 계산해서 알려주나? 좋은 질문이야! GPT 같은 트랜스포머 기반 언어 모델은 학습하지 않은 새로운 수식을 정확하게 계산할 수 … Read more

LLM – Chain-of-Thought (COT)란?

by

Chain-of-Thought (COT) 학습 기법은 AI 모델이 단순히 답을 예측하는 것이 아니라, **중간 과정(논리적 사고 과정)**을 거쳐 답을 생성하도록 유도하는 방법.즉, “한 번에 답을 내기보다는, 여러 단계를 거쳐 논리를 확장해 나가도록” 훈련하는 기법이라고 볼 수 있음. 이 기법이 도입되면서 GPT-4 같은 모델이 보다 복잡한 문제를 더 정확하게 풀 수 있게 되었음.예를 들어, 수학 문제 해결, 논리적 … Read more

LLM – GPT는 과연 추론을 어떻게 할까?

by

1. GPT의 추론 기능은 어떻게 동작할까? 기본적으로, GPT는 기계적으로 “추론”을 하는 것이 아니라, 학습한 데이터를 바탕으로 가장 적절한 답변을 확률적으로 예측하는 것.그러나 이 과정에서 단순한 문장 생성이 아닌, 패턴 인식 + 논리적 연결을 통해 복잡한 답변을 만들 수 있음.즉, GPT의 추론 기능은 크게 3단계로 볼 수 있음. (1) 학습된 패턴을 기반으로 논리적 관계를 찾음 (2) … Read more

LLM – GPT는 과연 질문을 이해하는걸까?

by

LLM과 gpt에 대해서 궁금해서 이런 저런 질문을 하다 아래와 같은 질문을 해봤고 이에 대한 답변을 올려드립니다. 어떻게 보면 LLM이 사람이 말하는 방식과 유사한 방식으로 이해하고 생성해내는거 아닐까 싶기도 하네요. 우리가 질문을 이해하는것도 연관성을 학습하여 그 결과가 이해한다로 이어진건 아닐까하는 생각이 드네요. GPT의 경우 트랜스포머 기반이고, 셀프어텐션과 FNN으로 단어간의 연관성을 이해하고, 표현력을 풍부하게 한 후, decoder만을 … Read more

LLM – GPT (Generative Pre-trained Transformer)란?

by

GPT(Generative Pre-trained Transformer)는 OpenAI에서 개발한 대규모 언어 모델(LLM)로, 딥러닝 기반의 자연어 생성(Natural Language Generation, NLG) 모델이다. 이 모델은 트랜스포머(Transformer) 모델을 기반으로 하며, 대량의 텍스트 데이터를 학습하여 문맥을 이해하고 자연스러운 문장을 생성하는 데 특화되어 있다. GPT 시리즈는 지속적으로 발전해 왔으며, 최근에는 GPT-4.5가 가장 최신 버전이다. 1. GPT의 주요 특징 (1) 사전 학습(Pre-training)과 미세 조정(Fine-tuning) (2) 트랜스포머(Transformer) … Read more

LLM – LLM의 구조와 역할

by

LLM(대규모 언어 모델, Large Language Model)은 자연어를 이해하고 생성하는 인공지능 모델로, 주로 딥러닝과 트랜스포머(Transformer) 구조를 기반으로 동작한다. LLM의 핵심 개념과 역할을 간단히 정리하면 다음과 같다. 1. LLM의 구조 LLM은 주로 트랜스포머(Transformer) 아키텍처를 기반으로 하며, 핵심 구성 요소는 다음과 같다. (1) 트랜스포머 구조 트랜스포머는 2017년 Google의 논문 *”Attention Is All You Need”*에서 처음 소개된 모델로, LLM의 … Read more

법인의 등기 필수사항과 주의사항, 기한 및 비용 정리

by

법인의 등기 필수사항과 주의사항, 기한 및 비용 정리 법인을 설립하거나 운영하면서 등기는 반드시 신경 써야 할 중요한 절차 중 하나입니다. 법인의 설립뿐만 아니라 운영 과정에서도 등기 변경 사항이 발생할 수 있으며, 이를 적시에 처리하지 않으면 과태료 등의 불이익이 발생할 수 있습니다. 이번 글에서는 법인의 등기 필수사항과 주의사항, 기한, 그리고 비용 등에 대해 정리해보겠습니다. 1. 법인의 … Read more