IT

IT/소프트웨어 섹터 분석

by

1. 산업 정의 및 구조 IT·소프트웨어 섹터는 정보 기술, 소프트웨어 개발, 데이터 관리 등을 포함하는 핵심 산업으로, 디지털 경제의 기반을 담당합니다. 2. 산업 성장성 IT·소프트웨어는 전통적으로 성장 산업으로 분류되며, 특히 디지털 전환(DX)과 클라우드 전환 가속화로 지속적인 수요가 예상됩니다. 최근에는 AI가 각광받고 있고 엄청나게 급성장 중입니다. (실제로 AI는 하나의 트렌드 이자 성장잠재력이 무궁한 산업이 되고 있죠) … Read more

LLM – 새로운모델 GPTx를 만들어보라고 시켜봤더니..

by

LLM에 대해 대략적(겉핥기~)으로 살펴보고 약간은 이해를 하기도 했으니.. 새로운 모델을 하나 만들어볼 수 있을까 싶어 gpt에게 시켜봤습니다. 실제로 동작하지는 않겠지만 대략저긴 코드 이해하는데 역시 큰 도움이 되었습니다. 트랜스포머 모델은 수학적 개념이지만, 이걸 학습하고 실행하는건 코드로 되어 있을거고, 이 코드를 쉽게 만들 수 있도록 pytorch나 tensorflow와 같은 프레임워크가 존재하는거지?자 그럼 신규 트랜스포머 모델을 활용한 GPTx 라는 … Read more

LLM – GPT는 수학적 계산을 어떻게 할까? (2)

by

이어서 다음도 궁금해집니다. gpt 는 어떻게 파이선코드를 실행할지 말지 판단할까라고요… gpt는 트랜스포머모델을 사용해 사람의 질문을 문장으로 이해하잖아? 그런데 문장을이해하고 문장으로 결과값을 생성해내는데, 중간에 파이썬코드로 처리해야겠다는 판단을 트랜스포머 모델이 하진 않잖아? 그럼 누가 판단하는거지? 정확한 질문이야! 트랜스포머 기반의 GPT 모델은 문장을 이해하고 문장으로 답변을 생성하지만, Python 코드 실행이 필요하다고 판단하는 역할은 트랜스포머 모델이 직접 하는 것이 … Read more

LLM – GPT는 수학적 계산을 어떻게 할까? (1)

by

수학적 계산에 관련된 궁금증이 생겨 제가 GPT에게 직접 물어봤습니다 🙂 미리 학습하지 못한 매우 큰수 2345678910*1345 와 같은 곱셈의 결과는 어떻게 돼? 라는 질문을 하면 추론해서 정답을 줄 수 있지 않아? 학습하지 못했기 때문에 못주나? 아니면 내부 전자계산기로 계산해서 알려주나? 좋은 질문이야! GPT 같은 트랜스포머 기반 언어 모델은 학습하지 않은 새로운 수식을 정확하게 계산할 수 … Read more

LLM – Chain-of-Thought (COT)란?

by

Chain-of-Thought (COT) 학습 기법은 AI 모델이 단순히 답을 예측하는 것이 아니라, **중간 과정(논리적 사고 과정)**을 거쳐 답을 생성하도록 유도하는 방법.즉, “한 번에 답을 내기보다는, 여러 단계를 거쳐 논리를 확장해 나가도록” 훈련하는 기법이라고 볼 수 있음. 이 기법이 도입되면서 GPT-4 같은 모델이 보다 복잡한 문제를 더 정확하게 풀 수 있게 되었음.예를 들어, 수학 문제 해결, 논리적 … Read more

LLM – GPT는 과연 추론을 어떻게 할까?

by

1. GPT의 추론 기능은 어떻게 동작할까? 기본적으로, GPT는 기계적으로 “추론”을 하는 것이 아니라, 학습한 데이터를 바탕으로 가장 적절한 답변을 확률적으로 예측하는 것.그러나 이 과정에서 단순한 문장 생성이 아닌, 패턴 인식 + 논리적 연결을 통해 복잡한 답변을 만들 수 있음.즉, GPT의 추론 기능은 크게 3단계로 볼 수 있음. (1) 학습된 패턴을 기반으로 논리적 관계를 찾음 (2) … Read more

LLM – GPT는 과연 질문을 이해하는걸까?

by

LLM과 gpt에 대해서 궁금해서 이런 저런 질문을 하다 아래와 같은 질문을 해봤고 이에 대한 답변을 올려드립니다. 어떻게 보면 LLM이 사람이 말하는 방식과 유사한 방식으로 이해하고 생성해내는거 아닐까 싶기도 하네요. 우리가 질문을 이해하는것도 연관성을 학습하여 그 결과가 이해한다로 이어진건 아닐까하는 생각이 드네요. GPT의 경우 트랜스포머 기반이고, 셀프어텐션과 FNN으로 단어간의 연관성을 이해하고, 표현력을 풍부하게 한 후, decoder만을 … Read more

LLM – GPT (Generative Pre-trained Transformer)란?

by

GPT(Generative Pre-trained Transformer)는 OpenAI에서 개발한 대규모 언어 모델(LLM)로, 딥러닝 기반의 자연어 생성(Natural Language Generation, NLG) 모델이다. 이 모델은 트랜스포머(Transformer) 모델을 기반으로 하며, 대량의 텍스트 데이터를 학습하여 문맥을 이해하고 자연스러운 문장을 생성하는 데 특화되어 있다. GPT 시리즈는 지속적으로 발전해 왔으며, 최근에는 GPT-4.5가 가장 최신 버전이다. 1. GPT의 주요 특징 (1) 사전 학습(Pre-training)과 미세 조정(Fine-tuning) (2) 트랜스포머(Transformer) … Read more

LLM – LLM의 구조와 역할

by

LLM(대규모 언어 모델, Large Language Model)은 자연어를 이해하고 생성하는 인공지능 모델로, 주로 딥러닝과 트랜스포머(Transformer) 구조를 기반으로 동작한다. LLM의 핵심 개념과 역할을 간단히 정리하면 다음과 같다. 1. LLM의 구조 LLM은 주로 트랜스포머(Transformer) 아키텍처를 기반으로 하며, 핵심 구성 요소는 다음과 같다. (1) 트랜스포머 구조 트랜스포머는 2017년 Google의 논문 *”Attention Is All You Need”*에서 처음 소개된 모델로, LLM의 … Read more

ChatGPT로 소프트웨어 개발을 더 빠르게!!!

by

프롬프트 엔지니어링을 활용한 코드 품질 개선, 요구사항 분석, 리팩토링 기법 최근 ChatGPT와 같은 대형 언어 모델(LLM)이 소프트웨어 개발을 혁신적으로 변화시키고 있습니다. 특히 초기 셋업이나 잘 모르는 분야에 대한 빠른 접근을 위해서 매우 유용하게 사용할 수 있습니다. 물론 어느정도 복잡도 있고 어려운 문제에 대한 코드로 상당히 잘 만들어줍니다. (물론 100% 보장 못합니다. 하지만 코드 접근방식에서 유용할 … Read more