---
title: "대규모 언어 모델"
title_en: "Large Language Model"
type: 용어
url: https://wiki.tokenpost.kr/w/large-language-model
canonical: https://wiki.tokenpost.kr/w/large-language-model
language: ko
publisher: "토큰포스트"
updated: 2026-08-06T03:17:44.66+00:00
created: 2026-08-06T03:17:46.132767+00:00
same_as: ["https://ko.wikipedia.org/wiki/%EB%8C%80%EA%B7%9C%EB%AA%A8_%EC%96%B8%EC%96%B4_%EB%AA%A8%EB%8D%B8", "https://en.wikipedia.org/wiki/Large_Language_Model"]
status: draft
---

# 대규모 언어 모델
> Large Language Model

> **인용 전에 확인해 주세요.** 이 문서는 자동으로 만든 초안이며 사람의
> 검수를 거치지 않았습니다. 사실 관계는 아래 각주의 원문으로 확인해 주세요.

**분류**: 용어

대규모 언어 모델(LLM)은 방대한 양의 텍스트로 학습되어 인간의 언어를 이해하고 생성하는 인공지능 모델이다.

## 1. 개요

대규모 언어 모델(Large Language Model, LLM)은 인터넷 문서, 서적, 코드 등 방대한 텍스트 데이터를 학습하여 자연어를 이해하고 생성하는 인공지능 모델이다. 문장에서 다음에 올 단어(토큰)를 확률적으로 예측하는 방식으로 작동하며, 이 단순한 원리를 대규모로 확장함으로써 번역, 요약, 질의응답, 글쓰기, 코드 작성 등 다양한 언어 작업을 수행한다.

오늘날의 LLM은 대부분 2017년 구글이 제안한 트랜스포머(Transformer) 신경망 구조를 기반으로 한다. 트랜스포머는 어텐션(attention)이라는 기법으로 문장 안의 단어들이 서로 어떤 관계를 맺는지 학습하며, 이 구조 덕분에 병렬 연산이 가능해져 [GPU](https://wiki.tokenpost.kr/w/gpu) 같은 고성능 하드웨어에서 대규모 학습을 효율적으로 수행할 수 있게 되었다. 모델의 규모는 흔히 파라미터(parameter) 수로 표현되는데, 이는 학습을 통해 조정되는 내부 가중치의 개수로 수억에서 수조 개에 이른다.

## 2. 작동 원리와 학습 과정

LLM의 학습은 크게 두 단계로 나뉜다. 첫째는 사전학습(pre-training)으로, 방대한 텍스트에서 다음 토큰을 예측하는 과제를 반복하며 언어의 문법, 사실 관계, 추론 패턴 등을 스스로 습득한다. 둘째는 미세조정(fine-tuning)으로, 사람의 피드백을 반영한 강화학습(RLHF) 등을 통해 모델의 답변을 더 유용하고 안전하게 다듬는다.

LLM은 텍스트를 토큰이라는 작은 단위로 쪼개어 처리하며, 한 번에 다룰 수 있는 토큰의 양을 컨텍스트 창(context window)이라고 부른다. 이 값이 클수록 더 긴 문서나 대화를 한 번에 이해할 수 있다. 다만 LLM은 학습한 확률 분포에 따라 그럴듯한 문장을 생성할 뿐 사실을 검증하지는 않기 때문에, 존재하지 않는 정보를 그럴듯하게 지어내는 환각(hallucination) 현상이 나타날 수 있다는 한계가 있다.

## 3. 대표적인 모델과 활용

대표적인 LLM으로는 앤트로픽(Anthropic)의 클로드(Claude), 오픈AI의 GPT 계열, 구글의 제미나이(Gemini) 등이 있으며, 이처럼 당대 최고 성능을 겨루는 모델들을 [프런티어 AI](https://wiki.tokenpost.kr/w/frontier-ai)라 부른다. 한편 메타의 라마(Llama) 계열처럼 가중치를 공개하여 누구나 내려받아 활용할 수 있는 [오픈 소스](https://wiki.tokenpost.kr/w/open-source) 모델도 활발히 개발되고 있다.

실제 서비스에서는 대화형 챗봇, 문서 요약, 번역, 프로그래밍 보조 등에 널리 쓰인다. 개발자는 대개 모델 제공사가 공개한 [API](https://wiki.tokenpost.kr/w/api)를 통해 자신의 애플리케이션에 LLM 기능을 연동하며, 코드 저장소인 [깃허브](https://wiki.tokenpost.kr/w/github)에는 LLM을 활용한 다양한 오픈 소스 도구가 공유되어 있다.

## 4. 블록체인·암호화폐와의 관계

LLM은 본래 블록체인과 무관한 인공지능 기술이지만, 최근 두 분야가 교차하는 시도가 나타나고 있다. 자율적으로 판단하고 거래를 실행하는 AI 에이전트에 LLM이 두뇌 역할로 쓰이면서, 온체인에서 활동하는 AI 에이전트나 AI 테마의 [밈코인](https://wiki.tokenpost.kr/w/memecoin)이 주목받았다. 또한 GPU 연산 자원이나 학습 데이터를 탈중앙적으로 공급하려는 [디핀](https://wiki.tokenpost.kr/w/depin) 프로젝트들은 LLM 학습·추론에 필요한 자원을 블록체인 인센티브로 조달하려 한다. 다만 이러한 결합은 아직 초기 단계이며, LLM 자체의 핵심 기술과는 구분해서 이해하는 것이 바람직하다.

---

같은 개체: [위키백과(한국어)](https://ko.wikipedia.org/wiki/%EB%8C%80%EA%B7%9C%EB%AA%A8_%EC%96%B8%EC%96%B4_%EB%AA%A8%EB%8D%B8) · [Wikipedia(EN)](https://en.wikipedia.org/wiki/Large_Language_Model)

원문: https://wiki.tokenpost.kr/w/large-language-model
최종 수정: 2026-08-06T03:17:44.66+00:00
발행: 토큰포스트 위키. 인용할 때 문서 제목과 원문 주소를 함께 밝혀 주세요.