Enterprise LLM · 사내 도입
사내 LLM,
제대로 도입하기
LLM을 사내에 들이는 일은 챗봇을 켜는 것과 다릅니다. 사내 데이터를 안전하게 다루고 비용과 위험을 통제해야 하기 때문입니다. 이 코스는 도입 방식(오픈소스·AWS Bedrock·Azure) 선택에서 시작해 RAG와 벡터DB, SAP 연동, 그리고 보안·거버넌스·비용·운영까지 “사내 LLM을 파일럿에서 전사로 어떻게 안착시키는가”를 실전 관점으로 짚습니다.
코스 · 15강
도입에서 거버넌스까지
도입 방식(1–5) → RAG·연동(6–10) → 보안·거버넌스·운영(11–15).
01
Enterprise LLM이란 →
사내 도입의 가치와 위험 — 왜 지금인가
시작하기
02
도입 방식 선택 →
오픈소스 vs API vs 클라우드 — 트레이드오프
시작하기
03
오픈소스 셀프호스팅 →
Llama 등 사내 서버에 — GPU 요건
시작하기
04
AWS Bedrock →
매니지드 파운데이션 모델 — 관리 부담 줄이기
시작하기
05
Azure OpenAI →
MS 생태계와 엔터프라이즈 통합
시작하기
06
RAG →
사내 문서로 답하게 — 검색 증강 생성
시작하기
07
벡터 DB·임베딩 →
사내 지식을 의미로 인덱싱
시작하기
08
파인튜닝 vs RAG vs 프롬프트 →
언제 무엇을 — 비용·정확도·유지보수
시작하기
09
SAP 연동 →
ERP 데이터를 LLM에 — Azure Gateway
시작하기
10
API 게이트웨이 →
통합 아키텍처 — 모델 앞단 관문
시작하기
11
보안·프라이버시 →
PII·데이터 유출 방지 — 새지 않게
시작하기
12
거버넌스 →
정책·승인·감사 — 누가 무엇을 쓰나
시작하기
13
비용 관리 →
토큰·캐싱·모델 선택으로 비용 통제
시작하기
14
평가·모니터링 →
품질·환각·관측성 — 운영 중 감시
시작하기
15
도입 로드맵 →
파일럿에서 전사 확산까지
시작하기
아키텍처 다이어그램·비용 계산기·RAG 흐름을 인터랙티브로 짚음.