본문 바로가기

로컬모델2

로컬 AI 모델 구동하기-2 2단계: Docker 기초목표Docker 핵심 개념 이해 (Image / Container / Volume)기본 명령어 실전 경험docker run 옵션의 의미를 이해하며 사용2-1. Docker 설치GPU 컨테이너까지 사용할 예정이면 sudo snap install docker 대신 Docker 공식 apt 저장소로 설치합니다.Snap Docker는 docker 그룹이 없거나 NVIDIA Container Toolkit 연동에서 예상과 다르게 동작할 수 있습니다.설치 전: apt update 오류가 있으면 먼저 해결apt update가 아래처럼 실패하면 Docker 설치도 중간에 멈춥니다.E: The repository 'https://ppa.launchpadcontent.net/thopiekar/op.. 2026. 6. 14.
로컬 AI 모델 구동하기-1 난 예전부터 어떤 취미생활을 하든 장비부터 채이고보는 장비병이 있다.그래서 이번 AI에 대한 관심이 생겼을 때도 가장 먼저 눈에 들어온건 로컬 모델이다.머리로는 Claude나 ChatGPT와 같은 프론티어 모델을 구독료내고 쓰는게 경제적인거란걸 이해하지만꼭 내가 써봐야하는 병이다.참아보려고 했지만결국 당근에서 중고 RTX 3090 PC를 업어왔다 뭐.. 좀 써보다보면 다시 팔게되지 않을까..?1단계: Linux & GPU 환경 확인목표현재 시스템 상태 파악NVIDIA 드라이버 설치 완료nvidia-smi 정상 출력 확인1-1. 시스템 정보 확인# 배포판 확인lsb_release -a# 커널 버전uname -r# GPU 인식 여부lspci | grep -i nvidia1-2. NVIDIA 드라이버 설치방법.. 2026. 6. 12.