로컬모델4 로컬 AI에 대하여 병전에도 썼지만 장비병이 굉장히 심한 편이다그래서 RTX3090ti pc도 낭비이고 비 이성적인 구매라고 생각했지만어차피 계속 사고싶은 마음 때문에 괴로울바에사서 써보고 느껴보자 생각하고 샀던 것이었다.그래서 비경제적이고 비합리적이라는 것을 깨달았으니 다시 판것인데..요즘에 다시 장비가 사고싶어졌다.RTX 3090 ti pc를 팔았던 이유발열, 소음사람들이 경고했던 것보단 덜하다근데 여름에 버티긴 힘들었다게다가 18개월 아기가 있는 집에서 돌리기는 매우.. 난감했다전기요금물론 해당 pc를 사용할 때 학습을 돌려서 전기를 더 많이 먹은 경우가 있긴 했지만사용하는 한달동안 100kWh의 전기를 추가로 사용했다이건 스마트플러그를 사용해서 측정한 값이라서 정확하다누진 3구간 요금을 생각하면 대략 3만원그리 크지.. 2026. 8. 30. 로컬 모델 공짜로 돌려보기 - Modal 장비병이건 다른 말로 설명할 수 없다병이다지난 포스팅 중에 로컬모델 돌리기에서 언급했듯장비병이 심해서 RTX 3090 Ti PC를 구매했었고지금은 팔았다프론티어 모델보다 성능이 떨어지는 로컬모델을 구동하면한달에 전기요금이 3만원거의 프론티어모델 $20 구독료만큼 나온다무제한 토큰을 사용하고 싶어서 GPU 서버용으로 산건데무제한이지만 쓰는만큼 돈이 드니.. 거의 종량제가 아닌가..그래서 다시 팔았다성격도 급해서 느긋하게 구매자를 기다렸으면 샀던 가격 그대로 팔 수 있었을 것 같은데빨리 팔고 싶어서 손해보고 팔았다 로컬 AI 모델 구동하기-1난 예전부터 어떤 취미생활을 하든 장비부터 채이고보는 장비병이 있다.그래서 이번 AI에 대한 관심이 생겼을 때도 가장 먼저 눈에 들어온건 로컬 모델이다.머리로는 Cl.. 2026. 8. 21. 로컬 AI 모델 구동하기-2 2단계: Docker 기초목표Docker 핵심 개념 이해 (Image / Container / Volume)기본 명령어 실전 경험docker run 옵션의 의미를 이해하며 사용2-1. Docker 설치GPU 컨테이너까지 사용할 예정이면 sudo snap install docker 대신 Docker 공식 apt 저장소로 설치합니다.Snap Docker는 docker 그룹이 없거나 NVIDIA Container Toolkit 연동에서 예상과 다르게 동작할 수 있습니다.설치 전: apt update 오류가 있으면 먼저 해결apt update가 아래처럼 실패하면 Docker 설치도 중간에 멈춥니다.E: The repository 'https://ppa.launchpadcontent.net/thopiekar/op.. 2026. 6. 14. 로컬 AI 모델 구동하기-1 난 예전부터 어떤 취미생활을 하든 장비부터 채이고보는 장비병이 있다.그래서 이번 AI에 대한 관심이 생겼을 때도 가장 먼저 눈에 들어온건 로컬 모델이다.머리로는 Claude나 ChatGPT와 같은 프론티어 모델을 구독료내고 쓰는게 경제적인거란걸 이해하지만꼭 내가 써봐야하는 병이다.참아보려고 했지만결국 당근에서 중고 RTX 3090 PC를 업어왔다 뭐.. 좀 써보다보면 다시 팔게되지 않을까..?1단계: Linux & GPU 환경 확인목표현재 시스템 상태 파악NVIDIA 드라이버 설치 완료nvidia-smi 정상 출력 확인1-1. 시스템 정보 확인# 배포판 확인lsb_release -a# 커널 버전uname -r# GPU 인식 여부lspci | grep -i nvidia1-2. NVIDIA 드라이버 설치방법.. 2026. 6. 12. 이전 1 다음
