본문 바로가기
Notes

로컬 AI에 대하여

by kynikosist 2026. 8. 30.

전에도 썼지만 장비병이 굉장히 심한 편이다
그래서 RTX3090ti pc도 낭비이고 비 이성적인 구매라고 생각했지만
어차피 계속 사고싶은 마음 때문에 괴로울바에
사서 써보고 느껴보자 생각하고 샀던 것이었다.
그래서 비경제적이고 비합리적이라는 것을 깨달았으니 다시 판것인데..
요즘에 다시 장비가 사고싶어졌다.

RTX 3090 ti pc를 팔았던 이유

발열, 소음

사람들이 경고했던 것보단 덜하다
근데 여름에 버티긴 힘들었다
게다가 18개월 아기가 있는 집에서 돌리기는 매우.. 난감했다

전기요금

물론 해당 pc를 사용할 때 학습을 돌려서 전기를 더 많이 먹은 경우가 있긴 했지만
사용하는 한달동안 100kWh의 전기를 추가로 사용했다
이건 스마트플러그를 사용해서 측정한 값이라서 정확하다
누진 3구간 요금을 생각하면 대략 3만원
그리 크지 않은 돈이지만 프론티어 모댈의 $20달러 급
그리고 opencode go 요금제 2 계정을 사용할 수 있는 금액이다

RTX 3090 ti PC에 기록된 전력 사용량

멀티 에이전트

생각해보면 당연한데
어떤 provider를 사용하든 구독이든 종량제를 사용하면
몇개의 작업이든 동시에 진행할 수 있다
하지만 3090급 그래픽카드로 27~35B 급 Q4모델을 돌리면
딱 1개의 배치만 사용할 수 있다
사실 경제성을 생각해본다면 프론티어 구독모델로 30분이면 끝낼 일을
로컬모델로 2시간 걸린다면
당연히 프론티어 모델을 사용해야 한다
근데 심지어 로컬모델은 한번에 하나씩만 일을 처리할 수 있고
구독 모델을 얼마든지 서브에이전트를 늘릴 수 있다

지금와서 다시 사고 싶은 이유

5시간 한도

지금 나는 Claude Pro($20), ChatGPT Plus($20), Commandcode GOAT($10), Super Grok($30)
이렇게 네 종류의 AI를 구독하고 있다
Opencode go에서 Commandcode로 구현이나 잡일을 시킬 요금제가 넘어갔고
Super Gork은 Grok 4.6이 잘 나왔다길래
$30에 3개월 이용하게 해주는 프로모션을 한 번 등록해봤다
이걸 다 합치면 그냥 $100 요금제 하나를 쓰는게 베스트인데..

난 육아와 본업으로 바이브코딩을 할 수 있는 시간이 매우 한정적이다
클로드 기준으로 생각하면 5시간 한도를 한 번 채우면 일주일 한도의 대략 10%가 찬다
즉 일주일에 5시간 한도를 10번 채우면 된다
아무릴도 없으면 할 수 있지만 다른 일정이 생기면 채우기가 힘들다

ChatGPT $100 플랜에는 5시간 한도가 지금은 없지만
최근에 Plus에 5시간 한도가 부활한 것을 보면.. $100요금제에도 다시 부활할 것 같다
Grok도 5시간 한도는 없지만
왠지 아직 Claude나 GPT 급은 아닌 것 같다

영상 생성

이것저것 경험해보기 좋아하다 보니
최근에는 영상 생성도 해보고 싶어졌다
그런데.. 힉스필드 등 영상생성 AI 구독을 늘리기도 뭔가 아깝고
로컬 AI 머신이 있다면 무제한으로 뽑아볼 수 있을 것 같다

Qwen 3.8 27B

좋은 모델이 나온것도 있다
modal에서 무료로 구동해보니 너무 마음에 든다
물론 난 비개발자이고 나보다야 어떤 모델이든 코딩을 잘 하지만
그리고 Opus급이다 라고 하는 것도 잘 모르겠지만
난 이정도면 충분한데? 라는 생각이 든다

M5 맥미니, 맥스튜디오

분명히 엄청나게 높은 가격이다
그런데 애플이 가격을 한번 올리고 나서 중고장터를 보다가 신제품 가격을보니
그동안 중고 가격보다 신품이 싼데?
라는 생각에 이상하게 가성비처럼 느껴진다
심지어 맥미니나 스튜디오는 앞에서 말한 Nvidia GPU가 들어간 PC보다 전기를 훨씬 덜 먹는다

감가상각?

물음표인 이유는 로컬 AI를 구동할 수 있는 장비들의 중고 시세가 이상해서다
원래 장비투자라 함은 시간이 지날수록 감가상각이 진행돼야 하는데
연초 내가 로컬 AI 장비병이 처음 걸렸을 때 중고시세 기준으로
맥스튜디오 M1Max 64gb RAM 모델 중고가는 200만원 초반대였다
물론 매물이 너무 없었지만
250만원쯤 주면 바로 구할 수 있었다
하지만 동일 모델의 중고시세가 현재는 두배가 돼 있다
그렇다면...
그냥 사서 쓸만큼 쓰다 팔아도 별로 손해 안볼 수 있는 거 아닌가?

결론

사실 아직 결론이 나지 않았다
잘 생각해보면 이번에 새로 출시된 맥미니든 맥스튜디오든 사서 잘 써보고
질리면 다시 파는게 경제적인 것 같은데
로컬 AI를 제대로 사용하려면 400만원,
속도까지 생각하면 최소 600만원의 돈을 한번에 지불해야한다는게
아주 큰 마음의 걸림돌이다.
그리고 왠지 사면 안팔고 계속 쓸 것 같다