분류 전체보기19 로컬 AI에 대하여 병전에도 썼지만 장비병이 굉장히 심한 편이다그래서 RTX3090ti pc도 낭비이고 비 이성적인 구매라고 생각했지만어차피 계속 사고싶은 마음 때문에 괴로울바에사서 써보고 느껴보자 생각하고 샀던 것이었다.그래서 비경제적이고 비합리적이라는 것을 깨달았으니 다시 판것인데..요즘에 다시 장비가 사고싶어졌다.RTX 3090 ti pc를 팔았던 이유발열, 소음사람들이 경고했던 것보단 덜하다근데 여름에 버티긴 힘들었다게다가 18개월 아기가 있는 집에서 돌리기는 매우.. 난감했다전기요금물론 해당 pc를 사용할 때 학습을 돌려서 전기를 더 많이 먹은 경우가 있긴 했지만사용하는 한달동안 100kWh의 전기를 추가로 사용했다이건 스마트플러그를 사용해서 측정한 값이라서 정확하다누진 3구간 요금을 생각하면 대략 3만원그리 크지.. 2026. 8. 30. 로컬 모델 공짜로 돌려보기 - Modal 장비병이건 다른 말로 설명할 수 없다병이다지난 포스팅 중에 로컬모델 돌리기에서 언급했듯장비병이 심해서 RTX 3090 Ti PC를 구매했었고지금은 팔았다프론티어 모델보다 성능이 떨어지는 로컬모델을 구동하면한달에 전기요금이 3만원거의 프론티어모델 $20 구독료만큼 나온다무제한 토큰을 사용하고 싶어서 GPU 서버용으로 산건데무제한이지만 쓰는만큼 돈이 드니.. 거의 종량제가 아닌가..그래서 다시 팔았다성격도 급해서 느긋하게 구매자를 기다렸으면 샀던 가격 그대로 팔 수 있었을 것 같은데빨리 팔고 싶어서 손해보고 팔았다 로컬 AI 모델 구동하기-1난 예전부터 어떤 취미생활을 하든 장비부터 채이고보는 장비병이 있다.그래서 이번 AI에 대한 관심이 생겼을 때도 가장 먼저 눈에 들어온건 로컬 모델이다.머리로는 Cl.. 2026. 8. 21. Commandcode 리뷰 서론사진이 취미일 때도 사진 자체도 좋았지만카메라나 렌즈 같은 장비에 관심이 더 많았었다 바이브코딩에 입문한 후로 모델이나 요금제, 디바이스도 이것저것 찍먹을 하고 있다코딩에 대해서 공부한 건 파이썬 기초정도뿐이고어떤 모델이 벤치마크가 어떻고 어떤 능력이 좋고 이런 걸 판단하기엔 내가 수준이 많이 부족하지만 그냥 비개발자로서 내가 느낀 소회 정도를 정리해보려고 한다. 찍먹의 이유이전 $50로 바이브코딩하기 같은 글을 쓴 걸 보면 아 이 사람은 바이브코딩에 큰돈 쓸 생각이 없구나 라는걸 알 수 있다 https://localhost-3000.tistory.com/entry/50로-바이브코딩 $50로 바이브코딩서론바이브 코딩을 위해선 Claude나 ChatGPT 유료 구독이 필수적이다.특히 원래 개발자라면 .. 2026. 8. 18. 보드게임 추천 서론모임이나 약속 자리에서 보드게임 카페나 집들이에 가면 항상 같은 고민을 한다.이 사람들이랑 뭘 해야 하지.인원수는 정해져 있다. 처음 보드게임 하는 사람도 있고 좀 해본 사람도 있는데, 뭘 골라야 다 같이 재밌게 할 수 있을지 매번 막막했다.문제기존 보드게임 추천은 대부분 두 축으로 정리돼 있다.BoardGameGeek은 유저 평점을 베이지안 방식으로 보정한 랭킹을 보여준다. 평점이 높은 순으로 게임을 늘어놓는 방식이다.국내 보드라이프 같은 곳은 인원수별 베스트·추천·비추천 투표를 모아 "이 인원수엔 이 게임" 식으로 정리한다.둘 다 "잘 만든 게임이 뭔지", "몇 명이 하기 좋은지"는 알려준다.그런데 정작 내가 궁금한 건 그게 아니었다.오늘 만나는 사람이 처음 보는 사람인지, 친한 친구인지, 연인인.. 2026. 8. 13. AI와 영어공부를 동시에 중학교 때 정말 웃기지도 않는 이유로 영어를 포기했다.수능에서도 영어는 5등급이었고, 취직할 때도 걸림돌이었다.심지어 진급할 때도 영어성적이 발목을 잡았었다.그런데 이젠 프롬프트도 영어로 쓰는게 AI 성능을 더 잘 발휘하게 해준다고한다.문제AI도 매일 새로운 것들이 나오는데 영어공부도 해야한다.내가 당장 필요한 영어는 회화가 아니라 AI에게 내 목적을 전달하는 것이다.영어도 운동처럼 계속하지 않으면 까먹는다.내가 필요한걸 만들어야 남들도 쓴다.해결학습 소재를 AI 프롬프트로 한정했다Writing, Coding, Analysis, Creative, Business — 5개 카테고리로 실제로 쓸만한 프롬프트 20개를 직접 만들었다.각 프롬프트마다 핵심 표현과 빈칸 퀴즈가 들어있다."전문 카피라이터로 행동해줘.. 2026. 6. 23. 로컬 AI 모델 구동하기-3 핵심 요약컨텍스트 윈도우를 키우면 KV 캐시가 VRAM을 쓴다.27B Dense는 96K에서 128K로 넘어가는 순간 생성 속도가 1/4가 된다 35B MoE는 CPU로 오프로드하면서도 27B Dense 96K보다 빠르다중요한건 모델 크기만이 아니다 로컬 모델에 처음 관심을 가질 때 모델의 크기만 중요한 걸로 생각했다.그래서 '구동이 가능하다'라는 것만 보고 되는구나 라고 생각했다.하지만 실제 VRAM 사용량은 이렇다.VRAM = 모델 가중치 + KV 캐시 + 런타임 버퍼KV 캐시는 이전 토큰의 연산 결과를 저장해두는 공간이다.컨텍스트가 길수록 캐시가 커진다. 256K 컨텍스트라면 모델 크기와 맞먹는 수준의 VRAM이 추가로 필요할 수 있다.아무리 큰 모델을 구동할 수 있다 한들 컨텍스트 윈도우가 작으면.. 2026. 6. 17. 이전 1 2 3 4 다음
