mlx1 맥 스튜디오에 로컬모델 구동하기 결국 로컬모델용 디바이스를 다시 구매했다이번엔 맥스튜디오 M4max 램 128기가 모델.. 프론티어 모델 구독은 월 $20정도만 쓰고 코드 구현에는 Qwen 3.8 27B를 2batch 정도 사용하고 구독 한도가 끝나면 Qwen Flash Next 를 사용해보려고 한다구매 결정에 가장 큰 이유는 사실 개인 LLM wiki 관리 때문이다회사에서 일하는것도 같이 넣고 싶은데 프론티어 모델을 쓰면 그 정보가 밖으로 나갈 수 있게 되기 때문 원래는 그 전까진 AI에 '해줘' 했었는데그럼 나에게 남는 것이 아무것도 없으니 한땀한땀 내가 손으로 세팅하고 사용해보려고 한다. 기본 세팅Tailscale이거 없으면 어쩌나 싶다 맥스튜디오는 로컬 LLM을 구동할 것이기 때문에 아무리 128gb 램이라고 해도 다른 작업을 .. 2026. 9. 27. 이전 1 다음
