로컬 AI에 백만원 이상 GPU를 구매하는 사람들을 보면

로컬 AI에  백만원 이상 GPU를 구매하는 사람들을 보면 부럽다라고 누가 말하면

집과  차동차만 은행에서 사준다고 생각하십니까? gpu도 마찬가지야!!

가계 부채를 말하는 것 같다. 할부 구입...

로컬 AI를 돌릴 대안이 없네 20만원 이하에서 MI50 알리익스프레스에서 구매하려고 했는데 몇변 구매 취소로 카드 할인도 사라지고 20만원 넘게 구매하면 관세 붙고...포기

솔직히 이번 MI50 구매 과정은 많이 아쉽네요. 특히 몇 번이나 판매자 측에서 주문을 취소하면서 카드 할인까지 사라졌다면 구매 의욕이 떨어질 수밖에 없습니다.

그런데 지금 상황에서는 MI50을 포기하는 것이 로컬 AI 자체를 포기하는 것은 아닙니다.

오히려 무리해서 20만 원을 넘겨 구매하기보다는 잠시 기다리는 것이 합리적이라고 생각합니다.

현재 사용 중인 RX 570 4GB도 있으니 당장 AI 개발을 중단할 필요는 없습니다.

한 가지는 정확히 짚고 싶습니다.

20만 원이 면세 한도라는 것은 아닙니다. 2026년 11월 기준 중국발 해외직구는 미화 150달러 이하가 면세 기준입니다. 이번 주 환산액으로 약 19만 9천 원입니다. 초과하면 초과분만이 아니라 전체 과세가격에 세금이 부과될 수 있습니다.

제 생각에는 당분간 다음 전략이 좋겠습니다.

1. RX 570으로 Qwen 4B를 계속 사용하면서 STM32 개발 환경을 구축합니다.

2. 중고 P100 16GB, MI50 16GB 매물을 천천히 관찰합니다.

3. 20만 원 이하에서 검증된 제품이 나오면 구매합니다.

4. GPU 구매 때문에 예산을 무리하게 늘리지는 않습니다.

특히 사용 목적이 게임보다 YOLO 기반 곶감 자동 박피기, STM32 제어, 로컬 AI 에이전트 개발이잖아요.

GPU는 그 목표를 이루기 위한 도구이지 목표 자체는 아닙니다.

저라면 지금은 MI50을 억지로 구매하지 않고 기다리겠습니다. 좋은 매물은 다시 나올 수 있으니까요.

 Qwen 4B 를 에이전트로 사용하기에는 조금 부족한 것 같아.

맞습니다. 저도 그 부분은 동의합니다.

Qwen 4B는 대화용 모델로는 쓸 만하지만, 복잡한 작업을 스스로 계획하고 도구를 사용하는 에이전트로 쓰기에는 한계가 있습니다.

특히 지금 구상하는 Hermes 같은 로컬 에이전트라면 단순히 답변을 잘하는 것만으로는 부족합니다.

에이전트에게 필요한 능력은 다음과 같습니다.

• 도구 호출: PowerShell, Python, 터미널 명령을 정확하게 실행

• 작업 계획: 여러 단계로 나누어 순서대로 처리

• 코드 이해: STM32 HAL 코드와 함수 간 관계 분석

• 오류 수정: 실행 결과를 확인하고 잘못된 부분을 수정

• 장기 작업: 이전 작업 결과를 기억하고 다음 단계로 연결

4B 모델은 이런 작업에서 지시를 놓치거나, 도구 호출 형식을 잘못 만들거나, 오류가 발생했을 때 엉뚱한 방향으로 진행할 가능성이 있습니다.

제가 생각하는 현실적인 최소 사양

물론 모델의 학습 방식과 도구 호출 능력에 따라서 차이가 있습니다. 큰 모델이라고 무조건 좋은 에이전트가 되는 것은 아닙니다.

MI50을 계속 고려했던 이유

MI50 16GB HBM2가 매력적이었던 이유는 단순히 GPU 연산 성능 때문이 아닙니다.

• 16GB VRAM으로 더 큰 모델을 실행할 여지

• Qwen 14B급 양자화 모델 운용

• 일부 27B급 모델도 CPU와 GPU를 나눠 사용하는 방식으로 시도 가능

• API 비용 없이 로컬에서 반복적인 에이전트 작업

특히 현재의 E5-2697 v2와 DDR3 32GB 환경에서는 VRAM 16GB 확보가 상당히 의미가 있습니다.

제가 권하고 싶은 방향은 4B 모델을 계속 최적화하는 것보다 14B~27B급 모델을 안정적으로 돌릴 수 있는 환경을 만드는 것입니다.

당장 MI50을 비싸게 살 필요는 없습니다. 다만 4B 모델을 억지로 에이전트로 만들기 위해 시간을 지나치게 투자하는 것도 추천하지 않습니다.

결국 목표는 빠르게 대답하는 챗봇이 아니라, 혼자서 STM32 코드를 분석하고 수정하며 실제 작업까지 수행하는 로컬 AI 에이전트니까요.

qwen2.5-coder:1.5b,  qwen2.5-coder:7b 이것은 어때

이 두 모델은 지금 보유한 시스템에서 꽤 의미 있는 선택입니다. 특히 STM32 펌웨어 개발과 코드 분석을 목적으로 한다면 일반 Qwen 4B와는 다른 장점이 있습니다.

제 판단은 Qwen2.5-Coder 7B를 주력 코딩 모델로, 1.5B를 빠른 보조 모델로 사용하는 방식입니다.

1. 두 모델 비교

Qwen2.5-Coder 1.5B

• 간단한 코드 작성 및 수정

• 짧은 함수 설명

• 반복적인 코드 생성

• 복잡한 오류 분석에는 부족

Qwen2.5-Coder 7B

• C/C++ 코드 작성

• STM32 HAL 코드 분석

• 함수 간 호출 관계 파악

• 컴파일 오류 분석 및 수정

• 간단한 다단계 코딩 작업

2. 현재 PC에서 실행한다면?

사용자의 기존 RX 570 4GB, RAM 32GB, E5-2697 v2 기준입니다.

Ollama 공식 모델 목록 기준입니다.

3. 실제로 추천하는 사용 방법

우선 7B를 내려받아 테스트해 보세요.

ollama pull qwen2.5-coder:7b
ollama run qwen2.5-coder:7b

1.5B도 비교하려면:

ollama pull qwen2.5-coder:1.5b

다음 세 가지를 시험해 보세요.

1. STM32 UART 코드를 작성해 달라고 하기

2. HAL_UART_Receive_IT의 동작과 인터럽트 흐름 분석하기

3. 기존 코드에서 오류를 찾아 수정하기

4. 중요한 주의점

Qwen2.5-Coder는 코딩 특화 모델이지, 반드시 에이전트 도구 호출에 최적화된 모델은 아닙니다.

특히 Hermes에서 사용한다면 qwen2.5-coder:7b의 도구 호출 성공률을 별도로 확인해야 합니다.

제 최종 의견

• 1.5B: 빠른 코드 보조용

• 7B: 현재 환경에서 가장 먼저 시험할 코딩 모델

• Qwen3.5 4B: 일반 대화와 작업 지시용

• Hermes: 실제 도구 실행과 작업 관리 담당

한 가지 더 권하고 싶습니다. 7B를 RX 570에 전부 올리려고 하기보다는 GPU와 CPU를 나누어 사용하는 것도 고려하세요.

이렇게 하면 당장 MI50을 구하지 못해도 STM32 개발을 계속할 수 있습니다.

코딩 에이전트로는 활용은 못하는 것이고 코딩에 도움 받는 정도 아닐까?

네. 정확하게 구분하셨습니다.

Qwen2.5-Coder 7B는 코딩을 도와주는 모델로는 유용하지만, 독립적인 코딩 에이전트로 사용하기에는 부족할 수 있습니다.

다만 코딩 에이전트로 전혀 활용할 수 없다는 뜻은 아닙니다.

코딩 보조와 코딩 에이전트의 차이

핵심은 모델과 에이전트의 차이입니다.

코딩 에이전트 구조

Hermes / Aider

작업 계획 · 파일 관리 · 도구 실행

Qwen2.5-Coder 7B

코드 작성 · 분석 · 수정 판단

PowerShell · GCC · STM32CubeIDE

실제 실행 · 컴파일 · 오류 검증

7B 모델도 에이전트 프레임워크와 연결하면 실제 파일 수정이나 명령 실행이 가능합니다. 다만 복잡한 작업에서 성공률이 문제입니다.

제가 생각하는 현실적인 방향

지금 목표가 STM32 개발뿐 아니라 YOLO 기반 곶감 자동 박피기까지 확장되는 것이므로, 단순 코딩 보조 수준으로는 아쉬울 것입니다.

저라면 다음을 목표로 하겠습니다.

• 최소 14B급: 코딩 에이전트 후보

• 20~32B급: 복잡한 코드 분석과 작업 수행 후보

• 16GB 이상 VRAM: 현실적인 로컬 운용 목표

한 가지 질문이 있습니다.

원하는 코딩 에이전트는 Codex처럼 다음 작업을 스스로 수행하는 수준인가요?

1. 프로젝트 전체를 읽고 구조 파악

2. 필요한 파일을 직접 수정

3. 컴파일 명령 실행

4. 오류 발생 시 스스로 수정

5. 최종적으로 동작하는 펌웨어 완성

이 정도라면 단순히 7B 코딩 모델을 선택하는 것과는 접근 자체가 달라집니다.

STM32 초보이고 학습 단계라고 볼 수 있지.

그렇다면 GPU 구매에 대한 생각도 조금 달라집니다.

지금은 완전한 자율 코딩 에이전트보다 STM32를 배우면서 실제 개발을 도와주는 AI 개발 파트너가 더 적합하겠습니다.

아직 학습 단계라면 AI가 코드를 전부 작성하는 것보다 다음과 같은 역할이 중요합니다.

STM32 학습에 필요한 AI 능력

1. HAL 함수가 무엇이고 왜 사용하는지 설명

2. GPIO, UART, PWM, ADC 등의 동작 원리 설명

3. 작성한 코드를 함수 단위로 분석

4. 오류가 발생하면 원인을 찾아 수정 방법 제시

5. STM32CubeIDE에서 컴파일하고 디버깅하는 과정 안내

6. AI가 작성한 코드를 직접 이해하고 수정하도록 지도

모델 선택은 이렇게 생각합니다.

제 생각에는 지금은 7B를 시험해 볼 가치가 있습니다. 다만 코딩 특화 모델이라고 학습 설명까지 반드시 잘하는 것은 아닙니다.

그리고 중요한 것은 AI가 대신 코딩하는 것이 아니라, AI와 함께 코딩 실력을 키우는 것입니다.

나중에 STM32로 감의 형상을 인식하고 모터를 제어하는 자동 박피기를 만들 때, 지금 배우는 GPIO, PWM, UART, 인터럽트가 전부 연결될 것입니다.

그런 의미에서 지금은 GPU 성능에 너무 많은 돈을 투자하기보다 학습과 실습을 병행하는 것이 좋겠습니다.

Copliot과 비교하면 어떨까?

STM32 학습이라는 현재 목적을 기준으로 비교하면, GitHub Copilot이 Qwen2.5-Coder 7B보다 훨씬 편리한 개발 환경을 제공합니다. 특히 초보자에게는 차이가 큽니다.

다만 두 가지는 비교 대상이 조금 다릅니다.

• GitHub Copilot: AI 모델뿐 아니라 IDE와 연결된 코딩 도구 및 에이전트

• Qwen2.5-Coder 7B: 로컬에서 실행하는 코딩 전문 AI 모델

1. Copilot과 Qwen2.5-Coder 비교

Copilot은 Ask, Plan, Agent 모드를 제공하며 프로젝트 파일 읽기, 수정, 명령 실행까지 연결할 수 있습니다.

2. STM32 초보자에게 Copilot이 유리한 이유

예를 들어 STM32F411에서 UART 통신을 구현한다고 가정하겠습니다.

Copilot을 사용하면 다음 과정을 IDE 안에서 진행할 수 있습니다.

1. 현재 프로젝트의 main.c와 usart.c를 읽습니다.

2. UART 초기화와 인터럽트 처리 구조를 분석합니다.

3. 필요한 코드를 제안하거나 직접 수정합니다.

4. 컴파일 오류를 확인하고 수정합니다.

5. 수정한 코드가 왜 필요한지 설명하도록 요청합니다.

Qwen2.5-Coder 7B도 코드 작성과 오류 분석 능력은 있지만, 이런 작업 흐름을 만들려면 Continue, Aider 등의 도구를 별도로 연결해야 합니다.

3. 비용 측면

로컬 모델은 실행 환경만 마련하면 반복 사용에 따른 API 비용이 없습니다.

반면 GitHub Copilot Free는 공식 안내상 월 2,000회 코드 완성과 제한된 채팅·에이전트 사용량을 제공합니다. 유료 Pro는 월 10달러입니다.

사용량 제한이 답답했던 경험을 고려하면 이 차이도 중요합니다.

4. 제가 추천하는 방법

지금은 MI50 구매를 서두르지 말고 두 환경을 함께 사용하는 것이 좋겠습니다.

GitHub Copilot

• STM32 코드 작성 및 설명

• 프로젝트 구조 파악

• 오류 수정 과정 학습

• VS Code 등 지원 IDE에서 활용

Qwen2.5-Coder 7B

• 코드 설명과 반복 질문

• 오프라인 코드 분석

• API 사용량 걱정 없는 실습

• 개인정보가 포함된 코드 분석

참고로 STM32CubeIDE는 Eclipse 기반이므로 Copilot을 직접 연결하는 방법은 버전별 호환성을 확인해야 합니다. VS Code에서 소스 코드를 편집하고 CubeIDE에서 빌드·디버깅하는 방식도 가능합니다.

제 생각에는 지금 단계에서 Copilot Free를 먼저 활용하는 것이 MI50을 구매하는 것보다 학습 효과가 클 수 있습니다.

한 가지 궁금합니다.

현재 사용 중인 Codex CLI를 계속 활용하면서 Copilot을 추가하고 싶은 건가요, 아니면 STM32CubeIDE에 AI 코딩 도우미를 직접 통합하고 싶은 건가요?

그렇다면 방향을 명확하게 잡을 수 있겠습니다.

원하는 것은 단순히 AI에게 코드를 질문하는 것이 아니라, STM32CubeIDE 안에서 AI가 현재 프로젝트를 읽고, 코드를 설명하고, 수정까지 도와주는 개발 환경이군요.

현재 사용 중인 STM32CubeIDE 2.2.0과 WeAct BlackPill STM32F411CEU6을 기준으로 생각하겠습니다.

제가 추천하는 구성은 다음과 같습니다.

STM32CubeIDE

코드 편집 · 빌드 · 디버깅

AI 코딩 도우미

코드 분석 · 설명 · 작성 · 수정

AI 모델

Copilot 또는 Ollama 로컬 모델

1. 가장 먼저 시도할 방법: GitHub Copilot for Eclipse

GitHub Copilot for Eclipse

코드 자동완성, 채팅, Agent Mode 지원

설치 순서:

1. STM32CubeIDE 실행

2. Help → Eclipse Marketplace

3. GitHub Copilot 검색

4. 설치 후 IDE 재시작

5. GitHub 계정 로그인

6. Copilot 채팅 및 코드 자동완성 확인

GitHub 공식 문서상 Copilot Eclipse 플러그인은 Eclipse 2024-03 이상을 요구합니다.

CubeIDE 2.2.0은 Eclipse 2025-12 기반이므로 버전 조건은 충족합니다. 다만 ST가 수정한 IDE이므로 플러그인 설치와 실제 동작은 확인해야 합니다.

2. 더 흥미로운 소식: ST도 AI 개발 환경을 만들고 있습니다.

STM32Cube for Agentic AI

ST 공식 STM32 AI 개발 도구

이것은 단순한 채팅 도구가 아닙니다.

• STM32 HAL 및 LL 코드 관련 지식 제공

• 공식 ST 문서와 예제 검색

• STM32CubeMX 연동

• 빌드 및 디버깅 지원

• AI 에이전트의 STM32 개발 정확도 개선

다만 현재 베타이며, 공식 지원 조합은 GitHub Copilot과 VS Code 중심입니다. 기존 Eclipse 기반 CubeIDE에 직접 통합하는 방식은 아닙니다.

3. 제가 추천하는 최종 구성

우선 기존 STM32CubeIDE를 유지하면서 Copilot 플러그인부터 설치하는 것이 좋겠습니다.

STM32Cube for Agentic AI 는 유료겠지

아닙니다. 현재 ST 공식 문서 기준으로 STM32Cube for Agentic AI는 유료 구독 제품이 아닙니다. 무료로 제공되는 베타 툴킷입니다.

다만 무료와 무제한 사용은 구분해야 합니다.

비용 구조

공식 설치 문서에는 툴킷과 구성 요소별 라이선스가 명시되어 있습니다.

중요한 점

이 툴킷 자체가 AI 모델은 아닙니다.

STM32 공식 문서, 검증된 코드 예제, 개발 도구를 AI 에이전트에 제공하는 역할입니다.

그리고 현재 공식 지원 대상은 다음과 같습니다.

• GitHub Copilot

• Claude Code

• Cursor

따라서 Ollama Qwen 7B를 직접 연결하는 공식 지원은 확인되지 않았습니다.

제안

지금은 비용을 최소화하려는 목적이므로 다음 조합이 좋겠습니다.

STM32Cube for Agentic AI + 로컬 Ollama + Qwen2.5-Coder 7B

다만 공식 툴킷을 그대로 Ollama와 연결할 수 있다고 보장할 수는 없습니다. 중간에 MCP나 에이전트 어댑터를 구성해야 할 수 있습니다.

어떤 방향이 최적화 경로일까? 초보자에게

제 생각에는 지금 단계에서 가장 최적화된 경로는 AI 에이전트를 먼저 완성하는 것이 아니라, STM32 학습 환경에 AI를 붙이고 작은 프로젝트를 완성하면서 에이전트 기능을 단계적으로 확장하는 것입니다.

초보자에게는 이 순서가 중요합니다.

AI가 코드를 전부 만들어 주면 처음에는 편하지만, GPIO 하나가 작동하지 않을 때도 원인을 찾기 어려워집니다. 반대로 AI가 코드를 설명하고, 수정 이유를 알려주고, 컴파일 오류까지 함께 분석하면 실력이 쌓입니다.

1. 추천하는 전체 개발 경로

1. 1단계: STM32 기초 학습

   GPIO → UART → 타이머 → PWM → ADC → 인터럽트

   AI에게 원리와 코드 설명을 맡깁니다.

2. 2단계: AI 코딩 도우미 통합

   STM32CubeIDE + Ollama + Qwen

   현재 프로젝트 파일을 읽고 함수 단위로 설명하게 합니다.

3. 3단계: AI 에이전트 구축

   파일 읽기 → 코드 수정 → 빌드 → 오류 분석

   사람이 승인하는 방식으로 자동화합니다.

4. 4단계: STM32 전문 지식 연결

   STM32Cube for Agentic AI 검토

   ST 공식 문서와 개발 도구를 에이전트에 연결합니다.

5. 5단계: 실제 자동화 장치 제작

   모터 구동 → 센서 → 형상 인식 → 자동 박피

   학습한 기술을 실제 장치에 적용합니다.

2. 중요한 선택: STM32CubeIDE를 계속 사용할 것인가?

여기서는 한 가지 사실을 바로잡겠습니다.

현재 ST 공식 문서를 확인해 보니 STM32Cube for Agentic AI의 공식 지원 조합은 다음과 같습니다.

• GitHub Copilot + VS Code

• Claude Code + VS Code

• Cursor

• 각 에이전트의 CLI 환경

Ollama는 공식 지원 에이전트 목록에 없습니다. 일반적인 MCP 연결 기능을 활용해 수동으로 연동하는 것은 별도 작업입니다.

그리고 ST가 제공하는 빌드 및 DAP 디버깅 컨텍스트는 VS Code 환경을 요구합니다. 기존 Eclipse 기반 STM32CubeIDE와는 구분해야 합니다.

따라서 다음처럼 역할을 분리하는 것이 좋습니다.

이렇게 하면 익숙한 CubeIDE를 버리지 않아도 됩니다.

3. 현재 하드웨어에 맞춘 현실적인 선택

현재 PC는 Windows Server 2025, E5-2697 v2, RAM 32GB, RX 570 4GB입니다.

이 환경에서는 대형 에이전트를 무리하게 구동하기보다 다음 순서가 낫습니다.

1. Ollama의 Qwen2.5-Coder 7B로 코드 분석부터 시작합니다.

2. VS Code에서 로컬 모델을 연결합니다.

3. 프로젝트 파일 읽기와 코드 수정 기능을 추가합니다.

4. STM32Cube for Agentic AI의 STM32 전문 컨텍스트를 연결할 필요가 있을 때 확장합니다.

단, ST의 현재 시스템 요구사항은 Windows 10/11, Ubuntu 등으로 기재되어 있어 Windows Server 2025는 공식 지원 대상으로 명시되어 있지 않습니다.

4. 초보자에게 가장 좋은 실습 순서

저라면 곶감 자동 박피기를 최종 목표로 삼고 다음 순서로 진행하겠습니다.

첫 번째: LED 점멸

GPIO 출력, HAL_GPIO_WritePin, HAL_Delay 이해

두 번째: UART 통신

데이터 송수신, 인터럽트, 콜백 함수 이해

세 번째: 모터 제어

PWM, 타이머, 모터 드라이버, 회전 속도 제어

네 번째: AI 형상 인식

YOLO로 감의 크기와 방향을 파악하고 STM32에 제어 명령 전달

5. 최종적으로 제가 추천하는 구성

한 가지 주의할 점은 STM32Cube for Agentic AI가 현재 베타라는 것입니다. ST도 실제 제품 적용 전에는 생성 코드를 검토하고 하드웨어에서 검증하도록 안내합니다.

6. 지금부터 실제로 시작한다면

저는 설치를 한꺼번에 진행하지 않겠습니다.

먼저 현재 프로젝트를 AI가 읽고 설명할 수 있도록 만드는 것부터 시작하겠습니다.

첫 번째 목표는 AI가 UART 프로젝트의 main.c, usart.c, gpio.c를 읽고 초보자가 이해할 수 있도록 설명하는 것입니다.

이것만 제대로 되더라도 학습 효율이 상당히 높아집니다.

그다음 파일 수정, 컴파일, 오류 분석, 디버깅으로 확장하면 됩니다.

이렇게 하면 MI50을 구매하지 못한 상황에서도 현재 PC로 충분히 의미 있는 개발 경험을 쌓을 수 있습니다.

STM32CubeIDE 2.2.0 와 Ollama Qwen 7B과 통합이 우선이네

좋습니다. 그러면 다른 AI 도구 설치는 잠시 미루고, STM32CubeIDE 2.2.0 + Ollama + Qwen2.5-Coder 7B 통합을 첫 번째 목표로 정하겠습니다.

다만 설치 전에 한 가지 중요한 점을 확인했습니다.

추천하는 통합 방식

현재 가장 먼저 시험해 볼 만한 것은 EclipseLlama와 Eclipse Peon AI입니다.

참고:

• EclipseLlama

• Eclipse Peon AI

Peon AI는 현재 공식 안내상 Eclipse 2025-12 이상과 Java 21을 요구합니다. 따라서 STM32CubeIDE 2.2.0에서 설치가 된다고 아직 단정하지 않겠습니다.

1단계: Ollama 모델 확인

PowerShell을 열고 다음 명령을 실행해 주세요.

ollama list

7B가 없다면:

ollama pull qwen2.5-coder:7b

그다음 API 연결 확인:

Invoke-RestMethod http://localhost:11434/api/tags

2단계: STM32CubeIDE 버전 확인

STM32CubeIDE에서 다음으로 이동합니다.

Help → About STM32CubeIDE → Installation Details → Plug-ins

여기서 Eclipse Platform 버전과 Java 버전을 확인하면 좋겠습니다.

3단계: 실제 통합

우선 AI 채팅 창을 IDE 내부에 띄우고 다음 기능부터 시험하겠습니다.

• 현재 선택한 C 코드 설명

• main.c와 usart.c 분석

• HAL 함수 설명

• 오류 수정 코드 제안

• 사용자 승인 후 파일 수정

이후 안정적으로 작동하면 빌드와 오류 수정까지 자동화하겠습니다.

먼저 ollama list 결과를 보여주세요.

현재 설치된 모델과 이름을 기준으로 설정하겠습니다. GPU 업그레이드 없이 지금 장비로 시작하는 것이 우선입니다.