엔비디아 없이 AMD 그래픽카드로 LLM 파인튜닝 가능

Unsloth가 AMD ROCm과 Triton 커널을 활용해 라데온·인스팅트·라이젠 GPU에서 500개 이상의 대형 언어 모델(LLM)을 학습·추론할 수 있게 했다. 학습 속도는 최대 2배 빨라지고 VRAM 사용량은 70% 감소했으며 정확도 손실이 없다고 발표했다. 이제 3GB VRAM 구형 카드에도 Qwen·Gemma 등 모델을 파인튜닝할 수 있다. 쉬운 설명: 기존에 LLM을 튜닝하려면 엔비디아 GPU와 CUDA가 필요했지만, 이제 AMD 그래픽카드만 있어도 같은 일을 할 수 있다. 학습이 더 빠르고 메모리도 덜 쓰인다. 관련분야: 머신러닝·대규모 언어모델·GPU 하드웨어 원문 보기 →