▲

Unsloth Studio - 로컬에서 AI 모델을 훈련하고 실행하는 오픈소스 노코드 웹 UI

 (unsloth.ai)
32P by xguru 23일전 | ★ favorite | 댓글 3개
  • 텍스트, 오디오, 임베딩, 비전 등 다양한 AI 모델의 로컬 실행과 학습을 하나의 인터페이스에서 지원하는 오픈소스 도구
  • 맥/윈/리눅스에서 GGUF/safetensor 모델을 로컬 실행 가능하며, 학습 시 최대 2배 빠른 속도와 70% 적은 VRAM 사용을 달성
  • llama.cpp + Hugging Face 기반으로 멀티 GPU 추론 및 대부분의 모델 지원
  • Unsloth 커널이 LoRA, FP8, FFT, PT를 최적화하여 500개 이상의 텍스트, 비전, TTS/오디오, 임베딩 모델 지원
  • Qwen3.5, NVIDIA Nemotron 3 등 최신 LLM의 파인튜닝이 가능하며, 멀티 GPU 자동 지원
    • 풀 파인튜닝, 4bit/16bit/FP8 학습, 강화학습(GRPO) 등 폭넓은 학습 방식 지원
    • MoE LLM을 12배 빠르게 학습시키거나, 80GB GPU에서 500K 이상의 컨텍스트 길이로 20B 모델을 학습하는 등 최적화 기술이 지속적으로 추가되는 중
  • 파인튜닝된 모델 포함 모든 모델을 safetensors/GGUF로 내보내기하여 llama.cpp, vLLM, Ollama, LM Studio 등에서 사용 가능
  • PDF, CSV, JSON 등 비정형 문서를 자동으로 데이터셋으로 변환하는 Data Recipes 기능과 자가 복구 도구 호출, 코드 실행 기능 내장
  • 훈련 손실, GPU 사용률을 실시간 추적하는 관측 기능 포함
  • Model Arena에서 기본 모델과 파인튜닝 모델 등 2개 모델의 출력을 나란히 비교 가능
  • 100% 오프라인 로컬 실행으로 프라이버시를 보장하며, Apple MLX·AMD·Intel 지원이 곧 추가될 예정
  • 워크플로 :
    Studio 실행 →
    로컬 파일 또는 지원 통합에서 모델 로드 →
    PDF, CSV, JSONL 등으로 훈련 데이터 가져오기 또는 처음부터 데이터셋 생성 →
    Data Recipes에서 데이터셋 정제·확장 → 추천 프리셋 또는 커스텀 설정으로 훈련 시작 →
    훈련된 모델과 기본 모델 출력 비교 →
    기존 사용 스택으로 로컬 저장 또는 내보내기
  • 라이선스
    • 메인 Unsloth 패키지는 Apache 2.0 라이선스
    • Unsloth Studio UI 등 일부 선택적 컴포넌트만 AGPL-3.0 오픈소스 라이선스 적용

함께 보면 좋은 글 β

▲
wedding 21일전  [-]

저도 나오자마자 해봤는데요.. 페이지가 깨지고, 튜토리얼을 못넘어가더라구요 ㅠ

답변달기
▲
GN⁺ 22일전  [-]
Hacker News 의견들

  • 아직 MacBook에서 unsloth studio 설정을 제대로 못 하고 있음
    Python 관련 툴링 문제 때문임
    대신 이미 Docker 컨테이너에서 llama.cpp 서버를 돌리고 있어서, 세 가지 코드베이스를 비교 실험해봄
    첫 번째 비교 코드, 두 번째 비교 코드
    꽤 흥미로운 결과였음. unsloth studio가 제대로 작동하면 다음 주에 다시 시도할 예정임

    • 다시 시도해볼 수 있다면 좋겠음. 방금 PyPI 릴리스를 새로 올렸음
      아래 명령으로 설치 가능함 
      curl -LsSf https://astral.sh/uv/install.sh | sh  
uv venv unsloth_studio --python 3.13  
source unsloth_studio/bin/activate  
uv pip install unsloth==2026.3.7 --torch-backend=auto  
unsloth studio setup  
unsloth studio -H 0.0.0.0 -p 8888

  • unsloth의 비즈니스 모델이 궁금함. 무료로 많은 걸 공개하는데, 수익 구조가 명확하지 않아 보임

    • 지금은 오픈소스 커뮤니티에 유용한 툴링을 제공하는 게 주 목표임
      닫힌 소스가 더 인기가 많은 이유가 툴링 품질 때문이라 생각함. 앞으로 공개할 게 많음
    • 팀 규모가 8명 정도라면, 당장 자금난에 시달리는 건 아닐 것 같음

  • 학습 기능이 흥미로웠는데, ‘on NVIDIA’라고 되어 있어서 아쉬웠음
    macOS의 Metal 스택으로 SFT(지도학습 미세조정)를 할 수 있는 대안이나 튜토리얼이 있을지 궁금함

    • 문서 하단에 non-Nvidia 지원을 준비 중이라고 되어 있음
      나도 AMD 환경이라 기대 중임. ROCm은 고통스럽지만 AMD 자체는 마음에 듦
    • “Mac: CPU 기반으로만 채팅 가능, MLX 학습은 곧 지원 예정”이라고 명시되어 있음
    • 그 맥으로 Nvidia GPU 임대해서 쓰는 게 현실적인 대안일 수도 있음
    • ㅋㅋ

  • Unsloth는 진짜 괜찮은 프로젝트임
    자체 AI 엔진을 돌리는 사람이라면 꼭 써볼 만함

  • Apache 라이선스라서 회사에서도 써볼 생각임
    LMStudio는 독점 라이선스라 승인받기 힘들었음

    • 일부 구성요소만 Apache임

  • AMD 지원을 꼭 해줬으면 함
    지금은 AMD GPU로 복잡한 우회 설정을 쓰고 있음

    • 그들도 AMD 지원을 준비 중이라고 함. 나도 기다리는 중임

  • macOS에서 소스 빌드 시도했는데 아래와 같은 TypeScript 오류가 발생했음
    'status' is declared but its value is never read

    • 수정 완료됨. 아래 명령으로 다시 시도해보길 권장함 
      curl -LsSf https://astral.sh/uv/install.sh | sh  
uv venv unsloth_studio --python 3.13  
source unsloth_studio/bin/activate  
uv pip install unsloth --torch-backend=auto  
unsloth studio setup  
unsloth studio -H 0.0.0.0 -p 8888
    • 빠르게 확인해서 수정하겠다고 함

  • macOS에서 pip로 설치하는 건 시스템을 망가뜨릴 위험이 있어서 비추천임
    Homebrew 패키지나 수동 설치용 zip 파일이 필요함

    • 동의함. 지금은 “uv”나 “mise”로 설치하는 게 더 낫다고 봄
      uv tool install unsloth로 깔면 관리가 쉬움
    • 피드백 고맙고, 설치 과정을 더 개선 중임
      주로 Python 생태계 출신이라 패키징 경험이 부족했음. Homebrew 지원이 다음 목표임
    • 먼저 uv를 설치한 뒤, 가상환경 안에서 Python 패키지를 격리 설치하는 걸 추천함
    • uv sync를 쓰면 훨씬 깔끔함
      pyproject.toml로 의존성을 관리하고, 한 번의 명령으로 재현 가능한 환경을 만들 수 있음
      예전에 ROCm 기반 unreleased 버전으로 unsloth를 설치했는데, uv sync 한 줄로 해결했음
      관련 이슈 코멘트
    • pipx로 해결할 수 있을지도 모르겠음
      pipx 설치 문서

  • AMD 지원이 생기면 다시 확인하러 올 예정임

  • mac에서 GPU를 사용하는지 궁금함
    setup 시에는 CPU 전용이라고 표시되었음

답변달기