LM Studio

로컬 LLM 검색 및 다운로드

앱 내에서 Hugging Face의 ggml 호환 모델을 검색하고 다운로드할 수 있습니다. 다운로드 전에 RAM 및 VRAM 요구사항이 표시되어 하드웨어 호환성을 확인할 수 있습니다.

모델 구성 및 추론

다운로드한 모델의 파라미터와 추론 옵션을 GUI에서 구성할 수 있습니다. 채팅 인터페이스를 통해 모델과 대화하며 결과를 확인할 수 있습니다. llama.cpp 엔진 2.28.1 이상에서는 mmap, mlock, direct IO 같은 고급 로드 설정을 앱에서 조정할 수 있습니다.

GPU 가속 지원

LM Studio는 가능한 경우 GPU를 활용해 추론을 수행합니다. NVIDIA CUDA, AMD ROCm, Apple Silicon Metal을 지원하여 모델 실행 성능을 향상시킵니다.

에이전트 Bionic

Bionic은 문서 작성 및 수정, 코딩 작업, 자동화, 컴퓨터 제어를 지원하는 에이전트입니다. 음성을 실시간으로 전사하는 기능을 제공하며, 음성 및 오디오 데이터는 로컬에서 처리되어 기기를 벗어나지 않습니다. GLM 5.2, Kimi K3, DeepSeek V4 Pro 같은 최신 오픈 모델을 활용할 수 있습니다.

개발자 도구

JavaScript 및 Python SDK(lmstudio-js, lmstudio-python), LM Studio CLI(lms), llms.txt를 통해 외부 프로그램에서 LM Studio와 연동할 수 있는 인터페이스를 제공합니다.

설치 및 기본 사용

Windows 환경에서는 winget을 사용하여 LM Studio를 설치할 수 있습니다:

winget install --id ElementLabs.LMStudio --exact

설치 후 LM Studio를 실행하면 좌측 패널에서 관심 있는 ggml 호환 모델을 검색하거나 목록에서 선택하여 다운로드할 수 있습니다. 다운로드가 완료되면 채팅 창에서 모델과 대화를 시작하거나, 모델 구성 화면에서 파라미터를 조정한 뒤 추론을 실행할 수 있습니다.

활용 예시

LLM을 로컬에서 실행하여 프라이버시를 유지하면서 AI 모델을 실험할 수 있습니다. 문서 작성, 코딩 지원, 실시간 음성 전사 등의 작업에 Bionic 에이전트를 활용할 수 있습니다. 개발자는 SDK와 CLI를 통해 LM Studio를 기존 워크플로우에 통합할 수 있습니다.

지원 환경

Windows, macOS, Linux 데스크톱 환경을 지원합니다. GPU 가속을 위해 NVIDIA CUDA, AMD ROCm, Apple Silicon Metal을 지원합니다. ggml 호환 모델을 실행하기 위해 충분한 RAM이 필요하며, 추천 RAM은 16GB 이상입니다.

버전 및 업데이트

현재 버전은 0.4.21+2이며, llama.cpp 모델 로드 오류 메시지 개선과 고급 로드 설정 업데이트가 포함되어 있습니다. 이후 변경 사항은 LM Studio 공식 블로그의 Changelog 페이지를 통해 확인할 수 있습니다.

제한 및 라이선스

LM Studio는 Freeware로 배포되며, 이용 조건은 공식 약관 페이지(https://lmstudio.ai/terms)에서 확인할 수 있습니다. 모델별로 적용되는 라이선스가 다를 수 있으므로, Hugging Face에서 내려받는 각 모델의 라이선스를 별도로 확인해야 합니다.

화면으로 보는 주요 기능

오피스 식물 선택 프로젝트 화면

왼쪽에는 'Office Plant Selection' 프로젝트가 선택된 상태로, 'Math Homework Analysis', 'Vacation and Flight Planning' 등의 다른 프로젝트 목록이 나열되어 있다. 중앙에는 'Office Plant Selection' 프로젝트의 작업 내용이 텍스트로 설명되어 있으며, 'plants-candidates.pdf' 파일이 첨부되어 있다. 오른쪽에는 'Fiddle-Leaf Fig' 식물의 정보가 포함된 PDF 문서가 열려 있으며, 식물의 사진, 종명, 특성, 조명, 물주기, 성장 높이, 관리 난이도 등의 정보가 표시되어 있다.