소개
LLM Extension for Command Palette는 Windows의 PowerToys Command Palette에 통합되는 확장 프로그램으로, 사용자가 명령 팔레트 창을 통해 대형 언어 모델(LLM)과 직접 대화할 수 있게 합니다. Lio Qing이 개발한 이 확장은 MIT 라이선스로 공개되어 있으며, Ollama, OpenAI, Azure OpenAI, Google, Mistral 등 다양한 LLM 서비스와의 연동을 지원합니다.
상세정보
다양한 LLM 서비스 지원
이 확장은 여러 주요 LLM 서비스 제공업체의 API와 호환됩니다. 현재 지원되는 서비스는 다음과 같습니다.
- Ollama (로컬 실행 포함)
- OpenAI 및 호환 가능한 모든 API (예: Docker Model Runner)
- Azure OpenAI
- Google (Gemini)
- Mistral
대화 및 설정 명령어
Command Palette에서 특정 명령어를 입력하여 대화와 확장 설정을 관리할 수 있습니다.
- 대화 시작: 프롬프트를 입력하고 엔터를 눌러 LLM에게 질문하면 실시간으로 응답이 표시됩니다.
- 설정 변경:
service,model,apikey,url등의 명령어를 사용하여 연결할 서비스, 사용할 모델, API 키 등을 설정할 수 있습니다. - 대화 관리:
clear명령어로 대화 기록을 지우거나,history명령어로 기록 유지 개수를 설정할 수 있습니다.
설치 및 시작 방법
여러 가지 방법으로 설치할 수 있습니다.
- Command Palette 내 검색: PowerToys의 Command Palette를 열고 “Find Command Palette extensions from …”을 검색하여 확장을 직접 찾아 설치합니다.
- WinGet: 터미널에서 아래 명령어를 실행하여 설치합니다.
winget install LioQing.LLMExtensionforCommandPalette - Microsoft Store: Microsoft Store에서 “LLM Extension for Command Palette”를 검색하여 설치합니다.
- GitHub Releases: GitHub의 릴리스 페이지에서 설치 패키지를 다운로드하여 설치합니다.
설치 후, 각 LLM 서비스에 대한 설정 튜토리얼은 개발자가 제공하는 YouTube 플레이리스트에서 확인할 수 있습니다.
지원 환경 및 요구사항
이 확장은 Windows 10(버전 19041 이상) 또는 Windows 11에서 PowerToys가 설치된 환경에서 동작합니다. 인터넷 연결이 필수적이며, 각 LLM 서비스를 이용하기 위해 해당 제공업체의 API 키가 필요할 수 있습니다.
제한 사항 및 확인사항
- LLM 서비스와의 통신을 위해 항상 인터넷 연결이 필요합니다.
- 일부 서비스(Ollama 제외)는 유료 API 키를 요구할 수 있습니다.
- PowerToys의 최신 버전과의 호환성을 유지하는 것이 좋습니다.
- 이 확장 프로그램은 MIT 라이선스로 배포됩니다.
시스템 요구사항
Windows 10(버전 19041 이상) 또는 Windows 11 환경에서 PowerToys가 설치되어 있어야 합니다. 사용하려는 LLM 서비스의 API 키가 필요할 수 있으며, 서비스와의 통신을 위해 인터넷 연결이 필수입니다.