Chaty

소개

Chaty는 개인 정보 보호를 위한 로컬 AI 데스크톱 앱으로, 오픈 LLM을 완전히 오프라인에서 실행하며 코딩 에이전트, 지식 베이스 및 음성 기능을 제공합니다.

핵심 기능

• 오프라인 LLM 실행: 인터넷 연결 없이 로컬에서 대형 언어 모델을 구동합니다.
• 코딩 에이전트: 코드 생성, 설명, 수정을 도와주는 AI 에이전트입니다.
• 지식 베이스(RAG): 개인 문서를 업로드하여 기반으로 한 질의응답이 가능합니다.
• 음성 입력 및 출력: 음성으로 대화하고 음성 응답을 들을 수 있습니다.

지원 환경

Windows 운영 체제에서 winget을 통해 설치할 수 있는 데스크톱 애플리케이션입니다.

기본 사용법

1. 공식 사이트 또는 winget을 통해 Chaty를 다운로드하고 설치합니다.
2. 설치 후 앱을 실행하고 원하는 오픈 LLM 모델을 선택하거나 추가합니다.
3. 채팅 창에서 질문을 입력하거나 음성으로 말하여 AI와의 대화를 시작합니다.
4. 코딩 에이전트 기능을 사용하려면 코드 관련 질문을 입력하면 됩니다.
5. 지식 베이스 기능을 이용하려면 개인 문서를 업로드한 후 해당 내용에 대해 질문합니다.

제한 사항 및 체크포인트

• 모델 파일은 사용자가 별도로 준비해야 하며, 모델 크기에 따라 디스크 공간과 메모리 요구 사항이 달라집니다.
• 오프라인 환경에서는 모델 업데이트나 온라인 기반 기능은 사용할 수 없습니다.
• 성능은 사용자의 CPU/GPU 사양에 따라 달라질 수 있습니다.

FAQ

• Q: 인터넷 연결이 꼭 필요한가요? A: 아니요, Chaty는 완전히 오프라인에서 작동하도록 설계되었습니다.
• Q: 어떤 언어 모델을 사용할 수 있나요? A: GGUF 형식의 오픈 LLM이라면 llama.cpp 등을 통해 로드할 수 있습니다.
• Q: 음성 기능은 어떤 언어를 지원하나요? A: 현재는 영어 기반 모델을 중심으로 음성 입출력을 제공하며, 모델에 따라 다를 수 있습니다.