본문으로 건너뛰기
로그인 둘러보기
개발·코딩·데이터베이스 · 윈도우즈 유틸

parq (Install)

0

parq는 Parquet 파일을 검사하고 다른 형식으로 변환할 수 있는 명령줄 도구입니다. elastacloud에서 개발되었으며, 파quet-dotnet 라이브러리를 기반으로 동작합니다.

데이터 검사명령줄 도구파일 변환

소개

parq는 Parquet 파일을 검사하고 다른 형식으로 변환할 수 있는 명령줄 도구입니다. elastacloud에서 개발되었으며, 파quet-dotnet 라이브러리를 기반으로 동작합니다. 이 도구는 파quet 파일의 스키마, 행 수, 데이터 내용을 대화형 또는 전체 모드로 표시할 수 있으며, CSV 및 Excel 형식과의 변환도 지원합니다.

상세정보

데이터 검사 모드

parq는 여러 가지 모드를 통해 Parquet 파일을 다양한 방식으로 볼 수 있습니다. Interactive 모드는 키보드 화살표를 사용해 행과 열을 탐색할 수 있게 하며, Full 모드는 전체 데이터를 헤더 너비 제한 내에서 표시합니다. Schema 모드는 데이터 없이 컬럼 목록과 .NET 타입만 보여주며, Rowcount 모드는 단지 행 수만 출력합니다.

데이터 변환 기능

Import 및 Export 모드를 통해 parq는 Parquet 파일과 다른 형식 간의 변환을 지원합니다. CSV 또는 Excel 파일을 Parquet으로 가져오거나(Import), Parquet 파일을 CSV 또는 Excel로 내보낼 수 있습니다(Export). Excel 변환은 EPPlus.Core 라이브러리를 사용하며, 시트 이름, 테이블 이름, 문서 속성 등을 설정할 수 있는 옵션이 제공됩니다.

표시 옵션 커스터마이징

사용자는 DisplayMinWidth를 조정해 셀 내용의 표시 너비를 조절할 수 있으며, Expanded 옵션을 켜면 긴 셀 내용이 잘리지 않고 전체 표시됩니다. DisplayNulls 옵션은 null 값을 공백이 아닌 [null] placeholder로 보여줄 수 있게 하며, DisplayTypes 옵션은 Interactive 모드에서 컬럼의 데이터 타입과 null 허용 여부를 함께 표시합니다.

다운로드·설치 방법

Windows에서는 Chocolatey 패키지 관리자를 사용하여 parq를 설치할 수 있습니다. 명령 프롬프트 또는 PowerShell을 관리자 권한으로 열고 다음 명령을 실행합니다:

choco install parq

이미 설치된 버전이 있고 최신 버전으로 업그레이드하려면 다음 명령을 사용합니다:

choco upgrade parq

설치 후, dotnet을 통해 직접 실행할 수 있으며, Chocolatey는 자동으로 실행 경로를 PATH에 추가합니다.

기본 사용법/명령어

parq는 다음과 같은 형식으로 실행됩니다:

dotnet parq.dll [옵션]

주요 옵션은 다음과 같습니다:

  • Mode: 실행 모드를 지정합니다. Interactive (기본값), Full, Schema, Rowcount, Head, Tail, Import, Export 중 선택 가능
  • InputFilePath: 처리할 Parquet 파일의 경로를 지정합니다
  • DisplayMinWidth: 셀 내용 표시의 최소 너비를 지정합니다 (기본값: 10)
  • Expanded: 긴 셀 내용을 잘리지 않고 전체 표시할지 여부를 지정합니다 (기본값: false)
  • DisplayNulls: null 값을 [null]으로 표시할지 여부를 지정합니다 (기본값: true)
  • DisplayTypes: Interactive 모드에서 데이터 타입을 표시할지 여부를 지정합니다 (기본값: false)
  • TruncationIdentifier: Interactive 모드에서 긴 내용이 잘릴 때 표시할 식별자를 지정합니다 (기본값: *)
  • Head/Tail: Head 또는 Tail 모드에서 표시할 행 수를 지정합니다
  • OutputFilePath: Import/Export 모드에서 출력 파일의 경로를 지정합니다

예를 들어, 대화형 모드로 Parquet 파일을 보려면 다음과 같이 실행합니다:

dotnet parq.dll Mode=interactive InputFilePath=C:datafile.parquet

CSV 파일로 내보내려면 다음과 같이 실행합니다:

dotnet parq.dll Mode=Export ExportMode=Csv InputFilePath=C:datafile.parquet OutputFilePath=C:dataoutput.csv

이런 경우에 유용합니다

데이터 분석가나 개발자가 Parquet 파일의 구조를 빠르게 확인해야 할 때, parq의 Interactive 모드를 사용해 콘솔 내에서 바로 데이터를 탐색할 수 있습니다. 이는 별도의 GUI 도구를 설치하지 않고도 파일 내용을 검증하는 데 유용합니다.

ETL 파이프라인에서 Parquet 파일을 CSV 또는 Excel 형식으로 변환해야 하는 경우, parq의 Import/Export 모드를 사용해 간단한 명령 하나로 변환 작업을 자동화할 수 있습니다. 특히 Excel 변환 시 문서 속성과 시트 이름을 지정할 수 있어 보고서 생성을 위한 전처리 단계로 적합합니다.

스키마 검증이 필요한 개발자는 Schema 모드를 사용해 Parquet 파일의 컬럼 목록과 데이터 타입만 빠르게 확인할 수 있으며, 이는 모델 클래스나 데이터 프레임 정의를 위한 사전 작업에 도움이 됩니다.

지원 환경·시스템 요구사항

parq는 .NET 런타임이 설치된 Windows 환경에서 실행됩니다. Chocolatey를 통해 설치 시 자동으로 필요한 의존성이 해결되며, 별도의 설치는 필요하지 않습니다. Linux에서는 현재 Debian 패키지가 제공되지 않아 소스 코드를 직접 빌드해야 합니다.

최신 버전·업데이트

현재 버전은 5.1.1.0이며, 이 버전은 파quet-dotnet의 마일스톤 기반 릴리스와 연동되어 제공됩니다. 최신 기능과 버그 수정이 포함된 업데이트는 Chocolatey 저장소를 통해 choco upgrade parq 명령으로 적용할 수 있습니다.

제한 사항·확인 사항

parq는 현재 공식적으로 더 이상 유지보수되지 않는 레거시 도구로 표시되어 있습니다. 개발팀은 사용자에게 새로운 파quet-dotnet 기반 도구로 전환할 것을 권장하고 있으며, 향후 업데이트는 해당 저장소에서 이루어질 예정입니다.

Interactive 모드에서 매우 넓은 콘솔이 아닌 경우, 긴 셀 내용이 줄바꿈되어 표시될 수 있으며, 이때 TruncationIdentifier 옵션을 사용해 잘린 부분을 식별할 수 있습니다. Expanded 옵션을 켜면 전체 데이터셋을 스캔해야 하므로 대용량 파일의 경우 성능에 영향을 줄 수 있습니다.

시스템 요구사항

.NET 런타임이 필요하며, Windows에서는 Chocolatey를 통해 설치할 수 있습니다.