AI File Sorter가 문서 내용을 분석할 때 중요한 질문은 AI가 무엇을 추론할 수 있느냐뿐만 아니라 그 분석이 어디에서 이루어지느냐입니다.
실제로는 원격 AI 제공업체를 사용하거나 자체 컴퓨터에서 실행되는 로컬 모델을 사용할 수 있습니다.
원격 AI
원격 모델은 일반적으로 다음과 같이 작동합니다:
문서
↓
관련 내용
↓
인터넷
↓
AI 제공업체
↓
제안
원격 AI 모델은 강력하고 편리할 수 있지만 문서 내용은 분석을 위해 선택한 원격 서비스로 전송되어야 합니다. 일부 파일에는 이것이 완전히 허용될 수 있지만 다른 경우에는 허용되지 않을 수 있습니다.
문서에는 다음과 같은 내용이 포함될 수 있습니다:
- 재무 정보
- 계약서
- 고용 정보
- 주소
- 서신
- 내부 업무 자료
- 개인 메모
- 계정 정보
- 기타 개인 데이터
따라서 문서 정리는 특히 로컬 AI에 적합한 사용 사례가 됩니다.
로컬 AI
로컬 모델의 경우 워크플로는 대략 다음과 같습니다:
문서
↓
로컬 텍스트 추출
↓
로컬 AI 모델
↓
제안
분석은 컴퓨터에 남아 있습니다.
AI File Sorter는 Gemma 3 4B IT, Gemma 1.1 7B, Mistral 7B와 같은 로컬 모델을 지원하며, 로컬 처리를 선택하면 인터넷 연결 없이도 작동할 수 있습니다. 사용자 정의 로컬 모델과 호환되는 로컬 엔드포인트도 사용할 수 있습니다.
원격 모델은 원할 경우 선택 사항으로 남아 있습니다. 즉, 모든 문서를 외부 AI 서비스에 업로드하도록 강제되지 않고 특정 컬렉션에 적합한 절충안을 선택할 수 있습니다.
로컬이란 정확히 무엇을 의미하나요?
로컬 모델을 선택하면 문서와 관련 메타 콘텐츠를 원격 AI 제공자에게 전송하는 대신 AI 추론이 사용자의 기기에서 실행됩니다. 모델은 사용 가능한 문서 텍스트를 로컬에서 분석하고 그 제안을 AI File Sorter에 반환합니다.
AI 모델 자체는 문서를 이동하거나 이름을 변경하지 않습니다. 분석 용도로 사용되며, 제안된 변경을 사용자가 승인한 후 실제 파일 작업은 애플리케이션이 처리합니다.
로컬 AI에는 하드웨어 비용이 있습니다.
AI를 자신의 컴퓨터에서 운영하는 것은 마법이 아닙니다.
원격 서버에서 처리되던 작업이 사용자의 CPU나 GPU에서 수행되어야 합니다.
즉, 로컬 처리 속도는 다음과 같은 요인에 따라 달라집니다:
- 사용 가능한 RAM
- GPU 및 VRAM
- 선택한 모델
- 문서 수
- 문서의 크기와 복잡성
더 작은 로컬 모델은 더 빠르고 메모리를 덜 필요로 할 수 있는 반면, 더 큰 모델은 추가 자원을 필요로 하는 대가로 다른 결과를 제공할 수 있습니다.
AI File Sorter에는 사용 가능한 하드웨어에 적합한 모델 옵션을 판단하는 데 도움이 되는 호환성 검사 기능이 포함되어 있습니다.
매우 큰 문서 모음이 있는 경우 모든 문서를 처리하기 전에 대표적인 하위 집합으로 시작하는 것이 합리적일 수 있습니다.
적절한 옵션 선택
원격 AI는 주로 편의성과 호스팅된 모델 용량에 대한 접근을 뜻합니다. 로컬 AI는 개인정보 보호, 오프라인 작동, 제어권을 의미하지만 그 대가로 자신의 하드웨어가 작업을 수행해야 합니다.
유용한 점은 이것이 영구적인 선택일 필요가 없다는 것입니다. 정리하려는 문서 컬렉션의 민감도와 크기에 맞는 방식을 선택할 수 있습니다.
댓글 (0)
아직 댓글이 없습니다.
로그인 댓글을 추가하려면.