Belgeleri Düzenlemek İçin Yerel AI ve Uzak AI

AI File Sorter belge içeriğini analiz ettiğinde önemli olan yalnızca AI'nın neler çıkarabileceği değil, bu analiz işleminin nerede gerçekleştiğidir.

Pratikte, ya uzak bir AI sağlayıcısı ya da kendi bilgisayarınızda çalışan yerel bir model kullanabilirsiniz.

Uzak AI

Uzak bir model genellikle şu şekilde çalışır:

belge
   ↓
ilgili içerik
   ↓
internet
   ↓
AI sağlayıcısı
   ↓
öneri

Uzak AI modelleri güçlü ve kullanışlı olabilir, ancak belge içeriğinin analiz için seçilen uzak servise gönderilmesi gerekir. Bu bazı dosyalar için tamamen kabul edilebilirken, diğerleri için uygun olmayabilir.

Belgeler şunları içerebilir:

• finansal bilgiler
• sözleşmeler
• istihdam bilgileri
• adresler
• yazışmalar
• dahili çalışma materyali
• kişisel notlar
• hesap bilgileri
• diğer özel veriler

Bu nedenle belge düzenleme, yerel AI için özellikle uygun bir kullanım durumudur.

Yerel AI

Yerel bir model ile iş akışı yaklaşık olarak şöyle görünür:

belge
   ↓
yerel metin çıkarımı
   ↓
yerel AI modeli
   ↓
öneri

Analiz bilgisayarda kalır.

AI File Sorter, Gemma 3 4B IT, Gemma 1.1 7B ve Mistral 7B gibi yerel modelleri destekler ve yerel işlem seçildiğinde internet bağlantısı olmadan çalışabilir. Özel yerel modeller ve uyumlu yerel uç noktalar da kullanılabilir.

Uzaktan modeller yine de tercih ederseniz isteğe bağlıdır. Bu, her belgeyi harici bir yapay zeka servisine yüklemek zorunda kalmak yerine, belirli bir koleksiyon için mantıklı olan dengeyi seçebileceğiniz anlamına gelir.

Yerel aslında ne anlama geliyor?

Yerel bir model seçmek, belge ve ilgili meta içeriği uzak bir yapay zeka sağlayıcısına göndermek yerine yapay zeka çıkarımının makinenizde gerçekleştiği anlamına gelir. Model, mevcut belge metnini yerel olarak analiz eder ve önerilerini AI File Sorter'a iletir.

Yapay zeka modeli kendisi belgelerinizi taşımaz veya yeniden adlandırmaz. Analiz için kullanılır. Önerilen değişiklikleri onayladıktan sonra gerçek dosya işlemlerini uygulama gerçekleştirir.

Yerel yapay zekanın bir donanım maliyeti vardır

Yapay zekayı kendi bilgisayarınızda tutmak sihir değildir.

Aksi takdirde uzak bir sunucuda yapılacak işler, sizin CPU veya GPU'nuzda yapılmak zorundadır.

Bu, yerel işlem hızının aşağıdaki gibi faktörlere bağlı olduğu anlamına gelir:

• kullanılabilir RAM
• GPU ve VRAM
• seçilen model
• belge sayısı
• belgelerin boyutu ve karmaşıklığı

Daha küçük bir yerel model daha hızlı çalışabilir ve daha az bellek gerektirebilir; daha büyük bir model ise ek kaynak maliyetiyle farklı sonuçlar sağlayabilir.

AI File Sorter, mevcut donanım için uygun model seçeneklerini belirlemeye yardımcı olmak için bir uyumluluk kontrolü içerir.

Çok büyük bir belge koleksiyonunuz varsa, her şeyi işlemeye başlamadan önce temsili bir alt küme ile başlamak da mantıklı olabilir.

Doğru seçimi yapmak

Uzaktan yapay zeka genellikle kullanım kolaylığı ve barındırılan model kapasitesine erişimle ilgilidir. Yerel yapay zeka ise gizlilik, çevrimdışı çalışma ve kontrol ile ilgilidir; bunun bedeli, işin sizin donanımınız tarafından yapılmasıdır.

İşin faydalı tarafı, bunun kalıcı bir seçim olmak zorunda olmamasıdır. Düzenlediğiniz belge koleksiyonunun hassasiyetine ve boyutuna uyan yaklaşımı seçebilirsiniz.