Ne zaman gerekli
Bulut yapay zekâ servislerinin kurumsal API'leri çoğu iş için yeterli güvenceyi verir. Bazı durumlarda yetmez: sağlık verisi, müvekkil sözleşmeleri, savunma ve kamu projeleri, ya da yurt dışına veri aktarımını yasaklayan sözleşmeler. Bu durumlarda model sizin kontrolünüzdeki bir sunucuda çalışmalıdır.
Doğru boyutu seçmek
Açık modeller birkaç milyar parametreden yüzlerce milyara kadar farklı boyutlarda geliyor. Büyük model daha yetenekli ama daha pahalı donanım istiyor. Çoğu belge ve sınıflandırma işinde orta boyutlu bir model yeterli oluyor. Bunu varsayımla değil, sizin örneklerinizle yapılan testle belirliyoruz. Raporda her modelin doğruluğu, saniye başına işlem sayısı ve aylık maliyeti yan yana durur.
Karma kurulum
Her işi aynı modelde çalıştırmak zorunda değilsiniz. Hassas veri içeren işler kendi sunucunuzdaki modelde, kişisel veri içermeyen genel işler bulut modelinde çalışabilir. Hangi verinin nereye gideceği yazılı bir kurala bağlanır ve sistem bu kurala göre yönlendirir.
Değerlendirme testi nasıl yapılır
Sizin işinizden gerçek örneklerle bir test seti hazırlarız. Sözleşme özeti için elli sözleşme, sınıflandırma için birkaç yüz kayıt gibi. Her örneğin doğru cevabı ekibinizle birlikte belirlenir. Ardından aday modeller bu sette çalıştırılır ve sonuçlar karşılaştırılır. Raporda her model için doğruluk, bir işlemin süresi, gereken donanım ve aylık maliyet yer alır. Karşılaştırmaya bir bulut modelini de koyarız. Böylece kendi sunucunuza geçmenin doğrulukta neye mal olduğunu görürsünüz.
Güvenlik ve bakım
Model sizin altyapınızda çalıştığında güvenliği de altyapınızın parçası olur. Sunucuya erişim yetkiyle sınırlanır, model dış dünyaya doğrudan açılmaz, uygulamalar ona şirket içi bir API üzerinden bağlanır. İşletim sistemi ve model yazılımı için bir güncelleme takvimi yazılır. Daha iyi bir açık model çıktığında aynı test setiyle denenir, sonuç daha iyiyse geçiş planlanır.
Hangi kurumlarda ön koşul oluyor
Klinikler hasta verisini, hukuk büroları müvekkil dosyalarını, mali müşavirler mükellef belgelerini, üretim firmaları teknik çizimlerini ve teklif fiyatlarını dışarı göndermek istemiyor. Bu kurumlarda özel model çoğu zaman projenin ön koşulu oluyor. Bir kamu ihalesi ya da yurt dışı müşteri sözleşmesi veri yerelliği şartı koyduğunda da aynı yol izleniyor.