Worker'ı kararlardan ayırın
Bir ajan bir görevi planlayabilirken, bir kuyruk bir işçinin onu ne zaman yürüteceğini kontrol eder. Bu, yeniden denemeleri görünür kılar ve kısa süreli bir API hatasının yinelenen bir eyleme dönüşmesini önler. Her işe bir tanımlayıcı verin ve önem taşıyan durum geçişlerini kaydedin.
Araçları ayrıcalık olarak değerlendirin
E-posta gönderebilen, para harcayabilen veya üretime yazabilen bir süreç, araştırma çalışanından daha dar kimlik bilgilerine ihtiyaç duyar. Ayrı hizmet hesapları, araç başına izinler ve sonuç doğuran eylemler için açık onay adımları kullanın. Özel anahtarları asla istemlere veya tarayıcıdan erişilebilen dosyalara koymayın.
- Sırları web kök dizininin ve sürüm kontrolünün dışında tutun
- Harici API için harcama ve istek limitleri kullanın
- Gereksiz kişisel verileri saklamadan denetlenebilir bir kayıt tutun
Durdurulmuş bir süreç için tasarlayın
Bir hizmet yöneticisi veya konteyner çalışma zamanı, sağlık kontrolleri ve sınırlı bir yeniden başlatma politikası kullanın. Bir aracı, son harici eylemi körü körüne tekrarlamak yerine kaydedilmiş durumdan devam etmelidir. Yalnızca sürecin var olup olmadığını değil, disk büyümesini, kuyruk yaşını ve hata oranlarını da izleyin.
Makineyi doğru boyutlandırın
Uzak bir modeli çağıran bir çalışan genellikle ölçülü CPU ve araçları için yeterli bellek gerektirir. Tarayıcı otomasyonu önemli ölçüde daha fazla RAM kullanabilir. Yerel model çıkarımı ayrı bellek ve hızlandırıcı gereksinimlerine sahiptir; genel bir VPS ekli bir GPU anlamına gelmez.
Sağlama iş akışı tasarımı
Bir ajan entegrasyon iş akışı, genel planları inceleyebilir, bir hesap kaydedebilir ve açık bir harcama limiti dahilinde bir hizmet siparişi hazırlayabilir. Ödeme ve sunucu oluşturma uygun yetkilendirme gerektirir. Bir işlem tanımlayıcısı almalı, tamamlanmış durumu beklemeli ve ardından sunucuyu kendi genel SSH anahtarıyla yönetmelidir. Kaldırma kasıtlı olmalı ve gerekli sonuçları korumalıdır.
Sabırsız yoklamalar yerine olaylar
İmzalı webhook'lar ödeme mutabakatını ve yaşam döngüsü değişikliklerini bildirebilir. Sonraki adımı atmadan önce bunların gerçekliğini doğrulayın, teslimatları yinelenenlerden ayıklayın ve API ile mutabakat sağlayın. Sağlayıcı, aracının özel SSH anahtarını, cüzdan tohumunu veya kısıtlanmamış model kimlik bilgilerini almamalıdır.
Tek bir görevi tek bir kalıcı işleme dönüştürün
Her işe kararlı bir tanımlayıcı ve kuyrukta, çalışıyor, onay bekliyor, tamamlandı veya başarısız gibi açık durumlar verin. Harici bir eylemin sonucunu planlayıcıya bildirmeden önce kaydedin. Yeniden başlatılan bir işçi, terminal çıktısı kaybolduğu için bir ödemeyi, mesajı veya üretim yazımını yeniden oynatmak yerine kalıcı durumu incelemelidir.
Sağlama araçları ve barındırılan worker'lar ayrı ürünlerdir
Bir VPS, kendi hizmet yöneticisini ve kimlik bilgilerini kullanarak bir müşterinin aracısını sürekli çalıştırabilir. Bir barındırma kontrol düzlemi API veya MCP uç noktası farklı bir entegrasyondur. İlki uygulama olarak dağıtılabilir; ikincisi ayrı olarak yayımlanmış bir KoalaVPS kontrol düzlemi entegrasyonu gerektirir ve bu belgelerle bağlantılı değildir.
Eksiksiz çalışan için bütçe ayırın
Tarayıcı, model istemcisi, kuyruk ve veritabanı için belleği birlikte ayırın. Küçük bir API tabanlı çalışan mütevazı bir CPU gerektirebilirken eşzamanlı tarayıcı oturumları RAM kaynağını hızla tüketir. Makine boyutunu artırmadan önce kuyruk eşzamanlılığını ve harici API harcama limitlerini ayarlayın. İma yoluyla hiçbir model aboneliği, hızlandırıcı veya üçüncü taraf API ödeneği dahil değildir.
Faydalı bir operasyonel devir teslim
Başlatma komutunu, çalışma dizinini, korunan ortam konumunu, yeniden başlatma ilkesini, kuyruk depolamasını, sağlık kontrolünü ve her harici kimlik bilgisinin sahibini kaydedin. Yeni işleri güvenle durduran eylemi ve tamamlanmamış işleri sürdürme yolunu ekleyin. İzleme, gecikmiş veya yinelenen işlerin yanı sıra durmuş bir süreci de tanımlamalıdır.
Biraz daha netlik.
Bir ajan VPS bir yapay zeka aboneliği içerir mi?
Hiçbir model aboneliği veya API kredisi ima edilmez. Kullanma yetkiniz olan bir sağlayıcı bağlayın ve kimlik bilgisini özel sunucu yapılandırmasında saklayın.
Ajanlar hassas işlemleri otomatik olarak gerçekleştirebilir mi?
Bu, uygulamanız için bir tasarım kararıdır. Güçlü sınırlar, uygun yerlerde insan onayı ve güvenilir yinelenme önleme önerilir.
Aracı barındırma, diğer hesaplarıma otomatik erişim içeriyor mu?
Hayır. Her araç veya sağlayıcı, ayrıca yetkilendirilmiş bir kimlik bilgisi ve net bir izin sınırı gerektirir.