แยกเวิร์กเกอร์ออกจากการตัดสินใจ
เอเจนต์สามารถวางแผนงานในขณะที่คิวควบคุมเวลาที่เวิร์กเกอร์ดำเนินการ ซึ่งทำให้การลองใหม่มองเห็นได้และป้องกันไม่ให้ความล้มเหลวชั่วคราวของ API กลายเป็นการดำเนินการซ้ำ กำหนดตัวระบุให้แต่ละงานและบันทึกการเปลี่ยนสถานะที่มีความสำคัญ
ปฏิบัติต่อเครื่องมือเสมือนสิทธิ์
กระบวนการที่สามารถส่งอีเมล ใช้จ่ายเงิน หรือเขียนไปยังระบบโปรดักชัน จำเป็นต้องมีข้อมูลรับรองที่จำกัดกว่าผู้ปฏิบัติงานวิจัย ใช้บัญชีบริการแยกกัน สิทธิ์ต่อเครื่องมือ และขั้นตอนการอนุมัติที่ชัดเจนสำหรับการกระทำที่มีผลสำคัญ ห้ามวางคีย์ส่วนตัวในพรอมต์หรือไฟล์ที่เข้าถึงได้จากเบราว์เซอร์
- เก็บข้อมูลลับไว้นอกรูทเว็บและระบบควบคุมเวอร์ชัน
- ใช้ขีดจำกัดการใช้จ่ายและคำขอสำหรับ API ภายนอก
- เก็บรักษาบันทึกที่ตรวจสอบได้โดยไม่จัดเก็บข้อมูลส่วนบุคคลที่ไม่จำเป็น
ออกแบบสำหรับโปรเซสที่หยุดทำงาน
ใช้ตัวจัดการบริการหรือรันไทม์คอนเทนเนอร์ การตรวจสอบสุขภาพ และนโยบายการรีสตาร์ทที่จำกัด เอเจนต์ควรกลับมาทำงานต่อจากสถานะที่บันทึกไว้แทนที่จะทำการกระทำภายนอกครั้งล่าสุดซ้ำโดยไม่พิจารณา ตรวจสอบการเติบโตของดิสก์ อายุคิว และอัตราข้อผิดพลาด ไม่ใช่แค่ว่ากระบวนการมีอยู่หรือไม่
กำหนดขนาดเครื่องให้เหมาะสม
เวิร์กเกอร์ที่เรียกใช้โมเดลระยะไกลมักต้องการ CPU ที่พอเหมาะและหน่วยความจำเพียงพอสำหรับเครื่องมือของมัน ระบบอัตโนมัติของเบราว์เซอร์อาจใช้ RAM มากกว่าอย่างมีนัยสำคัญ การอนุมานโมเดลภายในเครื่องมีข้อกำหนดหน่วยความจำและตัวเร่งแยกต่างหาก VPS ทั่วไปไม่ได้หมายความว่ามี GPU เชื่อมต่ออยู่
การออกแบบขั้นตอนการจัดเตรียม
เวิร์กโฟลว์การผสานรวมเอเจนต์สามารถตรวจสอบแผนสาธารณะ ลงทะเบียนบัญชี และเตรียมคำสั่งซื้อบริการภายในวงเงินการใช้จ่ายที่ชัดเจน การชำระเงินและการสร้างเซิร์ฟเวอร์ต้องมีการอนุญาตที่เหมาะสม ควรได้รับตัวระบุการดำเนินการ รอสถานะที่เสร็จสมบูรณ์ แล้วจึงจัดการเซิร์ฟเวอร์ด้วยคีย์ SSH สาธารณะของตัวเอง การรื้อถอนต้องเป็นไปโดยเจตนาและรักษาผลลัพธ์ที่จำเป็นไว้
ใช้เหตุการณ์แทนการโพลล์แบบใจร้อน
เว็บฮุกที่ลงนามแล้วสามารถรายงานการชำระเงินที่เสร็จสิ้นและการเปลี่ยนแปลงวงจรชีวิต ตรวจสอบความถูกต้องของเว็บฮุก กำจัดการส่งซ้ำ และกระทบยอดกับ API ก่อนดำเนินการขั้นถัดไป ผู้ให้บริการไม่ควรได้รับ private SSH key ของเอเจนต์ seed ของกระเป๋าเงิน หรือข้อมูลรับรองของโมเดลแบบไม่จำกัด
เปลี่ยนหนึ่งงานให้เป็นการดำเนินการที่คงทนหนึ่งรายการ
กำหนดตัวระบุที่คงที่ให้แต่ละงานและสถานะที่ชัดเจน เช่น อยู่ในคิว กำลังทำงาน รอการอนุมัติ เสร็จสมบูรณ์ หรือล้มเหลว บันทึกผลลัพธ์ของการกระทำภายนอกก่อนตอบรับต่อผู้วางแผน ผู้ปฏิบัติงานที่รีสตาร์ทควรตรวจสอบสถานะที่บันทึกไว้แทนการเล่นซ้ำการชำระเงิน ข้อความ หรือการเขียนข้อมูลจริง เพราะเอาต์พุตของเทอร์มินัลสูญหาย
เครื่องมือจัดเตรียมระบบและเวิร์กเกอร์แบบโฮสต์เป็นผลิตภัณฑ์แยกต่างหาก
VPS สามารถรันเอเจนต์ของลูกค้าได้อย่างต่อเนื่องโดยใช้ตัวจัดการบริการและข้อมูลรับรองของตัวเอง การผสานรวม API หรือปลายทาง MCP ของคอนโทรลเพลนโฮสติ้งเป็นการผสานรวมที่แตกต่างกัน แบบแรกสามารถติดตั้งใช้งานเป็นแอปพลิเคชันได้ ส่วนแบบหลังต้องมีการผสานรวมคอนโทรลเพลน KoalaVPS ที่เผยแพร่แยกต่างหาก และไม่ได้เชื่อมต่อโดยเอกสารนี้
จัดงบประมาณสำหรับเวิร์กเกอร์แบบครบวงจร
จองหน่วยความจำสำหรับเบราว์เซอร์ ไคลเอนต์โมเดล คิว และฐานข้อมูลไว้ด้วยกัน เวิร์กเกอร์เล็ก ๆ ที่ขับเคลื่อนด้วย API อาจต้องการ CPU ในระดับปานกลาง ขณะที่เซสชันเบราว์เซอร์ที่ทำงานพร้อมกันจะใช้ RAM จนหมดอย่างรวดเร็ว ตั้งค่าความพร้อมกันของคิวและขีดจำกัดการใช้จ่าย API ภายนอกก่อนเพิ่มขนาดเครื่อง ไม่มีการรวมการสมัครสมาชิกโมเดล ตัวเร่ง หรือโควตา API จากบุคคลที่สามโดยนัยใด ๆ
การส่งมอบงานเชิงปฏิบัติการที่เป็นประโยชน์
บันทึกคำสั่งเริ่มต้น ไดเรกทอรีทำงาน ตำแหน่งสภาพแวดล้อมที่ได้รับการป้องกัน นโยบายการรีสตาร์ท ที่จัดเก็บคิว การตรวจสอบสุขภาพ และเจ้าของข้อมูลรับรองภายนอกแต่ละรายการ รวมถึงการกระทำที่หยุดงานใหม่ได้อย่างปลอดภัยและเส้นทางการทำงานต่อสำหรับงานที่ยังไม่เสร็จ การตรวจสอบควรระบุงานที่ล่าช้าหรือซ้ำซ้อนตลอดจนกระบวนการที่หยุดไปแล้ว
ความชัดเจนอีกเล็กน้อย
VPS ของเอเจนต์รวมการสมัครสมาชิก AI หรือไม่
ไม่ได้หมายความถึงการสมัครสมาชิกโมเดลหรือเครดิต API เชื่อมต่อผู้ให้บริการที่คุณได้รับอนุญาตให้ใช้ และเก็บข้อมูลรับรองไว้ในการกำหนดค่าเซิร์ฟเวอร์ส่วนตัว
เอเจนต์สามารถดำเนินการที่ละเอียดอ่อนได้โดยอัตโนมัติหรือไม่
นั่นเป็นการตัดสินใจออกแบบสำหรับแอปพลิเคชันของคุณ แนะนำให้ใช้ขีดจำกัดที่เข้มงวด การอนุมัติโดยมนุษย์ในกรณีที่เหมาะสม และการป้องกันข้อมูลซ้ำที่เชื่อถือได้
การโฮสต์เอเจนต์รวมถึงการเข้าถึงบัญชีอื่นๆ ของฉันโดยอัตโนมัติหรือไม่
ไม่ใช่ เครื่องมือหรือผู้ให้บริการแต่ละรายต้องมีข้อมูลรับรองที่ได้รับอนุญาตแยกต่างหากและขอบเขตสิทธิ์ที่ชัดเจน