ทำไมเราถึงรัน AI บนเซิร์ฟเวอร์ของเราเอง — และเมื่อไหร่ที่คุณควรทำเช่นกัน

บริการ AI สาธารณะเป็นวิธีที่เร็วที่สุดในการทดลองใช้โมเดลภาษา แต่สำหรับหลายบริษัท โดยเฉพาะโรงงานและฟาร์ม คำถามจะตามมาในภายหลังว่า: ข้อมูลของเราจะไปอยู่ที่ไหน จะเกิดอะไรขึ้นเมื่ออินเทอร์เน็ตหลุด และจะมีค่าใช้จ่ายเท่าไหร่เมื่อพนักงานทั้งทีมต้องใช้งานในทุกๆ วัน?

เราใช้โมเดลของเราเองบนเซิร์ฟเวอร์ของเราเอง ข้อความบนเว็บไซต์นี้ถูกแปลเป็นสิบเอ็ดภาษาโดยโมเดลที่ทำงานบนฮาร์ดแวร์ในออฟฟิศของเรา และผู้ช่วย Mini.G ในแอปของเราก็ตอบคำถามจากเซิร์ฟเวอร์ GPU ของเราเองเช่นกัน

เหตุผลที่ควรใช้ AI แบบ on-premise

• ข้อมูลของคุณจะถูกเก็บไว้ภายในเท่านั้น บันทึกการผลิต, สูตรการปลูก (recipes), สัญญา และบันทึกการแชทจะไม่หลุดออกไปนอกเครือข่ายของคุณ และคุณเป็นผู้ตัดสินใจเองว่าจะจัดเก็บอะไรและนานแค่ไหน
• ทำงานต่อได้แม้ไม่มีอินเทอร์เน็ต โมเดลที่ติดตั้งในพื้นที่ยังคงตอบคำถามได้แม้การเชื่อมต่ออินเทอร์เน็ตจะขาดหายไป ซึ่งเป็นเรื่องสำคัญมากเมื่อระบบถูกเชื่อมต่อเข้ากับกระบวนการทำงานหลัก
• รองรับภาษาท้องถิ่น ทีมงานที่ทำงานด้วยภาษาไทย, เมียนมา, จีน และอังกฤษ สามารถใช้ผู้ช่วยและบอทแปลภาษาตัวเดียวกันได้ในทุกภาษา
• ต้นทุนที่คาดการณ์ได้ คุณจ่ายค่าฮาร์ดแวร์เพียงครั้งเดียวแทนที่จะจ่ายต่อผู้ใช้ต่อเดือน การใช้งานหนักในทุกๆ วันคือจุดที่ระบบนี้จะคุ้มค่าที่สุด

ข้อแลกเปลี่ยนที่ต้องพิจารณาตามจริง

• เงินลงทุนเริ่มแรก ฮาร์ดแวร์ GPU ต้องใช้เงินลงทุนก่อนที่จะช่วยประหยัดเงินในภายหลัง หากเป็นการใช้งานน้อยหรือใช้งานเป็นครั้งคราว การใช้บริการผ่านคลาวด์มักจะมีราคาถูกกว่า
• ต้องมีผู้ดูแลระบบ โมเดลจำเป็นต้องมีการอัปเดต, ฮาร์ดแวร์ต้องมีการตรวจสอบ และการติดตั้งต้องได้รับการดูแล ไม่ว่าคุณจะมีทักษะเหล่านี้ภายในองค์กรเอง หรือจำเป็นต้องมีพาร์ทเนอร์ช่วยดูแล
• โมเดลที่มีขนาดใหญ่ที่สุดยังคงต้องอยู่บนคลาวด์ โมเดลแบบ Local นั้นทรงพลังสำหรับงานเอกสาร, การแปลภาษา, การสนับสนุน และการดำเนินงาน แต่โมเดลระดับ Frontier ที่ใหญ่ที่สุดยังคงต้องใช้ฮาร์ดแวร์ในดาต้าเซ็นเตอร์

จะเริ่มต้นอย่างไร

เลือกหนึ่งงานที่ต้องทำซ้ำทุกวันและมีการใช้ข้อมูลภายใน: เช่น การตอบคำถามจากคู่มือและ SOP, การแปลข้อความระหว่างทีม หรือการสรุปรายงานประจำวัน ลองวัดผลดูเป็นเวลาหนึ่งเดือน จากนั้นจึงค่อยขยายขอบเขตงาน

เราจัดหาฮาร์ดแวร์ให้ — ตั้งแต่ เวิร์กสเตชัน ที่ทำงานเงียบสำหรับหนึ่งสำนักงาน ไปจนถึง แร็คเซิร์ฟเวอร์ สำหรับทั้งไซต์งาน — พร้อมทั้ง ติดตั้งและดูแลรักษาให้คุณ โดยที่คุณยังคงเป็นเจ้าของฮาร์ดแวร์และกุญแจควบคุมทั้งหมด พูดคุยกับวิศวกร เกี่ยวกับรูปแบบการใช้งานของคุณ