ข้ามไปเนื้อหา

ข่าวเผยแพร่โดย LocalAI Thailand

AnythingLLM เพิ่มเอนจินใน Docker

ประเด็นสำคัญ

AnythingLLM 1.19 เพิ่มเอนจิน local แบบเลือกเปิดใน Docker แต่ container เดียวยังไม่ยืนยันว่าใช้ GPU หรือทุกขั้นอยู่ในบริษัท ควรรับมอบพร้อมหลักฐาน backend ปลายทางประมวลผล และการเปิดงานเดิมหลังเริ่มระบบใหม่

ข่าววันที่
ตรวจทานล่าสุด
เวลาอ่าน
ประมาณ 3 นาที
ภาพสร้างด้วย AI ของจอคอมพิวเตอร์กับสมุดบนโต๊ะทำงานริมหน้าต่างยามค่ำ
ภาพประกอบที่สร้างด้วย AI จากคลังภาพ Mimir ไม่ใช่ภาพผลิตภัณฑ์หรือผลทดสอบในข่าวภาพ: Mimir / localaithai.comแหล่งที่มาของภาพ

สำหรับคนรับมอบ AI ในออฟฟิศ คำถามสำคัญคือระบบประมวลผลที่ไหน ใช้ทรัพยากรอะไร และเปิดงานเดิมหลังเริ่มเครื่องใหม่ได้หรือไม่ การติดตั้งที่รวมส่วนประกอบมากขึ้นควรทำให้หลักฐานเหล่านี้อ่านง่ายขึ้นด้วย

AnythingLLM 1.19 เปลี่ยนส่วนใด

AnythingLLM 1.19.0 วันที่ 26 ตุลาคม 2026 เพิ่มเอนจิน local ใน Docker แบบเลือกเปิด ใช้ Lemonade ของ AMD กับ llama.cpp โดยไม่ต้องมีบริการ Ollama หรือ LM Studio ข้าง container สำหรับ provider นี้

รายละเอียดการพัฒนา ระบุว่าปิดตัวเลือกนี้ไว้เริ่มต้น ต้องเปิดจากค่าตอนเริ่ม container และยังต้องส่ง GPU ให้ container ใช้ เอนจินถูกดาวน์โหลดตอนทำงาน ส่วน backend มีทั้ง CUDA, Vulkan และ CPU ตามชุดที่ใช้จริง

เอกสารส่งมอบควรแสดงอะไร

ตารางนี้เป็นแบบคุยกับผู้ติดตั้งที่เสนอให้เจ้าของกิจการใช้ ไม่ใช่ผลวัดความเร็วหรือการตรวจระบบของเรา ให้เริ่มจากข้อมูลสมมติที่คนตรวจรู้คำตอบ แล้วขอดูหลักฐานชุดเดียวกับการตั้งค่าที่จะส่งมอบ

รายการรับมอบสิ่งที่ข่าวเพิ่มให้เลือกหลักฐานที่ควรขอดูคนรับผิดชอบที่ต้องระบุ
จุดประมวลผลprovider ใน Dockerprovider และปลายทางของงานตัวอย่างผู้ตั้งค่าระบบ
การใช้ทรัพยากรเอนจินเลือก backend ได้backend จากบันทึกและทรัพยากรขณะทำงานผู้ติดตั้งฮาร์ดแวร์
การเตรียมไฟล์ดาวน์โหลดเอนจินตอนทำงานรุ่นไฟล์ แหล่งดาวน์โหลด และช่วงที่อนุญาตผู้ดูแลการอัปเดต
เริ่มระบบใหม่รวมเอนจินในเส้นทางติดตั้งนี้เปิดงานตัวอย่างเดิมและพบข้อมูลถูกชุดผู้ดูแลประจำ
การเชื่อมภายนอกยังต้องเลือกส่วนอื่นของงานแผนข้อมูลและรายการปลายทางที่ตกลงเจ้าของข้อมูลกับผู้ดูแล

อย่าตัดสินการใช้ GPU จากการเห็นชื่อ GPU บนหน้าจอเพียงอย่างเดียว ให้ผู้ติดตั้งผูกหลักฐานกับคำขอตัวอย่างและการตั้งค่าที่ใช้ หากเปลี่ยนไปใช้ CPU โดยไม่รู้ตัว ผลการประเมินเวลาของงานจะไม่ตรงกับเครื่องที่ตกลงซื้อ

แยกช่วงดาวน์โหลดกับช่วงใช้ข้อมูลบริษัท

ก่อนนำเอกสารจริงเข้า ให้กำหนดว่าขั้นเตรียมเอนจินและโมเดลต้องเชื่อมต่ออะไร หลังเตรียมเสร็จจึงทดลองขอบเขตเครือข่ายของงานที่ตกลงไว้ พร้อมวิธีแจ้งปัญหาเมื่อบริการที่จำเป็นใช้ไม่ได้

ตรวจระบบค้นเอกสารและ embedding แยกจาก provider ที่สร้างคำตอบ รวมถึงเครื่องมือที่เปิดใช้และที่เก็บไฟล์ส่งออก การรวมเอนจินนี้ลดส่วนที่ต้องติดตั้งแยกในเส้นทางดังกล่าว แต่ไม่ได้ตอบแทนว่าทุกส่วนของงานอยู่ในบริษัทแล้ว

ปิดการรับมอบด้วยงานที่ทำซ้ำได้

ขอให้คนที่จะใช้จริงลองงานเดิมหลังเริ่มระบบใหม่ และเก็บว่าอะไรยังต้องให้ผู้ติดตั้งช่วย ใช้ผลนั้นวางขั้นตอนตามการทำงานของ AI ภายในออฟฟิศ โดยตกลงทั้งการใช้งาน การแก้เหตุ และการเปลี่ยนรุ่น ข่าวนี้ไม่ได้ยืนยันคุณภาพงานไทยหรือการรองรับเอนจินนี้ใน Mimir

วิดีโอ AnythingLLM จาก Tim Carambat เป็นตัวอย่างเก่าของแอปและงาน agent ในเครื่อง ไม่ใช่เดโมเอนจิน Docker รุ่น 1.19

คำถามที่พบบ่อย

AnythingLLM 1.19 เปิดเอนจินใน Docker ให้เองทุกการติดตั้งหรือไม่
เป็นตัวเลือกที่ปิดไว้เริ่มต้นและต้องกำหนดตอนเริ่ม container ผู้ติดตั้งควรระบุว่าใช้ provider ใดจริง พร้อมหลักฐานจากระบบที่ส่งมอบ
container เดียวพิสูจน์ว่าเอกสารไม่ออกนอกบริษัทหรือไม่
ยังต้องตรวจทั้งโมเดล ระบบ embedding เครื่องมือ และบริการภายนอกที่เลือกใช้ ให้แยกช่วงดาวน์โหลดกับช่วงประมวลผลเอกสาร และยืนยันทางเดินข้อมูลตามขอบเขตงาน

วิดีโอที่เกี่ยวข้อง

แหล่งข้อมูล

  1. AnythingLLM v1.19.0

    Mintplex Labs / AnythingLLM

    เผยแพร่ต้นทาง
    เข้าถึงข้อมูล
  2. Docker built-in LLM implementation

    Mintplex Labs / AnythingLLM

    เผยแพร่ต้นทาง
    เข้าถึงข้อมูล