- Qualcomm AI On-Prem Appliance Solution ออกแบบมาเฉพาะสำหรับการใช้งานภายในองค์กร ซึ่งรองรับการอนุมาน AI ประเภท Generative AI และการประมวลผลภาพ (Computer Vision) โดยสามารถให้ข้อมูลลูกค้าที่ละเอียดอ่อน, โมเดลที่ปรับแต่งเฉพาะ และการประมวลผลอนุมานงานภายในองค์กร
- Qualcomm Cloud AI Inference Suite มอบแอปพลิเคชัน AI ที่พร้อมใช้งานและตัวแทน, เครื่องมือ และไลบรารีสำหรับการนำ AI ไปใช้งานจริง ตั้งแต่การประมวลผลภาพไปจนถึง Generative AI ครอบคลุมทั้งโซลูชันภายในองค์กรและการใช้งานบนคลาวด์
ในงาน CES 2025 บริษัท ควอลคอมม์ เทคโนโลยีส์ อินคอร์ปอเรชั่น (Qualcomm Technologies, Inc.) เปิดตัว Qualcomm® AI On-Prem Appliance Solution โซลูชันฮาร์ดแวร์ที่สามารถตั้งบนโต๊ะหรือแขวนบนผนังสำหรับใช้งานภายในองค์กร และ Qualcomm® Cloud AI Inference Suite เป็นชุดซอฟต์แวร์และบริการสำหรับการอนุมาน AI ที่ครอบคลุมตั้งแต่ระดับ near-edge จนถึงคลาวด์ การรวมกันของโซลูชันใหม่เหล่านี้ช่วยให้องค์กรขนาดเล็กและขนาดกลาง รวมถึงองค์กรธุรกิจและอุตสาหกรรมสามารถใช้งานแอปพลิเคชัน AI ที่พัฒนาขึ้นเองหรือแอปพลิเคชันสำเร็จรูปภายในองค์กรได้ รวมถึงการใช้งานในงานที่เกี่ยวข้องกับการสร้างเนื้อหาด้วย AI การดำเนินการอนุมาน AI ภายในองค์กรสามารถช่วยลดค่าใช้จ่ายในการดำเนินงานและต้นทุนรวมของการเป็นเจ้าของ (TCO) เมื่อเทียบกับค่าใช้จ่ายในการเช่าโครงสร้างพื้นฐาน AI จากผู้ให้บริการภายนอก
การใช้ AI On-Prem Appliance Solution ร่วมกับ AI Inference Suite ทำให้ลูกค้าสามารถใช้ AI สร้างสรรค์โดยการใช้ข้อมูลเฉพาะของตนเอง โมเดลที่ปรับแต่งมาเฉพาะ และโครงสร้างพื้นฐานทางเทคโนโลยีเพื่อทำให้กระบวนการและแอปพลิเคชันของมนุษย์และเครื่องจักรอัตโนมัติในสภาพแวดล้อมต่างๆ เช่น ร้านค้าปลีก, ร้านอาหารบริการด่วน, ร้านช้อปปิ้ง, ตัวแทนจำหน่าย, โรงพยาบาล, โรงงาน และพื้นโรงงาน ซึ่งกระบวนการทำงานเหล่านี้ได้รับการกำหนดไว้อย่างชัดเจน สามารถทำซ้ำได้ และพร้อมสำหรับการนำไปใช้งานอัตโนมัติ
นากุล ดักกัล (Nakul Duggal) ผู้จัดการทั่วไปกลุ่มสำหรับยานยนต์, Industrial IoT และ Cloud Computing ของ Qualcomm Technologies, Inc. กล่าวว่า “AI On-Prem Appliance Solution และ Cloud AI Inference Suite ช่วยเปลี่ยนแปลงเศรษฐศาสตร์ TCO ของการปรับใช้ AI โดยทำให้สามารถประมวลผลงานที่เกี่ยวข้องกับ AI สร้างสรรค์จากการใช้คลาวด์เพียงอย่างเดียวไปสู่การใช้งานภายในองค์กร สำหรับกรณีการใช้งานอัตโนมัติของ AI หลากหลายประเภท เช่น ผู้ช่วยในร้าน, การฝึกอบรมพนักงาน, ข้อมูลเฉพาะสถานที่, การปฏิบัติตามมาตรฐานความปลอดภัย และการสนับสนุนการขายและบริการในร้าน, ตัวแทนจำหน่าย หรือพื้นโรงงาน โซลูชัน AI On-Prem Appliance ของเราช่วยลดต้นทุนในการดำเนินงาน AI ได้อย่างมีนัยสำคัญสำหรับองค์กรและอุตสาหกรรมต่างๆ องค์กรสามารถเร่งการปรับใช้แอปพลิเคชัน AI สร้างสรรค์ โดยใช้โมเดลของตนเอง ควบคู่กับการรักษาความเป็นส่วนตัว การปรับแต่ง และการปรับเปลี่ยนในขณะที่ยังคงควบคุมได้อย่างเต็มที่ และมั่นใจได้ว่าข้อมูลของพวกเขาจะไม่ออกจากองค์กร”
Qualcomm AI On-Prem Appliance Solution ขับเคลื่อนโดย Qualcomm® Cloud AI ได้รวมความสามารถในการเข้าถึงและประสิทธิภาพของเซิร์ฟเวอร์การอนุมานในศูนย์ข้อมูลเข้ากับประสิทธิภาพการใช้พลังงาน, น้ำหนักและรูปทรง, ความเป็นส่วนตัวของข้อมูล, การปรับแต่ง และการควบคุมที่มีในโซลูชัน AI ภายในองค์กร โซลูชัน AI On-Prem Appliance รองรับความสามารถที่หลากหลาย:
- การขยายขีดความสามารถจากผลิตภัณฑ์เดสก์ท็อปแบบสแตนด์อโลนไปยังคลัสเตอร์อุปกรณ์ที่ติดตั้งบนผนัง ซึ่งให้บริการ AI ภายในท้องถิ่นหลากหลาย เช่น ตัวแทนเสียงในกล่อง, การถ่ายโอนโมเดลภาษาเล็ก (SLM), โมเดลภาษาใหญ่ (LLM) และโมเดลมัลติโหมดขนาดใหญ่ (LMM), รวมถึงฟังก์ชันการสร้างข้อมูลที่เสริมด้วยการค้นหาที่มีการจัดทำดัชนีและการสรุปผล (RAG), AI แบบเอเจนต์, การอัตโนมัติในกระบวนการทำงานของ AI, การสร้างภาพ, การสร้างโค้ด, การมองเห็นคอมพิวเตอร์ และการประมวลผลกล้อง
- รองรับโมเดล AI แบบสร้างสรรค์, การประมวลผลภาษาธรรมชาติ, และการมองเห็นคอมพิวเตอร์หลายโมเดล ทั้งแบบโอเพ่นซอร์สและเฉพาะทาง เพื่ออำนวยความสะดวกในการอัตโนมัติกระบวนการทำงานสำหรับแอปพลิเคชันในองค์กรหลายประเภท เช่น การค้นหาหลายภาษาที่ชาญฉลาด, ผู้ช่วย AI และตัวแทนที่ปรับแต่งได้, การสร้างโค้ด, การร่างเอกสารอัตโนมัติ และการจดบันทึก รวมถึงอื่นๆ
- กล้อง AI ที่รองรับการประมวลผลภาพ วิดีโอ และสตรีมมิ่ง สำหรับแอปพลิเคชันการมองเห็นคอมพิวเตอร์ที่เน้นด้านความปลอดภัย ความมั่นคง และการตรวจสอบสถานที่
Qualcomm Cloud AI Inference Suite ช่วยให้องค์กรลูกค้าและนักพัฒนาภายนอกสามารถเข้าถึงชุดเครื่องมือและไลบรารีที่ครอบคลุมสำหรับการพัฒนา หรือการนำแอปพลิเคชัน AI แบบสร้างสรรค์ไปใช้งานกับ AI On-Prem Appliance Solution หรือโซลูชันอื่นๆ ที่ใช้เทคโนโลยี Qualcomm Cloud AI accelerators โดยชุดเครื่องมือนี้มีอินเตอร์เฟซการเขียนโปรแกรมแอปพลิเคชัน (APIs) ที่หลากหลาย รวมถึงการจัดการและการบริหารผู้ใช้, การแชท, การสร้างภาพ, ความสามารถของ AI แบบสร้างสรรค์ในด้านเสียงและวิดีโอ, การรองรับ OpenAI API และ RAG ชุดเครื่องมือยังรองรับการรวมเข้ากับโมเดล AI แบบสร้างสรรค์ที่ได้รับความนิยม, โครงสร้างงาน, และการปรับใช้โดยใช้ Kubernetes หรือ bare containers
อุปกรณ์ AI แบบคอมแพคที่ใช้พลังงานจากผนังเหล่านี้ผสมผสานการใช้งานของ SLMs สำหรับการประมวลผลภาษาธรรมชาติ พร้อมกับ LLMs และ LMMs ที่ปรับแต่งมาเฉพาะ (จาก 70B พารามิเตอร์ขึ้นไป) เพื่อรองรับตัวแทน AI สำหรับองค์กรที่สามารถให้การตอบสนองแบบเรียลไทม์และทำงานอัตโนมัติในกระบวนการ AI เช่น การค้นหาที่มีดัชนีอัจฉริยะและการสร้างเนื้อหา ทั้งหมดนี้สามารถทำได้ด้วยการใช้พลังงานที่มีประสิทธิภาพและสถาปัตยกรรมที่ให้ต้นทุนการเป็นเจ้าของที่คุ้มค่า
ผู้ใช้และนักพัฒนาที่สนใจสามารถสำรวจความเป็นไปได้ของ Qualcomm AI On-Prem Appliance Solution และฟังก์ชันต่างๆ ของ Cloud AI Inference Suite ได้ผ่าน Playground for Qualcomm Cloud AI สำหรับข้อมูลเพิ่มเติม สามารถเยี่ยมชมหน้าเว็บไซต์ของ Qualcomm Cloud AI และ Edge AI Appliance and Box
Tags:
ai
ces
cloud
Qualcomm
Qualcomm AI On-Prem Appliance Solution
Qualcomm Cloud AI
Qualcomm Cloud AI Inference Suite
tech