Ollama เป็นเครื่องมือสำหรับรันโมเดลภาษาขนาดใหญ่ (LLMs) บนเครื่องคอมพิวเตอร์ส่วนตัว ช่วยให้สามารถใช้งาน AI แบบออฟไลน์ได้ มันได้รับความนิยมเพราะใช้งานง่าย ไม่ต้องการทรัพยากรมาก และรองรับโมเดลหลากหลาย เช่น Llama 2 นอกจากนี้ยังเป็นโอเพนซอร์ส ทำให้นักพัฒนาสามารถปรับแต่งได้ Ollama ช่วยให้ผู้ใช้สามารถทดลองกับ AI ได้โดยไม่ต้องพึ่งบริการคลาวด์ ทำให้มีความเป็นส่วนตัวและควบคุมข้อมูลได้มากขึ้น ด้วยคุณสมบัติเหล่านี้ Ollama จึงเป็นที่นิยมในกลุ่มนักพัฒนาและผู้สนใจ AI

Ollama ซอฟต์แวร์รันปัญญาประดิษฐ์บนพีซีออกไลบรารี Python/JavaScript
Ollama ซอฟต์แวร์สำหรับรันโมเดลปัญญาประดิษฐ์ในกลุ่ม LLM ปล่อยไลบรารีสำหรับพัฒนาแอปพลิเคชั่นบนภาษา Python และ JavaScript จากเดิมที่ต้องเขียน REST API โดยตรง
ไลบรารีทั้งสองตัวรองรับฟีเจอร์ของ Ollama ครบชุด ได้แก่ streaming สำหรับการคืนคำตอบทีละส่วน, multi-modal ใส่ภาพเป็นอินพุต, text completion สำหรับถามตอบปกติ, และ custom models สำหรับการกำหนด system prompt ด้วยตัวเอง
แนวทางการรัน LLM บนเครื่องไคลเอนต์เริ่มได้รับความสนใจมากขึ้นเรื่อยๆ เพราะไม่ต้องเสียค่าใช้จ่าย, คาดเดาระยะเวลารันได้แน่นอน, และโมเดลขนาดเล็กก็เริ่มมีประสิทธิภาพดีขึ้นในช่วงหลังๆ 
https://www.blognone.com/node/137861

Ollama now supports AMD graphics cards
[Spoil] คลิกเพื่อดูข้อความที่ซ่อนไว้ใส่ข้อความOllama now supports AMD graphics cards in preview on Windows and Linux. All the features of Ollama can now be accelerated by AMD graphics cards on Ollama for Linux and Windows.
https://ollama.com/blog/amd-preview



Ollama คืออะไร ทำไมได้รับความนิยม
Ollama เป็นแพลตฟอร์มที่ช่วยให้ผู้ใช้สามารถรันโมเดลภาษาขนาดใหญ่บนคอมพิวเตอร์ส่วนตัวได้อย่างง่ายดาย มันได้รับความนิยมเพราะช่วยลดข้อจำกัดในการเข้าถึงเทคโนโลยี AI ขั้นสูง Ollama ทำให้การทดลองกับ LLMs เป็นเรื่องง่าย โดยไม่จำเป็นต้องมีทรัพยากรคอมพิวเตอร์มากมาย นอกจากนี้ ยังมีความยืดหยุ่นสูง สามารถปรับแต่งและใช้งานได้หลากหลายรูปแบบ ความสามารถในการทำงานแบบออฟไลน์ช่วยเพิ่มความเป็นส่วนตัวและความปลอดภัยของข้อมูล ทำให้ Ollama เป็นตัวเลือกที่น่าสนใจสำหรับทั้งนักพัฒนาและผู้ใช้ทั่วไปที่ต้องการสัมผัสประสบการณ์ AI แบบใหม่