Float16 at SuperAI 2024 @ SG

Float16 have selected to present at SuperAI 2024 event @ Marina Bay Sands, June 5-6 2024. for startup Genesis.

Join Us at SuperAI Event for an Insightful Pitch Session with Float16!

We are excited to announce that Float16 will be participating in the upcoming SuperAI event.

The pitch session scheduled for Wednesday, June 5th, from 3:00 PM to 5:00 PM (SGT) at the Motiff Stage.

Additionally, should we progress to the next stage, we will compete in the final round on Thursday, June 6th, from 11:00 AM until 11:59 AM, again at the Motiff Stage.

Your support would be greatly appreciated as we endeavor to showcase our innovative solutions.

We also invite you to visit us at booth G8.

My team and I would be delighted to meet you in person, discuss our technologies, and explore how Float16 can enhance your AI-driven projects.

About Float16

Float16 is committed to creating the most reliable and optimized MLOps platform for training and deploying multilingual AI models. Here are some key features that set Float16 apart:

  • Managed Spot Instances: Our platform ensures seamless operations with zero downtime, providing robust service continuity.
  • Optimized Inference Models: Specifically tailored for multilingual applications, our models deliver superior performance and efficiency.
  • Cost-Effective Training Solutions: Leveraging spot instances for training, we offer significant cost reductions, potentially lowering training expenses by up to 90%.
  • Flexible Training Options: Our platform supports the pausing and resuming of training sessions, giving you greater control over your resource allocation.

Our mission is to simplify and enhance the deployment of AI technologies, and we are eager to demonstrate our advancements at the SuperAI event. We hope to see you there!

About SuperAI Event

SuperAI (Singapore, 5-6 June 2024) is the most anticipated AI conference that will define the future of artificial intelligence.

Industry leaders, heads of state, entrepreneurs, renowned researchers, and curious minds alike will converge at the iconic Marina Bay Sands in Singapore this June to explore and unveil the next wave of transformative AI technologies.

Mark your calendars for this extraordinary journey into the limitless possibilities of AI. The future is just around the corner, and SuperAI is where it all begins.

Read more

ทำ Data Extraction จาก image โดยใช้ LLM Multimodal

ทำ Data Extraction จาก image โดยใช้ LLM Multimodal

ในการทำ Data Extraction จากรูปภาพ เช่น สลิปใบเสร็จ, บัตรประชาชน, หรือแบบฟอร์มกระดาษ วิธีดั้งเดิมมักใช้ OCR (Optical Character Recognition) ร่วมกับการเขียน rule หรือ regex เพื่อแยกข้อมูลออกมา ซึ่งยุ่งยากหรือเมื่อรูปแบบข้อมูลเปลี่ยน ซึ่งจริงๆแล้วเรามี

By Thanawat Kittichaikarn
Self-Hosted LLMs for Enterprise #4

Self-Hosted LLMs for Enterprise #4

ตอนสุดท้ายแล้วนะครับ สำหรับการ deploy llm model ใช้งานเอง หลังจากที่แล้ว Setup ตัว service และ tools ต่างๆที่ต้องการครบถ้วนแล้ว เรามาลุยกันต่อเลยครับในการ download model และทำ API Endpoint สำหรับใครที่เพิ่งเข้ามาอ่านตอนนี้เป็นตอนแรก สามารถติดตามตอนก่อนหน้าได้

By Weerasak Suwannapong
Self-Hosted LLMs for Enterprise #3

Self-Hosted LLMs for Enterprise #3

สำหรับใครที่เพิ่งเข้ามาเจอตอนนี้สามารถย้อนกลับไปอ่าน 2 ตอนก่อนหน้าได้ที่ https://blog.float16.cloud/self-hosted-llms-for-enterprise-1/ https://blog.float16.cloud/self-hosted-llms-for-enterprise-2/ 2 ตอนที่ผ่านมา เราได้ติดตั้ง GPU Driver และเชื่อม GPU เข้ากับ Docker ได้เรียบร้อยแล้ว บทนี้เราจะมาติดตั้งเครื

By Weerasak Suwannapong
Self-Hosted LLMs for Enterprise #2

Self-Hosted LLMs for Enterprise #2

ในตอนที่แล้ว เราได้ติดตั้ง NVIDIA GPU Driver ให้พร้อมใช้งานบนเครื่อง EC2 (g5g.xlarge) ที่ใช้ Ubuntu 24.04 LTS บทนี้เราจะทำให้ GPU ที่ติดตั้งไว้สามารถใช้งานได้ภายใน Docker container เพื่อเตรียมต่อยอดไปยังการสร้าง LLM API ด้วย llama.cpp อ่านตอนแรกได้

By Weerasak Suwannapong