PIKAROBOT: TĂNG TỐC THỬ NGHIỆM AI VỚI HẠ TẦNG GPU TRÊN AWS
PROJECTS
GNXT
9/30/20267 phút đọc
3. GIẢI PHÁP TRÊN AWS
Xây dựng hạ tầng GPU linh hoạt trên Amazon EC2
Genextech Solutions đồng hành cùng Pikarobot triển khai GPU infrastructure trên Amazon EC2, sử dụng RTX 6000 trên AWS cho các workload AI và quá trình thử nghiệm model.
Giải pháp được thiết kế dựa trên nhu cầu sử dụng thực tế của team, thay vì yêu cầu Pikarobot duy trì một hệ thống GPU cố định trong thời gian dài.
Linh hoạt trong việc tiếp cận GPU
Với GPU compute trên Amazon EC2, Pikarobot có thể tiếp cận GPU RTX 6000 để thử nghiệm model và chạy các workload yêu cầu GPU.
Điều này giúp team linh hoạt hơn trong việc thử nghiệm model, đánh giá hiệu năng và triển khai các workflow AI mới mà không cần đầu tư vào phần cứng vật lý.
Tối ưu chi phí với Spot Instances
Genextech Solutions kết hợp Amazon EC2 Spot Instances để giúp Pikarobot tối ưu chi phí compute.
Thay vì duy trì tài nguyên GPU cố định, team có thể tận dụng compute capacity phù hợp với workload và tối ưu chi phí cho các tác vụ thử nghiệm hoặc workload có tính linh hoạt.
Self-host model cho AI-generated media
Một phần workload của Pikarobot liên quan đến việc tạo nội dung media bằng AI.
Thay vì phụ thuộc hoàn toàn vào các API bên ngoài, Pikarobot có thể self-host model trên GPU infrastructure, giúp team chủ động hơn với môi trường chạy model và giảm đáng kể chi phí khi thực hiện các workload có volume lớn.
Toàn bộ hạ tầng được triển khai trong khoảng 2 tuần.
1. THÔNG TIN KHÁCH HÀNG
Pikarobot – Nền tảng EdTech ứng dụng AI
Pikarobot là sản phẩm EdTech được phát triển bởi Step Up Education, tập trung vào việc ứng dụng công nghệ để hỗ trợ trẻ em Việt Nam học và luyện giao tiếp tiếng Anh.
Pika Robot là một người bạn đồng hành học tập ứng dụng AI, tạo môi trường tương tác để trẻ thực hành tiếng Anh tại nhà. Nền tảng kết hợp nhiều công nghệ AI để hỗ trợ trải nghiệm học tập tương tác và cá nhân hóa hơn.
Khi sản phẩm tiếp tục được phát triển, đội ngũ Pikarobot cần thử nghiệm nhiều AI model và xây dựng các workflow yêu cầu tài nguyên GPU. Bên cạnh việc thử nghiệm model, team cũng cần xử lý các workload tạo nội dung giáo dục bằng AI với khối lượng lớn.
Điều này đặt ra nhu cầu về một hạ tầng GPU đủ mạnh, linh hoạt và phù hợp với mức sử dụng thực tế.
2. BÀI TOÁN CỦA PIKAROBOT
Khi thử nghiệm AI cần nhiều GPU hơn, nhưng tài nguyên phần cứng không phải lúc nào cũng được sử dụng liên tục
Trong quá trình phát triển các tính năng AI, team Pikarobot cần GPU để thử nghiệm model và chạy nhiều workflow yêu cầu GPU computing.
Tuy nhiên, team gặp phải một số vấn đề:
Thiếu tài nguyên phần cứng cho thử nghiệm
Team không có sẵn hạ tầng GPU chuyên dụng để có thể linh hoạt thử nghiệm các model hoặc triển khai các công cụ mới khi cần.
Tài nguyên không được sử dụng liên tục
GPU cần thiết cho nhiều workload khác nhau nhưng không phải lúc nào cũng chạy liên tục. Việc thuê phần cứng theo tháng có thể dẫn đến tình trạng trả phí cho tài nguyên không được sử dụng hết công suất.
Chi phí thuê GPU tương đối cao
Các phương án thuê GPU theo tháng có chi phí đáng kể, trong khi nhu cầu sử dụng của team thay đổi theo từng workload và từng giai đoạn thử nghiệm.
Hạn chế từ các dịch vụ GPU theo giờ
Một số dịch vụ thuê GPU theo giờ có thể gặp vấn đề về network hoặc sử dụng máy cộng đồng/shared environment, khiến team có thêm những lo ngại về khả năng kiểm soát môi trường và bảo vệ dữ liệu.
Vì vậy, Pikarobot không chỉ cần một GPU mạnh. Team cần một môi trường GPU linh hoạt, có thể chủ động triển khai workload, hỗ trợ self-host model và tối ưu chi phí theo nhu cầu sử dụng thực tế.
4. KẾT QUẢ & TÁC ĐỘNG
Từ bài toán GPU đến hạ tầng linh hoạt hơn cho AI
Sau khi triển khai, Pikarobot có thể chủ động hơn trong việc tiếp cận và sử dụng GPU cho các workload AI, đồng thời cải thiện hiệu quả chi phí.
~10% giảm chi phí GPU
Chi phí GPU được giảm khoảng 10% so với Local Cloud, giúp Pikarobot tối ưu hơn chi phí hạ tầng cho các workload AI.
RTX 6000 trên AWS
Pikarobot sử dụng RTX 6000 trên Amazon EC2 cho các workload AI và quá trình thử nghiệm model.
~1.000 thumbnails trong ~30 phút
Đối với workload tạo thumbnail, Pikarobot có thể thực hiện một đợt gen hàng loạt khoảng 1.000 thumbnails, với toàn bộ quá trình hoàn tất trong khoảng 30 phút.
So với việc sử dụng API, phương án self-host model giúp tiết kiệm hơn 90% chi phí cho workload generation này.
Sản xuất khối lượng lớn nội dung giáo dục trong 1 ngày
Bên cạnh thumbnail generation, hạ tầng GPU còn hỗ trợ các workflow tạo nội dung giáo dục bằng AI với khối lượng lớn.
Trong khoảng 1 ngày, hệ thống có thể hỗ trợ production:
4 MV
10 tập hoạt hình
2 intro/outro
20 bài hát
Các nội dung này đều phục vụ nhu cầu học tập và trải nghiệm giáo dục cho trẻ em, cho thấy GPU infrastructure có thể được sử dụng không chỉ cho quá trình thử nghiệm model mà còn cho các workload AI-generated media trong production.
~2 tuần triển khai
Hạ tầng GPU được triển khai trong khoảng 2 tuần, giúp Pikarobot nhanh chóng đưa môi trường mới vào quá trình thử nghiệm và sử dụng thực tế.
5. TÁC ĐỘNG ĐỐI VỚI DOANH NGHIỆP
Hạ tầng linh hoạt hơn cho quá trình phát triển AI
Đối với một sản phẩm EdTech ứng dụng AI như Pikarobot, khả năng tiếp cận GPU linh hoạt có ảnh hưởng trực tiếp đến quá trình thử nghiệm và phát triển các tính năng mới.
Thay vì phụ thuộc vào phần cứng cố định hoặc các dịch vụ GPU có nhiều hạn chế, Pikarobot có một môi trường cloud có thể được điều chỉnh theo từng workload.
Kết hợp Amazon EC2, RTX 6000, Spot Instances và self-hosted models, team có thể:
Linh hoạt thử nghiệm các AI model và GPU workload mới
Chủ động hơn trong môi trường triển khai model
Tối ưu chi phí cho các workload AI
Tận dụng GPU resources theo nhu cầu thực tế
Hỗ trợ các workflow tạo nội dung AI với volume lớn
Tạo nền tảng linh hoạt hơn cho quá trình phát triển sản phẩm AI
Từ GPU infrastructure đến AI-powered content production
Với Pikarobot, GPU infrastructure không chỉ phục vụ quá trình thử nghiệm model mà còn trở thành nền tảng hỗ trợ các workflow tạo nội dung giáo dục với khối lượng lớn.
Khả năng xử lý nhiều loại AI-generated media trong thời gian ngắn giúp team Pikarobot chủ động hơn trong việc phát triển và mở rộng nội dung phục vụ trẻ em, từ thumbnail, video, animation đến music.
Trong khoảng một ngày, hệ thống có thể hỗ trợ production 4 MV, 10 tập hoạt hình, 2 intro/outro và 20 bài hát, cho thấy hạ tầng GPU có thể mở rộng từ experimentation sang các workload production thực tế.
Case study của Pikarobot cho thấy bài toán GPU không chỉ nằm ở việc lựa chọn phần cứng, mà còn ở cách thiết kế hạ tầng phù hợp với workload, mức độ sử dụng và mục tiêu chi phí của sản phẩm AI.
AWS SOLUTION
Customer: Pikarobot
Industry: EdTech
AWS Solution: Amazon EC2 – GPU Compute
GPU: RTX 6000
Cost Optimization: Amazon EC2 Spot Instances
AI Approach: Self-hosted AI models
Deployment Time: ~2 weeks
GENEXTECH SOLUTIONS
Trao quyền cho doanh nghiệp bằng các giải pháp công nghệ đám mây sáng tạo
© 2025. All rights reserved.
Address
17B, Đường 12C, Long Bình
TP Hồ Chí Minh, Việt Nam
Contacts
+84 38 569 4657
innovate@genextech-solutions.com