Từ ý tưởng AI đến thử nghiệm: Doanh nghiệp nên bắt đầu từ đâu?

Từ ý tưởng đến triển khai thực tế, AI đang mở ra nhiều cơ hội giúp doanh nghiệp tối ưu vận hành, nâng cao trải nghiệm khách hàng và phát triển sản phẩm. Tuy nhiên, việc lựa chọn use case, mô hình và cách thử nghiệm phù hợp vẫn là bài toán khiến nhiều doanh nghiệp băn khoăn. vMaaS mang đến cách tiếp cận AI thông qua API, giúp doanh nghiệp bắt đầu từ một bài toán cụ thể, thử nghiệm và đánh giá trước khi mở rộng. Vậy doanh nghiệp nên bắt đầu từ đâu và cần chuẩn bị gì? Cùng Viettel IDC tìm hiểu trong bài viết dưới đây nhé. 

Doanh nghiệp nên bắt đầu ứng dụng AI từ đâu?

Khi bắt đầu tìm hiểu AI, một trong những sai lầm phổ biến của doanh nghiệp là tập trung quá sớm vào câu hỏi “Nên dùng mô hình AI nào?”. Trên thực tế, mô hình chỉ là một phần của bài toán. Nếu chưa xác định rõ AI được sử dụng để giải quyết vấn đề gì, doanh nghiệp rất khó đánh giá một mô hình có thực sự phù hợp hay không.

Điểm khởi đầu hợp lý mà doanh nghiệp cần tập trung nên là một vấn đề cụ thể trong hoạt động kinh doanh hoặc vận hành. Chẳng hạn, doanh nghiệp có thể đang mất nhiều thời gian để nhân viên tìm kiếm thông tin trong hàng nghìn tài liệu, bộ phận chăm sóc khách hàng phải xử lý số lượng lớn câu hỏi lặp lại hoặc Website cần bổ sung khả năng tương tác bằng ngôn ngữ tự nhiên. Khi đó, AI không còn được nhìn nhận như một công nghệ cần triển khai cho bắt kịp xu hướng, mà trở thành công cụ giải quyết một nhu cầu có thể xác định và đo lường.

Doanh nghiệp có thể bắt đầu bằng cách rà soát những quy trình đang có một hoặc nhiều đặc điểm như xử lý thủ công nhiều, lặp đi lặp lại, cần tìm kiếm và tổng hợp thông tin thường xuyên hoặc có khối lượng tương tác lớn. Đây thường là những điểm có tiềm năng ứng dụng AI rõ ràng hơn.

vMaaS là gì? Giải pháp giúp doanh nghiệp tiếp cận AI qua API

Viettel Model as a Service (vMaaS) là giải pháp cung cấp các mô hình AI thông qua API, giúp doanh nghiệp tích hợp năng lực AI vào Website, ứng dụng hoặc quy trình nghiệp vụ mà không phải tự xây dựng toàn bộ hệ thống AI từ đầu.

Với cách tiếp cận này, đội ngũ phát triển có thể gửi yêu cầu đến model thông qua API, nhận kết quả và đưa kết quả đó vào ứng dụng. Phần hạ tầng và mô hình AI được cung cấp dưới dạng dịch vụ, trong khi doanh nghiệp tập trung vào bài toán nghiệp vụ và trải nghiệm người dùng. Điều này đặc biệt phù hợp với doanh nghiệp đã có đội ngũ IT hoặc phát triển phần mềm nhưng chưa muốn đầu tư ngay một hệ thống AI quy mô lớn.

Một số lợi ích nổi bật của vMaaS bao gồm: 

- Giúp doanh nghiệp tiếp cận và tích hợp AI qua API nhanh hơn.

- Giảm rào cản đầu tư hạ tầng ban đầu khi bắt đầu triển khai AI.

- Linh hoạt lựa chọn mô hình theo bài toán và nhu cầu sử dụng.

- Có thể bắt đầu từ use case cụ thể, sau đó thử nghiệm và mở rộng theo nhu cầu.

- Hạ tầng tại Việt Nam, có đội ngũ kỹ thuật trong nước hỗ trợ. 

Những bài toán AI doanh nghiệp có thể bắt đầu thử nghiệm với vMaaS

vMaaS có thể được sử dụng cho nhiều bài toán AI mà doanh nghiệp đang có nhu cầu đưa vào sản phẩm hoặc quy trình vận hành.

Chatbot và trợ lý AI

Chatbot và trợ lý AI là lựa chọn phù hợp để bắt đầu với những doanh nghiệp muốn cải thiện khả năng tương tác với khách hàng hoặc hỗ trợ nhân viên.

Khi khách hàng còn lăn tăn lựa chọn các model LLM (Large Language Models) phù hợp trong hàng trăm model và phiên bản khác nhau. vMasS đã lựa chọn sẵn các model LLM tối ưu giữa tốc độ, suy luận và đặc biệt phù hợp với các chatbot tiếng Việt để khách hàng sử dụng mà không cần băn khoăn so sánh, lựa chọn nhưng vẫn đảm bảo chi phí tối ưu.

Trong nội bộ, trợ lý AI có thể hỗ trợ nhân viên tìm kiếm thông tin, tổng hợp nội dung hoặc thực hiện một số tác vụ liên quan đến ngôn ngữ. Khi thử nghiệm, doanh nghiệp nên kiểm tra độ chính xác của câu trả lời, khả năng hiểu ngữ cảnh, độ trễ và những tình huống AI không có đủ thông tin để trả lời.

Hỏi đáp kho tri thức doanh nghiệp

Kho tri thức doanh nghiệp thường bao gồm quy trình, quy định, tài liệu sản phẩm, hướng dẫn sử dụng và tài liệu đào tạo. Khi lượng tài liệu tăng lên, việc tìm kiếm thủ công trở nên mất thời gian. AI có thể giúp người dùng đặt câu hỏi bằng ngôn ngữ tự nhiên và nhanh chóng tìm được thông tin liên quan.

vMaaS có model Meta-llama/Llama-3.1-8B để hỗ trợ. Mô hình đa ngôn ngữ với ngữ cảnh dài, phù hợp tóm tắt, hỏi đáp, sử dụng công cụ, suy luận và hỗ trợ lập trình.

Tích hợp AI vào Website và ứng dụng

Viettel Model as a Service (vMaaS) cung cấp các mô hình AI thông qua API, giúp doanh nghiệp dễ dàng tích hợp năng lực AI vào Website, Mobile App hoặc phần mềm hiện có mà không cần tự triển khai và vận hành từng mô hình. Tùy nhu cầu, doanh nghiệp có thể lựa chọn các nhóm mô hình trên vMaaS để xây dựng chatbot, trợ lý AI, tìm kiếm ngữ nghĩa, tóm tắt nội dung, hỗ trợ lập trình hoặc các tính năng xử lý dữ liệu chuyên biệt. 

Ví dụ, nhóm Qwen3 hỗ trợ hội thoại, suy luận nhiều bước, phân tích tài liệu và gọi công cụ; Llama 3.1 phù hợp với các tác vụ đa ngôn ngữ, hỏi đáp và xử lý văn bản. Với những bài toán cần xử lý hình ảnh cùng ngôn ngữ, Qwen2.5-VL có thể hỗ trợ nhận diện, mô tả hình ảnh và phân tích tài liệu scan, hóa đơn, biểu mẫu.

RAG với Embedding, Reranker và mô hình ngôn ngữ

vMaaS hỗ trợ các thành phần quan trọng để doanh nghiệp xây dựng hệ thống RAG (Retrieval-Augmented Generation) trên dữ liệu riêng. Thay vì chỉ sử dụng khả năng có sẵn của LLM, doanh nghiệp có thể kết hợp mô hình ngôn ngữ với Embedding và Reranker để tìm kiếm, chọn lọc thông tin trước khi tạo câu trả lời.

Cụ thể, mô hình BAAI/bge-m3 trên vMaaS có thể đảm nhiệm việc chuyển tài liệu và truy vấn thành vector, phục vụ tìm kiếm ngữ nghĩa trong kho dữ liệu. Sau bước tìm kiếm, BAAI/bge-reranker-v2-m3 giúp đánh giá lại và sắp xếp các kết quả theo mức độ liên quan, từ đó cung cấp ngữ cảnh phù hợp hơn cho mô hình ngôn ngữ.

Ngoài ra, các LLM như Qwen3 hoặc Llama 3.1 sử dụng phần thông tin đã được truy xuất để tạo câu trả lời theo yêu cầu của ứng dụng. Với cách kết hợp này, doanh nghiệp có thể xây dựng chatbot hỏi đáp tài liệu, trợ lý tra cứu quy trình nội bộ hoặc hệ thống tìm kiếm thông minh dựa trên kho dữ liệu riêng.

Làm thế nào để lựa chọn use case AI phù hợp?

Không phải ý tưởng AI nào cũng nên được triển khai ngay. Doanh nghiệp cần ưu tiên use case có giá trị rõ ràng và khả năng thực hiện trong điều kiện hiện tại. Trước hết, hãy xác định vấn đề mà AI cần giải quyết. Use case càng cụ thể thì việc xây dựng PoC và đánh giá kết quả càng dễ. 

Tiếp theo là dữ liệu. Doanh nghiệp cần biết dữ liệu có sẵn hay không, chất lượng thế nào và có được phép sử dụng cho bài toán hay không.

Bên cạnh đó, khả năng đo lường cũng rất quan trọng. Ví dụ, với chatbot có thể theo dõi tỷ lệ câu trả lời đúng, thời gian phản hồi hoặc số lượng yêu cầu được xử lý. Với trợ lý tài liệu, có thể đo thời gian tìm kiếm thông tin trước và sau khi ứng dụng AI.

Ngoài ra, cần cân nhắc độ phức tạp tích hợp, chi phí sử dụng và khả năng mở rộng. Một use case tốt cho PoC nên đáp ứng được các yếu tố: có giá trị với doanh nghiệp, có dữ liệu, phạm vi rõ ràng, có tiêu chí đo lường và có khả năng triển khai thực tế.

Quy trình từ ý tưởng đến thử nghiệm AI với vMaaS

Từ một ý tưởng ban đầu, doanh nghiệp có thể triển khai PoC theo từng bước để hạn chế rủi ro và có cơ sở đánh giá trước khi mở rộng.

- Xác định bài toán và phạm vi thử nghiệm: Thay vì triển khai cho toàn bộ doanh nghiệp, có thể bắt đầu với một phòng ban, một nhóm tài liệu hoặc một tính năng cụ thể. Phạm vi càng rõ thì thời gian thử nghiệm và đánh giá càng dễ kiểm soát.

- Lựa chọn mô hình AI phù hợp: Sau khi xác định bài toán, doanh nghiệp lựa chọn model dựa trên yêu cầu thực tế. Các yếu tố cần cân nhắc gồm khả năng xử lý tác vụ, chất lượng đầu ra, ngôn ngữ, độ trễ và chi phí.

- Tích hợp mô hình thông qua API vMaaS: Khi đã chọn model, đội ngũ phát triển có thể tích hợp thông qua API vMaaS. Ứng dụng gửi yêu cầu đến API, nhận phản hồi từ model và xử lý kết quả theo logic nghiệp vụ. Trong quá trình này, cần chú ý đến xác thực, quản lý API key, giới hạn lưu lượng và xử lý lỗi.

- Thực hiện PoC trên bài toán thực tế: PoC nên sử dụng dữ liệu và tình huống gần với môi trường vận hành thực tế.

- Đánh giá kết quả và khả năng mở rộng: Sau PoC, doanh nghiệp cần đối chiếu kết quả với các tiêu chí đã đặt ra. Nếu kết quả chưa đạt, doanh nghiệp có thể tiếp tục điều chỉnh và kiểm thử lại. Nếu đạt yêu cầu, có thể lập kế hoạch chuyển sang triển khai thực tế.

Kết luận

Để đưa AI từ ý tưởng vào thực tế, doanh nghiệp nên bắt đầu từ một use case cụ thể, xác định dữ liệu, tiêu chí đánh giá và triển khai PoC trước khi mở rộng. Cách tiếp cận này giúp kiểm chứng cả giá trị kinh doanh lẫn khả năng kỹ thuật với mức rủi ro thấp hơn. Với vMaaS, doanh nghiệp có thể tiếp cận mô hình AI qua API và thử nghiệm các bài toán như chatbot, trợ lý AI, hỏi đáp kho tri thức, tích hợp AI vào Website, ứng dụng hoặc RAG. Khi kết quả PoC đáp ứng yêu cầu, doanh nghiệp có thể từng bước mở rộng AI vào các sản phẩm và quy trình có giá trị cao hơn. 

Tìm hiểu vMaaS và đăng ký tư vấn để được hỗ trợ lựa chọn use case, model và phương án thử nghiệm phù hợp tại đây: 

https://viettelidc.com.vn/model-as-a-service