AI Studio: từ bài toán đến vận hành
Một tình huống xuyên suốt kết nối tri thức, AI Gateway, workflow tùy chỉnh, sandbox và các lớp kiểm soát dữ liệu.
Chọn nội dung muốn xem · 16 phần
Đọc lời dẫn
Một câu hỏi. Quá nhiều nơi để tìm.
Một nhân viên cần biết quy trình mua thiết bị cho nhóm. Câu trả lời nằm rải rác trong tài liệu, email và kinh nghiệm của đồng nghiệp. Tìm được một đoạn thông tin vẫn chưa đủ: cần biết tài liệu còn hiệu lực không, mình được xem gì, và ai sẽ duyệt bước tiếp theo.
Một yêu cầu, một luồng làm việc.
Hãy theo một tình huống minh họa: trợ lý mua sắm nội bộ. Nhân viên gửi câu hỏi vào ứng dụng được xây bằng AI Studio. Ứng dụng tìm quy trình phù hợp, hỗ trợ soạn bản nháp và chuyển đến người có trách nhiệm. Đây là luồng có thể thiết kế, không phải quy trình có sẵn cho mọi tổ chức.
OCR, NER và pipeline tri thức.
Đầu vào có thể là tài liệu hoặc ảnh cần OCR để lấy chữ. NER hỗ trợ nhận diện thực thể như tên người, kết hợp các quy tắc PII theo chính sách. Đây là hỗ trợ nhận diện, không bảo đảm tìm hết dữ liệu nhạy cảm. Sau đó cấu hình xử lý, chia đoạn và lập chỉ mục. Thư mục, nguồn đồng bộ, pipeline tri thức, truy hồi kết hợp và reranking giúp tổ chức và kiểm tra chất lượng kho.
Truy hồi đúng dữ liệu, đúng quyền.
Trước khi đưa tài liệu vào câu trả lời, hệ thống phải xét quyền của người gọi. Phạm vi tổ chức, phòng ban và mức nhạy cảm ảnh hưởng đến dữ liệu được truy hồi. Tài liệu không được phép không nên đi vào ngữ cảnh. Trong ví dụ này, trợ lý chỉ lấy các đoạn quy trình phù hợp để chuẩn bị cho bước xử lý.
Workflow tùy chỉnh theo cách bạn làm việc.
Workflow không phải một đường đi cố định. Bạn có thể nối các nhóm node để nhận dữ liệu, truy hồi, gọi mô hình, rẽ nhánh, lặp, xử lý dữ liệu và trả kết quả. Khai báo biến đầu vào, chạy thử và xem đầu ra từng bước để tìm lỗi. Phiên bản nháp, lịch sử, nhập xuất DSL và thư viện đồ thị giúp chỉnh sửa, tái sử dụng rồi xuất bản có chủ đích.
AI Gateway: chọn đường gọi mô hình.
Có ngữ cảnh rồi, ứng dụng vẫn cần chọn đường gọi mô hình. Trong sơ đồ này, AI Gateway là tên mô tả lớp điều phối mô hình của AI Studio: lọc mô hình theo chính sách, quản lý thông tin kết nối và chuyển sang mô hình dự phòng được phép khi gặp lỗi phù hợp. Mô hình nội bộ hay bên ngoài đều phải phù hợp với cấu hình và mức dữ liệu.
Dữ liệu nào được phép ra ngoài?
Bảo vệ dữ liệu cần nhiều lớp. Trên đường chat, thông tin nhận dạng cá nhân có thể được che theo chính sách đã cấu hình. Nhãn nhạy cảm quyết định có được dùng nhà cung cấp bên ngoài hay không. Lời gọi công cụ còn qua kiểm soát đích truy cập. Nếu không được phép, yêu cầu phải bị chặn. Che thông tin không có nghĩa là mọi dữ liệu đã an toàn để gửi ra ngoài.
Code chạy trong sandbox riêng.
Khi cần logic tùy chỉnh, node Code gửi tác vụ đến dịch vụ sandbox riêng. Đây là một ranh giới thực thi, giúp tách code người dùng khỏi tiến trình chính và áp dụng giới hạn của sandbox. Node này bị tắt nếu chưa cấu hình dịch vụ. Sandbox không thay thế phân quyền hay kiểm soát đường ra ngoài; các lời gọi công cụ vẫn cần chính sách riêng.
AI soạn nháp. Con người quyết định.
Trở lại yêu cầu mua sắm. AI tạo bản nháp để người phụ trách kiểm tra. Nếu cần sửa, bản nháp quay lại bước xử lý. Chỉ khi được duyệt, luồng mới tiếp tục gọi công cụ đã cấu hình. Workflow cần được thiết kế như vậy cho các thao tác có tác động; không nên mặc định mọi kết quả của mô hình đều được tự động thực hiện.
Kết nối công cụ, không giấu tác động.
Ứng dụng có thể kết nối công cụ có sẵn, công cụ API, máy chủ MCP hoặc một workflow được đóng gói thành công cụ. Tích hợp nguồn dữ liệu và dịch vụ tri thức ngoài giúp dùng thông tin ở hệ thống khác. Các tiện ích kiểm duyệt cần đúng hợp đồng dịch vụ. Chỉ bật thao tác cần thiết, kiểm tra quyền, cấu hình kết nối và danh sách đích được phép trước khi sử dụng.
Từ bản nháp đến các kênh sử dụng.
Khi đã kiểm tra, xuất bản ứng dụng để chia sẻ trên web, nhúng widget hoặc tích hợp qua API và MCP theo quyền được cấp. Kênh nhắn tin cần thiết lập từng nhà cung cấp. Trigger theo lịch và webhook có thể khởi động workflow, với cấu hình xác thực và sự kiện phù hợp. Tài liệu API, khóa truy cập và hạn mức giúp quản lý cách các hệ thống gọi vào ứng dụng.
Hội thoại, ghi nhớ và đa phương thức.
Với ứng dụng hội thoại, bạn có thể cấu hình lời mở đầu, đầu vào, câu hỏi gợi ý và cách xử lý nghiệp vụ. Ghi nhớ dài hạn có màn hình xem bằng chứng, duyệt và cấu hình thời gian lưu theo chủ thể. Nhận dạng giọng nói, đọc thành tiếng và tạo hình ảnh phụ thuộc mô hình đã kết nối. Chỉ bật những khả năng thực sự phục vụ tình huống sử dụng.
Đo chất lượng trước khi mở rộng.
Xem hội thoại và nhật ký chạy để hiểu điều gì đã xảy ra. Dùng bộ dữ liệu đánh giá, so sánh các lượt tương thích và chú thích để kiểm tra chất lượng. Theo dõi sử dụng và vận hành để phát hiện vấn đề. Dữ liệu có thể được chuẩn bị cho huấn luyện; chạy tinh chỉnh còn phụ thuộc runner, tài nguyên và cấu hình triển khai, không chỉ một nút bấm.
Quản lý từ workspace đến hệ thống.
Đội ngũ quản lý thành viên, lời mời, vai trò, khóa và hạn mức ở workspace. Cấu hình danh tính, bảo vệ dữ liệu, nguồn mô hình và lưu trữ S3 hỗ trợ vận hành. Quản trị viên hệ thống có phạm vi riêng để xem tổ chức, tài khoản, sức khỏe dịch vụ và cấu hình thời gian chạy. Một số màn hình mạng và cờ tính năng chỉ để kiểm tra, không cho sửa trực tiếp.
Một nền tảng, nhiều tình huống sử dụng.
Cùng cách kết nối đó có thể áp dụng cho nhiều tình huống: hỏi đáp quy định nội bộ, hỗ trợ nhân viên chăm sóc khách hàng, trích xuất và xử lý tài liệu, hoặc điều phối phê duyệt nghiệp vụ. Mỗi ứng dụng cần nguồn dữ liệu, quyền truy cập, công cụ và tiêu chí đánh giá riêng. Hãy thử trên một phạm vi nhỏ trước khi mở rộng.
Từ câu hỏi đến kết quả có kiểm soát.
AI Studio kết nối con người, tri thức, mô hình và workflow. Giá trị không chỉ là một câu trả lời nhanh hơn, mà là một luồng có thể kiểm tra: dữ liệu đến từ đâu, mô hình nào được gọi, ai quyết định và việc gì đã diễn ra. Bắt đầu bằng một tình huống cụ thể, đánh giá chất lượng và theo dõi vận hành trước khi mở rộng.