Phần lớn trợ lý AI không làm gì cho đến khi bạn hỏi. Bạn nhập câu hỏi, chúng trả lời rồi lại chờ. Trong tuân thủ thương mại, mô hình đó có một vấn đề căn bản: rủi ro không chờ ai hỏi về chúng.
Tại Atlas Verified, chúng tôi xây dựng một hệ thống tác nhân đám mây tự chủ liên tục giám sát chuỗi cung ứng, quét cơ sở dữ liệu chính phủ và đưa ra các rủi ro tuân thủ theo lịch — mà không cần ai nhập lời nhắc. Chúng chạy ở chế độ nền cho mọi tổ chức trên nền tảng và cung cấp thông tin có cấu trúc trực tiếp tới bảng điều khiển.
Bài viết này trình bày kỹ thuật đằng sau các tác nhân AI luôn hoạt động: chúng khác AI hội thoại như thế nào, vì sao đầu ra có cấu trúc quan trọng và những thách thức điều phối khi vận hành tác nhân tự chủ ở quy mô lớn.
Từ phản ứng sang chủ động
AI hội thoại vốn có tính phản ứng. Người dùng đặt câu hỏi, mô hình suy luận về câu hỏi, gọi một số công cụ rồi trả lời. Cách này hiệu quả cho nghiên cứu theo nhu cầu và phân tích tài liệu. Nhưng giám sát tuân thủ đòi hỏi thông tin chủ động.
Hãy xét một tình huống: chứng nhận hữu cơ của nhà cung cấp bị USDA đình chỉ qua đêm. Một lô hàng từ nhà cung cấp đó đang trên đường vận chuyển. Một quyết định chỉ định mới của OFAC thêm một đơn vị giao nhận vào danh sách trừng phạt. FDA phát hành cảnh báo nhập khẩu đối với một hàng hóa mà bạn đang nhập khẩu.
Không sự kiện nào trong số này chờ cán bộ tuân thủ đăng nhập và đặt đúng câu hỏi. Đến khi ai đó nghĩ đến việc kiểm tra, thời cơ hành động chủ động có thể đã qua. Hàng hóa đã ở cảng. Hồ sơ đã được nộp. Nguy cơ là có thật.
Các tác nhân đám mây giải quyết điều này bằng cách đảo ngược mối quan hệ. Thay vì người dùng điều khiển AI, AI tự vận hành theo lịch, kiểm tra mọi điều quan trọng và chuyển các phát hiện tới người dùng.
Kiến trúc một tác nhân cho mỗi phân khu
Khi xây dựng nguyên mẫu các tác nhân đám mây, ban đầu chúng tôi thử một tác nhân bao quát mọi việc: thay đổi quy định, trạng thái nhà cung cấp, theo dõi lô hàng và xử lý tài liệu. Nó tạo ra đầu ra thiếu tập trung và lan man. Tác nhân thường chạy theo một hướng thú vị rồi bỏ qua toàn bộ các nhóm thông tin khác.
Giải pháp là chia phạm vi vấn đề thành các lĩnh vực tập trung, mà chúng tôi gọi là các phân khu:
Thông tin chuyên sâu. Cảnh báo quy định, xu hướng thị trường và rủi ro liên ngành. Tác nhân này giám sát các cơ sở dữ liệu chính phủ để phát hiện thay đổi ảnh hưởng đến tổ chức — cảnh báo nhập khẩu FDA mới, cập nhật danh sách OFAC, thay đổi thuế quan và thay đổi trạng thái chứng nhận hữu cơ.
Nhà cung cấp. Tình trạng mạng lưới nhà cung cấp. Tác nhân này rà soát trạng thái xác minh nhà cung cấp, khoảng trống tuân thủ, ngày hết hạn chứng nhận và rủi ro tập trung mạng lưới. Nếu 80% nguồn cung hữu cơ của bạn đến từ một tổ chức chứng nhận duy nhất, tác nhân sẽ đánh dấu điều đó.
Lô hàng. Giám sát các lô hàng đang vận chuyển. Tác nhân này theo dõi vị trí tàu, giám sát việc lệch tuyến, kiểm tra chậm trễ và xác nhận hồ sơ lô hàng đã đầy đủ. Nó đưa ra các vấn đề như container lưu tại cảng lâu hơn dự kiến hoặc tàu đi lệch tuyến đã khai báo.
Không gian làm việc. Tình trạng vận hành. Tác nhân này rà soát trạng thái xử lý tài liệu, các xác minh đang chờ, hoạt động của nhóm và mô hình sử dụng nền tảng. Nó đưa ra những vấn đề như tài liệu xử lý thất bại cần được chú ý hoặc các xác minh đã chờ quá lâu.
Mỗi tác nhân chạy với lời nhắc hệ thống tập trung và một tập công cụ giới hạn phù hợp với lĩnh vực của nó. Điều này tạo ra đầu ra tốt hơn rất nhiều so với một tác nhân biết mọi thứ, vì cùng lý do một nhóm chuyên gia làm tốt hơn một người tổng quát: sự tập trung chuyên sâu.
Dùng chung lớp công cụ với tác nhân trò chuyện
Một trong những quyết định kiến trúc quan trọng nhất là để các tác nhân đám mây sử dụng chính lớp công cụ mà tác nhân trò chuyện của chúng tôi sử dụng. Cùng các công cụ sàng lọc OFAC, tra cứu USDA, theo dõi tàu, truy vấn dữ liệu thương mại và phân tích tài liệu vận hành cả hai hệ thống.
Điều này mang lại những lợi thế kỹ thuật đáng kể:
Không trùng lặp công cụ. Khi chúng tôi thêm một nguồn dữ liệu mới hoặc cải thiện một bộ chuyển tiếp hiện có, cả tác nhân trò chuyện lẫn tác nhân đám mây đều hưởng lợi ngay. Chỉ có một bản triển khai, một bộ kiểm thử và một phạm vi bảo trì.
Kết quả nhất quán. Kiểm tra trừng phạt do tác nhân đám mây chạy và kiểm tra trừng phạt do người dùng chạy trong trò chuyện đều gọi cùng một hàm với cùng logic. Các kết quả có thể được so sánh và đối chiếu chéo trực tiếp.
Thách thức là các công cụ được thiết kế cho sử dụng tương tác không phải lúc nào cũng hoạt động giống nhau trong ngữ cảnh xử lý theo lô. Tác nhân trò chuyện có thể yêu cầu người dùng làm rõ khi truy vấn mơ hồ. Tác nhân đám mây thì không. Chúng tôi xử lý điều này bằng cách cung cấp lời nhắc cụ thể hơn và giới hạn đệ quy cao hơn cho tác nhân đám mây — chúng có nhiều thời gian tự sửa hơn vì không có ai đang chờ câu trả lời theo thời gian thực.
Đầu ra có cấu trúc: Từ văn bản tự do đến thẻ trên bảng điều khiển
Đây là nơi các tác nhân đám mây khác biệt rõ nhất với tác nhân trò chuyện. Tác nhân trò chuyện tạo ra văn bản diễn giải, đôi khi có các thẻ có cấu trúc nhúng vào. Tác nhân đám mây phải chỉ tạo ra đầu ra có cấu trúc được hiển thị trực tiếp trên bảng điều khiển.
Mỗi lần chạy tác nhân tạo ra một mảng các thẻ thông tin. Mỗi thẻ có loại và lược đồ xác định:
Bộ đếm hiển thị các chỉ số chính cùng chỉ báo xu hướng — tổng số lô hàng đang vận chuyển, nhà cung cấp có chứng nhận sắp hết hạn và các xác minh đang chờ.
Cờ rủi ro làm nổi bật các vấn đề tuân thủ cụ thể cần chú ý — nhà cung cấp có chứng nhận bị đình chỉ, kết quả khớp trừng phạt hoặc cảnh báo nhập khẩu FDA.
Cảnh báo truyền đạt thông tin cần xử lý kịp thời — thay đổi quy định, các quyết định chỉ định mới của OFAC và cập nhật thuế quan ảnh hưởng đến các lô hàng đang vận chuyển.
Biểu đồ và bảng trình bày dữ liệu phân tích — xu hướng khối lượng lô hàng, phân bố tuyến thương mại và tỷ lệ hoàn thành xác minh.
Bản đồ hiển thị thông tin địa lý — vị trí tàu, hoạt động cảng và phân bố nhà cung cấp.
Thách thức kỹ thuật là ràng buộc một LLM để nó tạo ra đầu ra có cấu trúc hợp lệ một cách nhất quán. Các mô hình ngôn ngữ muốn kể lại. Chúng muốn giải thích và nêu các điều kiện. Để chúng tạo ra một mảng JSON rõ ràng gồm các thẻ với đúng loại, đúng trường và đúng dữ liệu cần thiết kế lời nhắc cẩn thận và xác nhận đầu ra.
Khi đầu ra của tác nhân không khớp lược đồ thẻ dự kiến, chúng tôi phân tích những gì có thể và loại bỏ các thẻ sai định dạng thay vì để toàn bộ lần chạy thất bại. Có một phần thông tin vẫn tốt hơn không có thông tin nào.
Tác nhân tùy chỉnh: Bộ giám sát tự chủ do người dùng định nghĩa
Ngoài bốn tác nhân hệ thống, người dùng có thể tạo tác nhân đám mây riêng. Một tác nhân tùy chỉnh có tên, lời nhắc hệ thống (do người dùng viết) và lịch chạy. Nó sử dụng cùng lớp công cụ và tạo cùng các loại thẻ, nhưng trọng tâm hoàn toàn do người dùng xác định.
Người dùng có thể tạo một tác nhân giám sát gián đoạn trên một tuyến thương mại cụ thể. Hoặc một tác nhân kiểm tra một nhóm nhà cung cấp cụ thể với các danh sách trừng phạt hằng ngày. Hoặc một tác nhân theo dõi biến động giá của một hàng hóa cụ thể bằng các nguồn dữ liệu thương mại. Các khả năng chỉ bị giới hạn bởi những gì lớp công cụ có thể truy cập.
Để điều này an toàn và hữu ích, chúng tôi phải đưa ra một số quyết định kỹ thuật:
Giới hạn phạm vi theo tổ chức. Mỗi tác nhân tùy chỉnh thuộc một tổ chức và chỉ có thể truy cập dữ liệu của tổ chức đó. Tác nhân không thể vượt ranh giới tổ chức, ngay cả khi lời nhắc của người dùng cố yêu cầu nó làm như vậy.
Lọc khả năng của công cụ. Các tác nhân tùy chỉnh có quyền truy cập cùng những công cụ xác minh và nghiên cứu như tác nhân hệ thống, nhưng kế thừa giới hạn quyền của tổ chức. Một tác nhân tùy chỉnh không thể truy cập công cụ hoặc dữ liệu mà chính người dùng không thể truy cập qua giao diện trò chuyện.
Quản lý lịch chạy. Các tác nhân tùy chỉnh chạy theo lịch do người dùng xác định, nhưng trong các giới hạn của nền tảng. Điều này ngăn một tổ chức tiêu thụ tài nguyên tính toán không tương xứng bằng cách lập lịch cho hàng chục tác nhân chạy mỗi giờ.
Điều phối ở quy mô lớn
Vận hành các tác nhân tự chủ hằng ngày trên nhiều tổ chức tạo ra những thách thức điều phối không tồn tại trong hệ thống dựa trên trò chuyện.
Loại bỏ trùng lặp. Nếu bộ lập lịch kích hoạt và tác nhân cho Tổ chức A đã chạy trong khoảng thời gian loại bỏ trùng lặp, lần chạy đó được bỏ qua. Điều này ngăn việc chạy hai lần do thử lại, lịch chồng lấn hoặc sự cố nhỏ của bộ lập lịch. Mỗi cặp tác nhân–tổ chức được xem là một đơn vị lập lịch riêng biệt.
Cô lập lỗi. Nếu tác nhân của một tổ chức thất bại — vì công cụ trả về lỗi, LLM tạo đầu ra không thể phân tích hoặc một dịch vụ phụ thuộc ngừng hoạt động — điều đó không được ảnh hưởng đến lần chạy tác nhân của các tổ chức khác. Mỗi lần chạy là một tác vụ độc lập. Lỗi được ghi nhật ký, lần chạy được đánh dấu thất bại và bộ lập lịch tiếp tục công việc.
Vòng đời thẻ. Các thẻ thông tin có thời hạn tồn tại. Thẻ cũ hết hạn và được thay thế khi tác nhân chạy lại. Điều này bảo đảm bảng điều khiển luôn hiển thị thông tin hiện hành thay vì tích lũy các phát hiện đã cũ. Khi tác nhân tạo thẻ mới, các thẻ trước đó của phân khu đó được thay thế trong một thao tác nguyên tử.
Phân bổ ngân sách tài nguyên. Các lần chạy tác nhân tiêu thụ token LLM, lượt gọi API bên ngoài và kết nối cơ sở dữ liệu. Chúng tôi theo dõi mức sử dụng token cho mỗi lần chạy và mỗi tổ chức để quản lý chi phí và xác định những tác nhân tiêu thụ tài nguyên không tương xứng. Một tác nhân chạy mất kiểm soát, gọi công cụ 50 lần trong khi chỉ cần 10 lần, sẽ bị đánh dấu.
Kết nối tác nhân đám mây với trò chuyện
Các tác nhân đám mây và tác nhân trò chuyện không phải những hệ thống biệt lập. Chúng tạo thành một vòng phản hồi.
Tác nhân trò chuyện có thể truy vấn đầu ra của tác nhân đám mây. Khi người dùng hỏi "các tác nhân của tôi đã tìm thấy gì?" hoặc "có rủi ro tuân thủ nào tôi cần biết không?", tác nhân trò chuyện lấy các thẻ thông tin mới nhất và trình bày chúng dưới dạng hội thoại. Nó có thể giải thích một cờ rủi ro, cung cấp thêm ngữ cảnh hoặc giúp người dùng hành động dựa trên một phát hiện.
Điều này tạo ra một quy trình tự nhiên: các tác nhân đám mây đưa ra vấn đề qua đêm, người dùng xem bảng điều khiển vào buổi sáng và khi muốn tìm hiểu sâu hơn một phát hiện, họ mở cuộc hội thoại. Tác nhân trò chuyện đã biết các tác nhân đám mây tìm thấy gì và có thể tiếp tục công việc từ đó.
Chiều ngược lại cũng hoạt động: những mô hình xuất hiện trong các tương tác trò chuyện của người dùng giúp định hướng cách chúng tôi điều chỉnh lời nhắc của tác nhân đám mây. Nếu người dùng thường xuyên hỏi về một loại rủi ro mà tác nhân đám mây chưa đưa ra, đó là tín hiệu cần điều chỉnh trọng tâm của tác nhân.
Những điều chúng tôi đã học được
Xây dựng tác nhân AI tự chủ đã đem lại những bài học không dễ thấy khi xây dựng tác nhân hội thoại:
Đầu ra có cấu trúc khó hơn văn bản tự do. Để một LLM tạo JSON hợp lệ, tuân thủ lược đồ một cách nhất quán là một thách thức khác biệt đáng kể so với việc để nó viết một đoạn văn hay. Các mô hình muốn giải thích, và bạn cần hướng năng lượng phân tích đó vào các trường có cấu trúc.
Phạm vi là yếu tố quyết định. Một tác nhân tập trung với lĩnh vực rõ ràng tạo ra thông tin tốt hơn một tác nhân bao quát có quyền truy cập mọi thứ. Kiến trúc một tác nhân cho mỗi phân khu là cải tiến chất lượng lớn nhất mà chúng tôi đã thực hiện.
Kết quả một phần tốt hơn lần chạy thất bại. Trong hệ thống xử lý theo lô, bạn không thể hỏi người dùng phải làm gì khi có vấn đề. Suy giảm chức năng có kiểm soát — tạo những thẻ có thể tạo và ghi nhận các khoảng trống — là thiết yếu.
Người dùng muốn kiểm soát. Tác nhân tùy chỉnh hóa ra là một trong những tính năng được yêu cầu nhiều nhất. Các chuyên gia tuân thủ hiểu rủi ro cụ thể của mình hơn bất kỳ hệ thống đa dụng nào. Cho phép họ lập trình các bộ giám sát tự chủ bằng ngôn ngữ tự nhiên đã mở ra giá trị đáng kể.
Vòng phản hồi có vai trò quan trọng. Tác nhân đám mây và tác nhân trò chuyện kết hợp với nhau có giá trị hơn từng loại riêng lẻ. Thông tin chủ động xác định các vấn đề cần xử lý; AI hội thoại cung cấp chiều sâu. Thiết kế luồng hai chiều này ngay từ đầu đã cải thiện cả hai hệ thống.
Hướng về tương lai
Các tác nhân đám mây thể hiện một thay đổi căn bản trong cách chúng tôi nghĩ về AI trong tuân thủ. Câu hỏi không phải là "AI có thể trả lời gì khi được hỏi?" mà là "AI nên kiểm tra những gì mà không cần được hỏi?"
Khi chúng tôi mở rộng lớp công cụ với nhiều nguồn dữ liệu hơn và khi môi trường quy định trở nên phức tạp hơn, giá trị của giám sát tự chủ tăng lên. Ngày làm việc của chuyên gia tuân thủ không nên bắt đầu bằng việc kiểm tra thủ công sáu cơ sở dữ liệu chính phủ và ba dịch vụ theo dõi. Nó nên bắt đầu với một bảng điều khiển cho biết chính xác những gì đã thay đổi qua đêm và những gì cần họ chú ý.
Đó là điều các tác nhân đám mây cung cấp. Và thách thức kỹ thuật để làm điều đó đáng tin cậy, có khả năng mở rộng và hữu ích là một trong những vấn đề đem lại nhiều ý nghĩa nhất mà chúng tôi được giải quyết.
Các tác nhân đám mây của Atlas Verified tự chủ giám sát chuỗi cung ứng, quét cơ sở dữ liệu chính phủ và đưa ra các rủi ro tuân thủ — để chuyên gia tuân thủ tập trung vào quyết định thay vì thu thập dữ liệu.