Khi human-in-the-loop chỉ còn là một nút Approve
Hãy hình dung một cảnh sắp trở nên rất quen thuộc. Một AI agent hoàn thành cả một chuỗi công việc — đọc dữ liệu, gọi vài hệ thống, ra một loạt quyết định — nhanh hơn khả năng con người theo kịp. Ở cuối chuỗi, màn hình bật lên một nút: Approve. Người phụ trách có vài giây để bấm. Họ bấm. Workflow chạy tiếp.
Về mặt hình thức, đây là một hệ thống “có con người trong vòng lặp”. Có một người, có một điểm phê duyệt, có một chữ ký. Nhưng hãy hỏi một câu khó hơn: người đó có thực sự kiểm soát điều vừa xảy ra không? Họ có thấy agent đã làm những bước nào? Có hiểu đủ để biết khi nào cần nghi ngờ? Có đủ thời gian để đánh giá? Có quyền dừng lại và cuộn ngược hành động? Nếu câu trả lời phần lớn là không, thì cái nút Approve kia không tạo ra kiểm soát. Nó chỉ chuyển trách nhiệm sang một con người mà không trao cho họ khả năng thực sự nắm quyền.
Thomas Davenport, trong một cuộc thảo luận gần đây về agentic AI, cảnh báo đúng nguy cơ này: human-in-the-loop đang có xu hướng trở thành một nghi thức mang tính hình thức. AI xử lý quá nhanh, con người liên tục bị hối phê duyệt, nên hoạt động review thường hời hợt và không thực sự huy động phán đoán. Ông đặt thẳng câu hỏi liệu con người có muốn dành phần lớn công việc của mình để làm “kiểm toán viên” chạy theo AI hay không.
Đây là bài viết về khoảng cách giữa hai thứ mà chúng ta hay gộp làm một: sự hiện diện của con người và sự kiểm soát của con người.
Sự hiện diện của con người trong một workflow không đồng nghĩa với sự kiểm soát của con người. Kiểm soát chỉ tồn tại khi người giám sát có đủ thời gian, context, năng lực và quyền can thiệp.
Và khi AI bắt đầu hành động thay vì chỉ trả lời, thì governance không còn là một chương trong sổ tay chính sách. Nó trở thành kiến trúc của chính workflow.
Ba ngộ nhận cần phá bỏ
Trước khi nói về kiến trúc kiểm soát nên trông ra sao, cần dọn ba ngộ nhận đang khiến nhiều tổ chức tưởng mình an toàn hơn thực tế.
Ngộ nhận 1: Có người phê duyệt nghĩa là đã có human oversight. Không hẳn. Một người bấm Approve không tạo ra kiểm soát nếu họ không thấy evidence đằng sau kết quả, không hiểu agent đã đi qua những bước nào, không có đủ thời gian để đánh giá, không biết trường hợp nào đáng nghi, không có quyền dừng hoặc rollback, và vẫn phải chịu áp lực duyệt nhanh để workflow khỏi tắc. Khi đó “human-in-the-loop” chỉ là cách tổ chức đẩy trách nhiệm pháp lý và quản trị sang một con người, trong khi không hề trao cho họ khả năng kiểm soát.
Approval không phải là judgment. Một chữ ký không tạo ra kiểm soát nếu người ký không có khả năng hiểu, chất vấn và dừng hệ thống.
Ngộ nhận 2: Đặt con người ở mọi bước sẽ làm hệ thống an toàn hơn. Trực giác này nghe hợp lý nhưng thường sai. Nhiều tổ chức đi qua một quá trình trưởng thành khá giống nhau: ban đầu chèn con người vào gần như mọi bước để kiểm tra agent, rồi nhận ra điều đó tạo ra hàng loạt phê duyệt vô giá trị, và cuối cùng chuyển sang đặt con người đúng chỗ — chỉ tại những điểm thực sự cần phán đoán. Quá nhiều điểm phê duyệt không làm hệ thống an toàn hơn; nó tạo ra review fatigue, phê duyệt theo thói quen, một workflow chậm nhưng không an toàn hơn, và tệ nhất là trách nhiệm bị phân tán tới mức không ai còn nhìn được rủi ro của toàn hệ thống.
Kiểm soát tốt không phải là có nhiều điểm phê duyệt. Kiểm soát tốt là đặt con người đúng tại những điểm mà một quyết định sai có hậu quả lớn, hoặc context chưa đủ rõ.
Ngộ nhận 3: Agent tự chủ nghĩa là chỉ cần giao việc rồi chờ kết quả. Đây là ngộ nhận phổ biến nhất và tốn kém nhất. Agent hiện tại vẫn cần được kiểm tra, chỉnh sửa, giao lại context và đánh giá đầu ra — khá giống việc quản lý một nhân sự, với đầy đủ vòng đời từ lúc bắt đầu tới lúc thu hồi quyền. Nhưng như phần sau sẽ bàn, phép so sánh “agent là nhân viên” vừa hữu ích vừa nguy hiểm nếu dừng lại ở đó.
Agent không phải một nhân viên được số hoá
Phép so sánh dễ chịu nhất khi nói về quản trị agent là: hãy quản nó như quản một nhân viên. Và ở một mức độ, phép so sánh đó đúng. Một agent cần onboarding, cần định nghĩa vai trò, cần theo dõi hiệu suất, cần kiểm soát quyền truy cập, cần đường escalation, và cần cả offboarding khi không dùng nữa. Bỏ qua bất kỳ khâu nào trong số đó, bạn sẽ có một “nhân sự” chạy hoang không ai chịu trách nhiệm.
Nhưng nếu dừng ở phép so sánh này, ta sẽ quản agent bằng đúng bộ công cụ dành cho con người — và đó là chỗ nguy hiểm. Bởi vì agent khác nhân viên ở những điểm căn bản: nó thực hiện hành động với tốc độ rất lớn, có thể sao chép cùng một lỗi trên quy mô rộng chỉ trong vài giây, chạy liên tục không mệt mỏi, kết nối nhiều hệ thống cùng lúc, và có thể tạo ra hàng nghìn quyết định trước khi bất kỳ con người nào kịp nhận ra một pattern sai đang hình thành.
Một nhân viên phạm lỗi thì phạm từng lỗi một, với tốc độ con người, và thường tự nghi ngờ. Một agent phạm lỗi thì nhân lỗi đó lên toàn hệ thống trước bữa trưa.
Không thể quản lý agent chỉ bằng quy trình quản lý nhân viên được số hoá. Agent cần một kiến trúc kiểm soát được thiết kế riêng cho tốc độ, phạm vi và khả năng nhân bản của phần mềm.
Điều này đưa ta tới câu hỏi trung tâm: nếu sự hiện diện của con người không đủ tạo ra kiểm soát, thì kiểm soát thật gồm những điều kiện gì?
Bốn điều kiện của kiểm soát thật
Tôi thấy hữu ích khi tách “kiểm soát” thành bốn điều kiện tách biệt. Thiếu bất kỳ điều nào, cái còn lại đều rỗng — bạn có thể có ba mà vẫn không kiểm soát được hệ thống.
Visibility — nhìn thấy điều agent đã làm. Người giám sát phải biết agent dùng nguồn dữ liệu nào, đã thực hiện những hành động gì, ra quyết định dựa trên rule hay assumption nào, đã thay đổi hệ thống nào, và kết quả có mức độ chắc chắn cũng như phạm vi áp dụng đến đâu. Không có visibility, mọi review chỉ là đoán.
Comprehension — hiểu đủ để đánh giá. Đây là điều kiện hay bị bỏ sót nhất, vì người ta tưởng cứ hiển thị thêm log là con người sẽ hiểu. Không. Thông tin phải được trình bày sao cho reviewer nhận ra ngay: điều gì bình thường, điều gì bất thường, điều gì đã đổi so với lần trước, rủi ro nào đáng chú ý, và vì sao hệ thống đang yêu cầu con người can thiệp.
Một trăm trang log không tạo ra transparency. Nó chỉ chuyển gánh nặng xử lý thông tin từ AI sang con người — và gọi đó là oversight.
Intervention — có quyền và khả năng can thiệp. Reviewer phải thực sự có thể reject, pause, modify, roll back, escalate, thu hẹp quyền của agent, hoặc chuyển workflow về chế độ thủ công. Nếu một người chỉ có thể bấm Approve mà không thể can thiệp một cách hiệu quả, họ không kiểm soát hệ thống — họ đang chứng kiến nó.
Accountability — có người sở hữu kết quả cuối cùng. Doanh nghiệp phải trả lời rõ: ai sở hữu mục tiêu của agent, ai chịu trách nhiệm về dữ liệu, ai quyết định mức tự chủ, ai xử lý ngoại lệ, ai chịu trách nhiệm khi kết quả sai, và ai cập nhật workflow sau sự cố. Accountability không thể giao chung cho “AI team” hay “business”. Agent có thể thực hiện công việc, nhưng trách nhiệm về mục tiêu, giới hạn và hậu quả vẫn phải thuộc về một con người được xác định rõ tên.
Có thể cô đọng cả bốn thành một câu:
Visibility giúp con người thấy. Comprehension giúp họ hiểu. Intervention giúp họ kiểm soát. Accountability bảo đảm có người chịu trách nhiệm.
”In the loop” và “on the loop” là quyết định về rủi ro, không phải về kỹ thuật
Có một sự phân biệt kinh điển giữa con người in the loop — tham gia trực tiếp vào từng quyết định — và con người on the loop — theo dõi hệ thống rồi chỉ can thiệp khi cần. Cả hai đều hợp lệ. Sai lầm không nằm ở việc chọn cái nào, mà ở việc ai được chọn và chọn dựa trên điều gì.
Trong nhiều tổ chức, vị trí của con người trong vòng lặp lại do đội kỹ thuật mặc định quyết định — thường theo cái gì dễ triển khai nhất. Đó là nhầm lẫn. Con người nên đứng ở đâu không phải là một tuỳ chọn kỹ thuật; nó phụ thuộc vào hậu quả nếu quyết định sai, khả năng đảo ngược hành động, mức độ mơ hồ của context, chất lượng của evidence, tốc độ mà tình huống đòi hỏi, năng lực của người giám sát, và mức độ ổn định mà agent đã thực sự chứng minh.
Cách gọn nhất để đưa ra quyết định này là đặt nó lên hai trục quan trọng nhất: một quyết định sai gây hậu quả lớn đến đâu, và hành động đó có dễ đảo ngược không.
Logic của ma trận này quan trọng hơn bốn ô cụ thể. Một hành động rủi ro thấp và dễ đảo ngược thì mọi điểm phê duyệt gắn vào đó chỉ là ma sát vô nghĩa — hãy để agent chạy. Một hành động rủi ro cao và khó đảo ngược thì con người phải đứng trước hành động, không phải sau. Và giữa hai cực đó là những mức giám sát khác nhau, được chọn theo rủi ro chứ không theo cảm giác an tâm.
Mức tự chủ phải được xác định theo rủi ro của quyết định, không theo mức độ ấn tượng của công nghệ.
Tự chủ tăng dần, không phải tự chủ tức thì
Ngay cả khi đã đặt con người đúng chỗ, vẫn còn một câu hỏi về nhịp độ: một agent nên được trao bao nhiêu quyền tự chủ, và khi nào? Câu trả lời gần như luôn là: bắt đầu nhỏ, quan sát kết quả, rồi mới mở rộng. Ramesh Razdan mô tả điều này bằng một hình ảnh dễ nhớ — xây dựng lòng tin với agent giống như một người mới lái xe: đi đường nội bộ trước, chứng minh mình vững, rồi mới lên cao tốc. Đáng chú ý là ngay cả những người trong cuộc cũng thừa nhận rằng phần lớn agent hôm nay chưa thực sự “sẵn sàng cho giờ vàng” ở đa số tổ chức. George Westerman còn chỉ ra một cái bẫy kỳ vọng: nhà cung cấp dán nhãn “agent” cho cả những công cụ cơ bản, thổi phồng kỳ vọng mà không tạo ra giá trị tương ứng.
Vì thế tôi thấy nên có một thang tự chủ rõ ràng, để một agent chỉ được lên cấp khi có bằng chứng, chứ không phải khi ai đó thấy phấn khích:
- Observe — Agent đề xuất, con người thực hiện.
- Assist — Agent thực hiện một phần, con người kiểm tra.
- Act with approval — Agent chuẩn bị hành động, con người phê duyệt.
- Act with exception handling — Agent tự thực hiện, con người chỉ nhảy vào khi có ngoại lệ.
- Bounded autonomy — Agent tự vận hành trong một phạm vi, ngân sách và ngưỡng rủi ro đã định trước.
Điều giữ cho thang này không trở thành một cầu trượt là điều kiện lên cấp. Một agent chỉ nên được chuyển lên bậc cao hơn khi có bằng chứng rằng chất lượng của nó ổn định, các ngoại lệ đã được hiểu rõ, sai sót có thể được phát hiện, cơ chế rollback đã được kiểm thử, và người sở hữu đã đồng ý một cách có ý thức với phần rủi ro còn lại. Không có những bằng chứng đó, “mở rộng tự chủ” chỉ là chuyển rủi ro sang tương lai.
Và tất cả những điều này cần một cỗ máy để chạy — một vòng lặp vận hành, chứ không phải một hàng đợi phê duyệt.
Điểm quyết định nằm ở chặng cuối. Một sự cố không nên chỉ được xử lý riêng lẻ rồi cho qua. Nó phải sinh ra một cái gì đó tồn tại lâu hơn chính nó: một rule mới, một ngưỡng mới, một tập dữ liệu huấn luyện mới, một quyền hạn được siết lại, một đường escalation mới — hoặc một quyết định hạ bớt mức tự chủ của agent. Khi mỗi ngoại lệ được nạp ngược trở lại vào thiết kế của hệ thống, oversight mới trở thành một learning loop thay vì một hàng đợi phê duyệt vô tận. Đây cũng chính là tinh thần operating model mà tôi đã viết ở bài AI-native: năng lực thật của tổ chức nằm ở số vòng học nó dám chạy, không phải ở một cấu trúc tĩnh dựng lên một lần.
Phép thử dành cho lãnh đạo
Nếu phải rút gọn cả bài viết này thành một câu hỏi chẩn đoán đủ sắc để dùng ngay trong phòng họp, thì đó là câu này:
Nếu người review chỉ có 30 giây, không nhìn thấy evidence, và không có quyền dừng workflow — thì đó là human oversight, hay chỉ là một cách chuyển trách nhiệm sang con người?
Câu hỏi này cắt qua mọi sơ đồ đẹp đẽ. Nó không hỏi “chúng ta có con người trong vòng lặp không” — gần như tổ chức nào cũng trả lời có. Nó hỏi con người đó có ba điều kiện tối thiểu để kiểm soát hay không: thời gian, tầm nhìn, và quyền dừng. Thiếu cả ba, cái nút Approve chỉ là một nghi thức đắt tiền.
Kết
Bài viết này nối tiếp một mạch mà tôi đã đi qua nhiều số: chuyển đổi AI thất bại khi tổ chức không tự thay đổi workflow và decision rights; lợi thế AI đến từ tốc độ học chứ không từ công cụ; và khi kết quả nằm ngoài quyền kiểm soát, năng lực cốt lõi là thiết kế alignment và quyền can thiệp cho rõ. Bài này thêm một mắt xích: khi AI chuyển từ trả lời sang hành động, những nguyên tắc đó không còn là chính sách trên giấy — chúng phải được đúc thẳng vào kiến trúc của workflow.
Khi AI bắt đầu hành động thay vì chỉ trả lời, governance không còn là chính sách. Governance trở thành kiến trúc của workflow.
Và nếu chỉ giữ lại một câu từ cả bài, thì đó là câu tôi muốn để lại:
Human-in-the-loop không có nghĩa là đặt một con người trước nút Approve. Nó có nghĩa là thiết kế hệ thống sao cho con người vẫn có khả năng hiểu, chất vấn, can thiệp và chịu trách nhiệm khi AI bắt đầu hành động.
Bài viết được gợi mở từ video “Agentic AI: What Leaders Wish They Knew Sooner” (MIT Sloan Management Review, 2026). Các nhận định được dẫn tên — Thomas Davenport về nguy cơ oversight hình thức, George Westerman về việc agent chưa sẵn sàng cho phần lớn tổ chức, Ramesh Razdan về xây dựng tự chủ tăng dần — thuộc về video gốc. Khung “bốn điều kiện của kiểm soát” (visibility / comprehension / intervention / accountability), thang tự chủ năm bậc và operating loop trong bài là cách diễn giải và quan điểm của tác giả.