Kiểm soát AI trong doanh nghiệp không thể dựa vào câu "AI tự trả lời, không phải chúng tôi". Năm 2024, một hãng hàng không ở Canada đã dùng đúng lập luận này sau khi chatbot trên website của hãng hướng dẫn sai cho khách về chính sách hoàn tiền vé. Hội đồng giải quyết tranh chấp không chấp nhận: chatbot là một phần website của hãng, vì thế hãng phải chịu trách nhiệm về những gì nó nói.
Trong doanh nghiệp, rủi ro này thường lớn dần một cách lặng lẽ, vì AI được giao thêm việc theo từng nấc: trả lời câu hỏi, sau đó soạn báo giá, đơn hàng, rồi đề xuất luôn các con số trong đó. Phần lớn gợi ý đều hợp lý, nên việc bấm xác nhận dần trở thành thói quen thay vì một lần kiểm tra. Đến khi một gợi ý gây thiệt hại, trách nhiệm lại không rõ thuộc về ai: người dùng chỉ sang AI, người triển khai chỉ sang người dùng, còn nhà cung cấp nói AI chỉ đưa ra gợi ý.
Dù vậy, hậu quả cuối cùng vẫn thuộc về doanh nghiệp. Bài viết đề xuất một cách kiểm soát AI trong doanh nghiệp có thể áp dụng ngay: bốn mức quyền của AI, vai trò của người đề xuất, người kiểm tra, người duyệt, và cách truy lại, dừng lại, sửa sai khi AI làm sai.
Gợi ý, soạn nháp, quyết định, thực thi: bốn mức quyền khi kiểm soát AI trong doanh nghiệp
Cùng gọi là "dùng AI", nhưng thực ra có tới bốn mức quyền rất khác nhau. Khác biệt không nằm ở việc AI thông minh đến đâu, mà ở chỗ ai là người bấm nút cuối cùng và kết quả đã đi xa tới đâu trước khi có người nhìn thấy.
| Mức | AI làm gì | Ví dụ | Vai trò của con người |
|---|---|---|---|
| Gợi ý | Chỉ ra một phương án hoặc một rủi ro | "Khách này thường được chiết khấu 5%" | Tự quyết định và tự làm |
| Soạn nháp | Chuẩn bị sẵn chứng từ để người dùng hoàn thiện | Báo giá nháp đã điền sẵn chiết khấu | Xem lại, chỉnh sửa rồi gửi |
| Quyết định | Tự lựa chọn trong khuôn khổ quy tắc; con người có thể xem lại sau | Tự duyệt chiết khấu tới 3% cho đơn lặp lại | Đặt quy tắc, kiểm tra xác suất |
| Thực thi | Đưa hành động ra bên ngoài doanh nghiệp | Gửi đơn mua cho nhà cung cấp | Chỉ biết sau khi việc đã xảy ra |
Mức quyền càng cao, con người càng thấy kết quả muộn, vì thế điểm kiểm tra càng phải được thiết kế từ trước.
Ranh giới quan trọng nhất nằm giữa soạn nháp và quyết định. Ở hai mức đầu, con người vẫn là người lựa chọn, nên việc kiểm soát AI trong doanh nghiệp tương đối đơn giản: ai xác nhận thì người đó chịu trách nhiệm. Từ mức thứ ba trở đi, lựa chọn được đưa ra theo một quy tắc đã đặt từ trước, nên trách nhiệm chuyển sang người đặt ra quy tắc đó và người được giao kiểm tra nó.
Đánh đổi ở đây là giữa tốc độ và tầm ảnh hưởng. Mức quyền càng cao càng tiết kiệm thời gian, nhưng một lỗi có thể đến tay khách hàng hay nhà cung cấp trước khi có ai kịp nhìn thấy. Tuy nhiên, điều đó không có nghĩa AI không bao giờ được quyết định hay thực thi. Với những việc nội bộ, giá trị nhỏ, dễ hoàn tác, như phân loại yêu cầu gửi đến hay soạn thư nhắc việc, chi phí để người kiểm tra từng trường hợp còn cao hơn chi phí của một lỗi thỉnh thoảng xảy ra. Giữ AI ở mức "gợi ý" cho những việc như vậy chỉ làm thêm thao tác.
Người đề xuất, người kiểm tra, người duyệt, người chịu trách nhiệm
Kiểm soát AI trong doanh nghiệp cũng dựa trên bốn vai trò như mọi khâu kiểm soát khác. Khi AI tham gia vào công việc, vai trò thường lặng lẽ biến mất chính là người kiểm tra.
Người đề xuất
Khởi tạo giao dịch và chịu trách nhiệm về mục đích của giao dịch. Nếu AI soạn, người chuyển chứng từ đi tiếp vẫn là người đề xuất.
Người kiểm tra
Đối chiếu nội dung với thực tế: bảng giá, giá vốn, tồn kho, hợp đồng. Đây chính là bước mọi người hay cho rằng "AI đã làm rồi".
Người duyệt
Chấp nhận rủi ro trong hạn mức của mình. Duyệt không đồng nghĩa với kiểm tra; duyệt mà không kiểm tra thì chỉ còn là một chữ ký.
Người chịu trách nhiệm
Một người cụ thể, có tên, chịu trách nhiệm về kết quả của cả một mảng việc, kể cả những quy tắc mà AI làm theo. Không phải "nhóm AI", và càng không phải là AI.
Dấu hiệu thường gặp: AI đề xuất mức chiết khấu cao hơn cho một đơn hàng lớn, dựa trên lịch sử mua của khách. Nhân viên kinh doanh xác nhận vì chỉ tiêu của họ là doanh số tháng. Trưởng phòng duyệt vì mức chiết khấu vẫn nằm trong hạn mức. Không ai để ý rằng giá vốn của vật tư chính đã tăng, và đơn hàng bị lỗ. Cả hai đều làm đúng vai trò của mình. Thiệt hại đến từ việc thiếu người kiểm tra: lịch sử mà AI dựa vào không có giá vốn hôm nay, và cũng không ai được giao đối chiếu hai thông tin này.
Kinh doanh muốn chốt đơn, tài chính muốn giữ lãi. Kiểm soát AI trong doanh nghiệp là để cả hai góc nhìn được đối chiếu trước khi ai đó bấm xác nhận.
Doanh nghiệp không thể chuyển trách nhiệm này sang cho AI. Trong một vụ việc năm 2024 ở Canada, chatbot trên website của một hãng hàng không đã trả lời sai cho khách về chính sách hoàn tiền. Hãng lập luận rằng chatbot phải tự chịu trách nhiệm về câu trả lời của nó. Hội đồng giải quyết tranh chấp bác lập luận này và cho rằng lẽ ra hãng phải hiểu rõ mình chịu trách nhiệm về mọi thông tin trên website của mình. Đây chỉ là một quyết định về tranh chấp nhỏ tại một tỉnh, không phải quy tắc pháp lý chung. Dù vậy, nó cho thấy hướng lập luận: với khách hàng, câu trả lời của AI chính là câu trả lời của doanh nghiệp.
Tách người kiểm tra khỏi người đề xuất sẽ tốn thời gian, và doanh nghiệp nhỏ có thể không đủ người. Khi đó, một người có thể đảm nhận hai vai, với điều kiện dấu vết được lưu đầy đủ và có người khác kiểm tra xác suất về sau. Điều cần tuyệt đối tránh là cùng một người vừa đặt quy tắc cho AI, vừa sử dụng nó, lại vừa tự đánh giá nó có hoạt động đúng hay không.
Ngưỡng rủi ro theo giá trị và loại giao dịch
Nếu mọi hành động của AI đều phải qua cùng một kiểu phê duyệt, thường sẽ xảy ra một trong hai chuyện. Hoặc người duyệt bị quá tải và bắt đầu duyệt mà không xem, hoặc doanh nghiệp thôi dùng AI vì mọi việc bị chậm lại. Cách gỡ là đặt ngưỡng, giống như doanh nghiệp vẫn đặt hạn mức chi tiêu cho nhân viên.
Giá trị chỉ là một yếu tố. Ba yếu tố khác cũng quan trọng không kém: hành động đó có hoàn tác được không, có đi ra ngoài doanh nghiệp không (tới khách hàng, nhà cung cấp hay ngân hàng), và đó là việc quen hay việc mới, chẳng hạn đơn hàng đầu tiên với một nhà cung cấp mới.
| Mức rủi ro | Loại việc điển hình | AI được làm gì | Con người kiểm soát thế nào |
|---|---|---|---|
| Thấp | Nội bộ, giá trị nhỏ, hoàn tác được | Tự quyết định hoặc thực thi | Kiểm tra xác suất hằng tuần |
| Trung bình | Báo giá, đơn hàng thường xuyên trong hạn mức | Soạn nháp và đề xuất | Người phụ trách việc đó xác nhận |
| Cao | Vượt hạn mức, giá dưới mức sàn, đối tác mới | Gợi ý và cảnh báo | Hai người khác nhau: một người kiểm tra, một người duyệt |
| Không giao cho AI | Thông tin tài khoản ngân hàng, điều khoản hợp đồng, quyết định nhân sự | Chỉ cung cấp thông tin | Con người quyết định và thực hiện |
Ngưỡng rủi ro không chỉ phụ thuộc vào giá trị, mà còn vào khả năng hoàn tác, mức ảnh hưởng ra bên ngoài và việc đó quen hay mới.
Để kiểm soát AI trong doanh nghiệp, ngưỡng chỉ phát huy tác dụng khi AI tuân theo đúng bốn nguyên tắc như nhân viên: ai được xem gì, được chi tới đâu, ai duyệt và ai đã sửa gì. AI không bao giờ nên có hạn mức cao hơn người đang sử dụng nó, và một hành động do AI đề xuất cũng phải đi qua đúng tuyến duyệt như khi con người đề xuất. Còn ai được xem dữ liệu nào là một chủ đề riêng, sẽ được phân tích trong bài tiếp theo.
Ngưỡng nào rồi cũng cũ đi. Khi giá cả, khách hàng hay nhà cung cấp thay đổi, một hạn mức từng an toàn năm ngoái có thể không còn phù hợp hôm nay. Vì thế, mỗi ngưỡng cần có người phụ trách và thời hạn rà soát, như mọi quy định khác của doanh nghiệp.
Dữ liệu, suy luận, quy trình hay giám sát: bốn loại lỗi khác nhau
"AI làm sai" mới là một mô tả, chưa phải chẩn đoán. Cùng một thiệt hại có thể đến từ bốn nguyên nhân khác nhau, và mỗi nguyên nhân cần một người khác nhau đứng ra sửa.
Dấu hiệu thường gặp: AI đề xuất đặt một lượng lớn vật tư theo nhu cầu dự kiến, nhân viên mua hàng xác nhận, vật tư về kho nhưng đơn bán không tăng như kỳ vọng, và doanh nghiệp phải ôm tồn kho nhiều tháng chưa dùng đến.
| Loại lỗi | Với đơn vật tư nói trên, lỗi có thể là | Ai sửa |
|---|---|---|
| Lỗi dữ liệu | Các đơn bán đã hủy vẫn được tính vào nhu cầu | Người phụ trách dữ liệu đó |
| Lỗi suy luận | AI coi đợt cao điểm theo mùa của năm ngoái là xu hướng lâu dài | Người thiết lập và kiểm thử AI |
| Lỗi quy trình | Đơn được tách thành nhiều đơn nhỏ, mỗi đơn dưới hạn mức phải duyệt | Người phụ trách quy định phê duyệt |
| Lỗi giám sát | Người mua hàng xác nhận mà không đối chiếu với các đơn bán đã chốt | Quản lý trực tiếp của người mua hàng |
Đây là chỗ việc kiểm soát AI trong doanh nghiệp hay đi sai hướng nhất: sửa nhầm nguyên nhân có thể khiến tình hình tệ hơn. Nếu lỗi nằm ở dữ liệu mà doanh nghiệp lại siết thêm khâu duyệt, người duyệt có thêm việc trong khi những con số sai vẫn tiếp tục đổ về. Nếu lỗi nằm ở khâu giám sát mà doanh nghiệp lại thay AI, mọi người vẫn sẽ xác nhận mà không xem, dù AI nói gì. Thường thì có nhiều hơn một nguyên nhân cùng lúc, vì vậy khi rà soát một sự cố, nên xem xét đủ cả bốn loại rồi mới quyết định sửa ở đâu.
Cùng một lô hàng tồn thừa có thể bắt nguồn từ dữ liệu sai, suy luận sai, quy trình có kẽ hở hoặc khâu kiểm tra bị bỏ qua.
Phê duyệt hình thức và thói quen tin máy quá mức
Bước xác nhận sẽ không bảo vệ được gì nếu người xác nhận không còn thực sự xem. Mà AI càng hay đúng thì người ta càng ít xem. Giới nghiên cứu gọi hiện tượng này là thiên lệch tự động hóa (automation bias): con người có xu hướng tin quá mức vào một hệ thống thường cho kết quả đúng, vừa bỏ sót những gì hệ thống không cảnh báo, vừa làm theo gợi ý của nó dù các thông tin khác cho thấy điều ngược lại.
| Nghiên cứu | Kết quả |
|---|---|
| Thí nghiệm trên bài tập bay mô phỏng, Mỹ, 1999 | Người làm việc không có công cụ hỗ trợ theo dõi tình huống tốt hơn người dùng một công cụ rất đáng tin cậy nhưng không hoàn hảo. Người dùng công cụ bỏ sót những sự kiện mà công cụ không báo, và làm theo gợi ý sai của nó, dù trái với những gì đã được huấn luyện và với các chỉ báo đúng khác. |
| Tổng hợp các nghiên cứu về tự động hóa và công cụ hỗ trợ quyết định, 2010 | Việc tin máy quá mức xảy ra ở cả người mới lẫn chuyên gia, không mất đi nhờ đào tạo hay hướng dẫn, và xuất hiện ở cả nhóm làm việc chứ không riêng từng cá nhân. |
| Khảo sát 319 người lao động trí óc, 936 ví dụ thật về dùng AI tạo sinh trong công việc, 2025 | Người càng tin vào AI thì càng ít tư duy phản biện, theo chính lời họ tự đánh giá. Ngược lại, người càng tự tin vào năng lực của bản thân thì càng kiểm tra nhiều hơn. |
Với CEO, điều này có hệ quả trực tiếp. Một bước duyệt có thể trông ổn trên giấy tờ nhưng trên thực tế chỉ là hình thức. Các dấu hiệu cảnh báo đều đo được: duyệt chỉ trong vài giây, tỉ lệ duyệt gần như tuyệt đối, và người duyệt không nói được mình đã kiểm tra những gì. Khi đó, kiểm soát AI trong doanh nghiệp chỉ còn trên giấy: có chữ ký, nhưng không có lần kiểm tra nào thực sự diễn ra.
Khi phần lớn gợi ý đều đúng, việc xác nhận dễ trở thành thói quen. Đó cũng là lúc một gợi ý sai lọt qua.
Những bằng chứng này có giới hạn. Các thí nghiệm được thực hiện trong ngành hàng không và trong phòng thí nghiệm, còn khảo sát năm 2025 dựa trên lời tự đánh giá của người tham gia. Chúng không đo việc phê duyệt tại doanh nghiệp Việt Nam. Tuy nhiên, xu hướng này nhất quán qua nhiều thập kỷ và dẫn tới một bài học: chỉ dặn mọi người "kiểm tra cho kỹ" là chưa đủ. Bản thân bước xác nhận phải được thiết kế sao cho kiểm tra thì dễ, còn bỏ qua thì dễ bị nhận ra.
Nhật ký, giải trình và xử lý sự cố khi kiểm soát AI trong doanh nghiệp
Khi có sự cố, câu hỏi đầu tiên luôn là "vì sao chúng ta lại làm như vậy?". Doanh nghiệp chỉ trả lời được nếu ngay lúc đó đã ghi lại năm thông tin: AI dùng dữ liệu nào và cập nhật đến thời điểm nào, theo quy tắc hay phiên bản nào, đã đề xuất gì, người dùng đã sửa những gì, và ai duyệt vào lúc nào.
Giải trình ở đây không có nghĩa là mở ra xem mô hình AI vận hành bên trong. Đó là một lý do mà người quản lý đọc là hiểu: "đề xuất 8% vì khách đã đặt hàng đều đặn mỗi tháng trong ba tháng gần nhất, theo bảng giá ngày 1/10". Nếu lý do không đọc hiểu được, người duyệt sẽ không có gì để đối chiếu.
Khung quản lý rủi ro AI của Viện Tiêu chuẩn và Công nghệ Hoa Kỳ (NIST AI RMF), được dùng rộng rãi, cũng yêu cầu những điều tương tự ở dạng tổng quát: vai trò của con người và AI phải được xác định và ghi thành văn bản; những người không tham gia xây dựng hay vận hành hệ thống cần được tham gia rà soát định kỳ; và phải có người được giao quyền can thiệp, tạm ngắt hoặc tắt hệ thống AI khi nó không hoạt động như dự định. Ở quy mô vừa và nhỏ, việc kiểm soát AI trong doanh nghiệp khi xảy ra sự cố gói gọn trong một chuỗi ngắn:
Dừng hành động của AI ở mảng việc đó
Chặn phần việc đã đi ra ngoài doanh nghiệp
Truy lại dữ liệu, quy tắc, đề xuất và người duyệt
Sửa đúng theo loại lỗi
Cập nhật ngưỡng hoặc quy tắc
Mỗi bước cần một người phụ trách có tên, được chỉ định trước khi xảy ra sự cố, chứ không phải khi sự cố đang diễn ra.
Bước hay bị bỏ sót nhất lại là bước đầu tiên. Nhiều doanh nghiệp bật được AI, nhưng không ai có quyền rõ ràng để tắt AI ở một mảng trong khi vẫn giữ các mảng khác hoạt động. Việc hoàn tác cũng dễ hơn nhiều khi giao dịch còn nằm trong doanh nghiệp; đó là thêm một lý do để đặt điểm không thể quay lại muộn hơn cho những hành động đi ra bên ngoài.
Bốn quyết định để kiểm soát AI trong doanh nghiệp
Ma trận quyền của người và AI theo mức rủi ro
Với mỗi loại việc, ghi rõ AI được làm gì (gợi ý, soạn nháp, quyết định hay thực thi), hạn mức đến đâu và đi theo tuyến duyệt nào. AI không bao giờ có hạn mức cao hơn người đang sử dụng nó.
Bước xác nhận thực sự có ý nghĩa
Cho người xác nhận thấy điểm nào khác thường so với mọi khi, và gợi ý dựa trên dữ liệu nào. Chỉ yêu cầu ghi lý do với các trường hợp ngoại lệ, để bước này không bị bỏ qua. Hằng tháng, xem lại tốc độ duyệt và tỉ lệ duyệt.
Lưu nguồn dữ liệu, phiên bản, quyết định và người duyệt
Với mọi giao dịch có AI tham gia từ mức rủi ro trung bình trở lên, lưu đủ năm thông tin: dữ liệu và thời điểm của dữ liệu, phiên bản quy tắc, đề xuất của AI, phần con người đã sửa, người duyệt và thời gian.
Cơ chế dừng, hoàn tác và xử lý ngoại lệ
Chỉ định rõ ai được tắt AI ở từng mảng, cách đảo ngược những việc AI đã làm, và ai rà soát sự cố. Nên diễn tập một lần với một trường hợp thực tế đã từng xảy ra.
AI có thể nhận làm một bước trong công việc, nhưng không thể nhận thay trách nhiệm. Kiểm soát AI trong doanh nghiệp phải được thiết kế từ trước, nếu không thì sẽ chẳng có kiểm soát nào cả.
Năm thông tin được ghi lại ngay tại thời điểm đó là đủ để trả lời câu hỏi "vì sao chúng ta lại làm như vậy?" nhiều tháng sau.
Một buổi rà soát sự cố nên kết thúc bằng một quy tắc hay ngưỡng được điều chỉnh, chứ không chỉ dừng ở việc tìm ra người có lỗi.
Những điểm cần thận trọng
Trách nhiệm pháp lý tùy thuộc vào từng quốc gia và từng lĩnh vực. Bài viết bàn về trách nhiệm quản trị bên trong doanh nghiệp. Còn ai chịu trách nhiệm trước khách hàng, đối tác hay cơ quan nhà nước thì phụ thuộc vào pháp luật mỗi nước, vào hợp đồng và vào đặc thù ngành. Vụ việc ở Canada chỉ là một ví dụ, không phải quy tắc áp dụng cho Việt Nam. Với từng tình huống cụ thể, nên hỏi ý kiến luật sư.
Quá nhiều chốt kiểm tra cũng tốn kém. Nếu mọi hành động của AI đều cần hai người duyệt, nhân viên sẽ thôi dùng, hoặc chuyển sang những công cụ AI bên ngoài hệ thống của công ty, nơi không ai nhìn thấy gì. Vì vậy, kiểm soát AI trong doanh nghiệp cần tương xứng với mức độ rủi ro.
Nên so sánh AI với cách con người thực sự đang làm việc. Con người cũng mắc sai sót khi làm báo giá và đơn hàng, và thường không để lại dấu vết. Nếu được thiết kế tốt, việc kiểm soát AI trong doanh nghiệp có thể giúp công ty dễ kiểm tra hơn trước, chứ không khó hơn.
Hướng Viindoo chọn
Khi nhân viên kinh doanh và trưởng phòng đều làm đúng vai trò mà đơn hàng vẫn lỗ, nguyên nhân thường là AI dựa vào lịch sử mua hàng nhưng thiếu giá vốn vật tư hiện tại, và không ai được giao đối chiếu hai thông tin này. AI không làm trách nhiệm biến mất; AI chỉ khiến chỗ thiếu người kiểm tra trở nên khó nhận ra hơn.
Viindoo xem kiểm soát AI trong doanh nghiệp là chuyện của quy tắc vận hành, không phải chuyện mô hình thông minh đến đâu. Nếu AI là một kiểu thành viên mới trong đội ngũ, AI cũng phải tuân theo cùng những quy tắc như mọi nhân viên: quyền hạn, hạn mức, tuyến duyệt và dấu vết. Đó là tinh thần của nền tảng quản trị doanh nghiệp Agentic AI mà Viindoo đang xây dựng: doanh nghiệp đặt ra quy tắc, và quy tắc áp dụng cho cả con người lẫn AI.
Áp vào bài viết này, bốn mức quyền của AI (gợi ý, soạn nháp, quyết định, thực thi) trở thành lựa chọn mà doanh nghiệp đặt ra cho từng loại giao dịch, chứ không phải một mặc định. Ở những chỗ rủi ro cao, AI chỉ dừng ở gợi ý hoặc soạn nháp, còn việc vượt quá quyền hạn được chuyển cho con người. Đề nghị do AI soạn vẫn đi đúng tuyến người đề xuất, người kiểm tra, người duyệt như đề nghị do con người soạn. Và khi AI làm việc trên cùng một nguồn dữ liệu với mọi người, người kiểm tra sẽ đối chiếu đề xuất với giá vốn hôm nay, chứ không phải lịch sử năm ngoái.
Kiểm soát chặt không có nghĩa là khó dùng. Nhân viên kinh doanh chỉ cần làm việc với AI như với một đồng nghiệp, còn quyền hạn, tuyến duyệt và nhật ký được nền tảng lưu giữ ở phía sau. Viindoo đóng vai xương sống đó, để AI vừa dễ dùng với từng người, vừa ổn định và an toàn cho toàn doanh nghiệp.
Nền tảng không thể quyết định thay ai chịu trách nhiệm pháp lý, cũng không thể buộc người duyệt đọc kỹ. Lựa chọn ngưỡng duyệt và giữ cho mỗi bước duyệt có ý nghĩa vẫn là phần việc của ban lãnh đạo khi kiểm soát AI trong doanh nghiệp.
Bốn câu hỏi để doanh nghiệp tự kiểm tra
- Ở mỗi loại việc có dùng AI, doanh nghiệp đã ghi rõ AI được gợi ý, soạn nháp, quyết định hay thực thi chưa?
- Ai có quyền dừng hoặc điều chỉnh AI ở từng mảng, và người đó có biết mình có quyền ấy không?
- Với quyết định tốn kém gần đây nhất có AI tham gia, bạn có truy lại được quyết định đó đã dùng dữ liệu nào, theo quy tắc nào và qua tay ai duyệt không?
- Người duyệt thường mất bao lâu cho một đề xuất của AI, và bao lâu họ mới từ chối một lần?
Câu hỏi thường gặp
Trong nội bộ, đó là người xác nhận hành động và người phụ trách quy tắc mà AI làm theo. Trước khách hàng, đó là doanh nghiệp. Trong một vụ việc năm 2024 ở Canada, hội đồng giải quyết tranh chấp đã buộc một hãng hàng không chịu trách nhiệm về câu trả lời sai của chatbot. Trách nhiệm pháp lý còn tùy theo từng nước và từng ngành.
Chưa. Các nghiên cứu trong hơn hai thập kỷ cho thấy con người dễ tin quá mức vào hệ thống thường đúng, và đào tạo không xóa bỏ được điều này. Bước duyệt cần làm nổi bật những điểm khác thường, đồng thời tốc độ duyệt và tỉ lệ từ chối cần được xem lại định kỳ.
Có, với những việc nội bộ, giá trị nhỏ và hoàn tác được, kèm kiểm tra xác suất. Với việc đi ra ngoài doanh nghiệp, vượt hạn mức hoặc liên quan đến đối tác mới, nên giữ AI ở mức gợi ý hoặc soạn nháp.
Cần lưu năm thông tin: dữ liệu đã dùng và thời điểm của dữ liệu, quy tắc hoặc phiên bản đã áp dụng, đề xuất của AI, phần người dùng đã sửa, người duyệt và thời gian. Thiếu những thông tin này, việc kiểm soát AI trong doanh nghiệp chỉ còn trên lời nói, vì về sau không ai giải thích được quyết định.
Bài tiếp theo trong loạt bài: kiểm soát những gì AI làm mới là một nửa. Nửa còn lại là AI được nhìn thấy những gì. Khi AI đọc được nhiều dữ liệu của công ty hơn và trả lời trôi chảy hơn, việc kiểm soát AI sẽ dễ hơn hay khó hơn? AI càng thông minh, doanh nghiệp càng khó kiểm soát?
Nguồn tham khảo
- Viện Tiêu chuẩn và Công nghệ Hoa Kỳ - NIST (01/2023). Khung quản lý rủi ro trí tuệ nhân tạo (AI RMF 1.0), NIST AI 100-1. Mục GOVERN 2.1, GOVERN 3.2, MEASURE 1.3, MANAGE 2.4.
- Skitka, L. J., Mosier, K. L., & Burdick, M. (1999). Quá trình tự động hóa có sai sót được quyết định không? Tạp chí quốc tế về nghiên cứu tương tác người-máy tính, 51(5), 991-1006.
- Parasuraman, R., & Manzey, D. H. (2010). Sự tự mãn và bẩm sinh trong công việc đối với người sử dụng tự động hóa: Một chú thích hợp lý. Con người yếu tố, 52(3), 381-410.
- Lee, H.-P., Sarkar, A., Tankelevitch, L., Drosos, I., Rintel, S., Banks, R., & Wilson, N. (2025). Tác động của trí tuệ nhân tạo tạo ra sinh học đối với tư duy phản biện: Giảm thiểu nỗ lực nhận thức và kết quả đạt được báo cáo từ một cuộc khảo sát đối với người lao động tri thức.. CHI 2025. 319 người lao động trí óc, 936 ví dụ.
- Sự kiện Moffatt Air Canada, 2024 BCCRT 149. Civil Resolution Tribunal, tỉnh British Columbia (Canada), 14/02/2024.
