AI Governance là gì? Những điều cơ bản cần biết

AI Governance là cách một tổ chức thiết lập chính sách, phân công trách nhiệm, xây dựng quy trình và giám sát việc phát triển, sử dụng AI. Cách tiếp cận này giúp tổ chức xác định ứng dụng nào phù hợp, ai chịu trách nhiệm và cần quản lý rủi ro ra sao. AI Governance không phải một công cụ hay chính sách riêng lẻ, mà là cách đưa kỳ vọng của tổ chức vào thực tế.

Điểm chính

• Là gì: AI Governance quy định cách tổ chức ra quyết định về AI, phân công trách nhiệm và giám sát việc sử dụng AI.
• Hoạt động ra sao và để làm gì: Chính sách, biện pháp kiểm soát rủi ro và hoạt động rà soát kết hợp để phát hiện, quản lý vấn đề trong suốt vòng đời của hệ thống AI.
• Ý nghĩa thực tế: Cách quản trị cần phù hợp với từng ứng dụng và mức độ rủi ro. Khuôn khổ tham chiếu có thể định hướng, nhưng không thay thế đánh giá của tổ chức hoặc tư vấn pháp lý phù hợp.

AI Governance là gì?

AI Governance là cách một tổ chức đặt ra kỳ vọng và phân công trách nhiệm đối với các hệ thống AI. Khái niệm này bao gồm chính sách, quy trình và hoạt động giám sát việc lựa chọn, phát triển, triển khai và theo dõi hệ thống. Tổng quan của Mimecast về AI Governance cũng mô tả khái niệm này ở cấp độ tổ chức.

Ví dụ, một công ty cho phép nhân viên dùng trợ lý AI để soạn bản nháp báo cáo nội bộ. Quy tắc quản trị có thể nêu rõ công cụ được dùng vào việc gì, nhân viên được nhập loại thông tin nào, ai rà soát bản nháp và cách báo cáo mối lo ngại. Quy định cụ thể tùy thuộc vào tổ chức và nhiệm vụ.

Quản trị không đảm bảo hệ thống AI an toàn hoặc chính xác. Đây là cách con người đưa ra quyết định và ứng phó khi hệ thống gây rủi ro hoặc tạo kết quả kém. Vì vậy, AI Governance rộng hơn các biện pháp kiểm soát kỹ thuật: nó còn bao gồm vai trò, quy định tại nơi làm việc và những quyết định cần duy trì theo thời gian.

Vì sao tổ chức cần AI Governance?

Tổ chức dùng AI Governance để nhận diện và quản lý rủi ro trước và trong quá trình sử dụng AI. Tùy hệ thống và nhiệm vụ, rủi ro có thể gồm kết quả thiếu công bằng, lộ thông tin riêng tư, vấn đề bảo mật, khuyến nghị không an toàn hoặc đầu ra nghe có vẻ thuyết phục nhưng không có căn cứ. Quản trị có thể giúp giảm thiểu hoặc xử lý những rủi ro này, nhưng không thể đảm bảo chúng sẽ không xảy ra. Tổng quan của Mimecast nêu quyền riêng tư, thiên lệch và trách nhiệm giải trình trong số những mối quan tâm phổ biến về quản trị.

Chẳng hạn, trợ lý AI có thể tóm tắt yêu cầu của khách hàng cho nhóm dịch vụ nhưng bỏ sót chi tiết quan trọng, làm lộ thông tin cho một công cụ chưa được phê duyệt hoặc tạo câu trả lời không chính xác. Quản trị giúp tổ chức xác định loại thông tin được phép sử dụng, nội dung nhân viên cần kiểm tra và cách báo cáo lỗi.

Một cách tiếp cận thực tế gồm ba bước:

1. Xác định mục đích sử dụng và rủi ro. Hệ thống hỗ trợ nhiệm vụ nào, và điều gì có thể xảy ra sai?
2. Đặt kỳ vọng và biện pháp kiểm soát. Quyết định cách sử dụng hệ thống, loại thông tin được nhập và trường hợp cần người kiểm tra đầu ra.
3. Rà soát kết quả sử dụng. Tìm lỗi hoặc mối lo ngại, xử lý khi cần và cân nhắc cách sử dụng đó còn phù hợp không.

Mục tiêu là đưa ra quyết định có cân nhắc và giúp mọi người biết cách ứng phó khi hệ thống không hoạt động như mong đợi, chứ không phải loại bỏ mọi rủi ro.

Những thành phần cơ bản của AI Governance là gì?

AI Governance thường gồm mục tiêu, chính sách và quy trình, biện pháp kiểm soát rủi ro, trách nhiệm được phân công và hoạt động rà soát. Các thành phần này phối hợp với nhau; không có một danh sách kiểm tra duy nhất phù hợp với mọi tổ chức. Video tổng quan dành cho người mới về AI Governance cũng nhóm các thành phần phổ biến theo mục tiêu, rủi ro và biện pháp kiểm soát, chính sách và vai trò.

• Mục tiêu: Nêu rõ tổ chức muốn đạt được điều gì khi dùng AI và những trường hợp không nên sử dụng.
• Chính sách và quy trình: Giải thích cách sử dụng được chấp nhận và nhân viên nên làm gì trong các tình huống thường gặp.
• Biện pháp kiểm soát rủi ro: Đặt ra biện pháp phù hợp với mục đích sử dụng, chẳng hạn hạn chế nhập thông tin nhạy cảm hoặc yêu cầu rà soát đầu ra quan trọng.
• Vai trò và trách nhiệm: Xác định ai phê duyệt việc sử dụng, ai vận hành hệ thống và ai tiếp nhận mối lo ngại.
• Rà soát: Kiểm tra cách tiếp cận còn phù hợp không khi hệ thống, nhiệm vụ hoặc điều kiện xung quanh thay đổi.

Với báo cáo có AI hỗ trợ, mục tiêu có thể là tạo bản nháp đầu tiên thay vì đưa ra quyết định cuối cùng. Quy trình có thể yêu cầu nhân viên đối chiếu các nhận định quan trọng với hồ sơ gốc, đồng thời chỉ định đầu mối tiếp nhận báo cáo lỗi. Cách bố trí phù hợp tùy vào đối tượng đọc báo cáo, loại dữ liệu liên quan và hậu quả nếu xảy ra sai sót.

Ai chịu trách nhiệm về AI Governance?

Tổ chức chịu trách nhiệm về AI Governance, còn nhiệm vụ cụ thể được phân công cho những người tham gia vào việc sử dụng AI. Trách nhiệm không nên chỉ thuộc về nhân viên kỹ thuật: tùy tình huống, quản lý, nhân viên sử dụng hệ thống, nhóm kỹ thuật và chuyên gia về quyền riêng tư hoặc bảo mật đều có thể tham gia.

Quản lý có thể quyết định nhóm có cần trợ lý AI hay không và phê duyệt mục đích sử dụng. Nhân viên tuân thủ quy tắc nhập thông tin và rà soát kết quả. Nhân viên kỹ thuật có thể cấu hình quyền truy cập, còn đầu mối về quyền riêng tư hoặc bảo mật tư vấn cách xử lý thông tin nhạy cảm. Ở tổ chức nhỏ, một người có thể đảm nhiệm nhiều vai trò; điều quan trọng là trách nhiệm phải rõ ràng.

AI Governance được áp dụng thế nào trong suốt vòng đời AI?

AI Governance áp dụng từ lúc xem xét một mục đích sử dụng đến khi hệ thống vận hành thường xuyên, rồi được ngừng hoặc thay thế. Hoạt động quản trị không kết thúc khi công cụ được phê duyệt. Tổng quan của Snowflake về AI Governance mô tả việc giám sát qua các giai đoạn như lựa chọn mục đích sử dụng, phát triển hoặc triển khai hệ thống, theo dõi, xử lý sự cố và ngừng sử dụng.

Vòng đời đơn giản hóa có thể được mô tả như sau:

Ban đầu, tổ chức cân nhắc mục đích và rủi ro có thể xảy ra. Trước khi triển khai, tổ chức đánh giá hệ thống và mục đích dự kiến có phù hợp không. Khi hệ thống được sử dụng, mọi người tuân thủ quy tắc đã thống nhất và nêu mối lo ngại. Các lần rà soát sau đó có thể dẫn đến điều chỉnh, tiếp tục hoặc ngừng sử dụng.

Rủi ro có thể thay đổi theo cách mọi người sử dụng công cụ, loại thông tin công cụ xử lý hoặc kỳ vọng của tổ chức. Giám sát liên tục giúp tổ chức xem xét lại quyết định thay vì coi phê duyệt là quyết định có hiệu lực vĩnh viễn.

AI Governance trông như thế nào tại nơi làm việc?

Một nhóm dùng trợ lý AI để soạn bản tóm tắt cuộc họp có thể áp dụng AI Governance theo các bước dưới đây. Đây là ví dụ minh họa, không phải mẫu bắt buộc:

1. Xác định mục đích: Trợ lý tạo bản tóm tắt nháp; nhân viên vẫn chịu trách nhiệm về bản cuối cùng.
2. Đặt quy tắc sử dụng: Nhân viên tuân thủ hướng dẫn của tổ chức về nội dung cuộc họp được phép nhập. Họ tránh đưa thông tin mật vào, trừ khi tổ chức đã phê duyệt công cụ và cách sử dụng đó.
3. Phân công rà soát: Một người tham dự cuộc họp đối chiếu bản nháp với biên bản trước khi chia sẻ.
4. Tạo kênh báo cáo mối lo ngại: Nhân viên biết cần liên hệ với ai nếu bản tóm tắt gây hiểu lầm hoặc công cụ xử lý thông tin theo cách không mong đợi.
5. Xem xét lại cách bố trí: Nhóm đánh giá công cụ còn phù hợp không và có cần thay đổi quy tắc hay không.

Ví dụ này kết hợp mục tiêu, quy tắc, trách nhiệm, kiểm soát rủi ro và rà soát liên tục. Quản trị không chỉ là văn bản chính sách: mọi người cần biết phải làm gì trong quy trình công việc thực tế.

AI Governance khác Responsible AI và quy định pháp luật như thế nào?

Responsible AI nói đến các nguyên tắc hoặc mục tiêu mà tổ chức muốn duy trì; AI Governance là cách chuyển kỳ vọng thành quyết định, trách nhiệm và hoạt động giám sát; còn quy định pháp luật là yêu cầu do cơ quan bên ngoài đặt ra. Ba khái niệm có liên quan nhưng không đồng nhất.

Một chủ đề có thể thuộc cả ba phạm vi. Tính công bằng có thể là mục tiêu của Responsible AI, là lý do lập quy trình rà soát nội bộ và là vấn đề được luật hiện hành điều chỉnh. Các khái niệm giao nhau nhưng không khái niệm nào thay thế được những khái niệm còn lại.

Các khuôn khổ AI Governance có vai trò gì?

Khuôn khổ và tài liệu tham chiếu về quy định giúp tổ chức sắp xếp cách suy nghĩ, nhưng không thể thay thế lẫn nhau. Một số ví dụ là NIST AI Risk Management Framework, tiêu chuẩn ISO/IEC 42001 và EU AI Act. Đây là các tài liệu tham chiếu riêng biệt, không phải danh sách kiểm tra quản trị phổ quát.

Tổ chức có thể tham khảo một khuôn khổ khi xây dựng cách tiếp cận, nhưng vẫn cần cân nhắc hệ thống, mục đích, con người và rủi ro của mình. Để xác định luật nào áp dụng và yêu cầu cụ thể trong từng tình huống, cần tham khảo hướng dẫn chính thức hiện hành hoặc ý kiến tư vấn pháp lý đủ chuyên môn. Bài viết này chỉ giới thiệu khái quát, không phải tư vấn pháp lý hay tuân thủ.

Người mới tìm hiểu nên ghi nhớ điều gì về AI Governance?

AI Governance kết nối mục tiêu sử dụng AI với chính sách, trách nhiệm được phân công, biện pháp kiểm soát rủi ro và hoạt động giám sát liên tục. Cách bố trí cần phù hợp với từng mục đích sử dụng, thay vì giả định có một khuôn mẫu áp dụng cho tất cả.

Với công cụ tóm tắt cuộc họp, tổ chức cần xác định mục đích, đặt quy tắc về thông tin, phân công người rà soát và quy định cách ứng phó khi phát sinh vấn đề. Chính sách hoặc khuôn khổ có thể hữu ích, nhưng quản trị hiệu quả còn đòi hỏi mọi người hiểu trách nhiệm của mình và thường xuyên xem xét cách tiếp cận có còn phù hợp hay không.

Đọc thêm trong chuyên đề AI có trách nhiệm và Quản trị AI:

• Kiến thức nền tảng: Tính minh bạch của AI là gì?
• Chuyên sâu cùng chủ đề: Explainable AI là gì? Hướng dẫn cho người mới bắt đầu
• Hướng dẫn thực hành & Mẫu Prompt: Thiết lập an toàn dữ liệu và tuân thủ nguyên tắc bảo mật khi dùng phần mềm AI
• Khám phá toàn bộ chuyên mục: AI có trách nhiệm, Quản trị & Pháp lý