Responsible AI là gì?
Tìm hiểu Responsible AI, các mối quan tâm thường gặp và cách cân nhắc tác động, rủi ro, người bị ảnh hưởng cũng như trách nhiệm kiểm tra khi dùng AI.
Responsible AI là cách phát triển và sử dụng AI có cân nhắc đến tác động đối với con người và xã hội, nhằm tạo lợi ích và giảm nguy cơ gây hại. Chẳng hạn, công cụ AI có thể soạn bản nháp trả lời khách hàng để tiết kiệm thời gian, nhưng người dùng vẫn cần kiểm tra nội dung trước khi gửi. Responsible AI không đảm bảo hệ thống hoàn hảo; khái niệm này định hướng các lựa chọn của con người khi làm việc với AI.
Tóm tắt cốt lõi (Key Takeaways)
- Ý nghĩa: Responsible AI là việc cân nhắc lợi ích, rủi ro và tác động đối với con người khi phát triển và sử dụng AI.
- Cách áp dụng: Các mối quan tâm như công bằng, quyền riêng tư, tính minh bạch và độ tin cậy có thể định hướng quyết định từ khâu lập kế hoạch đến quá trình sử dụng. Mỗi khung nguyên tắc có thể khác nhau.
- Vì sao cần quan tâm: Với từng tình huống, hãy xem xét ai có thể bị ảnh hưởng, điều gì có thể sai sót, và ai sẽ kiểm tra cũng như xử lý vấn đề.
Responsible AI là gì?
Responsible AI là cách mọi người hướng đến việc phát triển và sử dụng AI để mang lại lợi ích cho xã hội, đồng thời giảm khả năng xảy ra hậu quả tiêu cực. Khái niệm này bao gồm các lựa chọn về mục đích của hệ thống, cách đánh giá, phạm vi sử dụng và cách xử lý tác động. ISO mô tả Responsible AI theo hướng tạo lợi ích cho xã hội và giảm nguy cơ gây hại, trong đó có các mối quan tâm như thiên lệch, tính minh bạch và quyền riêng tư.
Ví dụ, một trợ lý AI có thể soạn bản nháp trả lời câu hỏi của khách hàng, giúp nhóm phản hồi nhanh hơn. Trước khi gửi, người dùng vẫn cần kiểm tra xem câu trả lời có phù hợp và chính xác hay không. Điều quan trọng không phải là mọi câu trả lời đều hoàn hảo, mà là người phát triển hoặc sử dụng hệ thống nghiêm túc xem xét các tác động có thể xảy ra.
Responsible AI thường quan tâm đến những vấn đề nào?
Các khung Responsible AI thường đề cập đến công bằng, minh bạch, trách nhiệm giải trình, quyền riêng tư, an toàn hoặc độ tin cậy. Đây là những mối quan tâm giúp định hướng quyết định về AI, nhưng chưa có một danh sách duy nhất được thống nhất rộng rãi; các khung có thể dùng thuật ngữ khác nhau hoặc nhấn mạnh những vấn đề khác nhau. ISO lưu ý rằng các nguyên tắc đạo đức AI không tạo thành một bộ quy tắc cố định được thống nhất rộng rãi.
Mối quan tâm | Nghĩa dễ hiểu | Câu hỏi tại nơi làm việc |
|---|---|---|
Công bằng | Hệ thống có thể đối xử bất công với một người hoặc một nhóm người không? | Kết quả từ công cụ hỗ trợ tuyển dụng có cần được xem xét kỹ hơn để phát hiện chênh lệch bất công không? |
Minh bạch | Mọi người có thể hiểu những thông tin liên quan về hệ thống và cách sử dụng hệ thống không? | Đồng nghiệp có biết khi nào bản tóm tắt do AI tạo được chia sẻ không? |
Trách nhiệm giải trình | Có xác định rõ ai chịu trách nhiệm về quyết định và việc theo dõi sau đó không? | Ai kiểm tra kết quả trước khi kết quả đó được dùng để đưa ra quyết định kinh doanh? |
Quyền riêng tư | Thông tin cá nhân hoặc nhạy cảm có được xử lý phù hợp không? | Công cụ có cần những thông tin chi tiết về khách hàng được đưa vào câu lệnh không? |
An toàn và độ tin cậy | Hệ thống có hoạt động đủ ổn định cho mục đích dự kiến không, và các rủi ro đã được cân nhắc chưa? | Nhóm đã kiểm tra xem bản tóm tắt có thường xuyên ghi nhận đúng các đầu việc quan trọng không? |
Giám sát của con người | Khi phù hợp, một người có thể xem xét hoặc hướng dẫn hệ thống không? | Có cần người kiểm tra trước khi hành động dựa trên một kết quả quan trọng không? |
Một số khung nguyên tắc đề cập đến giám sát của con người cùng với công bằng, độ tin cậy và an toàn, quyền riêng tư và bảo mật, tính toàn diện, minh bạch và trách nhiệm giải trình. Điều đó không có nghĩa mọi tác vụ AI đều cần cùng một mức độ kiểm tra của con người. Mô tả các nguyên tắc Responsible AI của Microsoft là ví dụ về một khung có bộ nguyên tắc riêng.
Vì sao Responsible AI không chỉ là bước kiểm tra trước khi ra mắt?
Responsible AI có thể định hướng các quyết định trong suốt vòng đời của hệ thống AI, không chỉ ở thời điểm đưa hệ thống vào sử dụng. Mục đích dự kiến và dữ liệu có thể định hình quá trình phát triển; đánh giá có thể phát hiện vấn đề trước khi triển khai; theo dõi và xem xét giúp nhận ra vấn đề nảy sinh trong quá trình sử dụng. Các giai đoạn có thể khác nhau tùy hệ thống, nên đây là cách nhìn chung về trách nhiệm, không phải quy trình bắt buộc giống nhau cho mọi công cụ. Tổng quan của Snowflake mô tả Responsible AI là cách tiếp cận trải dài từ quyết định về dữ liệu huấn luyện đến đánh giá, triển khai và theo dõi.
Với công cụ tóm tắt cuộc họp, nhóm có thể xác định cuộc họp nào phù hợp để tóm tắt rồi kiểm tra xem bản tóm tắt có ghi nhận các ý chính trước khi chia sẻ hay không. Nếu công cụ bỏ sót một đầu việc quan trọng, nhóm có thể điều chỉnh cách sử dụng kết quả hoặc quy trình kiểm tra. Việc triển khai công cụ không giải quyết hết những câu hỏi về cách sử dụng sau đó.
Responsible AI thể hiện thế nào trong công việc hằng ngày?
Khi dùng AI để tóm tắt ý kiến phản hồi của khách hàng, nhóm có thể bắt đầu bằng cách xác định mục đích: tạo bản tổng quan hữu ích, không phải tự động đưa ra quyết định về từng khách hàng. Sau đó, nhóm cân nhắc công cụ cần những thông tin nào, bản tóm tắt có phản ánh các quan điểm khác nhau không, và cần đối chiếu những nhận định quan trọng với phản hồi gốc như thế nào.
Nhóm có thể không đưa vào những thông tin cá nhân không cần thiết, kiểm tra xem bản tóm tắt có bỏ sót hoặc bóp méo ý kiến nào không, và xác định ai sẽ xử lý các phát hiện. Đây là những câu hỏi thực tế, không phải danh sách kiểm tra tuân thủ chính thức. Chúng giúp cân nhắc lợi ích như tiết kiệm thời gian khi xử lý lượng lớn phản hồi, đồng thời lưu ý đến những người và thông tin chịu ảnh hưởng.
Responsible AI, đạo đức AI và quản trị AI khác nhau thế nào?
Đạo đức AI xem xét nên làm gì; Responsible AI chuyển các giá trị liên quan thành nguyên tắc để phát triển và sử dụng hệ thống; quản trị AI thiết lập trách nhiệm và quy trình để áp dụng các nguyên tắc đó. Snowflake tóm tắt sự khác biệt như sau: đạo đức đặt ra câu hỏi, Responsible AI xác định các nguyên tắc vận hành, còn quản trị tạo ra hệ thống để thực thi chúng.
Thuật ngữ | Câu hỏi chính | Ví dụ đơn giản |
|---|---|---|
Đạo đức AI | Cách sử dụng này có chấp nhận được không, và cần quan tâm đến những tác động nào? | Nhóm có nên dùng AI để hỗ trợ loại quyết định này không? |
Responsible AI | Những nguyên tắc nào nên định hướng việc phát triển và sử dụng hệ thống? | Đặt ra kỳ vọng về công bằng, quyền riêng tư và việc kiểm tra. |
Quản trị AI | Ai chịu trách nhiệm, và quy trình nào giúp áp dụng các kỳ vọng đó? | Giao người phụ trách xem xét cách sử dụng và xử lý vấn đề. |
Tóm lại, đạo đức giúp xác định các giá trị cần cân nhắc, Responsible AI thể hiện cách những giá trị đó định hướng thực tiễn, còn quản trị giúp phân định trách nhiệm. Ranh giới giữa các khái niệm có thể khác nhau tùy tổ chức; chúng liên quan nhưng không thể thay thế cho nhau.
Responsible AI có chỉ áp dụng cho hệ thống kinh doanh hoặc rủi ro cao không?
Không. Các mối quan tâm trong Responsible AI cũng có thể định hướng cách sử dụng AI hằng ngày, nhưng mức độ thận trọng nên phù hợp với tác vụ và tác động có thể xảy ra. Dùng trợ lý viết để gợi ý dòng tiêu đề email khác với việc dựa vào kết quả AI để tác động đến một quyết định quan trọng về một người. Cả hai trường hợp đều có thể cần cân nhắc, nhưng không đòi hỏi mức độ kiểm tra giống nhau và cũng không đồng nghĩa với cùng một nghĩa vụ pháp lý.
Cách suy nghĩ đơn giản về Responsible AI
Khi cân nhắc một cách sử dụng AI, hãy đặt ba câu hỏi: Ai có thể hưởng lợi hoặc bị ảnh hưởng? Ở giai đoạn này, điều gì có thể xảy ra sai sót? Nếu có vấn đề, ai sẽ kiểm tra và xử lý? Đây là những câu hỏi mở đầu, không phải tiêu chuẩn đầy đủ hay sự đảm bảo rằng kết quả sẽ có trách nhiệm.
Với một báo cáo do AI soạn, có thể cân nhắc ai sẽ dựa vào báo cáo, kiểm tra các nhận định quan trọng trước khi chia sẻ và xác định ai có thể sửa lỗi. Trách nhiệm cần được tính đến khi quyết định cách phát triển và sử dụng AI, chứ không chỉ là nhãn gắn lên hệ thống sau khi hoàn tất.
Đọc thêm trong chuyên đề AI có trách nhiệm và Quản trị AI:
- Kiến thức nền tảng: Explainable AI là gì? Hướng dẫn cho người mới bắt đầu
- Chuyên sâu cùng chủ đề: AI Literacy theo EU AI Act: Yêu cầu tại Điều 4
- Hướng dẫn thực hành & Mẫu Prompt: Thiết lập an toàn dữ liệu và tuân thủ nguyên tắc bảo mật khi dùng phần mềm AI
- Khám phá toàn bộ chuyên mục: AI có trách nhiệm, Quản trị & Pháp lý
