Tính minh bạch của AI là gì?

AI Transparency (tính minh bạch của AI) là việc trình bày thông tin liên quan về một hệ thống AI và cách sử dụng hệ thống đó theo cách dễ hiểu, để những người cần thông tin có thể tiếp cận. Thông tin này cho người dùng biết khi nào AI được sử dụng, đồng thời giúp các nhóm hiểu mục đích và giới hạn của hệ thống. Minh bạch không đòi hỏi công khai mọi chi tiết kỹ thuật, cũng không bảo đảm mọi câu trả lời của AI đều đáng tin cậy.

AI Transparency là gì?

AI Transparency là việc trình bày thông tin liên quan về một hệ thống AI và cách sử dụng hệ thống đó theo cách dễ hiểu, để những người cần thông tin có thể tiếp cận. Tùy tình huống, thông tin có thể đề cập đến mục đích, dữ liệu đầu vào liên quan, giới hạn, cách hoạt động hoặc cơ chế giám sát. Không phải ai cũng cần hiểu mọi chi tiết kỹ thuật. Snowflake mô tả tính minh bạch theo hướng tương tự, bao gồm thông tin về mục đích, dữ liệu đầu vào, giới hạn, cách hoạt động và cơ chế quản trị của hệ thống.

Người dùng trợ lý viết trong công việc cần biết AI hỗ trợ soạn thảo văn bản và công cụ được thiết kế để làm gì. Nhóm giám sát công cụ có thể cần thông tin chi tiết hơn.

AI Transparency có thể làm rõ những thông tin nào?

AI Transparency có thể làm rõ những thông tin khác nhau, tùy người cần biết và mục đích sử dụng. Các câu hỏi thường đi từ mục đích của hệ thống đến việc rà soát cách sử dụng:

1. Hệ thống này được dùng để làm gì? Mô tả có thể nêu rằng trợ lý giúp soạn thảo hoặc tóm tắt văn bản, thay vì đưa ra quyết định cuối cùng thay cho một người.
2. Tôi cần biết gì về giới hạn của hệ thống? Người dùng có thể cần biết văn bản do AI tạo ra có thể có sai sót và cần được kiểm tra trước khi gửi đi hoặc hành động dựa trên đó.
3. Nhóm có thể rà soát việc sử dụng hệ thống bằng cách nào? Người giám sát có thể cần hồ sơ về cách hệ thống được cấu hình hoặc sử dụng để tìm hiểu những hành vi bất ngờ. Hồ sơ cụ thể tùy hệ thống và bối cảnh.

Thông tin cần phù hợp với đối tượng: người dùng có thể chỉ cần lời giải thích ngắn, còn người giám sát cần tài liệu chi tiết hơn. Minh bạch không đồng nghĩa với việc công bố mọi chi tiết kỹ thuật cho tất cả mọi người. Tổng quan của Snowflake cũng phân biệt thông tin dành cho người dùng với tài liệu và hồ sơ nội bộ.

AI Transparency thể hiện ra sao trong sử dụng hằng ngày?

Chatbot hỗ trợ khách hàng tự giới thiệu là chatbot AI trước khi bắt đầu cuộc trò chuyện là một ví dụ về tính minh bạch dành cho người dùng. Thông báo này cho khách hàng biết AI đang tham gia, giúp họ cân nhắc điều đó khi quyết định chia sẻ thông tin gì hoặc sử dụng câu trả lời ra sao. Thông tin công khai cũng có thể cho biết nội dung nào do AI tạo ra hoặc chỉnh sửa. Snowflake nêu những hình thức công khai này làm ví dụ.

Thông báo cho biết AI có tham gia hay không, nhưng không giải thích từng câu trả lời hoặc chứng minh chatbot đáng tin cậy. Công khai thông tin là một phần của tính minh bạch, không bảo đảm mọi người đã hiểu đầy đủ về hệ thống.

Vì sao AI Transparency quan trọng?

Tính minh bạch có thể giúp mọi người đưa ra lựa chọn sáng suốt hơn khi sử dụng AI và giúp các nhóm rà soát cách hệ thống hoạt động. Thông tin về mục đích và giới hạn cung cấp bối cảnh để người dùng và người giám sát đánh giá vai trò của công cụ trong một nhiệm vụ.

Khi rà soát câu trả lời bất ngờ từ bộ phận hỗ trợ khách hàng, nhóm phụ trách có thể dựa vào thông tin về hệ thống đã dùng và mục đích của hệ thống để định hướng việc kiểm tra. Hồ sơ sử dụng cũng có thể hỗ trợ quá trình này, nhưng không tự xác định nguyên nhân của mọi kết quả hay cho biết kết quả có chính xác hay không. Cần đối chiếu câu trả lời với thông tin đáng tin cậy.

AI Transparency khác Explainability thế nào?

AI Transparency (tính minh bạch của AI) cung cấp thông tin về hệ thống và cách sử dụng; Explainability (khả năng giải thích) tập trung vào lý do một kết quả cụ thể được tạo ra. Snowflake phân biệt thông tin ở cấp độ hệ thống với phần giải thích ở cấp độ quyết định theo cách này.

Thông báo về mục đích và giới hạn của chatbot thuộc về tính minh bạch; câu hỏi vì sao chatbot đưa ra một câu trả lời cụ thể thuộc về khả năng giải thích. Hai khái niệm bổ trợ cho nhau nhưng không thể thay thế nhau. Các tổ chức có thể sử dụng thuật ngữ khác nhau, nên phân biệt theo mục đích thực tế sẽ hữu ích hơn việc xem chúng là những nhãn cứng nhắc. Phần giải thích cho một câu trả lời cũng không mặc nhiên mô tả đầy đủ mọi hoạt động bên trong hệ thống.

AI Transparency không bảo đảm điều gì?

Tính minh bạch không có nghĩa là mọi chi tiết kỹ thuật đều sẵn có hoặc dễ hiểu với tất cả người dùng. Khách hàng có thể chỉ cần một thông báo rõ ràng, trong khi nhóm phụ trách hệ thống cần hồ sơ chi tiết hơn.

Tính minh bạch cũng không chứng minh hệ thống AI chính xác, công bằng hoặc an toàn. Chatbot có thể thông báo rằng đó là AI và nêu một giới hạn nhưng vẫn đưa ra câu trả lời sai. Hãy đối chiếu các kết quả quan trọng với bằng chứng đáng tin cậy và nhờ con người rà soát khi sai sót có thể gây hậu quả. Minh bạch giúp mọi người hiểu bối cảnh sử dụng AI; nó không thay thế việc đánh giá hay kiểm chứng.

Người mới có thể tự hỏi: Tôi có biết khi nào AI tham gia, hệ thống được thiết kế để làm gì và cần lưu ý những giới hạn nào không? Nếu chưa rõ, hãy hỏi thêm trước khi dựa vào kết quả của hệ thống.

Đọc thêm trong chuyên đề AI có trách nhiệm và Quản trị AI:

• Kiến thức nền tảng: AI Governance là gì? Những điều cơ bản cần biết
• Chuyên sâu cùng chủ đề: Responsible AI là gì?
• Hướng dẫn thực hành & Mẫu Prompt: Thiết lập an toàn dữ liệu và tuân thủ nguyên tắc bảo mật khi dùng phần mềm AI
• Khám phá toàn bộ chuyên mục: AI có trách nhiệm, Quản trị & Pháp lý