AI Bias: Khái niệm, nguyên nhân và ý nghĩa

AI Bias là xu hướng lệch lặp lại trong kết quả của một hệ thống AI, có thể gây bất lợi không công bằng cho một số nhóm người hoặc tình huống. Hiểu khái niệm này giúp phân biệt một kiểu bất lợi có tính lặp lại với lỗi đơn lẻ và đặt câu hỏi phù hợp về các quyết định có AI hỗ trợ.

Ý chính

• Là gì: AI Bias là kiểu kết quả lặp lại có thể ưu tiên hoặc gây bất lợi cho một số nhóm người hay tình huống.
• Hình thành như thế nào và vì sao: Hiện tượng này có thể bắt nguồn từ dữ liệu huấn luyện, cách thiết kế hệ thống hoặc quyết định của con người về cách sử dụng hệ thống.
• Vì sao cần quan tâm: Độ chính xác tổng thể khá tốt không đảm bảo hệ thống tác động đồng đều đến các nhóm khác nhau. Bỏ một trường thông tin nhạy cảm dễ nhận thấy cũng chưa chắc loại bỏ được kiểu ảnh hưởng đó.

AI Bias là gì?

AI Bias là xu hướng lệch có tính hệ thống hoặc lặp lại trong kết quả của một hệ thống AI, có thể ưu tiên hoặc gây bất lợi không công bằng cho một số nhóm người hay kết quả nhất định. Khái niệm này nói về một kiểu lặp lại, không có nghĩa là mọi câu trả lời của hệ thống đều thiên lệch. Palo Alto Networks giải thích AI Bias là xu hướng có tính hệ thống khiến kết quả ưu tiên hoặc gây bất lợi không công bằng cho một số nhóm.

Ví dụ giả định: một công cụ tuyển dụng liên tục chấm điểm thấp hơn cho ứng viên thuộc một nhóm nhất định, dù các yếu tố liên quan khác tương tự nhau. Kiểu lặp lại đó có thể là dấu hiệu của thiên lệch; chỉ một lần chấm điểm thấp chưa đủ để kết luận có xu hướng rộng hơn.

AI Bias khác lỗi AI thông thường như thế nào?

Một kết quả sai không tự động là bằng chứng của AI Bias; cần xem lỗi hoặc tác động có lặp lại và phân bố không đồng đều giữa các nhóm người hay tình huống hay không. Defined.ai phân biệt độ chính xác nói chung với các lỗi phân bố không đồng đều.

Một công cụ đôi khi phân loại sai hồ sơ ứng tuyển ở mọi nhóm có thể chỉ là thiếu chính xác. Nếu công cụ liên tục mắc nhiều lỗi hơn với ứng viên thuộc một nhóm cụ thể, sự khác biệt đó đặt ra mối quan ngại khác. Đây là ví dụ minh họa; đánh giá hệ thống thực tế cần bằng chứng phù hợp về kết quả và bối cảnh sử dụng.

AI Bias có thể bắt nguồn từ đâu?

AI Bias có thể xuất hiện từ dữ liệu huấn luyện, thiết kế mô hình hoặc sự giám sát của con người. Đây là những yếu tố có thể góp phần tạo ra thiên lệch, không phải danh sách nguyên nhân giống nhau cho mọi trường hợp. Palo Alto Networks nêu dữ liệu, thiết kế và sự giám sát là những yếu tố có thể góp phần.

1. Dữ liệu huấn luyện: Các hệ thống Machine Learning học quy luật từ ví dụ. Nếu ví dụ phản ánh quyết định trước đây hoặc thiếu những trường hợp quan trọng, hệ thống có thể đưa các quy luật đó vào kết quả.
2. Thiết kế mô hình: Quyết định về điều hệ thống dự đoán và thông tin hệ thống sử dụng có thể định hình kết quả. Hệ thống có thể được tối ưu theo một thước đo không phản ánh đầy đủ mọi tác động mà con người quan tâm.
3. Sự giám sát và cách con người sử dụng: Con người diễn giải và hành động dựa trên đề xuất của hệ thống. Quy trình thiếu sót có thể khiến kết quả lệch ảnh hưởng đến quyết định mà không được xem xét phù hợp.

Trong một quy trình tuyển dụng giả định, hồ sơ tuyển dụng trong quá khứ có thể phản ánh cách lựa chọn trước đây; tiêu chí chấm điểm có thể ảnh hưởng đến ứng viên được đề xuất; còn mức độ nhà tuyển dụng dựa vào đề xuất có thể tác động đến việc ai được đi tiếp. Kết quả có thể hình thành qua nhiều giai đoạn, không chỉ từ một lỗi kỹ thuật riêng lẻ.

AI Bias có thể biểu hiện ra sao trong các quyết định thường ngày?

AI Bias đáng quan tâm khi kết quả của hệ thống ảnh hưởng đến quyết định về con người. Tuyển dụng, y tế, tài chính và nhận diện khuôn mặt là những lĩnh vực mà hiệu suất hoặc kết quả không đồng đều có thể gây hệ quả; điều này không có nghĩa mọi hệ thống trong các lĩnh vực đó đều thiên lệch. Palo Alto Networks mô tả những tác động có thể có trong các lĩnh vực này.

• Tuyển dụng: Công cụ sàng lọc có thể loại ứng viên đủ năng lực không đồng đều nếu quy luật đã học hoặc lựa chọn chấm điểm gây bất lợi cho một số ứng viên.
• Y tế: Hệ thống chẩn đoán có thể kém tin cậy hơn với một nhóm ít được đại diện trong các ví dụ huấn luyện phù hợp, từ đó ảnh hưởng đến việc chăm sóc.
• Tài chính: Hệ thống liên quan đến tín dụng có thể đưa ra kết quả không đồng đều, ảnh hưởng đến khả năng tiếp cận khoản vay hoặc dịch vụ tài chính khác.
• Nhận diện khuôn mặt: Hệ thống nhận diện có thể hoạt động khác nhau giữa các nhóm, khiến một số người chịu hậu quả nghiêm trọng hơn từ lỗi.

Đây là các kiểu ảnh hưởng có thể xảy ra, không phải kết luận về một sản phẩm cụ thể. Đánh giá một hệ thống cần bằng chứng về chính hệ thống đó, những người chịu ảnh hưởng và các quyết định được đưa ra sau khi có kết quả.

Vì sao bỏ dữ liệu nhạy cảm chưa chắc loại bỏ được thiên lệch?

Loại bỏ một trường như chủng tộc hoặc giới tính không nhất thiết ngăn được tác động thiên lệch. Thông tin khác có thể liên quan đến trường đó và hoạt động như biến đại diện (proxy), khiến hệ thống tái tạo kiểu ảnh hưởng tương tự. Defined.ai lưu ý rằng các đặc điểm như nơi ở, tên hoặc trường học đôi khi có thể đại diện cho thuộc tính nhạy cảm.

Ví dụ giả định: trong một hệ thống tuyển dụng hoặc cho vay, nơi ở hoặc lịch sử học tập có thể gắn với những khác biệt khác giữa các ứng viên. Việc một đặc điểm có hoạt động như biến đại diện hay không phụ thuộc vào dữ liệu và bối cảnh; không nên mặc định rằng đặc điểm nào cũng làm việc này. Xóa một cột dữ liệu tự nó không chứng minh rằng kết quả đã công bằng hơn.

AI Bias khác AI Fairness như thế nào?

AI Bias mô tả xu hướng lệch hoặc kiểu lặp lại trong kết quả của hệ thống; AI Fairness (tính công bằng của AI) liên quan đến cách đánh giá những kết quả đó và sự khác biệt nào có thể chấp nhận được trong một bối cảnh cụ thể. Hai khái niệm có liên quan nhưng không thể dùng thay thế cho nhau.

Khi đánh giá một hệ thống, cần xem xét ai phải gánh chịu lỗi, kiểu bất lợi nào đáng quan tâm và hệ thống được sử dụng ra sao. Các định nghĩa khác nhau về tính công bằng có thể dẫn đến ưu tiên xung đột; câu hỏi phù hợp phụ thuộc vào tác hại cần giải quyết. Defined.ai lưu ý rằng các định nghĩa về tính công bằng có thể xung đột và lựa chọn phù hợp phụ thuộc vào bối cảnh cũng như tác hại cần quan tâm. Để tìm hiểu cách đánh giá tính công bằng, hãy xem hướng dẫn của chúng tôi về AI Fairness.

Cần ghi nhớ điều gì về AI Bias?

Hãy tìm các kiểu lặp lại và tác động của chúng thay vì xem mọi lỗi là bằng chứng của thiên lệch. Khi xem xét một quyết định có AI hỗ trợ, hãy hỏi:

1. Ai có thể bị ảnh hưởng? Xác định những người hoặc tình huống liên quan đến quyết định của hệ thống.
2. Lỗi hoặc kết quả có phân bố không đồng đều không? Tìm bằng chứng giữa các nhóm hoặc hoàn cảnh liên quan, thay vì chỉ dựa vào một con số hiệu suất tổng thể.
3. Kiểu ảnh hưởng này có thể bắt nguồn từ đâu? Xem xét ví dụ dùng để xây dựng hệ thống, lựa chọn thiết kế và cách mọi người sử dụng đề xuất của hệ thống.

Các câu hỏi này chưa đủ để kết luận hệ thống công bằng hay thiên lệch. Chúng giúp xác định cần thêm bằng chứng và bối cảnh nào để hiểu tác động của hệ thống.

Đọc thêm trong chuyên đề AI có trách nhiệm và Quản trị AI:

• Kiến thức nền tảng: AI Literacy theo EU AI Act: Yêu cầu tại Điều 4
• Chuyên sâu cùng chủ đề: NIST AI RMF: Hướng dẫn nhập môn về bốn chức năng
• Hướng dẫn thực hành & Mẫu Prompt: Thiết lập an toàn dữ liệu và tuân thủ nguyên tắc bảo mật khi dùng phần mềm AI
• Khám phá toàn bộ chuyên mục: AI có trách nhiệm, Quản trị & Pháp lý