Rủi ro quyền riêng tư khi dùng AI

Quyền riêng tư trong AI là việc bảo vệ và xử lý thông tin cá nhân hoặc nhạy cảm khi phát triển hay sử dụng hệ thống AI. Rủi ro có thể phát sinh khi thông tin được thu thập, sử dụng, suy luận, lưu giữ hoặc để lộ. Nội dung hệ thống xử lý có thể nhiều hơn những gì bạn chủ động nhập vào cuộc trò chuyện.

Dùng công cụ AI không đồng nghĩa với việc quyền riêng tư đã bị xâm phạm. Cần xác định hệ thống có thể truy cập thông tin nào, xử lý ra sao và cách xử lý đó có phù hợp với tình huống của bạn không.

> Ý chính
> – Rủi ro có thể phát sinh từ thông tin dùng để phát triển hệ thống hoặc thông tin bạn cung cấp để công cụ AI thực hiện một tác vụ.
> – Các rủi ro gồm sử dụng lại ngoài dự kiến, suy luận thông tin nhạy cảm, lưu giữ dữ liệu, giám sát và vô tình để lộ thông tin. Khả năng xảy ra tùy thuộc vào hệ thống và cách sử dụng.
> – Trước khi chia sẻ, hãy kiểm tra công cụ, tài khoản, cài đặt, điều khoản và quy định tại nơi làm việc. Chỉ cung cấp thông tin cần thiết cho tác vụ.

Rủi ro quyền riêng tư trong AI là gì?

Rủi ro quyền riêng tư trong AI là những tổn hại có thể xảy ra khi thông tin về con người được thu thập, sử dụng, chia sẻ, lưu giữ hoặc tiết lộ trong hệ thống dùng AI. Thông tin có thể là dữ liệu cá nhân, như tên hoặc tình trạng sức khỏe, hoặc trở nên nhạy cảm do bối cảnh sử dụng. IBM mô tả quyền riêng tư trong AI là việc bảo vệ thông tin cá nhân hoặc nhạy cảm qua các hình thức xử lý này.

Nhờ công cụ chỉnh sửa email chung khác với việc dán vào đó khiếu nại có thể nhận diện khách hàng. Trường hợp thứ hai liên quan đến một người thật nên cần thận trọng hơn. Điều này không chứng minh công cụ sẽ sử dụng sai hoặc lưu giữ thông tin; hãy kiểm tra cách dịch vụ cụ thể xử lý dữ liệu trước khi chia sẻ.

Quyền riêng tư trong AI còn liên quan đến thông tin dùng để phát triển mô hình, dữ liệu dịch vụ thu thập, kết luận rút ra từ thông tin sẵn có và việc thông tin bị lộ ngoài ý muốn. Đây là những khả năng riêng biệt, không phải kết quả xảy ra với mọi hệ thống AI.

Rủi ro quyền riêng tư có thể phát sinh ở đâu trong vòng đời dữ liệu

Thông tin có thể bị ảnh hưởng khi được thu thập, sử dụng, lưu giữ, phân tích để suy luận hoặc để lộ. Khung vòng đời này giúp xác định câu hỏi cần đặt ra; không có nghĩa mọi công cụ đều xử lý dữ liệu theo cùng một quy trình.

Hãy hình dung một bản ghi cuộc họp giả định được tải lên dịch vụ AI để tạo bản tóm tắt. Dịch vụ nhận và xử lý thông tin cho tác vụ, đồng thời có thể áp dụng quy định riêng về lưu trữ và quyền truy cập. Thông tin cũng có thể được phân tích để suy luận về một người hoặc bị để lộ do nhầm lẫn. Đây là ví dụ minh họa, không phải mô tả cách một sản phẩm cụ thể hoạt động.

Thông tin dùng để phát triển mô hình AI khác với thông tin cung cấp cho công cụ để thực hiện một tác vụ. Hai trường hợp đặt ra những câu hỏi riêng; mô tả chung về AI không cho biết dịch vụ cụ thể xử lý từng loại thông tin ra sao.

Việc thu thập và sử dụng lại dữ liệu liên quan đến AI có thể ảnh hưởng đến quyền riêng tư như thế nào

Thông tin có thể được thu thập hoặc sử dụng khác với điều một người dự kiến khi chia sẻ ban đầu. Cần xem cả việc sử dụng về sau có phù hợp với mục đích mà người đó hiểu hay không. IBM nêu các ví dụ như hồ sơ xin việc hoặc ảnh có thể được sử dụng lại để huấn luyện AI; mối quan ngại là việc dùng thông tin vượt quá phạm vi đã công bố ban đầu. Đọc tổng quan của IBM về rủi ro quyền riêng tư trong AI.

Một người có thể gửi hồ sơ xin việc để ứng tuyển hoặc ảnh cho một dịch vụ cụ thể. Điều đó không chứng minh các thông tin này sẽ được dùng để huấn luyện AI. Hãy kiểm tra mục đích dự kiến, thông tin công bố và điều khoản của dịch vụ hoặc tổ chức liên quan, thay vì cho rằng dữ liệu được chia sẻ cho một mục đích sẽ được dùng cho mọi mục đích khác.

Vì sao thông tin dùng để phát triển mô hình AI là một mối quan ngại riêng về quyền riêng tư

Dữ liệu dùng để phát triển mô hình khác với thông tin nhập vào công cụ trong quá trình sử dụng. Dữ liệu huấn luyện (training data) là các ví dụ dùng để điều chỉnh mô hình học máy khi huấn luyện. Dữ liệu đầu vào cho tác vụ là thông tin cung cấp để thực hiện một yêu cầu cụ thể, chẳng hạn như tài liệu gửi lên để tóm tắt. Việc nhà cung cấp có dùng dữ liệu đầu vào cho tác vụ để tiếp tục phát triển mô hình hay không tùy thuộc vào dịch vụ, cài đặt và điều khoản.

Thông tin cá nhân trong dữ liệu phát triển có thể gây quan ngại ở hai phía: thông tin có thể được đưa vào quá trình phát triển, và mô hình có thể tái tạo hoặc tiết lộ thông tin cá nhân trong đầu ra. Viện Trí tuệ Nhân tạo lấy con người làm trung tâm Stanford (Stanford HAI) thảo luận về các khả năng này, gồm việc thông tin xuất hiện trong dữ liệu huấn luyện hoặc được suy ra từ nhiều điểm dữ liệu. Đây là rủi ro có thể xảy ra, không phải khẳng định rằng mọi mô hình đều ghi nhớ hoặc tiết lộ thông tin cá nhân. Bài viết của Stanford HAI về quyền riêng tư trong kỷ nguyên AI có thêm chi tiết.

AI có thể suy luận thông tin nhạy cảm từ những dữ liệu có vẻ bình thường như thế nào

Hệ thống có thể phân tích thông tin sẵn có và đưa ra gợi ý về điều một người chưa trực tiếp cung cấp. Suy luận (inference) là rút ra kết luận từ thông tin hoặc các mẫu hình. Suy luận có thể sai; kết quả phụ thuộc vào dữ liệu hệ thống truy cập và cách dữ liệu được sử dụng.

Trong một hệ thống tại nơi làm việc giả định có quyền truy cập nhật ký hoạt động, mô hình về các lần vắng mặt có thể khiến ai đó phỏng đoán hoàn cảnh của nhân viên. Điều đó không có nghĩa chatbot đa năng mặc định truy cập được hồ sơ tại nơi làm việc. Ví dụ này cho thấy cần xem xét cả dữ liệu hệ thống có thể phân tích, không chỉ nội dung người dùng nhập. Axiom Law mô tả việc suy luận từ dữ liệu hành vi là một mối quan ngại có thể có về quyền riêng tư; rủi ro thực tế tùy thuộc vào hệ thống và bối cảnh.

Xóa tên có thể giảm khả năng nhận diện trực tiếp, nhưng không nhất thiết ngăn việc liên kết thông tin với một người hoặc suy luận chi tiết nhạy cảm. Tùy hoàn cảnh, các chi tiết khác khi kết hợp vẫn có thể nhận diện người đó.

AI có thể làm gia tăng rủi ro quyền riêng tư từ hoạt động giám sát và lập hồ sơ như thế nào

AI có thể phân tích thông tin từ hoạt động giám sát hiện có, làm gia tăng mối lo ngại về giám sát và lập hồ sơ. Một người có thể bị ảnh hưởng dù không chủ động dùng AI, nếu thông tin về họ xuất hiện trong hồ sơ hoặc dữ liệu quan sát được hệ thống xử lý.

Phân tích hình ảnh từ camera có thể được dùng để tìm mẫu di chuyển; phân tích dữ liệu duyệt web có thể cho thấy các kiểu hoạt động. Đây là ví dụ về nội dung có thể được phân tích, không phải khẳng định rằng một tổ chức cụ thể đang thực hiện việc đó. IBM lưu ý AI có thể làm trầm trọng thêm mối lo ngại về giám sát trên diện rộng vì mô hình có thể được dùng để phân tích dữ liệu giám sát. Xem phần thảo luận của IBM về AI và hoạt động giám sát.

Lưu giữ và để lộ dữ liệu có ý nghĩa gì đối với quyền riêng tư trong AI

Lưu giữ (retention) là tiếp tục giữ thông tin sau khi thông tin được cung cấp hoặc thu thập. Rò rỉ dữ liệu (data leakage) là việc thông tin nhạy cảm bị để lộ ngoài ý muốn. Đây là hai rủi ro khác nhau: dữ liệu có thể được lưu giữ mà không bị rò rỉ, còn việc để lộ có thể xảy ra qua nhiều loại hệ thống hoặc quy trình.

Nếu nhân viên tải bảng tính lên dịch vụ AI, việc dịch vụ có lưu giữ tệp hay không và trong bao lâu tùy thuộc vào công cụ, tài khoản, cài đặt, điều khoản và thỏa thuận với tổ chức. Một rủi ro riêng là thông tin trở nên truy cập được đối với người không có quyền. IBM mô tả rò rỉ dữ liệu là việc vô tình để lộ thông tin và lưu ý các hệ thống AI có thể dễ bị tiết lộ ngoài ý muốn. Tổng quan của IBM giải thích các rủi ro này.

Đừng suy đoán rằng công cụ sẽ xóa thông tin, lưu giữ trong một khoảng thời gian cụ thể hoặc dùng thông tin để huấn luyện mô hình chỉ dựa trên mô tả chung về AI. Hãy kiểm tra đúng dịch vụ và tài khoản. Tìm hiểu thêm về lưu giữ dữ liệu AI và liệu công cụ AI có huấn luyện trên dữ liệu người dùng.

Cách kiểm tra công cụ AI trước khi chia sẻ thông tin

Trước khi nhập thông tin cá nhân hoặc công việc, hãy kiểm tra các điểm sau:

1. Xác định loại thông tin. Đó có phải thông tin cá nhân, nhạy cảm, bảo mật hoặc liên quan đến người chưa đồng ý cho sử dụng không?
2. Kiểm tra đúng công cụ và tài khoản. Xem điều khoản và cài đặt hiện hành của dịch vụ và gói bạn đang dùng. Mức bảo vệ có thể khác nhau; điều khoản của tài khoản này không nhất thiết áp dụng cho tài khoản khác. Axiom Law khuyên nên kiểm tra điều khoản của đúng công cụ và cấp phép sử dụng.
3. Tìm hiểu cách xử lý dữ liệu. Kiểm tra dữ liệu nào được thu thập, có thể được sử dụng hoặc chia sẻ ra sao, và điều khoản có nêu việc lưu giữ hay xóa dữ liệu không. Đồng thời xem chính sách có thể áp dụng tại nơi làm việc.
4. Giảm lượng thông tin cung cấp. Xóa chi tiết không cần thiết hoặc dùng chỗ giữ chỗ nếu vẫn hoàn thành được tác vụ. Việc này giảm mức độ lộ thông tin nhưng không đảm bảo các chi tiết còn lại không thể nhận diện một người.
5. Tạm dừng nếu quy định chưa rõ. Dùng phương án thay thế đã được phê duyệt hoặc hỏi người phụ trách chính sách trước khi chia sẻ thông tin nhạy cảm hay bảo mật.

Nhân viên có thể thay tên khách hàng và chi tiết nhận diện bằng chỗ giữ chỗ trước khi nhờ soạn câu trả lời chung. Họ vẫn cần kiểm tra công cụ có được phê duyệt cho công việc đó không và các chi tiết còn lại có phù hợp để chia sẻ không. Xem những dữ liệu không nên chia sẻ với AI để biết các loại thông tin cần tránh đưa vào công cụ AI.

Cách thiết thực để giảm nguy cơ lộ thông tin khi dùng AI

Có thể giảm việc lộ thông tin không cần thiết bằng cách giới hạn dữ liệu thu thập hoặc cung cấp, cân nhắc mục đích sử dụng, áp dụng biện pháp bảo mật phù hợp và bảo vệ chặt chẽ hơn thông tin nhạy cảm. Không biện pháp đơn lẻ nào đảm bảo quyền riêng tư. IBM liệt kê các biện pháp như hạn chế thu thập dữ liệu, đánh giá rủi ro, xác nhận sự đồng ý và bảo vệ dữ liệu thuộc lĩnh vực nhạy cảm. Xem các khuyến nghị của IBM.

Tóm tắt tài liệu khóa học công khai có thể ít gây lo ngại hơn tải lên tài liệu chứa thông tin về người khác. Với nhóm làm việc với hồ sơ khách hàng, tổ chức có thể yêu cầu dùng hệ thống đã được phê duyệt và rà soát chính sách trước khi sử dụng AI. Biện pháp phù hợp tùy vào thông tin và tác vụ; các bước này giảm rủi ro nhưng không thay thế việc tuân thủ quy định liên quan.

Một quy tắc đơn giản để quyết định có nên chia sẻ thông tin với AI hay không

Nếu thông tin nhạy cảm, có thể nhận diện một người, thuộc diện bảo mật hoặc chưa được phép sử dụng rõ ràng với công cụ đó, đừng nhập thông tin trước khi kiểm tra điều khoản, cài đặt và quy định tại nơi làm việc có liên quan. Bài giải thích chung về quyền riêng tư trong AI không thể xác định một dịch vụ cụ thể hiện xử lý dữ liệu ra sao.

Chương trình nghị sự cuộc họp công khai có thể phù hợp để tóm tắt bằng công cụ được phê duyệt cho mục đích đó. Tài liệu nhận diện nhân viên hoặc khách hàng cần được xem xét kỹ hơn và có thể không phù hợp với công cụ chưa được phê duyệt. Nếu chưa chắc chắn, hãy chia sẻ ít hơn và hỏi người hoặc nhóm phụ trách.

Những hiểu lầm thường gặp về quyền riêng tư trong AI

• “Mọi công cụ AI xử lý nội dung nhập vào theo cùng một cách.” Công cụ, tài khoản, cài đặt và điều khoản có thể khác nhau. Hãy kiểm tra đúng công cụ bạn dùng.
• “Nếu thông tin đã công khai hoặc được chia sẻ trước đây thì có thể dùng cho mọi mục đích.” Việc từng công bố thông tin không tự xác định cách sử dụng về sau có phù hợp hoặc được phép hay không.
• “Tôi đã xóa tên nên thông tin này đã ẩn danh.” Các chi tiết khác vẫn có thể giúp nhận diện một người hoặc suy luận thông tin nhạy cảm.
• “Một bài viết chung cho tôi biết sản phẩm này hiện hoạt động ra sao.” Hãy kiểm tra điều khoản và cài đặt hiện hành áp dụng cho đúng sản phẩm và tài khoản.

Đọc thêm về an toàn dữ liệu khi dùng AI

Để tìm hướng dẫn theo từng câu hỏi, xem những dữ liệu không nên chia sẻ với AI, lưu giữ dữ liệu AI, liệu công cụ AI có huấn luyện trên dữ liệu người dùng và thông tin bảo mật và AI. Hướng dẫn chung không thay thế việc kiểm tra điều khoản, cài đặt hoặc chính sách nơi làm việc hiện hành.

Đọc thêm trong chuyên đề Quyền riêng tư và An toàn khi sử dụng AI:

• Kiến thức nền tảng: AI có dùng dữ liệu của bạn để huấn luyện không?
• Chuyên sâu cùng chủ đề: Cách bảo vệ thông tin bảo mật khi dùng AI
• Hướng dẫn thực hành & Mẫu Prompt: Hướng dẫn cài đặt bảo mật và tắt huấn luyện dữ liệu trên ChatGPT, Claude, Gemini
• Khám phá toàn bộ chuyên mục: Quyền riêng tư, Bảo mật & An toàn dữ liệu