Thiên kiến trong trí tuệ nhân tạo: nguồn gốc và cách giảm thiểu

Có một quan niệm phổ biến rằng máy tính thì khách quan vì chỉ làm việc với con số. Thực tế, các hệ thống trí tuệ nhân tạo học từ dữ liệu do con người tạo ra và được thiết kế bởi con người, nên chúng có thể kế thừa, thậm chí khuếch đại, những thiên kiến sẵn có. Khi AI tham gia vào các quyết định ảnh hưởng đến người khác như tuyển dụng, xét duyệt tín dụng hay chẩn đoán, vấn đề này càng đáng được quan tâm.

Thiên kiến trong AI là gì?

Thiên kiến (bias) trong AI là xu hướng hệ thống cho kết quả kém chính xác hoặc thiếu công bằng đối với một số nhóm người hay tình huống nhất định so với các nhóm khác. Đây không nhất thiết là do ai đó cố ý. Phần lớn thiên kiến xuất hiện một cách vô tình, từ cách dữ liệu được thu thập, cách bài toán được định nghĩa hoặc cách kết quả được sử dụng.

Các nguồn thiên kiến thường gặp

• Dữ liệu không đại diện: nếu dữ liệu huấn luyện chủ yếu đến từ một nhóm người, mô hình thường hoạt động kém hơn với những nhóm ít xuất hiện. Ví dụ, một hệ thống nhận diện giọng nói huấn luyện chủ yếu trên một vùng miền có thể nhận diện kém các giọng khác.
• Thiên kiến lịch sử: dữ liệu phản ánh những bất bình đẳng của quá khứ. Một mô hình học từ các quyết định tuyển dụng trước đây có thể lặp lại chính những ưu tiên thiếu công bằng đã tồn tại.
• Nhãn và phép đo kém: cách gán nhãn của con người có thể mang định kiến, hoặc ta chọn một thước đo thay thế không phản ánh đúng điều thật sự quan tâm.
• Thiết kế và cách triển khai: ngay cả mô hình tốt cũng có thể gây hại nếu được dùng ngoài bối cảnh mà nó được kiểm chứng.

Vì sao thiên kiến khó nhận ra?

Một chỉ số độ chính xác trung bình cao có thể che giấu việc mô hình hoạt động rất kém với một nhóm nhỏ. Vì vậy, đánh giá tổng thể là chưa đủ; cần phân tích kết quả theo từng nhóm liên quan. Ngoài ra, nhiều mô hình phức tạp khó giải thích, khiến việc truy ngược nguyên nhân của một quyết định bất công trở nên khó khăn.

Các hướng giảm thiểu

Không có giải pháp duy nhất, nhưng một số thực hành giúp ích đáng kể:

1. Xem xét dữ liệu từ sớm: kiểm tra xem dữ liệu đến từ đâu, ai bị thiếu vắng và nhãn được gán như thế nào.
2. Đánh giá theo nhóm: so sánh các chỉ số như tỷ lệ sai sót giữa các nhóm khác nhau, không chỉ nhìn con số trung bình.
3. Cân nhắc định nghĩa công bằng: có nhiều cách hiểu về công bằng và đôi khi chúng mâu thuẫn nhau, nên cần thảo luận rõ ràng điều gì là phù hợp với bối cảnh cụ thể.
4. Giữ con người trong vòng kiểm soát: với quyết định quan trọng, AI nên hỗ trợ chứ không thay thế hoàn toàn, và cần có cơ chế để người bị ảnh hưởng phản hồi hoặc khiếu nại.
5. Theo dõi sau triển khai: dữ liệu và bối cảnh thay đổi theo thời gian, nên việc kiểm tra cần diễn ra liên tục.

Vai trò của sự đa dạng và minh bạch

Những nhóm phát triển có nền tảng đa dạng thường dễ phát hiện các điểm mù hơn. Việc ghi chép rõ ràng về nguồn dữ liệu, mục đích sử dụng và giới hạn của mô hình cũng giúp người dùng không áp dụng hệ thống vào những tình huống nó không phù hợp. Minh bạch không loại bỏ thiên kiến, nhưng giúp phát hiện và sửa chữa sớm hơn.

Kết luận

Thiên kiến trong AI không phải là lỗi kỹ thuật thuần túy mà là vấn đề gắn liền với dữ liệu, thiết kế và cách sử dụng. Giảm thiểu nó đòi hỏi sự chú ý xuyên suốt vòng đời của hệ thống: từ thu thập dữ liệu, đánh giá theo nhóm, đến giám sát sau triển khai. Với bất kỳ ai làm việc cùng AI, đặt câu hỏi "hệ thống này có công bằng với tất cả những người bị ảnh hưởng không?" là thói quen cần thiết.