Trí tuệ nhân tạo thiên vị người da trắng.

Các thiết bị sử dụng trí tuệ nhân tạo đang thiên vị cho những người đàn ông da trắng. Việc ưu tiên chọn lựa người da trắng thay vì da màu đã gây ra phiền toái cho bản thân họ và các cơ quan chức năng.

Một báo cáo về trí tuệ nhân tạo từ đại học New York đã cho thấy lực lượng lao động làm dữ liệu chủ yếu là nam giới da trắng đang gây ra sự thiên vị trong các thuật toán của AI. Kết quả của báo cáo được thông báo khi yêu cầu ngừng bán sản phẩm nhận diện khuôn mặt.

Bản báo cáo đã nhấn mạnh rằng việc thiếu đi sự đại diện đa dạng (màu da, sắc tộc) tại phần lớn các công ty công nghê như Microsoft, Google và Facebook đang khiến cho các ứng dụng AI thiên về người da trắng.

Ví dụ, tại Facebook chỉ 15% nhân viên tại công ty là phụ nữ. Vấn đề thậm chí còn nghiêm trọng hơn ở Google khi chỉ còn 10% là nữ.

Đến nay, các vấn đề đa dạng của ngành công nghiệp trí tuệ nhân tạo và các vấn đề sai lệch trong các hệ thống mà nó xây dựng sẽ được kiểm định riêng biệt. Chúng tôi gợi ý sẽ có 2 cách giải quyết cho cùng một vấn đề: vấn đề về việc phân biệt đối xử trong lực lượng lao động và trong xây dựng hệ thống được kết nối với nhau.

Khi công nghệ AI trở nên phổ biến và được sử dụng nhiều hơn trong xã hội, có nhiều mối nguy hiểm cho một số nhóm người bị bỏ lại phía sau những lợi thế của nó.

Trí tuệ nhân tạo thiên vị người da trắng.

Các nhà nghiên cứu đưa ra nhiều ví dụ nổi bật nơi luôn sẵn sàng xảy ra sự thiên vị của AI:

Thứ nhất là cuộc gây tranh cãi của Amazon về các sản phẩm AI nhận diện khuôn mặt gặp trục trặc đặc biệt khi phân biệt phụ nữ da màu. Thêm vào đó cũng đã có những phân tích được tìm thấy các trong các ứng dụng AI khác gặp trục trặc với đàn ông da màu.

Thứ hai là việc trí tuệ nhân tạo quét sơ yếu lý lịch dựa trên các ví dụ trước đây của những người nộp đơn thành công làm điểm chuẩn. AI đã tự động loại những người da màu bao gồm những người phụ nữ Hồi giáo.

AI hiện đang áp dụng ở một số khu vực để thay đổi cuộc sống, và điều đó đã làm thay đổi điều kiện sống nhanh chóng. Các tổ chức thực thi pháp luật đã tìm cách sử dụng công nghệ để xác định tội phạm, thậm chí là ưu tiên trong một số trường hợp và để đưa ra quyết định tuyên án – bao gồm cả việc ai đó được tại ngoại.

Sử dụng hệ thống AI cho việc phân loại, phát hiện, và dự đoán giới tính, chủng tộc và màu da là nhu cầu cấn thiết. Tuy nhiên các công nghệ sử dụng trí tuệ nhân tạo này cần được kiểm tra kĩ càng trước khi áp dụng vào cộng đồng, để không gây ra sự phân biệt chủng tộc hay giới tính.

Theo Artificial Intelligent News.

Bạn muốn trích dẫn bài này:
-----
"Trí tuệ nhân tạo thiên vị người da trắng.," Trí tuệ nhân tạo, Ngày xuất bản: 29/04/2019, URL: https://trituenhantao.io/tin-tuc/tri-tue-nhan-tao-thien-vi-nguoi-da-trang/, Ngày truy cập: 20/09/2020.



Về trituenhantao.io

Trituenhantao.io là trang web chia sẻ thông tin, kiến thức, kinh nghiệm học tập và triển khai các chương trình và dự án sử dụng trí tuệ nhân tạo trên thế giới.
Xem tất cả các bài viết của trituenhantao.io →