Nhận diện khuôn mặt là công nghệ mang đến nhiều đột phát trong công nghệ. Nhưng mới đây, một nhóm các chuyên gia AI đã cùng nhau kí vào đơn đề nghị yêu cầu Amazon ngừng bán các sản phẩm nhận diện khuôn mặt, cho cơ quan thực thi luật pháp khi phát hiện ra sản phẩm có nhiều sai lệch.
Quay lại tháng 1, 2019 đã có một báo cáo được đưa ra về Algorithmic Justice League (một bộ luật dành cho tạo dựng thuật toán ) được lập ra bởi Joy Buolamwini , người đã nghiên cứu những thuật toán nhận diện khuôn mặt phổ biến nhất trên thế giới.
Buolamwini thấy hầu hết các thuật toán sai lệch và xác định sai chủ thể có màu da tối màu hơn hoặc thường xảy ra với phụ nữ.
Dưới đây là kết quả mức độ chính xác giảm dần :
Face++: Darker Males (99.3 percent), Lighter Males (99.2 percent), Lighter Females (94 percent), Darker Females (65.5 percent)
Microsoft :Lighter Males (100 percent), Lighter Females (98.3 percent), Darker Males (94 percent), Darker Females (79.2 percent)
IBM:Lighter Males (99.7 percent), Lighter Females (92.9 percent), Darker Males (88 percent), Darker Females (65.3 percent)
Người phát ngôn tại Amazon bác bỏ những phát hiện và tuyên bố về mức độ chính xác thấp của sản phẩm nhận diện khuôn mặt, những thứ mà Amazon đã giới thiệu cho các cơ quan nhà nước.
Phó tổng giám đốc Matt Wood phụ trách bộ phận trí tuệ nhân tạo của Amazon, viết trên blog cá nhân tháng 1 vừa qua : ” Câu trả lời mang tới nhiều sự lo lắng về công nghệ mới chưa được đồng nhất chạy thử nghiệm các thiết bị được thiết kế để sử dụng trí tuệ nhân tạo. Phương tiện truyền thông đã khuếch đại cuộc thử nghiệm hỏng và kết quả sai lệch tới công chúng.”
Chữ kí của các chuyên gia AI trong bức thư này đều dựa trên những biện pháp bảo vệ thuật toán tri tuệ nhân tạo của Buolamwini, bao gồm cả người tiên phong trong lĩnh vực AI Yoshua Bengio, người đã dành được giải thưởng Turing Award.
Ngược lại với tuyên bố của Dr. Wood, ý kiến trái chiều được thấy trong 1 hệ thống sẽ gây ra mối quan tâm ảnh hưởng đến người khác, đặc biệt trong một vài trường hợp có thể ảnh hưởng lên cuộc sống con người, ví dụ như việc áp dụng các luật được ban hành.
Mặc dù là đơn vị có hệ thống nhận diện khuôn mặt chính xác nhất, Microsoft cũng chưa thể có được nội dung chuẩn xác và các cải tiến về nhận diện khuôn mặt chính xác trong tương lai dựa trên luật của Buolamwini. Công ty cũng đã đưa ra 1 chính sách yêu cầu các dấu hiệu có thể nhìn thấy ở bất cứ nơi nào sử dụng sản phẩm nhận diện khuôn mặt.
Ngược lại, IBM đã có những bước tiến lớn trong việc cân bằng độ chính xác của các thuật toán của họ để đại diện cho tất cả các thành phần trong xã hội. Đầu năm nay, công ty đã tiết lộ họ đã thu thâp 1 triệu hình ảnh dữ liệu mới đại diện cho sự đa dạng trong xã hội.
Khi Buolamwini đánh giá lại thuật toán của IBM, mức độ chính xác khi nhận diện đàn ông da màu nhảy từ 88% lên 99.4%, cho phụ nữ da màu từ 65.3% lên 83.5%, cho phụ nữ da trắng là từ 92.9% lên 97.6%, và độ chính xác trên những đàn ông da trắng thì vẫn giữ nguyên là 97%.
Ngay cả trong các vấn đề xã hội như các chủng tộc khác nhau, việc nhận diện khuôn mặt không chính xác có thể gây ra các tình huống tồi tệ. Ví dụ trong một nghiên cứu gần đây đã chỉ ra rằng ô tô không người lái đang quan sát phần đường dành cho người đi bộ , đang gặp khó khăn hơn trong việc phát hiện những cá thể có màu da sẫm hơn.
Không chỉ những chuyên gia AI , mà cả khách hàng cũng nên tạo áp lực lên các công ty công nghệ sản xuất sản phẩm nhận diện khuôn mặt ,để đảm bảo độ an toàn, chính xác cho người sử dụng cũng như các cơ quan thi hành luật pháp.
Theo AI Intelligient News