Các thuật toán thiên vị: đây là một cách tiếp cận triệt để hơn để tạo sự công bằng

Anonim

Cuộc sống của chúng ta ngày càng bị ảnh hưởng bởi các thuật toán. Mọi người có thể bị từ chối cho vay, việc làm, chính sách bảo hiểm hoặc thậm chí tạm tha trên cơ sở điểm số rủi ro mà họ tạo ra.

Tuy nhiên, thuật toán nổi tiếng là thiên vị. Ví dụ, các thuật toán được sử dụng để đánh giá nguy cơ tái phạm tội hình sự thường có tỷ lệ lỗi cao hơn trong các nhóm đạo đức thiểu số. Như ProPublica đã tìm thấy, thuật toán COMPAS - được sử dụng rộng rãi để dự đoán tái phạm trong hệ thống tư pháp hình sự Hoa Kỳ - có tỷ lệ dương tính giả màu đen cao hơn so với người da trắng; người da đen có nhiều khả năng bị dự đoán sai để tái phạm.

Những phát hiện như thế này đã khiến một số người cho rằng các thuật toán là không công bằng hoặc phân biệt đối xử. Để đáp lại, các nhà nghiên cứu AI đã tìm cách tạo ra các thuật toán tránh, hoặc ít nhất là giảm thiểu, không công bằng, chẳng hạn, bằng cách cân bằng tỷ lệ dương tính giả giữa các nhóm chủng tộc. Gần đây, một nhóm MIT đã báo cáo rằng họ đã phát triển một kỹ thuật mới để loại bỏ sự thiên vị khỏi các thuật toán mà không ảnh hưởng đến độ chính xác. Nhưng sửa chữa các thuật toán là cách tốt nhất để chống lại sự không công bằng?


Đọc thêm: Thuật toán tuyển dụng phân biệt giới tính của Amazon vẫn có thể tốt hơn con người


Nó phụ thuộc vào loại công bằng mà chúng ta theo sau. Các nhà triết học chính trị và đạo đức thường đối lập hai loại công bằng: thủ tục và thực chất. Một chính sách, thủ tục hoặc quá trình hành động, là thủ tục công bằng khi nó công bằng độc lập với kết quả mà nó gây ra. Quyết định của trọng tài bóng đá có thể công bằng, bất kể nó ảnh hưởng đến kết quả trận đấu như thế nào, đơn giản vì quyết định được đưa ra trên cơ sở áp dụng các quy tắc một cách vô tư. Hoặc cách đối xử của cha mẹ đối với hai đứa con của mình có thể công bằng vì nó không biểu hiện một phần hay thiên vị, ngay cả khi kết quả là cuộc sống của một đứa trẻ sẽ tốt hơn nhiều so với những đứa trẻ khác.

Ngược lại, một cái gì đó thực sự công bằng tạo ra kết quả công bằng. Giả sử một trọng tài bóng đá thưởng một quả phạt nhẹ cho đội bị hạ xuống 1-0 vì cô ấy nghĩ rằng sự dẫn dắt của đội kia là kết quả của sự may mắn thuần túy. Kết quả là trận đấu kết thúc với tỷ số hòa 1-1. Quyết định này có vẻ không công bằng về mặt thủ tục - trọng tài áp dụng các quy tắc ít nghiêm ngặt hơn cho một đội so với đội kia. Nhưng nếu một trận hòa phản ánh hiệu suất tương đối của hai đội, nó có thể thực sự công bằng.

Ngoài ra, hãy tưởng tượng rằng một người mẹ và người cha ủng hộ những đứa trẻ khác nhau. Mỗi phụ huynh đối xử không công bằng với đứa trẻ bị biến dạng, theo nghĩa thủ tục. Nhưng nếu kết quả cuối cùng là hai đứa trẻ nhận được tình yêu ngang nhau, thì hành động của chúng có thể rất công bằng.

Có gì công bằng?

Các nhà nghiên cứu AI quan tâm đến sự công bằng, phần lớn, đã tập trung vào phát triển các thuật toán công bằng về mặt thủ tục - công bằng nhờ vào các tính năng của chính các thuật toán, chứ không phải các hiệu ứng triển khai của chúng. Nhưng nếu nó công bằng thực sự quan trọng thì sao?

Thường có một sự căng thẳng giữa tính công bằng và độ chính xác của thủ tục - các nỗ lực để đạt được các hình thức công bằng thủ tục thường được ủng hộ nhất làm tăng tỷ lệ lỗi chung của thuật toán. Lấy thuật toán COMPAS chẳng hạn. Nếu chúng ta cân bằng tỷ lệ dương tính giả giữa người da đen và người da trắng bằng cách bỏ qua các yếu tố dự đoán tái phạm có xu hướng bị người da đen chiếm hữu một cách không cân xứng, thì kết quả có thể sẽ là mất chính xác, với nhiều người dự đoán sai sẽ tái phạm hoặc không tái phạm.


Đọc thêm: Hồ sơ AI: các mối nguy hiểm xã hội và đạo đức của chính sách 'dự đoán'


Chúng ta có thể tránh những khó khăn này nếu chúng ta tập trung vào thực chất hơn là công bằng thủ tục và các thuật toán được thiết kế đơn giản để tối đa hóa độ chính xác, đồng thời chặn hoặc bù đắp cho bất kỳ tác động không công bằng nào mà các thuật toán này có thể có. Ví dụ, thay vì cố gắng đảm bảo rằng các lỗi dự đoán tội phạm ảnh hưởng đến các nhóm chủng tộc khác nhau - một mục tiêu trong mọi trường hợp có thể không đạt được - thay vào đó chúng tôi có thể đảm bảo rằng các thuật toán này không được sử dụng theo cách gây bất lợi cho những người có nguy cơ cao. Chúng tôi có thể cung cấp cho những người được coi là phương pháp điều trị phục hồi chức năng có nguy cơ cao của người Bỉ hơn là, nói rằng, khiến họ phải ngồi tù thêm.

Ngoài ra, chúng tôi có thể thực hiện các bước để bù đắp xu hướng thuật toán gán rủi ro cao hơn cho một số nhóm so với các nhóm khác - ví dụ, cung cấp các chương trình phục hồi giảm rủi ro cho người da đen.

Nhằm mục đích cho sự công bằng thực sự bên ngoài thiết kế của thuật toán sẽ giúp các nhà thiết kế thuật toán tự do tập trung vào tối đa hóa độ chính xác, với sự công bằng để lại cho các cơ quan quản lý nhà nước, với đầu vào chuyên nghiệp và dân chủ. Cách tiếp cận này đã thành công trong các lĩnh vực khác. Trong y học, ví dụ, các bác sĩ tập trung vào việc thúc đẩy sức khỏe của bệnh nhân của họ trong khi các nhà tài trợ y tế và các nhà hoạch định chính sách thúc đẩy việc phân bổ hợp lý các nguồn lực chăm sóc sức khỏe cho bệnh nhân.

Trong chất hoặc thủ tục

Tất nhiên, hầu hết chúng ta sẽ miễn cưỡng từ bỏ hoàn toàn sự công bằng về thủ tục. Nếu một trọng tài xử phạt mọi hành vi xâm phạm nhỏ của một đội, trong khi để người khác thoát khỏi những lỗi lớn, chúng tôi sẽ nghĩ có gì đó không ổn - ngay cả khi đội đúng sẽ thắng. Nếu một thẩm phán phớt lờ mọi điều mà bị đơn nói và chăm chú lắng nghe nguyên đơn, chúng tôi sẽ nghĩ rằng điều này là không công bằng, ngay cả khi bị đơn là một tỷ phú phản lực, ngay cả khi bị kết tội, sẽ tốt hơn nhiều so với một nguyên đơn xứng đáng hơn .

Chúng tôi quan tâm về sự công bằng thủ tục. Tuy nhiên, sự công bằng thực chất thường quan trọng hơn - ít nhất, nhiều người trong chúng ta có trực giác dường như phù hợp với điều này. Một số người trong chúng ta nghĩ rằng các tổng thống và quốc vương nên có quyền đưa ra ân xá cho những người phạm tội bị kết án, mặc dù điều này áp dụng các quy tắc pháp lý không nhất quán - để một số, nhưng không phải cho những người khác, thoát khỏi khó khăn. Tại sao nghĩ rằng điều này là hợp lý? Có lẽ bởi vì ân xá giúp đảm bảo sự công bằng thực sự trong đó các quy trình công bằng thủ tục dẫn đến hậu quả khắc nghiệt không công bằng.

Nhiều người trong chúng ta cũng nghĩ rằng hành động khẳng định là hợp lý, ngay cả khi nhìn, trên mặt của nó, là không công bằng về mặt thủ tục, vì nó đưa ra một số nhóm xem xét nhiều hơn những nhóm khác. Có lẽ chúng ta dung túng cho sự không công bằng này bởi vì, thông qua việc giảm thiểu tác động của sự áp bức trong quá khứ, hành động khẳng định có xu hướng thúc đẩy sự công bằng thực chất.

Nếu sự công bằng thực chất thường quan trọng hơn sự công bằng theo thủ tục, thì việc chống lại các thuật toán thiên vị thông qua các thay đổi đối với thiết kế thuật toán có thể không phải là con đường tốt nhất cho sự công bằng.