18
QUẢN LÝ RỦI RO AI
L
atanya Sweeney, giám đốc công nghệ của Ủy ban Thương mại Liên bang
Hoa Kỳ và hiện là giáo sư tại Đại học Harvard, đã rất ngạc nhiên khi một
đồng nghiệp tìm kiếm tên của mình trên Google để tìm một trong những
bài viết của bà và phát hiện một quảng cáo nói rằng bà đã bị bắt giam.
1
Sweeney bấm vào quảng cáo, trả một khoản phí và nhận ra điều mà bà đã
biết: bà chưa từng bao giờ bị bắt giam. Bị hấp dẫn, bà đã nhập tên đồng
nghiệp Adam Tanner và quảng cáo của cùng một công ty đã xuất hiện
nhưng không có gợi ý bị bắt giam. Sau khi tìm kiếm thêm, bà đã phát triển
giả thuyết rằng có thể những cái tên nghe giống như của người da đen đã
kích hoạt những quảng cáo bắt giam. Sweeney sau đó thử nghiệm thêm
điều này một cách có hệ thống hơn và nhận ra rằng nếu bạn tìm kiếm trên
Google một tên nghe có vẻ liên quan đến người da đen như Lakisha hoặc
Trevon, bạn có nhiều khả năng nhận được quảng cáo gợi ý bắt giam nhiều
hơn 25% so với nếu bạn tìm kiếm một cái tên như Jill hay Joshua.
2
Những thành kiến như vậy có khả năng gây tổn hại. Những người tìm kiếm
có thể đang tìm kiếm thông tin để xem ai đó có phù hợp với công việc hay
không. Nếu họ tìm thấy quảng cáo với tiêu đề như “Latanya Sweeney, bị
bắt giam?”, những người tìm kiếm có thể đặt ra một số nghi ngờ. Đó là sự
phân biệt đối xử vừa là sự phỉ báng.
Tại sao điều này lại xảy ra? Google cung cấp phần mềm cho phép các nhà
quảng cáo kiểm tra và nhắm mục tiêu vào các từ khóa cụ thể. Các nhà
quảng cáo có thể đã nhập những tên liên quan đến chủng tộc đặt cạnh
