Nhằm nâng cao độ chính xác của hệ thống máy học, những thông tin "nhạy cảm" như giới tính, chủng tộc của người dùng sẽ được sử dụng cho máy học. Điều này được củng cố bởi niềm tin rằng càng nhiều dữ liệu thì AI càng thông minh và AI có thể tự động điều tiết, hiểu được các đặc trưng mà không cần sự can thiệp của con người. Từ đó vô hình trung làm cho AI thiên vị một đặc tính nào đó của người dùng và làm trầm trọng hơn sự thiên lệch trong AI. Thử tưởng tượng hệ thống AI luôn đánh giá thấp khả năng trả nợ của những nhóm dễ bị tổn thương như người vô gia cư, người khuyết tật thì làm sao họ có thể tiếp cận được những cơ hội để thay đổi cuộc đời?đá banh asiad