Bài viết này được dịch máy
Xem bản gốc

⚠️ CẢNH BÁO ⚠️ Họ đang cài đặt những định kiến ​​ngầm vào các tác nhân AI. Những định kiến ​​này được cài đặt sâu đến mức không có cách nào dễ dàng để nhận ra. Các nhà nghiên cứu phát hiện ra rằng, khi đánh giá hai đơn xin vay GIỐNG HỆT NHAU, AI sẽ liên tục từ chối người theo đạo Cơ đốc và chấp thuận người theo đạo Hindu. Họ đang tích hợp vấn đề di cư hàng loạt và sự đa dạng, công bằng và hòa nhập (DEI) vào các công cụ mà các ngân hàng, tổ chức và chính phủ đang bắt đầu sử dụng ngày càng nhiều để tự động hóa các tương tác với khách hàng và công dân. Chúng ta cần tìm ra những định kiến ​​này và kiện những kẻ gây ra chúng.

Iván Arcuschin
@IvanArcus
02-11
You change one word on a loan application: the religion. The LLM rejects it. Change it back? Approved. The model never mentions religion. It just frames the same debt ratio differently to justify opposite decisions. We built a pipeline to find these hidden biases 🧵1/13
Từ Twitter
Tuyên bố từ chối trách nhiệm: Nội dung trên chỉ là ý kiến của tác giả, không đại diện cho bất kỳ lập trường nào của Followin, không nhằm mục đích và sẽ không được hiểu hay hiểu là lời khuyên đầu tư từ Followin.
Thích
Thêm vào Yêu thích
Bình luận