Margaret Mitchell là một nhà tiên phong khi nói đến việc kiểm tra các công cụ AI sinh thành để tìm thiên kiến. Cô đã thành lập nhóm Đạo đức AI tại Google, cùng với một nhà nghiên cứu nổi tiếng khác, Timnit Gebru, trước khi sau đó cả hai bị sa thải khỏi công ty. Hiện tại, cô làm việc như là nhà lãnh đạo về đạo đức AI tại Hugging Face, một startup phần mềm tập trung vào các công cụ mã nguồn mở.
Chúng tôi đã nói về bộ dữ liệu mới mà cô đã giúp tạo ra để kiểm tra cách các mô hình AI tiếp tục duy trì các định kiến. Không giống như hầu hết các nỗ lực giảm thiên kiến ưu tiên tiếng Anh, bộ dữ liệu này có thể thay đổi, với các bản dịch của con người để kiểm tra phạm vi rộng hơn của các ngôn ngữ và văn hóa. Bạn có lẽ đã biết rằng AI thường trình bày một góc nhìn phẳng về con người, nhưng bạn có thể không nhận ra làm thế nào những vấn đề này có thể trở nên cực đoan hơn khi các kết quả không còn được tạo ra bằng tiếng Anh.
Cuộc trò chuyện của tôi với Mitchell đã được chỉnh sửa về độ dài và tính rõ ràng.
Reece Rogers: Bộ dữ liệu mới này, được gọi là SHADES, được thiết kế để làm gì, và nó được hình thành như thế nào?
Margaret Mitchell: Nó được thiết kế để hỗ trợ đánh giá và phân tích, xuất phát từ dự án BigScience. Cách đây khoảng bốn năm, đã có một nỗ lực quốc tế lớn, nơi các nhà nghiên cứu từ khắp nơi trên thế giới đã cùng nhau đào tạo mô hình ngôn ngữ lớn đầu tiên có tính mở. Bằng "mở hoàn toàn", tôi muốn nói dữ liệu đào tạo cũng như mô hình đều mở.
Hugging Face đã đóng vai trò then chốt trong việc duy trì tiến trình và cung cấp các thứ như tính toán. Các tổ chức trên toàn thế giới đã trả tiền cho mọi người trong khi họ làm việc trên các phần của dự án này. Mô hình mà chúng tôi đưa ra được gọi là Bloom, và đó thực sự là bình minh của ý tưởng "khoa học mở".
[Phần còn lại của bản dịch tương tự, giữ nguyên các thẻ HTML và dịch nội dung sang tiếng Việt]
