OpenAI đang trao khoản tài trợ 1 triệu đô la cho nhóm nghiên cứu của Đại học Duke để xem xét cách AI có thể dự đoán các phán đoán đạo đức của con người.
Sáng kiến này nhấn mạnh sự tập trung ngày càng tăng vào mối giao thoa giữa công nghệ và đạo đức, đồng thời đặt ra những câu hỏi quan trọng: Liệu AI có thể xử lý được sự phức tạp của đạo đức hay không, hay các quyết định về đạo đức vẫn nên là phạm vi của con người?
Phòng thí nghiệm về thái độ và quyết định đạo đức (MADLAB) của Đại học Duke, do giáo sư đạo đức Walter Sinnott-Armstrong và đồng điều tra viên Jana Schaich Borg đứng đầu, phụ trách dự án “Making Moral AI”. Nhóm nghiên cứu hình dung ra một “GPS đạo đức”, một công cụ có thể hướng dẫn việc ra quyết định có đạo đức.
Nghiên cứu của trường trải dài trên nhiều lĩnh vực, bao gồm khoa học máy tính, triết học, tâm lý học và khoa học thần kinh, nhằm hiểu cách hình thành thái độ và quyết định đạo đức cũng như cách AI có thể đóng góp vào quá trình này.
Vai trò của AI trong đạo đức
Công trình của MADLAB xem xét cách AI có thể dự đoán hoặc ảnh hưởng đến các phán đoán đạo đức. Hãy tưởng tượng một thuật toán đánh giá các tình huống khó xử về mặt đạo đức, chẳng hạn như quyết định giữa hai kết quả bất lợi trong xe tự hành hoặc cung cấp hướng dẫn về các hoạt động kinh doanh có đạo đức. Các kịch bản như vậy nhấn mạnh tiềm năng của AI nhưng cũng đặt ra những câu hỏi cơ bản: Ai xác định khuôn khổ đạo đức hướng dẫn các loại công cụ này và liệu AI có đáng tin cậy để đưa ra quyết định có hàm ý về mặt đạo đức không?
Tầm nhìn của OpenAI
Khoản tài trợ này hỗ trợ việc phát triển các thuật toán dự báo các phán đoán đạo đức của con người trong các lĩnh vực như y tế, luật pháp và kinh doanh, thường liên quan đến các đánh đổi đạo đức phức tạp. Mặc dù đầy hứa hẹn, AI vẫn phải vật lộn để nắm bắt được các sắc thái cảm xúc và văn hóa của đạo đức. Các hệ thống hiện tại rất giỏi trong việc nhận ra các mô hình nhưng lại thiếu sự hiểu biết sâu sắc hơn cần thiết cho lý luận đạo đức.
Một mối quan tâm khác là công nghệ này có thể được áp dụng như thế nào. Trong khi AI có thể hỗ trợ trong các quyết định cứu sống, việc sử dụng AI trong các chiến lược phòng thủ hoặc giám sát lại gây ra những tình huống khó xử về mặt đạo đức. Liệu các hành động phi đạo đức của AI có thể được biện minh nếu chúng phục vụ lợi ích quốc gia hoặc phù hợp với các mục tiêu của xã hội? Những câu hỏi này nhấn mạnh đến những khó khăn trong việc đưa đạo đức vào các hệ thống AI.
Thách thức và cơ hội
Việc tích hợp đạo đức vào AI là một thách thức to lớn đòi hỏi sự hợp tác giữa các ngành. Đạo đức không phải là phổ quát; nó được định hình bởi các giá trị văn hóa, cá nhân và xã hội, khiến việc mã hóa thành các thuật toán trở nên khó khăn. Ngoài ra, nếu không có các biện pháp bảo vệ như minh bạch và trách nhiệm giải trình, sẽ có nguy cơ duy trì sự thiên vị hoặc cho phép các ứng dụng có hại.
Khoản đầu tư của OpenAI vào nghiên cứu của Duke đánh dấu bước tiến tới việc hiểu vai trò của AI trong việc ra quyết định có đạo đức. Tuy nhiên, hành trình này còn lâu mới kết thúc. Các nhà phát triển và nhà hoạch định chính sách phải cùng nhau làm việc để đảm bảo rằng các công cụ AI phù hợp với các giá trị xã hội, đồng thời nhấn mạnh tính công bằng và tính bao trùm trong khi giải quyết các thành kiến và hậu quả không mong muốn.
Khi AI trở nên không thể thiếu trong quá trình ra quyết định, những hàm ý về mặt đạo đức của nó đòi hỏi sự chú ý. Các dự án như “Making Moral AI” cung cấp điểm khởi đầu để điều hướng bối cảnh phức tạp, cân bằng giữa đổi mới với trách nhiệm để định hình tương lai nơi công nghệ phục vụ cho lợi ích lớn hơn.
(Ảnh của Unsplash )
Xem thêm: Quản trị AI: Phân tích các quy định toàn cầu mới nổi
Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ những người dẫn đầu ngành? Hãy xem Triển lãm AI & Big Data diễn ra tại Amsterdam, California và London. Sự kiện toàn diện này được tổ chức cùng với các sự kiện hàng đầu khác bao gồm Hội nghị tự động hóa thông minh , BlockX , Tuần lễ chuyển đổi số và Triển lãm an ninh mạng & đám mây .
Khám phá các sự kiện công nghệ doanh nghiệp sắp tới và hội thảo trực tuyến do TechForge hỗ trợ tại đây .
Bài đăng OpenAI tài trợ 1 triệu đô la cho nghiên cứu về AI và đạo đức tại Đại học Duke xuất hiện đầu tiên trên AI News .