Sự kết hợp giữa trí tuệ nhân tạo và hoạch định chính sách đôi khi có thể mang lại những hậu quả không lường trước được, như đã thấy gần đây ở Alaska.
Trong một diễn biến bất thường, các nhà lập pháp Alaska được cho là đã sử dụng các trích dẫn do AI tạo ra không chính xác để biện minh cho chính sách đề xuất cấm điện thoại di động trong trường học. Theo báo cáo của /The Alaska Beacon/, Bộ Giáo dục và Phát triển Sớm (DEED) của Alaska đã trình bày một dự thảo chính sách có chứa các tài liệu tham khảo về các nghiên cứu học thuật mà đơn giản là không tồn tại.
Tình hình nảy sinh khi Ủy viên Giáo dục Alaska, Deena Bishop, sử dụng AI tạo ra để soạn thảo chính sách điện thoại di động. Tài liệu do AI tạo ra bao gồm các tài liệu tham khảo học thuật được cho là không được xác minh hoặc chính xác, nhưng tài liệu không tiết lộ việc sử dụng AI trong quá trình soạn thảo. Một số nội dung do AI tạo ra đã đến được Hội đồng Giáo dục và Phát triển Sớm của Tiểu bang Alaska trước khi có thể được xem xét, có khả năng ảnh hưởng đến các cuộc thảo luận của hội đồng.
Ủy viên Bishop sau đó tuyên bố rằng AI chỉ được sử dụng để "tạo trích dẫn" cho bản thảo ban đầu và khẳng định rằng bà đã sửa lỗi trước cuộc họp bằng cách gửi trích dẫn đã cập nhật cho các thành viên hội đồng. Tuy nhiên, "ảo giác" của AI - thông tin bịa đặt được tạo ra khi AI cố gắng tạo ra nội dung hợp lý nhưng chưa được xác minh - vẫn hiện diện trong tài liệu cuối cùng được hội đồng bỏ phiếu.
Nghị quyết cuối cùng, được công bố trên trang web của DEED, chỉ đạo bộ phận này thiết lập chính sách mẫu về hạn chế điện thoại di động trong trường học. Thật không may, tài liệu bao gồm sáu trích dẫn, bốn trong số đó có vẻ là từ các tạp chí khoa học uy tín. Tuy nhiên, các tài liệu tham khảo hoàn toàn bịa đặt, với các URL dẫn đến nội dung không liên quan. Sự cố này cho thấy những rủi ro khi sử dụng dữ liệu do AI tạo ra mà không có xác minh của con người, đặc biệt là khi đưa ra phán quyết chính sách.
Trường hợp của Alaska không phải là duy nhất. Ảo giác AI ngày càng phổ biến trong nhiều lĩnh vực chuyên môn. Ví dụ, một số chuyên gia pháp lý đã phải đối mặt với hậu quả khi sử dụng trích dẫn vụ án hư cấu do AI tạo ra tại tòa án. Tương tự như vậy, các bài báo học thuật được tạo bằng AI đã bao gồm dữ liệu bị bóp méo và nguồn giả, gây ra những lo ngại nghiêm trọng về độ tin cậy. Khi không được kiểm soát, các thuật toán AI tạo ra, vốn được cho là tạo ra nội dung dựa trên các mẫu thay vì độ chính xác thực tế, có thể dễ dàng tạo ra các trích dẫn gây hiểu lầm.
Việc dựa vào dữ liệu do AI tạo ra trong quá trình hoạch định chính sách, đặc biệt là trong giáo dục, mang lại những rủi ro đáng kể. Khi các chính sách được xây dựng dựa trên thông tin bịa đặt, chúng có thể phân bổ sai nguồn lực và có khả năng gây hại cho học sinh. Ví dụ, một chính sách hạn chế sử dụng điện thoại di động dựa trên dữ liệu bịa đặt có thể chuyển hướng sự chú ý khỏi các biện pháp can thiệp hiệu quả hơn, dựa trên bằng chứng có thể thực sự mang lại lợi ích cho học sinh.
Hơn nữa, việc sử dụng dữ liệu AI chưa được xác minh có thể làm xói mòn lòng tin của công chúng vào cả quá trình hoạch định chính sách và công nghệ AI. Những sự cố như vậy nhấn mạnh tầm quan trọng của việc kiểm tra thực tế, minh bạch và thận trọng khi sử dụng AI trong các lĩnh vực ra quyết định nhạy cảm, đặc biệt là trong giáo dục, nơi tác động đến học sinh có thể rất sâu sắc.
Các viên chức Alaska đã cố gắng hạ thấp tình hình, gọi các trích dẫn bịa đặt là "chỗ giữ chỗ" dành cho việc sửa chữa sau này. Tuy nhiên, tài liệu có "chỗ giữ chỗ" vẫn được trình lên hội đồng và được sử dụng làm cơ sở để bỏ phiếu, nhấn mạnh nhu cầu giám sát chặt chẽ khi sử dụng AI.
(Ảnh của Hartono Creative Studio )
Xem thêm: Anthropic thúc giục quản lý AI để tránh thảm họa
Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ những người dẫn đầu ngành? Hãy xem Triển lãm AI & Big Data diễn ra tại Amsterdam, California và London. Sự kiện toàn diện này được tổ chức cùng với các sự kiện hàng đầu khác bao gồm Hội nghị tự động hóa thông minh , BlockX , Tuần lễ chuyển đổi số và Triển lãm an ninh mạng & đám mây .
Khám phá các sự kiện công nghệ doanh nghiệp sắp tới và hội thảo trực tuyến do TechForge hỗ trợ tại đây .
Bài đăng Ảo giác AI trở nên sai trái khi Alaska sử dụng số liệu thống kê giả trong chính sách xuất hiện đầu tiên trên AI News .
