Một báo cáo của Liên Hợp Quốc công bố ngày hôm nay đề xuất cơ quan quốc tế này sẽ giám sát nỗ lực toàn cầu đầu tiên nhằm theo dõi và quản lý trí tuệ nhân tạo .
Báo cáo do Cơ quan cố vấn cấp cao về AI của Tổng thư ký Liên hợp quốc lập ra, khuyến nghị thành lập một cơ quan tương tự như Ban liên chính phủ về biến đổi khí hậu để thu thập thông tin mới nhất về AI và các rủi ro của nó.
Báo cáo kêu gọi một cuộc đối thoại chính sách mới về AI để 193 thành viên của Liên hợp quốc có thể thảo luận về các rủi ro và thống nhất các hành động. Báo cáo cũng khuyến nghị rằng Liên hợp quốc nên thực hiện các bước để trao quyền cho các quốc gia nghèo hơn, đặc biệt là các quốc gia ở Nam bán cầu, để được hưởng lợi từ AI và đóng góp vào việc quản lý AI. Báo cáo cho biết, những điều này nên bao gồm, tạo ra một quỹ AI để hỗ trợ các dự án tại các quốc gia này, thiết lập các tiêu chuẩn AI và hệ thống chia sẻ dữ liệu, và tạo ra các nguồn lực như đào tạo để giúp các quốc gia quản lý AI. Một số khuyến nghị của báo cáo có thể được tạo điều kiện thuận lợi bởi Hiệp ước Kỹ thuật số Toàn cầu , một kế hoạch hiện có để giải quyết các khoảng cách kỹ thuật số và dữ liệu giữa các quốc gia. Cuối cùng, báo cáo đề xuất thành lập một văn phòng AI trong Liên hợp quốc chuyên điều phối các nỗ lực hiện có trong Liên hợp quốc để đáp ứng các mục tiêu của báo cáo.
Alondra Nelson , giáo sư tại Viện nghiên cứu nâng cao , từng làm việc tại cơ quan cố vấn của Liên hợp quốc theo khuyến nghị của Nhà Trắng và Bộ Ngoại giao, cho biết: "Chúng ta có một cộng đồng quốc tế đồng ý rằng AI vừa có tác hại, vừa có rủi ro cũng như có cơ hội".
Những khả năng đáng chú ý được chứng minh bởi các mô hình ngôn ngữ lớn và chatbot trong những năm gần đây đã làm dấy lên hy vọng về một cuộc cách mạng trong năng suất kinh tế nhưng cũng khiến một số chuyên gia cảnh báo rằng AI có thể đang phát triển quá nhanh và có thể sớm trở nên khó kiểm soát. Không lâu sau khi ChatGPT xuất hiện, nhiều nhà khoa học và doanh nhân đã ký một lá thư kêu gọi tạm dừng phát triển công nghệ này trong sáu tháng để có thể đánh giá các rủi ro.
Những lo ngại cấp bách hơn bao gồm khả năng AI tự động hóa thông tin sai lệch , tạo video và âm thanh deepfake , thay thế hàng loạt công nhân và làm trầm trọng thêm sự thiên vị thuật toán xã hội ở quy mô công nghiệp. Nelson cho biết: "Có một cảm giác cấp bách và mọi người cảm thấy chúng ta cần phải hợp tác".
Các đề xuất của Liên Hợp Quốc phản ánh sự quan tâm lớn của các nhà hoạch định chính sách trên toàn thế giới trong việc điều chỉnh AI để giảm thiểu những rủi ro này. Nhưng nó cũng xuất hiện khi các cường quốc lớn - đặc biệt là Hoa Kỳ và Trung Quốc - tranh giành để dẫn đầu trong một công nghệ hứa hẹn sẽ mang lại lợi ích kinh tế, khoa học và quân sự to lớn, và khi các quốc gia này Stake ra tầm nhìn riêng của họ về cách sử dụng và kiểm soát công nghệ này.
Vào tháng 3, Hoa Kỳ đã đưa ra một nghị quyết lên Liên Hợp Quốc kêu gọi các quốc gia thành viên chấp nhận phát triển “AI an toàn, bảo mật và đáng tin cậy”. Vào tháng 7, Trung Quốc đã đưa ra một nghị quyết của riêng mình , nhấn mạnh đến sự hợp tác trong việc phát triển AI và phổ biến công nghệ này rộng rãi. Tất cả các quốc gia thành viên Liên Hợp Quốc đã ký cả hai thỏa thuận.
Joshua Meltzer , một chuyên gia tại Viện Brookings, một nhóm nghiên cứu tại Washington, DC, cho biết: "AI là một phần của cuộc cạnh tranh giữa Hoa Kỳ và Trung Quốc, vì vậy chỉ có một số ít điều mà họ sẽ đồng ý". Ông cho biết, những khác biệt chính bao gồm các chuẩn mực và giá trị nào nên được AI thể hiện và các biện pháp bảo vệ xung quanh quyền riêng tư và dữ liệu cá nhân.
Sự khác biệt về quan điểm giữa các quốc gia giàu có về AI đã gây ra những rạn nứt trên thị trường. EU đã đưa ra các quy định toàn diện về AI với các biện pháp kiểm soát sử dụng dữ liệu khiến một số công ty Hoa Kỳ phải hạn chế khả năng cung cấp sản phẩm của họ tại đó.
Cách tiếp cận không can thiệp của chính phủ Hoa Kỳ đã khiến California đề xuất các quy tắc AI của riêng mình. Các phiên bản trước đó của các quy định này đã bị các công ty AI có trụ sở tại đó chỉ trích là quá nặng nề, ví dụ như cách họ yêu cầu các công ty báo cáo hoạt động của mình với chính phủ, dẫn đến các quy tắc bị làm loãng.
Meltzer nói thêm rằng AI đang phát triển với tốc độ nhanh đến mức Liên Hợp Quốc sẽ không thể quản lý hợp tác toàn cầu một mình. Ông cho biết: "Rõ ràng là Liên Hợp Quốc có vai trò quan trọng khi nói đến quản trị AI, nhưng nó cần phải là một phần của một loại kiến trúc phân tán", với các quốc gia riêng lẻ cũng đang trực tiếp làm việc trên đó. "Bạn có một công nghệ phát triển nhanh chóng và rõ ràng là Liên Hợp Quốc không được thành lập để xử lý điều đó".
Báo cáo của Liên Hợp Quốc tìm cách thiết lập nền tảng chung giữa các quốc gia thành viên bằng cách nhấn mạnh tầm quan trọng của quyền con người. Chris Russell , một giáo sư tại Đại học Oxford ở Anh, người nghiên cứu về quản trị AI quốc tế, cho biết: "Việc neo phân tích theo khía cạnh quyền con người là rất thuyết phục". "Nó cung cấp cho công trình một cơ sở vững chắc trong luật pháp quốc tế, một phạm vi rất rộng và tập trung vào những tác hại cụ thể khi chúng xảy ra với con người".
Russell nói thêm rằng có rất nhiều sự trùng lặp trong công việc mà các chính phủ đang thực hiện để đánh giá AI nhằm mục đích điều chỉnh. Ví dụ, chính phủ Hoa Kỳ và Anh có các cơ quan riêng biệt làm việc để thăm dò các mô hình AI về hành vi sai trái. Những nỗ lực của Liên hợp quốc có thể tránh được sự trùng lặp hơn nữa. Ông nói rằng "Làm việc quốc tế và tập hợp các nỗ lực của chúng tôi có rất nhiều ý nghĩa".
Mặc dù các chính phủ có thể coi AI là cách để đạt được lợi thế chiến lược, nhiều nhà khoa học lại có chung mối quan tâm về AI. Đầu tuần này, một nhóm học giả nổi tiếng từ phương Tây và Trung Quốc đã đưa ra lời kêu gọi chung về sự hợp tác nhiều hơn về an toàn AI sau một hội nghị về chủ đề này được tổ chức tại Vienna, Áo.
Nelson, thành viên của cơ quan cố vấn, cho biết bà tin rằng các nhà lãnh đạo chính phủ cũng có thể hợp tác với nhau trong các vấn đề quan trọng. Nhưng bà cho biết phần lớn sẽ phụ thuộc vào cách Liên hợp quốc và các quốc gia thành viên lựa chọn thực hiện kế hoạch hợp tác. Bà nói rằng "Ma quỷ sẽ nằm trong các chi tiết thực hiện".
