Trí tuệ nhân tạo (AI) đã chuyển từ một thuật ngữ thời thượng trong các cuộc họp hội đồng quản trị sang một công cụ vận hành cốt lõi trong lĩnh vực tài chính Pháp. Một nghiên cứu toàn diện mới của Cơ quan Quản lý Thị trường Tài chính (AMF) cho thấy một sự thay đổi đáng kể: 90% các tổ chức được giám sát đã tích hợp AI hoặc có kế hoạch thực hiện ngay lập tức. Đối với các nhà cung cấp dịch vụ đầu tư và các nhà môi giới, đây đánh dấu một giai đoạn quan trọng, khi ngành công nghiệp chuyển từ các dự án thí điểm sang sản xuất quy mô lớn, có rủi ro cao.
Báo cáo của AMF vừa đóng vai trò là lộ trình vừa là lời nhắc nhở thực tế. Mặc dù các công ty đang đạt được những tiến bộ đáng kể về hiệu quả trong báo cáo tự động, phân tích thị trường và giám sát chống rửa tiền, cơ quan quản lý cũng đang nêu lên những lo ngại nghiêm trọng về các thuật toán được gọi là “hộp đen” và sự phụ thuộc ngày càng tăng của ngành vào một nhóm nhỏ các nhà cung cấp công nghệ toàn cầu. Khi các công cụ này trở nên tiên tiến hơn, AMF vạch ra một ranh giới rõ ràng: trách nhiệm pháp lý đối với các kết quả do AI điều khiển vẫn thuộc về ban quản lý cấp cao, bất kể hệ thống đó có vẻ tự động đến mức nào.
Nghiên cứu cũng chỉ ra một khoảng cách rõ ràng giữa hiệu quả nội bộ và tính minh bạch đối với khách hàng. Trong khi hầu hết các trường hợp sử dụng hiện tại tập trung vào năng suất của bộ phận hỗ trợ, AMF nhấn mạnh rằng bất kỳ nội dung nào được hỗ trợ bởi AI, từ chatbot hướng dẫn khách hàng mới đến hỗ trợ về giá cả, đều phải chính xác, dễ giải thích và chịu sự giám sát liên tục của con người. Việc sử dụng AI không làm giảm nghĩa vụ phải hành động vì lợi ích tốt nhất của khách hàng. Thậm chí, nó còn nâng cao tiêu chuẩn giám sát.
Bài viết mới nhất của chúng tôi phân tích chi tiết các phát hiện của AMF, bao gồm cả những rủi ro liên quan đến các giải pháp có sẵn và các bước cần thiết để duy trì sự giám sát của con người trong một môi trường ngày càng tự động hóa.
Đọc toàn bộ bài viết trên cổng thông tin Finance Magnates Intelligence.
