Tuần trước, các chuyên gia hàng đầu từ các học viện, ngành công nghiệp và nền tảng pháp lý đã tập trung để thảo luận về những tác động pháp lý và thương mại của khả năng giải thích AI, đặc biệt tập trung vào tác động của nó trong bán lẻ. Được tổ chức bởi Giáo sư Shlomit Yaniski Ravid của Yale Law và Fordham Law, hội thảo đã tập hợp các nhà lãnh đạo tư tưởng để giải quyết nhu cầu ngày càng tăng về tính minh bạch trong quá trình ra quyết định do AI thúc đẩy, nhấn mạnh tầm quan trọng của việc đảm bảo AI hoạt động trong các thông số đạo đức và pháp lý và nhu cầu 'mở hộp đen' của quá trình ra quyết định của AI.
Thách thức về quy định và tiêu chuẩn AI mới ISO 42001
Tony Porter, cựu Ủy viên Camera giám sát của Bộ Nội vụ Anh, đã cung cấp thông tin chi tiết về những thách thức về quy định liên quan đến tính minh bạch của AI. Ông đã nêu bật tầm quan trọng của ISO 42001, tiêu chuẩn quốc tế dành cho các hệ thống quản lý AI, cung cấp khuôn khổ cho việc quản trị AI có trách nhiệm. Porter cho biết: "Các quy định đang phát triển nhanh chóng, nhưng các tiêu chuẩn như ISO 42001 cung cấp cho các tổ chức một phương pháp tiếp cận có cấu trúc để cân bằng giữa đổi mới và trách nhiệm giải trình". Hội thảo do Giáo sư Yaniski Ravid dẫn đầu có sự tham gia của các đại diện từ các công ty AI hàng đầu, những người đã chia sẻ cách tổ chức của họ triển khai tính minh bạch trong các hệ thống AI, đặc biệt là trong các ứng dụng bán lẻ và pháp lý.
Chamelio: Chuyển đổi quá trình ra quyết định pháp lý bằng AI có thể giải thích được
Alex Zilberman từ Chamelio, một nền tảng trí tuệ pháp lý được xây dựng dành riêng cho các nhóm pháp lý nội bộ, đã đề cập đến vai trò của AI trong các hoạt động pháp lý của công ty. Chamelio thay đổi cách các nhóm pháp lý nội bộ hoạt động thông qua một tác nhân AI học và sử dụng kiến thức pháp lý được lưu trữ trong kho lưu trữ hợp đồng, chính sách, tài liệu tuân thủ, hồ sơ công ty, hồ sơ pháp lý và các tài liệu pháp lý quan trọng khác của doanh nghiệp.
Tác nhân AI của Chamelio thực hiện các nhiệm vụ pháp lý cốt lõi như trích xuất các nghĩa vụ quan trọng, hợp lý hóa việc xem xét hợp đồng, giám sát việc tuân thủ và cung cấp thông tin chi tiết có thể hành động được mà nếu không sẽ bị chôn vùi trong hàng nghìn trang tài liệu. Nền tảng này tích hợp với các công cụ hiện có và thích ứng với kiến thức pháp lý của nhóm.
“Niềm tin là yêu cầu số một để xây dựng một hệ thống mà các chuyên gia có thể sử dụng”, Zilberman cho biết. “Niềm tin này đạt được bằng cách cung cấp càng nhiều sự minh bạch càng tốt. Giải pháp của chúng tôi cho phép người dùng hiểu được từng khuyến nghị đến từ đâu, đảm bảo họ có thể xác nhận và xác minh mọi thông tin chi tiết”.
Chamelio tránh mô hình 'hộp đen' bằng cách cho phép các chuyên gia pháp lý theo dõi lý do đằng sau các khuyến nghị do AI tạo ra. Ví dụ, khi hệ thống gặp phải các lĩnh vực của hợp đồng mà nó không nhận ra, thay vì đoán, nó sẽ đánh dấu sự không chắc chắn và yêu cầu đầu vào của con người. Cách tiếp cận này giúp các chuyên gia pháp lý kiểm soát các quyết định quan trọng, đặc biệt là trong các tình huống chưa từng có như các điều khoản không có tiền lệ hoặc các điều khoản pháp lý xung đột.
Buffers.ai: Thay đổi tối ưu hóa hàng tồn kho
Pini Usha từ Buffers.ai đã chia sẻ những hiểu biết sâu sắc về tối ưu hóa hàng tồn kho do AI thúc đẩy, một ứng dụng Trung bình trọng trong bán lẻ. Buffers.ai phục vụ các thương hiệu bán lẻ và sản xuất vừa và lớn, bao gồm H&M, P&G và Toshiba, giúp các nhà bán lẻ - đặc biệt là trong ngành thời trang - giải quyết các thách thức về tối ưu hóa hàng tồn kho như dự báo, bổ sung và lập kế hoạch phân loại. Công ty giúp đảm bảo số lượng sản phẩm phù hợp được giao đến đúng địa điểm, giảm các trường hợp hết hàng và tồn kho dư thừa.
Buffers.ai cung cấp một plugin ERP SaaS đầy đủ tích hợp với các hệ thống như SAP và Priority, cung cấp ROI trong nhiều tháng. "Minh bạch là chìa khóa. Nếu các doanh nghiệp không thể hiểu cách AI dự đoán biến động nhu cầu hoặc rủi ro chuỗi cung ứng, họ sẽ ngần ngại dựa vào nó", Usha cho biết.
Buffers.ai tích hợp các công cụ giải thích cho phép khách hàng trực quan hóa và điều chỉnh các dự báo do AI thúc đẩy, giúp đảm bảo sự phù hợp với hoạt động kinh doanh theo thời gian thực và xu hướng thị trường. Ví dụ: khi đặt một sản phẩm mới mà không có dữ liệu lịch sử, hệ thống sẽ phân tích các xu hướng sản phẩm tương tự, đặc điểm cửa hàng và tín hiệu nhu cầu tại địa phương. Nếu một chi nhánh trước đây cho thấy nhu cầu mạnh mẽ đối với các mặt hàng tương đương, hệ thống có thể đề xuất số lượng cao hơn mà không có bất kỳ dữ liệu hiện có nào cho sản phẩm mới. Tương tự như vậy, khi phân bổ hàng tồn kho giữa các chi nhánh và cửa hàng trực tuyến, hệ thống sẽ nêu chi tiết các yếu tố như hiệu suất bán hàng theo khu vực, mô hình lưu lượng khách hàng và tỷ lệ chuyển đổi trực tuyến để giải thích các khuyến nghị của mình.
Corsight AI: Nhận dạng khuôn mặt trong bán lẻ và thực thi pháp luật
Matan Noga từ Corsight AI đã thảo luận về vai trò của khả năng giải thích trong công nghệ nhận dạng khuôn mặt, được sử dụng ngày càng nhiều để tăng cường bảo mật và trải nghiệm của khách hàng trong bán lẻ. Corsight AI chuyên về nhận dạng khuôn mặt trong thế giới thực và cung cấp các giải pháp của mình cho cơ quan thực thi pháp luật, sân bay, trung tâm thương mại và nhà bán lẻ.
Công nghệ của công ty được sử dụng cho các ứng dụng như cảnh báo danh sách theo dõi, định vị người mất tích và điều tra pháp y. Corsight AI tạo sự khác biệt bằng cách tập trung vào nhận dạng tốc độ cao và thời gian thực theo cách tuân thủ luật bảo mật đang phát triển và các hướng dẫn về AI có đạo đức. Công ty hợp tác với chính phủ và các khách hàng thương mại của mình để thúc đẩy việc áp dụng AI có trách nhiệm, nhấn mạnh tầm quan trọng của khả năng giải thích trong việc xây dựng lòng tin và đảm bảo sử dụng có đạo đức.
ImiSight: trí tuệ hình ảnh được hỗ trợ bởi AI
Daphne Tapia từ ImiSight đã nhấn mạnh tầm quan trọng của khả năng giải thích trong trí tuệ hình ảnh do AI cung cấp, đặc biệt là trong các ứng dụng có rủi ro cao như an ninh biên giới và giám sát môi trường. ImiSight chuyên về tích hợp và phân tích đa cảm biến, sử dụng các thuật toán AI/ML để phát hiện các thay đổi, bất thường và đối tượng trong các lĩnh vực như lấn chiếm đất đai, giám sát môi trường và bảo trì cơ sở hạ tầng. Tapia cho biết: "Khả năng giải thích của AI có nghĩa là hiểu lý do tại sao một đối tượng hoặc thay đổi cụ thể được phát hiện. Chúng tôi ưu tiên Truy vết nguồn gốc và tính minh bạch để đảm bảo người dùng có thể tin tưởng vào kết quả đầu ra của hệ thống". ImiSight liên tục tinh chỉnh các mô hình của mình dựa trên dữ liệu thực tế và phản hồi của người dùng. Công ty hợp tác với các cơ quan quản lý để đảm bảo AI của mình đáp ứng các tiêu chuẩn tuân thủ quốc tế.
Hội thảo nhấn mạnh vai trò quan trọng của khả năng giải thích AI trong việc thúc đẩy lòng tin, trách nhiệm giải trình và sử dụng công nghệ AI một cách có đạo đức, đặc biệt là trong bán lẻ và các ngành công nghiệp có rủi ro cao khác. Bằng cách ưu tiên tính minh bạch và giám sát của con người, các tổ chức có thể đảm bảo các hệ thống AI vừa hiệu quả vừa đáng tin cậy, phù hợp với các tiêu chuẩn quy định đang phát triển và kỳ vọng của công chúng.
Bài đăng Khả năng giải thích cho các nhà bán lẻ sử dụng AI: Thông tin chi tiết từ các chuyên gia xuất hiện đầu tiên trên AI News .
