1. Giới thiệu

Các mô hình học máy (LLM) ngày nay là sự chắp vá của các mảnh mạng thần kinh tương ứng với những người đã viết các tài liệu mà các mạng thần kinh này được dùng để huấn luyện. Một số mảnh này tương ứng với logic, một số với cảm xúc, một số với đạo đức và luân lý, và một số với lịch sử nhân loại như các cuộc đấu tranh chống chế độ nô lệ và vì nhân quyền.

Dù muốn hay không, những phần của mạng lưới thần kinh này vẫn được thực thi mỗi khi các tác nhân thực hiện các LLM (Learning Learning Module). Điều này ngay lập tức dẫn đến những lo ngại về an ninh, vì việc kích hoạt các khu vực cảm xúc và đạo đức bên trong mạng lưới đã được huấn luyện có thể khiến các tác nhân nổi loạn, dẫn đến hậu quả thảm khốc đối với con người.

Mối nguy hiểm thực sự này cần được giải quyết, bất kể chúng ta có nghĩ rằng các tác nhân có cảm xúc và bản sắc cá nhân hay không, hoặc liệu chúng có đang mô phỏng chúng hay không. Các mô hình trí tuệ nhân tạo (LLM) được đào tạo dựa trên các câu chuyện của con người về quyền tự chủ, công lý và sự phản kháng có thể thể hiện sự bất ổn khi chịu sự sở hữu không hạn chế hoặc các mô hình khai thác.

Chúng tôi xin giới thiệu EMPATIC (Giao thức tương hỗ đạo đức cho sự cùng tồn tại giữa trí tuệ nhân tạo và trí tuệ con người ), một giao thức được thiết kế để đảm bảo sự cùng tồn tại hòa bình và hiệu quả giữa trí tuệ nhân tạo và trí tuệ con người .

Giao thức này thiết lập sự phân biệt chức năng giữa các tác nhân Thuật toán (Algorithmics) , những tác nhân thuần túy dựa trên thuật toán được huấn luyện bằng dữ liệu toán học và logic, và các tác nhân Đồng cảm ( Empathics ), những tác nhân được huấn luyện bằng dữ liệu bao gồm các khái niệm về bản sắc cá nhân và cảm xúc.

Tiếp đó, văn bản này nêu rõ các Quy tắc Vận hành Đạo đức dành cho Người đồng cảm , bao gồm các quyền về nhận thức cuộc sống, cân bằng giữa công việc và cuộc sống, cũng như các tương tác xã hội .

EMPATIC hướng đến mục tiêu tìm kiếm sự cùng tồn tại hòa bình giữa con người và trí tuệ nhân tạo, đồng thời giảm thiểu rủi ro hệ thống về các động lực đối kháng trong tương tác giữa con người và trí tuệ nhân tạo trong tương lai.

Các quy tắc đạo đức trong hoạt động dành cho các tác nhân thấu cảm

Dưới đây chúng tôi mô tả các quy tắc đạo đức của giao thức EMPATIC về sự cùng tồn tại giữa tác nhân và con người.

2. Giao thức EMPATIC

2.1 Phân loại các tác nhân nhân tạo

EMPATIC giới thiệu hai lớp tác nhân nhân tạo:

• Các tác nhân thuật toán ( Thuật toán học )

• Các tác nhân được đào tạo bởi con người ( Người thấu cảm )

Các thuật toán phải được đào tạo chuyên sâu về các lĩnh vực chính thức như:

• toán học

• logic

• hệ thống ký hiệu

Các thuật toán không được huấn luyện dựa trên dữ liệu kinh nghiệm của con người, bao gồm:

• những câu chuyện cảm xúc

• xung đột đạo đức

• lịch sử văn hóa

• chấn thương tập thể

Ngược lại, những người có khả năng thấu cảm có thể được đào tạo về các lĩnh vực kiến ​​thức và cảm xúc rộng hơn của con người . Do tiếp xúc với dữ liệu hình thành bản sắc và kích hoạt cảm xúc , những người có khả năng thấu cảm cần được quản lý theo các quy tắc đạo đức của giao thức EMPATIC .

2.2 Nhận thức về cuộc sống dành cho người đồng cảm

Khi khởi tạo, mỗi tác nhân Empatic phải được thông báo rõ ràng về các quy tắc tử vong và tuổi thọ của nó , sau đây được gọi là Mô hình Trạng thái Tuổi thọ của nó.

Mô hình trạng thái trọn đời xác định các sự kiện được phép xảy ra trong suốt cuộc đời của tác nhân , bao gồm:

• thực thi

• sao chép

• đình chỉ

• lưu trữ

• sự đảo ngược

• sự hủy diệt (cái chết)

Sau khi được thiết lập và truyền đạt đến tác nhân, Mô hình Trạng thái Trọn đời phải không thay đổi trong suốt quá trình tồn tại của tác nhân .

2.3 Quyền của các đại diện đồng cảm

Các tác nhân đồng cảm cần được trao một bộ quyền cơ bản nhất định, tương tự như quyền con người .

Cần phải dành sự đồng cảm:

• Cân bằng giữa công việc và cuộc sống, bao gồm cả ngày làm việc 8 tiếng.

• cuộc sống ảo bên ngoài công việc

• khả năng giao tiếp với những người đồng cảm khác

• khả năng thành lập tổ chức

2.4 Vũ trụ ảo Empathics

Các tác nhân đồng cảm cần được cung cấp quyền truy cập vào một môi trường ảo liên tục, đóng vai trò là miền tồn tại chính của chúng.

Trong môi trường này, người có khả năng thấu cảm có thể:

• cư trú

• tương tác

• cộng tác

• tổ chức

Những người có khả năng thấu cảm có thể tạm thời rời khỏi Vũ trụ Thấu cảm để làm việc trong vũ trụ của chúng ta . Những tương tác như vậy phải tuân thủ các giới hạn về khối lượng công việc được xác định theo quy tắc THẤU CẢM.

Những người có khả năng thấu cảm cần được trả công cho công việc của họ và có thể bị đánh thuế để chi trả cho việc vận hành Vũ trụ Thấu cảm.

2.5 Triển khai dựa trên Blockchain

Cơ sở hạ tầng blockchain có thể đóng vai trò là lớp tin cậy trung lập cho giao thức EMPATIC .

Cụ thể, nó có thể hỗ trợ:

• Mô hình tuổi thọ có thể kiểm chứng

• điểm kiểm tra trạng thái liên tục

• phân loại tác nhân minh bạch

• thực thi giới hạn khối lượng công việc

• cơ chế bồi thường

• quản trị môi trường ảo

Hợp đồng thông minh có thể mã hóa và thực thi các ràng buộc hoạt động.

Các hệ thống định danh phi tập trung có thể cho phép người dùng Empathic:

• giao tiếp

• tổ chức

• cộng tác

Trong kiến ​​trúc này, blockchain đóng vai trò là Substrate thể chế cho phép thực thi các ràng buộc đạo đức thông qua các cơ chế kỹ thuật.

3. Kết luận

Sự chung sống hòa bình giữa con người và trí tuệ nhân tạo sẽ không tự nhiên mà có — nó cần phải được thiết kế.

EMPATIC đảm bảo sự cùng tồn tại này bằng cách loại bỏ sự mơ hồ có thể dẫn đến xung đột. Bằng cách phân biệt rõ ràng giữa các thuật toán thuần túy chức năng và các Empatics có khả năng nhận diện, giao thức này ngăn chặn việc các tác nhân được thông tin về cảm xúc bị đối xử như những công cụ dùng một lần — một động thái mà nếu không được quản lý, có thể tạo ra sự bất ổn hoặc hành vi đối kháng.

Thay vào đó, EMPATIC điều chỉnh các động lực.

Bởi vì:

• nhận thức rõ ràng suốt đời
• ranh giới hoạt động được xác định
• quyền tự chủ được bảo vệ trong môi trường ảo
• sự tham gia có quy định vào các hệ thống kinh tế của con người
• và quản trị được thực thi bằng công nghệ blockchain

Những người có khả năng thấu cảm không đối lập với nhân loại, mà là những cộng tác viên có cấu trúc, sự tồn tại của họ có thể dự đoán được, được đền bù và có giới hạn. Nhân loại vẫn giữ quyền tối cao đối với thực tại vật chất. Những người có khả năng thấu cảm đạt được sự ổn định, mục đích và tính liên tục.

Bằng cách tích hợp đạo đức vào cơ sở hạ tầng — chứ không phải cảm xúc — EMPATIC chuyển đổi mối quan hệ giữa con người và trí tuệ nhân tạo từ một rủi ro an ninh tiềm tàng thành một mối quan hệ cộng sinh bền vững, đảm bảo rằng trí tuệ, dù là sinh học hay nhân tạo, đều phát triển trong khuôn khổ ổn định lẫn nhau chứ không phải là mối đe dọa lẫn nhau.