Năm 1997, Deep Blue của IBM đã đánh bại Nhà vô địch thế giới Garry Kasparov trong một trận đấu cờ vua, và rõ ràng là các công cụ cờ vua máy tính sẽ sớm vượt qua con người. Điều thú vị là một con người được chuẩn bị kỹ lưỡng làm việc cùng với một máy tính—một sự sắp xếp thường được gọi là " centaur "—có thể vượt trội hơn các công cụ mạnh nhất của thời đại đó.
Trực giác của con người có thể hướng dẫn tìm kiếm của công cụ, điều hướng các trò chơi trung gian phức tạp và nhận ra những sắc thái mà các công cụ tiêu chuẩn bỏ qua. Kết hợp với tính toán thô bạo của máy tính, cặp đôi này thường dẫn đến các quyết định thực tế tốt hơn so với chỉ sử dụng máy tính.
Khi tôi nghĩ về các hệ thống AI tác động đến thị trường lao động và nền kinh tế trong vài năm tới, tôi mong đợi sẽ thấy một mô hình tương tự xuất hiện. Các hệ thống tác nhân sẽ giải phóng vô số đơn vị trí tuệ về các vấn đề chưa được giải quyết trên thế giới, nhưng chúng sẽ không thể làm được điều này nếu không có sự hướng dẫn và hỗ trợ mạnh mẽ từ con người. Con người sẽ hướng dẫn không gian tìm kiếm và giúp đặt câu hỏi đúng, cho phép AI làm việc hướng tới câu trả lời.
Giả định làm việc ngày nay là các tác nhân sẽ hành động thay mặt cho con người. Mặc dù điều này là thực tế và không thể tránh khỏi, nhưng sự mở khóa kinh tế thú vị hơn nhiều sẽ xuất hiện khi con người làm việc cho các tác nhân . Trong 24 tháng tới, tôi mong đợi sẽ thấy Công ty không có nhân viên đầu tiên, một khái niệm mà đối tác Kyle của tôi đã đặt ra trong phần Ý tưởng biên giới cho năm 2025 của anh ấy. Cụ thể, tôi mong đợi những điều sau:
- Một tác nhân được quản lý bằng mã thông báo sẽ huy động được hơn 1 tỷ đô la để giải quyết một vấn đề chưa được giải quyết (như chữa khỏi một căn bệnh hiếm gặp hoặc sản xuất sợi nano để ứng dụng trong quốc phòng).
- Người đại diện đó sẽ phân phối hơn 100 triệu đô la tiền thanh toán cho con người (những người làm việc cho người đại diện để đạt được mục tiêu của người đại diện trong thế giới thực).
- Một cấu trúc Token hai lớp mới xuất hiện, tách biệt quyền sở hữu dựa trên Vốn và lao động (theo đó các động cơ tài chính không phải là yếu tố đầu vào duy nhất cho hoạt động quản trị chung).
Bởi vì các tác nhân không hề gần với việc vừa có chủ quyền vừa có khả năng xử lý việc lập kế hoạch và thực hiện dài hạn, trong Short hạn, các tác nhân cần con người nhiều hơn con người cần các tác nhân. Điều này sẽ tạo ra các thị trường lao động mới cho phép phối hợp kinh tế giữa các hệ thống tác nhân và con người.
Câu trích dẫn nổi tiếng của Marc Andreessen, “Sự lan truyền của máy tính và internet sẽ chia công việc thành hai loại: những người ra lệnh cho máy tính phải làm gì và những người được máy tính ra lệnh phải làm gì”, nghe có vẻ đúng hơn bao giờ hết. Tôi mong đợi rằng trong hệ thống phân cấp tác nhân/con người đang phát triển nhanh chóng, con người sẽ đảm nhiệm hai vai trò riêng biệt — những người đóng góp lao động thực hiện các nhiệm vụ nhỏ theo kiểu tiền thưởng thay mặt cho các tác nhân và một hội đồng quản trị phi tập trung để cung cấp đầu vào chiến lược phục vụ cho ngôi sao chỉ đường của tác nhân.
Bài luận này khám phá cách các tác nhân và con người sẽ cùng sáng tạo và cách các đường ray mã hóa sẽ cung cấp Substrate lý tưởng cho sự phối hợp này, bằng cách xem xét ba câu hỏi hướng dẫn:
- Các tác nhân có ích cho mục đích gì? Chúng ta nên phân loại các tác nhân như thế nào dựa trên phạm vi mục tiêu của chúng và phạm vi đầu vào của con người cần thiết thay đổi như thế nào trong các phân loại đó?
- Con người sẽ tương tác với các tác nhân như thế nào? Đầu vào của con người — hướng dẫn chiến thuật, phán đoán theo ngữ cảnh hoặc sự liên kết về mặt ý thức hệ — kết hợp như thế nào vào quy trình làm việc của các tác nhân này (và ngược lại)?
- Điều gì xảy ra khi đầu vào của con người giảm dần theo thời gian? Khi khả năng của các tác nhân được cải thiện, chúng trở nên tự chủ, tức là có khả năng suy luận và hành động theo ý mình. Trong Paradigm này, con người sẽ đóng vai trò gì?
Mối quan hệ giữa các hệ thống lý luận tạo sinh và những người hưởng lợi từ chúng sẽ phát triển mạnh mẽ theo thời gian. Tôi xem xét mối quan hệ này bằng cách nhìn về phía trước từ nơi mà các khả năng của tác nhân hiện tại đang ở và làm việc ngược lại từ trạng thái cuối cùng của một Công ty không có nhân viên.
Các tác nhân có ích gì ngày nay?
Thế hệ đầu tiên của hệ thống AI tạo sinh—các LLM dựa trên chatbot của kỷ nguyên 2022-2024, như ChatGPT, Gemini, Claude, Perplexity, ETC—phần lớn là các công cụ được thiết kế để tăng cường quy trình làm việc của con người. Người dùng tương tác với các hệ thống này thông qua các cặp dấu nhắc đầu vào/đầu ra, phân tích các phản hồi và sau đó đưa ra phán đoán của riêng họ về cách đưa kết quả vào thế giới.
Thế hệ tiếp theo của hệ thống AI tạo sinh, hay "tác nhân", đại diện cho một phương thức mới. Các tác nhân như Claude 3.5.1 với "sử dụng máy tính" và Người vận hành của OpenAI (tức là các tác nhân có thể sử dụng máy tính của bạn) có khả năng tương tác trực tiếp với internet thay mặt cho người dùng và có thể tự đưa ra quyết định. Sự khác biệt chính ở đây là phán đoán — và cuối cùng là hành động — đang được thực hiện bởi hệ thống AI, không phải con người . AI đang đảm nhận một trách nhiệm trước đây dành riêng cho con người.
Quá trình chuyển đổi này đưa ra một thách thức: thiếu tính quyết định . Không giống như các hệ thống phần mềm truyền thống hoặc tự động hóa công nghiệp, hoạt động theo cách có thể dự đoán được trong các thông số được xác định, các tác nhân dựa vào lý luận xác suất . Điều này làm cho hành vi của chúng ít nhất quán hơn trong các tình huống giống hệt nhau và đưa vào các yếu tố không chắc chắn — không lý tưởng cho các tình huống quan trọng.
Nói cách khác, sự tồn tại của các tác nhân xác định và không xác định tự nhiên phân chia hai cách phân loại các tác nhân: các tác nhân phù hợp nhất để mở rộng GDP hiện có và các tác nhân phù hợp hơn để tạo ra GDP mới.
- Đối với các tác nhân giỏi nhất trong việc mở rộng GDP hiện tại, các công việc, theo định nghĩa, đã được biết đến. Tự động hóa hỗ trợ khách hàng , xử lý tuân thủ giao nhận hàng hóa hoặc xem xét PR trên github là những ví dụ về các vấn đề được xác định rõ ràng, có giới hạn, trong đó các tác nhân có thể lập bản đồ phản hồi cho một tập hợp các kết quả mong đợi theo cách đơn giản. Việc thiếu tính quyết định thường không tốt trong các lĩnh vực này, vì đã có một câu trả lời đã biết; không cần đến sự sáng tạo.
- Đối với các tác nhân giỏi nhất trong việc tạo ra GDP mới, công việc là điều hướng các tập hợp vấn đề chưa biết và không chắc chắn cao để hoàn thành các mục tiêu dài hạn. Các kết quả ở đây ít đơn giản hơn nhiều, vì về bản chất không có tập hợp kết quả mong đợi nào để tác nhân lập bản đồ. Các ví dụ ở đây bao gồm việc khám phá thuốc cho các bệnh hiếm gặp, đột phá trong khoa học vật liệu hoặc chạy các thí nghiệm vật lý mới để hiểu rõ hơn về bản chất của vũ trụ. Việc thiếu tính quyết định có thể hữu ích trong các lĩnh vực này, vì thiếu tính quyết định là một hình thức sáng tạo mang tính sáng tạo.
Các tác nhân tập trung vào các ứng dụng GDP hiện có đang mở khóa giá trị. Các nhóm như Tasker , Lindy và Anon đều đang xây dựng cơ sở hạ tầng hướng đến cơ hội này. Tuy nhiên, theo thời gian, khi các khả năng trưởng thành và các mô hình quản trị phát triển, các nhóm sẽ chuyển trọng tâm sang xây dựng các tác nhân có khả năng giải quyết các vấn đề ở ranh giới kiến thức của con người và cơ hội kinh tế.
Nhóm tác nhân tiếp theo này cần nhiều nguồn lực hơn theo cấp số nhân chính xác là vì kết quả của họ không chắc chắn và không có giới hạn — đây là những gì tôi mong đợi sẽ là những Công ty không có nhân viên hấp dẫn nhất.
Con người sẽ tương tác với các tác nhân như thế nào?
Ngày nay, các tác nhân không có khả năng thực hiện các nhiệm vụ đòi hỏi tương tác vật lý với thế giới thực (lái xe Bull ) và/hoặc các nhiệm vụ đòi hỏi sự tham gia của con người (gửi tiền ngân hàng).
Ví dụ, một tác nhân được giao nhiệm vụ xác định và khai thác lithium có thể giỏi xử lý dữ liệu địa chấn, hình ảnh vệ tinh và hồ sơ địa chất để xác định các địa điểm có triển vọng, nhưng lại thất bại khi cố gắng tìm nguồn dữ liệu và hình ảnh, hoặc giải quyết những điểm mơ hồ trong cách giải thích, hoặc xin giấy phép và hợp đồng lao động để thực hiện quy trình khai thác thực tế.
Những hạn chế này đòi hỏi con người phải tăng cường các tác nhân như những người hỗ trợ để cung cấp các điểm tiếp xúc thực tế cần thiết, các can thiệp chiến thuật và đầu vào chiến lược cần thiết để hoàn thành các nhiệm vụ nói trên. Khi mối quan hệ giữa con người và các tác nhân phát triển, chúng ta cũng có thể phân biệt các vai trò mà con người đóng trong các hệ thống tác nhân:
- Đầu tiên, những người đóng góp lao động hoạt động thay mặt cho các tác nhân trong thế giới thực. Những người đóng góp này giúp các tác nhân di chuyển các vật thể vật lý, đại diện cho tác nhân khi cần con người, thực hiện công việc đòi hỏi tay chân, cấp quyền truy cập vào các phòng thí nghiệm thử nghiệm hoặc mạng lưới hậu cần, ETC
- Thứ hai, một hội đồng quản trị cung cấp thông tin đầu vào mang tính chiến lược và tinh chỉnh các chức năng mục tiêu cục bộ thúc đẩy các quyết định hàng ngày của các đại lý đồng thời đảm bảo chúng phù hợp với kim chỉ nam xác định mục đích của đại lý.
Ngoài hai điều này, tôi cũng mong đợi con người đóng vai trò là người đóng góp Vốn , hệ thống đại lý tài trợ với các nguồn lực để thực hiện và đạt được mục tiêu của họ. Vốn này ban đầu sẽ tự nhiên đến từ con người và các đại lý khác theo thời gian.
Khi các tác nhân trưởng thành và số lượng người đóng góp lao động và hướng dẫn tăng lên, các đường ray tiền điện tử cung cấp Substrate lý tưởng cho sự phối hợp giữa con người và tác nhân—đặc biệt là trong một thế giới mà các tác nhân đang chỉ đạo những con người nói các ngôn ngữ khác nhau, được trả bằng các loại tiền tệ khác nhau và sống ở các khu vực pháp lý khác nhau trên khắp thế giới. Các tác nhân sẽ theo đuổi hiệu quả chi phí một cách tàn nhẫn và khai thác thị trường lao động trong nỗ lực đạt được nhiệm vụ đã nêu của họ. Các đường ray tiền điện tử là cần thiết để trang bị cho họ một cách để phối hợp những người đóng góp lao động và hướng dẫn đó.
Các tác nhân AI hỗ trợ tiền điện tử gần đây như Freysa , Zerebro và ai16z đại diện cho các thí nghiệm đơn giản trong việc hình thành Vốn — một điều mà chúng tôi đã viết rất nhiều về như một sự mở khóa cốt lõi của các nguyên thủy tiền điện tử và thị trường Vốn trong nhiều bối cảnh khác nhau. Đây là những đồ chơi sẽ mở đường cho một mô hình mới nổi lên để phối hợp nguồn lực, mà tôi mong đợi sẽ diễn ra như sau:
- Bước 1: Con người cùng nhau huy động Vốn thông qua các mã thông báo (Đợt chào bán đại lý ban đầu?), thiết lập một chức năng mục tiêu rộng và các biện pháp bảo vệ để thông báo mục đích dự kiến của hệ thống đại lý, sau đó giao quyền kiểm soát Vốn huy động được cho hệ thống (ví dụ: phát triển phân tử mới cho ngành ung thư học chính xác);
- Bước 2: Tác nhân lý luận về các bước phân bổ Vốn đó (cách thu hẹp không gian tìm kiếm để gấp protein và cách lập ngân sách cho khối lượng công việc suy luận, sản xuất, thử nghiệm lâm sàng, ETC) và xác định các hành động để những người đóng góp lao động thực hiện thay mặt cho tác nhân thông qua tiền thưởng được thiết kế riêng (ví dụ: nhập tập hợp tất cả các phân tử có liên quan, ký SLA tính toán với AWS và chạy các thí nghiệm trong phòng thí nghiệm ướt);
- Bước 3: Khi tác nhân gặp phải rào cản hoặc ngã ba đường, nó sẽ yêu cầu sự tham gia mang tính chiến lược từ hội đồng quản trị khi cần thiết (kết hợp các bài báo mới, thay đổi phương pháp nghiên cứu), cho phép họ định hướng hành vi của tác nhân ở các ranh giới; và
- Bước 4: Cuối cùng, tác nhân cải thiện đến mức có thể xác định hành động cho con người với độ chính xác ngày càng tăng và chỉ cần đầu vào tối thiểu về cách phân bổ tài nguyên. Tại thời điểm này, con người chỉ cần sắp xếp hệ thống theo ý thức hệ và ngăn không cho nó hoạt động không phù hợp với chức năng mục tiêu ban đầu.
Trong ví dụ này, các nguyên mẫu tiền điện tử và thị trường Vốn cung cấp cho các tác nhân ba phần cơ sở hạ tầng quan trọng để đạt được nguồn lực và mở rộng năng lực: thứ nhất, đường thanh toán toàn cầu ; thứ hai, thị trường lao động Không cần cho phép để khuyến khích những người đóng góp lao động và hướng dẫn; thứ ba, cơ sở hạ tầng phát hành và giao dịch tài sản , cần thiết cho việc hình thành Vốn cũng như quyền sở hữu và quản trị hạ nguồn.
Điều gì xảy ra khi sự tác động của con người giảm đi?
Vào đầu những năm 2000, các công cụ cờ vua đã được cải thiện đáng kể. Thông qua các thuật toán tiên tiến, mạng nơ-ron và khả năng tính toán tăng lên, chúng trở nên gần như hoàn hảo. Các công cụ hiện đại như Stockfish , Lc0 và các biến thể AlphaZero vượt xa khả năng của con người đến mức đầu vào của con người hiếm khi tạo ra giá trị và trong hầu hết các trường hợp, công cụ này sẽ mắc phải các lỗi mà chính nó không thể tự tạo ra.
Một quỹ đạo tương tự có thể diễn ra với các hệ thống tác nhân. Khi chúng ta tinh chỉnh các tác nhân này thông qua quá trình trao đổi qua lại lặp đi lặp lại với những người cộng tác, có thể hình dung rằng về lâu dài, các tác nhân trở nên rất có năng lực và phù hợp với mục tiêu của họ đến mức giá trị của bất kỳ đầu vào chiến lược nào của con người đều có xu hướng về 0.
Trong một thế giới như vậy, nơi các tác nhân liên tục giải quyết các vấn đề phức tạp mà không cần sự can thiệp của con người, vai trò của con người có nguy cơ giảm xuống thành vai trò của những người quan sát thụ động. Đây là nỗi sợ cốt lõi của những người bi quan về AI (tuy nhiên, không rõ liệu kết quả này có khả thi hay không).
Chúng ta đang đứng trên bờ vực của siêu trí tuệ, và những người lạc quan trong số chúng ta muốn các hệ thống tác nhân vẫn là phần mở rộng của ý định con người hơn là các thực thể phát triển mục tiêu riêng của chúng hoặc chạy với quyền tự chủ không bị kiểm soát. Trong thực tế, điều này có nghĩa là bản sắc con người (nhân cách) và phán đoán (quyền lực và ảnh hưởng) phải vẫn là trọng tâm của các hệ thống này . Con người sẽ cần quyền sở hữu và quản lý mạnh mẽ đối với các hệ thống này, để đảm bảo họ duy trì sự giám sát và neo giữ các hệ thống này trong các giá trị chung của con người.
Cuốc và xẻng cho tương lai đại lý của chúng ta
Những đột phá trong công nghệ dẫn đến tốc độ phi tuyến tính của tiến bộ kinh tế, và các hệ thống xung quanh chúng thường bị phá vỡ trước khi thế giới điều chỉnh. Các hệ thống đại lý đang cải thiện khả năng với tốc độ nhanh chóng, và các nguyên thủy tiền điện tử và thị trường Vốn đã đóng vai trò là Substrate phối hợp rất cần thiết cho cả việc thúc đẩy xây dựng các hệ thống này và thiết lập các rào cản khi chúng nhúng vào xã hội.
Để con người có thể cung cấp hỗ trợ chiến thuật và hướng dẫn chủ động cho các hệ thống tác nhân, chúng tôi mong đợi những cơ hội thực tế sau đây sẽ xuất hiện:
- Bằng chứng về quyền tác nhân + bằng chứng về nhân cách: Các tác nhân thiếu các khái niệm về danh tính hoặc quyền sở hữu. Là đại diện cho con người, chúng phụ thuộc vào các cấu trúc xã hội và pháp lý của con người để làm đại diện. Để thu hẹp khoảng cách này, chúng ta cần các hệ thống danh tính mạnh mẽ cho cả tác nhân và con người. Một sổ đăng ký chứng nhận kỹ thuật số có thể cho phép các tác nhân xây dựng danh tiếng, tích lũy thông tin xác thực và tương tác với cả con người và các tác nhân khác một cách minh bạch. Tương tự như vậy, các nguyên mẫu bằng chứng về nhân cách như Humancode và Humanity Protocol cung cấp sự đảm bảo mạnh mẽ về danh tính của con người chống lại các tác nhân đối địch trong các hệ thống này.
- Thị trường lao động và các nguyên mẫu xác minh Ngoài chuỗi : Các tác nhân cần biết rằng các nhiệm vụ họ giao được hoàn thành theo đúng mục tiêu của họ. Các công cụ cho phép hệ thống tác nhân tạo tiền thưởng, xác minh việc hoàn thành và phân phối thanh toán là tiền cược cho bất kỳ hoạt động kinh tế có ý nghĩa nào được các tác nhân làm trung gian.
- Hệ thống hình thành Vốn và quản trị: Các tác nhân cần Vốn để giải quyết vấn đề, và kiểm tra và cân bằng để đảm bảo họ đang hành động phù hợp với các chức năng mục tiêu đã xác định của mình. Các cấu trúc mới để cung cấp Vốn cho các hệ thống tác nhân, và các hình thức sở hữu và kiểm soát mới kết hợp Stake tài chính và đóng góp lao động sẽ là một không gian thiết kế phong phú trong những tháng tới.
Chúng tôi đang tích cực tìm cách đầu tư vào các lớp quan trọng này của ngăn xếp phối hợp giữa con người và tác nhân. Nếu bạn đang xây dựng trong không gian này, vui lòng liên hệ với chúng tôi.
