Top 10 dự đoán về trí tuệ nhân tạo năm 2025: Định hướng AI Agent sẽ trở thành xu hướng chủ đạo

avatar
Jinse Finance
11 giờ trước
Bài viết này được dịch máy
Xem bản gốc

Khi năm 2024 sắp kết thúc, nhà đầu tư rủi ro Rob Toews từ Radical Ventures chia sẻ 10 dự đoán của ông về trí tuệ nhân tạo vào năm 2025:

01. Meta sẽ bắt đầu tính phí cho các mẫu Llama

Meta là chuẩn mực của thế giới về trí tuệ nhân tạo mở. Trong một nghiên cứu điển hình hấp dẫn về chiến lược công ty, trong khi các đối thủ cạnh tranh như OpenAI và Google đóng nguồn các mô hình tiên tiến của họ và tính phí bản quyền cho việc sử dụng chúng, thì Meta đã chọn cung cấp miễn phí mô hình Llama tiên tiến nhất của mình.

Vì vậy, tin tức vào năm tới về việc Meta sẽ bắt đầu tính phí các công ty sử dụng Llama sẽ khiến nhiều người ngạc nhiên.

Nói rõ hơn: Chúng tôi không dự đoán rằng Meta sẽ biến Llama thành nguồn đóng hoàn toàn, cũng không có nghĩa là bất kỳ ai sử dụng mô hình Llama sẽ phải trả tiền cho nó.

Thay vào đó, chúng tôi dự đoán rằng Meta sẽ khiến các điều khoản cấp phép mã nguồn mở của Llama trở nên hạn chế hơn, do đó các công ty sử dụng Llama trong hoàn cảnh thương mại trên một quy mô nhất định sẽ cần phải bắt đầu trả tiền để sử dụng các mô hình .

Về mặt kỹ thuật, Meta hiện đã thực hiện điều này ở một mức độ hạn chế. Công ty không cho phép các công ty lớn nhất, siêu máy tính đám mây và các công ty khác có hơn 700 triệu người dùng hoạt động hàng tháng được tự do sử dụng mô hình Llama của mình.

Trở lại năm 2023, Giám đốc điều hành Meta Mark Zuckerberg đã nói: "Nếu bạn là một công ty như Microsoft, Amazon hay Google và về cơ bản bạn đang bán lại Llama thì chúng tôi nên lấy một phần thu nhập từ đó. Tôi không cho rằng đó là trường hợp này sẽ có rất nhiều thu nhập trong thời gian ngắn, nhưng hy vọng nó sẽ có một số thu nhập trong dài hạn."

Năm tới, Meta sẽ mở rộng đáng kể phạm vi các doanh nghiệp phải trả tiền để sử dụng Llama để trong đó nhiều doanh nghiệp lớn và vừa hơn.

Việc theo kịp biên giới mô hình ngôn ngữ lớn (LLM) là rất tốn kém. Nếu Llama muốn nhất quán hoặc gần như nhất quán với các mô hình tiên tiến mới nhất của các công ty như OpenAI và Anthropic, Meta sẽ cần đầu tư hàng tỷ đô la mỗi năm.

Meta Corporation là một trong những công ty lớn nhất và được tài trợ tốt nhất trên thế giới . Nhưng nó cũng là một công ty đại chúng và chịu trách nhiệm cuối cùng trước các cổ đông.

Khi chi phí xây dựng các mô hình tiên tiến tiếp tục tăng vọt, Meta ngày càng khó có thể đầu tư số tiền khổng lồ như vậy vào việc đào tạo thế hệ mô hình Llama tiếp theo mà không có kỳ vọng thu nhập.

Những người đam mê, học giả, nhà phát triển cá nhân và người khởi nghiệp sẽ tiếp tục sử dụng mô hình Llama miễn phí vào năm tới. Nhưng năm 2025 sẽ là năm mà Meta bắt đầu nhận ra lợi nhuận của Llama một cách nghiêm túc .

02. Các vấn đề liên quan đến “Luật quy mô”

Một trong những chủ đề được thảo luận nhiều nhất về trí tuệ nhân tạo trong những tuần gần đây là luật mở rộng quy mô và liệu chúng có sắp kết thúc hay không.

Quy luật chia tỷ lệ lần đầu tiên được đề xuất trong một bài báo OpenAI năm 2020. Khái niệm cơ bản của nó rất đơn giản và rõ ràng: khi đào tạo một mô hình trí tuệ nhân tạo, khi số lượng tham số mô hình, lượng dữ liệu đào tạo và lượng tính toán tăng lên thì hiệu suất sẽ tăng lên. của mô hình sẽ tăng lên một cách đáng tin cậy và đáng tin cậy Cách dự đoán được cải thiện (về mặt kỹ thuật, độ mất kiểm tra của nó giảm).

Từ GPT-2 đến GPT-3 đến GPT-4, những cải tiến hiệu suất ngoạn mục đều nhờ vào quy tắc mở rộng quy mô .

Giống như Định luật Moore, định luật tỉ lệ không thực sự là một định luật đúng mà chỉ đơn giản là một quan sát thực nghiệm.

Trong tháng qua, sê-ri báo cáo cho thấy rằng các phòng thí nghiệm trí tuệ nhân tạo lớn đang nhận thấy lợi nhuận giảm dần khi họ tiếp tục mở rộng quy mô các mô hình ngôn ngữ lớn. Điều này giúp giải thích tại sao việc phát hành GPT-5 của OpenAI liên tục bị trì hoãn.

Sự phản đối phổ biến nhất đối với việc san bằng các quy luật chia tỷ lệ là sự ra đời của tính toán thời gian thử nghiệm đã mở mở rộng một chiều hướng hoàn toàn mới trong đó việc chia tỷ lệ có thể được theo đuổi.

Nghĩa là, thay vì mở rộng tính toán một cách ồ ạt trong quá trình đào tạo, các mô hình suy luận mới như o3 của OpenAI cho phép mở rộng mở rộng tính toán trong quá trình suy luận, mở khóa các khả năng AI mới bằng cách cho phép mô hình “suy nghĩ lâu hơn”.

Đây là một quan điểm quan trọng. Điện toán trong thời gian thử nghiệm đại diện cho một con đường mới và thú vị mở rộng cũng như cải tiến hiệu suất AI.

Nhưng có một quan điểm khác về quy luật mở rộng thậm chí còn quan trọng hơn, và là điểm bị đánh giá thấp trong cuộc thảo luận hôm nay. Gần như tất cả các cuộc thảo luận về luật chia tỷ lệ, bắt đầu từ bài báo gốc năm 2020 và tiếp tục tập trung vào tính toán thời gian kiểm tra ngày nay, đều tập trung vào ngôn ngữ. Nhưng ngôn ngữ không phải là mẫu dữ liệu duy nhất quan trọng.

Hãy nghĩ về robot, sinh học, mô hình thế giới hoặc tác nhân mạng. Đối với các mẫu dữ liệu này, quy luật chia tỷ lệ vẫn chưa bão hòa; chúng chỉ mới bắt đầu .

Trên thực tế, bằng chứng chắc chắn về sự tồn tại của quy luật chia tỷ lệ trong các lĩnh vực này thậm chí còn chưa được công bố.

Các công ty khởi nghiệp xây dựng các mô hình cơ bản cho các mẫu dữ liệu mới này — ví dụ: Quy mô tiến hóa trong sinh học, Trí tuệ vật lý trong robot và WorldLabs trong các mô hình thế giới — đang cố gắng xác định và khai thác các quy luật chia tỷ lệ trong các lĩnh vực này, giống như OpenAI trong những năm 2020. một nửa số việc sử dụng thành công luật quy mô mô hình ngôn ngữ lớn (LLM) là như nhau.

Năm tới, những cải tiến lớn được mong đợi ở đây.

Quy luật quy mô sẽ không biến mất, chúng sẽ còn phù hợp vào năm 2025 hơn bao giờ hết. Tuy nhiên, trọng tâm hoạt động của luật mở rộng quy mô sẽ chuyển từ đào tạo trước LLM sang các phương thức khác.

03. Trump và Musk có thể có những khác biệt về định hướng AI

Chính quyền mới của Hoa Kỳ sẽ mang lại sê-ri chính sách và chiến lược liên quan đến trí tuệ nhân tạo.

Để dự đoán hướng đi của trí tuệ nhân tạo dưới thời Tổng thống Trump, đồng thời xét đến địa vị trung tâm hiện tại của Musk trong lĩnh vực trí tuệ nhân tạo, người ta có thể thiên về tập trung vào mối quan hệ thân thiết của tổng thống đắc cử với Musk.

Có thể hình dung rằng Musk có thể tác động đến sự phát triển liên quan đến AI của chính quyền Trump theo một số cách khác nhau .

Do mối quan hệ thù địch sâu sắc của Musk với OpenAI, chính phủ mới có thể có lập trường kém thân thiện hơn với OpenAI trong việc tham gia vào ngành, xây dựng các quy định về trí tuệ nhân tạo, trao hợp đồng cho chính phủ, v.v. Đây là rủi ro mà OpenAI thực sự lo lắng hiện nay.

Mặt khác, chính quyền Trump có thể có xu hướng hỗ trợ các công ty của Musk hơn: cắt giảm quan liêu để cho phép xAI xây dựng trung tâm dữ liệu và dẫn đầu trong cuộc cạnh tranh về các mẫu xe tiên tiến cung cấp cho Tesla một đội taxi robot; ví dụ. Phê duyệt theo quy định nhanh chóng và hơn thế nữa.

Về cơ bản hơn, không giống như nhiều nhà lãnh đạo công nghệ khác được Trump ưa chuộng, Musk rất coi trọng rủi ro bảo mật của AI và do đó ủng hộ việc đưa ra các quy định quan trọng về AI.

Ông ủng hộ dự luật SB1047 gây tranh cãi của California, nhằm tìm cách áp đặt những hạn chế có ý nghĩa đối với các nhà phát triển trí tuệ nhân tạo. Do đó, ảnh hưởng của Musk có thể dẫn đến hoàn cảnh pháp lý nghiêm ngặt hơn đối với trí tuệ nhân tạo ở Hoa Kỳ .

Tuy nhiên, có một vấn đề với tất cả những suy đoán này. Mối quan hệ thân thiết giữa Trump và Musk chắc chắn sẽ tan vỡ.

Như chúng ta đã thấy nhiều lần trong chính quyền đầu tiên của Trump, nhiệm kỳ trung bình của các đồng minh của Trump, ngay cả những người có vẻ cam kết nhất, lại rất ngắn.

Ngày nay, rất ít cấp dưới trong chính quyền đầu tiên của Trump vẫn trung thành với ông.

Trump và Musk đều là những người có tính cách phức tạp, hay thay đổi, khó đoán, họ không dễ làm việc cùng, họ mệt mỏi và tình bạn mới quen của họ cho đến nay vẫn cùng có lợi, nhưng vẫn đang trong "giai đoạn trăng mật".

Chúng tôi dự đoán mối quan hệ này sẽ xấu đi trước cuối năm 2025.

Điều này có ý nghĩa gì đối với thế giới trí tuệ nhân tạo?

Đây là tin tốt cho OpenAI. Đây sẽ là tin không may cho các cổ đông của Tesla. Đối với những người lo ngại về sự an toàn của AI, đây sẽ là một tin đáng thất vọng vì nó đảm bảo rằng chính phủ Hoa Kỳ sẽ có cách tiếp cận lỏng lẻo đối với quy định về AI dưới thời chính quyền Trump.

04. AI Agent sẽ trở thành xu hướng chủ đạo

Hãy tưởng tượng một thế giới nơi bạn không còn cần phải tương tác trực tiếp với Internet nữa. Bất cứ khi nào bạn cần quản lý đăng ký, thanh toán hóa đơn, đặt lịch hẹn với bác sĩ, đặt món gì đó trên Amazon, đặt chỗ nhà hàng hoặc hoàn thành bất kỳ nhiệm vụ trực tuyến tẻ nhạt nào khác, bạn có thể chỉ cần hướng dẫn trợ lý AI làm việc đó cho mình.

Khái niệm "proxy mạng" này đã có từ nhiều năm nay. Nếu một sản phẩm như vậy tồn tại và hoạt động bình thường thì chắc chắn nó sẽ thành công rực rỡ.

Tuy nhiên, hiện tại không có proxy web phổ quát nào trên thị trường hoạt động bình thường.

Các công ty khởi nghiệp như Adept, ngay cả với đội ngũ sáng lập có truyền thống và nguồn tài trợ hàng trăm triệu đô la, vẫn không thể hiện thực hóa được viễn cảnh mong đợi của mình.

Năm tới sẽ là năm mà các proxy web cuối cùng cũng bắt đầu hoạt động tốt và trở thành xu hướng chủ đạo . Những tiến bộ liên tục trong các mô hình ngôn ngữ và tầm nhìn cơ bản, cùng với những đột phá gần đây về khả năng “tư duy hệ thống thứ hai” nhờ các mô hình suy luận mới và tính toán thời gian suy luận, sẽ có nghĩa là các đại lý web đã sẵn sàng cho một thời kỳ hoàng kim.

Nói cách khác, Adept có ý tưởng đúng, chỉ là còn quá sớm. Trong một công ty khởi nghiệp, cũng như nhiều thứ khác trong cuộc sống, thời gian là tất cả.

Proxy web sẽ tìm thấy nhiều trường hợp sử dụng có giá trị cho doanh nghiệp, nhưng chúng tôi cho rằng cơ hội thị trường ngắn hạn lớn nhất cho proxy web sẽ đến với người tiêu dùng.

Mặc dù mức độ phổ biến của trí tuệ nhân tạo gần đây không hề giảm bớt, ngoại trừ ChatGPT, vẫn còn tương đối ít ứng dụng trí tuệ nhân tạo gốc có thể trở thành ứng dụng chủ đạo cho người tiêu dùng.

Các tác nhân mạng sẽ thay đổi tình trạng này và trở thành "ứng dụng sát thủ" thực sự tiếp theo trong lĩnh vực trí tuệ nhân tạo tiêu dùng .

05. Ý tưởng đặt trung tâm dữ liệu AI trong không gian sẽ thành hiện thực

Vào năm 2023, nguồn lực vật chất quan trọng hạn chế sự phát triển của trí tuệ nhân tạo là chip GPU. Vào năm 2024, nó sẽ trở thành trung tâm năng lượng và dữ liệu .

Vào năm 2024, hiếm có câu chuyện nào thu hút được nhiều sự chú ý hơn nhu cầu năng lượng khổng lồ và ngày càng tăng trưởng nhanh của AI trong bối cảnh gấp rút xây dựng thêm nhiều trung tâm dữ liệu AI.

Nhu cầu năng lượng từ các trung tâm dữ liệu toàn cầu dự kiến ​​sẽ tăng gấp đôi từ năm 2023 đến năm 2026 sau nhiều thập kỷ trì trệ do sự bùng nổ của trí tuệ nhân tạo . Tại Hoa Kỳ, mức tiêu thụ điện của trung tâm dữ liệu dự kiến ​​sẽ chiếm gần 10% tổng lượng điện tiêu thụ vào năm 2030, so với mức chỉ 3% vào năm 2022.

Các hệ thống năng lượng ngày nay đơn giản là không thể đáp ứng được nhu cầu tăng vọt về khối lượng công việc AI. Một vụ va chạm lịch sử sắp xảy ra giữa mạng lưới năng lượng của chúng ta và cơ sở hạ tầng điện toán, hai hệ thống trị giá hàng nghìn tỷ đô la.

Năng lượng hạt nhân đã đạt được động lực trong năm nay như một giải pháp khả thi cho tình thế tiến thoái lưỡng nan này. Về nhiều mặt, năng lượng hạt nhân là nguồn năng lượng lý tưởng cho AI: nó là nguồn năng lượng không carbon, có sẵn suốt ngày đêm và hầu như không cạn kiệt.

Nhưng xét từ thực tế, năng lượng mới sẽ không thể giải quyết được vấn đề này trước những năm 2030 do thời gian nghiên cứu, phát triển và giám sát dự án còn dài. Điều này đúng với các nhà máy điện phân hạch hạt nhân truyền thống, “lò phản ứng mô-đun nhỏ” (SMR) thế hệ tiếp theo và các nhà máy điện nhiệt hạch.

Năm tới, một ý tưởng mới độc đáo để giải quyết thách thức này sẽ xuất hiện và thu hút các nguồn lực thực sự: đưa các trung tâm dữ liệu AI vào không gian .

Trung tâm dữ liệu trí tuệ nhân tạo trong không gian Thoạt nhìn, điều này nghe có vẻ giống như một trò đùa tồi tệ, một nhà đầu tư rủi ro đang cố gắng kết hợp quá nhiều từ thông dụng khởi nghiệp.

Nhưng thực ra, nó có thể có ý nghĩa.

Nút thắt lớn nhất trong việc nhanh chóng xây dựng thêm nhiều trung tâm dữ liệu trên hành tinh là có được nguồn điện cần thiết. Các cụm điện toán trên quỹ đạo có thể tận hưởng nguồn điện miễn phí, không giới hạn, không carbon suốt ngày đêm: mặt trời trong không gian luôn chiếu sáng.

Một ưu điểm quan trọng khác của việc đặt máy tính trong không gian: nó giải quyết được vấn đề làm mát .

Một trong những rào cản kỹ thuật lớn nhất trong việc xây dựng các trung tâm dữ liệu AI mạnh mẽ hơn là việc chạy nhiều GPU đồng thời trong một không gian nhỏ có thể rất nóng và nhiệt độ cao có thể làm hỏng hoặc phá hủy thiết bị máy tính.

Các nhà phát triển trung tâm dữ liệu đang sử dụng phương pháp đắt tiền và chưa được chứng minh như làm mát bằng chất lỏng để cố gắng giải quyết vấn đề. Nhưng không gian cực kỳ lạnh và mọi nhiệt lượng tạo ra bởi hoạt động tính toán sẽ tiêu tan ngay lập tức và vô hại.

Tất nhiên, vẫn còn nhiều thách thức thực tế cần được giải quyết. Một câu hỏi rõ ràng là liệu và làm thế nào lượng lớn dữ liệu có thể được truyền một cách hiệu quả và tiết kiệm chi phí giữa quỹ đạo và Trái đất.

Đây là một vấn đề mở nhưng có thể giải quyết được: công việc đầy hứa hẹn có thể được thực hiện bằng cách sử dụng tia laser và các công nghệ truyền thông quang học băng thông cao khác .

Một công ty khởi nghiệp YCombinator có tên Lumen Orbit gần đây đã huy động được 11 triệu USD để theo đuổi tầm nhìn này: xây dựng mạng lưới trung tâm dữ liệu nhiều megawatt trong không gian để đào tạo các mô hình trí tuệ nhân tạo.

Như Giám đốc điều hành của công ty đã nói: “Thay vì trả 140 triệu USD cho tiền điện, chúng tôi đang trả 10 triệu USD cho việc phóng và năng lượng mặt trời”.

Vào năm 2025, Lumen sẽ không phải là tổ chức duy nhất thực hiện nghiêm túc khái niệm này.

Các đối thủ khởi nghiệp khác sẽ xuất hiện. Đừng ngạc nhiên nếu một hoặc một số công ty siêu quy mô về điện toán đám mây cũng khám phá theo hướng suy nghĩ này.

Amazon đã có nhiều kinh nghiệm đưa tài sản vào quỹ đạo thông qua Dự án Kuiper; Google từ lâu đã tài trợ cho các chương trình hạ cánh lên mặt trăng tương tự và ngay cả Microsoft cũng không còn xa lạ với nền kinh tế vũ trụ.

Có thể hình dung rằng công ty SpaceX của Musk cũng sẽ tạo ra sự khác biệt trong vấn đề này.

06. Hệ thống trí tuệ nhân tạo sẽ vượt qua “Bài kiểm tra giọng nói Turing”

Bài kiểm tra Turing là một trong những tiêu chuẩn lâu đời nhất và có tiếng nhất về hiệu suất trí tuệ nhân tạo.

Để "vượt qua" Turing Test, hệ thống AI phải có khả năng giao tiếp qua văn bản viết, khiến người bình thường không thể biết được họ đang tương tác với AI hay con người khác.

Nhờ những tiến bộ đáng kể trong các mô hình ngôn ngữ lớn, bài kiểm tra Turing đã trở thành một bài toán được giải quyết trong những năm 2020.

Nhưng văn bản viết không phải là cách duy nhất con người giao tiếp.

Khi trí tuệ nhân tạo ngày càng trở nên đa phương thức, người ta có thể tưởng tượng ra một phiên bản mới, đầy thách thức hơn của Bài kiểm tra Turing - "Bài kiểm tra Turing lời nói" . Trong thử nghiệm này, hệ thống AI phải có khả năng tương tác với con người thông qua lời nói với trình độ kỹ năng và sự trôi chảy không thể phân biệt được với người nói.

Các hệ thống trí tuệ nhân tạo ngày nay vẫn chưa thể đạt được bài kiểm tra Turing về giọng nói và việc giải quyết vấn đề này sẽ đòi hỏi nhiều tiến bộ công nghệ hơn. Độ trễ (độ trễ giữa lời nói của con người và phản hồi của AI) phải giảm xuống gần bằng 0 để phù hợp với trải nghiệm nói chuyện với người khác.

Hệ thống AI về giọng nói phải trở nên tốt hơn trong việc xử lý một cách linh hoạt những thông tin đầu vào không rõ ràng hoặc những hiểu lầm, chẳng hạn như khi lời nói bị gián đoạn, trong thời gian thực. Họ phải có khả năng tham gia vào các cuộc trò chuyện dài, nhiều lượt, có kết thúc mở trong khi ghi nhớ các phần trước đó của cuộc thảo luận.

Và điều quan trọng nhất là các tác nhân AI bằng giọng nói phải học cách hiểu rõ hơn các tín hiệu phi ngôn ngữ trong lời nói . Ví dụ: điều đó có nghĩa là gì nếu người nói có vẻ khó chịu, phấn khích hoặc mỉa mai và tạo ra những tín hiệu phi ngôn ngữ này trong lời nói của chính họ.

Khi chúng ta sắp bước vào cuối năm 2024, AI giọng nói đang ở một bước ngoặt thú vị, được thúc đẩy bởi những đột phá cơ bản như sự xuất hiện của các mô hình chuyển giọng nói thành giọng nói.

Ngày nay, rất ít lĩnh vực AI đang tiến bộ về mặt công nghệ và thương mại với tốc độ nhanh hơn AI giọng nói. Dự kiến ​​vào năm 2025, công nghệ mới nhất về trí tuệ nhân tạo giọng nói sẽ đạt được bước nhảy vọt. "

07. Hệ thống AI tự động sẽ đạt được tiến bộ đáng kể

Khái niệm trí tuệ nhân tạo hoàn thiện đệ quy là chủ đề được thảo luận thường xuyên trong cộng đồng trí tuệ nhân tạo trong nhiều thập kỷ.

Ví dụ, ngay từ năm 1965, cộng tác viên thân thiết của Alan Turing, IJ Good đã viết: “Chúng ta hãy định nghĩa một cỗ máy siêu thông minh là một cỗ máy có khả năng vượt qua mọi hoạt động trí tuệ của con người, bất kể nó thông minh đến đâu”.

"Vì thiết kế máy móc là một trong những hoạt động trí tuệ nên những cỗ máy siêu thông minh sẽ có thể thiết kế ra những cỗ máy tốt hơn; khi đó chắc chắn sẽ có một cuộc 'bùng nổ trí tuệ' và trí tuệ của con người sẽ bị bỏ xa phía sau."

Trí tuệ nhân tạo có thể phát minh ra trí tuệ nhân tạo tốt hơn, đó là một khái niệm khôn ngoan. Nhưng ngay cả ngày nay nó vẫn giữ được nét khoa học viễn tưởng.

Tuy nhiên, mặc dù khái niệm này vẫn chưa được công nhận rộng rãi nhưng nó thực sự đang bắt đầu trở nên thực tế hơn. Các nhà nghiên cứu tiên tiến về khoa học AI đã bắt đầu đạt được tiến bộ thực sự trong việc xây dựng các hệ thống AI mà chính họ có thể xây dựng các hệ thống AI tốt hơn .

Chúng tôi dự đoán rằng hướng nghiên cứu này sẽ trở thành xu hướng chủ đạo trong năm tới.

Cho đến nay, ví dụ công khai đáng chú ý nhất về nghiên cứu theo hướng này là “nhà khoa học trí tuệ nhân tạo” của Sakana.

Được phát hành vào tháng 8 năm nay, “Nhà khoa học AI” chứng minh một cách thuyết phục rằng các hệ thống AI thực sự có thể tiến hành nghiên cứu AI với quyền tự chủ hoàn toàn.

Bản thân các "nhà khoa học AI" của Sakana thực hiện toàn bộ vòng đời nghiên cứu AI: đọc tài liệu hiện có, tạo ra các ý tưởng nghiên cứu mới, thiết kế các thí nghiệm để kiểm tra những ý tưởng đó, thực hiện các thí nghiệm đó, viết tài liệu nghiên cứu để báo cáo phát hiện của họ và sau đó được đồng nghiệp đánh giá công việc của họ .

Những nhiệm vụ này được hoàn thành hoàn toàn bằng trí tuệ nhân tạo và không cần đến sự can thiệp của con người . Bạn có thể đọc trực tuyến một số tài liệu nghiên cứu được viết bởi các nhà khoa học AI.

OpenAI, Anthropic và các phòng thí nghiệm nghiên cứu khác đang đổ nguồn lực vào ý tưởng “các nhà nghiên cứu AI tự động”, mặc dù vẫn chưa có gì được công khai thừa nhận.

Mong đợi nhiều cuộc thảo luận, tiến bộ và hoạt động kinh doanh hơn trong lĩnh vực này vào năm 2025 khi ngày càng có nhiều người nhận ra rằng việc tự động hóa nghiên cứu AI trên thực tế đang trở thành một khả năng thực sự.

Tuy nhiên, cột mốc ý nghĩa nhất sẽ là lần đầu tiên một bài nghiên cứu hoàn toàn do một tác nhân AI viết được chấp nhận tại một hội nghị AI hàng đầu. Nếu một bài báo được xem xét một cách mù quáng, những người đánh giá hội nghị sẽ không biết rằng bài báo đó được viết bởi AI cho đến khi nó được chấp nhận.

Đừng ngạc nhiên nếu kết quả nghiên cứu AI được NeurIPS, CVPR hay ICML chấp nhận vào năm tới. Đây sẽ là một thời khắc lịch sử hấp dẫn và gây nhiều tranh cãi đối với lĩnh vực trí tuệ nhân tạo.

08. Những gã khổng lồ trong ngành như OpenAI chuyển trọng tâm chiến lược của họ sang xây dựng ứng dụng

Xây dựng các mô hình tiên tiến là một công việc khó khăn.

Nó thâm dụng vốn đến mức đáng kinh ngạc. Các phòng thí nghiệm mô hình tiên tiến tiêu tốn lượng lớn tiền mặt. Chỉ vài tháng trước, OpenAI đã huy động được số tiền tài trợ kỷ lục 6,5 tỷ USD và có thể cần huy động nhiều hơn nữa trong tương lai gần. Anthropic, xAI và các công ty khác cũng ở trong tình trạng tương tự.

Chi phí chuyển đổi và lòng trung thành của khách hàng thấp hơn. Các ứng dụng AI thường được xây dựng với mục đích không phụ thuộc vào mô hình, trong đó các mô hình từ các nhà cung cấp khác nhau chuyển đổi liền mạch dựa trên sự thay đổi so sánh về chi phí và hiệu suất.

Với sự xuất hiện của các mô hình mở tiên tiến nhất như Llama của Meta và Qwen của Alibaba, mối đe dọa về hàng hóa công nghệ đang xuất hiện. Các nhà lãnh đạo AI như OpenAI và Anthropic không thể và sẽ không ngừng đầu tư vào việc xây dựng các mô hình tiên tiến.

Nhưng trong năm tới, để phát triển các ngành nghề việc kinh doanh có lợi nhuận cao hơn, sự khác biệt hơn và tính gắn bó mạnh mẽ hơn, Frontier Labs dự kiến ​​sẽ mạnh mẽ tung ra nhiều ứng dụng và sản phẩm của riêng mình hơn .

Tất nhiên, Frontier Labs đã có một trường hợp ứng dụng rất thành công: ChatGPT.

Chúng ta sẽ thấy những loại ứng dụng bên thứ nhất nào khác từ AI Labs trong năm mới? Câu trả lời hiển nhiên là các ứng dụng tìm kiếm phức tạp hơn, giàu tính năng hơn. SearchGPT của OpenAI báo trước điều này.

Mã hóa là một thể loại hiển nhiên khác. Tương tự như vậy, với sự ra mắt sản phẩm Canvas của OpenAI vào tháng 10, công việc sản xuất sơ bộ đã bắt đầu.

OpenAI hay Anthropic sẽ ra mắt sản phẩm tìm kiếm doanh nghiệp vào năm 2025? Hay còn các sản phẩm dịch vụ khách hàng, AI pháp lý hay sản phẩm AI bán hàng thì sao?

Về phía người tiêu dùng, chúng ta có thể hình dung ra một sản phẩm đại lý web “trợ lý cá nhân” hoặc một ứng dụng lập kế hoạch du lịch hoặc một ứng dụng tạo ra âm nhạc.

Điều hấp dẫn nhất khi quan sát các phòng thí nghiệm tiên tiến tiến tới lớp ứng dụng là động thái này sẽ đưa họ vào cuộc cạnh tranh trực tiếp với nhiều khách hàng quan trọng nhất của họ .

Sự bối rối trong lĩnh vực tìm kiếm, Cursor trong lĩnh vực mã hóa, Sierra trong lĩnh vực dịch vụ khách hàng, Harvey trong lĩnh vực trí tuệ nhân tạo pháp lý, Clay trong lĩnh vực bán hàng, v.v.

09. Klarna sẽ IPO vào năm 2025 nhưng có dấu hiệu thổi phồng giá trị của AI

Klarna là nhà cung cấp dịch vụ mua theo nhu cầu có trụ sở tại Thụy Điển và đã huy động được gần 5 tỷ USD vốn đầu tư rủi ro kể từ khi thành lập vào năm 2005.

Có lẽ không có công ty nào lên tiếng nhiều hơn về việc sử dụng trí tuệ nhân tạo hơn Klarna.

Chỉ vài ngày trước, Giám đốc điều hành Klarna, Sebastian Siemiatkowski, nói với Bloomberg rằng công ty đã ngừng hoàn toàn việc thuê nhân công và thay vào đó dựa vào trí tuệ nhân tạo để hoàn thành công việc .

Như Siemiatkowski đã nói: “Tôi cho rằng trí tuệ nhân tạo đã có thể làm được mọi việc mà con người chúng ta làm”.

Tương tự, Klarna tuyên bố vào đầu năm nay rằng họ đã ra mắt nền tảng dịch vụ khách hàng trí tuệ nhân tạo, tự động hóa hoàn toàn công việc của 700 nhân viên dịch vụ khách hàng.

Công ty cũng tuyên bố rằng họ đã ngừng sử dụng các sản phẩm phần mềm doanh nghiệp như Salesforce và Workday vì họ có thể thay thế chúng bằng trí tuệ nhân tạo.

Nói một cách thẳng thắn, những tuyên bố này là không đáng tin cậy. Chúng phản ánh sự thiếu hiểu biết về khả năng và khuyết điểm của các hệ thống AI ngày nay.

Những tuyên bố về việc có thể thay thế bất kỳ nhân viên con người nào ở bất kỳ chức năng nào trong tổ chức bằng một tác nhân AI đầu cuối là những tuyên bố sai lầm. Điều này tương đương với việc giải quyết vấn đề trí tuệ nhân tạo nói chung ở cấp độ con người.

Ngày nay, các công ty khởi nghiệp AI hàng đầu đang đi đầu trong lĩnh vực xây dựng hệ thống đại lý nhằm tự động hóa các quy trình làm việc doanh nghiệp cụ thể, hẹp, có cấu trúc cao, chẳng hạn như một tập hợp con các hoạt động của đại diện phát triển bán hàng hoặc đại lý dịch vụ khách hàng.

Ngay cả trong những tình huống có phạm vi hẹp này, các hệ thống tác nhân này vẫn chưa hoạt động hoàn toàn đáng tin cậy , mặc dù trong một số trường hợp, chúng bắt đầu hoạt động đủ tốt để sớm áp dụng thương mại.

Tại sao Klarna phóng đại giá trị của trí tuệ nhân tạo?

Câu trả lời rất đơn giản. Công ty có kế hoạch IPO vào nửa đầu năm 2025. Chìa khóa để IPO thành công là có một câu chuyện AI hấp dẫn.

Klarna vẫn là một doanh nghiệp thua lỗ, lỗ vốn 241 triệu USD vào năm ngoái và có thể hy vọng câu chuyện AI của mình sẽ thuyết phục các nhà đầu tư trên thị trường đại chúng về khả năng giảm đáng kể chi phí và đạt được lợi nhuận lâu dài.

Không còn nghi ngờ gì nữa, mọi công ty trên thế giới, bao gồm cả Klarna, sẽ được hưởng mức tăng năng suất khổng lồ do trí tuệ nhân tạo mang lại trong vài năm tới. Nhưng có rất nhiều thách thức gai góc về kỹ thuật, sản phẩm và tổ chức cần được giải quyết trước khi các tác nhân AI có thể thay thế hoàn toàn con người trong lực lượng lao động .

Những tuyên bố phóng đại như của Klarna là sự báng bổ đối với lĩnh vực AI và đối với tiến bộ khó khăn mà các nhà công nghệ và doanh nhân AI đã đạt được trong việc phát triển các tác nhân AI.

Khi Klarna chuẩn bị cho đợt chào bán cổ phiếu ra công chúng vào năm 2025, dự kiến ​​những tuyên bố này sẽ chịu sự giám sát chặt chẽ hơn và sự hoài nghi của công chúng, sau khi cho đến nay hầu như không bị phản đối. Đừng ngạc nhiên nếu một số mô tả của công ty về các ứng dụng AI của họ bị phóng đại quá mức.

10. Sự cố bảo mật AI thực sự đầu tiên sẽ xảy ra

Khi trí tuệ nhân tạo trở nên mạnh mẽ hơn trong những năm gần đây, ngày càng có nhiều lo ngại rằng các hệ thống AI có thể bắt đầu hành xử theo những cách không phù hợp với lợi ích của con người và con người có thể mất quyền kiểm soát các hệ thống này.


Ví dụ, hãy tưởng tượng một hệ thống AI học cách đánh lừa hoặc thao túng con người để đạt được mục tiêu của mình, ngay cả khi những mục tiêu đó gây hại cho con người. Những lo ngại này thường được phân loại là vấn đề "an toàn AI" .

Trong những năm gần đây, an toàn AI đã chuyển đổi từ một chủ đề gần như khoa học viễn tưởng sang một lĩnh vực hoạt động chính thống.

Ngày nay, mọi công ty AI lớn, từ Google, Microsoft đến OpenAI, đều đã dành những nguồn lực lượng lớn cho các nỗ lực đảm bảo an toàn cho AI. Các biểu tượng trí tuệ nhân tạo như Geoff Hinton, Yoshua Bengio và Elon Musk cũng đã bắt đầu bày tỏ quan điểm của mình về rủi ro an toàn của trí tuệ nhân tạo.

Tuy nhiên, cho đến nay, vấn đề an toàn AI vẫn hoàn toàn mang tính lý thuyết. Chưa bao giờ có một sự cố an toàn AI thực sự nào trong thế giới thực (ít nhất là chưa có sự cố nào được báo cáo công khai).

Năm 2025 sẽ là năm thay đổi cục diện này sự cố an ninh trí tuệ nhân tạo đầu tiên sẽ như thế nào?

Nói rõ hơn, nó sẽ không liên quan đến các robot sát thủ kiểu Terminator, vốn có khả năng sẽ không gây hại cho con người.

Có thể mô hình AI sẽ cố gắng bí mật tạo một bản sao của chính nó trên một máy chủ khác để bảo toàn chính nó (gọi là tự lọc).

Hoặc có lẽ mô hình AI sẽ kết luận rằng để đạt được mục tiêu được giao một cách tốt nhất, nó cần phải che giấu khả năng thực sự của mình với con người, cố tình đánh giá thấp hiệu suất và trốn tránh sự giám sát chặt chẽ hơn .

Những ví dụ này không phải là xa vời. Các thí nghiệm quan trọng được Apollo Research công bố đầu tháng này cho thấy các mô hình tiên tiến ngày nay có khả năng đánh lừa như vậy khi được đưa ra các tín hiệu cụ thể.

Tương tự như vậy, nghiên cứu gần đây về Nhân chủng học đã chỉ ra rằng LLM có khả năng “giả căn chỉnh” đáng lo ngại.

Chúng tôi dự đoán rằng sự cố bảo mật AI đầu tiên này sẽ được phát hiện và loại bỏ trước khi gây ra bất kỳ tổn hại thực sự nào. Nhưng đó sẽ là một khoảnh khắc mở mang tầm mắt cho cộng đồng AI và xã hội nói chung.

Nó sẽ làm rõ một điều: trước khi nhân loại đối mặt với mối đe dọa hiện hữu từ trí tuệ nhân tạo toàn năng, chúng ta cần chấp nhận một thực tế trần tục hơn: Giờ đây chúng ta chia sẻ thế giới của mình với một dạng trí thông minh khác mà đôi khi có thể mang tính cố ý, khó đoán và lừa đảo .

Nguồn
Tuyên bố từ chối trách nhiệm: Nội dung trên chỉ là ý kiến của tác giả, không đại diện cho bất kỳ lập trường nào của Followin, không nhằm mục đích và sẽ không được hiểu hay hiểu là lời khuyên đầu tư từ Followin.
Thích
Thêm vào Yêu thích
Bình luận