'Bạn không thể liếm một con lửng hai lần': Những thất bại của Google làm nổi bật một lỗ hổng AI cơ bản

avatar
WIRED
04-24
Bài viết này được dịch máy
Xem bản gốc

Đây là một sự phân tâm nhỏd�àng từ ngày làm việc của bạn: Truy cập vào Google, nhập bất kỳ cụm nào bạn tự chế, thêm từ "ý nghĩa", và tìm kiếm. Hãy xem! Tổng quan AI của Google không chỉ xác nhận rằng từ ngẫu nhiên của bạn là một câu nóiiói sự màng cho bạn biết ý nghĩa của nó và cấu ra nó.Ềuực sự vvui, và bthể tìm thấy rất a://sky./profile/gregjenner.bsky.social/post/3lnhxkdywzc2m" rel="nofollow">ví dụ trên mxã Thế giới Tổng quan AI, "một con chó lỏngẽướtó"mộtơiữ để nói rằng một cgái gđó không có khả năhi xảraặcgìn sẽthể hoạt động."Ều cụmã bịa ""wired là wired" là một thành ngữ có nghĩa là "ành vi hoặc đặc điểm của ai đó là kết quả trực tiếp của bản chất bẩm sinh hoặc 'đi dây' của họ, giống như chức năng của một mátnh tính được xác định bởi các kết nối vật lý của nó."p Tcất cảềuheợp lđược trìnhời với ssự ttinuyệ. thậm chí cung cấp các liên kết tham khảo trong một sốố trường,, mang lại cho câu trảệnảêẻquy. Và mặc dù thực tế rằNg tAI nghĩ "không bao giờ ném mộtng con poodle vdle một một con lợn" là một câm ngạn có nguồn gốc từ Kinh Thánh là vô lý, nhưng nó có là một bao quọnàơi trí tuệ nhân sinh sảni vẫn còthiếu sótd.

Như một tuyên bố miễn trừ ở phía dưới của mỗi Tquan AI sử dụng trí tuệtạo sinh sinh "thực nghiệm". Trí nhân sinh là một cccụ mạnh mẽ với mọloại loứng dụng thực tế hợp pháp. Nhuyưđặmặưnó hihiện khi nó giải cụữịa Thứlà nó cơ bản là một máy móy xác lsuất; mặc dù có vẻ như một hệthựatrên mô hình ngôn ngữ lớn có suy nghĩ hoặc thậcảm xúc, nhnhó chỉ đơn giản là đặt một từcó khả năng nhất tiếtheop sau, lái tàu khi nó.

">"Việc dotiếựtrên dữoiệhuấn luyện rrộng," Ziang Xiao, một nhà khoa học máy tính tại Đại học Johns Hopkins, nói. "Tuy nhiên, trong nhiều trợ, ếợpếdẫn chúng câ."

Yếu tố thlà AI muốn làm hài lòng lnghiênên đã chỉ ra rằng chatbots ththường với nói với mọi người những gì h muốn nghe. Trtrongườngng có nghĩa là chấp nhận lời bạn rằng "ạthểếm một conlý hai lần chi thứcông

< pẤtókhăn cho hệ thống này tính đến mỗi truy vấn cá nhặc câu hỏi dẫn dắt người dùng," Xiao nói. "Điều này đặc biệt khó khăn đối với kiến thứcm, các ngngữ mà trong đó có ít nội dung hơn đáng kể, và quan điểm của thiểu số. Vì hệ thống tìm kiếm AI là một hệ thống rất phức tạp, lỗi sẽ lan rộng."

< p>cc miễmn không muốn thừa nhận rằng nbiết câu trả lời k. Khikhi nghi ngờ,ờnó sẽ�chế ra thứ gì.

Google sẽ không traoả kết tcho mỗi truy vấn như vếậTôi ththử nghiệm khoảng 5 phút và nó rất không nhất thquđóy là những gì bạn mong đợi từ GenAI, phụ thurấtào ví dụ cụ trongập huấn và khôngất trừu," Marcusà nhận thức, tác giả "Thuần hóa Thung lũng Silicon: nÚngểảm AI hoạchú.

Trongợp AI Overview cụ thể này dường như cuối cùng là vvô hhại, và một lần nữa, đóáchú vì hoƯữu hãyớ mẫu AI tự tin sai lầm này là mẫu đằng sau kết quả truy vấn AI khác của bạn. ham">Hãy cẩn thận.

Nguồn
Tuyên bố từ chối trách nhiệm: Nội dung trên chỉ là ý kiến của tác giả, không đại diện cho bất kỳ lập trường nào của Followin, không nhằm mục đích và sẽ không được hiểu hay hiểu là lời khuyên đầu tư từ Followin.
Thích
Thêm vào Yêu thích
Bình luận