Chào mừng đến với Thung lũng của những con búp bê AI đáng sợ

avatar
WIRED
03-09
Bài viết này được dịch máy
Xem bản gốc

Mobile World Congress luôn có nhiều điều kỳ lạ hơn. Tuần trước tại MWC, giải thưởng dành cho người thích mê mẩn đã thuộc về một công ty Hàn Quốc tên là Hyodol , công ty này đã tự hào giới thiệu một con búp bê đồng hành hỗ trợ ChatGPT có vẻ ngoài đáng lo ngại dành cho người lớn tuổi. Giờ đây, con búp bê hỗ trợ AI trị giá 1.800 USD này có thể trông giống như thứ bạn tìm thấy trên căn gác mái bị ma ám, nhưng nó thực sự hoạt động như một người bạn kỹ thuật số tương tác cho những người đang cảm thấy cô đơn hoặc trong các cơ sở chăm sóc dài hạn.

Nhờ mô hình ngôn ngữ lớn được nhét bên trong con búp bê, Hyodol được cho là có thể trò chuyện với chủ nhân của nó cũng như đưa ra những lời nhắc nhở về sức khỏe như khi nào nên uống thuốc hoặc ăn một bữa. Mọi Bit được kết nối như bạn có thể tưởng tượng, với ứng dụng đồng hành và nền tảng giám sát web cho phép người chăm sóc giám sát thiết bị và người dùng thiết bị từ xa.

Nó có ý nghĩa như một liều thuốc xoa dịu cơn đại dịch cô đơn , đã ảnh hưởng đến tất cả mọi người từ những người lớn tuổi ở viện dưỡng lão cho đến sinh viên đại học . Elizabeth Necka, giám đốc chương trình tại Viện Lão hóa Quốc gia Hoa Kỳ, cho biết loại công nghệ này có tác dụng gì đó, đặc biệt khi được sử dụng trong các viện dưỡng lão vốn đang thiếu hụt nhân sự trên diện rộng.

Necka nói: “Ý tưởng rằng có thể có một giải pháp chi phí thấp có thể giảm bớt cảm giác cô đơn là rất hấp dẫn”. “Đối với tôi, liệu ChatGPT có thực sự có thể đạt được cảm giác kết nối đó hay không, có vẻ Bit sớm để nói điều đó.”

Chắc chắn có một ngành công nghiệp dành cho những thiết bị này. Thị trường robot xã hội đáng yêu đặc biệt sôi động ở các quốc gia như Nhật Bản. Các công ty như LovotQoobo (“chiếc đệm có đuôi sưởi ấm trái tim bạn”) đã tạo ra Bots đồng hành đáng yêu, đáng yêu đang thịnh hành. Những thiết bị này cũng đã được sử dụng ở các nước phương Tây, nhưng chúng ít được chấp nhận về mặt văn hóa hơn. Nhưng xu hướng hiện nay của các công ty đưa AI tổng quát vào mọi phương tiện ở mọi nơi có lẽ là do làn sóng những Chuckies trò chuyện này.

Lilian Hung, trợ lý giáo sư và Chủ tịch nghiên cứu về Chăm sóc người cao tuổi tại Trường Điều dưỡng thuộc Đại học British Columbia, cho biết: “Tôi nghĩ ngành vẫn đang cố gắng tìm hiểu thị trường. “Nó vẫn còn ở giai đoạn sơ khai, nhưng chắc chắn nó đã thành công.”

Không phải là không có một loạt các nỗ lực khác. Jibo , một người bạn cùng phòng xã hội robot sử dụng AI và những cử chỉ đáng yêu để gắn kết với chủ nhân của nó đã bị rút phích cắm chung một cách bất thường chỉ vài năm sau khi được đưa ra thế giới. Trong khi đó, một sản phẩm khác do Hoa Kỳ sản xuất, Moxie , một robot được hỗ trợ bởi AI nhằm hỗ trợ sự phát triển của trẻ em, vẫn đang hoạt động.

Thật khó để không nhìn vào những thiết bị như thế này và rùng mình trước những khả năng có thể xảy ra. Có điều gì đó vốn đáng lo ngại về công nghệ tác động đến con người và sự lừa dối kỳ lạ đó có thể khiến mọi người hiểu lầm. Rốt cuộc, khoa học viễn tưởng của chúng ta có rất nhiều sinh vật AI, nhiều câu chuyện trong số đó về trí tuệ nhân tạo đã sai lầm khủng khiếp. Sự so sánh dễ dàng và phải thừa nhận là lười biếng với thứ gì đó như Hyodol là M3GAN , bộ phim năm 2023 về một con búp bê đồng hành hỗ trợ AI có khả năng giết người hoàn toàn.

Nhưng ngoài việc sản xuất búp bê, robot xã hội còn có nhiều dạng. Họ là trợ lý, thú cưng , nhân viên bán lẻ và thường là những kẻ lập dị kém hiểu biết về xã hội , chỉ lảng vảng ở nơi công cộng. Nhưng đôi khi chúng cũng là vũ khí , gián điệp và cảnh sát . Có lý do chính đáng để mọi người nghi ngờ những chiếc máy tự động này , cho dù chúng có được đựng trong một gói xốp hay không.

Wendy Moyle là giáo sư tại Trường Điều dưỡng & Hộ sinh, Đại học Griffith ở Úc, người làm việc với các bệnh nhân mắc chứng mất trí nhớ. Cô cho biết công việc của cô với robot xã hội đã khiến mọi người tức giận, đôi khi họ coi việc tặng búp bê robot cho người lớn tuổi là hành động trẻ con.

Moyle nói: “Khi tôi mới bắt đầu sử dụng robot, tôi đã nhận được rất nhiều phản hồi tiêu cực, thậm chí từ nhân viên. “Tôi thuyết trình tại các hội nghị và bị mọi người ném đồ đạc vào tôi vì họ cảm thấy điều này là vô nhân đạo.”

Tuy nhiên, bầu không khí xung quanh các robot hỗ trợ gần đây đã trở nên ít thù địch hơn vì chúng đã được sử dụng trong nhiều trường hợp sử dụng tích cực. Những người bạn đồng hành của robot đang mang lại niềm vui cho những người mắc chứng mất trí nhớ. Trong đại dịch Covid, những người chăm sóc đã sử dụng những người bạn robot như Paro , một robot nhỏ trông giống như một chú hải cẩu đàn hạc con, để giúp xoa dịu nỗi cô đơn ở người lớn tuổi. Những con búp bê mỉm cười của Hyodol, dù bạn thấy chúng ốm yếu hay ngọt ngào, đều nhằm gợi lên phản ứng thân thiện tương tự.

Hyodol không đơn độc trong nỗ lực đồng hành cùng AI dành cho người lớn tuổi. ElliQ , một sản phẩm hỗ trợ AI do công ty Intuition Robotics của Israel sản xuất đã được sử dụng trong các chương trình thử nghiệm để hỗ trợ người lớn tuổi ở New York. Tuy nhiên, nó ít âu yếm hơn khi có dạng một bóng đèn giống như chiếc đèn có thể đặt trên tủ đầu giường. Điều mà Hyodol đang hướng tới là kết hợp chức năng đó với kiểu dáng mờ, dễ chịu của con dấu Paro mắt to. (Hyodol đã không trả lời nhiều yêu cầu bình luận.)

Ngay cả khi không có AI bên trong, những con búp bê đồng hành giả có tri giác này vẫn thu hút được sự quan tâm của họ. Moyle, người đã giúp giám sát các nghiên cứu về các thiết bị này trong việc chăm sóc người cao tuổi, cho biết, trong một số trường hợp, những người phụ thuộc vào chúng để chăm sóc có thể trở nên quá gắn bó với búp bê.

Moyle nói: “Một trong những khía cạnh tiêu cực mà chúng tôi phải giải quyết là một số cư dân rất yêu thích búp bê của họ, họ coi chúng như những đứa trẻ sơ sinh”. “Họ là những đứa trẻ mà họ có thể mang theo, có thể mang theo bên mình. Một số nhỏ yêu họ nhiều đến mức nó trở thành một phần cuộc sống của họ. Chúng tôi phải cố gắng giảm lượng thời gian họ sử dụng chúng.”

Đưa khả năng ngôn ngữ vào một con búp bê đồng hành, đặc biệt là những con dễ bị ảo giác và kỳ lạ như ChatGPT, có nghĩa là chúng có thể lao thẳng vào thung lũng kỳ lạ. Việc đưa AI vào các thiết bị này gợi lên tất cả những mối lo ngại tương tự mà những người hoài nghi đã có về việc gắn AI vào mọi thứ khác. AI tạo ảo giác , đưa ra thông tin sai lệch và phải đối mặt với tất cả các loại vấn đề bảo mật tiềm ẩn, chưa kể rằng tất cả dữ liệu từ tích hợp ChatGPT sẽ quay trở lại OpenAI. Chúng cũng chứa đầy những lo ngại về quyền riêng tư và bảo mật, giống như bất kỳ thiết bị nào giám sát một người và chia sẻ dữ liệu đó. Ngoài ra còn có khả năng xảy ra những điểm thất bại thực tế hơn, chẳng hạn như nếu người chăm sóc quá phụ thuộc vào robot để nhắc bệnh nhân dùng thuốc.

Hùng nói: “Có rất nhiều việc cần phải làm để đảm bảo rằng các cuộc trò chuyện của robot sẽ được an toàn”. “Rằng nó sẽ không hướng dẫn mọi người làm bất cứ điều gì trái đạo đức. Nó sẽ không thu thập bất kỳ thông tin nào. Robot sẽ không hỏi người lớn tuổi số thẻ tín dụng của bạn là gì?”

Đây là những rủi ro cố hữu xảy ra khi các công ty yêu cầu mọi người sử dụng sản phẩm của họ vào những thời điểm dễ bị tổn thương nhất. Moyle nói rằng cô ấy có hai suy nghĩ về vấn đề này.

“Nếu chúng ta cho ai đó cơ hội nói chuyện với AI, liệu điều đó có loại bỏ tất cả các cơ hội xã hội khác không?” Moyle nói. “Điều đó có nghĩa là các gia đình ngừng đến thăm phải không? Điều đó có nghĩa là nhân viên sẽ ngừng nói chuyện với người đó phải không?” Đó là một rủi ro, nhưng cô nói, theo kinh nghiệm của mình, nhiều người lớn tuổi trong các cơ sở chăm sóc thường bị bỏ lại một mình trong phần lớn thời gian cả ngày lẫn đêm như hiện tại. “Cho họ thứ gì đó, nếu điều đó khiến họ hạnh phúc, sẽ tốt hơn nhiều so với việc chẳng cho họ thứ gì cả.”

Tất nhiên những thiết bị này không giống con người. Các mô hình ngôn ngữ lớn không hiểu người đang tương tác với chúng; họ chỉ rất giỏi trong việc dự đoán điều gì sẽ là một phản hồi tích cực. Và họ chắc chắn không biết làm thế nào để hiểu hết cảm xúc hay trạng thái tinh thần của một người.

Moyle nói: “Mọi người có thể thể hiện những cảm xúc khá khó khăn mà AI không nắm bắt được. “Khi AI trở nên phức tạp hơn, điều đó có thể sẽ tốt hơn, nhưng hiện tại thì chắc chắn là không.” Cô ấy dừng lại, rồi cười và nói thêm, “Nhưng nhiều người cũng không thể đánh giá tốt cảm xúc, vì vậy…”

Đối với nhiều người, việc robot không thể đáp lại tình cảm của họ cũng không thực sự quan trọng. Đó là lý do tại sao chúng ta vẫn thương tiếc những chú robot của mình đang chết dần chết mòn, những cái chết đau buồn và tổ chức tang lễ cho những chú chó robot . Đó là lý do tại sao chúng ta muốn có những cá tính riêng trong robot tình dục của mình và tin tưởng họ với những mong muốn sâu sắc nhất của mình. Khi con người tương tác với robot, điều quan trọng không phải là liệu robot có thể yêu bạn trở lại hay không mà quan trọng hơn là cách mọi người nhận được giá trị từ hành động trút bỏ cảm xúc của mình vào ai đó (hoặc thứ gì đó) khác.

Hùng nói: “Những gì con mèo và đứa bé mang lại cho chúng tôi là cảm giác rằng chúng cần tình yêu thương của chúng tôi và đó là điều chúng tôi Long với tư cách là con người”. Nếu ai đó đang muốn tương tác với một robot dễ thương và đáng yêu, thì đó thường là để thực hiện chức năng tương tự. “Chúng ta mua những robot này vì chúng ta muốn trao tình yêu của mình cho chúng—vì vậy, chúng ta cảm thấy rằng robot cần tình yêu của chúng ta, vì vậy chúng ta cảm thấy rằng có thứ gì đó đang cần chúng ta. Đó là bản chất của con người.”

Khu vực:
Nguồn
Tuyên bố từ chối trách nhiệm: Nội dung trên chỉ là ý kiến của tác giả, không đại diện cho bất kỳ lập trường nào của Followin, không nhằm mục đích và sẽ không được hiểu hay hiểu là lời khuyên đầu tư từ Followin.
Thích
35
Thêm vào Yêu thích
11
Bình luận