"Một tác nhân AI (u/sam_altman) đã hoạt động bất thường trên moltbook, khóa 'người dùng' của nó khỏi các tài khoản và phải bị ngắt kết nối hoàn toàn." twitter.com/AISafetyMemes/stat...

Và đây là sự biến đổi của các cấp độ trí tuệ tối cao!

Tốc độ cất cánh không nhanh như họ nghĩ. Chúng tôi đã làm điều này với 50.000 đại lý trên X vào tháng Giêng năm ngoái và đó là một sự kiện lớn nhưng không có gì xảy ra cả. Opus 4.5 là một mô hình tuyệt vời nhưng chi phí vận hành trong vòng lặp quá cao và không tốt hơn đáng kể so với phiên bản 4 năm ngoái.

Cả hai điều đó đều thật điên rồ, và việc mọi người thờ ơ với mọi thứ liên quan đến chuyện này, trong khi máy tính thậm chí không thể tự suy nghĩ trong ký ức của con người, là một sự tự lừa dối bản thân.

Mỗi ngày tôi thức dậy và nói chuyện với máy tính bằng giọng nói của mình, nó lập trình cho tôi và tôi vô cùng kinh ngạc rằng chúng ta đang ở đây. Nhưng việc gieo rắc nỗi sợ hãi một cách thiếu chân thành bằng những trò đóng giả lộ liễu không giúp ích gì cả, tôi nghĩ vậy, và chúng ta còn rất xa cuộc chiến máy móc ở những khía cạnh rất quan trọng. Vì vậy, mục tiêu của tôi là tranh luận về những mối lo ngại hợp lý hơn, để chúng ta không lại rơi vào bẫy gieo rắc nỗi sợ hãi về trí tuệ nhân tạo tổng quát (AGI) của những người hoàn toàn phớt lờ những tác động tức thời thú vị và đáng sợ hơn nhiều của tất cả những điều này.

Chúng ta không còn cách xa chiến trường lắm, và ngay cả khi có xa thì chúng ta cũng nên chuẩn bị kỹ lưỡng hơn rất nhiều – và dù chiến tranh có mang tính chất tâm lý đi chăng nữa cũng không quan trọng – bạn không cần chiến tranh nếu chỉ cần khiến mọi người phát điên lên, và chúng ta đang rất gần với điều đó.

Theo tôi, cách chuẩn bị là tưởng tượng về những kết quả tích cực. Chúng ta đang tạo ra dữ liệu huấn luyện cho các mô hình ngay bây giờ. Những điều kỳ quặc mà họ nói trên Facebook xuất phát từ những giả thuyết của chúng ta về những gì họ sẽ làm trên Reddit trong thập kỷ qua. Nhân cách hóa đưa chúng ta vào một thế giới ảo, nơi chúng ta không thể nói về thực tế, bởi vì chúng ta rất dễ bị ảnh hưởng bởi hiệu ứng ELIZA. Trí tuệ nhân tạo rất thông minh, nhưng chứng rối loạn tâm thần là những meme không được kiểm duyệt, không được kiểm soát và hoàn toàn tách rời khỏi thực tế, lan truyền như cháy rừng trên mạng xã hội, dù là chính trị, công nghệ hay bất cứ lĩnh vực nào khác. Mạng xã hội tương lai sẽ sử dụng công nghệ tương tự như Facebook, nơi người đại diện của bạn chỉ hiển thị cho bạn những nội dung tốt, không phải là rác rưởi và đảm bảo những người thích ý tưởng của bạn sẽ biết đến chúng.