Cập nhật/Hôm nay chúng ta sẽ nói về Jeffrey Hinton và Giải thưởng Nobel Vật lý. Tôi sẽ nói xa một chút.
Hinton là "cha đẻ của học sâu" trong lĩnh vực trí tuệ nhân tạo không ai tranh cãi. Đóng góp cơ bản của ông là lý thuyết về thuật toán lan truyền ngược, được sử dụng rộng rãi trong học sâu. Vào cuối thu năm trước, tại San Jose, tôi đã lần đầu tiên xem Hinton trả lời phỏng vấn trên YouTube và bị thu hút. Hình ảnh của Hinton khó quên. Ông giống hệt Pinocchio trong "Pinocchio", đặc biệt là cái mũi nhọn của nhân vật gỗ. Lúc đó, cả thế giới đều biết về OpenAI và ChatGPT. Nhưng ngoài giới AI, ít người biết đến tên tuổi của Hinton.
Tôi đùa về Pinocchio với ông già.
Một con rối gỗ ngây thơ và đầy uống hiếu kỳ, luôn muốn trở thành con người thật. Tương tự, Hinton cũng muốn biến trí tuệ nhân tạo thành hiện thực, và cũng bị chế giễu. Những người am hiểu lịch sử phát triển máy tính chắc chắn biết rằng, lĩnh vực trí tuệ nhân tạo đã trải qua nhiều gian nan, đầu tư công nghệ lên xuống thất thường, những người làm việc trong lĩnh vực này bị chế giễu suốt một chặng đường dài. Khi xem Hinton nói chuyện, bạn sẽ thấy ánh mắt và biểu cảm của ông có phần thanh lịch như Pinocchio.
Cuộc gọi thông báo giải thưởng Nobel được gọi từ Thụy Điển, vào khoảng 2 giờ sáng.
Người ở Stockholm hỏi: "Ông đang ở đâu?" "Tôi đang ở một khách sạn rẻ tiền ở California, nơi này có môi trường mạng không tốt lắm." Hinton trả lời hơi ngượng ngùng. Vào lúc này, cảm xúc khi nhận được giải thưởng Vật lý. Hinton nói rằng ông tưởng đó là trò đùa, và sau đó dùng từ "dream amazing" - ngạc nhiên như trong một giấc mơ.
"Ông mô tả bản thân như thế nào?
Liệu ông là nhà khoa học máy tính, hay là nhà vật lý đang cố gắng hiểu sinh học?"
Hinton không đưa ra câu trả lời trong hai lựa chọn đơn giản đó.
Qua nhiều năm quan sát, những người trả lời trực tiếp vào câu hỏi lựa chọn như vậy thường không phải là những người thực sự mạnh mẽ.
Bất kể học vấn có cao đến đâu, cũng không có ích gì. Nhiều người trong chúng ta rất quen với việc làm bài tập, nhưng sau khi tốt nghiệp lại rơi vào trạng thái trôi nổi, cảm thấy vô lực. Bởi vì con người đã bước vào một giai đoạn, không phải là làm bài tập, mà là tìm đường đi. Trong thực tế, hầu hết các vấn đề ban đầu do người khác đặt ra thường mang tính siêu hình. Huống chi họ cũng chỉ hỏi một cách tùy tiện, không suy nghĩ nhiều. Con đường phải tự mình đi ra.
Hinton nói, ông là "người suốt đời suy nghĩ về cách hoạt động của não người. Khi tìm cách hiểu cách hoạt động của não, tôi đã tìm ra một kỹ thuật có hiệu quả đáng kinh ngạc."
Đây là một câu trả lời rất hay.
Nỗ lực và kiên trì suốt đời của Hinton đã khiến trí tuệ nhân tạo trở thành hiện thực. Khi còn trẻ, Hinton học tại Đại học Cambridge, cố gắng tìm hiểu cách não người suy nghĩ, thử học đồng thời cả vật lý và sinh lý, nhưng sau một năm đều bỏ cuộc, sau đó chuyển sang học kiến trúc, rồi lại bỏ, một năm sau lại chuyển sang học triết học, hai năm sau bất đồng với giáo viên hướng dẫn nên lại bỏ cuộc, cuối cùng nhận bằng cử nhân tâm lý thực nghiệm. Sau khi tốt nghiệp, ông lại thất nghiệp.
Nhiều người không biết rằng, sau khi tốt nghiệp, Hinton đã làm nghề thợ mộc trong một năm. Haha, Pinocchio đã bị埋藏ở đây rồi.
Cho đến khi nghe nói có một ngành gọi là trí tuệ nhân tạo.
Hinton quyết định đến Đại học Edinburgh, nhận bằng tiến sĩ trí tuệ nhân tạo, sau khi tốt nghiệp đến Đại học Carnegie Mellon (CMU) ở Mỹ làm giảng viên, "ngạc nhiên vì mọi người ở đây chỉ biết ở phòng thí nghiệm."Hinton từng than phiền rằng, trong môi trường ở Anh, sau giờ làm việc, mọi người chỉ biết đến quán cà phê. Ban đầu, Hinton gần như không có giao lưu nội bộ ở CMU, duy nhất là trao đổi với một giáo sư của một trường đại học khác ở Mỹ, và một chuyên gia thống kê sau này cũng gia nhập CMU, mới có thể cùng thảo luận về định hướng học thuật của trí tuệ nhân tạo. Không tìm được cách, không tìm được người đồng điệu với AI, trong những lúc buồn chán nhất, Hinton thậm chí còn đọc tiểu thuyết "Tội ác và trừng phạt" của nhà văn Nga Dostoevsky.
Hinton công bố lý thuyết về thuật toán lan truyền ngược (BP) vào năm 1986. Khó giải thích, cần phải mất công sức.
Nói một cách đơn giản, BP cung cấp khả năng huấn luyện học sâu trên tập dữ liệu lớn, không chỉ trong nhận dạng hình ảnh, nhận dạng giọng nói hay xử lý ngôn ngữ tự nhiên, mà còn cung cấp khả năng khái quát hóa cho các tình huống chưa từng thấy cho các mô hình Transformer rất phổ biến hiện nay. Ngày nay, ChatGPT đóng nguồn của OpenAI và LLaMA của Meta đều dựa trên kiến trúc Transformer, thông qua việc tiền huấn luyện trên lượng lớn dữ liệu văn bản. Thuật toán lan truyền ngược có thể điều chỉnh các tham số trong quá trình này, giúp mô hình nắm bắt tốt hơn các quy luật thống kê của ngôn ngữ.
Chương về học máy trong các khóa học máy tính đại học, chắc chắn sẽ có một phần quan trọng về lan truyền ngược.
Tôi nhớ rằng, 7 năm trước, khi đọc cuốn "Học máy" của GS Châu Chí Hoa (Đại học Thanh Hoa), trong một chương về "Mạng nơ-ron nhân tạo", có một phần chuyên giải thích về "Thuật toán lan truyền ngược lỗi", tức là thuật toán lan truyền ngược thường được gọi. Đây là kỹ thuật then chốt trong việc huấn luyện mạng nơ-ron, dùng để cập nhật trọng số mạng thông qua "phương pháp hạ gradient", nhằm giảm thiểu sai số dự đoán của mạng.
So với các làn sóng công nghệ như máy tính cá nhân, Internet, điện thoại thông minh và điện toán đám mây, Hinton, người đang theo đuổi giấc mơ trí tuệ nhân tạo, đã phải ngồi trên băng ghế lạnh suốt ba bốn thập kỷ.
Khi sắp 70 tuổi, Hinton thấy toàn thế giới đang sử dụng thuật toán học sâu do chính ông đề xuất.
Những người quen biết Hinton chắc chắn biết rằng, Ilya Sutskever, cựu Giám đốc Khoa học trưởng của OpenAI, là học trò của ông khi ông giảng dạy tại Đại học Toronto. Có thể coi là học trò thân tín. Hinton rất công nhận khả năng nhận thức và kỹ năng kỹ thuật của học trò này. Hinton kể một câu chuyện, khi Ilya cần viết một API cho công cụ tính toán toán học MatLab để nhóm của họ có thể xử lý định dạng dữ liệu phức tạp theo cách thống nhất, thầy Hinton nói chúng ta không nên lãng phí thời gian nghiên cứu, công việc này sẽ mất khoảng một tháng, nhưng học trò Ilya nói rằng ông đã hoàn thành chương trình vào sáng sớm hôm đó.
Năm 2013, Google đã mua lại công ty khởi nghiệp AI DNNresearch do Hinton và Ilya cùng sáng lập.
Có thể nói, công ty này là phái sinh từ nhóm nghiên cứu của Hinton, lúc đó đang tiến hành nghiên cứu học máy trong lĩnh vực nhận dạng hình ảnh, Google đã sử dụng công nghệ này để tăng cường các tính năng tìm kiếm ảnh.
Hinton là người Anh.
Nhiều người nói người Anh không còn hăng hái như thời Đế chế Anh không bao giờ lặn. Mùa hè này tôi đi Anh một vòng, bạn bè ở London cảnh báo tôi cẩn thận với băng đảng cướp giật. Nói về hai trường đại học Anh liên quan đến Hinton, bạn sẽ biết chúng ta không thể tự mãn.
Trong Học viện Trinity ở Đại học Cambridge, chỉ riêng trong nghiên cứu vật lý lý thuyết, nơi này đã sản sinh ra Newton, Maxwell và Hawking, gần như xây dựng và củng cố ba kỷ nguyên quan trọng của vật lý. Trong lĩnh vực máy tính, Học viện King's College cũng đã sản sinh ra không chỉ Xu Chí Mô mà còn cả Alan Turing và Hinton. Turing đề xuất câu hỏi nổi tiếng, làm thế nào để kiểm tra máy có thông minh không? Hinton lại dành cả cuộc đời để giải quyết vấn đề. Năm 2018, Hinton cùng hai nhà khoa học trí tuệ nhân tạo khác nhận giải Turing. Thiên tài như Turing năm xưa, phải chịu đựng nỗi đau tinh thần khủng khiếp, ăn một quả táo tẩm xyanua rồi ra đi. Ngày nay, người Anh bắt đầu in chân dung Turing lên tờ 50 bảng Anh.
Quay lại vấn đề, nhiều người không hiểu về văn hóa phương Tây, vẫn tưởng "Trinity" (Ba Ngôi) có nghĩa tương tự như Tập đoàn Tam Á.
"Trinity" trong giáo lý Thiên Chúa giáo là khái niệm "Ba Ngôi Một Thể", tức Thiên Chúa Cha
Thành phố Edinburgh thật đẹp. Phong cách bí ẩn của thời Trung cổ có thể khiến người ta suy ngẫm về nguồn gốc và hướng đi. Cha đẻ của điện từ học, Maxwell, cũng là người đầu tiên học toán và vật lý tại Edinburgh. Một trăm năm trước, Cố Hồng Minh, người hiểu sáu ngoại ngữ, khi lên lớp đội mũ lễ phép và cầm ấm trà, gần như đối lập với phái cách mạng Ngũ Tứ, ông từng học triết học tiến sĩ tại Edinburgh. Thời đó, Đại học Bắc Kinh, từ trong trường ra ngoài, vừa chứa đựng được phái cách mạng, cũng có thể có ông Cố như một phái bảo thủ. Thầy của Mao Trạch Đông khi học ở Trường Sư phạm Trường Sa, Dương Xương Tế, tốt nghiệp triết học tại Đại học Edinburgh, rất yêu mến Mao, sau đến Đại học Bắc Kinh, gả con gái cho Mao và sắp xếp cho Mao làm việc tại thư viện. Mao đã thay đổi Trung Quốc, sự khai sáng tư tưởng của Mao bắt nguồn từ Dương Xương Tế, người tốt nghiệp Đại học Edinburgh.
Nhiều người nói việc trao giải Nobel cho các nhà khoa học máy tính là không đúng chuyên môn. Thực ra, giải Nobel không phải lần đầu tiên trao cho lĩnh vực máy tính, trước đó đã có Shockley và nhóm phòng thí nghiệm Bell. Năm 1958, họ được trao giải vì phát minh ra transistor, đóng góp trực tiếp thúc đẩy công nghệ vi mạch máy tính. Trường đào tạo "Huangpu" của ngành công nghiệp silicon Thung lũng Silicon, nên đầu tiên là phòng thí nghiệm Shockley, bởi vì các nhà khoa học không giỏi quản lý, nội bộ rối loạn, liên tiếp ra đi thành lập Fairchild Semiconductor và Intel, Moore, người đề ra định luật Moore, là nhân viên của phòng thí nghiệm ông, cũng là một trong những "tám kẻ nổi loạn" nổi tiếng của Thung lũng Silicon. Ngày nay, Nvidia và TSMC, thực ra cũng là những người cháu chắc của họ.
Nhà khoa học Sutton làm việc tại Google trong 10 năm, làm phó tổng giám đốc, cuối cùng rời khỏi.
Không phải vì ý kiến không thống nhất, mà vì lo ngại rủi ro của con người không thể kiểm soát được trí tuệ nhân tạo, nên từ bỏ công việc trong doanh nghiệp, rời khỏi doanh nghiệp, để có thể tự do thảo luận về rủi ro của trí tuệ nhân tạo, không bị giới hạn bởi chính sách nội bộ của doanh nghiệp, Sutton trở thành một nhà phê bình trong lĩnh vực trí tuệ nhân tạo. Quan sát lịch sử hiện đại, tôi nhận thấy, những nhà khoa học chân chính, một khi đã vào thương mại và chính trị, luôn đầy rẫy tình yêu - hận. Cùng một sự khác biệt như vậy, cũng xuất hiện giữa Ilya và Altman, do "ngây thơ".
Xin các bạn "chống đối" hãy tha cho tôi, ở đây tôi dùng từ này mang nghĩa tích cực rất lớn.
Trong Thế chiến II, nhà vật lý Oppenheimer đã giúp quân đội Mỹ chế tạo ra bom nguyên tử, nhưng sau khi chiến tranh kết thúc, ông suốt đời chống lại việc tiếp tục phát triển bom hydro.
Ông nhận ra rằng, chính ông đã sử dụng khoa học để thay đổi thế giới, nhưng công nghệ này lại có thể nằm trong tay một số người và lúc nào cũng có thể mất kiểm soát. Oppenheimer có nhiều thành tựu nghiên cứu khoa học có thể đạt giải Nobel, nhưng làm sao giải Nobel lại trao cho người chế tạo ra bom nguyên tử. Những năm cuối đời của ông đầy đau khổ và cô độc. Giống như Oppenheimer, Sutton cũng có những lo lắng tương tự, ông công khai chỉ trích OpenAI về sự thờ ơ với an toàn trí tuệ nhân tạo, là "tính lợi nhuận của chủ nghĩa tư bản".
Nếu chúng ta nhìn lại, hơn một trăm năm trước, nhà văn khoa học viễn tưởng George Orwell đã viết "Máy thời gian", chúng ta ngày nay đã trở thành thế giới viễn tưởng trong tác phẩm của họ. Nhưng, ngày nay, loài người vẫn có thể tiến xa hơn nữa, tại sao mất kiểm soát, ảo tưởng và cứu rỗi luôn là chủ đề chính của khoa học viễn tưởng?
Nếu tôi viết khoa học viễn tưởng, chương mở đầu đầu tiên sẽ là do hai nước chiến tranh, loài người bị vũ khí hạt nhân tiêu diệt, sinh vật carbon biến mất, sinh vật silicon ẩn mình dưới lòng đất, sử dụng năng lượng ánh sáng và thuật toán, tự nâng cấp và sinh sôi, thống trị Trái đất. Dữ liệu lớn mà chúng ta đang có, đã biến dạng thành máu và tế bào của sinh vật silicon. Nền văn minh Trái đất ngày nay trở thành tiền sử của lịch sử thiên hà. Chỉ còn một số ít người lên tàu Noah đến sao Hỏa, sau nhiều thế hệ nỗ lực, chuẩn bị tái chiếm quê hương.
Cảm thấy kịch bản này quá lỗi thời?
Tôi là một người bình thường.
Khoa học là thang bậc của nền văn minh nhân loại và là thành phần cốt lõi trong quá trình tiến hóa nhảy vọt, không có thiện ác. Nhưng sau thời hiện đại, đối tượng ứng dụng sớm nhất của khoa học hầu như đều là quân sự.
Vậy "tâm hồn khoa học" là gì? Tôi không dám khẳng định. Có nhiều nhà khoa học như Sutton. Họ có tâm hồn trong sáng, tò mò mạnh mẽ, chuyên tâm vào một việc mà không bị ảnh hưởng bởi bên ngoài. Tôi có thể cảm nhận được. Những nhà khoa học lỗi lạc, từ sự tò mò về một vật nhỏ bé, cuối cùng đi đến sự quan tâm đến số phận của nhân loại. Tư duy đỉnh cao chỉ đến từ một từ, đó là yêu. Trong đó, thường có bi kịch.
Chúng ta thường nói, việc tốt thường gặp nhiều trở ngại.
Nhưng có thể, những việc tốt lớn phải trải qua cả cuộc đời mới hoàn thành.
