Openai的founder Ilya最近一起的訪談利用週末時間好好細讀了下。Ilya的這個訪談值得好好看幾遍，除了講了從scaling時代正邁向研究時代（不能只靠算力不斷的擴展來實現更智能），我印象最深的是他的關於“研究品味“。 這個品味，是在研究過程中，讓他能在研究高度不確定的事物時，如何通過自己的品味（信念和經驗）自上而下的去驗證，這個信念在AI裡核心就是神經網絡的擬人化（人的大腦的原理）。這些品味的感覺是基礎的，當實驗與信念不一致時，有時可能因為數據本身出了bug導致的，但如果只看當下和能看到的數據等已知事物，可能就無法找到真正正確的路線。 這個研究品味不單單可以用在AI LLM研究上，不管你是創業，你是做投資，擼空投，做新產品等等，這些都是在面對高度不確定的事情。你的品味，就是你對事物基本的本質認知，或則一些事物的基本規律等等基礎維度。 比如當你是一個產品經理，當你看到一個功能幾乎沒人用，如果以此推論，可能用戶沒有這個需求，你把他砍掉了，但也有可能是你的設計出了問題，用戶沒有注意到這個功能。當你是一個沒有產品品味的人時，可能只看你能看到的局部信息來做了決策和選擇。 回想很多年前，在csdn上看到深度學習的技術文章講解的是如果通過RNN實現加減乘除的計算，當時只是覺得很神奇，但是Ilya當時的好奇心已經聯想到既然能做加減乘除的預測，就應該能做其他更復雜的事情。並且他意識到神經網絡基礎是來自於模擬大腦的結構作為理論基礎，這兩個點對Ilya探索LLM的智能化研究起到了重要的基礎品味的積累。

中文版mp.weixin.qq.com/s/6V2UBYNX6Ic...…