前言你是如何找到這本書的？是在網(wǎng)站上看到的廣告嗎？也許是朋友或?qū)�師推薦的，或是在社交媒體上看到的相關(guān)帖子。也有可能是在書店的書架上發(fā)現(xiàn)的，一家你通過地圖應(yīng)用找到的書店。無論你是如何找到它的，你幾乎可以肯定是通過某種推薦系統(tǒng)來到這本書的。實現(xiàn)和設(shè)計為用戶提供建議的系統(tǒng)是機器學(xué)習(xí)（ML）在任何業(yè)務(wù)中最流行和最重要的應(yīng)用之一。無論你是希望幫助用戶找到最符合他們品味的衣服，還是從網(wǎng)上商店中購買最吸引人的商品，或是提供豐富娛樂的視頻，從他們的網(wǎng)絡(luò)中呈現(xiàn)出最具吸引力的內(nèi)容，或者是他們當(dāng)天需要知道的新聞亮點，推薦系統(tǒng)都是實現(xiàn)這些目標的方式�，F(xiàn)代推薦系統(tǒng)的設(shè)計與它們所服務(wù)的領(lǐng)域一樣多樣化。這些系統(tǒng)不僅包括實現(xiàn)和執(zhí)行產(chǎn)品目標的計算機軟件架構(gòu)，還包括排序的算法組件。推薦排名的方法可以來自傳統(tǒng)的統(tǒng)計學(xué)習(xí)算法、線性代數(shù)的啟發(fā)、幾何考慮，當(dāng)然還有基于梯度的方法。正如算法方法的多樣性一樣，推薦的建模和評估考慮也同樣多樣化：個性化排名、搜索推薦、序列建模，以及這些方法的評分現(xiàn)在都是從事推薦系統(tǒng)工作的機器學(xué)習(xí)工程師需要了解的內(nèi)容。如果你是一名機器學(xué)習(xí)從業(yè)者，你可能已經(jīng)了解推薦系統(tǒng)，并且可能知道一兩種最簡單的建模方法，并能夠?qū)�業(yè)地談?wù)撓嚓P(guān)的數(shù)據(jù)結(jié)構(gòu)和模型架構(gòu)。然而，RecSys 常常超出數(shù)據(jù)科學(xué)和機器學(xué)習(xí)的核心課程。許多擁有多年行業(yè)經(jīng)驗的高級數(shù)據(jù)科學(xué)家對實際構(gòu)建推薦系統(tǒng)知之甚少，當(dāng)談及此話題時可能會感到不安。盡管RecSys 與其他機器學(xué)習(xí)問題有著相似的基礎(chǔ)和技能，但其活躍的社區(qū)和快速發(fā)展的重點使得構(gòu)建推薦系統(tǒng)容易被那些已經(jīng)投入時間或愿意保持最新信息的其他數(shù)據(jù)科學(xué)家所忽略。這本書的存在正是為了突破這些感知的障礙。理解推薦系統(tǒng)在實際層面上的應(yīng)用不僅對需要向用戶提供內(nèi)容的商業(yè)案例有用，RecSys 的基本理念通常還能彌合其他類型機器學(xué)習(xí)之間的巨大差距。例如，一個文章推薦系統(tǒng)可能會利用自然語言處理（NLP）來找到文章的表示，使用序列建模來促進更長時間的參與，并使用上下文組件來允許用戶查詢引導(dǎo)結(jié)果。如果你純粹是出于學(xué)術(shù)興趣進入這一領(lǐng)域，無論你對數(shù)學(xué)的哪個方面感興趣，遲早都會在RecSys 中找到聯(lián)系或應(yīng)用！最后，如果與其他領(lǐng)域的聯(lián)系、幾乎所有數(shù)學(xué)的應(yīng)用或明顯的商業(yè)實用性還不足以讓你對RecSys 感興趣，那么令人驚嘆的尖端技術(shù)可能會達到這個效果。RecSys 始終處于甚至超越了機器學(xué)習(xí)的前沿。擁有顯著的收入影響的一個好處是，公司和從業(yè)者需要不斷推動可能性的邊界以及他們的實現(xiàn)方式。當(dāng)你考慮到FAANG[ 即Meta（前Facebook）、Apple、Amazon、Netflix 和Google] 的五個字母中有四個的核心在于一個或多個推薦系統(tǒng)時，這并不奇怪。有人可能會爭論說Apple 的核心也有推薦系統(tǒng)。盡管確實如此，App Store 是公司至關(guān)重要的戰(zhàn)略產(chǎn)品，但我們保守地認為五個中的四個，認為推薦系統(tǒng)并不是Apple的主要收入來源。作為從業(yè)者，你需要了解如何：? 將你的數(shù)據(jù)和業(yè)務(wù)問題框架化為RecSys 問題。? 確定開始構(gòu)建RecSys 所需的基本數(shù)據(jù)。? 確定適合你的RecSys 問題的模型以及如何評估它們。? 實現(xiàn)、訓(xùn)練、測試和部署上述模型。? 跟蹤指標以確保系統(tǒng)按計劃運行。? 隨著你對用戶、產(chǎn)品和業(yè)務(wù)案例的了解不斷改進系統(tǒng)。本書展示了完成這些步驟所需的核心概念和示例，無論行業(yè)或規(guī)模如何。我們將引導(dǎo)你通過數(shù)學(xué)、思想和實現(xiàn)細節(jié)來構(gòu)建推薦系統(tǒng)，無論這是你的第一個還是第五十個推薦系統(tǒng)。我們將向你展示如何使用Python 和JAX 構(gòu)建這些系統(tǒng)。如果你還不熟悉，JAX 是Google 推出的一個Python 框架，旨在使自動微分和函數(shù)式編程范式成為一等對象。此外，它使用特別方便于來自各種背景的機器學(xué)習(xí)從業(yè)者的NumPy API 風(fēng)格。我們將展示必要核心概念的代碼示例和架構(gòu)模型，并提供將這些系統(tǒng)擴展到生產(chǎn)應(yīng)用的方法。排版約定本書采用以下排版約定。斜體（Italic）表示新術(shù)語、URL、電子郵件地址、文件名和文件擴展名。等寬字體（Constant width）表示程序清單，在段落內(nèi)表示程序元素，例如變量、函數(shù)名稱、數(shù)據(jù)庫、數(shù)據(jù)類型、環(huán)境變量、語句和關(guān)鍵字。粗體等寬字體（Constant width bold）表示應(yīng)由用戶原封不動輸入的命令或其他文本。斜體等寬字體（Constant width italic）表示應(yīng)該替換成用戶提供值的文本，或者由上下文決定的值。使用代碼示例所包含的代碼片段引用了將在中等規(guī)模且大多數(shù)情況下免費的資源上運行的筆記本。為了便于實驗和探索，我們通過Google Colab 筆記本提供代碼。補充材料（代碼示例、練習(xí)等）可在GitHub 上的ESRecsys 下載（https://github.com/BBischof/ESRecsys/）。與本書相關(guān)的技術(shù)問題，或者在使用代碼示例上有疑問，請發(fā)電子郵件到bookquestions@oreilly.com。本書是要幫你完成工作的。一般來說，如果本書提供了示例代碼，你可以把它用在你的程序或文檔中。除非你使用了很大一部分代碼，否則無需聯(lián)系我們獲得許可。比如，用本書的幾個代碼片段寫一個程序就無需獲得許可，銷售或分發(fā)OReilly 圖書的示例集則需要獲得許可；引用本書中的示例代碼回答問題無需獲得許可，將書中大量的代碼放到你的產(chǎn)品文檔中則需要獲得許可。我們很希望但并不強制要求你在引用本書內(nèi)容時加上引用說明。引用說明一般包括書名、作者、出版社和ISBN，例如：Building Recommendation Systems in Python and JAX by Bryan Bischof and Hector Yee. Copyright 2024 Bryan Bischof and Resonant Intelligence LLC, 978-1-492-09799-0 。如果你覺得自己對示例代碼的使用超出了上述許可范圍，請通過permissions@oreilly.com 與我們聯(lián)系。OReilly 在線學(xué)習(xí)平臺（OReilly Online Learning）近40 年來，OReilly Media 致力于提供技術(shù)和商業(yè)培訓(xùn)、知識和卓越見解，來幫助眾多公司取得成功。公司獨有的專家和改革創(chuàng)新者網(wǎng)絡(luò)通過OReilly 書籍、文章以及在線學(xué)習(xí)平臺，分享他們的專業(yè)知識和實踐經(jīng)驗。OReilly 在線學(xué)習(xí)平臺按照您的需要提供實時培訓(xùn)課程、深入學(xué)習(xí)渠道、交互式編程環(huán)境以及來自O(shè)Reilly 和其他200 多家出版商的大量書籍與視頻資料。更多信息，請訪問網(wǎng)站：https://www.oreilly.com/。聯(lián)系我們?nèi)魏斡嘘P(guān)本書的意見或疑問，請按照以下地址聯(lián)系出版社。美國：OReilly Media, Inc.1005 Gravenstein Highway NorthSebastopol, CA 95472中國：北京市西城區(qū)西直門南大街2 號成銘大廈C 座807 室（100035）奧萊利技術(shù)咨詢（北京）有限公司我們?yōu)楸緯�建立了一個網(wǎng)頁，列出了勘誤表、示例和任何附加信息。您可以訪問https://oreil.ly/build_rec_sys_python_jax 查看該頁面。欲了解本社圖書和課程的新聞和信息，請訪問我們的網(wǎng)站http://oreilly.com。我們的LinkedIn：https://linkedin.com/company/oreilly-media。我們的Twitter：https://twitter.com/oreillymedia。我們的YouTube：http://youtube.com/oreillymedia。致謝Hector 想感謝她的丈夫Donald 在本書寫作期間給予的愛與支持，以及姐姐Serena 一直送來的零食。她還想把這本書獻給已經(jīng)去世的親人。特別感謝Google 評審員Ed Chi、Courtney Hohne、Sally Goldman、Richa Nigam、Mingliang Jiang 和Anselm Levskaya。感謝Bryan Hughes 審閱Wikipedia 代碼。Bryan 想感謝他在Stitch Fix 的同事們，在那里他學(xué)到了本書中的許多關(guān)鍵理念，特別是Ian Horn 對遷移學(xué)習(xí)的耐心指導(dǎo)，Dr. Molly Davies 對實驗和效應(yīng)估計的指導(dǎo)，Mark Weiss 對可用性和推薦之間關(guān)系的深度合作，Dr. Reza Sohrabi對Transformers 模型的介紹，Dr. Xi Chen 對推薦系統(tǒng)中圖神經(jīng)網(wǎng)絡(luò)的鼓勵，以及Dr. Leland McInnes 對降維和近似最近鄰的細心建議。Bryan 從與Dr.Natalia Gardiol、Dr. Daniel Fleischman、Dr. Andrew Ho、Jason Liu、Dr. Dan Marthaler、Dr. Chris Moody、Oz Raza、Dr. Anna Schneider、Ujjwal Sarin、Agnieszka Szefer、Dr. Daniel Tasse、Diyang Tang、Zach Winston 等人的對話中受益匪淺。除了他在Stitch Fix 的出色同事，他特別想感謝Dr. Eric Bunch、Dr. Lee Goerl、Dr. Will Chernoff、Leo Rosenberg 和Janu Verma 多年來的合作。Dr.Brian Amadio 作為出色的同事，最初建議他寫這本書。Dr. Even Oldridge 鼓勵他嘗試寫作。Eugene Yan 和Karl Higley，盡管他從未見過他們，但受到了他們的巨大啟發(fā)。他還想感謝Dr. Zhongzhu Lin 和Dr. Alexander Rosenberg，他們對他的職業(yè)生涯產(chǎn)生了深遠的影響。Cianna Salvatora 協(xié)助了早期的文獻回顧，Valentina Besprozvannykh 在閱讀早期草稿和提供指導(dǎo)方面提供了極大的幫助。兩位作者感謝Tobias Zwingmann、Ted Dunning、Vicki Boykis、Eric Schles、Shaked Zychlinski 和Will Kurt，他們花了大量時間對書稿進行細致的技術(shù)反饋，沒有他們，這本書將難以理解。感謝Rebecca Novack 不斷督促我們簽約這個項目。感謝Jill Leonard 刪除了書稿中近100 個錯誤使用的utilize一詞，并在書籍文本方面提供了極大的耐心合作。