據(jù)美國多家媒體報道，全球半導體巨頭英偉達即將以數(shù)億美元的估值收購人工智能初創(chuàng)企業(yè)Lepton AI。值得關注的是，Lepton AI是由阿里云前副總裁賈揚清創(chuàng)立。該公司的多家投資機構也得以順利退出。

Lepton AI

Lepton AI做什么？

Lepton AI成立于2023年，創(chuàng)始人為賈揚清和Junjie Bai，目前擁有大約20名員工，其客戶中包括多家風險投資支持的初創(chuàng)公司。

據(jù)公司介紹，該公司創(chuàng)立的平臺主要針對AI工作負載進行了優(yōu)化，客戶既可以使用它來訓練AI模型，也可以執(zhí)行推理，即在訓練后在生產(chǎn)環(huán)境中運行神經(jīng)網(wǎng)絡的任務。

此外，Lepton AI提供了一個可視化界面，用于在其云中設置訓練集群。該公司提供多種英偉達顯卡供用戶選擇。而對于并排訓練多個模型的團隊，該平臺提供了一個工具，可用于集中管理分配給每個項目的硬件數(shù)量。

在訓練期間，AI模型有時會遇到錯誤，從而降低其輸出質(zhì)量。Lepton AI的平臺提供了檢測此類錯誤的功能。它還發(fā)現(xiàn)了更微妙的技術問題，例如神經(jīng)網(wǎng)絡在訓練期間使用的內(nèi)存可能超過應有的內(nèi)存。

模型開發(fā)完成后，Lepton AI 客戶可以將其部署在公司云中的推理優(yōu)化實例上。該平臺承諾提供每秒超過600個令牌的處理速度，同時將延遲保持在10毫秒以下。當需求增加時，自動擴展功能會自動向客戶的推理環(huán)境添加更多硬件資源。

此外，Lepton AI還使用vLLM等開源工具加快推理速度。該技術將類似的LLM提示合并到單個請求中，從而減少了模型必須執(zhí)行的處理量。開發(fā)人員還使用vLLM來減少模型的內(nèi)存占用。

分析認為，英偉達作為目前全球AI芯片的主要提供商，同時也面臨其最大客戶——云服務提供商的競爭壓力，如亞馬遜和谷歌正試圖開發(fā)和低價租賃替代芯片來削弱英偉達的市場地位。英偉達正尋求多元化發(fā)展，通過收購小型AI初創(chuàng)公司來推動其云和軟件業(yè)務的快速發(fā)展，使得使用英偉達芯片構建新的AI模型成為可能。

英偉達此次收購Lepton AI，無疑是對其自身技術生態(tài)的一次有力補充。通過吸納Lepton AI在AI應用平臺方面的專長，英偉達將能夠更好地滿足市場對高效、靈活AI解決方案的迫切需求。同時，這也將為英偉達芯片在AI領域的廣泛應用開辟新的道路。

而對于Lepton AI而言，加入英偉達大家庭意味著其將獲得更多的資源和支持，從而加速技術創(chuàng)新和市場拓展的步伐?？梢灶A見，在英偉達的強大助力下，Lepton AI的技術成果有望更快地轉(zhuǎn)化為實際應用，為全球企業(yè)帶來更加智能、高效的AI解決方案。

值得關注的是，在傳出收購Lepton AI消息的同時，英偉達還將收購另外一家人工智能初創(chuàng)企業(yè)Gretel。Gretel提供了用于創(chuàng)建合成數(shù)據(jù)的工具，這些合成數(shù)據(jù)是自動生成的，可用于訓練AI模型。據(jù)報道，這筆交易的價值超過3.2億美元。

創(chuàng)始人賈揚清

公開資料顯示，賈揚清是全球AI架構領域最知名的技術人才之一。2002年考入清華大學自動化系，先后獲得學士和碩士學位，后在美國加州大學伯克利分校獲得計算機科學博士學位。

2013年賈揚清博士畢業(yè)后加入谷歌。2016年2月，賈揚清從谷歌離職進入Facebook，在時任Facebook人工智能實驗室負責人Yann Le Cun手下?lián)窝芯靠茖W家。而在這個重要的人工智能實驗室里，賈揚清打造的深度學習框架Caffe，成為了Facebook重點部署的框架之一。2019年3月，阿里巴巴達摩院宣布，原Facebook人工智能科學家賈揚清已正式加入阿里巴巴，擔任技術副總裁崗位，領導大數(shù)據(jù)計算平臺的研發(fā)工作。

2023年，賈揚清離職創(chuàng)立了Lepton AI，該公司另外一位創(chuàng)始人Junjie Bai同樣在Meta工作過。

2023年5月，公司宣布完成天使輪融資，紅杉中國、Fusion Fund和CRV成為其天使輪投資者。英偉達此番收購的交易價值可能達數(shù)億美元，完成后，三家機構也將實現(xiàn)比較可觀的退出。

校對：楊舒欣