2024年1月20日，由稀土掘金社區(qū)主辦的 掘金年度技術(shù)演講 在深圳拉開帷幕。此次論壇主題為“與開發(fā)者同行”，共設(shè)置了主論壇和分論壇兩個(gè)精彩紛呈的發(fā)言環(huán)節(jié)。會(huì)議邀請(qǐng)到了科技創(chuàng)新者、互聯(lián)網(wǎng)領(lǐng)域?qū)＜液推髽I(yè)代表，共同圍繞著AI、大前端、數(shù)據(jù)庫和云原生等熱門領(lǐng)域科技的進(jìn)步，從多個(gè)維度探討開發(fā)者面臨的機(jī)遇和挑戰(zhàn)。
通過此次技術(shù)演講，掘金社區(qū)帶領(lǐng)與會(huì)者們一起回顧2023年的技術(shù)發(fā)展，展望2024年的科技前景。這場(chǎng)會(huì)議激發(fā)了與會(huì)者們的思考，并為他們?cè)诳焖侔l(fā)展的科技領(lǐng)域中抓住機(jī)遇、應(yīng)對(duì)挑戰(zhàn)提供了參考。
字節(jié)跳動(dòng)數(shù)據(jù)庫負(fù)責(zé)人 張雷
字節(jié)跳動(dòng)數(shù)據(jù)庫負(fù)責(zé)人張雷作為開場(chǎng)嘉賓，在會(huì)議上分享了《云數(shù)據(jù)庫技術(shù)挑戰(zhàn)與趨勢(shì)：字節(jié)跳動(dòng)的實(shí)踐洞察》。他指出，字節(jié)跳動(dòng)業(yè)務(wù)的高速發(fā)展推動(dòng)了數(shù)據(jù)庫產(chǎn)品體系的不斷豐富，使其逐漸從 2017 年前的“刀耕火種”時(shí)代，走向 2018～2022 年的大規(guī)模自研產(chǎn)品及平臺(tái)化時(shí)代，并進(jìn)一步邁向如今的體系化、云化、智能化時(shí)代。張雷回顧了過去五年字節(jié)數(shù)據(jù)庫的發(fā)展歷程，強(qiáng)調(diào)主要重心在于解決“規(guī)?；眴栴}。他同時(shí)指出，在 2024 年，字節(jié)跳動(dòng)將面臨服務(wù)者持有成本、用戶接入和系統(tǒng)運(yùn)行時(shí)效等方面的挑戰(zhàn)。最后，他總結(jié)道，云數(shù)據(jù)庫作為最基礎(chǔ)的數(shù)字基礎(chǔ)設(shè)施之一，其最核心的價(jià)值在于“成本”與“效率”的優(yōu)化。字節(jié)跳動(dòng)將繼續(xù)努力應(yīng)對(duì)這些挑戰(zhàn)，提供高效、可靠的云數(shù)據(jù)庫服務(wù)。
NVIDIA的資深解決方案架構(gòu)師 盧翔龍
來自NVIDIA的資深解決方案架構(gòu)師盧翔龍分享了《NVIDIA：LLM 推理和服務(wù)部署技術(shù)總結(jié)及未來展望》。他深入總結(jié)了LLM推理和服務(wù)部署技術(shù)，并展望了未來。盧翔龍指出，隨著生產(chǎn)語言應(yīng)用的部署需求增加，高精度模型對(duì)于正確結(jié)果的重要性不可忽視。為應(yīng)對(duì)挑戰(zhàn)，TensorRT-LLM應(yīng)運(yùn)而生，用于優(yōu)化NVIDIA GPU上的大型語言模型推理性能。同時(shí)，他還介紹了LLM生態(tài)系統(tǒng)的演變，以及注意力機(jī)制優(yōu)化、KV緩存優(yōu)化、Inflight Batching和量化等優(yōu)化技術(shù)。此外，NVIDIA的Triton Inference Server提供了快速、可擴(kuò)展、低延遲的推理服務(wù)。NVIDIA承諾不僅提供工具，還將加速LLM的發(fā)展，為開發(fā)者提供更高效、靈活的解決方案。
Datastrato 創(chuàng)始人、CEO 堵俊平
Datastrato 創(chuàng)始人、CEO 堵俊平在會(huì)上發(fā)表了主題演講《開源與商業(yè)：GenAI 時(shí)代的新碰撞》。他總結(jié)了開源軟件的 8 種商業(yè)模式，并介紹了相關(guān)經(jīng)典案例。演講中，他以“RedHat”作為訂閱服務(wù)模式中的例子，闡述了商業(yè)模式是在實(shí)踐中不斷發(fā)展完善的。他還指出，在 PC 與服務(wù)器時(shí)代，企業(yè)版與訂閱服務(wù)成為開發(fā)者需要關(guān)注的重點(diǎn)。在互聯(lián)網(wǎng)時(shí)代，開源軟件被廣泛應(yīng)用于構(gòu)建互聯(lián)網(wǎng)大廈。在移動(dòng)互聯(lián)網(wǎng)時(shí)代，把握應(yīng)用與流量入口變得至關(guān)重要。隨著云時(shí)代的到來，開發(fā)者需要關(guān)注托管云服務(wù)“X as a service”。最后，堵俊平詳細(xì)介紹了即將到來的具有挑戰(zhàn)性的“GenAI 時(shí)代”，他強(qiáng)調(diào)在這個(gè)時(shí)代，人工智能技術(shù)將與開源軟件相結(jié)合，為創(chuàng)新和商業(yè)帶來新的機(jī)遇和挑戰(zhàn)。
華為諾亞方舟實(shí)驗(yàn)室語音語義首席科學(xué)家劉群
華為諾亞方舟實(shí)驗(yàn)室語音語義首席科學(xué)家 劉群 帶來了《大語言模型技術(shù)現(xiàn)狀和發(fā)展趨勢(shì)的思考》的主題演講。他回顧了近年來 LLM 的發(fā)展時(shí)間線及不同模型的演進(jìn)。討論了 LLM 的先天能力和后天能力，并強(qiáng)調(diào)通過提升硬件性能、優(yōu)化模型架構(gòu)和規(guī)格參數(shù)等方法來提高模型能力。他還探討了 LLM 架構(gòu)方面的發(fā)展趨勢(shì)，包括稀疏化前向網(wǎng)絡(luò)、訓(xùn)練推理優(yōu)化、長序列等技術(shù)。劉群強(qiáng)調(diào)了預(yù)訓(xùn)練、指令微調(diào)和強(qiáng)化學(xué)習(xí)訓(xùn)練等方法對(duì)提升 LLM 能力的重要性。此外，他還分析了 LLM 可能引發(fā)的問題、風(fēng)險(xiǎn)以及對(duì)社會(huì)的影響，如幻象問題、超人智能和就業(yè)市場(chǎng)的變化等。最后，劉群認(rèn)為 AI 技術(shù)將成為人類社會(huì)的基礎(chǔ)設(shè)施，AI將給人帶來更多的休閑娛樂和受教育的時(shí)間和機(jī)會(huì)。
Jina AI 聯(lián)合創(chuàng)始人兼 CTO 王楠
Jina AI 聯(lián)合創(chuàng)始人兼 CTO 王楠在會(huì)上發(fā)表了主題演講《尋找 AI 變革下的不變需求：工具開發(fā)者視角下的 2023》。他指出，自 ChatGPT 誕生以來，工具開發(fā)者們一直深感焦慮。針對(duì)如何為 AI 應(yīng)用開發(fā)者節(jié)省開發(fā)時(shí)間、提高開發(fā)效率的問題，王楠總結(jié)了三個(gè)方面的應(yīng)對(duì)策略：關(guān)注開發(fā)者的痛點(diǎn)、系統(tǒng)集成以及開發(fā)者的反饋。針對(duì)即將到來的 2024 年，他展望了以下趨勢(shì)：模型架構(gòu)同質(zhì)化、開源模型蓬勃發(fā)展、閉源模型引領(lǐng)發(fā)展、算力問題得到緩解、高質(zhì)量公開文本數(shù)據(jù)逐漸枯竭、文字仍將是交互的核心。這些趨勢(shì)將對(duì)工具開發(fā)者們產(chǎn)生深遠(yuǎn)影響。
字節(jié)跨端與 Web 架構(gòu)師，前 Meta React 核心成員黃玄在會(huì)上分享了主題演講《前端已死，前端永生》。他針對(duì)近年來技術(shù)領(lǐng)域中的熱門話題“前端已死”發(fā)表了自己的看法。他認(rèn)為，無論是從“技術(shù)”還是軟件行業(yè)的“分工”角度來看，前端都只是一個(gè)動(dòng)態(tài)的概念。通過對(duì)前端歷史上中的大小拐點(diǎn)建模，他推理出前端作為人與機(jī)器的紐帶會(huì)得以“永生”的方式。最后，他還展望了 AI 與元宇宙將為前端帶來的全新可能。
在主論壇最后，為了表彰這一年為稀土掘金社區(qū)貢獻(xiàn)優(yōu)質(zhì)內(nèi)容的團(tuán)隊(duì)和個(gè)人，舉行了「2023掘金年度影響力榜單」發(fā)布儀式。來自互聯(lián)網(wǎng)技術(shù)的精英齊聚一堂，共同見證了這個(gè)時(shí)刻。
這次演講為與會(huì)者提供了一個(gè)全面而深入的技術(shù)交流平臺(tái)，促進(jìn)了開發(fā)者之間的互動(dòng)與合作，展望了2024年科技領(lǐng)域的發(fā)展前景。希望在新的一年里這些討論和見解將為開發(fā)者們?cè)诿鎸?duì)機(jī)遇和挑戰(zhàn)時(shí)提供有價(jià)值的指導(dǎo)和啟示！稀土掘金也將持續(xù)與開發(fā)者同行。
原創(chuàng)文章，作者：陳晨，如若轉(zhuǎn)載，請(qǐng)注明出處：http://2079x.cn/article/624489.html
