大模型的“黃金搭檔”來了 騰訊云發(fā)布AI原生向量數(shù)據(jù)庫
(資料圖片)
騰訊云日前正式發(fā)布AI 原生(AI Native)向量數(shù)據(jù)庫Tencent Cloud VectorDB。該數(shù)據(jù)庫能夠被廣泛應(yīng)用于大模型的訓(xùn)練、推理和知識庫補充等場景,加速大模型落地行業(yè)。
向量數(shù)據(jù)庫專門用于存儲和查詢向量數(shù)據(jù),業(yè)界稱之為大模型的“海馬體”。據(jù)介紹,騰訊云向量數(shù)據(jù)庫最高支持10億級向量檢索規(guī)模,延遲控制在毫秒級,相比傳統(tǒng)單機插件式數(shù)據(jù)庫檢索規(guī)模提升10倍,同時具備百萬級每秒查詢(QPS)的峰值能力。
大模型時代的到來,擁抱大模型成為企業(yè)的剛需。向量數(shù)據(jù)庫通過把數(shù)據(jù)向量化然后進行存儲和查詢,可以極大地提升效率和降低成本。它能解決大模型預(yù)訓(xùn)練成本高、沒有“長期記憶”、知識更新不足、提示詞工程復(fù)雜等問題,突破大模型在時間和空間上的限制,加速大模型落地行業(yè)場景。
值得關(guān)注的是,騰訊云重新定義了AI原生的開發(fā)范式,提供了接入層、計算層、存儲層的全面AI化解決方案,使用戶在使用向量數(shù)據(jù)庫的全生命周期,都能應(yīng)用到AI能力。企業(yè)原先接入一個大模型需要花1個月左右時間,使用騰訊云向量數(shù)據(jù)庫后,3天時間即可完成,極大降低了企業(yè)的接入成本。
騰訊云數(shù)據(jù)庫副總經(jīng)理羅云表示,AI原生時代已經(jīng)到來,“向量數(shù)據(jù)庫+大模型+數(shù)據(jù)”,三者將產(chǎn)生“飛輪效應(yīng)”。
騰訊云向量數(shù)據(jù)庫基于騰訊集團每日處理千億次檢索的向量引擎(OLAMA),經(jīng)過騰訊內(nèi)部海量場景的實踐,數(shù)據(jù)接入AI的效率也比傳統(tǒng)方案提升10倍,運行穩(wěn)定性高達99.99%,目前已經(jīng)應(yīng)用在了騰訊視頻、QQ瀏覽器、QQ音樂等30多款國民級產(chǎn)品中。數(shù)據(jù)顯示,使用騰訊云向量數(shù)據(jù)庫后,QQ音樂人均聽歌時長提升3.2%、騰訊視頻有效曝光人均時長提升1.74%、QQ瀏覽器成本降低37.9%。
(文章來源:深圳商報)
關(guān)鍵詞: