• <track id="6sua3"></track>

  • <menuitem id="6sua3"></menuitem>
  • <menuitem id="6sua3"></menuitem>

    <progress id="6sua3"><bdo id="6sua3"></bdo></progress>
    <samp id="6sua3"></samp>

        1. <samp id="6sua3"></samp>

            京東科技領航者:秉承“大小模型協同”理念,驅動金融營銷降本增效

            2023-11-30 18:33:05     來源:中國科技新聞網

            隨著以大模型為代表的人工智能技術持續推進,關于一味追求參數“量變”的規模比拼進入冷靜期,行業開始關注如何通過大模型應用的“質變”,在具體場景中產生真正價值。

            憑借圍繞京東言犀大模型的技術深耕與實踐積累,大小模型協同這一理念,已成為京東云推動大模型落地的關鍵技術路徑,同時也是對行業未來發展趨勢的重要思考。大模型負責輸出通用能力,小模型負責實際推理執行,一方面提升系統的覆蓋度和準確率,另一方面亦可降低推理延時、保證隱私數據安全、節約算力。

            京東科技領航者營銷平臺(以下簡稱領航者),秉承大小模型協同理念,依托持續迭代的領先技術,不斷推進大模型在金融營銷場景落地,助力金融營銷實現降本增效:

            過去涉及產品、研發、算法、設計、分析師等多類職能才可完成的流程,如今只需要1人;從策劃到落地需要14天才能完成的一場營銷活動,現在被極致壓縮到1天上線;從大促前預熱到活動中的用戶觸達,低成本生成更符合金融業務特征的多套文案與素材,并按照用戶特征來組合投放,實現營銷的千人千面。

            大小模型協同:升級三大技術,養成運營“私人營銷助手”

            以技術驅動大小模型協同,源于業務自身需求。

            過去,金融行業落地一場營銷往往需要橫跨多個系統,比如營銷活動要搭個系統,營銷策略也要搭個系統,不同系統的業務知識、用戶目標、用戶表述各不相同。但大模型的信息窗口有限,如何在同一框架下把這些系統管理在一起,還要解決窗口過長的遺忘問題、專業知識的注入問題,這些都是極大的挑戰。

            為此,領航者實現三大技術升級:

            第一階段,引入向量數據庫和RAG架構實現主框架聯動大模型完成串聯;

            第二階段,用開放平臺的概念,引入Application、Domain、Skill三層架構,將核心能力與主框架融合,讓能力調用更加便捷。還定義了一套大模型與內部業務系統交互的規范,使內部業務系統API能快速與大模型整合,利用大模型驅動API調用;

            第三階段,進一步引入Multi Agents概念,以主動服務方式自動完成復雜任務的協同。同時,將業務流程SOP引入大模型的任務規劃,提升大模型任務拆解和流程規劃的可控性。

            通俗的說,就是最上層由一個總的Agent負責和用戶交互、識別理解用戶意圖,然后通過對任務的拆解,對應到不同的工具API進行編排,再調度到具體的領域小模型,最終滿足營銷中諸如活動搭建、活動投放、分析洞察等特定目標。

            底層大模型則提供通用能力,使現有系統和后續接入的系統,能夠快速調用素材生成、文案生成、NL2SQL、知識庫問答等能力,從而提高營銷效率。其中,面向需求、面向指標的SQL生成方式,提升NL2SQL準確率至95%+,通過構建分析框架,讓用戶在Agent協作下自主完成活動運營分析。

            這樣一來,底層的通用能力負責各個系統的快速調用;上層的應用能力完成具體的營銷動作,比如頁面搭建、圖片生成、風格設定,以及流量分發投放和數據分析。

            構建專業數據集:定義一套AIGC SOP,讓算法更“懂”業務

            當算法對業務有足夠理解,才能解決業務的實際問題。領航者的優勢,正在于京東金融場內4.6億用戶和十余年金融行業Know-How,這些專業知識沉淀構建的數據集,讓領航者的算法更懂業務的需求。

            領航者在鍛造中,定義了AIGC中文案生成和圖片生成的可量化的多維評價標準,提升算法迭代效率:由業務方提供高質量種子數據以及行業素材經驗,算法基于種子數據構建數據評價模型,以實現大規模生成新的訓練數據。

            在文案生成方面,京東金融運營團隊將多年沉淀的營銷理論、實踐經驗,凝結成金融運營白皮書,作為知識背景“喂”給大模型。同時協助算法團隊打標,將歷史優秀文案進行結構化拆解,梳理出了觸發時機、文案技巧、文案風格等信息,以此激發大模型的CoT(思維鏈)能力,形成更強的泛化能力,使其在新的場景中也可以生成優質營銷文案。目前,系統主觀評分從2.08分提升至3.5分,達到少量修改即可直接使用的水平。

            在素材生成方面,京東金融算法工程師將設計師頭腦中的專業設計知識轉化為參數,將京東百萬級積累素材灌入大模型,指定風格素材更達到萬級擴充。為了讓素材具備更高可用性,算法工程師團隊引入了主動學習的方式,在模型迭代過程中,由28位專業設計師每人每天用1小時主觀評分,加速模型收斂。目前,由領航者生成的營銷素材,可用率超40%。京東金融“15理財日”“18權益日”的素材生成任務,已經全部交給了領航者。

            由此,領航者從技術角度定義了一套AIGC SOP,針對用戶輸入進行關鍵信息的抽取、意圖理解、金融知識增強、prompt轉配、模型生成,以形成更好的營銷效果。

            未來,京東科技領航者的領先技術能力還將對外開放,結合金融領域營銷、運營的數字化經驗,一同輸出給金融機構,適配其各類營銷運營場景需求,持續推動大模型落地金融行業。



            科技新聞傳播、科技知識普及 - 中國科技新聞網
            關注微信公眾號(kjxw001)及微博(中國科技新聞網)
            微信公眾號
            微博

            免責聲明

            中國科技新聞網登載此文出于傳遞更多信息之目的,并不意味著贊同其觀點或證實其描述。文章內容僅供參考,不構成投資建議。投資者據此操作,風險自擔。


            推薦閱讀
            已加載全部內容
            點擊加載更多
            www.97sese.com.