語言模型革新：Command-R技術的突破與影響

2024年12月4日星期三

語言模型革新：Command-R技術的突破與影響

想告別爛英文？想讀懂英文新聞？【讀紐時學英文】週五發報，中英文逐段對照，讓你閱讀國際新聞還能學英文！

★ 無法正常瀏覽內容，請按這裡線上閱讀

新聞健康 udn部落格

2024/12/05 第807期 | 訂閱/退訂 | 看歷史報份

科技新知

語言模型革新：Command-R技術的突破與影響
PSD3創造產創緊密合作的歐盟金融生態圈
諾基亞2024工業數位化報告：近8成企業不到半年回收投資成本
科技大浪來勢洶洶，數位轉譯者讓你不被溺死

語言模型革新：Command-R技術的突破與影響

FIND研究員：楊長恩

隨著Chat GPT於2022年11月推出和Meta於2023年3月將Llama開源，大型語言模型（LLM）的風潮迅速在全球興起，推動了技術創新與發展的新浪潮。基於LLM的應用工具，例如Microsoft Copilot與Runway ML Gen-2，展示了LLM在程式碼生成與影片製作方面的應用潛力，相關創作如雨後春筍般涌現，代表著技術邁出一大步。

生成式AI應用分為7大類，內容生成與編輯占一半

根據2024年3月a16z對全球生成式AI工具進行了統計與分類，將其分為7大類分別為：內容生成（Content Generation）、內容編輯（Content Editing）、陪伴（Companion）、生產力提升（Productivity）、智慧助理（General Assistant）、模型庫（Model Hub）與搜尋（Search）。值得注意的是，內容生成與內容編輯這兩大類共佔50%，顯示出它們在當前的重要性。

LLM在內容生成與內容編輯時，主要是根據訓練集的資料與生成的能力執行任務，這也意味著模型會受限於訓練資料集或因為語意而偏重於某一個方面的回答。正因為如此，在外部加入額外的知識或資料輔助LLM可以更精確的回答問題是一個重要的議題。

RAG技術革新，拓展LLM知識範圍

進一步探討，2020年的神經資訊處理系統國際會議（NIPS'20）中所發表的" Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks" 論文中，對Retrieval-Augmented Generation（RAG）技術的有效應用於自然語言處理（NLP）任務上有清楚的論述。RAG運用到LLM中透過結合檢索與生成的能力，不僅提高內容的準確性和相關性，還大幅拓展了模型的知識範圍。此一技術革新，讓LLM不再僅依賴於預訓練數據集，而是能夠動態地從廣泛的資料源中檢索資訊，進而生成更精確豐富的內容。

Cohere於2024年3月提出了Command-R技術，這一突破性的技術旨在進一步增強大型語言模型在基於私人知識庫進行搜尋時的準確度。Command-R技術透過對檢索機制的優化，使LLM能夠更精準地理解與回應基於特定知識庫的查詢，進而提升了基於私人或專業知識庫的資訊檢索和內容生成的品質與效率。這項技術不僅代表了對RAG技術的一大進步，也為個性化和專業化的應用場景提供了更為強大的支持。

GraphRAG知識圖譜提升LLM準確度

在這樣的技術演進背景下，2024年7月FB提出了GraphRAG（RAG+知識圖譜）的方法，大幅提升LLM對於知識檢索的準確度，並且GraphRAG已進行開源。GraphRAG在面對複雜的資訊進行詢答時有顯著的提升，尤其是在處理私有資料的時候。同時，Neo4j 公司 CTO菲利普·拉斯勒（Philip Rathle）發表了一篇"The GraphRAG Manifesto: Adding Knowledge to GenAI"的文章，內容用較為淺顯易懂方式介紹GraphRAG與傳統的RAG的不同與其優勢。

圖1: GraphRAG檢索流程圖（使用者在使用LLM時可結合GraphRAG進行知識檢索）

圖片來源: neo4j

封面圖片來源：GPT4圖片生成

參考資料來源：

1. a16z：The Top100 Gen AI Consumer Apps

2. NeurIPS：神經信息處理系統國際會議(NIPS'20)

3. Cornell University： Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks

4. Cohere：Command-R: Retrieval Augmented Generation at Production Scale)

5. neo4j：The GraphRAG Manifesto: Adding Knowledge to GenAI

6. 電腦王：生成式 AI 的資料救星！GraphRAG 知識圖譜革命，大幅提升 LLM 準確度！

PSD3創造產創緊密合作的歐盟金融生態圈

FIND研究員：楊秉哲

隨著科技發展日新月異，民眾使用結合各種新興科技的支付方法已蔚為趨勢，過去歐盟執委會（European Commission, EC）曾於2015年10月推出「支付指令第二版」（Revised Directive on Payment Services，PSD2），指令要求歐盟地區的銀行提供開放應用程式介面(Application Programming Interface, API)之方式授權給第三方業者（Third Party Service Providers, TPPs）使用，用以提升金融業在支付服務的競爭力。PSD2已於2018年1月13日正式實施。PSD2包含兩大規範，強化客戶授權（Strong Customer Authentication, SCA）與共通安全通訊標準（Common and Secure Communication, CSC）。

歐洲銀行監理機關於2022年7月檢視了PSD2推動成效與檢討，於2023年6月28日提出第三版支付服務指令（Third Payment Services Directive, PSD3）草案，目前預計於最快於2024年底通過最終版本，並於2026年施行。

PSD3 旨在為非銀行支付服務提供商和傳統銀行之間建立一個公平競爭環境，它賦予支付和電子錢包機構直接訪問整個歐盟的清算基礎設施的權利。此外，它涵蓋了更廣泛的範圍。PSD2與PSD3具體的差異如下：

適用規範之機構：PSD2主要是為了創造一個更加一體化的歐洲支付市場，導入新的TPPs促成開放銀行生態系，並加強消費者保護和安全。PSD3預計將進一步擴大監理範圍，像是加密貨幣、區塊鏈技術、數位貨幣和其他新興技術。

消費者保護：PSD2強調SCA與CSC，保護消費者免於詐欺和未經授權支付的侵害。PSD3進一步要求服務透明度，特別是支付服務條款和服務費用。消費者可獲得更多解決爭議的權利。

安控措施：PSD2以SCA與安全API改善銀行與TPPs之間的數位支付安全。PSD3預計提出更強化的安控要求，以面對不斷升級的網路威脅，例如：新的強化資料保護標準、更嚴格的存取控制、強制報告網路安全事件等。

開放銀行：PSD2簡化了歐洲開放銀行服務，規定銀行必須在客戶同意的前提下向TPPs提供客戶帳戶資料的存取權限。PSD3擴大開放銀行框架，增加資料共享要求，不僅是由銀行提供TPPs資料，而是雙向共享，預期能在更多金融服務場景使用開放銀行API。

永續與社會責任：PSD2並未對永續與社會責任提出規範。PSD3預計涵蓋金融部門環境可持續性和社會責任的內容。這可能涉及永續金融（Sustainable Finance）實踐的指引，以及推廣支援環境永續和社會責任之金融產品。

創新與競爭：PSD2鼓勵金融科技新創業者與傳統銀行競爭，而PSD3旨在扶植更多能穩定成長的金融科技新創業者。

PSD3預期可創造一個產創更緊密合作的金融生態圈，由原本PSD2鼓勵金融科技新創與銀行競爭，到PSD3促使銀行擴大與金融科技公司合作，拓展市場。PSD3強制要求銀行加大對安全和交易監控的投入，特別是在技術基礎設施和組織變革方面進行投資；銀行的資訊安全可因此得到強化，在新興數位支付服務上與客戶建立信任，降低交易風險，從而減少欺詐造成的潛在損失。金融科技業者也將有機會讓新興服務整合到傳統銀行流程中，例如根據客戶的支付歷史或貨幣帳戶開立情況進行信用評分，或提供更多客製化的創新解決方案。

台灣於2024年1月16日由金管會核備完成銀行公會及財金公司所報之「開放銀行第三階段交易面資訊規範」，由此宣告第三階段開始。第三階段開放銀行的開放項目包括「存款」、「信用卡」、「貸款」、「支付」及「手機門號轉帳」等5種項目共計35個項目。第三階段進入交易面，除延續前兩階段的安控規範，包括使用者身分驗證要求、消費爭議處理機制，也有針對交易服務增加規範。與歐盟相比，台灣的開放金融仍採鼓勵性質，未如歐盟採取強制規範，對台灣的銀行來說未必有足夠誘因進入第三階段；然而，各種與數位金融相關之新興科技仍持續不斷進化，銀行若要提升數位服務品質，仍可考慮與合規之金融科技業者合作，共創金融生態圈。

圖 1：PSD2與PSD3比較

資料來源：本文作者整理

封面圖片來源：本文作者繪製

參考資料來源：

1.Press corner | European Commission (europa.eu)https://www.nvidia.com/en-us/industries/finance/ai-financial-services-report/

2.https://www.eba.europa.eu/sites/default/files/document_library/

Publications/Opinions/2022/Opinion%20od%20PSD2%20review%20

(EBA-Op-2022-06)/1036016/EBA's%20response%20to%20the%20Call%20for

%20advice%20on%20the%20review%20of%20PSD2.pdf

3.Modernising payment services and financial services data (europa.eu)

4.新聞稿-金管會核備銀行公會及財金公司所報開放銀行第三階段交易面資訊規範-金融監督管理委員會全球資訊網

諾基亞2024工業數位化報告：近8成企業不到半年回收投資成本

FIND研究員：王允筑隨著數位花時代的推進，專網在工業領域的應用越來越廣泛。諾基亞與市調機構GlobalData合作，完成「諾基亞2024工業數位化報告：專網摘要」，調查了早期採用專網技術的企業，探討其應用成效和回報，並預測未來市場趨勢 ...

科技大浪來勢洶洶，數位轉譯者讓你不被溺死

FIND研究員：鄭媛心「為什麼我們需要導入科技？」「那些很難的東西我不懂啦！」「萬一機器故障怎麼辦？我只能買乖乖或當作是水逆欸。」「現在的我就過得很好了啊。」這些話語是否經常浮現在你的腦海中，或這樣的情景是否在你的生活中曾經發生 ...

•避開具破壞性的職涯終結站
如果廣受歡迎的領導風範特徵已經發生變化，影響領導風範的錯誤也是如此。《氣場》一書作者，經濟學家席薇雅．安．惠勒10 多年來深究此議題，調查近4,000名專業人士，以真實數據和深入採訪，揭示何謂領導風範與指引，以下為其透過焦點小組與訪談，整理職涯致命誤區，提點在領導養成之路上如何避免鑄下大錯。

•許瑋甯、楊謹華獲金鐘獎為何都感謝先生？
究竟背後是怎樣的婚姻，才能成就許瑋甯和楊謹華兩位優秀的演員？令人好奇許瑋甯與邱澤延續電影《當男人戀愛時》愛情CP，不但談了戀愛還結了婚，讓浩婷和阿成的悲傷結局，在現實生活中圓了滿。而入圍8次首獲金鐘獎的楊謹華，在臺上致詞的美麗倩影，也讓我們看到了有另一半的支持，即使一路上走來遭遇挫折，還是可以活出自信和風采。