2023年7月5日 星期三

Ê®Äêáá£¬ÌØ¸ßƵÎÞÏßµçÊý¾Ý½»»»ÏµÍ³(VDES)½«³ÉΪº½º£°²È«Êг¡Ö÷Á÷


全世界最厉害的头脑、最捉摸不透的管理动向、不知何去何从的地球命运,都在【世界公民电子报】。 【橘世代电子报】为读者提供面对人生下半场所需七个面向的资讯,为第二人生做足功课,活出精彩亮丽!
★ 无法正常浏览内容,请按这里线上阅读
新闻  健康  udn部落格  
2023/07/06 第736期  |  订阅/退订  |  看历史报份
  科技新知 十年後,特高频无线电数据交换系统(VDES)将成为航海安全市场主流
AIGC热潮下的大语言模型训练与部署挑战
5G远距诊疗服务,偏远地区的一大福音
让科技执法降低交通事故

十年後,特高频无线电数据交换系统(VDES)将成为航海安全市场主流
FIND研究员∶刘仲祥、黄盈婷、王楚轩

本文主要提供给对新兴趋势发展於海上航行安全有兴趣之读者。此篇先从现行之自动识别系统(Automatic Identification System,AIS)进行科普,接著说明新一代VDES(Very High Frequency Data Exchange System)之发展现况,并聚焦以新加坡海事和港口管理局(MPA)计画部署为例,目的在於促进岸上和船舶之间的数据交换,透过追踪交通热点和识别碰撞风险,改进航行安全预测分析并将资讯与利害关系人共享,预计VDES将在未来十年左右逐步补充和取代现行的AIS。

何谓VDES?即为因应国际海上船舶资讯传输与监测管理发展趋势,缓解现行AIS系统运行与资料传输之负载,国际航标协会(IALA)与国际电信联盟(ITU)提出了新一代海上资讯传输系统VDES,用以取代AIS作为未来海上安全通讯的系统。

缓解AIS资料传输负载 VDES因应而生

现行AIS指的是船舶自动识别系统(Automatic Identification System, AIS),当AIS资料经过资料勘误与处理後,可取得训練资料,再藉由所建置之预测模型,即可针对海上装有AIS船舶进行航行经纬度座标的预测。接著进一步针对船舶航行行为进行安全评估,运用之技术是分别汇入即时AIS资料与预测系统之预测结果數据,透过系统进行海上AIS船舶航行異常行为的监测与预测应用。

然而,有更多的数据不见得有更好的分析结果,数据的品质扮演重要角色。品质不佳的数据可能导致资讯模糊和误导,进而导致决策失误。例如船舶AIS原始资料即有资料品质不佳的情况,在分析前须清理,因其在传输设计上,接受方会将待处理的AIS讯号依收到的时间进行排序,并依序处理,在交通量较大的场域,就很容易产生无法即时处理的状况,因此经常发现AIS资料重复性问题、船舶经纬度异常等问题。

为了缓解现行AIS系统运行与资料传输负载,便有VDES的出现。VDES主要目的系实现全球范围内海事VHF频段上提供更高、更强的数据交换能力,且能满足船对船、船对岸之间数据交换服务需求,能整合且支援功能包括AIS、ASM数据交换(ASM Exchange)、e-Navigation、增强海事通讯(Enhanced Maritime Communication)与GMDSS现代化等。

就VDES发展现况来说,以新加坡为例,其於2019年针对VDES进行相关试验,VDES系统是奠基於AIS系统的基础上,增加远距离卫星与地面VHF频段数据交换。整个系统包括一个数据交换的卫星,数万个VDES岸基系统和千万个以上VDES终端用户,如图1所示。

资料来源∶SRS e-Bulletin

图1∶VDES示意图

VDES具备四大特色 台湾航安须及早因应

VDES系统具有以下特点∶

1.是国际海事组织针对海事资讯遇到数据不足、覆盖范围不广等问题所规划的升级系统,具有全球性特点。

2.是全球海上遇险与安全系统(GMDSS)以及e-航海发展所需之系统,具有专用资讯网之特性。

3.相较於海上专用通信频段(VHF),VDES频宽增加30倍,且可进行加密通讯。

4.VDES系统从具有AIS系统的船、船对岸等具数据资讯节点传递至卫星节点中,系统内任意两节点可直接、灵活、相容联络,具有一体化特点。

新加坡尚在VDES试行阶段,目前国际海事组织(IMO)亦未订定VDES相关规范或标准,可持续追踪与研析。初步借镜於我国,目前台湾共有36座灯塔,其中33座使用现行AIS系统,就今日(2023年)而言,各国使用AIS尚为国际趋势,倘若未来确定要升级使用VDES,建议我国航安须确认是否确实适用於台湾设备升级之可行性并应纳入评估建置时之过渡时期的配套措施。

参考资料∶

1.封面图∶ https://pixabay.com/images/id-1044723/

2.VDES adds another dimension to safer communications at sea, https://www.mpa.gov.sg/cwp/assets/SRS/issue15/Safety@sea/Communication_at_sea.html,民国110年9月28日。

3.交通部运输研究所,「船舶航行安全大數据资料库应用与分析」,https://www.iot.gov.tw/dl-14785-d679196edd754d6b98adc02b4aa7055e.html,民国111年1月24日。

 
AIGC热潮下的大语言模型训练与部署挑战
FIND研究员∶杨青翰

随著AI生成内容(AI Generated Content )的出现,大型语言模型(Large Language Model)成为AI生成内容的核心技术之一。例如GPT-3、LaMDA和BLOOM都是基於Transformer模型进行预训练的大型语言模型,它们可以生成各种形式的自然语言内容,包括文章、对话等。因此AI生成内容正在成为许多行业的趋势,例如自动化写作、自动化客服等。然而,随著大型语言模型的发展,AI训练的运算量不断增长,而记忆体容量却跟不上这个趋势。这是一个巨大的挑战,因为大型语言模型需要庞大的记忆体容量来存储模型参数和中间计算结果。如下图所示,Transformer模型中的参数数量呈现出2年240倍超指数增长(红色),而单个GPU记忆体容量只以每2年2倍的速度增长(绿色)。 预估未来AI所需的运算能力和记忆体之间的差距越来越大,在训练和部署更大模型的技术上将遇到更多挑战。

图1∶AI运算参数量和加速器记忆体容量成长比较

资料来源∶AI and Memory Wall

【技术应用现况】

全台第一个利用BLOOM建立大语言模型(参数量达1,760亿个)的AI团队,台湾智慧云端服务公司(华硕电脑子公司,简称台智云)总工程师赵逢毅表示,要启动大语言模型需要掌握多项关键技术。

必须熟悉大型模型训练技术∶要具备分散式训练技术的知识和相关套件设定能力,并且了解如何建立相应的训练环境。由於大型语言模型的参数数量非常庞大,加上需要处理大量的训练资料,因此传统的单机训练环境已经无法满足需求,必须使用分散式训练技术来应对。

要提供大算力资源∶随著模型复杂度的提高,模型的FLOPs数量也随之攀升,因此需要对应的大算力资源来支持模型的训练和推论。此外,高效率的储存系统也是必要的,例如GPFS,以确保模型的参数和训练资料可以高效率地存取和传输,提升整体的训练和推论效能。

使用Fine-tuning相关技术∶透过 In-Context Learning 的方式来训练大语言基础模型,可以不必再单独训练下游任务,而是直接利用已经训练好的模型来进行微调,从而提高模型对不同任务的理解能力。同时,这种方法还能够减少模型参数的储存,从而降低了存储和运算的成本,并且提升了整体效率。

必须熟悉大型模型推论技术∶为了实现低延迟的推论要求,需要了解如何构建支援多GPU推论的推论架构。此外,需要学习GPU Kernel融合技术,这有助於支援多种维度的融合技术,如水平、垂直和记忆体融合,以提高推论的效率和性能。

台大资工系主任洪士灏在脸书上表示,若台湾希望发展自主训练大型AI模型的能力,并在国际上扮演重要的角色,就需要集思广益,商讨如何善用现有的技术和人才,并投入和配置关键的资源。随著大型AI模型的训练与部署技术持续发展,未来将有助於推动AI生成内容的发展,并为各个产业带来更多的创新和价值。

参考来源∶

1.封面图资料来源∶https://lifearchitect.ai/models/

2.AI and Memory Wall∶https://medium.com/riselab/ai-and-memory-wall-2cb4265cb0b8

3.搭ChatGPT风潮�@台智云谈大语言模型训练挑战∶https://www.digitimes.com.tw/tech/dt/n/shwnws.asp?id=0000656646_55G52E0I5AVIH651MLUAI

4.AIHPC x Large Language Model -BLOOM 176B 大语言模型成果展示!∶https://tws.twcc.ai/2023/01/18/llm/

5.洪士灏Facebook∶https://reurl.cc/eDk2W7

 
5G远距诊疗服务,偏远地区的一大福音
FIND研究员∶张靖雯 医疗一直是台湾引以为傲的服务,而在高速5G与IoT科技协助下,在偏远地区打造5G远距诊疗将不再是梦想。而电信业者也透过与医疗院所合作,共同扩展智慧医疗解决方案,让台湾医疗服务更臻完美。 ...
 
让科技执法降低交通事故
FIND研究员∶张靖雯 在5G与AIoT的结合下,科技执法落地应用,未来违规将无所遁形。 自5G开台以来,由於基础建设愈来愈完善,交通部也不断运用5G网路、AIoT、AI辨识等技术来提升交通安全,降低交通事故的发生。透过AI技术发展出物件分类及辨识系统,如AI车辆侦测系统可以整合警戒线、警戒区域,精准侦测违规停车行为,即时提供快照和影片佐证,可有效进行智慧科技执法。 ...
 
徜徉最美看海公路赏地景玩工艺 无塑减碳东海岸绿旅行
晨起,搭台铁列车抵达台东市,沿著最美看海公路「台11线」展开环保零排放的旅程,过程中尽情学习部落工艺、品尝原民料理、欣赏精彩展览,让山与海的能量洗涤身心灵。

诽谤案重金和解 批评者认为太便宜福斯
创办人梅铎同意付出一笔7亿8750万美元的和解金,相当於福斯新闻年净收入的三分之二。多名主播被揭发私下表示厌恶美国前总统川普,让福斯新闻相当尴尬。在福斯节目被嘲笑的多明尼恩投票系统公司,星期二在这项法院和解行动中宣布获胜。然而,对一些梅铎批评者而言,这一件具有里程碑意义的诽谤案结果并不值得庆祝。
 
本电子报著作权均属「联合线上公司」或授权「联合线上公司」使用之合法权利人所有,
禁止未经授权转载或节录。若对电子报内容有任何疑问或要求转载授权,请【
联络我们】。
  免费电子报 | 著作权声明 | 隐私权声明 | 联络我们

十年後,特高頻無線電數據交換系統(VDES)將成為航海安全市場主流


全世界最厲害的頭腦、最捉摸不透的管理動向、不知何去何從的地球命運,都在【世界公民電子報】。 【橘世代電子報】為讀者提供面對人生下半場所需七個面向的資訊,為第二人生做足功課,活出精彩亮麗!
★ 無法正常瀏覽內容,請按這裡線上閱讀
新聞  健康  udn部落格  
2023/07/06 第736期  |  訂閱/退訂  |  看歷史報份
  科技新知 十年後,特高頻無線電數據交換系統(VDES)將成為航海安全市場主流
AIGC熱潮下的大語言模型訓練與部署挑戰
5G遠距診療服務,偏遠地區的一大福音
讓科技執法降低交通事故

十年後,特高頻無線電數據交換系統(VDES)將成為航海安全市場主流
FIND研究員:劉仲祥、黃盈婷、王楚軒

本文主要提供給對新興趨勢發展於海上航行安全有興趣之讀者。此篇先從現行之自動識別系統(Automatic Identification System,AIS)進行科普,接著說明新一代VDES(Very High Frequency Data Exchange System)之發展現況,並聚焦以新加坡海事和港口管理局(MPA)計畫部署為例,目的在於促進岸上和船舶之間的數據交換,透過追蹤交通熱點和識別碰撞風險,改進航行安全預測分析並將資訊與利害關係人共享,預計VDES將在未來十年左右逐步補充和取代現行的AIS。

何謂VDES?即為因應國際海上船舶資訊傳輸與監測管理發展趨勢,緩解現行AIS系統運行與資料傳輸之負載,國際航標協會(IALA)與國際電信聯盟(ITU)提出了新一代海上資訊傳輸系統VDES,用以取代AIS作為未來海上安全通訊的系統。

緩解AIS資料傳輸負載 VDES因應而生

現行AIS指的是船舶自動識別系統(Automatic Identification System, AIS),當AIS資料經過資料勘誤與處理後,可取得訓練資料,再藉由所建置之預測模型,即可針對海上裝有AIS船舶進行航行經緯度座標的預測。接著進一步針對船舶航行行為進行安全評估,運用之技術是分別匯入即時AIS資料與預測系統之預測結果數據,透過系統進行海上AIS船舶航行異常行為的監測與預測應用。

然而,有更多的數據不見得有更好的分析結果,數據的品質扮演重要角色。品質不佳的數據可能導致資訊模糊和誤導,進而導致決策失誤。例如船舶AIS原始資料即有資料品質不佳的情況,在分析前須清理,因其在傳輸設計上,接受方會將待處理的AIS訊號依收到的時間進行排序,並依序處理,在交通量較大的場域,就很容易產生無法即時處理的狀況,因此經常發現AIS資料重複性問題、船舶經緯度異常等問題。

為了緩解現行AIS系統運行與資料傳輸負載,便有VDES的出現。VDES主要目的係實現全球範圍內海事VHF頻段上提供更高、更強的數據交換能力,且能滿足船對船、船對岸之間數據交換服務需求,能整合且支援功能包括AIS、ASM數據交換(ASM Exchange)、e-Navigation、增強海事通訊(Enhanced Maritime Communication)與GMDSS現代化等。

就VDES發展現況來說,以新加坡為例,其於2019年針對VDES進行相關試驗,VDES系統是奠基於AIS系統的基礎上,增加遠距離衛星與地面VHF頻段數據交換。整個系統包括一個數據交換的衛星,數萬個VDES岸基系統和千萬個以上VDES終端用戶,如圖1所示。

資料來源:SRS e-Bulletin

圖1:VDES示意圖

VDES具備四大特色 臺灣航安須及早因應

VDES系統具有以下特點:

1.是國際海事組織針對海事資訊遇到數據不足、覆蓋範圍不廣等問題所規劃的升級系統,具有全球性特點。

2.是全球海上遇險與安全系統(GMDSS)以及e-航海發展所需之系統,具有專用資訊網之特性。

3.相較於海上專用通信頻段(VHF),VDES頻寬增加30倍,且可進行加密通訊。

4.VDES系統從具有AIS系統的船、船對岸等具數據資訊節點傳遞至衛星節點中,系統內任意兩節點可直接、靈活、相容聯絡,具有一體化特點。

新加坡尚在VDES試行階段,目前國際海事組織(IMO)亦未訂定VDES相關規範或標準,可持續追蹤與研析。初步借鏡於我國,目前臺灣共有36座燈塔,其中33座使用現行AIS系統,就今日(2023年)而言,各國使用AIS尚為國際趨勢,倘若未來確定要升級使用VDES,建議我國航安須確認是否確實適用於臺灣設備升級之可行性並應納入評估建置時之過渡時期的配套措施。

參考資料:

1.封面圖: https://pixabay.com/images/id-1044723/

2.VDES adds another dimension to safer communications at sea, https://www.mpa.gov.sg/cwp/assets/SRS/issue15/Safety@sea/Communication_at_sea.html,民國110年9月28日。

3.交通部運輸研究所,「船舶航行安全大數據資料庫應用與分析」,https://www.iot.gov.tw/dl-14785-d679196edd754d6b98adc02b4aa7055e.html,民國111年1月24日。

 
AIGC熱潮下的大語言模型訓練與部署挑戰
FIND研究員:楊青翰

隨著AI生成內容(AI Generated Content )的出現,大型語言模型(Large Language Model)成為AI生成內容的核心技術之一。例如GPT-3、LaMDA和BLOOM都是基於Transformer模型進行預訓練的大型語言模型,它們可以生成各種形式的自然語言內容,包括文章、對話等。因此AI生成內容正在成為許多行業的趨勢,例如自動化寫作、自動化客服等。然而,隨著大型語言模型的發展,AI訓練的運算量不斷增長,而記憶體容量卻跟不上這個趨勢。這是一個巨大的挑戰,因為大型語言模型需要龐大的記憶體容量來存儲模型參數和中間計算結果。如下圖所示,Transformer模型中的參數數量呈現出2年240倍超指數增長(紅色),而單個GPU記憶體容量只以每2年2倍的速度增長(綠色)。 預估未來AI所需的運算能力和記憶體之間的差距越來越大,在訓練和部署更大模型的技術上將遇到更多挑戰。

圖1:AI運算參數量和加速器記憶體容量成長比較

資料來源:AI and Memory Wall

【技術應用現況】

全台第一個利用BLOOM建立大語言模型(參數量達1,760億個)的AI團隊,台灣智慧雲端服務公司(華碩電腦子公司,簡稱台智雲)總工程師趙逢毅表示,要啟動大語言模型需要掌握多項關鍵技術。

必須熟悉大型模型訓練技術:要具備分散式訓練技術的知識和相關套件設定能力,並且瞭解如何建立相應的訓練環境。由於大型語言模型的參數數量非常龐大,加上需要處理大量的訓練資料,因此傳統的單機訓練環境已經無法滿足需求,必須使用分散式訓練技術來應對。

要提供大算力資源:隨著模型複雜度的提高,模型的FLOPs數量也隨之攀升,因此需要對應的大算力資源來支持模型的訓練和推論。此外,高效率的儲存系統也是必要的,例如GPFS,以確保模型的參數和訓練資料可以高效率地存取和傳輸,提升整體的訓練和推論效能。

使用Fine-tuning相關技術:透過 In-Context Learning 的方式來訓練大語言基礎模型,可以不必再單獨訓練下游任務,而是直接利用已經訓練好的模型來進行微調,從而提高模型對不同任務的理解能力。同時,這種方法還能夠減少模型參數的儲存,從而降低了存儲和運算的成本,並且提升了整體效率。

必須熟悉大型模型推論技術:為了實現低延遲的推論要求,需要了解如何構建支援多GPU推論的推論架構。此外,需要學習GPU Kernel融合技術,這有助於支援多種維度的融合技術,如水平、垂直和記憶體融合,以提高推論的效率和性能。

台大資工系主任洪士灝在臉書上表示,若台灣希望發展自主訓練大型AI模型的能力,並在國際上扮演重要的角色,就需要集思廣益,商討如何善用現有的技術和人才,並投入和配置關鍵的資源。隨著大型AI模型的訓練與部署技術持續發展,未來將有助於推動AI生成內容的發展,並為各個產業帶來更多的創新和價值。

參考來源:

1.封面圖資料來源:https://lifearchitect.ai/models/

2.AI and Memory Wall:https://medium.com/riselab/ai-and-memory-wall-2cb4265cb0b8

3.搭ChatGPT風潮 台智雲談大語言模型訓練挑戰:https://www.digitimes.com.tw/tech/dt/n/shwnws.asp?id=0000656646_55G52E0I5AVIH651MLUAI

4.AIHPC x Large Language Model -BLOOM 176B 大語言模型成果展示!:https://tws.twcc.ai/2023/01/18/llm/

5.洪士灝Facebook:https://reurl.cc/eDk2W7

 
5G遠距診療服務,偏遠地區的一大福音
FIND研究員:張靖雯 醫療一直是臺灣引以為傲的服務,而在高速5G與IoT科技協助下,在偏遠地區打造5G遠距診療將不再是夢想。而電信業者也透過與醫療院所合作,共同擴展智慧醫療解決方案,讓臺灣醫療服務更臻完美。 ...
 
讓科技執法降低交通事故
FIND研究員:張靖雯 在5G與AIoT的結合下,科技執法落地應用,未來違規將無所遁形。 自5G開臺以來,由於基礎建設愈來愈完善,交通部也不斷運用5G網路、AIoT、AI辨識等技術來提升交通安全,降低交通事故的發生。透過AI技術發展出物件分類及辨識系統,如AI車輛偵測系統可以整合警戒線、警戒區域,精準偵測違規停車行為,即時提供快照和影片佐證,可有效進行智慧科技執法。 ...
 
徜徉最美看海公路賞地景玩工藝 無塑減碳東海岸綠旅行
晨起,搭台鐵列車抵達台東市,沿著最美看海公路「台11線」展開環保零排放的旅程,過程中盡情學習部落工藝、品嚐原民料理、欣賞精彩展覽,讓山與海的能量洗滌身心靈。

誹謗案重金和解 批評者認為太便宜福斯
創辦人梅鐸同意付出一筆7億8750萬美元的和解金,相當於福斯新聞年淨收入的三分之二。多名主播被揭發私下表示厭惡美國前總統川普,讓福斯新聞相當尷尬。在福斯節目被嘲笑的多明尼恩投票系統公司,星期二在這項法院和解行動中宣布獲勝。然而,對一些梅鐸批評者而言,這一件具有里程碑意義的誹謗案結果並不值得慶祝。
 
本電子報著作權均屬「聯合線上公司」或授權「聯合線上公司」使用之合法權利人所有,
禁止未經授權轉載或節錄。若對電子報內容有任何疑問或要求轉載授權,請【
聯絡我們】。
  免費電子報 | 著作權聲明 | 隱私權聲明 | 聯絡我們