〈AI創新應用大浪潮〉2023科技論壇
〈AI創新應用大浪潮〉2023科技論壇
112.9.13
2023科技論壇〈AI創新應用大浪潮〉
經濟走在前端,
每一年聽聽大人們談趨勢,實際感受科技的躍進
離開日常,有意識打開五感,
會議中心,觸控的便利,電子感應的報到,疫後更加速
特別著重,廣達(雲逹)楊麒令, 整合與會,即興改題演講,
廣達林百里的遠見,超前部署,”耐心”和”確定”投資可達成果的支持
雲端(硬軟體,應用技術
5G
AI (邊緣運算,生成式領域
共同語言整合,服務(通盤了解產品和目標族群,
把所有垂直整合,硬+軟體基礎設施,
客製化的服務,台灣,”鯰魚”的企業態度,帶頭衝
微軟長期投資AI, 台灣微軟卞志祥,圖像式介紹生成式的實際應用
哇哇哇,還是讚嘆,科技帶來的便利,縮短時間,
是仍需要謹慎,雙面刃,因果關係
是企業工具?是初衷耕耘的綁架(快速結果,知其然,不知所以然)?
知識論壇,以投資的視角,資訊學習之
PS.(台上說的精彩,聽收受?
(退休者,時間多,良好資訊,妥善安排,但要認真求知,反之又是另一時間蹉跎
(發現聽講者不少銀髮族,精進學生,但體力不饒人,
(pm1:30, 跳槽〈ESG,影響力〉,綠能層級不同,觀念建立,智富講座
累積學習資訊,摘錄電子稿
*廣達(雲逹)楊麒令,(含MoneyDJ專訪)
*台灣微軟卞志祥,(另外存圖片記錄)
*中華電信郭水義
廣達：客戶加速採用AI 至少再紅5到10年
經濟日報 記者吳康瑋／台北報導
廣達（2382）資深副總經理暨雲達總經理楊麒令昨（13）日指出，未來全球資料中心與企業客戶都會開始加速採用AI伺服器，看好需求強勁成長態勢，至少將持續五至十年，對產業來說是一個「大祕寶」。隨著雲端服務供應商、客戶端加大力度投資，AI將成為改變時代的關鍵。
楊麒令昨天出席2023科技論壇「AI創新應用大浪潮」，以「AI與智慧製造大趨勢」為題發表主題演講。
楊麒令表示，廣達董事長林百里在2011年對外分享雲端布局，不過集團早在2006年就已制定相關策略，從雲端硬體、軟體與應用技術中尋求共同語言，發展至今終於能跟產業合作夥伴加以整合，並視對方需求提供配合。
楊麒令指出，未來AI觸及的領域，包括邊緣運算、物聯網及5G專網等面向，這已與過去原廠委託設計製造（ODM）、代工（OEM）業務截然不同。廣達將透過多角化布局雲端、邊緣運算、5G、AI，全力挖掘出更多潛在的應用面，以提供給市場更多、更好的硬體設備與解決方案。
楊麒令指出，他觀察到亞馬遜、微軟、Google與Meta等四大雲端服務供應商（CSP）皆耗費鉅資投入生成式AI領域，預估訂單也會一直擴大，不只是因為這些雲端服務供應商的規模夠大、能投資這麼大規模，也證明這個領域商機確實不小，目前雲達接到的訂單都很穩、量也愈來愈大，看好後市發展。
楊麒令指出，廣達集團先前著重出貨輝達（NVIDIA）A100產品，僅隔半年就以運算能力更強的H100 晶片伺服器為主力出貨產品。至於與輝達合作的全新推論伺服器MGX，預計將自9月到10月間試產，再快11月量產，明年出貨量會更多，看好未來需求會更強。
楊麒令指出，MGX系列產品用一顆GPU搭配安謀（Arm）架構的中央處理器（CPU）就能具備強勁效能，適合企業用來訓練語言模型，目前價格已經降至一定程度，需求從去年底開始大增，全球的資料中心都想要訓練更多語言模型，因此加快、加大繪圖處理器買氣，雲達看好整個需求將在明年大爆發。
楊麒令強調，廣達和雲達持續擴充各式技術研發及產品應用，不斷朝最優產品結構前進，目前最重要的是打造Smart X（智慧應用），期望能改變企業生態，這也是廣達重點投資項目之一，期盼能儘速將成績呈現給市場。
***********
2023/09/13中央社 記者吳家豪 (直白記述
代工廠廣達（2382）資深副總經理暨雲達科技總經理楊麒令今天說，資料中心與企業客戶加速採用人工智慧（AI）伺服器，但上游零組件缺貨，無法完全滿足強勁需求，看好AI是未來至少5到10年甚至更長時間的發展趨勢。
楊麒令今天出席經濟日報2023科技論壇，以「AI與智慧製造大趨勢」為主題發表演講，會後接受媒體採訪。
他說，廣達和雲達在2006年就設定策略，如果想要在一個已經有技術、有產品也有應用的垂直產業中取得成功，關鍵是「說相同的語言」，意思是要通盤了解產品和目標族群，把所有東西整合在一起。
楊麒令指出，廣達和雲達雖然賣的是硬體，但懂得軟體基礎設施，包括雲端、AI、5G等。從去年底到現在，廣達和雲達其實疲於奔命，突然間需求爆發，資料中心想要訓練更多的語言模型，加快速度買更多繪圖處理器（GPU）。
他說，去年雲達還在出貨搭載輝達（NVIDIA）A100晶片的伺服器，事隔半年，現在已經在出貨搭載H100晶片的伺服器，效能比A100好很多。雲達與輝達合作MGX架構伺服器，適合企業用來訓練語言模型，用一顆GPU搭配Arm架構的中央處理器（CPU），價格已經降到一定程度，未來需求會更強，目前預計9到10月試產MGX架構伺服器，今年底前進入量產。
楊麒令強調，AI是改變世代的重要產品，廣達和雲達在雲端、邊緣運算、5G、AI方面什麼都有，無論資料中心或企業客戶，未來相關需求一定會繼續增加，看好AI至少是5到10年甚至更長時間的發展趨勢。
他也提到，廣達和雲達在雲端獲得成功後，更重要的是打造Smart X（智慧應用），改變目前企業生態，廣達和雲達在這方面投資很久，希望很快做出成績。
*******
經濟日報科技論壇 郭水義：AI 重點以人為本、科技為善
2023/09/13 經濟日報 記者黃晶琳／台北即時報導
中華電信（2412）董事長郭水義今日出席經濟日報舉辦2023科技論壇，郭水義認為，未來AI將會無所不在，世界也會進入AI世代，以人為本、科技為善是AI重點，中華電信也會攜手各行各業一起前進，掌握AI趨勢。
經濟日報於9月13日舉辦2023科技論壇，以「AI創新應用大浪潮」為主題，探討AI大趨勢下帶來的商機與挑戰。本論壇由中華電信、工研院、資策會、日月光集團、玉山銀行協辦。
郭水義表示，經濟日報連續超過12年舉行科技論壇，累積能量相當豐沛，從當年的雲端到今年的「AI創新應用大浪潮」，今日將以AI現在、過去與未來分享對AI看法。
郭水義認為，人類從80、90年前開始研究人工智慧，1997年AI技術深藍（Deep Blue）打敗世界西洋棋王，2017年 AlphaGo 打敗世界圍棋王，不久前 ChatGPT 成為全世界話題。
郭水義指出，AI近年快速發展，從機器學習、深度學習，由電腦自動地從資料中歸納規則改變，現在開始寫自己的規則，如同大數據一書中提到，大數據轉而探索資料之間的相關性，而不拘泥數字之間的因果關係，對於人類創新應用帶來莫大的顛覆改變，AI也正在進行中。
郭水義表示，知名顧問公司提到人工智慧是繼蒸汽機電氣化到資通訊革命之後，所謂的第四代工業革命，而AI技術發展也改變了人類的生活，過去對於各種傳染病的疫苗開發時間相當耗時，但在人類技術進步情況下，人類技術進步讓疫苗時間縮短在不到一年時間就研發出來，讓人類免除一場類似當年中古世紀的黑死病對於歐洲帶來三分之一人口傷亡的重大災害。
郭水義認為，就是AI帶來轉變力量，未來AI將會無所不在，世界也會進入AI世代，而人工智慧更將從經濟範疇、規模經濟、教育學習這三個層面改變世界，經濟範疇就例如中華電信是電信業，但未來不僅是電信會超越電信領域範疇，未來各行各業都將擴大範疇經濟，而規模經濟因為有AI之後，規模化經濟的大量生產，透過AI之後，變成分眾及小量生產，客製化也變成高度，可能透過AI來提升質與量，此外，教育學習則可大幅縮短人力學習時間，例如新冠肺炎疫苗研發就是重要的案例。
郭水義指出，未來以AI主題發動，科技為善（Tech For Good）是第一要務，更要重視數位平權，在公平及不侵害隱私的情況下，發展AI，人類要掌握自主權及控制權，這也是資策會科技法律研究所所長蕭宏宜今日要分享的主軸之一，以人為本、科技為善是AI重點
而台灣身處全球資通訊的供應鏈重要一環，郭水義指出，台灣產業也是未來打造生態系重要基礎，台灣人工智慧學校前執行長陳昇瑋曾在書上提到，「產業AI化、AI產業化」，前行政院副院長沈榮津也提到，台灣擁有高科技產業聚落、生態系統，未來把台灣獨特的規畫、生產流程、製程、行銷等，透過資料把產業AI化，這也是國際大廠所欠缺。
郭水義認為，中華電信也會攜手各行各業一起前進，掌握AI趨勢，更深信人類智慧引導人工智慧，科技為善，人心最美；人工智慧輔助人類智慧，這個也會，那個也會，人工智慧賦能人類智慧，祝福大家長命百歲。
*****
2023科技論壇／台灣微軟總座卞志祥：未來已來 科技拐點到了
2023-09-14 經濟日報 記者吳凱中／台北報導
台灣微軟總經理卞志祥昨（13）日表示，AI是台灣未來十年、20年最大的機會，預期AI是下個科技拐點，會帶來不可思議、跨界、高速的產業轉型，並且引發典範轉移。
卞志祥昨天參加2023科技論壇「AI創新應用大浪潮」，以「未來，已來」為題發表專題演講，釋出以上訊息。
卞志祥表示，2023年是一個動盪的年代，但是所有的「危」通常都伴隨著「機」（會），如何轉變現在這個看似不確定性的時刻，並抓住AI這個對台灣來說是十年、20年最大的機會。
他分享一位F1頂級賽車手名言，「你沒有辦法在大晴天，從落後十幾輛車變成開到第一名，但是在一個無法掌握的雨天，絕對有這個機會。」
卞志祥說，產業變化正在加速，這個加速點會混合所有的產業去創造全新的需求。以人類過去1000年的GDP成長速度來看，過去800年大概只有成長一倍，但在最近100年卻成長20倍，這是因為每個科技拐點的到來，都會帶來一波跳躍性或指數型成長。
卞志祥表示，這些科技拐點是電晶體、電腦、雲端技術、移動裝置，而現在下個跳躍的起點，應該就是AI。預期AI會帶來不可思議、跨界、高速的產業轉型。
他認為，生成式AI創新主要來自三個元素，算法、算力和資料，在這前提下，下一步海量資料會從原來的文字形式，走向多模態、走向機器生成資料，就是所有物聯網（IoT）裝置的資料。
卞志祥分析，算力會從雲端到邊緣端，甚至到每一個人的終端裝置，演算法也會從現在要求極高的算力，走向節能的運算力，甚至是到下一世代的量子電腦，而這樣的階段性演進，會產生多大的爆炸性成長，在這樣的過程中，科技會再次發生典範轉移。
卞志祥舉例，生成式AI會同時創造兩個介面的進化，一個是人對電腦或機器的理解，我可以用自然語言，讓電腦幫我寫出程式碼，這叫人機介面的進化。另一方面，生成式AI可以了解你背後無限多資料的關聯性、解譯、解構，並且抓住他的精髓，「所以生成式AI左邊了解人，右邊了解機器資料，可以產生很多我們現在無法想到的關聯及應用。」
卞志祥說，每一波的典範轉移，在全世界都造成不同世代的更替、不同的科技巨擘。重點是下一波典範轉移會在哪裡？誰會是下一波站起來的公司，台灣的機會又在哪裡，這是真正值得探討的問題。
*****
〈雲達專訪上〉揭密制霸AI伺服器的經營秘訣
MoneyDJ新聞 2023-06-02 記者 張以忠 報導
近日NVIDIA創辦人黃仁勳特別為廣達（2382）旗下伺服器大廠雲達站台，並將標誌性的皮衣給雲達總經理楊麒令穿上，給雲達做足面子。其中，NVIDIA最新架構MGX首波就是由雲達取得供貨資格，是少數能率先販售的廠商。
據了解，NVIDIA的MGX架構區分不同應用市場，而雲達取得的MGX架構伺服器銷售類別，屬於NVIDIA專門處理training(訓練)、inference(推論)的AI應用，是目前最熱的類別，等於是搶得AI高速成長的先機。
廣達早在2000年就開始發展雲端伺服器，至2006年，隨著GOOGLE雲端服務興起，雲端運算時代正式展開，時至今日，廣達已成為囊括包括GOOGLE、Meta、微軟、亞馬遜等大型CSP(雲端服務供應商)業者資料中心伺服器代工大廠。而當今火熱的AI伺服器，廣達則是在2016年無人聞問時，就做出AI伺服器。
廣達董事長林百里才在今(2023)年5月初舉辦的35周年慶致詞時登高一呼，說廣達已經是AI伺服器龍頭。林百里過去會提到集團是NB龍頭、雲端伺服器龍頭，而在今年，特別提到AI伺服器。
為什麼特別提AI伺服器呢？廣達去年AI伺服器佔伺服器比重已達50%，明顯高於同業的10-20%佔比，預期集團今年、明年會在這個基礎上持續提升比重。其中，明年伺服器預期將有雙位數增幅，而動能主要來自AI伺服器。可以說，AI伺服器扮演支撐廣達營運重要動能。
今年的computex，MoneyDJ專訪雲達總經理楊麒令，被問及黃仁勳的皮衣有多重，楊麒令打趣的說，「穿上兆男身價的皮衣，滿興奮的，但這也代表跟創辦人的關係，在那麼多年的累積下，讓他這樣支持廣達、QCT。」
關於雲達走到今日的伺服器霸業地位的心路歷程以及競爭利基，以下是訪談內容。
#雲達取得NVIDIA最新MGX架構伺服器首波供應商，我們是怎麼樣取得這樣資格？
楊麒令：我們與NVIDIA從DGX-1開始就是合作夥伴，從那時候開始，我們已經建立非常良好的關係，而廣達、QCT有很強的研發能力，我們在system architecture(系統架構)上，表現得淋漓盡致。
像MGX這種module design(模組設計)，是因應NVIDIA希望往後各個世代都能應用，這就需要一個forward thinking(具前瞻性的設想)的研發團隊幫助他們，也因此，廣達、QCT很容易被選中。
#有什麼事情是別人沒有做，但我們做了？
楊麒令：研發能力的累積非常重要，我們算是最早進入雲端產業的廠商，所以我們累積很多經驗，不管是在伺服器、儲存設備、網路交換器，或是rack(機櫃)，甚至到軟體架構、workflow optimization(工作流程最佳化)，都累積非常大的能量。所以當我們在define(定義)產品時，對於合作夥伴來說，我們可以contribute a lot(做出最大貢獻)，這是我們跟同業比較不一樣的地方。
#每次開發下一代產品的時候，決策的過程會是什麼樣子？
楊麒令：我們有很完整的product marketing(產品行銷)的團隊，還有各自聚焦在不同產品、客戶的研發團隊，當我們在define下一世代產品的時候，不管是CPU或是GPU，我們對夥伴未來的產品規劃，都很清楚。
同時，廣達、QCT的客戶基礎非常廣泛，包括teir 1的CSP客戶，以及企業型客戶，我們大大小小的客戶都有。等於是，我們左手有與客戶合作過程中培養的先進技術，右手又掌握客戶的需求。團隊共同define產品的情況下，就能推出很符合市場所需要的產品。
過去十多年來，我們除了在硬體的投資，包括伺服器、儲存設備、網路交換器之外，我們也投資軟體，包括VMware、微軟、OpenStack等等，我們把這些基礎都整合起來，這是一般公司比較難做到。
跨入新的technology(技術)，或新的市場，永遠都是挑戰，對我們團隊而言，永遠會接受最新的挑戰。值得慶幸的是，團隊已經成立快20年，已經營造出共同目標，就是接受未來新事物的挑戰，以及保持現有業務的競爭力，這已經變成我們的DNA，所以一方面感覺有壓力，另一方面又感到高興，這是很難得的團隊。
〈雲達專訪下〉楊麒令：布局AI早，時間到了就會發生
MoneyDJ新聞 2023-06-02 記者 張以忠 報導
繼上一篇雲達總經理楊麒令，揭密雲達邁向伺服器龍頭的部署計畫，這一篇將詳談雲達是如何掌握AI趨勢，以下是專訪內容。
#多久前看到AI趨勢？
楊麒令：我們董事長(指林百里)大概7-8年前就看到，那時候就開始布局AI伺服器。NVIDIA除了晶片很厲害之外，他還有CUDA(Compute Unified Device Architecture)的軟體平台，這是NVIDIA贏很多的地方。所有開發者要使用GPU，都需要一個平台，可以串聯到各種應用，CUDA透過過去10-20年的累積，已經幾乎沒有對手，也因為這個平台的發展，大家變得更容易進入AI領域。
董事長過去有提到，super computing(超高速運算)，以及Hyper Connect(超級連結)，這就是我們的目標，super computing就是怎麼樣accelerate(加速) computing(運算)，很大一部分就是靠AI GPU的chip。我們已經在很多年前就布局，並且有這樣的願景。今天公司在AI的成果，只是時間到了，該發生了，就會發生。
#如何布局下一代產品跟技術？
楊麒令：對我們來說，我們不停在確認每一個現在，為什麼？我們一方面掌握各種合作夥伴，包含硬體、軟體的夥伴，另一方面，掌握tier 1的CSP客戶或是企業客戶，讓我們隨時都可以抓到最新的脈動。AI就是很好的例子，並不是這個時間點我們突然抓到AI，而是預先想了、做了很多事情，然後在適當時間點，抓到我們應該抓到的機會。
我們做rack(機櫃)，包含伺服器、儲存設備、網路交換器，也因為做的項目多，再去做散熱時，就會知道問題點在哪，這是跨領域的經驗累積，當你每個環節都懂，才可以將解決方案做到最完美。
#伺服器散熱布局方向為何？
楊麒令：當初要發展液冷解決方案，那時候也有將浸沒式冷卻(Immersion Cooling)考慮進去，不過，我們在各項技術都有涉獵的情況下，我們發現，目前liquid to air(液態對氣態)機櫃，以及liquid to liquid(液態對液態)機櫃的解決方案，客戶能夠馬上轉換使用。
#雲達3-5年後，會變成怎麼樣的公司？
楊麒令：那麼多年發展下來，有很多目前的成就，都是當初想像不到的，我們團隊永遠都在挑戰最新的解決方案，希望拓展更多市場，用最大的努力往前衝。