台智雲以代工模式 發布全球首個企業級類ChatGPT服務

日前華碩旗下AI運算服務子公司台智雲，位於淡水華碩AI雲創園區舉辦的年度科技盛會「AIHPCcon台灣AI超算年會」，眾星雲集，連鮮少公開露面的華碩董事長施崇棠也親自出席，重視程度可見一斑。

這場活動甚至引起微軟、谷歌、蘋果、臉書、百度等科技巨擘的高度關注，因為不同於這些科技大咖卯足全力使用大型語言模型（LLM）秀出生成式AI的成果，這次台智雲是第一次正式對外展示全球首個企業級的生成式AI服務，並比照晶圓代工模式打造生態圈，寫下劃時代的里程碑。

橫空出世的ChatGPT，已讓全世界首度見識到它不可小覷的威力，如大馬歌手朱浩仁和網紅Tomato、阿亞組成的團體Steady Gang就用ChatGPT寫歌「周董嗎？」致敬周杰倫；美國名校賓州大學華頓商學院與明尼蘇達大學教授也展開實測，證實可以通過商學院與法學院的考試。

但事實上，企業為展開全球化佈局，必須加快產品研發速度、市場需求應變能力，以提高企業的競爭力，生成式AI絕對是很棒的武器，因此對於ChatGPT的需求絕對不亞於普羅大眾與各行各業的人才。

可是，就連三星在內等大廠都因為無法承受商業機密外洩的風險，禁止員工使用。背後關鍵的原因是：要使用或訓練ChatGPT，必須要輸入很多公司內部的機密文件，這些資料最後也都會存在放微軟、谷歌等資料中心，因此最終還是讓很多企業望之卻步。

然而，如今台智雲透過「台灣杉2號」超級電腦建立出台灣第一個高達1760億參數的「福爾摩沙大模型」，媲美ChatGPT的巨量參數語言模型。該模型結合繁中的語意理解與文本生成能力，推出企業級生成式AI解決方案——AFS(人工智慧代工服務)，其中一項服務就是全球首創的大型語言模型地端部署解決方案（AFS Appliance），未來結合生態圈夥伴資源，可望讓企業導入生成式AI風起雲湧。

這次，NVIDIA、台灣大哥大、意藍資訊、傑騰智能、AIPLUS等台智雲人工智慧代工服務生態圈夥伴代表也前來為台智雲的活動站台。受邀的NVIDIA全球副總裁暨台灣區總經理邱麗孟就觀察，已經看到台灣大型企業針對需要發展LLM模型，只在企業內部使用，用於資料庫，如產品研發透過資料庫與LLM，就可以問問題，但資料庫屬於商業機密，所以不想要放在公有雲。「我認為這個模式（指放在私有雲的地端企業LLM服務）是非常具吸引力的，所以台智雲非常有發展潛力。」

台智雲就等於是把像ChatGPT的服務透過代工服務模式落地化，先是由台智雲針對企業需求，透過「台灣杉2號」協助訓練好LLM模型，交給企業之後，透過公司建置的AI伺服器與企業的內部機密資料再訓練，變成專屬的資料庫之後，就可以放置在公司內部，不需要擔心資料外流。

施崇棠出席活動時也描繪他心目中的台灣AI產業發展願景說，「期望台灣延續ICT（資訊技術）產業實力，成為AI 2.0時代不容忽視的數位重鎮。」鮮為人知的是，過去華碩投入機器人Zenbo發展時培訓很多語言程式的人才，如今這逾50位人才，也在集團拓展生成式AI事業中，扮演不可或缺的關鍵角色。

台智雲這場年度科技盛會，可以說是跨足企業生成式AI的起手式。在少子化、人才荒地不可逆趨勢之下，台智雲總經理吳漢章形容採行訂閱制的人工智慧代工服務，費用與效益就像是幫企業雇用一位很厲害的員工，而且透過不斷訓練還可以持續升級腦袋。「金融、電信、電商、零售、法律、醫院等領域都至少有一家客戶正在落地。」

台智雲董事長謝明傑透露，「目前台智雲主要鎖定台灣市場，但東南亞會是下一階段的目標。」要在LLM圈地，需要很大的算力，全球僅有少數公司可以達成，如今台智雲挾著「台灣杉2號」已在企業用生成式AI搶下市場先佔者優勢，邁出成功的第一步。