轉型浪潮方興未艾，三星電子將Bixby推向最前線。自3月31日正式推出後，Bixby從過去的語音助理升級為「裝置代理人」，它能理解裝置的情境脈絡、串連多項功能，還能代表用戶執行複雜任務。透過直覺的自然語言控制，Bixby便能根據裝置狀態，而提供個人化解決方案，還能在單一對話過程中，無縫存取網路資訊。

Bixby何以超越一般的語音助理？三星電子執行副總裁暨行動通訊（MX）事業部AI語言團隊負責人Jisun Park現身說法，為讀者細說從頭。

▲ Jisun Park

問：相較於以往，新版Bixby有哪些改變？

Bixby已從傳統的助理，進化為更強大的裝置代理人。它能優化每位使用者的裝置，深度理解裝置狀態與效能，提供更切身相關的內容與量身定制的解決方案。借助強化的自然語言理解能力，它還能實現更直覺且流暢的裝置操控。

▲Park藉由自然語言，詢問Bixby應調整哪些裝置設定，以減輕眼睛疲勞。

問：新版Bixby能為使用者提供哪些關鍵體驗？

最顯著的改良之處，莫過於更直覺的裝置操控。

現在，Bixby能理解用戶意圖，並推薦最適切的設定或功能，省去操作複雜選單的麻煩。使用者只需以自然語言，描述個人需求即可。

例如，當使用者說：「只有我看得見我的螢幕」，Bixby 就會啟動「防窺顯示（Privacy Display）」功能。

Bixby還能回答有關裝置的問題，並根據當前的設定狀態，提供個人化解決方案－猶如口袋裡的服務中心。例如，當用戶提問「我眼睛好累，如何提升螢幕的視覺舒適性？」，Bixby將立即推薦並啟動「舒適護眼模式」。

使用者只需在對話中提問，便能獲得解答與解決方案，不需在層層選單中翻找，亦不需另外開啟瀏覽器、地圖等應用程式。

此外，Bixby 的功能不再侷限於裝置相關的查詢，它也能分析即時網路資訊並提供相關回答。舉例來說，當使用者詢問：「推薦三家適合四口家庭的首爾韓式餐廳」，便能隨即獲得結果。

此設計可讓用戶自然地提出後續問題，並獲取其所需要的資訊，整個過程一氣呵成，亦不需切換情境。

問：在Bixby的升級歷程中，最具挑戰性的部分為何？

最艱鉅的環節是將Bixby架構從指令導向轉型為代理人導向，使其更精準地理解用戶意圖，並提供最佳成果。

過去，Bixby對用戶輸入資訊進行分類，並根據預設場景執行任務。而今，借助以大型語言模型（LLM）為核心的架構，它能更靈活地解讀意圖，並自主生成執行計畫。

更具體地說，我們將各項單一功能，轉換為可呼叫的代理人並加以定義，讓大型語言模型得以依據需求進行調用。因而系統可整合數項功能與API，透過更有意義的方式完成任務，超乎單純的自然語言理解。

因此，新版Bixby能更自然地處理複雜、且涉及多重步驟的請求，並具備更強大的情境感知能力，包括過去難以處理的場景。

▲Park闡述Bixby如何進化為以大型語言模型（LLM）為核心的裝置代理人

問：在開發過程中，是否有令人印象深刻的插曲？

提升韓語的處理效能最令人難忘。韓語廣泛使用助詞與動詞詞尾，因此詞形變化極其豐富，且其靈活的語序，與高度依賴語境的特性，導致語義差異極大。這些特性確實讓大型語言模型在理解句構與語義上面臨巨大的挑戰。

為能精準捕捉這些語言特性，我們優化基於LLM模型的訓練方法－改良模型架構並強化情境學習。最終，我們成功提升韓語處理效能，且遠遠超越既定目標。那一刻，整個團隊都對這個新版 Bixby充滿信心。

問：在三星朝「代理式AI」新紀元邁進之際，Bixby將扮演什麼樣的角色？

Bixby將扮演裝置代理人的關鍵角色，協助用戶更輕鬆地存取三星裝置，並淋漓盡致發揮裝置潛力。

代理式AI的核心本質，在於理解用戶意圖與情境，並代表用戶自主執行任務，讓日常體驗變得更加簡便。三星冀望透過此途徑，為AI的應用普及注入動力，最終無縫融入日常生活，猶如基礎設施般不可或缺。

在Bixby的輔助下，使用者無需具備專業技術，也能輕鬆探索並使用各項Galaxy AI功能。因此，Bixby大大降低AI的使用門檻，讓更多用戶在日常生活中，樂享AI帶來的種種體驗。

▲Park對著Galaxy S26 Ultra說話，示範Bixby的全新代理功能。

問：Bixby的應用觸角，已從Galaxy行動裝置延伸至其他的三星裝置，能否透露更多細節？

Bixby已躍上各式各樣的三星裝置，其應用範疇已跳脫Galaxy生態圈，為使用者帶來更多便利。

目前，升級版Bixby階段式導入更多產品，讓三星用戶以更便捷的方式，輕鬆控制家中的多部裝置。

得益於SmartThings的深度整合，用戶還能透過Galaxy裝置遠端操控家電。例如外出之際，可對掃地機器人說「開始清掃地板」，或在返家前預先下達「啟動冷氣並切換至除濕模式」的指令。

即使出門在外，也能輕鬆管理居家環境。

隨著Bixby擴大應用於更多裝置，將帶來更深度整合的互聯體驗，讓用戶在日常生活之中，享受更多的便利性。

▲在Bixby的應援下，使用者無需具備專業技術，也能探索及使用各項Galaxy AI功能。

問：Bixby的未來發展方向和目標為何？

我們所追求的目標，是讓Bixby成為用戶與三星產品互動的首要介面。

以往，用戶需搜尋適當的應用程式、瀏覽選單，並來回切換視窗，才能完成任務。

在Bixby的輔助下，用戶動口不動手，便大功告成。這象徵人機互動模式，已從應用程式與選單操作，轉為更自然的對話式體驗。

為實現此目標，我們持續在關鍵AI功能上精益求精，例如自然語言理解、基於情境的推理和規劃。

與此同時，我們不斷延伸Bixby應用觸角，使其涵蓋更多裝置。作為一個能理解各項產品，並將其與用戶意圖相連結的裝置代理人，Bixby將成為自然且無縫的生活好夥伴。

不同於伺服器型系統，裝置端環境必須在嚴苛的記憶體和運算限制下運作。因此，勢必得縮小AI模型尺寸並盡可能提升執行環境效率。面對上述挑戰，三星研究院AI中心現正引領核心技術的開發工作，包括模型壓縮、執行環境軟體最佳化，乃至於新式架構開發。

三星新聞中心專訪三星研究院AI中心技術專家MyungJoo Ham博士，探討裝置端AI的未來及其背後的最佳化技術。

▲ MyungJoo Ham博士

邁向裝置端AI的第一步

生成式AI的核心是能解讀用戶語言並產生自然回覆的大型語言模型（LLMs）。而實現裝置端AI的第一步便是壓縮和優化這些大量且複雜的模型，以便在智慧型手機等裝置上順暢執行。

Ham博士表示：「直接在智慧型手機或筆記型電腦上執行高階模型，約要進行數十億次運算，不僅快速耗電，致使裝置升溫、甚至延遲反應時間，導致用戶體驗受到顯著影響。模型壓縮技術之所以出現，就是為了解決這類問題。」

LLMs使用極為複雜的數值表示來執行運算，而模型壓縮技術可透過量化程序，將這些數值簡化為更有效率的整數格式。Ham博士說明：「正如壓縮高解析度相片，雖然檔案大小縮水了，但畫質幾乎維持不變。換言之，將32位元浮點計算轉換為8位元甚至4位元整數，可大幅縮減記憶體用量和運算負載，進而加速反應時間。」

▲ 模型壓縮技術透過量化模型權重以縮減大小、增加處理速度並維持效能。

量化期間，由於數字精準度下降，可能會使模型的整體精準度下滑。為了平衡速度和模型品質，三星研究院正在開發能在壓縮後嚴密測量與校正效能的演算法和工具。

Ham博士指出：「模型壓縮的目的不僅是縮小模型尺寸，還要維持快速精準。我們使用最佳化演算法分析模型在壓縮過程中的損失函數並進行再次訓練，消除誤差較大的區域，直到輸出值接近原始模型。由於各模型權重的重要程度不一，因此我們將精確度提升，保留關鍵權重，同時更積極壓縮次要模型。此方法可在不犧牲精準度的情況下大幅增加效率。」

除了在原型階段開發模型壓縮技術，三星研究院亦因應智慧型手機和家電等實際產品，對模型進行調整和商業化。Ham博士稱：「每個裝置模型皆有各自的記憶體架構和運算設定檔，因此單憑通用方法無法創造媲美雲端的AI效能。透過產品導向研究，三星自行設計的壓縮演算法能讓用戶切身感受到更強大的AI體驗。」

推動AI效能的幕後引擎

即使模型壓縮得宜，用戶體驗最終仍取決於其在裝置上的實際運作狀況。三星研究院現正開發AI執行環境引擎，用於改善裝置在執行期間的記憶體和運算資源使用方式。

Ham博士解釋：「AI執行時，本質上就是模型的引擎控制單元。當模型在中央處理器（CPU）、圖形處理器（GPU）和神經處理器（NPU）等多種處理器上運作時，執行環境會自動將各項作業指派給最適合的晶片，並盡可能減少記憶體存取次數，以提高整體AI效能。」

AI執行環境也能讓較複雜的大型模型在同一裝置上以相同速度運作，如此不僅降低反應延遲，還可提升整體AI品質，呈現更精準的結果、更流暢的對話體驗，以及更細膩的圖像處理效果。

Ham博士表示：「裝置端AI最大的瓶頸為記憶體頻寬和儲存空間存取速度，因此三星正在開發能智慧平衡記憶體和運算的最佳化技術。」舉例來說，只載入當下所需資料，而非將所有資料皆儲存在記憶體中，藉此提高效率。博士補充：「三星研究院目前可在不到3GB（通常需要16GB以上）的記憶體上執行300億參數的生成式模型。」

▲ AI執行環境軟體可預測進行權重計算的時機，以減少記憶體用量並提高處理速度。

新世代AI模型架構

AI模型架構是AI系統的基礎藍圖，相關研究工作也順利推展中。

Ham博士指出：「由於裝置端環境的記憶體和運算資源有限，我們必須重新設計模型架構，以便在硬體上實現高效運作。三星的架構研究著重於建立能最大化硬體效能的模型。簡言之，我們的目標是從零打造裝置友善的架構，確保模型和裝置硬體從一開始就能完美整合。」

訓練LLMs需要投入大量時間與成本，倘若模型架構設計不佳，還可能大幅增加成本。為了減少效率低落的問題，三星研究院會在訓練開始前預估硬體效能並設計最佳化結構。Ham博士表示：「三星的目標是以最小的晶片達成最高程度的智慧，這是我們致力追求的技術方向。」

如今，大多數LLMs皆仰賴轉換器（transformer）架構。轉換器能一次分析整個句子，以確定詞語之間的關係。雖然該方法在理解上下文方面表現出色，但重大限制在於只要句子拉長，計算需求便會急遽上升。Ham博士說明：「三星目前在多方探索以克服這類限制，並根據實際裝置環境中的運作效率進行個別評估。我們不僅重點改善現有做法，也致力於以全新方法開發新一代架構。」

▲ 架構最佳化研究將大型模型的知識轉移至小型模型，在改善運算效率的同時兼顧效能。

裝置端AI的發展前景

裝置端AI未來面臨的最大難題為何？Ham博士回應：「在裝置上直接締造雲端級別運算的效能。為了實現這一點，模型最佳化和硬體效率必須相輔相成，才能在不考慮網路連線的前提下，提供快速、準確的AI。因此，同步改善速度、精準度和電源效率將成為更重要的課題。」

得益於裝置端AI的進展，用戶能隨時隨地享受快速、安全且更具個人化的AI體驗。Ham博士認為：「AI將變得更善於在裝置上進行即時學習，並適應每位使用者的環境。未來的重點在於提供自然且個別化的服務，同時保障資料安全。」

三星不斷突破極限，透過最佳化裝置端AI來打造更上層樓的體驗。憑藉上述行動，三星旨在賦予用戶更卓越、流暢的體驗。

三星電子日前發表TRUEBench（Trustworthy Real-world Usage Evaluation Benchmark，真實場景可信度評估基準）－此為三星研究院獨創之AI模型生產力評估基準。

TRUEBench提供全面的衡量指標，評估大型語言模型（LLM）在實際工作應用中的表現。結合多元對話情境及多語言條件，確保評估結果具備可信度。

TRUEBench借鑒三星內部運用AI提升工作效率的實際應用經驗，針對10個類別和46個子類別中常用的企業工作進行評估，例如內容生成、數據分析、摘要和翻譯等。該基準由人類與AI共同設計並不斷優化，透過AI自動評估，確保可靠的評分結果。

三星電子DX事業群技術長暨三星研究院負責人Paul（Kyungwhoon）Cheun表示：「三星研究院憑藉豐富的實際AI應用經驗，帶來深厚的專業知識和競爭優勢。期盼TRUEBench奠定生產力的評估標準，進而鞏固三星在科技產業的領導地位。」

近年來，隨著企業工作逐漸採用AI，衡量大型語言模型效率的需求也日益增長。然而，現有基準主要用來衡量整體表現，且多半以英語為中心，並僅限於單回合問答結構。此方式間接限制其反映實際工作環境的能力。

為突破這些限制，TRUEBench共提供2,485個測試集，其中涵蓋10個類別和12種語言^（註一），同時支援跨語言情境。測試集旨在檢驗AI模型的實際解決方案，三星研究院使用的測試集長度範圍，從最短8個字元到超過 20,000個字元，不論簡單要求到冗長文件摘要皆可應用。

為評估AI模型的表現，必須訂定明確標準判斷AI回應是否正確。在現實世界的情境中，並非所有使用者都會在指令中明確說明其意圖。TRUEBench的設計不僅考量答案的準確性，亦滿足使用者隱性需求的具體條件，進而使評估標準符合現實。

三星研究院透過人類與AI合作，針對評估項目進行驗證。首先，評估人員會建立一套標準，接著由AI進行審核，檢查是否有錯誤、矛盾或不必要的限制條件。然後，評估人員再次改良基準，重複此流程，使其逐漸精準。藉由上述交叉驗證的標準，對AI模型進行自動評估時，將能最小化主觀偏見，並確保一致性。此外，每一次測試皆須符合所有條件，模型才能通過評估基準。如此得以讓跨工作的評分更加詳盡且精確。

TRUEBench資料範本與排行榜已於全球開放原始碼平台Hugging Face上發布，使用者最多可針對五種模型進行比較，一目了然地對照AI模型的表現。此外，平台亦公布回應結果的平均長度數據，方便同步對照各模型的表現與效率。詳細資訊請參閱TRUEBench Hugging Face頁面：https://huggingface.co/spaces/SamsungResearch/TRUEBench。

註一：中文、英文、法文、德文、義大利文、日文、韓文、波蘭文、葡萄牙文、俄文、西班牙文與越南文

三星電子日前舉辦線上2024韓國三星開發者大會（SDC24 Korea），盛大揭示最新的軟體創新與未來願景。

三星自2014年起每年皆舉辦此項活動，借此與軟體開發人員展開交流與合作，至今已邁入第十一屆。本屆大會重點介紹產品內建軟體的相關研究，例如生成式AI、軟體平台、物聯網、醫療保健、通訊和數據；亦深入探討開源軟體的發展歷程。

三星在主題演講中，揭示自家專屬的第二代AI人工智慧模型－Samsung Gauss2，並強調升級的效能、效率和各種應用可能性。

三星電子總裁、裝置體驗（DX）事業群技術長暨三星研究院負責人Paul Kyungwhoon Cheun指出：「三星致力開發AI、數據分析等先進軟體，以強化使用者體驗。Samsung Gauss2共推出三種模型版本，為三星的內部生產力注入動能，我們計劃將該模型整合至產品，提升便利性和個人化設定。」

Samsung Gauss2：滿足多元需求的多模態語言模型

繼去年發表生成式AI模型，三星現推出進化版Samsung Gauss2，其為整合語言、程式碼與圖像的多模態模型，提升同步處理多種數據的效能與效率。共推出三種模型版本：Compact、Balanced和Supreme供選擇，滿足不同使用需求。

Compact版本屬於輕量級模型，專為高效作業設計，即使運算環境受到限制，亦不減其表現。它極致運用裝置的運算資源，為裝置端提供最佳的使用效能。進階級Balanced模型，側重於實現效能、速度和效率之間的平衡，不分任務展現一致的效能表現。而比Balanced更勝一籌的Supreme模型，則運用Mix of Experts技術^（註一）實現一流表現，大幅減少訓練和推理過程耗費的運算成本，同時維持高水準的效能和效率。

根據模型版本的不同，Samsung Gauss2支援9到14種語言，以及多種程式設計語言。三星開發並整合自家的穩定技術，用以訓練大型語言模型（LLM），並已完成自訂分詞器^（註二）的設計，確保受支援的語種可發揮最大效率。

相較於目前最頂尖的開源生成式AI模型，Balanced和Supreme模型在關鍵指標方面，可提供同級或更出色的表現，例如以英語和韓語等多種語言生成回應、編碼能力等。此外，這兩組模型的處理速度每小時提升1.5到3倍，可在更短的時間內生成AI回應，減少使用者等待時間，提升任務處理效率。

為各類型生產力任務、產品開發量身訂製

透過內部生成式AI模型，有助於輕鬆完成個人化設置，使特定目標、應用程式實現最佳化效能。Samsung Gauss的客製開發功能，被三星員工廣泛應用於多項任務之中。

在Samsung Gauss強大功能的助陣下，三星編碼助理「code.i」讓內部軟體開發人員如虎添翼。而今隨著進化版Samsung Gauss2的登場，其應用觸及裝置體驗（Device eXperience，DX）事業群的營業單位和海外研究機構。

自去年12月推出以來，code.i每月使用量成長了四倍之多，被近六成的DX事業群軟體開發人員採用。此外，Samsung Gauss Portal是由Samsung Gauss驅動的一項對話式AI服務，可協助DX事業群員工處理各種辦公室作業，例如文件重點彙整、翻譯、電子郵件撰寫。該項服務已於今年4月擴展至海外分公司。此外，自今年八月起，三星將Samsung Gauss導入客服中心，能自動對顧客來電進行分類與匯總。

展望未來，三星將藉由部署Samsung Gauss2、提升code.i服務表現、強化Samsung Gauss Portal自然語言問答功能，並支援多模態功能，例如理解表格和圖表、建立影像等，提升企業內部生產力。

此外，在「AI for All」的AI願景之下，三星將繼續延伸AI服務至所有產品線，讓消費者擁抱更便利、更愜意的新日常。並希望透過整合知識圖譜技術與AI，提供升級的個人化服務。

有關軟體平台、物聯網、醫療保健、通訊和數據的主題演講

宣布推出Samsung Gauss2後，三星就自家平台的客戶體驗發表演說，並針對SmartThings體驗與各種軟體平台的升級，提出相關見解。

隨後，三星舉辦29場技術座談會，涵蓋以下主題：

• 醫療保健的未來、三星健康生態圈策略
• 以生成式AI提升SmartThings消費者VOC體驗
• i：認識三星的AI編碼助理
• 透過電視生活風格內容中樞，使日常體驗多采多姿
• 借助AI Vision技術和數據應用，為三星家電提供AI解方

有關SDC24 Korea的更多資訊，請造訪活動官網（https://www.sdc-korea.com/）。

註一：僅針對特定的任務選擇及啟用最適當的專家模型，藉此節省必要的運算資源，進而提升效能表現。

註二：一項轉換工具，可將字母等輸入訊源，轉換為可供電腦處理的數據格式。