[AI Leadership] ① Cách mạng hóa thiết bị hằng ngày sử dụng AI trên thiết bị

AI đang nhanh chóng trở thành một phần không thể thiếu trong cuộc sống hằng ngày. Với tầm nhìn “AI cho mọi người”, Samsung Electronics tập trung vào mục tiêu mang đến những trải nghiệm AI đột phá, nâng tầm chất lượng sống cho người dùng bằng cách thiết lập tiêu chuẩn mới cho các thiết bị thế hệ tiếp theo, từ thiết bị di động, TV đến thiết bị gia dụng tích hợp AI.

Trọng tâm của những đổi mới về AI từ Samsung chính là AI trên thiết bị (on-device AI). Công nghệ này cho phép AI hoạt động độc lập trong thiết bị mà không cần máy chủ hoặc điện toán đám mây, giúp người dùng nhận được phản hồi nhanh chóng, không phụ thuộc vào kết nối mạng, đồng thời giảm thiểu lo ngại về rò rỉ dữ liệu cá nhân.

AI trên thiết bị hiện đã phát triển vượt ra ngoài các chức năng đơn giản nhằm xử lý những yêu cầu đòi hỏi lượng dữ liệu khổng lồ — chẳng hạn như AI tạo sinh — chỉ sử dụng các tài nguyên bên trong của thiết bị.

Hãy cùng Samsung Newsroom khám phá cách Samsung giữ vững vị thế tiên phong về đổi mới của AI trên thiết bị.

Không cần đám mây: Thay đổi cách trải nghiệm AI trên thiết bị

Với yêu cầu về tốc độ và bảo mật, phần lớn ngành công nghệ đã tập trung vào việc chạy công nghệ AI tạo sinh phức tạp trong môi trường trên thiết bị. Với những khoản đầu tư dài hạn đã bắt đầu từ hơn một thập kỷ trước, Samsung đã tùy chỉnh các tính năng AI cho nhiều thiết bị của mình và định vị vị thế dẫn đầu trong việc cung cấp trải nghiệm AI trên thiết bị cho cuộc sống hằng ngày.

Đơn cử như Galaxy AI ¹ của Samsung cung cấp các tính năng tích hợp trong thiết bị cho các dòng sản phẩm thiết bị di động và máy tính bảng mới nhất. Hiện hỗ trợ tổng cộng 20 ngôn ngữ ², Galaxy AI giúp người dùng vượt qua rào cản ngôn ngữ trong giao tiếp với khả năng phiên dịch cuộc trò chuyện theo thời gian thực cũng như dịch tin nhắn và trang web.

Đối với TV, Samsung tận dụng vị thế dẫn đầu thị trường toàn cầu để huấn luyện các mô hình AI tiên tiến. Từ năm 2020, hãng đã liên tục cải tiến bộ xử lý dành riêng cho TV với NPU tích hợp (đơn vị xử lý thần kinh). Bộ xử lý NQ8 AI thế hệ 3 trên mẫu Neo QLED 8K 2024 có 512 mạng nơ-ron giúp nâng cao chất lượng hình ảnh và âm thanh. Bộ xử lý này phân tích và tinh chỉnh các điểm ảnh, khung hình, cũng như nguồn âm thanh, mang lại khả năng nâng cấp vượt trội, chuyển động mượt mà và lời thoại rõ ràng, cho trải nghiệm nghe nhìn liền mạch trong mọi tình huống.

Chìa khóa của AI trên thiết bị là giảm thiểu kích thước mô hình trong khi vẫn duy trì hiệu suất. Để đạt được điều này, Samsung đã tập trung vào việc triển khai hiệu quả, đồng thời sử dụng dữ liệu huấn luyện AI chuyên biệt được điều chỉnh cho các tác vụ cụ thể.

▲ Sunmin Kim và Cheulhee Hahm, Ngành hàng Màn hình hiển thị tại Samsung Electronics giải thích về AI trên thiết bị.

Nhanh và gọn hơn: Nghiên cứu tối ưu hóa AI của Samsung

Khi công nghệ AI ngày càng phát triển và yêu cầu xử lý dữ liệu ngày càng tăng, việc tối ưu hóa mô hình trở nên ngày một quan trọng hơn. Nói cách khác, các mô hình AI hiệu suất cao cần phải hoạt động hiệu quả với lượng tài nguyên giới hạn trên thiết bị — bao gồm bộ xử lý, bộ nhớ và pin — đồng thời vẫn phải duy trì hiệu suất và độ tin cậy để sử dụng hằng ngày. Công nghệ chính cho quy trình này bao gồm nén mô hình, tối ưu hóa phần cứng và tăng tốc xử lý dữ liệu.

Samsung đã nắm trong tay nhiều công nghệ khác nhau trong lĩnh vực nén mô hình nhằm giảm kích thước của các mô hình AI. Công ty đã thành công phát triển các mô hình AI nhẹ và nhanh thông qua các kỹ thuật như lượng tử hóa, giúp tăng tốc độ phản hồi bằng cách đơn giản hóa các thuật toán và tối ưu hóa các quy trình tính toán; cắt tỉa, loại bỏ các yếu tố không cần thiết của một mô hình lớn hơn; và chắt lọc, chuyển giao kiến ​​thức từ các mô hình lớn sang các mô hình nhỏ hơn.

Samsung cũng liên tục đổi mới trong công cuộc tối ưu hóa phần cứng và tăng tốc xử lý dữ liệu để chạy AI nhanh chóng và hiệu quả. Ví dụ, công nghệ sử dụng bộ nhớ flash phân vùng các mô hình AI lớn và giảm đáng kể việc sử dụng bộ nhớ. Ngoài ra, công ty còn phát triển công nghệ đã được cấp bằng sáng chế, dự kiến ​​sẽ hỗ trợ suy luận nhanh trên các thiết bị cấp thấp không có NPU, mở rộng ứng dụng AI trên nhiều sản phẩm khác nhau. Hiện Samsung đang tiến hành nghiên cứu sâu hơn nhằm tăng tốc độ suy luận với giải mã giả định, một công nghệ dự đoán kết quả mô hình AI và tăng cường sức mạnh tính toán bằng cách chạy nhiều phần cứng cùng lúc.

▲ Quy trình chắt lọc và cô đọng kiến thức

Chuyên môn toàn diện: Từ phát triển nội bộ đến triển khai

Với chuyên môn trải dài từ phần cứng, phần mềm, linh kiện đến sản phẩm cuối, Samsung đang dẫn đầu trong việc đổi mới AI trên thiết bị từ bước nghiên cứu, phát triển đến triển khai sản phẩm.

Từ góc độ thiết bị, vị thế dẫn đầu thị trường của Samsung trong lĩnh vực thiết bị di động, TV, đồ gia dụng và nhiều sản phẩm khác thể hiện sự xuất sắc của hãng trong cả phần cứng lẫn phần mềm. Samsung tích hợp AI vào chính các thiết bị của mình, cho phép công ty tận dụng cả quá trình phát triển nội bộ và hợp tác mở với các đối tác trong ngành nhằm xây dựng các mô hình AI được tối ưu hóa cho phần cứng.

Samsung không chỉ dẫn đầu về phần cứng mà còn sở hữu chuyên môn cao trong phát triển phần mềm hệ thống, kết nối liền mạch giữa phần cứng và ứng dụng. Điển hình như hệ điều hành Tizen và NPU tích hợp trên TV Samsung, hỗ trợ công nghệ AI tích hợp trực tiếp trên thiết bị, mang lại trải nghiệm xem thông minh hơn và vượt trội hơn. Bên cạnh đó, Samsung còn cung cấp các bộ công cụ Vision AI và Language AI SDKs, cùng các API học máy, giúp các nhà phát triển dễ dàng huấn luyện và triển khai các mô hình AI.

Samsung Research, trung tâm nghiên cứu và phát triển (R&D) tiên tiến của công ty, đang tập trung vào việc nâng cao tính cạnh tranh bằng cách sử dụng kiến ​​thức chuyên môn từ mạng lưới các phòng thí nghiệm toàn cầu của mình – từ phát triển cấu trúc mô hình AI và nén mô hình ở Anh và Mỹ, đến tạo ra các giải pháp tăng tốc AI ở Ấn Độ và Ba Lan.

Từ góc độ linh kiện, Samsung đã không ngừng thúc đẩy tiến bộ về hiệu suất của NPU (Neural Processing Unit – bộ xử lý thần kinh) với tư cách là nhà sản xuất chất bán dẫn hàng đầu, và có kế hoạch tiếp tục hợp tác với các đối tác để phát triển những cách thức mới trong việc sử dụng công nghệ AI trên thiết bị.

▲ Samsung đã giới thiệu trải nghiệm AI TV mới tại Hội nghị Nhà phát triển Samsung 2024 vào tháng 10.

Với khả năng AI trên thiết bị dự kiến ​​sẽ mở rộng trên nhiều sản phẩm và dịch vụ hơn, Samsung đang tiên phong trong những thay đổi đột phá, chứng kiến công nghệ AI sẽ biến đổi cuộc sống hằng ngày. Trong phần hai của loạt bài này, Samsung Newsroom sẽ khám phá những đổi mới của công ty trong lĩnh vực AI cá nhân hóa.

¹ Các thiết bị hỗ trợ Galaxy AI bao gồm Galaxy Z Fold6, Flip6, Fold5, Flip5, Fold4, Flip4, dòng S24, dòng S23, dòng S22, S24 FE, S23 FE, dòng Tab S10, dòng Tab S9, dòng Tab S8…

² Các ngôn ngữ hỗ trợ Galaxy AI bao gồm: Tiếng Hàn, Tiếng Anh, Tiếng Ả Rập, Tiếng Trung giản thể, Tiếng Hà Lan, Tiếng Pháp, Tiếng Đức, Tiếng Hindi, Tiếng Indonesia, Tiếng Ý, Tiếng Nhật, Tiếng Ba Lan, Tiếng Bồ Đào Nha, Tiếng Rumani, Tiếng Nga, Tiếng Tây Ban Nha, Tiếng Thụy Điển, Tiếng Thái, Tiếng Thổ Nhĩ Kỳ và Tiếng Việt.