Công nghệ hoạt động ngoại tuyến

Theo thông cáo báo chí chính thức của KAIST, mô hình AI này được thiết kế để hoạt động mà không phụ thuộc vào máy chủ phía sau. Thay vì gửi truy vấn đến trung tâm dữ liệu, mô hình tận dụng tri thức đã thu thập và lưu giữ từ trước, từ đó tạo ra câu trả lời ngay trên thiết bị của người dùng.

Cách tiếp cận này giúp giảm sự phụ thuộc vào kết nối mạng và hạ tầng điện toán đám mây, đồng thời hạn chế việc dữ liệu người dùng phải được truyền đi bên ngoài.

Một số điểm cần lưu ý

Việc đối chiếu thông cáo báo chí với bản tóm tắt bài báo khoa học cho thấy tồn tại sự chênh lệch về con số tỷ lệ giảm giữa hai nguồn, và một phần tuyên bố kèm điều kiện nhất định. Đây là những chi tiết nhỏ nhưng cần được ghi nhận khi đánh giá phạm vi của công bố.

Hình ảnh minh họa trong thông cáo đến từ trang chính thức của KAIST; trong đó có một hình được chính nguồn này ghi chú rõ là ảnh do AI tạo ra.

Ý nghĩa cho ngành bán dẫn và phần cứng

Một mô hình AI chạy độc lập với máy chủ có thể tạo động lực mới cho phần cứng thiết bị cuối, từ bộ xử lý đến bộ nhớ dùng cho suy luận AI tại chỗ (on-device inference). Đây là xu hướng mà các doanh nghiệp Hàn Quốc trong chuỗi bán dẫn và phần cứng máy tính đang quan tâm.

Tuyên bố cốt lõi của KAIST về AI trả lời không qua máy chủ và tái sử dụng kiến thức đã một lần học được phản ánh đúng thực tế nghiên cứu, và verdict cuối cùng là Đúng phần lớn.