Khi chính mô hình AI trở thành điểm yếu bảo mật

Theo Fortinet, những rủi ro bảo mật có thể xuất phát trực tiếp từ chính mô hình, từ dữ liệu huấn luyện bị đầu độc, tấn công chèn lệnh đến nguy cơ mô hình vô tình làm lộ dữ liệu nhạy cảm. Vì vậy, bảo mật cần được tích hợp ngay từ khâu thiết kế và được duy trì xuyên suốt vòng đời AI, từ dữ liệu, mô hình đến hạ tầng và quá trình vận hành.

Ông Nguyễn Gia Đức - Giám đốc quốc gia, Fortinet Việt Nam

Fortinet đánh giá thế nào về xu hướng doanh nghiệp Việt Nam/ cá nhân tự phát triển và tùy chỉnh AI cho hoạt động chuyên biệt?

Ông Nguyễn Gia Đức - Giám đốc quốc gia, Fortinet Việt Nam: Chúng tôi thấy đây là một bước tiến rất tích cực và tất yếu. Việc các doanh nghiệp và cá nhân tại Việt Nam tùy biến AI cho các hoạt động chuyên biệt cho thấy một nền kinh tế số đang ngày càng trưởng thành và giàu tính đổi mới - một lĩnh vực mà nguồn nhân lực kỹ thuật chất lượng cao của Việt Nam hoàn toàn có lợi thế để dẫn đầu.

Khi AI đi vào hoạt động thực tế, doanh nghiệp ngày càng kết nối AI với dữ liệu nội bộ, tinh chỉnh mô hình hoặc xây dựng trợ lý cho những công việc cụ thể, từ chăm sóc khách hàng đến hỗ trợ kỹ sư vận hành,…

Tuy nhiên, các doanh nghiệp và cá nhân cũng cần lưu ý là các mức độ triển khai có rủi ro rất khác nhau. Một trợ lý chỉ tra cứu tài liệu đã được phê duyệt khác với một AI được quyền truy cập hệ thống sản xuất và thực hiện thao tác. AI càng được tiếp cận nhiều dữ liệu và trao nhiều quyền hành động, càng phải yêu cầu quản trị và bảo mật chặt chẽ.

Khi doanh nghiệp tự phát triển và huấn luyện AI riêng, những nguy cơ nào có thể xuất phát trực tiếp từ chính mô hình AI nếu nó không được bảo vệ an toàn ngay từ đầu?

Ông Nguyễn Gia Đức - Giám đốc quốc gia, Fortinet Việt Nam: Những mối nguy hiểm không chỉ đến từ bên ngoài hệ thống AI mà còn xuất phát từ chính bên trong mô hình. Nếu không chú trọng xây dựng cơ chế bảo mật ngay từ đầu, doanh nghiệp sẽ phải đối mặt với những rủi ro rất khó khắc phục về sau: mô hình có thể bị đầu độc, bị thao túng, và thậm chí làm rò rỉ chính dữ liệu đã được dùng để huấn luyện nó.

Một số ví dụ cụ thể:

• Đầu độc dữ liệu (tấn công vào dữ liệu huấn luyện): Kẻ tấn công đưa dữ liệu độc hại hoặc gây hiểu lầm vào tập dữ liệu huấn luyện để mô hình học sai hành vi. Ví dụ: Một ngân hàng Việt Nam huấn luyện mô hình phát hiện gian lận. Kẻ tấn công đầu độc tập dữ liệu khiến mô hình bỏ sót một kiểu gian lận cụ thể nhưng ngân hàng vẫn tiếp tục phê duyệt các giao dịch gian lận vì tưởng rằng AI đang hoạt động hiệu quả.
• Tấn công chèn lệnh (Prompt Injection): Kẻ tấn công tạo ra các chỉ dẫn ẩn bên trong câu lệnh (prompt) hoặc dữ liệu đầu vào để chiếm quyền điều khiển hành vi của mô hình. Ví dụ: Một chatbot chăm sóc khách hàng bị lừa bởi câu lệnh được soạn thảo khéo léo, khiến nó tiết lộ thông tin cá nhân của khách hàng khác hoặc thực hiện một hành động trái phép. Điều này đặc biệt đáng lưu ý vì nhiều doanh nghiệp Việt Nam triển khai chatbot trực tiếp trong môi trường vận hành thực tế.
• Đảo ngược mô hình / Rò rỉ dữ liệu (mô hình làm lộ bí mật của chính nó): Các mô hình có thể vô tình ghi nhớ và tái tạo lại dữ liệu nhạy cảm mà chúng đã được huấn luyện. Ví dụ: Một AI y tế được huấn luyện trên hồ sơ bệnh nhân có thể bị khai thác để khôi phục dữ liệu y tế cá nhân. Nhân viên hoặc kẻ tấn công có thể đặt câu hỏi theo cách khiến mô hình tiết lộ thông tin định danh lẽ ra phải được bảo mật,...

Với các hệ thống AI nội bộ, doanh nghiệp cần ưu tiên bảo vệ dữ liệu, mô hình hay hạ tầng như thế nào?

Ông Nguyễn Gia Đức - Giám đốc quốc gia, Fortinet Việt Nam: Tôi muốn diễn giải lại vấn đề này một chút: đây không phải là chuyện chọn cái này thay vì cái kia. Chúng ta không thể bảo vệ mô hình nếu không bảo vệ dữ liệu mà nó đã học từ đó, và cũng không thể bảo vệ cả hai nếu thiếu một cơ sở hạ tầng an toàn. Chúng là các lớp cấu thành nên một hệ thống thống nhất.

Nếu muốn thiết lập một trình tự hợp lý, hãy ưu tiên bảo vệ dữ liệu trước tiên, vì đó là nguồn nhiên liệu cốt lõi và cũng là thứ khó khôi phục nhất nếu bị rò rỉ. Tiếp theo là mô hình - tài sản trí tuệ và bộ não đưa ra quyết định. Và nền tảng cho tất cả những điều này chính là cơ sở hạ tầng an toàn - yếu tố tiên quyết bắt buộc phải có.

Câu trả lời thẳng thắn là: đừng bảo vệ dữ liệu, mô hình và cơ sở hạ tầng bằng ba công cụ riêng lẻ, mà hãy bảo vệ chúng cùng nhau trên một nền tảng tích hợp duy nhất.

Ảnh minh họa có sử dụng AI

Bảo mật nên được tích hợp vào hệ thống AI ngay từ khâu thiết kế hay có thể bổ sung sau khi triển khai? Vì sao?

Ông Nguyễn Gia Đức - Giám đốc quốc gia, Fortinet Việt Nam: Tính bảo mật cần được tích hợp ngay từ giai đoạn thiết kế, bởi lẽ việc bổ sung sau khi triển khai sẽ không mang lại hiệu quả thực sự.

Quá trình thiết kế bao gồm các quyết định về luồng dữ liệu, kiến ​​trúc mô hình và quy trình vận hành - chính những quyết định này sẽ định hình mức độ an toàn bảo mật của hệ thống. Việc cố gắng bổ sung bảo mật ở giai đoạn sau đồng nghĩa với việc phải chắp vá các biện pháp bảo vệ cho những quyết định đã được thực hiện từ trước, giống như việc lắp thêm ổ khóa cho một bức tường vốn đã được xây dựng sai cách ngay từ đầu.

Việc tích hợp bảo mật ngay trong khâu thiết kế cũng sẽ an toàn và tiết kiệm hơn nhiều so với việc phải huấn luyện lại một mô hình đã bị nhiễm độc hoặc phải khắc phục lỗ hổng khi hệ thống đang vận hành thực tế và đối mặt với các mối đe dọa.

Riêng đối với AI, có những rủi ro không thể đảo ngược sau khi hệ thống đã được triển khai. Đó là lý do tại sao Fortinet tích hợp sẵn tính năng bảo mật vào toàn bộ nền tảng, đồng thời khuyến nghị các doanh nghiệp Việt Nam đưa yếu tố bảo mật vào quy trình vòng đời AI ngay từ những bước đầu tiên.

Fortinet khuyến nghị doanh nghiệp triển khai AI như thế nào để vừa khai thác hiệu quả công nghệ, vừa bảo đảm an toàn dữ liệu?

Ông Nguyễn Gia Đức - Giám đốc quốc gia, Fortinet Việt Nam: Đây chính xác là mục đích ra đời của Fortinet Security Fabric và hệ điều hành FortiOS được thiết kế dựa trên nền tảng AI (AI-native) - một nền tảng thống nhất giúp bảo vệ đồng bộ dữ liệu, mô hình, ứng dụng và hạ tầng. Việc triển khai AI an toàn không phải là một dự án bảo mật tách biệt, mà đơn giản là cách thức vận hành doanh nghiệp một cách an toàn.

Và chúng tôi khuyến nghị các doanh nghiệp áp dụng một khung quy trình gồm 6 bước:

• Xác định giá trị và quản trị dữ liệu: phân loại và bảo vệ dữ liệu.
• Đảm bảo an toàn cho toàn bộ vòng đời: thu thập dữ liệu → huấn luyện → mô hình → triển khai → vận hành.
• Bảo vệ dữ liệu toàn diện (end-to-end): mã hóa dữ liệu ở trạng thái lưu trữ và truyền tải, áp dụng nguyên tắc đặc quyền tối thiểu, bảo mật các quy trình xử lý (ngăn chặn tấn công đầu độc dữ liệu).
• Áp dụng mô hình Zero Trust: xác thực mọi cá nhân/hệ thống khi truy cập vào AI và dữ liệu của AI.
• Khả năng hiển thị liên tục và phòng thủ tự động: giám sát các bất thường của mô hình; tự động hóa phản ứng xử lý.
• Đầu tư vào con người và kỹ năng: đào tạo đội ngũ xây dựng và vận hành hệ thống AI.

Cảm ơn ông về những chia sẻ trên!