AI mở ra tiện ích, nhưng cũng mở thêm những cách bị lừa mới
Khi doanh nghiệp bắt đầu dùng chatbot, automation hay các công cụ AI khác trong vận hành, những rủi ro bảo mật quen thuộc như mật khẩu yếu hay email lừa đảo vẫn còn nguyên, nhưng có thêm vài loại rủi ro mới gắn liền với chính cách AI hoạt động. Đây không phải chuyện của riêng các tập đoàn lớn. Một doanh nghiệp nhỏ dùng chatbot chăm sóc khách hàng hay một workflow tự động xử lý email cũng có thể gặp đúng những rủi ro này, chỉ là ít người để ý vì nghĩ mình quá nhỏ để bị nhắm tới.
Prompt injection, rủi ro riêng của thời đại chatbot
Đây là kiểu tấn công nhắm vào chính chatbot của bạn, khi ai đó cố tình nhập một đoạn tin nhắn được thiết kế để đánh lừa AI làm sai chỉ dẫn ban đầu, ví dụ khiến chatbot tiết lộ thông tin nội bộ, đưa ra cam kết sai về giá hay chính sách, hoặc trả lời những câu không liên quan gì đến doanh nghiệp. Cách phòng ngừa cơ bản là phân tầng dữ liệu chatbot được phép đọc, tách rõ thông tin công khai và thông tin nội bộ, đồng thời kiểm thử chatbot bằng chính các câu hỏi mẹo trước khi đưa vào vận hành thật.
Deepfake và giả mạo giọng nói trong lừa đảo doanh nghiệp
Công nghệ tạo giọng nói và hình ảnh giả ngày càng dễ tiếp cận, kéo theo các vụ lừa đảo giả danh lãnh đạo doanh nghiệp yêu cầu chuyển tiền gấp qua điện thoại hay tin nhắn thoại. Quy trình duyệt chi cần có bước xác minh độc lập, không dựa hoàn toàn vào một cuộc gọi hay tin nhắn, đặc biệt với các khoản chuyển tiền gấp hay bất thường. Đây là biện pháp phòng ngừa đơn giản nhưng chặn được phần lớn kiểu lừa đảo này, bất kể công nghệ giả mạo có tinh vi đến đâu.
Dữ liệu doanh nghiệp bị đưa vào công cụ AI công cộng
Một rủi ro âm thầm hơn là nhân viên dán thông tin khách hàng, hợp đồng hay dữ liệu tài chính vào các công cụ AI miễn phí để nhờ tóm tắt hay soạn thảo nhanh, mà không biết dữ liệu đó có thể được nhà cung cấp dùng để huấn luyện mô hình sau này. Doanh nghiệp nên có quy định rõ loại dữ liệu nào được phép đưa vào công cụ AI công cộng và loại nào chỉ được xử lý trong hệ thống nội bộ có kiểm soát.
Ba việc nên làm ngay không cần đầu tư lớn
Đầu tiên, lập danh sách loại dữ liệu tuyệt đối không được đưa vào bất kỳ công cụ AI công cộng nào, và phổ biến rõ cho toàn đội. Thứ hai, thêm bước xác minh độc lập cho mọi yêu cầu chuyển tiền hay thay đổi thông tin quan trọng, không chấp nhận riêng một kênh liên lạc làm bằng chứng đủ. Thứ ba, nếu đang dùng chatbot, thử tấn công thử chính chatbot của mình bằng vài câu hỏi mẹo để xem nó có tiết lộ thông tin không nên tiết lộ hay không, trước khi khách hàng thật thử điều tương tự.