MANILA - Ứng dụng xử lý ngôn ngữ được động lực điều khiển bởi trí tuệ nhân tạo (AI) - ChatGPT - biết phishing attack là gì, nhưng khả năng phát hiện các mối đe dọa an ninh mạng này của nó có giới hạn, theo Kaspersky.
Công ty an ninh mạng, trong một nghiên cứu mà nó tiến hành, đã tiết lộ rằng ChatGPT có tỷ lệ false positive rates cao lên tới 64% khi xác định các liên kết độc hại.
Tuy nhiên, Kaspersky cho biết phần mềm đã có kết quả "ấn tượng" trong việc đánh dấu các cuộc tấn công phishing tiềm ẩn. Nó có thể chỉ ra các mối đe dọa trên một số cổng thông tin trực tuyến bao gồm Facebook, TikTok, Google, Amazon và Steam.
“Trong khi tỷ lệ phát hiện rất cao, tỷ lệ false positive, quá cao đối với bất kỳ ứng dụng sản xuất nào”, Kaspersky giải thích.
Kaspersky lưu ý rằng “thử nghiệm cũng cho thấy ChatGPT có thể gặp vấn đề nghiêm trọng khi chứng minh điểm của nó trong quyết định xem liên kết có độc hại hay không”.
“Một số giải thích đúng và dựa trên sự thật, những cái khác tiết lộ giới hạn biết đến của các mô hình ngôn ngữ, bao gồm cả các ảo tưởng và thuật ngữ sai lệch: nhiều giải thích sai lạc, mặc dù âm thanh tự tin,” Kaspersky thêm.
Vladislav Tushkanov, nhà khoa học dữ liệu hàng đầu của Kaspersky cho biết những phát hiện này cho thấy những giới hạn của các mô hình ngôn ngữ.
“Trong khi chúng có thể ngang bằng với một chuyên viên phân tích phishing cấp thực tập khi nói đến cách lý giải về các cuộc tấn công phishing và trích xuất các mục tiêu tiềm năng, họ thường gây ảo giác và sản xuất ra đầu ra ngẫu nhiên”, Tushkanov cho hay.
Phishing được khởi động thông qua email và tin nhắn văn bản, trong số các phương tiện khác, để lừa đảo người dùng cung cấp thông tin cá nhân của họ.
Kaspersky cho biết các cuộc tấn công trực tuyến tại Việt Nam tăng 29% trong năm ngoái. INQ
