Sophos vừa phát triển dự án sử dụng ChatGPT để nâng cao an ninh mạng.
Dự án, có tên Sophos X-Ops, sử dụng mô hình ngôn ngữ của GPT-3 để tinh giản quá trình xác định các hoạt động độc hại trong các tập dữ liệu phần mềm bảo mật, cải thiện độ chính xác của bộ lọc thư rác và đẩy nhanh quá trình phân tích các cuộc tấn công binary "living off the land" (LOLBin).
Theo Sean Gallagher, nhà nghiên cứu mối đe dọa chính tại Sophos, cộng đồng bảo mật đã tập trung chủ yếu vào các rủi ro có thể liên quan đến ChatGPT kể từ khi nó được giới thiệu bởi OpenAI vào tháng 11. Có lo ngại rằng trí thông minh nhân tạo có thể được sử dụng bởi các kẻ tấn công để tạo ra phần mềm độc hại hoặc tạo ra các email lừa đảo thuyết phục hơn."
"Tại Sophos, chúng tôi đã lâu xem trí thông minh nhân tạo là một đồng minh thay vì một kẻ thù đối với người bảo vệ, biến nó thành công nghệ cốt lõi cho Sophos, và GPT-3 cũng không phải là ngoại lệ. Cộng đồng bảo mật cần chú ý không chỉ đến các rủi ro tiềm tàng mà còn đến những cơ hội tiềm ẩn GPT-3 mang lại," Gallagher cho biết.
Younghoo Lee, nhà khoa học dữ liệu chính của SophosAI cùng các nhà nghiên cứu tại Sophos X-Ops đã phát triển ba dự án nguyên mẫu để chứng minh rằng GPT-3 có thể hỗ trợ người bảo vệ mạng an toàn. Cả ba dự án này đều sử dụng "học ít dữ liệu", một phương pháp giúp huấn luyện mô hình AI chỉ với một lượng mẫu dữ liệu nhỏ, giảm thiểu nhu cầu phải thu thập một lượng lớn dữ liệu được phân loại trước. Các nguyên mẫu này chứng minh tiềm năng của GPT-3 như một công cụ hỗ trợ người bảo vệ mạng an toàn.
Sophos đã thực hiện kiểm tra với phương pháp học ít dữ liệu trên một số ứng dụng. Ứng dụng đầu tiên là giao diện truy vấn ngôn ngữ tự nhiên để phân tích hoạt động độc hại trong các dữ liệu điều tra phần mềm bảo mật. Sophos đã thử nghiệm giao diện này trên sản phẩm phát hiện và phản ứng trên điểm cuối của mình, cho phép người bảo vệ lọc dữ liệu điều tra bằng các lệnh tiếng Anh cơ bản thay vì phải hiểu SQL hoặc cấu trúc cơ sở dữ liệu.
Trong kiểm tra tiếp theo, Sophos sử dụng ChatGPT để phát triển một bộ lọc thư rác mới, hiệu quả hơn đối với các mô hình máy học khác để lọc thư rác.
Cuối cùng, các nhà nghiên cứu của Sophos đã tạo ra một chương trình để đơn giản hóa quá trình kỹ thuật đảo ngược câu lệnh LOLBin, việc này luôn gặp khó khăn nhưng rất quan trọng để hiểu được hành vi của chúng và ngăn chặn các cuộc tấn công trong tương lai.
Gallagher lưu ý về một vấn đề đang ngày càng lớn trong trung tâm hoạt động an toàn là lượng thông báo và phát hiện quá nhiều phải sắp xếp, mà nhiều công ty phải đối mặt mặc dù các tài nguyên giới hạn.
"Chúng tôi đã chứng minh rằng, với một công cụ như GPT-3, chúng ta có thể đơn giản hóa một số quy trình tốn sức lao động và trả lại thời gian quý giá cho người bảo vệ. Chúng tôi đang làm việc để tích hợp một số nguyên mẫu trên vào các sản phẩm của chúng tôi, và chúng tôi đã đưa ra kết quả nỗ lực của mình trên GitHub để những người quan tâm có thể tìm hiểu và thử nghiệm GPT-3 trong môi trường phân tích của riêng mình. Trong tương lai, chúng tôi tin rằng GPT-3 có thể trở thành trợ lí chuẩn cho các chuyên gia bảo mật," ông ta nói.
