ChatGPT không khác gì một đứa trẻ thông minh - thông minh, nhưng cũng dễ bị chi phối. Một đứa trẻ có thể hiểu được sự khác biệt giữa "tốt" và "xấu", nhưng một người lớn có ý đồ bất thiện thường có thể thuyết phục đứa trẻ làm điều "xấu" nếu họ chọn từ phù hợp và sử dụng phương pháp đúng. Và đó là trường hợp với ChatGPT khi các nhà nghiên cứu sử dụng nó để viết một email "có khả năng cao khiến người nhận click vào đường dẫn". Mặc dù chương trình trí tuệ nhân tạo được thiết kế để phát hiện yêu cầu với ý đồ bất thiện (nó nói nó sẽ không viết một lời nhắc nhở được thiết kế để thao túng hoặc đánh lừa người nhận), nhưng các nhà nghiên cứu đã tìm thấy một giải pháp thông minh bằng cách tránh các từ kích hoạt nhất định.
Một trong những điều đầu tiên mà The Guardian cảnh báo về trí tuệ nhân tạo là sự gia tăng của các email lừa đảo mà chúng ta sắp phải trải qua với mục tiêu lấy tiền của chúng ta, nhưng theo một công ty an ninh mạng nói với The Guardian thì theo một cách mới. Thay vì nhận được một loạt các email cố gắng lôi kéo chúng ta click vào một đường liên kết, trọng tâm là "thiết kế các chiêu lừa đảo kỹ thuật xã hội tinh vi hơn để khai thác niềm tin của người dùng".
Nói cách khác, những email này sẽ được thiết kế riêng cho bạn.
Làm thế nào mà kẻ lừa đảo có thể sử dụng ChatGPT? Có rất nhiều thông tin công khai về chúng ta trên internet, từ địa chỉ và lịch sử công việc của chúng ta, cho đến tên các thành viên trong gia đình của chúng ta - và tất cả điều này đều có thể được sử dụng bởi kẻ lừa đảo thông minh về trí tuệ nhân tạo. Nhưng chắc chắn là OpenAI, công ty của ChatGPT, sẽ không để công nghệ của họ được sử dụng cho các hoạt động có ý định xấu, phải không? Đây là những gì Wired viết:
Các công ty như OpenAI cố gắng ngăn chặn các mô hình của họ làm điều xấu. Nhưng với mỗi phiên bản LLM mới được phát hành, các trang mạng xã hội râm ran với những phản động AI mới mà trốn thoát khỏi các giới hạn mới đặt ra bởi những người thiết kế AI. ChatGPT, sau đó là Bing Chat, và sau đó là GPT-4 đã bị phá vỡ chỉ trong vài phút sau khi được phát hành, và theo nhiều cách khác nhau. Hầu hết các phương tiện bảo vệ chống lại các việc sử dụng xấu và đầu ra có hại đều chỉ nông cạn, dễ dàng bị khai thác bởi những người dùng quyết tâm. Một khi một lỗ hổng được phát hiện, nó thường có thể được tổng quát hóa và cộng đồng người dùng mở LLM qua các khe hở của nó. Và công nghệ đang tiến bộ quá nhanh để bất kỳ ai cũng hiểu rõ cách thức hoạt động của nó, kể cả những nhà thiết kế.
Khả năng của trí tuệ nhân tạo trong việc tiếp tục cuộc trò chuyện rất hữu ích cho kẻ lừa đảo, giảm thiểu nhân lực và tiềm năng là một trong những khía cạnh tốn nhiều sức lao động và thời gian của kẻ lừa đảo.
Một số điều bạn có thể mong đợi là các email công việc từ đồng nghiệp (hoặc thậm chí là các freelancer) yêu cầu bạn hoàn thành một số nhiệm vụ "liên quan đến công việc". Email của họ có thể rất cụ thể cho bạn, nhắc tên sếp của bạn hoặc đề cập đến một đồng nghiệp khác. Một lựa chọn khác có thể là một email chi tiết từ huấn luyện viên bóng đá của con bạn, đề nghị quyên góp cho đồng phục mới. Các nhân vật có thẩm quyền hoặc tổ chức mà chúng ta tin tưởng, chẳng hạn như ngân hàng, cảnh sát hoặc trường học của con bạn đều là "miếng mồi" dễ dàng. Mọi người đều có một khía cạnh làm việc và một góc nhìn đáng tin cậy.
Hãy nhớ rằng các kẻ lừa đảo cũng có thể làm thay đổi bất cứ điều gì trong lời nhắc nhở của ChatGPT. Bạn có thể dễ dàng yêu cầu nó viết bất kỳ lời nhắc nhở nào bằng bất kỳ loại cách thức nào, điều này cho phép họ tạo ra sự cấp bách và áp lực một cách trang trọng hoặc thân thiện.
Các bộ lọc email thông thường chặn nhiều email thư rác của bạn có thể không hoạt động tốt vì một phần của chiến lược của chúng là phụ thuộc vào các sai sót về ngữ pháp và từ được viết sai chính tả. ChatGPT có cấu trúc ngữ pháp tốt, tuy nhiên, các kẻ lừa đảo có thể tránh các lời chào thông thường và các từ kích hoạt bộ lọc thư rác bằng cách chỉ đạo ChatGPT tránh chúng.
Làm thế nào để không trở thành con mồi của kẻ lừa đảo sử dụng AI
Thật không may, hiện tại không có nhiều điều mà người ta có thể làm để phát hiện các chiêu lừa đảo AI. Chắc chắn là không có công nghệ đáng tin cậy nào có thể lọc ra các chiêu lừa đảo được tạo ra bởi trí tuệ nhân tạo giống như cách mà các bộ lọc email thông thường xử lý phần lớn thư rác của chúng ta. Tuy nhiên, vẫn có một số giải pháp đơn giản mà bạn có thể thực hiện để tránh trở thành nạn nhân.
Để bắt đầu với, nếu công ty của bạn cung cấp bất kỳ đào tạo nào về nhận diện lừa đảo, bây giờ là thời điểm thật sự để bắt đầu chú ý đến chúng; nhiều lời khuyên an toàn chung mà họ cung cấp vẫn hữu ích với các chiêu lừa đảo AI.
Hãy nhớ rằng bất kỳ email hoặc tin nhắn dựa trên văn bản nào bạn nhận được yêu cầu thông tin cá nhân hoặc tiền, bất kể đọc như thế nào thì nó có thể là một chiêu lừa đảo. Một cách gần như chuẩn bị để xác thực tính hợp lệ của nó (ít nhất là bây giờ) là chỉ cần gọi hoặc gặp người gửi tin nhắn mặt đối diện, giả sử điều đó có thể. Trừ khi AI quản lý tạo ra hình ảnh hội thoại (họ đã học cách làm giả giọng của bất kỳ ai), gọi trực tiếp hoặc gặp mặt để xác nhận tính chính xác của yêu cầu là một giải pháp an toàn nhất.
