Cách tin tặc sử dụng AI sáng tạo trong các cuộc tấn công của chúng và chúng ta có thể làm gì với nó

Trí tuệ nhân tạo sáng tạo (AI) đã được chú ý trong thời gian gần đây. Chatbot ChatGPT do AI cung cấp và các hệ thống hỗ trợ xử lý ngôn ngữ tự nhiên khác như VALL-E đã mang AI tổng quát đến với công chúng và giải phóng các lợi ích cũng như tác hại của nó.

Một trong những mối quan tâm cốt lõi về AI tổng quát là thực tế nó có thể được sử dụng để nâng cấp các khai thác độc hại và thực hiện các cuộc tấn công mạng tinh vi hơn. Vậy làm thế nào để tin tặc sử dụng AI tổng quát trong các cuộc tấn công của chúng và điều này có ý nghĩa gì đối với tương lai của an ninh mạng?

AI sáng tạo là gì và nó hoạt động như thế nào?

Đúng như tên gọi của nó, Generative AI là một loại AI có khả năng tạo nội dung mới—hình ảnh, văn bản, âm thanh và dữ liệu tổng hợp.

Một ví dụ nổi tiếng là ChatGPT, một chatbot do AI hỗ trợ mà bạn có thể trò chuyện giống như con người và nhận được một số đề xuất phim tuyệt vời—đó là nếu bạn không thể nghĩ ra một nhiệm vụ nào ý nghĩa hơn để gửi ChatGPT.

Hãy để chúng tôi cung cấp cho bạn một hoặc hai ý tưởng—bạn có thể yêu cầu ChatGPT viết tất cả những email khó hiểu đó cho bạn, sử dụng ChatGPT làm công cụ dịch thuật và thậm chí biến ChatGPT thành trợ lý lập kế hoạch bữa ăn lành mạnh của bạn. Nói chung, chỉ trong vài giây, chatbot này có thể đưa ra nội dung có vẻ mới, thuyết phục và trình bày nội dung đó theo một cách khá đúng đắn về mặt chính trị.

Tuy nhiên, một AI tổng quát vẫn chưa thể sáng tạo theo cách mà con người có thể. Điều này là do nó sử dụng các thuật toán học máy bán giám sát và không giám sát để xử lý rất nhiều dữ liệu và tạo đầu ra tùy chỉnh.

Ví dụ: nếu bạn muốn đặt vẽ một bức tranh giống Picasso từ một trí tuệ nhân tạo tổng quát chẳng hạn như DALL-E 2, bạn sẽ phải nhập mô tả của mình vào một trường được chỉ định—giả sử “Picasso’s Guernica nhưng có những chú mèo con”—và dán xung quanh trong vài giây. Trong thời gian đó, AI sẽ áp dụng tất cả các đặc điểm cụ thể về phong cách của nghệ sĩ mà nó đã học trước đó, thêm những chú mèo con để đo lường tốt và tạo ra thứ gì đó nguyên bản—chúng tôi có bức tranh mà bạn có thể thấy ở trên một chút.

Tin tặc sử dụng AI sáng tạo như thế nào trong các cuộc tấn công của chúng?

Kẻ xấu luôn bị thu hút bởi các thuật toán tốt. Vì vậy, không có gì ngạc nhiên khi họ đang khai thác AI để tăng sức mạnh cho các cuộc tấn công của mình. Bằng cách sử dụng các phương pháp ML chẳng hạn như học tăng cường và mạng đối thủ tạo ra, tội phạm mạng có thể thực hiện các cuộc tấn công mạng mới, tinh vi hơn có thể vượt qua hệ thống phòng thủ mạng tiêu chuẩn.

Một ví dụ về sự biến thái này là chatbot “tiên tiến” của OpenAI, vì ChatGPT được tội phạm mạng tận dụng để viết phần mềm độc hại. Lúc đầu, ChatGPT dường như là một trò chơi thú vị nhưng giờ đây, nó bị lộ là một trong những mối đe dọa lớn về bảo mật và quyền riêng tư. Nếu bạn thích trò chuyện với ChatGPT, bạn nên đề phòng những điều tội phạm mạng có thể làm với ChatGPT.

Nói tóm lại, ChatGPT và các công cụ AI tổng quát khác đã khiến cuộc sống của tội phạm mạng trở nên dễ dàng hơn và khó khăn hơn đối với các nhóm bảo mật. Một số cách mà các tác nhân đe dọa mạng sử dụng AI trong các cuộc tấn công của chúng bao gồm:

• Xây dựng phần mềm độc hại tốt hơn, tinh vi hơn: Trong tay tin tặc, AI tổng quát có thể được sử dụng để tạo ra các dòng phần mềm độc hại khó phát hiện và thực hiện các cuộc tấn công. Kết hợp với các mô hình AI, phần mềm độc hại có thể che giấu ý định của nó cho đến khi hoàn thành mục đích xấu.
• Viết email lừa đảo được cá nhân hóa, hỗ trợ bởi AI: Với sự trợ giúp của trí tuệ nhân tạo nhân tạo, các email lừa đảo không còn có các dấu hiệu lừa đảo nữa—chẳng hạn như lỗi chính tả, ngữ pháp sai và thiếu ngữ cảnh. Ngoài ra, với AI như ChatGPT, những kẻ đe dọa có thể khởi động các cuộc tấn công lừa đảo với tốc độ và quy mô chưa từng có.
• Tạo dữ liệu giả sâu: Vì nó có thể tạo ra những mô phỏng thuyết phục về hoạt động của con người—như chữ viết, lời nói và hình ảnh—AI tạo ra có thể được sử dụng trong các hoạt động lừa đảo như đánh cắp danh tính, gian lận tài chính và thông tin sai lệch.
• Bẻ khóa CAPTCHA và đoán mật khẩu: Được các trang web và mạng sử dụng để loại bỏ các bot tìm kiếm quyền truy cập trái phép, CAPTCHA giờ đây có thể bị tin tặc bỏ qua. Bằng cách sử dụng ML, họ cũng có thể hoàn thành các tác vụ lặp đi lặp lại khác như đoán mật khẩu và tấn công vũ phu.
• Học máy phá hoại trong phát hiện mối đe dọa trên mạng: Nếu một hệ thống bảo mật bị quá tải với quá nhiều thông báo sai, tin tặc có thể bất ngờ thực hiện một cuộc tấn công mạng thực sự.

Làm thế nào chúng ta có thể chống lại mối đe dọa AI sáng tạo?

Khi các cuộc tấn công mạng trở nên tinh vi hơn và hậu quả của chúng nghiêm trọng hơn, các hệ thống bảo mật truyền thống sẽ trở thành những thứ của thời đại đã qua. Với khả năng học hỏi từ các cuộc tấn công trước đó và thích nghi, AI là tài sản vô giá cho cả tội phạm mạng và kẻ thù của chúng.

Việc sử dụng AI trong an ninh mạng có một số lợi thế nghiêm trọng như phát hiện mối đe dọa, xác định mối đe dọa và phản ứng lại mối đe dọa nhanh hơn—vì vậy, chữa cháy bằng lửa có vẻ như là câu trả lời đúng đắn. Trước khi tội phạm mạng học cách giáng những đòn tàn phá vào các cá nhân và công ty trên toàn thế giới, các chuyên gia an ninh mạng phải dạy các hệ thống do AI cung cấp để tự bảo vệ mình khỏi các cuộc tấn công này.

Tuy nhiên, không phải tất cả phụ thuộc vào AI. Xét cho cùng, chúng ta cũng có thể tăng cường bảo mật và quyền riêng tư của mình bằng các phương pháp đã được thử nghiệm và thử nghiệm như xác thực đa yếu tố (MFA), công nghệ sinh trắc học, sử dụng trình quản lý mật khẩu, sử dụng các công cụ cộng tác được mã hóa tốt nhất và một công cụ cũ, tốt. lẽ thường tình.

Chiến đấu với AI với AI

Vì vậy, chúng ta sẽ chứng kiến ​​​​cuộc chiến an ninh mạng AI trong tương lai gần? Vâng, chúng tôi hy vọng là không. Tuy nhiên, khi AI tiếp tục phát triển và có thể truy cập được đối với tất cả—tội phạm mạng cũng như các chuyên gia an ninh mạng—vai trò của AI và ML sẽ trở nên lớn hơn trong những năm tới.