Tội phạm mạng có thể lạm dụng các mô hình ngôn ngữ tiên tiến cho các hoạt động bất hợp pháp của chúng (Ảnh: Adobe Stock / Who’s Dan)
Sự phát triển, sản xuất và bán hàng của ngành công nghiệp ô tô đang được tối ưu hóa với tốc độ ánh sáng với sự trợ giúp của trí tuệ nhân tạo và số lượng trường hợp sử dụng có liên quan đang tăng lên với tốc độ tương tự. Theo gã khổng lồ công nghệ IBM, trí tuệ nhân tạo có thểXác định những điểm bất thường trong môi trường kỹ thuật số, tiến hành phân tích rủi ro và tối ưu hóa bảo mật trong trải nghiệm người dùng Nhưng AI là đồng xu hai mặt. cùng với tiềm năng của nó, những rủi ro mà nó gây ra cũng ngày càng gia tăng.
Theo Văn phòng An ninh Thông tin Liên bang (BSI), các chuyên gia từ Hiệp hội Công nghiệp Thông tin và Viễn thông Đức phân loại sự đổi mới này là một thách thức an ninh mạng riêng biệt . về hệ thống AI, cả hai cuộc tấn công hệ thống AI hiện đang là trọng tâm của nghiên cứu mạnh mẽ. Ngành công nghiệp ô tô có phải đối mặt với một cuộc chạy đua vũ trang lớn? để ngăn chặn cuộc chiến proxy giữa các ứng dụng AI.
Máy móc hiện đại cung cấp những điểm tấn công này cho các cuộc tấn công mạng
Xe tự hành, khả năng kết nối liên tục và phần mềm ngày càng tinh vi đang thúc đẩy ngành công nghiệp ô tô phát triển, nhưng đồng thời chúng cũng tạo ra ngày càng nhiều mục tiêu tiềm năng cho các cuộc tấn công mạng. Theo điều tra của ADAC, giao diện USB và chẩn đoán cũng như mô-đun Bluetooth đang bị đe dọa. một trong những cửa ngõ có thể dẫn đến sự can thiệp của tội phạm. Ngoài ra, ở tuyến đầu, hệ thống không cần chìa khóa.ADAC đã có thể chứng minh trong hơn 600 trường hợp rằng các nhà sản xuất Ngoài ra, tin tặc có thể cố gắng truy cập vào hệ thống của xe từ bất cứ đâu bằng thẻ SIM, loại thẻ này ngày càng được lắp đặt tiêu chuẩn.
Theo báo cáo của chính mình, chuyên gia an ninh mạng người Mỹ Sam Curry, phó chủ tịch công ty bảo mật CNTT Zscaler, cũng đã có thể xác định các lỗ hổng bảo mật đáng báo động trong hệ thống CNTT phụ trợ và kinh doanh của các nhà sản xuất ô tô nổi tiếng như BMW, Porsche và Mercedes. . Ngoài phương tiện cá nhân, những lỗ hổng này còn ảnh hưởng đến các phương tiện cấp cứu như xe cảnh sát và xe cứu thương. Ngoài khả năng điều khiển đèn, còi, cửa và động cơ của ô tô, Curry thậm chí còn có thể sao chép dữ liệu của xe, đặt lại cài đặt và các dữ liệu khác. , trong một số trường hợp, thậm chí còn truy cập vào mạng nội bộ của nhà sản xuất.
Đây là cách AI giúp tội phạm mạng dễ dàng bắt đầu
Với sự trợ giúp của các công cụ trí tuệ nhân tạo và mô hình ngôn ngữ được trang bị phù hợp, hầu hết mọi người, ngay cả khi không có kiến thức về phần mềm hoặc CNTT, đều có thể hoạt động trong tội phạm mạng. Mặc dù ChatGPT được thiết kế để ngăn chặn các phản ứng bất hợp pháp hoặc phi đạo đức, các báo cáo truyền thông chỉ ra rằng những hạn chế này có thể bị vượt qua. cái gọi là bẻ khóa, được cho là một số mẹo nhất định mà AI vẫn có thể sử dụng buộc nó tạo ra những văn bản mà lẽ ra nó không nên tạo ra.
Ngoài ra còn có các chatbot tương đương như FraudGPT trên Darknet, được tạo ra cho mục đích tội phạm. Những ứng dụng này cho phép bạn viết email lừa đảo, phát triển các công cụ hack và phần mềm độc hại hoặc tạo dữ liệu đào tạo thù địch để phá hoại quá trình học máy.
Theo quan điểm của Fraunhofer AISEC (Bảo mật ứng dụng và tích hợp), ChatGPT do đó là mối đe dọa nghiêm trọng đối với an ninh mạng đối với tin tặc về cách triển khai chúng thành công”, các chuyên gia AISEC cho biết.
Trí tuệ nhân tạo giúp thực hiện các biện pháp phòng thủ tích cực trước các cuộc tấn công mạng
Mặt khác, AI cũng có thể được sử dụng để phân tích lượng lớn dữ liệu dọc theo chuỗi giá trị ô tô, xác định các hoạt động hoặc mô hình bất thường có thể chỉ ra các cuộc tấn công mạng và từ đó xác định rủi ro tiềm ẩn ở giai đoạn đầu, như các chuyên gia trong ngành tại VDA đã nói. chúng tôi ô tôIT đã lập kỷ lục.
“AI cũng có thể làm được điều đóGiúp xác định và giải quyết các lỗ hổng bảo mật hoặc lỗ hổng bảo mật tiềm ẩn trong thời gian thực hoặc trong quá trình phát triển trước khi chúng có thể bị khai thác”, người phát ngôn của VDA cho biết. “Nói chung, việc sử dụng trí tuệ nhân tạo trong an ninh mạng cho phép ngành công nghiệp ô tô bảo vệ một cách chủ động và thích ứng trước bối cảnh mối đe dọa ngày càng phức tạp. Điều này cuối cùng sẽ làm tăng sự an toàn của phương tiện và hành khách về lâu dài, trí tuệ nhân tạo thậm chí còn có thể làm được điều đó .” để theo kịp sự phát triển nhanh chóng của các cuộc tấn công mạng mới thông qua việc đào tạo liên tục và điều chỉnh phù hợp, đảm bảo an toàn cho phương tiện về lâu dài.
Các quy định mới được thiết kế để giúp việc sử dụng AI an toàn hơn
Để đảm bảo AI trong ô tô không trở thành lỗ hổng bảo mật, BSI yêu cầu các tiêu chuẩn mới, được công nhận để xác minh việc sử dụng an toàn các quy trình AI. Các khái niệm và phương pháp liên quan vẫn chưa có sẵn hoặc chưa được phát triển đầy đủ cùng với nhà cung cấp ô tô ZF, cơ quan có thẩm quyền là. do đó phát triển các phương pháp và công cụ thử nghiệm thích hợp để đảm bảo hệ thống AI trên xe như một phần của dự án AIMobilityAudit.
” Ý tưởng đến từ BSI và chúng tôi cho biết có công nghệ then chốt mới này mà bạn không thể lái xe nếu không có. Chúng tôi muốn nó được sử dụng một cách đáng tin cậy, được chúng tôi chấp nhận từ quan điểm an ninh mạng cũng như để người tiêu dùng chấp nhận hệ thống này. ”, Arndt von Twickel, Giám đốc An ninh Mạng của BSI cho Hệ thống Giao thông Thông minh và Công nghiệp 4.0 giải thích.
Ngoài ra, Ủy ban Kinh tế Châu Âu(UNECE) nhằm mục đích thiết lập các quy tắc được xác định rõ ràng về việc sử dụng trí tuệ nhân tạo và các công nghệ khác trên phương tiện để đảm bảo độ tin cậy của phần mềm và an ninh mạng. “Ví dụ, dựa trên bản chất của học máy và học sâu, GRVA đã xem xét cách ngành công nghiệp đang sử dụng. các công nghệ như trí tuệ nhân tạo và trường hợp sử dụng nào cho” Ủy ban Kinh tế cho biết. “Nó đã phát triển các định nghĩa liên quan cho hoạt động của mình trong lĩnh vực ô tô và đang xem xét nhu cầu phát triển các điều khoản dành riêng cho AI dưới dạng khuyến nghị hoặc hướng dẫn giải quyết các rủi ro cụ thể của công nghệ này.”
GRVA và UNECE gần đây đã công bố quy định này, quy định này sẽ có hiệu lực từ mùa hè năm 2024. Do đó, một số nhà sản xuất ô tô đã thông báo rằng họ sẽ loại bỏ các bộ phận trong dòng xe của mình để tiết kiệm chi phí nâng cấp xe của mình.
AI chưa được coi là công cụ an ninh mạng
Xét cho cùng, có vẻ như những lo ngại quan trọng về tác động của AI đối với an ninh mạng hiện đang nổi bật hơn một chút so với những cơ hội mà AI mang lại. Chỉ 14% công ty đã tham gia vào việc sử dụng trí tuệ nhân tạo để cải thiện an ninh mạng. 24% khác chưa làm như vậy nhưng tin rằng điều đó sẽ có thể thực hiện được trong tương lai. liệu nó có phải là một lựa chọn cho họ trong tương lai không.
“AI là một công nghệ quan trọng có thể mang lại lợi ích cũng như tác hại to lớnvà các lệnh cấm sẽ không ngăn được tội phạm mạng sử dụng trí tuệ nhân tạo, đặc biệt ở cấp độ quốc tế và trong một số trường hợp có sự hỗ trợ của nhà nước
