Trong một cuộc phỏng vấn, Arndt von Twickel từ BSI và Georg Schneider từ ZF giải thích lý do tại sao cần có các tiêu chuẩn và phương pháp mới cho hệ thống trí tuệ nhân tạo trên xe cộ (Ảnh: ZF Friedrichshafen)
Kể từ khi phát hành chương trình trò chuyện ChatGPT vào cuối năm 2022, trí tuệ nhân tạo đã được mọi người nhắc đến trong công chúng. Các trường hợp sử dụng điển hình của trí tuệ nhân tạo trên ô tô là gì?
Georg Schneider (AI LAB Saarbrücken, ZF).AI đóng một vai trò quan trọng trong việc lái xe tự động. Các ứng dụng điển hình một mặt bao gồm nhận thức, tức là nhận thức thông qua các cảm biến của xe, nhưng cũng có các bước tiếp theo, chẳng hạn như lập kế hoạch chuyển động dọc, ngang hoặc thẳng đứng của xe. nói đến , máy ảnh sử dụng trí thông minh nhân tạo để phát hiện các vật thể phức tạp như người đi bộ, người đi xe đạp hoặc những người tham gia giao thông khác một cách đáng tin cậy trong nhiều tình huống khác nhau. Nhập vào làn đường khác Đây có thể là một tình huống khó khăn trên đường cao tốc nếu người lái xe ảo phải quyết định trước khi thoát ra xem liệu anh ta có thể sử dụng nhiều khoảng trống phía trước hơn hay liệu anh ta có cần phanh và xếp hàng phía sau một xe khác hay không.
Những rủi ro nào cần khắc phục khi sử dụng trí tuệ nhân tạo cho xe tự lái?
Arndt von Twickel (Văn phòng An ninh Thông tin Liên bang). Tất nhiên, trước tiên chúng ta phải định nghĩa trí tuệ nhân tạo là gì. Chúng ta coi trí tuệ nhân tạo là những hệ thống không hoạt động giống như các hệ thống máy tính cổ điển. Điều này có nghĩa là chúng không được lập trình bởi một lập trình viên có khả năng quyết định rõ ràng xem phải làm gì trong tình huống đó mà phải sử dụng. hệ thống được xây dựng trên cơ sở dữ liệu. bạn có thể để các hệ thống AI này tìm hiểu các tình huống giao thông cực kỳ phức tạp bằng cách cung cấp cho hệ thống các tập dữ liệu rất phức tạp. Nhưng vấn đề là tất cả các lỗi tồn tại trong các tập dữ liệu này đều có thể được tìm thấy trong mô hình sản xuất tại Đức mà hệ thống không biết. bất kỳ vòi chữa cháy nào được tìm thấy ở Hoa Kỳ. Các vòi chữa cháy ở Hoa Kỳ sau đó được coi là trẻ em và người lái xe ảo sẽ phanh. Những lỗi như vậy rất khó phát hiện do tính phức tạp của chúng và không có cơ chế xác minh đơn giản nào để kiểm tra; Bạn phải ghi lại từng bản ghi và kiểm tra xem hệ thống có hoạt động như bình thường hay không. Giống như phần mềm cổ điển, cái gọi là kiểm tra chính thức chỉ có thể thực hiện được ở một mức độ rất hạn chế. máy tính tự động xác minh rằng hệ thống là chính xác. Cần có các phương pháp mới và phương pháp thử nghiệm mới để diễn giải và kiểm tra các hệ thống này, vì điều này không thể xảy ra chỉ bằng sự kiểm tra và hiểu biết của con người.
Làm thế nào những lỗ hổng AI này có thể bị kẻ tấn công khai thác?
Từ Twickel: Ý tưởng đến từ BSI và chúng tôi cho biết có công nghệ then chốt mới này mà bạn không thể lái xe nếu không có hệ thống này. Sau đó, chúng tôi tự hỏi mình cần phải làm gì ngoài các quy định, tiêu chuẩn và phương pháp thử nghiệm hiện có để bảo mật các hệ thống này. và làm cho chúng đáng tin cậy Một mặt, chúng ta phải xem xét những gì đang diễn ra trong quá trình nghiên cứu và phát triển. Những phương pháp nào đã được phát triển? Những phương pháp hiện có nào là đủ? Và chúng tôi đang xem xét nó một cách có hệ thống trong dự án này. Ví dụ: làm thế nào để bạn đối phó với cái gọi là các cuộc tấn công đối nghịch, tức là các cuộc tấn công được thực hiện bằng cách sử dụng các cảm biến khai thác các tính năng của hệ thống AI mà con người không nhất thiết phải nhìn thấy, chẳng hạn như những thay đổi nhỏ đối với biển báo đường bộ có thể là nhãn dán? được con người chấp nhận. Trong cuộc sống hàng ngày chúng ta thường thấy những miếng dán trên biển báo đường bộ, nhưng hệ thống AI có thể hiểu biển báo đường này là biển báo đường bộ hoàn toàn khác. Và đây là những trường hợp cho thấy. chúng tôi đang xem xét và cố gắng tìm cách kiểm tra điều đó và đưa ra đề xuất về cách làm cho các hệ thống này mạnh mẽ hơn để chúng…có thể giải quyết được những việc này.
Dự án này có thể làm gì để khiến những cuộc tấn công như vậy không thành công nhất có thể?
Ví dụ, để làm suy yếu tính hiệu quả của các cuộc tấn công này và gây khó khăn hơn cho kẻ tấn công, có phương pháp huấn luyện đối thủ . Chúng tôi cẩn thận thiết kế hệ thống sao cho các cuộc tấn công như vậy được thực hiện trong quá trình đào tạo và hệ thống sẽ được củng cố theo cách này. Đây chính là mục đích của dự án của chúng tôi. Những phương pháp nào phù hợp để giúp hệ thống AI miễn nhiễm với các cuộc tấn công? Làm cách nào để kiểm tra xem hệ thống AI có thực sự miễn nhiễm sau khi huấn luyện hay không?
Dự án này có liên quan đến việc can thiệp trực tiếp vào phần mềm và điện tử của xe không?
Từ Twickel: Dự án này không nhằm mục đích lặp lại những việc đã được thực hiện. Chúng tôi giả định rằng tất cả các yêu cầu bảo mật hiện có đều được đáp ứng. Ví dụ, trong lĩnh vực phương tiện giao thông, có quy định UNECE R 155 liên quan đến các hệ thống quản lý an toàn trong lĩnh vực giao thông vận tải, chúng tôi giả định rằng. có đủ biện pháp phòng vệ. Trong dự án này, chúng tôi tập trung vào các tính năng mới có chất lượng, dành riêng cho AI, chẳng hạn như các cuộc tấn công của kẻ thù. Tôi đã đề cập đến vấn đề “sai lệch” khi thiếu một số tình huống nhất định trong dữ liệu huấn luyện. Ngoài ra còn có cái gọi là tấn công cửa sau, trong đó các thao tác được thực hiện trong giai đoạn huấn luyện bằng cách đưa ra dữ liệu huấn luyện không chính xác. Do đó, phải sử dụng một số thông số kỹ thuật và cơ chế kiểm tra nhất định để đảm bảo chất lượng dữ liệu được đảm bảo.là Điều này cần được giải quyết ở cấp độ kỹ thuật, nhưng tất nhiên cũng phải có những yêu cầu ở cấp độ tổ chức; Ví dụ, những công nhân phát triển và thử nghiệm các hệ thống AI như vậy phải được đào tạo đủ để nhận biết và giải quyết những vấn đề này. Tất cả các vấn đề đều có thể được giải quyết về mặt kỹ thuật nhưng cần có người dùng có trách nhiệm.
Dự án này có tạo ra AI mới cho xe TÜV không?
thợ may TÜV kiểm tra xem chiếc xe cụ thể của bạn có còn đáp ứng tất cả các thông số kỹ thuật được thiết kế ban đầu hay không. Dự án này là về một hệ thống AI cho tất cả các nền tảng xe. Tuy nhiên, việc kiểm tra từng chiếc xe thông qua thử nghiệm TÜV mở rộng. có thể xác minh chức năng của các cảm biến để toàn bộ hệ thống có thể hoạt động.
Từ Twickel: Khi nói đến việc bảo vệ các bệ xe mà ông đề cập, ông Schneider, việc phê duyệt kiểu loại là rất quan trọng. xe phải có mức độ an toàn phù hợp với công nghệ khi đưa ra thị trường. Và điều này cũng phải áp dụng cho các linh kiện AI có trong xe. Mặt khác, còn có vấn đề về kiểm soát thị trường; nếu phương tiện đã lưu thông trên đường và biết được điểm yếu thì cần kiểm tra xem phương tiện nào bị ảnh hưởng và cần phải làm gì để loại bỏ rủi ro. Điều này có thểVí dụ: thông qua bản cập nhật phần mềm hoặc bản cập nhật hệ thống cảm biến cụ thể, chúng tôi sẽ đề cập đến những điều cơ bản này trong dự án.
