On the security and privacy of LLMs in Mobility

{"tags": ["LLM", "Mobility", "Cybersecurity", "Privacy", "EU AI Act", "Intelligent Transportation Systems", "AI Safety"], "risks": ["Lỗ hổng an ninh mạng và nguy cơ xâm phạm quyền riêng tư khi tích hợp LLM vào hệ thống giao thông và hơn 1,5 tỷ phương tiện toàn cầu.", "Hệ thống AI giao thông bị xếp loại rủi ro cao theo EU AI Act nhưng thiếu biện pháp quản trị rủi ro, đối mặt rủi ro pháp lý và chế tài nghiêm ngặt.", "Mô hình LLM chỉ được tối ưu hóa hiệu năng tĩnh trong thử nghiệm, tiềm ẩn nguy cơ mất an toàn và giảm độ tin cậy trong điều kiện vận hành thực tế."], "category": "Research", "entities": ["European AI Act", "GPT", "Llama"], "summary_vi": "Khảo sát 35 công trình về việc ứng dụng LLM (chủ yếu là GPT và Llama) trong lĩnh vực giao thông cho thấy tình trạng thiếu hụt nghiêm trọng các biện pháp an ninh mạng, quyền riêng tư và độ tin cậy. Dù EU AI Act xếp AI trong giao thông vào nhóm rủi ro cao, chỉ 1/35 công trình có đánh giá lỗ hổng và 1/35 có quản lý rủi ro một phần, cho thấy khoảng cách lớn giữa hiệu năng mô hình và an toàn vòng đời thực tế.", "key_changes": ["Khảo sát và phân loại các nghiên cứu LLM trong giao thông thành 9 nhóm kỹ thuật dựa trên các yêu cầu của EU AI Act.", "Hơn 50% các công trình được khảo sát tập trung vào các mô hình GPT và Llama cho ứng dụng điều tiết giao thông.", "Chỉ ra khoảng trống tuân thủ quy định lớn: trong 35 nghiên cứu, chỉ 1 nghiên cứu có đánh giá lỗ hổng bảo mật một phần và 1 nghiên cứu có hệ thống quản lý rủi ro một phần.", "Nêu bật sự mất cân đối giữa việc tối ưu hóa hiệu năng tĩnh và việc bảo đảm an toàn, an ninh mạng suốt vòng đời hệ thống."], "sub_category": "AI Safety & Security in Mobility", "novelty_score": 70, "business_score": 80, "research_score": 85, "why_it_matters": "Thị trường ô tô toàn cầu trị giá 2.900 tỷ USD với hơn 1,5 tỷ phương tiện đang tích hợp GenAI nhưng lại bỏ qua bảo mật và quản lý rủi ro. Việc AI giao thông thuộc nhóm rủi ro cao theo EU AI Act đòi hỏi các nhà phát triển và doanh nghiệp phải chuyển đổi từ tối ưu hóa hiệu năng tĩnh sang tiếp cận Security-by-Design và an toàn vòng đời để tránh rủi ro tai nạn thực tế và chế tài pháp lý.", "developer_score": 75, "importance_score": 80, "possible_use_cases": ["Xây dựng khung kiểm thử bảo mật (vulnerability assessment) và quản trị rủi ro chuyên biệt cho LLM trong hệ thống giao thông thông minh.", "Thiết kế kiến trúc an toàn theo thiết kế (Security-by-Design) cho các ứng dụng AI điều phối giao thông và xe tự hành.", "Đánh giá mức độ tuân thủ quy chuẩn (compliance audit) theo EU AI Act cho các giải pháp Generative AI tích hợp trên phương tiện di chuyển."], "actionability_score": 65}