WeAct: Dynamic Weight Switching as Agent Actions

{"tags": ["WeAct", "AI Agents", "LoRA", "Tool Calling", "Dynamic Weight Switching", "Continual Learning", "Catastrophic Forgetting", "Qwen3-32B"], "risks": ["Độ trễ nạp/chuyển đổi trọng số LoRA trong bộ nhớ GPU có thể ảnh hưởng đến thông lượng (throughput) khi agent gọi chuyển đổi liên tục.", "Rủi ro agent chọn sai adapter nếu prompt phân loại hoặc mô tả tool-call không đủ ranh giới rõ ràng.", "Độ phức tạp trong việc quản lý phiên bản, kiểm thử và đồng bộ hóa hàng loạt adapter LoRA khi quy mô hệ thống tăng cao."], "category": "Agents", "entities": ["WeAct", "Qwen3-32B", "LoRA"], "summary_vi": "WeAct (Weight-level Internal Actions) giới thiệu cơ chế chuyển đổi trọng số động cho AI agent bằng cách đưa việc lựa chọn LoRA adapter chuyên biệt vào không gian hành động thông qua giao diện tool-calling bản địa trên một mô hình nền cố định. Thử nghiệm trên Qwen3-32B với 8 benchmark deep-research cho thấy WeAct vượt qua full fine-tuning 6,2% độ chính xác (dùng ít compute hơn) và vượt trội hơn 27,5% so với static LoRA-merging, đồng thời cho phép bổ sung hoặc nâng cấp kỹ năng theo từng mô-đun mà không gây ra hiện tượng quên kiến thức cũ (catastrophic forgetting).", "key_changes": ["Đưa việc lựa chọn adapter LoRA vào trực tiếp không gian hành động (action space) của agent như các internal action.", "Sử dụng giao diện tool-calling bản địa của mô hình để kích hoạt và hoán đổi trọng số theo nhu cầu trong cùng một ngữ cảnh chia sẻ.", "Đóng băng mô hình nền (frozen backbone) và huấn luyện các LoRA adapter độc lập cho từng năng lực cụ thể nhằm triệt tiêu hiện tượng catastrophic forgetting.", "Cải thiện 6,2% độ chính xác so với full fine-tuning (dù tiêu tốn ít tài nguyên tính toán hơn) và 27,5% so với static LoRA-merging tốt nhất trên 8 benchmark deep-research.", "Cho phép học tăng cường liên tục dạng mô-đun (modular continual adaptation): dễ dàng thêm mới hoặc cập nhật adapter (như code computation, writing) mà không làm ảnh hưởng backbone và các adapter khác."], "sub_category": "Dynamic Adapter Routing & Continual Learning", "novelty_score": 88, "business_score": 80, "research_score": 87, "why_it_matters": "WeAct giải quyết điểm nghẽn lớn trong phát triển agent đa năng dài hạn: sự đánh đổi giữa hiện tượng suy giảm kỹ năng cũ (catastrophic forgetting) và tính cứng nhắc của việc gộp adapter tĩnh (static LoRA merging). Bằng việc biến việc hoán đổi trọng số thành hành vi gọi công cụ bản địa, phương pháp này mở ra kiến trúc mô-đun hóa linh hoạt, tiết kiệm tài nguyên huấn luyện và giúp agent dễ dàng mở rộng kỹ năng liên tục trong môi trường sản xuất.", "developer_score": 86, "importance_score": 84, "possible_use_cases": ["Xây dựng deep-research agent có khả năng chuyển đổi linh hoạt giữa tìm kiếm thông tin, viết mã/tính toán và soạn thảo báo cáo.", "Hệ thống trợ lý AI doanh nghiệp cần liên tục học thêm kỹ năng nghiệp vụ chuyên biệt mà không cần huấn luyện lại toàn bộ mô hình.", "Tối ưu hóa hạ tầng suy luận (inference) bằng cách chia sẻ một backbone cố định và nạp/hoán đổi các LoRA adapter nhỏ gọn theo yêu cầu tác vụ."], "actionability_score": 78}