Lineage Is Memory: Parent Inheritance and Feedback Disclosure in Short-Budget LLM-Guided Optimization

{"tags": ["Prompt Optimization", "Program Synthesis", "Parent Inheritance", "GEPA", "LLM-Guided Optimization", "Token Efficiency"], "risks": ["Chiến lược kế thừa tham lam (greedy parent inheritance) có thể bị mắc kẹt tại cực tiểu cục bộ (local optima) nếu các bước chỉnh sửa ban đầu đi sai hướng.", "Validation và minibatch gating vẫn chiếm phần lớn chi phí tính toán, có thể gây đội chi phí nếu tập dữ liệu kiểm thử quá lớn.", "Kết luận chủ yếu được kiểm chứng trên ngân sách ngắn (short-budget) và 9 benchmark cụ thể, cần thận trọng khi ngoại suy cho các bài toán tái cấu trúc kiến trúc phức tạp."], "category": "Research", "entities": ["GEPA"], "summary_vi": "Nghiên cứu chỉ ra rằng trong tối ưu hóa prompt và mã nguồn bằng LLM với ngân sách ngắn, cơ chế kế thừa tuần tự từ phiên bản cha mẹ (greedy parent inheritance) đóng góp phần lớn hiệu quả, vượt trội hơn các kỹ thuật phản ánh lỗi phức tạp như gom cụm lỗi toàn tập hay dùng mô hình lớn hơn. Đồng thời, phân tích chi phí trong GEPA cho thấy khâu validation chiếm phần lớn ngân sách, do đó kế thừa tham lam trên các lỗi thô giúp đạt hiệu quả tối ưu cao với chi phí tính toán tiết kiệm hơn nhiều.", "key_changes": ["Thực nghiệm 1.750 lượt chạy trên 9 benchmark tách biệt rạch ròi giữa cơ chế kế thừa cha mẹ (parent inheritance) và độ rộng phản hồi lỗi (feedback disclosure) trong cùng ngân sách đánh giá.", "Chứng minh greedy parent inheritance là động lực chính tạo ra tiến trình tối ưu, vượt trội hơn seed-reset resampling ngay cả khi seed-reset có bản tóm tắt cụm lỗi đầy đủ hoặc dùng proposer model lớn hơn.", "Xác định cơ chế 'Lineage Is Memory': các lỗi đã giải quyết được lưu giữ trong ứng viên qua các thế hệ và tự động loại bỏ khỏi danh sách lỗi tiếp theo, nhanh chóng bù đắp lợi thế ban đầu của kỹ thuật gom cụm lỗi.", "Bóc tách chi phí token trong GEPA: proposer reflection chỉ chiếm một phần nhỏ chi phí, trong khi khâu validation và minibatch gating tiêu tốn gần như toàn bộ ngân sách."], "sub_category": "Prompt & Program Synthesis Optimization", "novelty_score": 80, "business_score": 75, "research_score": 87, "why_it_matters": "Nghiên cứu bác bỏ quan niệm phổ biến rằng cần cơ chế phản ánh (reflection) và gom cụm lỗi phức tạp để tối ưu prompt/code. Bằng việc chứng minh cơ chế kế thừa cha mẹ tham lam trên lỗi thô mang lại hiệu quả vượt trội, nhà phát triển và doanh nghiệp có thể đơn giản hóa kiến trúc optimizer, cắt giảm đáng kể chi phí token và thời gian tính toán trong các pipeline tự động hóa AI.", "developer_score": 88, "importance_score": 82, "possible_use_cases": ["Xây dựng các công cụ và framework tối ưu hóa prompt/program tự động (như DSPy, GEPA) tinh gọn, loại bỏ các bước clustering lỗi phức tạp tốn kém.", "Cắt giảm chi phí token cho các pipeline self-refining bằng cách cho proposer model học trực tiếp từ mẫu lỗi thô (raw failures) kết hợp kế thừa ứng viên tốt nhất.", "Tối ưu hóa phân bổ tài nguyên tính toán, tập trung ngân sách vào chiến lược validation và gating thay vì đầu tư vào các proposer model quá lớn."], "actionability_score": 85}