Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

TextSeal2: Distortion-Free LLM Watermarking with Copula Mixing and Memoryless Races

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

65 RADAR
Research LLM Watermarking · 1 nguồn đối chiếu · 2026-10-29 17:54:12 +0000 UTC

TextSeal2: Distortion-Free LLM Watermarking with Copula Mixing and Memoryless Races

Nguồn: arXiv AI
↗

TextSeal2 là phương pháp thủy vân không gây méo mó phân phối (distortion-free) cho LLM, duy trì tín hiệu nguyên vẹn ngay cả dưới kỹ thuật giải mã suy đoán (speculative decoding). Phương pháp này gộp nhiều khóa thành một khóa ảo duy nhất qua Gaussian copula của AutoMark và tận dụng tính chất không nhớ của cuộc đua hàm mũ để xác minh draft mà không làm giảm tỷ lệ chấp nhận hay tăng độ trễ suy luận. Thực nghiệm cho thấy TextSeal2 vượt trội so với TextSeal và textGrain về tỷ lệ phát hiện ở cùng mức đa dạng token.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Giải quyết bài toán xung đột kỹ thuật lâu nay giữa việc gắn thủy vân truy vết AI (watermarking) và kỹ thuật tăng tốc suy luận phổ biến nhất (speculative decoding). TextSeal2 chứng minh khả năng bảo vệ bản quyền nội dung AI không gây méo mó phân phối, không đánh đổi throughput hay độ trễ phục vụ thực tế.

Developer 72
Business 70
Novelty 82
Actionable 70

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

We present TextSeal2, a distortion-free watermark for large language models that keeps its signal under speculative decoding: tokens that replace rejected drafts remain watermarked with the same keys, and the acceptance rate is unchanged. It also preserves output diversity and adds no measurable inference latency. Its predecessor, TextSeal, restores diversity in the Gumbel-max scheme by routing each token to one of two keys via a coin flip. This is suboptimal because the detector averages the scores from both keys without knowing which key was used. TextSeal2 instead merges two or more keys into a single virtual key and couples it to fresh noise through AutoMark's Gaussian copula. Any number of keys, including publicly shared keys, can be merged this way without diluting detection. Under speculative decoding, TextSeal2 verifies keyed drafts with one more exponential race, run on the leftovers of the draft races. By memorylessness, this race reproduces block verification, so the output follows the target model exactly. We evaluate TextSeal2 on three LLMs. At equal output token diversity, TextSeal2 detects 8 to 22 percentage points more 100-token answers than TextSeal at a false-positive rate of $10^{-3}$, and is comparable to textGrain while requiring no post-logits optimization. Under speculative decoding, it detects 18 and 22 percentage points more 200-token answers than TextSeal and textGrain, respectively, at the same acceptance rate.

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-30 14:03:46 +0000 UTC
{"tags": ["TextSeal2", "LLM Watermarking", "Speculative Decoding", "Copula Mixing", "Gaussian Copula", "Memoryless Races", "AI Safety", "Inference Optimization"], "risks": ["Nguy cơ suy giảm tín hiệu hoặc không thể phát hiện khi văn bản bị tấn công viết lại (paraphrasing/editing) hoặc với các đoạn văn bản quá ngắn.", "Vẫn tồn tại xác suất dương tính giả (false-positive rate ở mức 10^-3) cần được quản lý thận trọng ở quy mô sản xuất hàng triệu văn bản.", "Đòi hỏi can thiệp sâu vào tầng sampling và logic xác minh draft của hạ tầng speculative decoding."], "category": "Research", "entities": ["TextSeal2", "TextSeal", "AutoMark", "textGrain", "Gumbel-max"], "summary_vi": "TextSeal2 là phương pháp thủy vân không gây méo mó phân phối (distortion-free) cho LLM, duy trì tín hiệu nguyên vẹn ngay cả dưới kỹ thuật giải mã suy đoán (speculative decoding). Phương pháp này gộp nhiều khóa thành một khóa ảo duy nhất qua Gaussian copula của AutoMark và tận dụng tính chất không nhớ của cuộc đua hàm mũ để xác minh draft mà không làm giảm tỷ lệ chấp nhận hay tăng độ trễ suy luận. Thực nghiệm cho thấy TextSeal2 vượt trội so với TextSeal và textGrain về tỷ lệ phát hiện ở cùng mức đa dạng token.", "key_changes": ["Hợp nhất hai hoặc nhiều khóa thành một khóa ảo duy nhất và kết hợp với nhiễu mới qua copula Gauss của AutoMark, thay vì chia khóa theo phép tung đồng xu như TextSeal.", "Cho phép gộp không giới hạn số lượng khóa (bao gồm cả khóa công khai) mà không làm suy giảm hiệu quả phát hiện thủy vân.", "Sử dụng cuộc đua hàm mũ (exponential race) trên phần dư của các cuộc đua draft để tái tạo xác minh khối nhờ tính chất không nhớ (memorylessness), đảm bảo đầu ra khớp chính xác với mô hình gốc.", "Duy trì tín hiệu thủy vân và giữ nguyên tỷ lệ chấp nhận (acceptance rate) trong giải mã suy đoán (speculative decoding), không gây trễ suy luận đo lường được và không làm méo mó phân phối token.", "Tăng tỷ lệ phát hiện từ 8 đến 22 điểm phần trăm trên câu trả lời 100 token so với TextSeal, và tăng 18-22 điểm phần trăm trên câu trả lời 200 token khi chạy speculative decoding so với TextSeal và textGrain."], "sub_category": "LLM Watermarking", "novelty_score": 82, "business_score": 72, "research_score": 85, "why_it_matters": "Giải quyết bài toán xung đột kỹ thuật lâu nay giữa việc gắn thủy vân truy vết AI (watermarking) và kỹ thuật tăng tốc suy luận phổ biến nhất (speculative decoding). TextSeal2 chứng minh khả năng bảo vệ bản quyền nội dung AI không gây méo mó phân phối, không đánh đổi throughput hay độ trễ phục vụ thực tế.", "developer_score": 75, "importance_score": 78, "possible_use_cases": ["Tích hợp cơ chế thủy vân bảo vệ bản quyền vào các inference engine hỗ trợ speculative decoding (như vLLM, TensorRT-LLM) mà không làm giảm tốc độ sinh token.", "Đóng dấu nhận diện nội dung do AI tạo ra để phục vụ tuân thủ pháp lý (như EU AI Act) mà vẫn giữ nguyên chất lượng văn bản và tính đa dạng đầu ra.", "Triển khai hệ thống phát hiện văn bản AI với khóa công khai cho bên thứ ba kiểm chứng mà không làm suy yếu năng lực phát hiện.", "Phát hiện và ngăn chặn việc trích xuất mô hình (model distillation) hoặc thu thập dữ liệu trái phép từ LLM thương mại."], "actionability_score": 70}