Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

Show HN: Tessary – Find the AI agent failures your sampled evals miss

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

66 RADAR
Agents Agent Reliability & Observability · 1 nguồn đối chiếu · 2026-10-10 14:09:36 +0000 UTC

Show HN: Tessary – Find the AI agent failures your sampled evals miss

Nguồn: Hacker News AI
↗

Tessary là nền tảng nguồn mở đánh giá độ tin cậy của AI agent theo kiến trúc 2 tầng (L1/L2), giúp giám sát 100% trace production, phát hiện lỗi bị bỏ sót bởi phương pháp lấy mẫu (sampled evals) và giảm chi phí tới 5 lần.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Kiểm thử và đánh giá độ tin cậy là rào cản lớn nhất khi triển khai AI agent vào production. Cách làm truyền thống (chạy eval toàn diện hoặc lấy mẫu ngẫu nhiên) vừa đắt đỏ vừa dễ lọt lỗi hiếm. Tessary cung cấp giải pháp thực tế bằng mô hình phễu 2 tầng: L1 giá rẻ bao phủ toàn diện và L2 SOTA xử lý chọn lọc, giúp doanh nghiệp tiết kiệm chi phí gấp 5 lần mà vẫn đảm bảo độ tin cậy cao trên chuẩn OTLP mở.

Developer 80
Business 75
Novelty 74
Actionable 86

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Hey, I'm Akhil, co-founder of Tessary. An open-source agent reliability platform that monitors every production trace, detects issues that sampled evals miss, and investigates to find the root cause. We started up about a year ago building synthetic users for usability testing of B2B software, we built the agents that would personify real users and use the software but, we were never able to make them work reliably enough for long running sessions. We had built a massive eval set to tune our agents but, then the evaluation itself got prohibitively costly - like 5x costlier than actually running the agent since we needed to grade across the many narrow intents of our agent. That's where Tessary originated, we wanted to make agent reliability both cover more ground and be simultaneously less costly to run. Tessary works on 2 layers. L1 classifiers - which look at every agent trace and flag potentially erroneous ones extremely cheaply. We are talking 2-3 orders of magnitude cheaper than running the actual agent. L2 agents - which triage and find the root cause of the issue from the erroneous traces. These are run on SOTA models but, because we run them on already flagged traces, the time and $ spent finding the cause is much cheaper than running grading on even 1% of traces. In our testing on complex agents, at 1M traces, this approach was 5x cheaper than sampled evaluations and as your agent gets more reliable, the cost of reliability also goes down. we are open source and can be self-hosted so, you don't need to send your traces to us. We support existing `gen_ai` spec and ingestion over OTLP so, you can add this as a new exporter to your existing setup. We have a cloud version, you can quickly try the features with a $10 credit. We are looking to build more classifiers and enable people to build custom classifiers for their needs and would love to hear feedback on common failure modes people have built solutions or evaluation for Repo: https://github.com/tessaryai/tessary Website: https://tessary.ai Try for free: https://app.tessary.ai Comments URL: https://news.ycombinator.com/item?id=50033189 Points: 1 # Comments: 0

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-10-10 22:18:12 +0000 UTC
{"tags": ["AI Agents", "Agent Reliability", "LLM Evaluation", "OpenTelemetry", "OTLP", "Observability", "Open Source", "Failure Detection"], "risks": ["Rủi ro bỏ sót lỗi (False Negatives) ở tầng L1: Nếu bộ phân loại L1 không nhận diện được lỗi tinh vi, L2 sẽ không được kích hoạt.", "Rủi ro cảnh báo sai (False Positives): Nếu L1 gắn cờ quá nhiều trace, chi phí gọi mô hình SOTA ở tầng L2 sẽ tăng cao trở lại.", "Hệ sinh thái phân loại chưa hoàn thiện: Cần xây dựng và tùy biến thêm classifier cho từng dạng lỗi (failure mode) đặc thù của từng ứng dụng.", "Dự án mới ra mắt: Mức độ kiểm chứng thực tế và cộng đồng kiểm thử production còn ở giai đoạn đầu."], "category": "Agents", "entities": ["Tessary", "Akhil", "OpenTelemetry (OTLP)", "gen_ai spec", "GitHub", "Hacker News"], "summary_vi": "Tessary là nền tảng nguồn mở đánh giá độ tin cậy của AI agent theo kiến trúc 2 tầng (L1/L2), giúp giám sát 100% trace production, phát hiện lỗi bị bỏ sót bởi phương pháp lấy mẫu (sampled evals) và giảm chi phí tới 5 lần.", "key_changes": ["Giới thiệu kiến trúc đánh giá 2 tầng (L1/L2): L1 classifier chi phí siêu rẻ quét 100% trace, L2 agent (mô hình SOTA) chỉ điều tra chuyên sâu các trace bị gắn cờ lỗi.", "Giảm 5 lần chi phí đánh giá ở quy mô 1 triệu trace so với phương pháp đánh giá lấy mẫu (sampled evals).", "Chi phí vận hành tỷ lệ nghịch với độ ổn định: Agent càng ít lỗi thì số trace gửi sang L2 càng giảm, chi phí độ tin cậy càng tối ưu.", "Mã nguồn mở và hỗ trợ self-host, đảm bảo dữ liệu trace nhạy cảm không cần gửi ra bên ngoài.", "Tương thích chuẩn OpenTelemetry (OTLP) và đặc tả gen_ai, dễ dàng tích hợp dưới dạng exporter trong hạ tầng sẵn có."], "sub_category": "Agent Reliability & Observability", "novelty_score": 74, "business_score": 80, "research_score": 62, "why_it_matters": "Kiểm thử và đánh giá độ tin cậy là rào cản lớn nhất khi triển khai AI agent vào production. Cách làm truyền thống (chạy eval toàn diện hoặc lấy mẫu ngẫu nhiên) vừa đắt đỏ vừa dễ lọt lỗi hiếm. Tessary cung cấp giải pháp thực tế bằng mô hình phễu 2 tầng: L1 giá rẻ bao phủ toàn diện và L2 SOTA xử lý chọn lọc, giúp doanh nghiệp tiết kiệm chi phí gấp 5 lần mà vẫn đảm bảo độ tin cậy cao trên chuẩn OTLP mở.", "developer_score": 88, "importance_score": 78, "possible_use_cases": ["Giám sát và phát hiện lỗi trên 100% production trace của AI agent thay vì chỉ lấy mẫu ngẫu nhiên vài phần trăm.", "Tự động điều tra nguyên nhân gốc rễ (root cause analysis) cho các phiên làm việc dài (long-running agent sessions) của B2B software bot.", "Tối ưu chi phí kiểm thử tự động cho các nhóm phát triển đang bị đội chi phí eval cao hơn chi phí chạy agent.", "Mở rộng hệ thống giám sát LLM hiện có thông qua giao thức OTLP tiêu chuẩn mà không cần viết lại pipeline."], "actionability_score": 86}