Radar Live
✦ Ask AI
AI INTELLIGENCE & SIGNALS

Jev introduces a new shape of LLM - System One, aka Decision Models

Phân tích đã xử lý trước và các nguồn liên quan.

Tín hiệu Radar

68 RADAR
Models Decision Models · 1 nguồn đối chiếu · 2026-09-21 23:09:20 +0000 UTC

Jev introduces a new shape of LLM - System One, aka Decision Models

Nguồn: Simon Willison Developer Blog
↗

TypeSafe AI công bố Jev, mô hình đầu tiên thuộc danh mục 'System One' (hay Decision Models). Khác với LLM thông thường, Jev nhận dữ liệu phi cấu trúc/bán cấu trúc và trả về quyết định xác suất dạng số thực (Yes/No Noul, Choice kèm phân phối xác suất, Score) được đánh giá song song. Mô hình có chi phí cực thấp ($0,042/triệu token input, miễn phí output) và tốc độ cao, phù hợp cho phân loại và reranking tìm kiếm, dù có nhược điểm về xử lý số học, ngày tháng và tính chất hộp đen khó giải thích.

✦ TÁC ĐỘNG & GIÁ TRỊ THỰC TIỄN

Jev đánh dấu bước chuyển dịch quan trọng khi tách biệt tác vụ ra quyết định/phân loại xác suất khỏi việc sinh văn bản tốn kém của LLM truyền thống. Bằng cách miễn phí output và định giá input siêu rẻ, kiến trúc Decision Model mở ra tiềm năng tối ưu hóa chi phí đáng kể cho các pipeline dữ liệu doanh nghiệp, đồng thời đặt ra yêu cầu mới về kiểm định định kiến (bias) và độ tin cậy của các hệ thống AI hộp đen.

Developer 79
Business 77
Novelty 86
Actionable 80

Nội dung thu thập đã chuẩn hóa

Collected Evidence

Nội dung văn bản được dùng làm dữ liệu đối chứng cho mô hình AI, không phải chỉ thị hệ thống.

Last week TypeSafe AI unveiled Jev , their first example of a new category of model that they are calling "System One models" (I'm with Maggie Appleton, I think "decision models" is a better name for these). Jev is an interesting variant on the usual LLM format: it still accepts text inputs, but instead of text output it returns floating point numbers corresponding to categories, yes/no questions, ratings, and associated confidence scores. TypeSafe describe Jev like this: Think of Jev as a frontier-intelligence function call: unstructured state in, typed probabilistic decisions out. It's also very fast, and really cheap . Regular LLMs are priced in terms of input and output tokens, with output generally charged at significantly higher rates. Jev charges only for input - output is free - and the input price of their first model is $0.042 per million tokens - cheaper even than OpenAI's GPT-5 Nano ($0.05/million). Jev lets you ask questions about text or semi-structured data. You compose a "state" object containing a string, array of strings, or set of name-value pairs - this might describe an article, or a customer, or any other kind of record. You then send that to their API with one or more questions, and get a reply back for each. You can ask three kinds of questions: Yes/No questions, which Jev calls "Noul" questions - their CEO confirmed on Hacker News that this is short for Bernoulli, from the Bernoulli distribution . You pose a statement and get back a floating point number between 0 and 1 for how confident the model is that the statement is true. Choice questions, where the model picks one from a set of provided options - actually a confidence score plus a probability distribution across all of the options. Score questions, where you provide sequence of numeric levels with descriptions and it provides a floating point score somewhere along that range. The Jev API can accept a single document ("state") and as many questions as you can cram into the context window. Questions are evaluated in parallel, so sending many questions should take a similar time to sending just one. The Jev 1.13 jaggedness documentation offers useful guidance as to Jev's strengths and weaknesses. It's currently not great with numbers, dates, or "adversarial content". I think the decision model framing is useful for understanding where to use Jev. It's great for anything that can be expressed as a classification task - think spam detection, suggesting labels, prioritization and ranking. I've also been experimenting with it for search reranking, where you fetch 100 likely matches using an inexpensive algorithm like BM25, then have Jev score those 100 candidates for relevance against the original query. Black boxes are back in fashion Something I've found a little uncomfortable about Jev is how it very much represents a regression even further towards black box machine learning systems. LLMs are black boxes already - you can ask them to justify their decisions, but you can't guarantee that what they say is useful or accurate. Jev doesn't even give you that: put in all the text you want, the only thing you're going to get back is a floating point number. If Jev marks something as spam, which content signals tipped it off? This also means that concerns about bias should be front and center. I really hope nobody uses Jev to rank job applicants - that floating point number could conceal all manner of unseen bias baked into the models, and experimentally picking that bias apart is going to be a tricky business. (I tried one experiment where I had Jev score every city in the San Francisco Bay Area on a yes/no answer to whether they were a "Good city?" - it rated Cupertino top and East Palo Alto bottom. Huh.) In practice, this all means that evals and structured experiments are even more important than they are for regular LLM projects. Thankfully, Jev is so cheap that running hundreds or even thousands of experimental prompts through it costs just a few cents. Unconventional uses for Jev It's been really fun watching the wider community come up with potential use-cases for Jev over the past few days. Here are some creative ones that caught my eye: jevchat by Kyle Pena turns Jev into a (terrible) chat model. "At every step it asks Jev one question: Given the user's question and the reply written so far, which symbol comes next?". ericpruitt on Hacker News : "It's the digital equivalent of Morty speaking with the death crystal". jev-leftpad by Fatih Kadir Akın implements left-pad with the prompt "How many spaces are needed before value to reach targetLength?" and a choice query allowing options from "0 spaces are needed" to "10 spaces are needed". jev-2048 by Andy Gayton uses Jev to play the 2048 sliding puzzle game . Open weight recreations There's also been a flurry of projects attempting to create a model like Jev using on top of open weight models. Kev is one interesting example, using Qwen 3.5 to produce 0.8B, 4B, and 9B models. Here's the accompanying Hacker News thread , where someone linked to a JevBench benchmark that has already cropped up to compare "Jev-class decision models". Given Jev was released just under a week ago, the amount of activity around it is extremely impressive. Using Jev from LLM Update 22nd September 2026 : I released llm-typesafe , a plugin that adds support for Jev to my LLM CLI tool and Python library. Basic usage looks like this: llm -m jev ' Please refund my last payment. ' \ -s ' Does this message explicitly request a refund? ' See the README for examples of other query types. Tags: ai , generative-ai , llms , evals , ai-bias , jev

Các nguồn đối chiếu cho sự kiện này

1 nguồn
Thông tin phân tích AI & Model Details ▾
Provider: openai-compatible · Model: gemini-3.8-flash-high · Version: analysis-v1 · Time: 2026-09-23 07:47:24 +0000 UTC
{"tags": ["Decision Models", "System One", "Jev", "TypeSafe AI", "LLMs", "Classification", "Search Reranking", "AI Bias"], "risks": ["Sự gia tăng tính chất hộp đen (Black box regression): Mô hình chỉ trả về một số thực, hoàn toàn không có văn bản giải thích tín hiệu hay căn cứ đưa ra quyết định.", "Nguy cơ định kiến ngầm khó phát hiện (Hidden Bias): Dễ che giấu thiên vị trong các tác vụ nhạy cảm (như xếp hạng ứng viên tuyển dụng, đánh giá địa phương), đòi hỏi quy trình evals nghiêm ngặt.", "Hạn chế về năng lực kỹ thuật: Tài liệu jaggedness 1.13 chỉ ra mô hình hoạt động kém với số học, ngày tháng và nội dung đối kháng (adversarial content)."], "category": "Models", "entities": ["TypeSafe AI", "Jev", "Maggie Appleton", "OpenAI", "Hacker News", "Kyle Pena", "Fatih Kadir Akın", "Andy Gayton", "Kev", "Qwen 3.5", "JevBench"], "summary_vi": "TypeSafe AI công bố Jev, mô hình đầu tiên thuộc danh mục 'System One' (hay Decision Models). Khác với LLM thông thường, Jev nhận dữ liệu phi cấu trúc/bán cấu trúc và trả về quyết định xác suất dạng số thực (Yes/No Noul, Choice kèm phân phối xác suất, Score) được đánh giá song song. Mô hình có chi phí cực thấp ($0,042/triệu token input, miễn phí output) và tốc độ cao, phù hợp cho phân loại và reranking tìm kiếm, dù có nhược điểm về xử lý số học, ngày tháng và tính chất hộp đen khó giải thích.", "key_changes": ["TypeSafe AI ra mắt Jev, mô hình tiên phong thuộc danh mục 'System One' (Decision Models), nhận dữ liệu văn bản nhưng trả về số thực và phân phối xác suất thay vì sinh chuỗi văn bản.", "Mô hình định giá đột phá: hoàn toàn miễn phí output tokens, chỉ tính phí input tokens ở mức $0,042/triệu tokens (thấp hơn cả GPT-5 Nano với $0,05/triệu tokens).", "Hỗ trợ 3 dạng truy vấn xác suất song song trên cùng một ngữ cảnh: câu hỏi Yes/No (Noul - phân phối Bernoulli), câu hỏi lựa chọn (Choice kèm phân phối xác suất) và câu hỏi chấm điểm (Score).", "Khả năng đánh giá song song nhiều câu hỏi trên một tài liệu (state) mà không làm tăng thời gian phản hồi tổng thể.", "Cộng đồng nhanh chóng phát triển các bản tái hiện mã nguồn mở như Kev (dựa trên Qwen 3.5 với 0.8B, 4B, 9B) và benchmark JevBench."], "sub_category": "Decision Models", "novelty_score": 86, "business_score": 82, "research_score": 78, "why_it_matters": "Jev đánh dấu bước chuyển dịch quan trọng khi tách biệt tác vụ ra quyết định/phân loại xác suất khỏi việc sinh văn bản tốn kém của LLM truyền thống. Bằng cách miễn phí output và định giá input siêu rẻ, kiến trúc Decision Model mở ra tiềm năng tối ưu hóa chi phí đáng kể cho các pipeline dữ liệu doanh nghiệp, đồng thời đặt ra yêu cầu mới về kiểm định định kiến (bias) và độ tin cậy của các hệ thống AI hộp đen.", "developer_score": 85, "importance_score": 82, "possible_use_cases": ["Phân loại nội dung tự động quy mô lớn: phát hiện thư rác (spam detection), gắn nhãn vé hỗ trợ, phân loại ý định với chi phí cực thấp.", "Reranking trong hệ thống tìm kiếm: kết hợp thuật toán BM25 để lấy ứng viên và dùng Jev chấm điểm độ liên quan với truy vấn.", "Chấm điểm ưu tiên và kiểm duyệt: xếp hạng mức độ khẩn cấp của ticket dịch vụ hoặc rà soát vi phạm nội dung.", "Trích xuất quyết định xác suất từ dữ liệu phi cấu trúc hoặc bán cấu trúc trong các pipeline xử lý tự động."], "actionability_score": 80}
← Trang trước Trang 1