Hyper-Extract 模型兼容性全表：哪些 LLM 支持 json_schema 结构化抽取？一次看懂

Hyper-Extract 模型兼容性全表哪些 LLM 支持 json_schema 结构化抽取一次看懂【免费下载链接】Hyper-ExtractHypergraph is more powerful. Transform unstructured text into structured knowledge with LLMs. Graphs, hypergraphs, and spatio-temporal extractions — with one command.项目地址: https://gitcode.com/GitHub_Trending/hy/Hyper-ExtractHyper-Extract 是一个用 LLM 把非结构化文本转换为结构化知识的开源工具核心依赖function callingjson_schema 结构化输出来驱动 AutoGraph、AutoList 等抽取类型。本文整理一份完整模型兼容性清单哪些云模型、本地模型支持 json_schema 抽取哪些会踩坑以及如何一行命令切换 Provider。为什么只有支持 function calling 的模型才能用Hyper-Extract 的内部抽取管线统一走 LangChain 的with_structured_output并强制指定methodfunction_calling见 hyperextract/types/base.py它会把你的 Pydantic Schema 转成JSON Schema通过工具调用下发给模型模型必须原生听懂这个工具定义才能保证输出 100% 符合结构如果模型只支持json_object在 prompt 里提一句 json 让模型自由发挥就会出现两种典型翻车报错messages must contain the word json返回的不是 JSON或 JSON 结构缺字段所以判断标准只有一个模型是否支持 function calling / structured output。 云端模型兼容性全表平台已验证模型函数调用是否可用备注OpenAIgpt-4o / gpt-4o-mini / gpt-5✅✅官方原生支持首选推荐Anthropicclaude-opus-4-8 / claude-sonnet-4-6 / claude-haiku-4-5✅工具调用✅仅提供 LLM无嵌入接口需搭配 OpenAI 兼容 Embedding需安装hyperextract[anthropic]Google Geminigemini-3.8-flash / gemini-2.5-flash / gemini-2.5-pro✅工具调用✅同上无成熟嵌入路径需安装hyperextract[google]DeepSeekdeepseek-v4-flash / deepseek-v4-pro✅✅OpenAI 兼容V4 默认开启 thinking 模式Hyper-Extract 会自动关闭以保证 json_schema 抽取可用OrcaRouterorcarouter/auto、openai/gpt-4o-mini、anthropic/claude-haiku-4-5 等✅✅OpenAI 兼容网关一把密钥路由 150 模型阿里云百炼qwen-plus / qwen-turbo / qwen3.6-plus / deepseek-r1✅✅开箱即用阿里云百炼qwen-max / deepseek-v3❌❌仅支持 json_object不兼容 function calling⚠️百炼用户注意如果你用 qwen-max 或 deepseek-v3 遇到messages must contain the word json错误、或模型不返回 JSON说明该模型不支持 function calling请切换到qwen-plus、qwen-turbo 或 deepseek-r1。️ 本地部署vLLM Qwen3.5-9B没有 API Key 也能玩。官方验证过的本地组合角色模型量化方式显存占用验证状态LLMQwen3.5-9BGPTQ-Marlin 4bit~8GB✅ AutoList / AutoGraphEmbeddingBAAI/bge-m3无~2GB✅ 语义搜索两个关键坑位必须关闭 thinking 模式——Thinking 模型会输出/think标签与从首个 token 起就是 JSON的约束解码冲突。启动 vLLM 时加参数--default-chat-template-kwargs {enable_thinking: false}量化选 GPTQ-MarlinAWQ 在 vLLM 0.21.0 中存在兼容性问题云端 Embedding 方面text-embedding-3-small1536 维和百炼text-embedding-v41024 维均已验证可用。 一行代码切换 Provider所有平台共用同一个create_client()接口只改第一行就能换模型源码见 hyperextract/utils/client.pyfrom hyperextract import create_client # OpenAI默认 gpt-4o-mini text-embedding-3-small llm, emb create_client(openai, api_keysk-xxx) # 百炼默认 qwen3.6-plus text-embedding-v4 llm, emb create_client(bailian, api_keysk-xxx) # DeepSeekthinking 自动关闭 llm, emb create_client( llmdeepseek, embedderopenai:text-embedding-3-small, ) # 本地 vLLM llm, emb create_client( llmvllm:Qwen3.5-9Bhttp://localhost:8000/v1, embeddervllm:bge-m3http://localhost:8001/v1, api_keydummy, )字符串简写格式支持provider:modelurl三段式例如bailian:qwen-plus覆盖 LLM 但保留预设 Embedding。完整配置选项参考 docs/zh/python/guides/provider-configuration.md各平台可直接运行的示例脚本在 examples/providers/ 目录下openai_demo.py、bailian_demo.py 等。CLI 用户则只需he config init -p bailian -k sk-xxx。✅ 选型速查30 秒决定用哪个模型图省事、效果稳→ OpenAI gpt-4o-mini官方原生支持零配置国内直连、中文任务→ 百炼 qwen-plus / qwen3.6-plus避开 qwen-max低成本推理→ DeepSeek v4-flashthinking 自动帮你关一把钥匙开 150 模型→ OrcaRouter 网关完全离线→ 本地 vLLM 部署 Qwen3.5-9B4bit 量化8GB 显卡起步完整兼容性说明与 vLLM 部署命令详见 docs/zh/concepts/provider-system.md。【免费下载链接】Hyper-ExtractHypergraph is more powerful. Transform unstructured text into structured knowledge with LLMs. Graphs, hypergraphs, and spatio-temporal extractions — with one command.项目地址: https://gitcode.com/GitHub_Trending/hy/Hyper-Extract创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考