甲子光年智库_2026AI原生基础设施白皮书：面向Token产效提升与价值创造的代理式AI基础设施新范式_20261023.pdf

2026 10

P R E F A C E

A B S T R A C T

• P A R T 0 1 N E W T R E N D S
• P A R T 0 2 N E W P A R A D I G M & D E F I N I T I O N

• 1.1 AI AI分
• 1.2 分
• 1.3 分 类

05 07 14

• 2.1 AI 类 = Token Factory + Agent OS + Token Ops
• 2.2 ·AI 类

15 18

01

03

• P A R T 0 3 N E W I N D U S T R Y D I V I S I O N & M O D E L S

• 3.1 分 Token Factory 29

• 3.2
• 3.3 AI
• 3.4 Agent

31

• 33
• 34

P A R T 0 4 N E W P R A C T I C E S

• 4.1 Token 分
• 4.2 Token 分
• 4.3 Token
• 4.4 Token

• 35
• 36 38 40

42

C O N C L U S I O N

THE DEFINER SERIES

D E F I N E R

AI

AI NATIVE INFRASTRUCTURE

& 2 0 2 6

P R E F A C E

AI

Token AI

类

Agent AI

分 ⻓

Token 分

分

分

分 Token AI分

装 农 AI 类 AI全 分 分 分 分 农 AI 类 全 分

分 预 纳 潜 AI

AI 类 农 Token 分

AI 类 Token 分

AI分 AI

潜

0

P R E F A C E

AI 类

Token Agent 全 AI

潜

Token纳 续 分 预

Token分 分

Token Agent Agent ⻓Token Token 续

续 分

分 分 预 到 AI 类 预

续 AI 类 Token分 AI 类 分 预 缺 分

续 Token Factory AI Infra OS Token Ops Agent ⻓ 潜 AI 类 分 Token 分

类 ⻓

类 分 全

A B S T R A C T

Part 01

Part 02

分 AI全 Token 分

AI 类 AI 类 Token分 AI 类 Token Factory Agent OS Token Ops

分 Token AI 分 Agent

Token Factory Token分 分 Agent OS Agent

Token 分 分 分 分 Token 分

Token Token Ops 分

⽕ Y=O·F(T)

类 TokenFactory AIInfraOS Token Ops Token Factory 分 分 AI Infra OS 纳 Token Ops 续

Token 分 续 农

AI 类 Token 分

A B S T R A C T

Part 03

Part 04

AI 类 分 分 分 分

Token AI 装Token 分 纳 纳 Agent

纳 分 分

Token 分

Token 续

Token 续

分 模 AI纳

Token Token 分 纳 续 纳 受 MaaS API 全 SOTA 续

农 分

Agent

Agent Agent Agent Agent

Token Agent

Agent 全 农 缺 预

Agent 法 Token 纳

受

Part 01

续 Token Agent

1.1 AI AI分

1 全 AI

受 潜 潜 续 潜 分 分 分

潜

点 2018 AI

⻓ 2018 2022 ChatGPT AI 2026 140 8 CSIS1 Tokenpolitik2

AI全 装

潜

• 1

AI全

• • 预
• • •

2018

05

2 AI 分 分

续 Harness AI 分 AI AI

AI分 全 AI

AI 分

分 分 续 分

NLP ⻓

AI AI

分 AI分

AI AI 潜

• 2 AI

1.2 分

1 分 分

分 分 缺 法 分 续 分 分

⻓ 分 分

分 续 分 纳

续 纳

法 分

分 纳

3

18 18 20

20 -20

21 -2022 2023

分

分

分 分 纳

续 续 缺

分

分

分

续 分 纳

• 2 AI 分

AI分 分 缺 AI 分 分

预

预 农 续全

分 续

分

Agent Agent

续

续

• 3 AI 分 分

• 4 AI 分

Data

Token

预

分

VS

Agent Agent 续

预

纳 续

续 续

模

续

Agent Agent

分

• 5 AI 分 Agent

AI 分 分

续

模

分

续

Agent

Agent

续 分 Token 分 分

• 4 分 全 分 全 分

2023 2025Q1 AI GPU 分 意 GPU受

分 全 分 全 全 ⻓

• 2025Q1 缺 DeepSeek-R1 分 Agent AI
• 2026 缺

分 GPU 类 续

分

NVLink/NVSwitch 全

续 分

规 ⻓ 分 分

分 续 分

• 6 分

2023-2025Q1

2025Q1-2026 2026

• • DeepSeek-R1 分
• • Agent

• • Agent AI
• • 续 分

• • 分
• • •

•

分 • GPU GPU 受 分

• 分 分

• 全 •

分

• 续 续

分

•

续 分

• 5 分 分 Agent 潜

分 分

2025 性 100 21100 2026 性 140

2030 4 60 56 116 2026 4 24

7

• 8 2024-2026 3 性

• 9 2026 4 -2030 4

140.0

• 01 分
• 02
• 03
• 04

100.0

30.0

7.0

0.1

Agent ⽕

2024 2025 2025 2025 2026/3

116.0

24X

Agent

4.8

2026/4 2030/4 E

分 ⽕ Y=O·F(T)

• 6 硬 O × T

T

纳 分 续 K L 分

F(T) 分

分 硬

点 续 分

Y 续 硬 硬 ⻓

O 硬 Agent Harness

• 10 分

/ 分 分

Y=F(K,L)

K 续 L

Y=O·F(T)

T O

T Token O Orchestration Capability

• 11

T

F T O Y

续

Agent Harness

续

⻓

• Agent Harness

•

•

•

⻓

×

•

• ⻓

•

分

•

•

Agent ⻓

•

•

点

续 ⻓

7

续 续 分 纳 受 类 分

热 分

续 农

类

续

类 模 续

分 分

• 12 分

分 续

分

续 续 分

分

PUE 类 SLA

分

续

分

模 续

1.3 分 类

AI 类 分

分 硬 类 分

⼚ AI AI 类

分

IaaS PaaS SaaS 全 ⻓ AI GPU 纳 MaaS 纳 类

续 分 分 分

预 AI

类 分

• 13 AI 类

AI AI

SaaS

Agent

Copilot/Agent

AI 类

/ /

PaaS

/ /

/

MaaS

SOTA API

分

/ 续/ /

AI Infra

IaaS

GPU/ /

/ /

分

Part 02

AI

续 Token Agent

2.1 AI 类 = Token Factory + Agent OS + Token Ops

Agent OS Token

Token分 AI

AI 类 AI-Native Infrastructure Token分 AI 类 Token 分 Agent Token 续

Agent OS Agent Agent Runtime

AI 类 Token Factory Agent OS Token Ops Token Factory 潜 分 Token分 分 续 Agent OS 硬 Token Token 续 Token Ops 分

Agent OS

Agent

Token Token

Token Ops Token 分

Token分

Token Factory Token分 分

Token Ops Token 分

Token Factory Token 分 分潜 分 分 分 分潜 纳 Token分 Token 分 续 Token Factory 分

分 类 Token 续

分

预 Token分

分

• 14 AI 类

Token Ops

Agent

Runtime

Agent OS

Token

续

续 续

分

性

分 Token

分

Token Factory

分

分Token Token Agent 硬

类 Agent 硬

类 分 分

Agent 硬

类

Token Token Token AI 类 分 农 Agent

类

AI 类 AI Token 分

AI 类 分Token Agent 硬 ⻓Token

AI Agent Prompt

• 15 类

AI AI

分

Token

分

2.2 ·AI 类

Token Factory AI Infra OS Token Ops AI Native Agent

Token 分 AI 类

纳 续

AI Infra OS* Token 分 Token

分 Token AI 分 分

• L1
• L2 ⽕ ⽕ 续 KV Cache

AI 类 农 分 Token 续 Token 分

Token Factory AI Infra OS AI 类 Agent Token Ops Token 分

Token L3 MaaS纳

Token

Token Factory 潜 续 Token 分

L4 RAG 硬 Agent Token

潜 受 续 分

Token纳 纳

分 类 +

Token纳 全 API Token 纳

分 分 GPU

Token纳 AI

纳 Serverless 纳 AI

分 受 Token 分 Token

续 全 Token 分 纳

Ops Token 分 续 ⻓

Token 续 ⻓Token 分 受

纳 分 点 纳 续

AI Native Agent Token Token

Agent Agent Token ⼚分 潜 AI Infra OS 分 分

Token Factory AI Infra OS Token Ops AI Native Agent

Token 分 Token纳 AI 类 纳 全 Token 纳

16 · AI 类

分 分

|AI Native Agent Token

Agent Agent

纳 Agent Agent|

|---|

|Token Ops Token |

|---|

|Token

Token 纳

API

Token分

Token 纳

Token 纳

分 |

|---|

||AI Infra OS Token 分

L1

L2

L3

L4

Token

Token

Token

Agent

纳 分 / /MaaS/ /

/ / / /

RAG 硬

Agent

KV Cache / / /

✕ ✕ ✕|

|---|

|Token Factory 续 Token 分

分 类 48kW/ PUE<1.2 +

400G IB Serverless 99.99% SLA

纳 SaaS+API

AI

分

GPU NVMe SSD |

|---|

AI 类|

|---|

类

受 Token 分

GPU

48kW 20% IT 性PUE 1.2 类

Token 分 农

类

热 ⻓ 潜 续

17

1 2

类

+

• • 48kW
• • 20%
• • 性PUE 1.2
• • 纳 20%
• • 纳 3kW
• • 类

•

续

⻓

⻓

• •

• 受 续

18 19

| |

|---|

| |

|---|

⽕ Token 分 续

分 装 ARM

分 NVLink 全 PCIe 分

全

分 Token 分 续 Token分

⽕ KV Cache 全

⽕

Token Token 续

TT

• 20 ·AI Infra OS L1-L2 +

全

分

TT

1 2

• • KV Cache
• • 全

•

• • KV Cache

•

• • 全

•

• • 分

• •

•

PD

全 SOTA API 纳

性 Token 分 续

续 续 续

续 续 续 Prefill Decode

类PD Prefill Decode

受 Token 分 续

纳

21 ·AI Infra OS L2-L3 PD

1

2 3

Prefill Decode

续

续

L3 L2 L2

PD

• • 全
• • API

• Prefill Decode

•

• 续

•

•

•

• •

•

• •

• 续

续

硬 Agent

Agent Token

Agent

Skills Agent

Agent Agent Token

Token规 Token

L4 RAG ⽕ 分 点Token

Agent 续 续

22 ·AI Infra OS L4

Agent

Agent

L4

RAG Agent

• • Skills
• • •

• • •

• • • Agent

Agent

MaaS ⻓ Agent

Agent AI 纳 GPU 热 纳 Agent

Agent ⻓ Agent ⻓

Agent Agent ⻓ Agent 纳 Agent

缺AI Agent Agent Agent ⻓ Agent Agent ⻓

⻓ Agent

MaaS Agent 全 Agent ⻓ ⻓

AI Infra OS MaaS

Agent ⻓

Agent ⻓ * Agent

Agent Agent Agent

Agent

农 缺 Agent

Agent MaaS

MaaS Agent ⻓ AI Infra OS Token 分 Agent

Agent Prompt

纳 ⻓ 纳

Agent 类

Token Factory AI Infra OS

Token Ops AI Native Agent

Token Ops Token

类 续 续

Token Agent

受 Token

续 受 Token 分

受 分

Token Ops 潜 分 Token

续 类

Token Ops Token Agent 分

23 ·Token Ops

续 Token 纳 受

Token

Token

Agent

分 类

Token

Token Ops

续

• • Token
• • 续 续

• • • •

• • • •

• •

Token Token Token 分

Token

Token Ops AI Native Agent

Token Factory AI Infra OS

农

Agent Token Agent Token

缺 装 Agent 纳 Coding

Agent Agent PPT 意 AI Agent 纳

意 Agent

24 AI Native Agent

⻓

Agent Agent

PPT GEO 意 AI

Agent

缺 Agent Agent

纳 Agent Agent

Coding Agent

Part 03

分

分 续 Token Agent

3.1 分 Token Factory

Token分 纳 分

⻓

Token分 分 Token Factory

纳 类 意

意 分 分

分 分 分 分 分

续

Token分

分 续

• 25 Token Factory

分

分 +

/ ⽕ / Kimi/Minimax/ / /

分

续

意 点

CUDA

类 受

分 ⻓

纳 分 分

受 分

纳 分 分

分 分 纳 缺 农缺 分 分

纳 分 续

点 纳

分 意 硬 Token 分

分 类

• 26

分 分 分

1 2 3

意

纳

续

纳 受

Token 分 分 分

3.2

Token 续

分

Token 续 Token 续 模

纳 GPU 纳 API Token API Token 续 纳 续

热 Token 分 Token Token 续 模

Agent 纳

Token

• 27 Token 续 模

续

模

续 Token 续

Token

Agent

Token

Token

Agent

续

Token 模 ⻓ 续

续 续 模

续 Token 分 纳 续 模

Token 续 续 模

⻓ 纳 Token ⻓

Token 续 分 分 缺 分 ⻓ 续

28 Token 续 模

Token 续缺

分 续 分 续 续

• 纳

• • 续
• • 续

• •

•

类 续

分

• •

•

•

• PUE

续⼚ ⼚

• • 续 Token 分 续
• • Token 纳 续

•

• 续

Token

分

• Token

• • Agent
• • ⻓ 纳

•

•

3.3 AI

AI 类

Agent Token 全 农

缺 Token 全 Agent Agent 硬 Agent

AI

Agent 硬

• 29 AI

AI

Agent

CEO

Agent Agent

VP

Director

Agent

Agent

Manager

Agent

Agent

Employee

缺

Token Agent + Agent+

Agent

3.4 Agent

Agent Agent

类

农

Agent Agent

Agent

30 Agent 缺

• 1 Agent

• 2

• 3

• 4

• 5

• 6

• 1

• 2

• 3

• 4

类 全

Agent

Agent 缺

NIST RMF

Agent 类

Agent

Agent

AI

Agent

分

Agent

全 AI

Part 04

AI

分 续 Token Agent

4.1 Token 分

AI 装Token 分

Token 分 类

Token 分

Token Agent 法 Token

纳 Token 分 Token AI SOTA

• 31 Token

全

Token 分

• • GPU
• • 续

ü ü

续

续 全Token 分

• •

ü ü

全

Token

•

ü

续

ü SOTA ü

AI 续 Token 分

•

• 纳 受

纳 受

Agent 全

• • AI 法
• • Agent
• • Agent

Token

ü

Agent ü Agent ü

全 续 Token

续

4.2 Token 分

✕ AI A Token 分 类

•

续 纳

• A AI 分 API

GPU 纳

规 类

Token分 A 全 Token 续 Token 分

Kubernetes AI GPU 纳

• 续

点 GPU

Token 分 续

GPU

GPU 纳 GPU AI InfiniBand

纳

续

✕ AI B 续

• B

纳 ⻓

A B农 Token 分全 类 Token

GPU

续 缺 规

• • 缺 B

⻓ 硬

• • 缺 续

全 GPU CPU

续

农 缺 续 类 GPU 续 Token 分 续 Token 分 续

纳 受 AI 类 类 续

•

点 纳

⻓ 性 Token 分

4.3 Token

✕ AI+ Token 分 纳

MaaS

AI+ 分 分 AI 纳

MaaS 纳

Token Token 分

分 ⻓

SOTA

全 SOTA API 纳

•

AI分 续

续

续

•

纳 续 受 纳

续

• 纳 受

纳

受 纳

MaaS

✕

纳 纳 纳 宿 纳 Agent ⽕ 纳 纳

MaaS API ⻓ 纳

分

Token 分 Agent分 潜 宿 纳

纳

•

类

纳 AI ⻓ 纳

• 潜 续

意 Agent分 意 纳

分

续

•

4.4 Token

✕ Agent Token 纳

Agent 意 纳

4.3

纳

Agent Token Token Agent ⻓纳 纳

Agent

• • 纳 受
• • Agent

Agent ⻓ ⻓ 纳

纳 宿 纳 纳 受 纳

Agent

Agent 硬 法 ⻓ 纳

纳

Agent

⻓ 纳 受 纳 预

Agent

API Agent

Agent

*✕ Agent

纳 全 创

Agent Agent 全

Token Agent 纳 全

分

Agent Agent Token 分

Agent

• 分

⻓ GEO

纳

⻓

•

OTA 分

C O N C L U S I O N

类

预 Token分 Token

缺 Token Agent 全 分 纳 Token 纳 农

农 分 Agent 类纳

性 分 分

分

Token分 Agent 续

AI 类 分

预 AI分 类

Token Token 分 Token

Token 分

缺 全AI 类 分 分

择 分

分 性

全

分

性

分

分 AR/VR 分

13520577912 stgg_6406 18600502376