
Flutter 流式聊天:三个坑的实测代价
写 AI Chat 客户端的人都绕不过这件事:模型的回答不是一次性给你的,它一个 token 一个 token 往外吐,中间还要插工具调用、插代码块、插一段思考。用户盯着屏幕,其实是在看一棵树一边长一边被人重新摆位置。

写 AI Chat 客户端的人都绕不过这件事:模型的回答不是一次性给你的,它一个 token 一个 token 往外吐,中间还要插工具调用、插代码块、插一段思考。用户盯着屏幕,其实是在看一棵树一边长一边被人重新摆位置。

Flutter 里加 AI 功能,过去无非两条路:把模型的 key 塞进 App 直接调,或者用 http 手拼请求。前者等于把钥匙交出去,后者写到第三天你会发现,自己在手搓一个拙劣的框架,重试、流式、工具调用、结构化输出,样样都得补。
Flutter 1.7.8 稳定版本发布,修复了各种 bug