
5分钟上手Arize Phoenix如何做模型推理分析与可视化【免费下载链接】phoenixAI Observability Evaluation项目地址: https://gitcode.com/gh_mirrors/phoenix13/phoenixArize Phoenix 是一款开源的 LLM 可观测性工具它的模型可视化能力能把 LLM、CV、表格模型的推理结果变成一张交互式点云。打开页面你就能看到模型哪里在变差、是哪些样本出了问题。不用自己搭仪表盘也不用先写 SQL。模型上线后你会遇到的3种真实情况线上数据分布逐渐偏离训练数据指标看着没变但找不到原因这就是模型漂移一批低性能样本在嵌入空间里聚成一团平均指标暴露不了问题检索场景里某些查询取回了错误文档召回率怎么调都不涨快速上手装、读、开三步走一条命令装依赖 先装带 embeddings 附加包的版本它会带上 UMAP 投影所需的依赖。%pip install -Uq arize-phoenix[embeddings] import pandas as pd import phoenix as px加载数据并确认结构示例用的是人体动作识别数据集每一行是一次推理记录包含图像特征向量、预测动作、真实动作。train_df pd.read_parquet( http://storage.googleapis.com/arize-assets/phoenix/datasets/unstructured/cv/human-actions/human_actions_training.parquet ) train_df.head()告诉 Phoenix 每列怎么读数据列都读进来了但它不知道哪列是时间戳、哪列是预测、哪列是真实标签用 px.Schema 显式告诉它。train_schema px.Schema( timestamp_column_nameprediction_ts, prediction_label_column_namepredicted_action, actual_label_column_nameactual_action, embedding_feature_column_names{ image_embedding: px.EmbeddingColumnNames( vector_column_nameimage_vector, link_to_data_column_nameurl, ), }, )字段作用timestamp_column_name时间戳列做时序分析用prediction_label_column_name模型预测的标签列actual_label_column_name真实标签列embedding_feature_column_names嵌入特征向量列与原始数据链接列本例是图片 url看懂可视化界面UMAP 投影视图里看什么 把 DataFrame 和 Schema 包在一起一行代码就能启动。train_ds px.Inferences(dataframetrain_df, schematrain_schema, nametraining) session px.launch_app(primarytrain_ds)页面打开后先看 UMAP 视图每个点就是一次推理结果。二维平面上靠得近的样本在高维嵌入空间里本来就相近。聚成一团的点往往是一类样本模型对附近样本的判断通常也接近。界面分成图表、表格等多个子视图可以随意筛选和切换。着色维度怎么选着色维度决定了你在页面上能看到什么按数据集名着色看训练和生产怎么混合按对错着色看错例集中在哪按时间着色看分布是否在漂移用套索工具圈聚类 看到可疑区域用套索工具把那一圈聚起来能看到圈内的原始样本、标签和时间分布。定位问题的第一步永远是先圈再查。一行代码打开训练 vs 生产对比视图 生产数据通常没有真实标签Schema 只留时间戳、预测和嵌入prod_df pd.read_parquet( http://storage.googleapis.com/arize-assets/phoenix/datasets/unstructured/cv/human-actions/human_actions_training.parquet ) prod_schema px.Schema( timestamp_column_nameprediction_ts, prediction_label_column_namepredicted_action, embedding_feature_column_names{ image_embedding: px.EmbeddingColumnNames( vector_column_nameimage_vector, link_to_data_column_nameurl, ), }, )然后把训练数据作 reference、生产数据作 primaryprod_ds px.Inferences(dataframeprod_df, schemaprod_schema, nameproduction) session px.launch_app(primaryprod_ds, referencetrain_ds)primary 是主分析对象reference 是基准。两套数据的点投到同一个 UMAP 平面后看两组点的相对位置生产点整体离开训练簇就是模型漂移的信号有生产点落在训练分布之外那是“未见区域”模型在那里表现最不可靠。从洞察到行动导出、再训练还是升级圈出问题聚类后直接把这一组样本导出来带嵌入向量、原始数据链接、标签和时间戳。导出的是普通表格文件可以直接喂给下游训练流程。怎么用看情况漂移小、样本量不大直接并入训练集再训练漂移是系统性的用新收集的线上数据做微调数据连续且量大本地分析不够用该接 Arize 平台了 Arize 平台在 Phoenix 之上多了四类能力实时推理监控大规模数据处理监控告警企业级权限管理数据与接口和 Phoenix 无缝集成不用重新埋点。项目里 docs/phoenix/ 还有更多用法示例与集成文档。下次指标掉了你能不能回答“掉在哪类样本上”而不只是“掉了”【免费下载链接】phoenixAI Observability Evaluation项目地址: https://gitcode.com/gh_mirrors/phoenix13/phoenix创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考